Schlagwort: AI Act

Illustration im Bauhaus-Stil, ein großes, ausdrucksloses Gesicht schwebt über einer Stadt; auf der Straße sind Passant*innen, es gibt Hochhäuser und eine Stange mit Überwachungskameras.

Wieso hagelt es jetzt so viel Kritik? Wie schlimm wird das mit der Gesichtserkennung? Und was lässt sich jetzt überhaupt noch machen? Wir liefern die wichtigsten Updates zur fast fertigen KI-Verordnung.

Wimmelbild von Teilnehemenden eines Marathons

Nachträgliche Änderungen bei der biometrischen Überwachung sorgen aktuell für Ärger bei EU-Abgeordneten, die bis zuletzt für eine Einschränkung gekämpft hatten. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies dramatische Folgen.

Parlament, Rat und Kommission haben sich auf die KI-Verordnung geeinigt. Sie wird trotz angeblicher Schutzmechanismen die automatische Gesichtserkennung jetzt europaweit etablieren. Das ist schlecht für die Demokratie. Ein Kommentar.

Wrapped christmas presents with dark lighting

A document from the AI Act trilogue shows what member states were hoping to push through: Automated classification of people by race, emotion recognition, biometric analysis of video recordings. In some parts, the outcome is still unclear.

Verpackte Weihnachtsgeschenke bei düsterer Beleuchtung

Wir veröffentlichen ein Dokument aus dem Trilog zur KI-Verordnung. Es zeigt, was die Mitgliedstaaten alles durchdrücken wollten: automatische Einordnung von Menschen nach Ethnizität, Emotionserkennung, nachträgliche biometrische Analysen von Videoaufnahmen.

Verhandler:innen beim Trilog zur KI-Verordnung

Nach zähen Verhandlungen haben sich EU-Parlament und Rat gestern Nacht auf die Endfassung des AI Act geeinigt. Der Kompromiss sieht wohl einige Schlupflöcher vor: Vor allem bei biometrischer Videoüberwachung und Predictive Policing haben sich die Mitgliedstaaten offenbar gegenüber dem EU-Parlament durchgesetzt.

Schaffen es die Trilog-Parteien heute, sich beim Gerangel um die KI-Verordnung zu einigen? Der Druck ist groß – und könnte insbesondere das EU-Parlament dazu veranlassen, seine rote Linien zu verschieben.

Mann im schwarzen Anzug mit Headset schaut nach unten

Während sich die Verhandlungen um die Regulierung von Künstlicher Intelligenz in der EU der Zielgeraden nähern, stellen sich die Regierungen Deutschlands, Frankreichs und Italiens quer: Statt harten Regeln wollen sie für Basis-Modelle nur eine „verpflichtende Selbstregulierung“.

Wenn die EU neue Regeln für Künstliche Intelligenz erlässt, muss sie mehr an die Rechte von Verbraucher:innen denken, fordern die Verbraucherzentralen. Unter anderem schlagen sie vor, Betroffenenrechte ähnlich zu denen der DSGVO einzuführen. Auch Verbandsklagen müssten möglich werden.

A machine for automated decision-making, steampunk

EU-Kommission, Rat und Parlament verhandeln derzeit im Trilog die finale Fassung der KI-Verordnung. In der morgigen Verhandlungsrunde geht es vor allem um den Hochrisikobereich. Und gerade hier weist die Verordnung noch Lücken auf, die eine neue Qualität der Massenüberwachung ermöglichen würden.

Der Turmbau zu Babel, ähnlich wie das Gemälde von Pieter Brueghel

Viele KI-generierte Bilder lassen sich kaum noch als solche erkennen. Mehrere Konzerne setzen daher auf Wasserzeichen, die sie in die Bilder einbetten. Doch es gibt erhebliche Zweifel, ob der technische Ansatz funktioniert. Im Gespräch mit netzpolitik.org empfehlen Fachleute gesellschaftliche Lösungen.

Wie steht es um die Freiheit des Internets? Dieser Frage geht der jährlich erscheinende „Freedom of the Net“-Bericht der NGO Freedom House nach. In diesem Jahr liegt der Fokus auf Künstlicher Intelligenz. Die Technologie ist noch nicht ausgereift und doch berge sie großes Potenzial für Diktatoren.

Links hoher Metallzaun, davor verschneiter Boden, rechts ein schwarzer Metallcontainer

Vor allem wenn Polizei und Grenzbehörden so genannte Künstliche Intelligenz einsetzen, sind Grundrechte in Gefahr. Mehr als hundert zivilgesellschaftliche Organisationen fordern: Die EU muss bei ihrem KI-Regelwerk nachbessern – sonst droht Schaden für ihre Demokratien.

Ursula von der Leyen am Redner:innenpult

In ihrer vermutlich letzten Rede zur Lage der Union feierte Kommissionspräsidentin von der Leyen die EU als weltweite Vorreiterin für digitale Rechte. Sie lobte abgeschlossene Gesetzesvorhaben und drängte auf einen Abschluss des AI Acts. Ein wichtiges Thema aber ließ sie aus.

In der EU verhandeln Kommission, Rat und Parlament momentan den finalen Text für den AI Act. Dabei könnte ein Schlupfloch im Gesetz landen, das Unternehmen Freiheiten lässt, die Gefährlichkeit ihrer Produkte selbst einzuschätzen. 118 zivilgesellschaftliche Organisationen aus ganz Europa fordern, das nicht zuzulassen.

Eine Person im Fadenkreuz einer Gesichtserkennung. Ein Screenshot von PimEyes

Drei Jahre nachdem netzpolitik.org die Gefahren von Gesichter-Suchmaschinen enthüllt hat, verhandelt die EU jetzt über ein Verbot. Selbst Vertreter:innen von Union und Polizei sind dafür – fordern aber eine entscheidende Ausnahme.

Gesichter von Personen, biometrische Merkmale sind mit grünen Punkten hervorgehoben; das EU-Parlament; Überwachungskameras

Am heutigen Mittwoch hat sich das EU-Parlament auf seine Position zum KI-Gesetz geeinigt. Auf den letzten Metern wollte die konservative EVP mehr biometrische Überwachung erlauben – aber der Vorstoß wurde vereitelt.

Der Kompromiss des Europäischen Parlaments zur KI-Regulierung ist offenbar hinfällig. Grund ist der Streit um die biometrische Massenüberwachung. Damit ist offen, wie die Plenarabstimmung am Mittwoch ausgeht.

Eine futuristische Maschine, groß wie Wolkenkratzer. Eine engelsähnliche Figur steigt gen Himmel. Unten lodert Feuer. Rauschschwaden. Rechts blauer Himmel. Eine Cartoon-Sprechblase sagt: Wow. Ich verstehe das Bild als ironische Überhöhung.

„Künstliche Intelligenz“ verändert alles und könnte uns vernichten – diese Erzählung zieht gerade Teile der Öffentlichkeit in ihren Bann. Aber der aktuelle KI-Hype ist eine inszenierte Täuschung, die vor allem Geld bringen soll. Ein Kommentar.

Eine Montage aus mehreren Bildern. Links Gesichter mit farblich hervorgehobenen biometrischen Merkmalen. In der Mitte oben ein Grenzzaun mit Wachturm. In der Mitte unten die Röntgen-Aufnahme eines Knies. Rechts die Darstellung eines Lebenslaufs. Die Collage stellt somit verschiedene Bereiche dar, die vom AI Act betroffen sind.

Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.

AI Act

Grundrechte in Gefahr: Die sieben quälendsten Fragen zur KI-Verordnung

KI-Verordnung: Biometrische Massenüberwachung ohne Wenn und Aber?

KI-Verordnung: Das Nummernschild im Gesicht kommt

AI Act: The Member States‘ Wish List

KI-Verordnung: Die Wunschliste der Mitgliedstaaten

KI-Verordnung: Schraffierte rote Linien als Kompromiss

KI-Verordnung: Trilog-Einigung hängt am seidenen Faden

AI Act: Deutschland will Basis-Modelle wie ChatGPT nicht regulieren

Schutz vor Manipulation: Verbraucherschützer fordern Nachbesserungen an KI-Verordnung

KI-Verordnung auf der Zielgeraden: Welche Schlupflöcher die EU jetzt noch schließen muss

Künstliche Intelligenz: Mit Wasserzeichen gegen die babylonische Verwirrung

Freedom of the Net 2023: KI als Bedrohung für das freie Internet

AI Act: Schluss mit KI-Ausnahmen für Polizeibehörden

Rede zur Lage der Union: Kein Wort zur Chatkontrolle

AI Act: Ein riesengroßes Schlupfloch für die Industrie

PimEyes: EU könnte Gesichter-Suchmaschinen verbieten

Etappe zum KI-Gesetz: EU-Parlament will Verbot biometrischer Echtzeit-Überwachung

KI-Verordnung: Kompromiss zu biometrischer Massenüberwachung gescheitert

Gegen den KI-Hype: Die große Science-Fiction-Show

"Künstliche Intelligenz": Die sechs größten Probleme im AI Act