Schlagwort: AI Act – netzpolitik.org

Schaffen es die Trilog-Parteien morgen, sich beim Gerangel um die KI-Verordnung zu einigen? Der Druck ist groß – und könnte insbesondere das EU-Parlament dazu veranlassen, seine rote Linien zu verschieben.

Mann im schwarzen Anzug mit Headset schaut nach unten

Während sich die Verhandlungen um die Regulierung von Künstlicher Intelligenz in der EU der Zielgeraden nähern, stellen sich die Regierungen Deutschlands, Frankreichs und Italiens quer: Statt harten Regeln wollen sie für Basis-Modelle nur eine „verpflichtende Selbstregulierung“.

Wenn die EU neue Regeln für Künstliche Intelligenz erlässt, muss sie mehr an die Rechte von Verbraucher:innen denken, fordern die Verbraucherzentralen. Unter anderem schlagen sie vor, Betroffenenrechte ähnlich zu denen der DSGVO einzuführen. Auch Verbandsklagen müssten möglich werden.

A machine for automated decision-making, steampunk

EU-Kommission, Rat und Parlament verhandeln derzeit im Trilog die finale Fassung der KI-Verordnung. In der morgigen Verhandlungsrunde geht es vor allem um den Hochrisikobereich. Und gerade hier weist die Verordnung noch Lücken auf, die eine neue Qualität der Massenüberwachung ermöglichen würden.

Der Turmbau zu Babel, ähnlich wie das Gemälde von Pieter Brueghel

Viele KI-generierte Bilder lassen sich kaum noch als solche erkennen. Mehrere Konzerne setzen daher auf Wasserzeichen, die sie in die Bilder einbetten. Doch es gibt erhebliche Zweifel, ob der technische Ansatz funktioniert. Im Gespräch mit netzpolitik.org empfehlen Fachleute gesellschaftliche Lösungen.

Wie steht es um die Freiheit des Internets? Dieser Frage geht der jährlich erscheinende „Freedom of the Net“-Bericht der NGO Freedom House nach. In diesem Jahr liegt der Fokus auf Künstlicher Intelligenz. Die Technologie ist noch nicht ausgereift und doch berge sie großes Potenzial für Diktatoren.

Links hoher Metallzaun, davor verschneiter Boden, rechts ein schwarzer Metallcontainer

Vor allem wenn Polizei und Grenzbehörden so genannte Künstliche Intelligenz einsetzen, sind Grundrechte in Gefahr. Mehr als hundert zivilgesellschaftliche Organisationen fordern: Die EU muss bei ihrem KI-Regelwerk nachbessern – sonst droht Schaden für ihre Demokratien.

Ursula von der Leyen am Redner:innenpult

In ihrer vermutlich letzten Rede zur Lage der Union feierte Kommissionspräsidentin von der Leyen die EU als weltweite Vorreiterin für digitale Rechte. Sie lobte abgeschlossene Gesetzesvorhaben und drängte auf einen Abschluss des AI Acts. Ein wichtiges Thema aber ließ sie aus.

In der EU verhandeln Kommission, Rat und Parlament momentan den finalen Text für den AI Act. Dabei könnte ein Schlupfloch im Gesetz landen, das Unternehmen Freiheiten lässt, die Gefährlichkeit ihrer Produkte selbst einzuschätzen. 118 zivilgesellschaftliche Organisationen aus ganz Europa fordern, das nicht zuzulassen.

Eine Person im Fadenkreuz einer Gesichtserkennung. Ein Screenshot von PimEyes

Drei Jahre nachdem netzpolitik.org die Gefahren von Gesichter-Suchmaschinen enthüllt hat, verhandelt die EU jetzt über ein Verbot. Selbst Vertreter:innen von Union und Polizei sind dafür – fordern aber eine entscheidende Ausnahme.

Gesichter von Personen, biometrische Merkmale sind mit grünen Punkten hervorgehoben; das EU-Parlament; Überwachungskameras

Am heutigen Mittwoch hat sich das EU-Parlament auf seine Position zum KI-Gesetz geeinigt. Auf den letzten Metern wollte die konservative EVP mehr biometrische Überwachung erlauben – aber der Vorstoß wurde vereitelt.

Der Kompromiss des Europäischen Parlaments zur KI-Regulierung ist offenbar hinfällig. Grund ist der Streit um die biometrische Massenüberwachung. Damit ist offen, wie die Plenarabstimmung am Mittwoch ausgeht.

Eine futuristische Maschine, groß wie Wolkenkratzer. Eine engelsähnliche Figur steigt gen Himmel. Unten lodert Feuer. Rauschschwaden. Rechts blauer Himmel. Eine Cartoon-Sprechblase sagt: Wow. Ich verstehe das Bild als ironische Überhöhung.

„Künstliche Intelligenz“ verändert alles und könnte uns vernichten – diese Erzählung zieht gerade Teile der Öffentlichkeit in ihren Bann. Aber der aktuelle KI-Hype ist eine inszenierte Täuschung, die vor allem Geld bringen soll. Ein Kommentar.

Eine Montage aus mehreren Bildern. Links Gesichter mit farblich hervorgehobenen biometrischen Merkmalen. In der Mitte oben ein Grenzzaun mit Wachturm. In der Mitte unten die Röntgen-Aufnahme eines Knies. Rechts die Darstellung eines Lebenslaufs. Die Collage stellt somit verschiedene Bereiche dar, die vom AI Act betroffen sind.

Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.

Eine Überwachungskamera schaut auf abstrahierte Olympische Ringe.

Nach zwei erfolglosen Versuchen, die Videoüberwachung auszuweiten, nutzt die französische Regierung nun die Olympischen Spiele, um vorerst testweise algorithmische Überwachung zu legalisieren. Bürgerrechtsorganisationen befürchten eine Normalisierung und Ausweitung.

Ein Bild zeigt Gesichtern zugeordnete ID-Nummern

Statt Terrorismus zu bekämpfen haben Technologien zur Überwachung „verheerende“ Auswirkungen auf Menschenrechte, mahnen die Vereinten Nationen in einem Bericht. Es brauche unter anderem einen Stopp für biometrische Überwachung in der Öffentlichkeit und den Handel mit Trojanern.

Ein Handy mit der Uber-App klemmt in einer Halterung neben dem Lenkrad.

Gewerkschaften sind essenziell, um in einer automatisierten Arbeitswelt die Rechte aller Beschäftigten zu schützen. Bisher mangelt es aber an praktischen Ratschlägen für Arbeitende und ihre Vertreter:innen, bilanziert ein neuer Bericht von AlgorithmWatch.

Ein Auto mit Kameras sucht in Amsterdam automatisiert nach Falschparkern.

Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.

Vor den Olympischen Sommerspielen bereitet die französische Regierung den Boden für mehr Videoüberwachung. Das Parlament verhandelt derzeit über ein neues Gesetz, manche Politiker:innen wollen dabei auch eine automatisierte Gesichtserkennung im öffentlichen Raum durchsetzen. Ob sie eine Mehrheit finden, ist jedoch fraglich.

Menschen am Strand im Hintergrund, vorne eine Schild mit der Aufschrift Danger.

Die Bundesregierung hat Ende Dezember dem Entwurf zum geplanten AI Act zugestimmt. Doch einig ist man sich in der Ampel-Koalition offenbar nicht. Jetzt macht die SPD-Fraktion mit einem Positionspapier das Thema wieder auf – und will beim Einsatz von KI in den Bereichen Arbeit und Migration den Kurs korrigieren.

Deine Spende gegen Bullshit

AI Act

KI-Verordnung: Trilog-Einigung hängt am seidenen Faden

AI Act: Deutschland will Basis-Modelle wie ChatGPT nicht regulieren

Schutz vor Manipulation: Verbraucherschützer fordern Nachbesserungen an KI-Verordnung

KI-Verordnung auf der Zielgeraden: Welche Schlupflöcher die EU jetzt noch schließen muss

Künstliche Intelligenz: Mit Wasserzeichen gegen die babylonische Verwirrung

Freedom of the Net 2023: KI als Bedrohung für das freie Internet

AI Act: Schluss mit KI-Ausnahmen für Polizeibehörden

Rede zur Lage der Union: Kein Wort zur Chatkontrolle

AI Act: Ein riesengroßes Schlupfloch für die Industrie

PimEyes: EU könnte Gesichter-Suchmaschinen verbieten

Etappe zum KI-Gesetz: EU-Parlament will Verbot biometrischer Echtzeit-Überwachung

KI-Verordnung: Kompromiss zu biometrischer Massenüberwachung gescheitert

Gegen den KI-Hype: Die große Science-Fiction-Show

"Künstliche Intelligenz": Die sechs größten Probleme im AI Act

Olympische Spiele in Frankreich: Freiheit, Gleichheit, Videoüberwachung

UN-Bericht prangert an: Kampf gegen Terror nur Vorwand für mehr Überwachung

NGO-Bericht: Wie Gewerkschaften weltweit gegen unfaire Algorithmen kämpfen

Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen

Olympische Spiele 2024: Frankreich will „intelligente“ Videoüberwachung ausweiten

AI Act: SPD-Fraktion grätscht in die Regierungsposition bei EU-Verhandlungen