Schlagwort: AI Act

Der jüngst vom Europäischen Parlament beschlossene „Neue Migrationspakt“ erweitert Überwachungstechnologien und KI-Anwendungen an den EU-Außengrenzen – und erfährt Gegenwind.

Wiewiórowski steht neben einer Glaswand, in der er sich spiegelt.

Wojciech Wiewiórowski kontrolliert, dass die Institutionen der EU sich an den Datenschutz halten. Er hat nun seinen Jahresbericht für 2023 veröffentlicht, der klare Schwerpunkte zeigt.

Marco Buschmann und eine WOW-Sprechblase

Die EU hat sich jüngst auf eine KI-Verordnung geeinigt, inklusive Kennzeichnungspflichten für Deepfakes. Offenbar haben das Dutzende deutsche Nachrichtenmedien nicht mitbekommen, denn sie verkaufen das Thema gerade als „Forderung“ des Justizministers. Ein Facepalm.

Bauhaus-Stil Illustration einer Stadt mit einer Überwachungskamera

Die KI-Verordnung macht den Weg frei für biometrische Gesichtserkennung in der EU. Auch an vielen anderen Stellen bietet sie große Schlupflöcher für Behörden und Unternehmen. Das EU-Parlament wollte Grundrechte besser schützen – und hat dem Kompromiss nun doch zugestimmt.

Mehrere Dome-Überwachungskameras, im Hintergrund ein Fernsehturm

Die neuen europaweiten Regeln für Künstliche Intelligenz lassen biometrische Überwachungstechniken wie Gesichtserkennung teilweise zu. Zivilgesellschaftliche Organisationen fordern nun, dass dem zumindest in Deutschland ein Riegel vorgeschoben wird.

Frau hält Daumen hoch aus dem Linien zur Gesichtserkennung in ihrem Gesicht führen

Journalisten hatten Bilder von Daniela Klette mit einer kommerziellen Suchmaschine entdeckt. Viele verlangen jetzt, die Polizei sollte solche Gesichtersuchen auch einsetzen dürfen. Aber bei der Diskussion um die Fahndung nach den Ex-RAF-Mitgliedern geht einiges durcheinander. Ein Kommentar.

Eine weiße Wand, an der zahlreiche Werkzeuge hängen

Eine Studie der Mozilla Foundation geht der Frage nach, wie sich KI-generierte Inhalte kennzeichnen lassen. Eine einfache Lösung sehen die Forschenden nicht. Vielmehr brauche es einen breiten Lösungsansatz.

Illustration im Bauhaus-Stil zeigt eine unnatürlich große Überwachungskamera über eine belebten Stadtszene.

Die neue KI-Verordnung soll invasive Überwachung in der EU ermöglichen. Abgeordnete der Regierungsparteien wollen deshalb strengere Regeln für Deutschland, etwa ein Verbot von Emotions- und Gesichtserkennung in Echtzeit.

Eine Ampel, die grün leuchtet, frei hängend

Die EU-Mitgliedstaaten haben heute den Kompromisstext der KI-Verordnung bestätigt. Das größte Regelwerk der Welt für Künstliche Intelligenz wird damit wahrscheinlich noch vor den EU-Wahlen in Kraft treten – ungeachtet der breiten Kritik am gesetzgeberischen Prozess und an der drohenden Massenüberwachung.

Die 4. Kalenderwoche geht zu Ende. Wir haben 14 neue Texte mit insgesamt 113.347 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Illustration im Bauhaus-Stil, ein großes, ausdrucksloses Gesicht schwebt über einer Stadt; auf der Straße sind Passant*innen, es gibt Hochhäuser und eine Stange mit Überwachungskameras.

Wieso hagelt es jetzt so viel Kritik? Wie schlimm wird das mit der Gesichtserkennung? Und was lässt sich jetzt überhaupt noch machen? Wir liefern die wichtigsten Updates zur fast fertigen KI-Verordnung.

Wimmelbild von Teilnehemenden eines Marathons

Nachträgliche Änderungen bei der biometrischen Überwachung sorgen aktuell für Ärger bei EU-Abgeordneten, die bis zuletzt für eine Einschränkung gekämpft hatten. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies dramatische Folgen.

Parlament, Rat und Kommission haben sich auf die KI-Verordnung geeinigt. Sie wird trotz angeblicher Schutzmechanismen die automatische Gesichtserkennung jetzt europaweit etablieren. Das ist schlecht für die Demokratie. Ein Kommentar.

Wrapped christmas presents with dark lighting

A document from the AI Act trilogue shows what member states were hoping to push through: Automated classification of people by race, emotion recognition, biometric analysis of video recordings. In some parts, the outcome is still unclear.

Verpackte Weihnachtsgeschenke bei düsterer Beleuchtung

Wir veröffentlichen ein Dokument aus dem Trilog zur KI-Verordnung. Es zeigt, was die Mitgliedstaaten alles durchdrücken wollten: automatische Einordnung von Menschen nach Ethnizität, Emotionserkennung, nachträgliche biometrische Analysen von Videoaufnahmen.

Verhandler:innen beim Trilog zur KI-Verordnung

Nach zähen Verhandlungen haben sich EU-Parlament und Rat gestern Nacht auf die Endfassung des AI Act geeinigt. Der Kompromiss sieht wohl einige Schlupflöcher vor: Vor allem bei biometrischer Videoüberwachung und Predictive Policing haben sich die Mitgliedstaaten offenbar gegenüber dem EU-Parlament durchgesetzt.

Schaffen es die Trilog-Parteien heute, sich beim Gerangel um die KI-Verordnung zu einigen? Der Druck ist groß – und könnte insbesondere das EU-Parlament dazu veranlassen, seine rote Linien zu verschieben.

Mann im schwarzen Anzug mit Headset schaut nach unten

Während sich die Verhandlungen um die Regulierung von Künstlicher Intelligenz in der EU der Zielgeraden nähern, stellen sich die Regierungen Deutschlands, Frankreichs und Italiens quer: Statt harten Regeln wollen sie für Basis-Modelle nur eine „verpflichtende Selbstregulierung“.

Wenn die EU neue Regeln für Künstliche Intelligenz erlässt, muss sie mehr an die Rechte von Verbraucher:innen denken, fordern die Verbraucherzentralen. Unter anderem schlagen sie vor, Betroffenenrechte ähnlich zu denen der DSGVO einzuführen. Auch Verbandsklagen müssten möglich werden.

A machine for automated decision-making, steampunk

EU-Kommission, Rat und Parlament verhandeln derzeit im Trilog die finale Fassung der KI-Verordnung. In der morgigen Verhandlungsrunde geht es vor allem um den Hochrisikobereich. Und gerade hier weist die Verordnung noch Lücken auf, die eine neue Qualität der Massenüberwachung ermöglichen würden.

AI Act

EU-Migrationspakt: Kritik an der digitalen Überwachung von Migrant:innen

Europäischer Datenschutzbeauftragter: Migration, KI und Chatkontrolle dominierten das letzte Jahr

Kennzeichnung für KI-Bilder: Buschmann „fordert“, was längst beschlossen wurde

Offener Brief zu KI-Verordnung: Bundesregierung soll Biometrie-Überwachung zumindest in Deutschland verbieten

Gesichtserkennung: In welcher Welt wollen wir leben?

Mozilla-Studie: Werkzeuge gegen die Deepfake-Flut

Lücken der KI-Verordnung: Ampel will Verbot biometrischer Echtzeit-Überwachung

EU-Rat: KI-Verordnung erhält grünes Licht

KW 4: Die Woche, in der wir uns durch 892 widerspenstige Seiten wühlten

Grundrechte in Gefahr: Die sieben quälendsten Fragen zur KI-Verordnung

KI-Verordnung: Biometrische Massenüberwachung ohne Wenn und Aber?

KI-Verordnung: Das Nummernschild im Gesicht kommt

AI Act: The Member States‘ Wish List

KI-Verordnung: Die Wunschliste der Mitgliedstaaten

KI-Verordnung: Schraffierte rote Linien als Kompromiss

KI-Verordnung: Trilog-Einigung hängt am seidenen Faden

AI Act: Deutschland will Basis-Modelle wie ChatGPT nicht regulieren

Schutz vor Manipulation: Verbraucherschützer fordern Nachbesserungen an KI-Verordnung

KI-Verordnung auf der Zielgeraden: Welche Schlupflöcher die EU jetzt noch schließen muss