Schlagwort: AI Act

In Ungarn sollen Teilnehmer:innen von Pride-Demonstrationen jetzt per Gesichtserkennung identifiziert und mit Bußgeldern bestraft werden. Bürgerrechtsorganisationen hatten vor einem solchen Szenario gewarnt, als die EU ihre laschen Regeln für biometrische Identifikation verabschiedete. Das ungarische Gesetz verletzt ihrer Meinung nach dennoch gleich mehrere EU-Gesetze.

Eine junge Frau schaut leicht an der Kamera vorbei. In ihrem Gesicht ist das rote Lichtkreuz eines Scanners sichtbar.

Die KI-Verordnung der EU lässt wichtige Fragen der Regulierung von Künstlicher Intelligenz offen. Aus diesem Grund hat die EU-Kommission gestern Leitlinien zum Gesetz veröffentlicht. Doch auch die bleiben uneindeutig, vor allem bei den Themen biometrische Überwachung und Social Scoring. Auch eine Definition von KI fehlt weiterhin.

Fotomontage, u.a. mit Emmanuel Macron, einer Überwachungskamera und einer EU-Flagge

Anfang Februar 2025 gelten die ersten Regel aus dem AI Act. Das Gesetz soll die Gefahren sogenannter Künstlicher Intelligenz eindämmen. Tatsächlich enthält es zahlreiche Ausnahmen. Vor allem Frankreich verhandelte Schlupflöcher mit potenziell weitreichenden Folgen für Europas Grundrechte.

Sollen Polizeibehörden Gesichtserkennung einsetzen können, wenn sie mit einem Schild davor gewarnt haben? Macht es für Empfänger:innen von Sozialhilfe einen Unterschied, ob sie mit einem KI-System Probleme kriegen oder mit klassischer Software? Die Zivilgesellschaft hätte dazu gerne mehr Klarheit von der EU-Kommission.

Ursprünglich war der AI Act dazu gedacht, die Grundrechte aller EU-Bürger:innen zu schützen. Nun wird er von Unternehmen ausgehöhlt, sagt die Forschungsgruppe Corporate Europe Observatory. Denn die Unternehmen bestimmen die Normen für KI-Systeme in Gremien massiv mit.

Auf EU-Ebene hatte die Ampelregierung zahlreiche Gesetze mitverhandelt. Bei der Umsetzung in Deutschland sieht die Erfolgsbilanz jedoch bislang mager aus. Viele umfangreiche Pakete liegen vorerst auf Eis und werden zur Aufgabe für die nächste Bundesregierung.

Eine Rolle Faden auf einem grauen Tisch. Ein Ende weist über den Bildrand hinaus.

Die KI-Verordnung ist zwar fertig, aber was sie genau bedeutet, das ist noch lange nicht ausgehandelt. Für KI-Modelle wie ChatGPT fehlen noch sogenannte Praxisleitfäden. Ein erster wird gerade erarbeitet – und mit dem Prozess sind viele unzufrieden.

Ein Europol-Bericht zur polizeilichen Nutzung sogenannter KI gibt Einsichten in Gegenwart und Zukunft der Ermittlungsarbeit. Er zeigt, was europäische Polizeien können und was sie können wollen.

Menschen überqueren eine Straße am Flughafen Tegel

Im Innenausschuss des Bundestages ging es heute um das „Sicherheitspaket“. Kirchen, Menschenrechtsverbände und die Beauftragte für den Datenschutz kritisieren die Maßnahmen als unverhältnismäßig und rechtswidrig. Die wichtigsten Kritikpunkte im Überblick.

Die Bundesregierung will Polizeibehörden und auch das Bundesamt für Migration und Flucht mit neuen Befugnissen für die biometrische Gesichtersuche im Netz ausstatten. Aber darf sie das überhaupt? Mit den neuen EU-Regeln für den Einsatz von KI ist das kaum unter einen Hut zu bringen.

In etlichen Bundesländern setzt die Polizei biometrische Videoüberwachung in Echtzeit ein. Nun ist auch Brandenburg mit von der Partie. Aus Sicht von Jurist:innen fehlt dafür jedoch die Rechtsgrundlage. Und das sorgt für Streit in der rot-schwarz-grünen Brandenburger Koalition.

Die 31. Kalenderwoche geht zu Ende. Wir haben 14 neue Texte mit insgesamt 87.200 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Eine Überwachungskamera, ein Perlenvorhang, reduzierte Formen im Bauhaus-Stil.

Am heutigen 1. August tritt die KI-Verordnung in Kraft. Doch wer jetzt denkt, alles ist geklärt, der täuscht sich. Denn der Kampf für digitale Freiheitsrechte rund um KI ist noch lange nicht vorbei. Ein Kommentar.

Wahlunterlagen zur Europawahl 2024 mit einem Wahlkreuz und der Flagge der Europäischen Union

Ein paar neue Gesetze, starke Durchsetzung von alten: Die Forderungen zivilgesellschaftlicher Organisationen decken ein weites Feld ab. Überwachung soll eingeschränkt, die EU-Institutionen transparenter werden. Außerdem geht es um Monopole, öffentliche digitale Infrastruktur und den Schutz von Verbraucher:innen.

Polizeibeamte auf Streife in der Innenstadt von Frankfurt

Polizeibehörden möchten mit Hilfe sogenannter künstlicher Intelligenz quasi in die Zukunft schauen und präventiv tätig werden. Predictive Policing gilt jedoch als hochriskant, weshalb der europäische AI Act es angeblich europaweit verbietet. Doch die Verordnung weist eine bedrohliche Leerstelle auf.

Der jüngst vom Europäischen Parlament beschlossene „Neue Migrationspakt“ erweitert Überwachungstechnologien und KI-Anwendungen an den EU-Außengrenzen – und erfährt Gegenwind.

Wiewiórowski steht neben einer Glaswand, in der er sich spiegelt.

Wojciech Wiewiórowski kontrolliert, dass die Institutionen der EU sich an den Datenschutz halten. Er hat nun seinen Jahresbericht für 2023 veröffentlicht, der klare Schwerpunkte zeigt.

Marco Buschmann und eine WOW-Sprechblase

Die EU hat sich jüngst auf eine KI-Verordnung geeinigt, inklusive Kennzeichnungspflichten für Deepfakes. Offenbar haben das Dutzende deutsche Nachrichtenmedien nicht mitbekommen, denn sie verkaufen das Thema gerade als „Forderung“ des Justizministers. Ein Facepalm.

Bauhaus-Stil Illustration einer Stadt mit einer Überwachungskamera

Die KI-Verordnung macht den Weg frei für biometrische Gesichtserkennung in der EU. Auch an vielen anderen Stellen bietet sie große Schlupflöcher für Behörden und Unternehmen. Das EU-Parlament wollte Grundrechte besser schützen – und hat dem Kompromiss nun doch zugestimmt.

Mehrere Dome-Überwachungskameras, im Hintergrund ein Fernsehturm

Die neuen europaweiten Regeln für Künstliche Intelligenz lassen biometrische Überwachungstechniken wie Gesichtserkennung teilweise zu. Zivilgesellschaftliche Organisationen fordern nun, dass dem zumindest in Deutschland ein Riegel vorgeschoben wird.

AI Act

Pride-Verbot: Gesichtserkennung in Ungarn verstößt gegen EU-Gesetze

AI Act: Wie die Ausnahmen in der KI-Verordnung landeten

Studie: Big Tech schreibt sich die KI-Standards selbst

Nach Ampel-Aus: EU-Gesetze in der Warteschlange

Europäische KI-Verordnung: Die eigentlichen Regeln für ChatGPT kommen noch

Polizei und KI: Vom Iris-Scan bis zum automatischen Aufstandsmelder

Anhörung im Innenausschuss: Harte Kritik am Überwachungspaket

KI-Verordnung und biometrische Überwachung: So ist das nicht gedacht

Umstrittene Observationstechnik aus Sachsen: Auch Brandenburg betreibt biometrische Videoüberwachung in Echtzeit

KW 31: Die Woche, als die KI-Verordnung in Kraft trat

KI-Verordnung tritt in Kraft: Durchlässig wie ein Perlenvorhang

Europawahl 2024: Was die Zivilgesellschaft fordert

Predictive Policing: Gefährliche Lücke in der KI-Verordnung

EU-Migrationspakt: Kritik an der digitalen Überwachung von Migrant:innen

Europäischer Datenschutzbeauftragter: Migration, KI und Chatkontrolle dominierten das letzte Jahr

Kennzeichnung für KI-Bilder: Buschmann „fordert“, was längst beschlossen wurde

Offener Brief zu KI-Verordnung: Bundesregierung soll Biometrie-Überwachung zumindest in Deutschland verbieten