Schlagwort: AI Act

Ein Europol-Bericht zur polizeilichen Nutzung sogenannter KI gibt Einsichten in Gegenwart und Zukunft der Ermittlungsarbeit. Er zeigt, was europäische Polizeien können und was sie können wollen.

Menschen überqueren eine Straße am Flughafen Tegel

Im Innenausschuss des Bundestages ging es heute um das „Sicherheitspaket“. Kirchen, Menschenrechtsverbände und die Beauftragte für den Datenschutz kritisieren die Maßnahmen als unverhältnismäßig und rechtswidrig. Die wichtigsten Kritikpunkte im Überblick.

Die Bundesregierung will Polizeibehörden und auch das Bundesamt für Migration und Flucht mit neuen Befugnissen für die biometrische Gesichtersuche im Netz ausstatten. Aber darf sie das überhaupt? Mit den neuen EU-Regeln für den Einsatz von KI ist das kaum unter einen Hut zu bringen.

In etlichen Bundesländern setzt die Polizei biometrische Videoüberwachung in Echtzeit ein. Nun ist auch Brandenburg mit von der Partie. Aus Sicht von Jurist:innen fehlt dafür jedoch die Rechtsgrundlage. Und das sorgt für Streit in der rot-schwarz-grünen Brandenburger Koalition.

Die 31. Kalenderwoche geht zu Ende. Wir haben 14 neue Texte mit insgesamt 87.200 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Eine Überwachungskamera, ein Perlenvorhang, reduzierte Formen im Bauhaus-Stil.

Am heutigen 1. August tritt die KI-Verordnung in Kraft. Doch wer jetzt denkt, alles ist geklärt, der täuscht sich. Denn der Kampf für digitale Freiheitsrechte rund um KI ist noch lange nicht vorbei. Ein Kommentar.

Wahlunterlagen zur Europawahl 2024 mit einem Wahlkreuz und der Flagge der Europäischen Union

Ein paar neue Gesetze, starke Durchsetzung von alten: Die Forderungen zivilgesellschaftlicher Organisationen decken ein weites Feld ab. Überwachung soll eingeschränkt, die EU-Institutionen transparenter werden. Außerdem geht es um Monopole, öffentliche digitale Infrastruktur und den Schutz von Verbraucher:innen.

Polizeibeamte auf Streife in der Innenstadt von Frankfurt

Polizeibehörden möchten mit Hilfe sogenannter künstlicher Intelligenz quasi in die Zukunft schauen und präventiv tätig werden. Predictive Policing gilt jedoch als hochriskant, weshalb der europäische AI Act es angeblich europaweit verbietet. Doch die Verordnung weist eine bedrohliche Leerstelle auf.

Der jüngst vom Europäischen Parlament beschlossene „Neue Migrationspakt“ erweitert Überwachungstechnologien und KI-Anwendungen an den EU-Außengrenzen – und erfährt Gegenwind.

Wiewiórowski steht neben einer Glaswand, in der er sich spiegelt.

Wojciech Wiewiórowski kontrolliert, dass die Institutionen der EU sich an den Datenschutz halten. Er hat nun seinen Jahresbericht für 2023 veröffentlicht, der klare Schwerpunkte zeigt.

Marco Buschmann und eine WOW-Sprechblase

Die EU hat sich jüngst auf eine KI-Verordnung geeinigt, inklusive Kennzeichnungspflichten für Deepfakes. Offenbar haben das Dutzende deutsche Nachrichtenmedien nicht mitbekommen, denn sie verkaufen das Thema gerade als „Forderung“ des Justizministers. Ein Facepalm.

Bauhaus-Stil Illustration einer Stadt mit einer Überwachungskamera

Die KI-Verordnung macht den Weg frei für biometrische Gesichtserkennung in der EU. Auch an vielen anderen Stellen bietet sie große Schlupflöcher für Behörden und Unternehmen. Das EU-Parlament wollte Grundrechte besser schützen – und hat dem Kompromiss nun doch zugestimmt.

Mehrere Dome-Überwachungskameras, im Hintergrund ein Fernsehturm

Die neuen europaweiten Regeln für Künstliche Intelligenz lassen biometrische Überwachungstechniken wie Gesichtserkennung teilweise zu. Zivilgesellschaftliche Organisationen fordern nun, dass dem zumindest in Deutschland ein Riegel vorgeschoben wird.

Frau hält Daumen hoch aus dem Linien zur Gesichtserkennung in ihrem Gesicht führen

Journalisten hatten Bilder von Daniela Klette mit einer kommerziellen Suchmaschine entdeckt. Viele verlangen jetzt, die Polizei sollte solche Gesichtersuchen auch einsetzen dürfen. Aber bei der Diskussion um die Fahndung nach den Ex-RAF-Mitgliedern geht einiges durcheinander. Ein Kommentar.

Eine weiße Wand, an der zahlreiche Werkzeuge hängen

Eine Studie der Mozilla Foundation geht der Frage nach, wie sich KI-generierte Inhalte kennzeichnen lassen. Eine einfache Lösung sehen die Forschenden nicht. Vielmehr brauche es einen breiten Lösungsansatz.

Illustration im Bauhaus-Stil zeigt eine unnatürlich große Überwachungskamera über eine belebten Stadtszene.

Die neue KI-Verordnung soll invasive Überwachung in der EU ermöglichen. Abgeordnete der Regierungsparteien wollen deshalb strengere Regeln für Deutschland, etwa ein Verbot von Emotions- und Gesichtserkennung in Echtzeit.

Eine Ampel, die grün leuchtet, frei hängend

Die EU-Mitgliedstaaten haben heute den Kompromisstext der KI-Verordnung bestätigt. Das größte Regelwerk der Welt für Künstliche Intelligenz wird damit wahrscheinlich noch vor den EU-Wahlen in Kraft treten – ungeachtet der breiten Kritik am gesetzgeberischen Prozess und an der drohenden Massenüberwachung.

Die 4. Kalenderwoche geht zu Ende. Wir haben 14 neue Texte mit insgesamt 113.347 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Illustration im Bauhaus-Stil, ein großes, ausdrucksloses Gesicht schwebt über einer Stadt; auf der Straße sind Passant*innen, es gibt Hochhäuser und eine Stange mit Überwachungskameras.

Wieso hagelt es jetzt so viel Kritik? Wie schlimm wird das mit der Gesichtserkennung? Und was lässt sich jetzt überhaupt noch machen? Wir liefern die wichtigsten Updates zur fast fertigen KI-Verordnung.

Wimmelbild von Teilnehemenden eines Marathons

Nachträgliche Änderungen bei der biometrischen Überwachung sorgen aktuell für Ärger bei EU-Abgeordneten, die bis zuletzt für eine Einschränkung gekämpft hatten. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies dramatische Folgen.

AI Act

Polizei und KI: Vom Iris-Scan bis zum automatischen Aufstandsmelder

Anhörung im Innenausschuss: Harte Kritik am Überwachungspaket

KI-Verordnung und biometrische Überwachung: So ist das nicht gedacht

Umstrittene Observationstechnik aus Sachsen: Auch Brandenburg betreibt biometrische Videoüberwachung in Echtzeit

KW 31: Die Woche, als die KI-Verordnung in Kraft trat

KI-Verordnung tritt in Kraft: Durchlässig wie ein Perlenvorhang

Europawahl 2024: Was die Zivilgesellschaft fordert

Predictive Policing: Gefährliche Lücke in der KI-Verordnung

EU-Migrationspakt: Kritik an der digitalen Überwachung von Migrant:innen

Europäischer Datenschutzbeauftragter: Migration, KI und Chatkontrolle dominierten das letzte Jahr

Kennzeichnung für KI-Bilder: Buschmann „fordert“, was längst beschlossen wurde

Offener Brief zu KI-Verordnung: Bundesregierung soll Biometrie-Überwachung zumindest in Deutschland verbieten

Gesichtserkennung: In welcher Welt wollen wir leben?

Mozilla-Studie: Werkzeuge gegen die Deepfake-Flut

Lücken der KI-Verordnung: Ampel will Verbot biometrischer Echtzeit-Überwachung

EU-Rat: KI-Verordnung erhält grünes Licht

KW 4: Die Woche, in der wir uns durch 892 widerspenstige Seiten wühlten

Grundrechte in Gefahr: Die sieben quälendsten Fragen zur KI-Verordnung

KI-Verordnung: Biometrische Massenüberwachung ohne Wenn und Aber?