Es ist eine wichtige Hürde auf dem Weg zum KI-Gesetz. Das EU-Parlament hat sich heute mit breiter Mehrheit auf eine Position zur KI-Verordnung geeinigt, der umfassenden Regulierung sogenannter Künstlicher Intelligenz (KI) in der Europäischen Union.
Im Vorfeld der Abstimmung im Plenum gab es Streit um biometrische Echtzeit-Überwachung. Darunter fallen zum Beispiel Kameras an Bahnhöfen, die Menschen anhand von Gesichtsmerkmalen identifizieren können. Auf den letzten Metern wollte die konservative Europäische Volkspartei (EVP) noch Ausnahmen zum Einsatz der umstrittenen Technologie ins Gesetz quetschen – ein Bruch mit dem bisherigen Tenor der Verhandlungen im Parlament. Aber der Änderungsantrag erhielt im Parlament keine Mehrheit. „Bedauerlich“ finden das etwa Vertreter*innen der CDU/CSU im Parlament.
Die deutsche Abgeordnete Alexandra Geese (Grüne) wertete die heutige Abstimmung als „Erfolg gegen Massenüberwachung“, Patrick Breyer (Piraten) als „großen“ Sieg. Tiemo Wölken (SPD) schrieb, die Einigung im Parlament könne „sich sehen lassen“. Svenja Hahn (FDP) frohlockte, das Parlament konnte „konservative Angriffe auf Bürgerrechte“ abwehren. Für die Europa-Abgeordnete Cornelia Ernst (Linke) ist das Ergebnis der Abstimmung „historisch“, sie warnte aber zugleich: „Ob dieses Verbot die Verhandlungen mit den Regierungschef:innen im Rat übersteht, müssen wir abwarten.“ Viel Hoffnung habe Ernst dabei nicht.
Die heutige Einigung im EU-Parlament ist nur ein Etappenziel, sie markiert den Beginn weiterer Verhandlungen. Noch heute Abend sollen Parlament, Rat und Kommission gemeinsam den Trilog starten, also die finalen Gespräche über das Gesetz.
Echtzeit-Überwachung ist nur ein Puzzleteil
Das KI-Gesetz soll die weltweit erste Regulierung werden, die sich gezielt mit Künstlicher Intelligenz befasst. Die viel diskutierte biometrische Echtzeit-Überwachung – oder auch der gehypte Chatbot ChatGPT – sind nur ein Teil davon. Bei der Verordnung geht es auch um KI-Systeme in der Medizin und in der Justiz, um Deepfake-Generatoren oder um Software, die Job-Bewerbungen sortiert. Manche KI-Systeme soll das Gesetz komplett verbieten; andere sollen sich an strengere Regeln halten.
Entsprechend vielschichtig ist die Kritik am KI-Gesetz. Hier ist eine Übersicht der wichtigsten Probleme. Um Betroffene schädlicher Entscheidungen durch KI-Systeme besser zu schützen, hoffen zum Beispiel Verbände wie Algorithm Watch, Edri oder Amnesty International auf starke Rechte für Nutzer*innen; gebremst werden solche Wünsche durch Warnungen vor Überregulierung. Bei den Verhandlungen möchten sich EU-Mitgliedstaaten zudem weitreichende Rechte einräumen, so wollen sie selbst riskante KI-Systeme für die „nationale Sicherheit“ einsetzen dürfen.
Auch an den EU-Außengrenzen soll es weiter aggressive KI-Systeme geben, die beispielsweise mitentscheiden, ob Menschen Asyl erhalten. Und das brenzlige Thema militärische Aufrüstung wird im KI-Gesetz gleich ganz ausgespart. Das Ringen um weitere Ausnahmen und Lücken im KI-Gesetz dürfte die kommenden Verhandlungen beherrschen.
nobody wants realtime surveillance
Ich sehe schon, was das kommen wird: die „Echtzeit“-Überwachung ist verboten, aber wenn man 1 Sekunde später auswertet, ist es ja keine Echtzeit mehr. Wird nicht mehr lange dauern, bis die erste Polizei auf diese Idee kommt.
Da hat aber jemand großes Vertrauen in die Kompetenzen der Polizei.^^
Naja, das bieten ja die Dienstleister an.
Im Grunde ist es auch nicht falsch. Passive ad-hoc Datenauswertung gehört meiner Meinung nach als Fähigkeit dazu (US-Präsident, Bundeskanzler, gefährdetete Großveranstaltungen). Aber da gehört Grundierung in der Realität („kriminelle Vereinigung“) dazu, sowie Flankierung bzgl. Verwendung, sowie Ausschluss von Sekundärzielen, also im Grunde eine eigene Behörde – die USA sind voll davon ;). Weder sind Staatsanwaltschaften unabhängig, noch ist es verboten illegal erlangte Beweise zu verwenden. Dann noch keine relevanten Entschädigungen auf der einen Seite, und keine relevante Sanktionierung auf der anderen. Wie korrigiert man das? Das ist nicht trivial, aber mit einem „starken Mann“ hier und dort, also überkapablen „Rettern“, die an nichts gebunden sind, wird es garantiert nichts werden.