Trotz biometrischer Überwachung: EU-Parlament macht Weg frei für KI-Verordnung

Mit ihrer KI-Verordnung will die Europäische Union in Zukunft den Maßstab für Anwendungen sogenannter Künstlicher Intelligenz setzen. Das EU-Parlament hat heute mit großer Mehrheit den Text für das Gesetz gebilligt. Bei der Abstimmung stimmten 523 Abgeordneten für das Gesetz, 46 dagegen. Den Kompromiss hatten sie bereits vergangenen Dezember nach langen und teils dramatischen Gesprächen mit den EU-Mitgliedstaaten ausgehandelt. Damit ist der Weg frei, damit das Gesetz noch im Laufe des Jahres in Kraft treten kann.

Mit dem Ja des Parlaments endet das Gezerre um ein Gesetz, das als eines der wichtigsten der Legislaturperiode galt. Drei Jahre lang hat es Kommission, Parlament und Rat beschäftigt. Das Ringen um die finalen Regeln wurde dabei zu einer der größten Lobbyschlachten, die in Brüssel je ausgetragen wurden. Tech-Riesen wie Google und Microsoft investierten Millionen, um ihre Interessen zu schützen.

Das Gesetz soll Regeln festschreiben für diejenigen, die KI-Technologien entwickeln und einsetzen, egal ob Unternehmen oder Behörden. Je riskanter eine Anwendung, so die Logik, desto strikter die Vorgaben, etwa für die Qualität der Daten, die Dokumentation oder für Risikobewertungen, wie vor einem Einsatz gemacht werden müssen. Bestimmte Anwendungen sollen ganz verboten werden, etwa Social Scoring.

Streit um Basismodelle

Der erste Entwurf der Kommission im April 2021 erregte noch eher wenig Aufmerksamkeit. Anfang 2023 brach dann der Hype um generative KI los – und plötzlich standen zusammen mit den verblüffenden Fähigkeiten von ChatGPT und Bildgeneratoren wie Midjourney auch die Details der KI-Verordnung im globalen Rampenlicht.

Parlamentarier:innen versuchten, der neuen Entwicklung noch hinterher zu hechten, obwohl die Arbeit am Gesetz zu weit fortgeschritten war. Dafür wollten sie das Gesetz um strenge Regeln auch für sogenannte Basis-Modelle ergänzen. Das sind KI-Systeme wie etwa das Sprachmodell GPT-4, die für verschiedenste Zwecke eingesetzt werden können.

Im November kam es deswegen in den Trilog-Gesprächen zu offenem Streit. Vor allem die Schwergewichte im Rat Deutschland und Frankreich wollten verhindern, dass die Verordnung auch Basismodelle regelt. Start-ups wie Mistral in Frankreich oder Aleph Alpha in Deutschland arbeiten ebenfalls an solchen Modellen, sie hatten darauf gedrängt, das Basismodelle ausgenommen werden.

Fauler Kompromiss nach langen Verhandlungen

Aber nicht nur wegen der Basismodelle wurden die finalen Trilog-Gespräche im Dezember zu einer Hängepartie. Die Verordnung berührt zentrale Fragen zu Grund- und Freiheitsrechten in der EU: Etwa die, ob und wann biometrische Überwachung zugelassen wird, in welchen Lebensbereichen überhaupt automatisiert entschieden werden darf, oder wie viele Ausnahmen Staaten mit dem Pauschalargument „nationale Sicherheit“ für sich in Anspruch nehmen dürfen.

Nach mehr als drei Tagen Marathon-Verhandlung, teils mehr als 22 Stunden am Stück, stand dann vor Weihnachten doch noch ein Kompromiss. Bürgerrechtsorganisationen wie etwa EDRi warnten schon damals, dass die Freude darüber verfrüht sei. Die Einigung war mündlich passiert, den finalen Text musste die spanische Ratspräsidentschaft, die die Einigung forciert hatte, noch erstellen.

Als die hunderten Seiten Kompromisstext dann im Februar vorlagen, wurde klar, wie viele Lücken offen bleiben werden. Parlamentarier:innen, die selbst an den Verhandlungen beteiligt waren, sagten danach, sie hätten die angeblich getroffene Trilog-Einigung kaum wiedererkannt, als sie später vor ihnen lag. „Wir wurden über den Tisch gezogen“, hieß es aus dem Umfeld der Verhandlungsdelegation.

Die sieben quälendsten Fragen zur KI-Verordnung

Kein Verbot für biometrische Überwachung und Lügendetektoren

Vor allem in den Regeln zu biometrischer Überwachung ist von den einst starken Forderungen des Parlaments kaum etwas übrig geblieben. Die KI-Verordnung bringt kein Verbot, nicht einmal besonders strenge Einschränkungen für den Einsatz biometrischer Überwachung.

EU-Staaten werden also künftig aus vielen Gründen Menschen überwachen und anhand ihrer körperlichen Merkmale identifizieren dürfen, zum Beispiel mit Hilfe öffentlicher Kameras. Das ist selbst in Echtzeit erlaubt und auch dann, wenn nur die Annahme besteht, dass etwas Schlimmes passieren könnte. Die Mitgliedsstaaten konnten sich in diesem Punkt mit ihrer Wunschliste offenbar fast vollständig durchsetzen.

Auch Menschen auf der Flucht können von der KI-Verordnung kaum Schutz erwarten. Die wenigen Einschränkungen für Gesichtserkennung im öffentlichen Raum gelten etwa ausdrücklich nicht für Grenzkontrollen. Der Einsatz von umstrittenen Technologien wie Emotionserkennung ist ebenfalls weiterhin erlaubt, Betroffene könnten in Zukunft mit Lügendetektoren an den Grenzübergängen überprüft werden, wie die EU sie bereits in einem Pilotprojekt getestet hat. Und auch die Transparenzverpflichtungen im Gesetz gelten nicht für die Bereiche „Strafverfolgung, Migration, Grenzkontrolle oder Asyl“.

Selbst mit diesen Zugeständnissen war noch lange unklar, ob das Gesetz nicht womöglich noch am Widerstand von Frankreich und Deutschland scheitern könnte. Aus beiden Ländern war weiterhin Unmut zu hören. Mit der Zustimmung des Rates Anfang Februar war diese Hürde genommen.

Kurz darauf stimmten auch die beiden Parlamentsausschpsse für bürgerliche Freiheiten, Justiz und Inneres (LIBE) und Binnenmarkt (IMCO) mit großer Mehrheit für den Kompromiss. Sie hatten bei der Arbeit am Gesetz die Führungsrolle. Ihre Zustimmung war ein starker Signal dafür, dass auch die absolute Mehrheit der Abgeordneten im Plenum heute für den Kompromiss stimmen würden.

Dass die Abstimmung schon heute angesetzt war und nicht, wie zunächst geplant, erst im April, hatte im Vorfeld für Verwirrung gesorgt. Der Grund dafür liegt wohl in den Details der EU-Arbeitsprozesse: Gesetzestexte müssen juristisch überarbeitet und in die 24 Amtsprachen der Union übersetzt werden. Dafür scheint hier die Zeit nicht gereicht zu haben, die Abgeordneten stimmten also nach wie vor über einen vorläufigen Text ab. Die endgültige Version soll dann im April nur noch bekannt gegeben werden – voraussichtlich ohne erneute Abstimmung.

Was jetzt folgt

Die KI-Verordnung kann damit noch vor den EU-Wahlen im Sommer in Kraft treten. Die meisten Regeln werden nach zwei Jahre greifen, lediglich die Verbote gelten bereits nach sechs Monaten – und damit womöglich bereits dieses Jahr.

Die Hoffnungen für bessere Gesetzgebung verlagern sich derweil auf die Mitgliedstaaten. Sie haben die Möglichkeit, auf nationaler Ebene strengere Regeln zu erlassen als die Verordnung vorsieht, etwa für die biometrische Überwachung. In Deutschland haben die Ampel-Parteien bereits angekündigt, zumindest eine Überwachung in Echtzeit nicht zu wollen.

Nachbesserungen fordert jetzt auch AlgorithmWatch und verweist auf die Versprechen, die die Bundesregierung in ihrem Koalitionsvertrag gemacht hat. Die Organisation kritisiert auch, dass gerade für Strafverfolgungs- und Migrationsbehörden keine öffentliche Transparenz gelten soll, wenn sie riskante KI-Systeme einsetzen. Gerade in diesen Bereichen herrsche ein starkes Machtgefälle, Öffentlichkeit sei hier eine wesentliche Voraussetzung demokratischer Kontrolle.

Gegen den Entwurf gestimmt hatten die vier Abgeordneten der Piratenpartei, einige parteilose Abgeordnete und große Teile der Linken-Fraktion. Deren Abgeordnete Cornelia Ernst bedauert, dass das Parlament in den Verhandlungen essentiell wichtige Elemente nicht durchsetzen konnte. Das Verbot von Echtzeit-Gesichtserkennung im öffentlichem Raum sei durch eine lange Liste von Ausnahmen „praktisch gekippt“, Emotionserkennung und vorhersagende Polizeiarbeit blieben erlaubt und es gebe keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext – eine verpasste Chance.