Künstliche IntelligenzEU-Vorsitz gegen pauschales Verbot von Echtzeit-Gesichtserkennung

Während die EU-Kommission KI-Anwendungen für Polizei und Justiz regulieren will, spricht sich die amtierende Ratspräsidentschaft für möglichst wenig Einschränkungen aus. Die Verarbeitung von Gesichtsbildern aus dem öffentlichen Raum wird zum Zankapfel.

Das Bild zeigt eine Kunstinstallation gegen Gesichtserkennung.
Die EU-Kommission errichtet einen „biometrischen Identitätsspeicher“ und plant die europaweite Abfrage von Gesichtsbildern. CC-BY-ND 2.0 John Wisniewski

Die portugiesische EU-Ratspräsidentschaft stellt ein grundsätzliches Verbot von Künstlicher Intelligenz (KI) zur Gesichtserkennung im öffentlichen Raum infrage. Einen solchen Vorschlag hatte die Kommission am 21. April vorgelegt, allerdings auch eine Reihe von Ausnahmen und damit verbundenen Verpflichtungen benannt.

In einem Diskussionspapier, das an die Mitgliedstaaten verteilt wurde, wird dieser Ansatz nun vom Rat kritisiert. Die EU müsse stattdessen „unbedingt sicherstellen, dass wir die Entwicklung und Nutzung der technologischen Entwicklung nicht unnötig einschränken“. Der polizeiliche und justizielle Einsatz von KI müsse „praxisorientiert und nützlich sein“ und die Arbeit der Strafverfolgungsbehörden „effizienter gestalten“.

„Hohes Risiko“ im Bereich Migration, Asyl, Grenzkontrolle

Die EU-Kommission hatte angeregt, den „weltweit ersten Rechtsrahmen“ für KI-Systeme zu verabschieden. Diese werden in verschiedene Kategorien eingeteilt. KI-gestützte Videospiele oder Spamfilter gelten demzufolge als „minimales Risiko“ für Bürgerrechte oder die Sicherheit, die Verordnung soll dort nicht eingreifen. Ein „geringes Risiko“ stellten selbstlernende Chatbots dar, Nutzer:innen sollten deshalb lediglich über die Funktion aufgeklärt werden. Ein „unannehmbares Risiko“ bestehe für Technik, die soziales Verhalten klassifiziert, oder Spielzeuge mit Sprachassistent.

Ein „hohes Risiko“ bergen dem Vorschlag zufolge KI-Systeme, die in kritischen Infrastrukturen, im Personalmanagement oder einer Bewertung der Kreditwürdigkeit eingesetzt werden. In die gleiche Kategorie fällt KI-gestützte Software im Bereich Migration, Asyl und Grenzkontrolle, etwa wenn diese die Echtheit von Reisedokumenten überprüft. Dann sollen laut der Kommission besondere „Risikobewertungs- und Risikominderungssysteme“ greifen. Eingespeiste Datensätze müssten auf ihre Qualität überprüft und alle Vorgänge protokolliert werden.

Grundsätzlich verbieten will die Kommission „alle Arten biometrischer Fernidentifizierungssysteme“ zur Strafverfolgung im öffentlichen Raum. Gemeint ist etwa die Echtzeit-Gesichtserkennung, wie sie in Deutschland das Bundesinnenministerium mit der Deutsche Bahn AG am Berliner Bahnhof Südkreuz getestet hat.

Warnung vor Verlusten für Sicherheitsindustrie

Gleichzeitig schränkt die Kommission das Verbot aber wieder ein und nennt eine große Zahl an Ausnahmen, in denen Polizei und Justiz entsprechende Systeme nutzen dürften. Hierzu gehören Fälle, in denen Anwendungen „unbedingt erforderlich sind“, um vermisste Kinder zu finden oder eine „terroristische Bedrohung abzuwenden“. Auch die Verfolgung schwerer Straftaten soll möglich sein, nachdem eine zuständige Justizbehörde einen hierfür nötigen Beschluss ausgestellt hat.

In dem Papier aus Portugal wird nicht nur die pauschale Einstufung verschiedener Funktionen als „hochriskant“ hinterfragt. Auch könnten sich die genannten Ausnahmen und Verpflichtungen „auf operativer Ebene als nicht realistisch und nicht durchführbar herausstellen“. Konkreter wird der Ratsvorsitz nicht, die Kritik zielt vermutlich auch auf den vorgeschriebenen richterlichen Beschluss, auf den laut dem Vorschlag der Kommission nur in „hinreichend begründeten dringenden Fällen“ vorläufig verzichtet werden dürfte.

An anderer Stelle warnt das Papier des Rates auch vor finanziellen Verlusten für Firmen im Bereich der Sicherheitstechnologie. Die von der Kommission vorgeschlagene Regulierung könnte demnach Innovation behindern. Deshalb soll nun Europol in einen „Dialog“ mit dem Privatsektor treten. Die Polizeiagentur betreibt für diese Zwecke ein neues „EU-Innovationszentrum für die innere Sicherheit“, das Prioritäten in der Sicherheitsforschung ermitteln und forcieren soll.

„Biometrischer Identitätsspeicher“

Schließlich geht der Ratsvorsitz auch auf formale Aspekte des Regulierungsvorschlags der Kommission ein. So könnten einige als hochriskant geltende KI-Anwendungen, die derzeit oder zum Zeitpunkt des Geltungsbeginns einer solchen Verordnung von Polizei- und Justizbehörden genutzt werden, möglicherweise nicht in ihren Anwendungsbereich fallen.

Denn bevor die EU eine Verordnung zu Künstlicher Intelligenz verabschiedet, sind längst andere neue Systeme in ihren Wirkbetrieb übergegangen. Im Projekt „Interoperabilität“ errichtet die Agentur für das Betriebsmanagement von IT-Großsystemen (eu-LISA) derzeit einen „biometrischen Identitätsspeicher“, in dem Fingerabdrücke und Gesichtsbilder aller großen EU-Informationssysteme zusammengefasst werden. Auch der sogenannte Prüm-Mechanismus wird von Fingerabdrücken auf Gesichtsbilder erweitert. Bald soll es möglich sein, das Foto einer unbekannten Person in allen EU-Mitgliedstaaten gleichzeitig abzufragen. Auch darauf geht das Papier des EU-Vorsitzes ein. So soll eine zukünftige KI-Verordnung „alle relevanten Phasen“ der Verarbeitung von Gesichtsbildern im Prüm-Verfahren berücksichtigen.

Die Überwachungsinitiative des portugiesischen Ratsvorsitzes kommt zur gleichen Zeit, in der sich 180 weltweite Bürgerrechtsorganisationen gegen Gesichtserkennung im öffentlichen Raum aussprechen. Sie fordern Regierungen auf, alle Investitionen in den Einsatz von biometrischen Fernerkennungs-Technologien zu stoppen und ihren Einsatz in öffentlich zugänglichen Räumen zu verbieten. Mit dem gleichen Ziel hat die Europäische Bürger:innen-Initiative „Reclaim Your Face“ bereits über 54.000 Unterschriften gesammelt.

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.