AlgorithmWatch hat heute gemeinsam mit 23 anderen zivilgesellschaftlichen Organisationen, darunter Amnesty International, Access Now, Chaos Computer Club, Wikimedia Deutschland und Reporter ohne Grenzen, einen Offenen Brief an die Bundesregierung veröffentlicht. Darin wird die Bundesregierung aufgefordert, ihre im Koalitionsvertrag festgehaltene Zusage in die Tat umzusetzen, wonach „biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring-Systeme durch KI europarechtlich auszuschließen“ seien.
Hintergrund sind die aktuellen Verhandlungen zum Artificial Intelligence Act (AI Act) auf EU-Ebene. Der AI Act ist ein Gesetzesvorhaben der Europäischen Kommission, das erstmals einen regulatorischen Rahmen für den Einsatz von Künstlicher Intelligenz schaffen soll. Dazu hat Brüssel im April 2021 einen Verordnungsentwurf vorgelegt. Demnach soll das Gesetz unter anderem den Einsatz biometrischer Identifizierungssysteme verbieten – allerdings sieht der aktuelle Kompromissvorschlag des EU-Rates etliche Ausnahmen vor, die das Verbot letztlich aushöhlen, so die Unterzeichner:innen des Offenen Briefes.
Die zivilgesellschaftlichen Organisationen kritisieren, dass der Entwurf im Widerspruch zum Koalitionsvertrag steht. Sie fordern die Bundesregierung daher dazu auf, im EU-Rat Einfluss zu nehmen, in dem Gremium also, das Regierungsvertreter aller Mitgliedsstaaten versammelt.
Konkret kritisiert der Offene Brief gesetzgeberische Lücken in dem Kompromissvorschlag, die sich im Wesentlichen auf Artikel 5d beziehen. Derzeit beziehe sich das Verbot biometrischer Identifizierung auf „’Echtzeit‘-biometrische Identifizierungssysteme in öffentlich zugänglichen Räumen“. Damit wäre es künftig erlaubt, biometrische Gesichtserkennung auf gespeichertes Videomaterial anzuwenden. Außerdem gelte das Verbot nur für Strafverfolgungsbehörden oder Akteure, die in deren Auftrag handeln; alle anderen staatlichen und privaten Akteure wären davon ausgenommen.
Die Berichterstatter:innen der verhandlungsführenden Ausschüsse IMCO und LIBE haben das Wort „Echtzeit“ in ihren Vorschlägen bereits herausgestrichen. Dem muss das Parlament noch zustimmen, bevor diese Fassung den Trilog-Verhandlungen zugrundeliegt.
Ein Verbot mit vielen Hintertüren
Bisher hat sich die Bundesregierung zur Regelung der biometrischen Gesichtserkennung nicht geäußert. Ihre Stellungnahme vom September dieses Jahres bezieht sich vorwiegend auf die Strafverfolgung. Demnach will sich die Bundesregierung zu biometrischen Identifizierungssystemen noch detaillierter äußern. Das ist bisher nicht passiert und viel Zeit bleibt ihr nicht mehr, da die gemeinsame Position der EU-Regierungen am 6. Dezember feststehen soll.
Bis dahin durchläuft der vorliegende Kompromissvorschlag noch eine weitere Station: Am 11. November wird er dem Ausschuss der Ständigen Vertreter:innen der Mitgliedsstaaten vorgelegt, der ihn dann am 18. November diskutiert.
Nationale Sicherheit first?
Schließlich kritisiert der Offene Brief, dass die „nationale Sicherheit“ den Einsatz biometrischer Identifizierungssysteme legitimieren soll. Ebendies kritisiert auch Patrick Breyer, EU-Abgeordneter der Piratenpartei und Mitglied der Fraktion Grüne/EFA.
Breyer hat gestern den aktuellen Kompromissvorschlag der EU-Ratspräsidentschaft auf seiner Website veröffentlicht. Den Vorsitz im Rat der EU hat derzeit Tschechien inne. Der Vorschlag der dortigen Regierung sieht vor, biometrische Identifizierung zu verbieten – allerdings mit weitgehenden Ausnahmen: um nach Opfern von Verbrechen zu suchen, um Bedrohungen wie Terrorangriffe abzuwenden oder um Verdächtige schwerwiegender Straftaten aufzuspüren.
„Dieser Vorschlag würde den permanenten und flächendeckenden Einsatz der Gesichtsüberwachung rechtfertigen“, so Breyer, „um nach Tausenden von ‚Opfern‘, ‚Bedrohungen‘ und Verdächtigen ‚schwerer Straftaten‘ zu suchen, die immer zur Fahndung ausgeschrieben sind.“
Drei Verhandlungspartner müssen sich einigen
Verordnungen werden vom EU-Parlament beschlossen und sind für die Mitgliedsstaaten unmittelbar verbindlich – anders als Richtlinien, die von den Mitgliedsstaaten in nationales Recht umgesetzt werden sollen, oder gar Empfehlungen, die unverbindlich sind.
Am weiteren Beschlussverfahren des AI Acts sind – neben der Kommission und dem Parlament – auch der Rat der EU beteiligt. Dieser versammelt die Regierungschef:innen sowie die Minister:innen der Mitgliedsstaaten. Sowohl das EU-Parlament als auch der EU-Rat setzen sich gegenwärtig mit dem Vorschlag der EU-Kommission auseinander. Sobald innerhalb der jeweiligen Institutionen Einigungen erzielt wurden, beginnen die Trilog-Verhandlungen, in denen die Änderungsvorschläge des EU-Parlaments sowie des EU-Rats diskutiert werden.
Wenn ich richtig gezählt habe, stammt der Brief von insgesamt 27 Organisationen. Also nicht von „AlgorithmWatch und 23 weiteren NGOs“, wie es im Einstieg und – etwas anders formuliert – im ersten Abschnitt heißt.
Das liegt daran, dass nach der Veröffentlichung weitere NGOs dazukamen.