Künstliche IntelligenzEU-Datenschützer fordern Verbot von Gesichtserkennung im öffentlichen Raum

Automatisierte Entscheidungssysteme, die mit menschlichen Merkmalen arbeiten, können diskriminieren und Grundrechte einschränken. Deshalb fordern zwei EU-Datenschutzinstitutionen nun ein Verbot bestimmter Anwendungen. Die Pläne der EU-Kommission zur Regulierung von Künstlicher Intelligenz gehen ihnen nicht weit genug.

U-Bahn-Station mit Kameras
Gesichtserkennung durch Kameras im öffentlichen Raum wollen die Datenschützer:innen verbieten. Gemeinfrei-ähnlich freigegeben durch unsplash.com Iñaki del Olmo

In einer gemeinsamen Stellungnahme fordern der Europäische Datenschutzbeauftragte (EDPS) und der Europäische Datenschutzausschuss (EDPB) ein generelles Verbot des Einsatzes von künstlicher Intelligenz für die automatisierte Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen. Zu den Überwachungstechnologien zählt die Erkennung von Gesichtern, des menschlichen Gangs, von Fingerabdrücken, der DNA, der Stimme, des Tastenanschlags und anderer biometrischer oder verhaltensbezogener Signale.

Der EDPS und der EDPB fordern eine Verschärfung des EU-Gesetzentwurfs zur Regulierung Künstlicher Intelligenz (KI). In der Stellungnahme nennen die beiden Institutionen auf Ebene der Europäischen Union gleich mehrere Fälle, für die sie ein ausdrückliches Verbot der automatisierten Entscheidungssysteme fordern.

Neben der KI-gestützten Erfassung menschlicher Merkmale im öffentlichen Raum sollen KI-Systeme, die Menschen mittels biometrischer Daten in Gruppen einteilen und so nach ethnischer Zugehörigkeit, Geschlecht, politischer oder sexueller Orientierung einteilen, ebenfalls grundsätzlich verboten werden. Auch künstliche Intelligenz, die Social Scoring ermöglicht, haben die Datenschützer:innen im Visier. Mit Ausnahme von einzelnen Anwendungen im medizinischen Bereich fordern EDPS und der EDPB außerdem ein Verbot von KI zur Gefühlserkennung.

Schutz der Anonymität im öffentlichen Raum

Im Europäischen Datenschutzausschuss sitzt auch Ulrich Kelber, der Bundesbeauftragte für Datenschutz und Informationsfreiheit in Deutschland. „Wir wollen keine KI im grundrechtlichen Graubereich“, begründete er die Forderungen. Daher setze er sich für ein Verbot von KI ein, „die einem freiheitlich-demokratischen Grundverständnis zuwider läuft.“

„Der Einsatz von biometrischer Fernidentifikation in öffentlich zugänglichen Räumen bedeutet das Ende der Anonymität an diesen Orten“, sagen Andrea Jelinek, Vorsitzende des EDPB und Wojciech Wiewiórowski vom EDPS. „Anwendungen wie die Live-Gesichtserkennung greifen in die Grundrechte und -freiheiten in einem solchen Ausmaß ein, dass sie das Wesen dieser Rechte und Freiheiten in Frage stellen können.“

Ein generelles Verbot des Einsatzes von Gesichtserkennung in öffentlich zugänglichen Bereichen sei der notwendige Ausgangspunkt, wenn wir unsere Freiheiten bewahren und einen menschenzentrierten Rechtsrahmen für KI schaffen wollten, so die Datenschützer:innen weiter.

Die EU-Kommission hatte im April einen ersten Gesetzentwurf zur Regulierung von KI-Anwendungen vorgelegt. Den Bereich der internationalen Zusammenarbeit in der Strafverfolgung hatte der Entwurf explizit ausgeklammert. Darüber sind EDPS und EDPB „besorgt“, heißt es in der Stellungnahme.

Stärkere Orientierung an geltenden Datenschutzregeln

Dass die EU sich grundsätzlich der Thematik widmet, begrüßen die beiden Datenschutz-Institutionen. Der Entwurf basiert auf einer Einteilung verschiedener KI-Anwendungen in verschiedene Risikotypen, die dann je nach Höhe des Risikos auf Grundrechte unterschiedlich stark reguliert werden sollen. Grundsätzlich befürworten die EU-Datenschützer:innen diesen Ansatz. Sie fordern jedoch, dass dieses Risiko auf Grundrechte an den EU-Datenschutzrahmen angepasst werden sollte.

Das Gesetz müsse außerdem stärker betonen, dass es bereits geltende Regeln für den Einsatz von KI durch die Datenschutzgrundverordnung (DSGVO) und andere EU-Datenschutzvorschriften gibt. Wenn automatisierte Entscheidungssysteme personenbezogene Daten verarbeiten, gelte schließlich die DSGVO.

Die Kommission plant, dass nationale Datenschutzbehörden zuständige Aufsichtsbehörden für die Anwendung der neuen Verordnung werden sollen. Auch diesen Vorschlag befürworten EDPS und EDPB. Allerdings will die Kommission auch sich selbst eine wichtige Rolle im „European Artificial Intelligence Board“ zuschreiben. „Das widerspricht dem Bedürfnis eines europäischen KI-Gremiums, das unabhängig von politischem Einfluss ist“, so die Datenschützer:innen. Sie verlangen, dass das Gremium mehr Autonomie bekommen soll, damit es aus eigener Initiative handeln kann.

Weltweit Widerspruch gegen biometrische Überwachung

Gegen den Einsatz biometrischer Überwachungssysteme regt sich weltweit Widerstand. Über 175 namhafte zivilgesellschaftliche Organisationen, Wissenschaftler:innen und Aktivist:innen forderten zuletzt in einem offenen Brief ein weltweites Verbot von biometrischer Überwachung im öffentlichen Raum.

Die Kritik ist dabei ähnlich wie die der EU-Datenschützer:innen. So heißt es in der Erklärung: „Einige Überwachungstechnologien sind so gefährlich, dass sie unweigerlich weit mehr Probleme verursachen, als sie lösen. Der Einsatz von Gesichtserkennung und biometrischen Technologien in öffentlich zugänglichen Räumen ermöglicht Massenüberwachung und diskriminierende gezielte Überwachung“, heißt es in der Erklärung. Das Missbrauchspotenzial dieser Technologien sei zu groß und die Folgen zu schwerwiegend.

12 Ergänzungen

  1. Ich bin da voll und ganz auf der Seite der Autoren von Netzpolitik.
    Einen Überwachungsstaat wie China brauchen wir nicht in Deutschland.
    Und wer garantiert uns, dass nicht trotzdem Dritte oder Polizisten das System missbrauchen können? Ich hoffe nur dass dieser Artikel mehr Leser erhält.

  2. Danke für den guten Artikel. Aber: Es sind nicht „zwei“ Datenschutzbehörden, sondern der Europäische Datenschutzausschuss (EDSA, englisch EDPB) besteht aus den Datenschutzbehörden aller EU-Mitgliedstaaten.

      1. In der Unterüberschrift steht jetzt „zwei EU Datenschutzinstitutionen“, ist das die Korrektur? Finde ich irreführend, da es auf EU-Ebene keine weiteren Datenschutzinstitutionen gibt.

        Der Europäische Datenschutzbeauftragte (EDSB, englisch EDPS) ist übrigens Teil des EDPB. Daher war es auch eine paradoxe Situation, dass die KOM eine gemeinsame Stellungnahme von „EDPS und EDPB“ angefordert hat.

        Jedenfalls haben die Datenschutzbehörden der 27 Mitgliedsstaaten der EU (!) und der EDPS gemeinsam an der Stellungnahme gearbeitet und sie nach dem Mehrheitsprinzip verabschiedet. Dies wird in dem Artikel noch nicht deutlich. Ist aber aus meiner Sicht von Bedeutung. Denn dass eine so starke Position dabei heraus gekommen ist, war bei dem großen innenpolitischen Druck in vielen Mitgliedsstaaten nicht selbstverständlich.

        1. @Savanna: Der EDSB ist formal auch eine Behörde und somit neben dem Ausschuss eine weitere Behörde – mehrzahl wäre somit korrekt!

          1. An der Mehrzahl hatte ich nichts auszusetzen. Es hätte den/die Leser:in aber besser informiert, wenn erklärt worden wäre, wie sich der Europäische Datenschutzausschuss zusammensetzt. Nämlich aus den Datenschutzbehörden aller EU-Mitgliedsstaaten (sowie weiterer Akteure wie Datenschutzbehörden aus EEA Staaten, aber die haben kein Stimmrecht).

            Dann wäre deutlich geworden, dass es sich hier nicht nur um zwei singuläre Akteure handelt, die ein (sehr weitreichendes) Verbot von Gesichtserkennung an öffentlichen Orten fordern. Sondern dass alle EU-weit relevanten Akteure aus der Datenschutzaufsicht dieses Verbot fordern.

  3. s.a. CDU-Wahlprogramm, Zeilen 3803-3809:
    „intelligenten Videoschutz weiter ausbauen“, KI, Voraussetzungen für „automatisierte Gesichtserkennung“ schaffen.

  4. Au Backe! Wenn es heißt „Die Kommission plant, dass nationale Datenschutzbehörden zuständige Aufsichtsbehörden für die Anwendung der neuen Verordnung werden sollen.“, dann sind damit hoffentlich nicht unsere Landesdatenschutzbeauftragten gemeint. Hier in Nordrhein-Westfalen ist die LfD schon jetzt so unterbesetzt und unterfinanziert, dass sie offensichtlich handlungsunfähig geworden ist.

  5. Gesichtserkennung ohne Einverständnis wird auch bei Optikern betrieben.
    Den Pupillenabstand kann jeder Gehilfe messen, aber bei der digitalen Methode werden ganz nebenbei Bilder von Kunden gemacht und ausgewertet, welche Brillenmodelle vom Optiker angeboten bekommen. Daten werden zu externen Servern übertragen. Kein Kläger – kein Richter.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.