Regulieren oder verbieten? : Wie Unternehmen und Politik in den USA um Regeln für Gesichtserkennung ringen

Nach den US-Bundesstaaten New Hampshire und Oregon soll nun auch in Kalifornien der Einsatz von Technologien zur Gesichtserkennung in Body-Cams verboten werden. Kalifornien wäre damit der dritte und bisher größte Bundesstaat, der ein solches Gesetz verabschiedet. San Francisco erschwerte bereits im Mai als erste US-amerikanische Stadt nicht nur die Anschaffung von Überwachungstechnologien, sondern verbat die Anwendung von automatisierter Gesichtserkennung für städtische Behörden komplett. Auch in Washington und Massachusetts liegen bereits konkrete Gesetzesentwürfe für solche Verbote vor.

Widerstand der Bundesstaaten und Städte

Die Eigeninitiative der Städte und Bundesstaaten zeigt, wie sich auf niedrigerer politischer Ebene Widerstand gegen die Tendenzen der nationalen Regierung regt, Überwachung und Kontrolle im Namen der Sicherheit über die Privatsphäre zu stellen. US-Präsident Donald Trump schränkt mit seiner Politik nicht nur die Rechte von Migrant*innen ein und fördert mit seiner rassistischen Ausdrucksweise rechten Terror und rassistische Polizeigewalt. Seine Administration hat außerdem offensichtlich kein Problem mit der Einführung neuer oder Beibehaltung alter Überwachungsmaßnahmen oder der geheimen Überwachung von Journalist*innen und Menschenrechtler*innen.

Der aktuelle Vorschlag in Kalifornien geht auf eine Initiative der Bürgerrechtsorganisation ACLU (American Civil Liberties Union) zurück, eine der bekanntesten Organisationen, die sich landesweit für Verbote von Überwachungstechnologien einsetzt. Gemeinsam mit dem Abgeordneten Phil Ting brachte ACLU jetzt den Gesetzesvorschlag vor den kalifornischen Senat, der nun auch in diesem Bundesstaat die Anwendung von automatisierter Gesichtserkennung verbieten soll.

Fehlerhaftigkeit der Software

In einer Pressekonferenz am 13. August (Video) begründete Ting den Schritt auch damit, dass zuvor in einem von ACLU durchgeführten Test einer von fünf kalifornischen Abgeordneten von einer gängigen Software fälschlicherweise als Verbrecher erkannt wurde. Einen ähnlichen Test hatte ACLU im vergangenen Jahr bereits mit US-Kongressabgeordneten durchgeführt. ACLU nutzte dazu die von Amazon entwickelte Software „Rekognition“, die bereits von US-amerikanischen Polizeien verwendet wird, und glich die Bilder der Politiker*innen mit einer öffentlich zugänglichen Datenbank für verurteilte Straftäter*innen ab.

Was besonders auffällt: Fast die Hälfte der falsch erkannten Abgeordneten sind People of Colour, obwohl diese nur 20 Prozent der Abgeordneten ausmachen. Die Anwendung diskriminierender und fehlerhafter Algorithmen durch die Polizei und durch staatliche Institutionen kann Ting zufolge schwerwiegende Folgen für Betroffene haben: Wer einmal verhaftet wurde, findet nur noch schwer eine Wohnung oder einen Job. Bürgerrechtler*innen argumentieren außerdem, dass der Einsatz der Technologie selbst dann einen schwerwiegender Eingriff in die Privatsphäre der Bevölkerung darstelle, wenn die Software Bilder von Verdächtigen mit denen einer Datenbank einwandfrei abgleichen könnte.

Selbstverpflichtung von Unternehmen

Nicht nur Datenschützer*innen und politische Akteur*innen setzen sich für eine strenge gesetzliche Regulierung automatisierter Gesichtserkennung ein. Auch einige der Unternehmen, die solche Technologien entwickeln und verkaufen, mischen hier mit. So rief Microsoft im Juli 2018 zu bundesweiter Regulierung auf und berief sich auf die von Gesichtserkennungstechnologien ausgehenden Gefahren für die Bürgerrechte. Die Wissenschaftlerin Joy Buolamwini, die am MIT zu Gesichtserkennung forscht, hatte zuvor nachgewiesen (Video), dass unter anderem die von Microsoft angebotene Software People of Colour und Frauen wesentlich fehlerhafter identifiziert als weiße Männer.

Ein halbes Jahr später veröffentlichte Microsofts Präsident Brad Smith eine freiwillige Selbstverpflichtung zum verantwortungsvollen Umgang mit der Technologie. Aus Sicht des Konzerns ist dies ein strategischer Schritt, schrieb die New York Times zu diesem ungewöhnlichen vorstoß. Während die Unternehmen des Silicon Valley wegen Verstößen gegen Datenschutz, der Verbreitung von Fake News und anderen Vergehen ins Kreuzfeuer geraten, wolle Microsoft sich als moralischer Vorreiter positionieren. Aber auch aus ökonomischer Sicht ist der Vorstoß sinnvoll: Eine Technologie, die so viel Skepsis hervorruft wie derzeit die Gesichtserkennung, kann auch nicht richtig vermarktet werden. Microsoft würde also davon profitieren, wenn das Vertrauen wächst – und dazu tragen gesetzliche Regulierungen bei.

Dass Microsoft allerdings durchaus nicht jede Form von Regulierung befürwortet, zeigte sich Anfang des Jahres in Washington State. Einen dortigen, unter anderem von ACLU entworfenen Gesetzesentwurf versuchte der Konzern aktiv zu verhindern, weil er ihn für zu restriktiv hielt. Er befürwortete stattdessen eine laxere Regelung, die sich weitgehend an den vorhergegangenen Vorschlägen von Smith orientierte. Mittlerweile liegt dem Senat ein neuer, von Microsoft unterstützter Entwurf vor.

Amazon braucht keine Gesetzesgrundlagen

Amazon bietet der US-Regierung Überwachungstechnologien zur automatisierten Gesichtserkennung aktiv an. Ihre Gesichtserkennungssoftware „Rekognition“ bewarb der Konzern letztes Jahr erfolgreich für den Einsatz durch die Regierung und die Polizei. So wurde die Technologie neben der Anwendung in Body-Cams Anfang 2018 auch dem Immigration and Customs Enforcement angeboten. Die amerikanische Polizeibehörde, die zuletzt wegen ihrer Auffanglager illegaler Einwanderer an der Grenze zu Mexiko und der Trennung von Kindern von ihren Eltern Aufmerksamkeit erregte, machte keine Angaben zur geplanten Nutzung von „Rekognition“.

Nach der wiederholten Kritik an der Technologie und einem offenen Brief von Bürger*innen, Mitarbeiter*innen und Politiker*innen mit der Bitte, den Verkauf von „Rekognition“ an Polizeien und staatliche Einrichtungen zu unterlassen, positionierte sich Amazon im Februar ähnlich wie Microsoft. Amazon unterstützt die gesetzliche Regulierung des Einsatzes von Gesichtserkennungstechnologien und fordert eine Anwendung im Einkklang mit dem Gesetz und dem Schutz der Bürgerrechte.

Allerdings müsse man auch Amazons Ankündigung kritisch sehen, schreibt WIRED. Amazon erkenne zwar, dass es Gründe zur Sorge und die Notwendigkeit klarer Regulierungen gebe, erkläre dies aber mit der falschen Benutzung der Technologie. Die Erkenntnisse hielten das Unternehmen auch nicht davon ab, US-amerikanische Polizeien mit dem Zugriff auf private, durch Amazons Heimüberwachungstechnik „Ring“ entstandene Überwachungsvideos bei ihrer Arbeit zu unterstützen.

Update: Mittlerweile wurde der vom Abgeordneten Ting und seinen Unterstützer*innen eingereichte Gesetzesentwurf angenommen. Der kalifornische Gouverneur Gavin Newsome unterschrieb das Gesetz, dass es der kalifornischen Polizei bis mindestens 2023 verbietet, „jegliches biometrische Überwachungssystem in Verbindung mit Polizeikameras oder durch solche Kameras gesammelte Daten zu installieren, zu aktivieren oder anzuwenden“. ACLU begrüßt das Gesetz als mutigen Schritt gegen die Ausbreitung staatlicher Überwachung.