EthikIBM stellt sich gegen Gesichtserkennungstechnologie

Das Unternehmen IBM wendet sich in deutlichen Worten gegen den Einsatz von Gesichtserkennung und steigt selbst aus der Technologie aus. Zu verdanken ist das auch schwarzen Wissenschaftlerinnen, welche die Probleme der Technologie erforschten.

Werbung für Gesichtserkennung von NEC
Das Unternehmen NEC bewirbt ihre Gesichtserkennungstechnologie mit Bildern wie diesem. CC-BY 2.0 NEC Corporation of America

Das Unternehmen IBM steigt unter dem Eindruck der Massenproteste gegen Rassismus und Polizeigewalt aus der Gesichtserkennung aus, das verkündete Firmen-CEO Arvind Krishna am Montag in einem Brief an US-Abgeordnete und -Senatoren. Dort heißt es, dass sich IBM „entschieden gegen die Nutzung jeglicher Gesichtserkennungstechnologie [..] zur Massenüberwachung, zur Erstellung von ethnischen Profilen und zur Verletzung grundlegender Menschenrechte und -freiheiten“ wende.

Es sei an der Zeit, einen Dialog in den Vereinigten Staaten darüber zu beginnen, ob und wie die Technologie von den inländischen Strafverfolgungsbehörden eingesetzt werden sollte, heißt es weiter in dem Schreiben. Laut einem Bericht von CNBC hat IBM selbst bisher keine großen Umsätze mit Gesichtserkennung gemacht, das Unternehmen arbeitete jedoch an mehreren Projekten zu der Technologie. Das Statement des großen Konzerns ist ein deutliches und sichtbares Zeichen.

Jahrelange Debatte

Der Entscheidung von IBM ist eine jahrelange Debatte über rassistischen Bias von Algorithmen und Gesichtserkennung vorausgegangen. Schwarze Wissenschaftlerinnen wie Joy Buolamwini oder Timnit Gebru hatten das Thema erforscht und in Projekten wie Gender Shades und Vorträgen darauf hingewiesen. Auch IBM forschte dazu, Gesichtserkennung „fairer“ zu machen. In den USA haben Städte wie San Francisco begonnen, die Nutzung von Gesichtserkennung zu verbieten. In der Debatte um das Verbot wurde Gesichtserkennung eine „gefährliche Waffe“ genannt.

An Gesichtserkennung gibt es viele problematische Gesichtspunkte: In China bewarb zum Beispiel das Unternehmen HikVision seine Technologie zur ethnischen Erkennung der uigurischen Minderheit. Zuletzt hatte das Unternehmen Clearview AI für einen Aufschrei gesorgt, weil es millionenfach Bilder aus dem Netz ausgewertet hatte. Lädt man ein Bild in die App hoch, rechnet diese das Gesicht in ein mathematisches Modell um und gleicht es mit allen anderen Modellen in der Datenbank ab. So ließen sich Personen identifizieren, zu den Kunden des Unternehmens gehörten unter anderem mehrere US-Behörden. Eine Katastrophe für den Datenschutz.

Gesichtserkennung bedroht aber auch das Grundrecht auf Versammlungsfreiheit: Mit heutiger Gesichtserkennungstechnologie haben Sicherheitsbehörden die technische Möglichkeit, innerhalb kürzester Zeit Teilnehmerlisten von Demonstrationen zu erstellen.

Gesichtserkennung wird in Deutschland häufig genutzt

Bei der Bundespolizei hat sich die Nutzung der Gesichtserkennung in der INPOL-Datei verdreifacht, Bundesinnenminister Horst Seehofer forderte eine Ausweitung der Technologie und wollte diese an mehr als 100 Flug- und Bahnhöfen einsetzen. Nach Protesten strich das Ministerium das Vorhaben. Gegen die Technologie setzt sich unter anderem das Bündnis „Gesichtserkennung stoppen!“ ein, dem zahlreiche Digital- und Bürgerrechtsorganisationen angehören.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

0 Ergänzungen

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.