Ethik

IBM stellt sich gegen Gesichtserkennungstechnologie

Das Unternehmen IBM wendet sich in deutlichen Worten gegen den Einsatz von Gesichtserkennung und steigt selbst aus der Technologie aus. Zu verdanken ist das auch schwarzen Wissenschaftlerinnen, welche die Probleme der Technologie erforschten.

Werbung für Gesichtserkennung von NEC
Das Unternehmen NEC bewirbt ihre Gesichtserkennungstechnologie mit Bildern wie diesem. CC-BY 2.0 NEC Corporation of America

Das Unternehmen IBM steigt unter dem Eindruck der Massenproteste gegen Rassismus und Polizeigewalt aus der Gesichtserkennung aus, das verkündete Firmen-CEO Arvind Krishna am Montag in einem Brief an US-Abgeordnete und -Senatoren. Dort heißt es, dass sich IBM „entschieden gegen die Nutzung jeglicher Gesichtserkennungstechnologie [..] zur Massenüberwachung, zur Erstellung von ethnischen Profilen und zur Verletzung grundlegender Menschenrechte und -freiheiten“ wende.

Es sei an der Zeit, einen Dialog in den Vereinigten Staaten darüber zu beginnen, ob und wie die Technologie von den inländischen Strafverfolgungsbehörden eingesetzt werden sollte, heißt es weiter in dem Schreiben. Laut einem Bericht von CNBC hat IBM selbst bisher keine großen Umsätze mit Gesichtserkennung gemacht, das Unternehmen arbeitete jedoch an mehreren Projekten zu der Technologie. Das Statement des großen Konzerns ist ein deutliches und sichtbares Zeichen.

Jahrelange Debatte

Der Entscheidung von IBM ist eine jahrelange Debatte über rassistischen Bias von Algorithmen und Gesichtserkennung vorausgegangen. Schwarze Wissenschaftlerinnen wie Joy Buolamwini oder Timnit Gebru hatten das Thema erforscht und in Projekten wie Gender Shades und Vorträgen darauf hingewiesen. Auch IBM forschte dazu, Gesichtserkennung „fairer“ zu machen. In den USA haben Städte wie San Francisco begonnen, die Nutzung von Gesichtserkennung zu verbieten. In der Debatte um das Verbot wurde Gesichtserkennung eine „gefährliche Waffe“ genannt.

An Gesichtserkennung gibt es viele problematische Gesichtspunkte: In China bewarb zum Beispiel das Unternehmen HikVision seine Technologie zur ethnischen Erkennung der uigurischen Minderheit. Zuletzt hatte das Unternehmen Clearview AI für einen Aufschrei gesorgt, weil es millionenfach Bilder aus dem Netz ausgewertet hatte. Lädt man ein Bild in die App hoch, rechnet diese das Gesicht in ein mathematisches Modell um und gleicht es mit allen anderen Modellen in der Datenbank ab. So ließen sich Personen identifizieren, zu den Kunden des Unternehmens gehörten unter anderem mehrere US-Behörden. Eine Katastrophe für den Datenschutz.

Gesichtserkennung bedroht aber auch das Grundrecht auf Versammlungsfreiheit: Mit heutiger Gesichtserkennungstechnologie haben Sicherheitsbehörden die technische Möglichkeit, innerhalb kürzester Zeit Teilnehmerlisten von Demonstrationen zu erstellen.

Gesichtserkennung wird in Deutschland häufig genutzt

Bei der Bundespolizei hat sich die Nutzung der Gesichtserkennung in der INPOL-Datei verdreifacht, Bundesinnenminister Horst Seehofer forderte eine Ausweitung der Technologie und wollte diese an mehr als 100 Flug- und Bahnhöfen einsetzen. Nach Protesten strich das Ministerium das Vorhaben. Gegen die Technologie setzt sich unter anderem das Bündnis „Gesichtserkennung stoppen!“ ein, dem zahlreiche Digital- und Bürgerrechtsorganisationen angehören.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.