Gesichtserkennung von Amazon verwechselte US-Abgeordnete mit Verdächtigen

Einfach verwechselt: Amazon-Software tut sich besonders bei nichtweißer Hautfarbe schwer Alle Rechte vorbehalten ACLU

Amazons umstrittene Gesichtserkennungssoftware Rekognition hat in 28 Fällen die Gesichter von Kongressabgeordneten versehentlich als Verdächtige aus einer Datenbank festgenommener Amerikaner erkannt. Der grobe Fehlgriff der Software kam bei einem Test der Bürgerrechtsorganisation ACLU zutage. Rekognition wird Polizeibehörden zur Identifikation von gesuchten Straftätern angeboten und kommt in der Metropole Orlando bereits zum Einsatz. Die Bürgerrechtler glichen Bildern der insgesamt 535 Abgeordneten in Senat und Repräsentantenhaus mit der Datenbank ab, dabei produzierte Rekognition Fehlerkennungen bei Politikern aller Ethnien und Altersgruppen.

Besonders viele Schnitzer leistete sich die Software allerdings bei bestimmten Gruppen, berichtet ACLU:

Die falschen Übereinstimmungen betrafen übermäßig oft Menschen nichtweißer Hautfarbe […] Die Resultate zeigen, warum der Kongress die ACLU dabei unterstützen sollte, ein Moratorium für den Einsatz von Gesichtserkennung durch die Strafverfolgungsbehörden zu fordern. […] Eine Identifikation [durch die Software] – ob sie nun stimmt oder nicht – kann Menschen ihr Leben oder ihre Freiheit kosten.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

5 Ergänzungen
  1. Sicher das es eine „Fehlerkennung“ war?

    Sobald keine Hardliner der Konservativen, sondern nur Demokraten und gemäßigte Republikaner unter Fehlerkennungen waren, dann sind es keine Fehler!
    Dann sollen sie bei harmlosen Verkehrskontrollen „mehr“ überprüft werden, als andere US-Bürger!
    Diese Abgeordneten werden das als Schikane werten und entsprechend darüber echauffieren https://www.duden.de/suchen/dudenonline/echauffieren !
    Die Polizisten werden entsprechend reagieren, wenn ein mutmaßlicher „Verbrecher“ anfängt zu gestikulieren!
    Ich rechne Alsbald mit Toten!

    1. Retrokognition!
      Das passt wie die Faust aufs Auge!
      Es ist (aktuell) nichts weiter als Hellsehen aufgrund vergangener, personengebundener Ereignisse!

  2. Was ist dran am Einwand Amazons, der für den Test eingestellte Treffer-Schwellwert von 80% wäre nicht geeignet, um Menschen zu identifizieren? Weiß wer Genaueres?

Ergänzung an Ohm Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.