Gesichtserkennung von Amazon verwechselte US-Abgeordnete mit Verdächtigen

Einfach verwechselt: Amazon-Software tut sich besonders bei nichtweißer Hautfarbe schwer – Alle Rechte vorbehalten ACLU

Amazons umstrittene Gesichtserkennungssoftware Rekognition hat in 28 Fällen die Gesichter von Kongressabgeordneten versehentlich als Verdächtige aus einer Datenbank festgenommener Amerikaner erkannt. Der grobe Fehlgriff der Software kam bei einem Test der Bürgerrechtsorganisation ACLU zutage. Rekognition wird Polizeibehörden zur Identifikation von gesuchten Straftätern angeboten und kommt in der Metropole Orlando bereits zum Einsatz. Die Bürgerrechtler glichen Bildern der insgesamt 535 Abgeordneten in Senat und Repräsentantenhaus mit der Datenbank ab, dabei produzierte Rekognition Fehlerkennungen bei Politikern aller Ethnien und Altersgruppen.

Besonders viele Schnitzer leistete sich die Software allerdings bei bestimmten Gruppen, berichtet ACLU:

Die falschen Übereinstimmungen betrafen übermäßig oft Menschen nichtweißer Hautfarbe […] Die Resultate zeigen, warum der Kongress die ACLU dabei unterstützen sollte, ein Moratorium für den Einsatz von Gesichtserkennung durch die Strafverfolgungsbehörden zu fordern. […] Eine Identifikation [durch die Software] – ob sie nun stimmt oder nicht – kann Menschen ihr Leben oder ihre Freiheit kosten.

No Tracking. No Paywall. No Bullshit.

Unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze jetzt unsere Arbeit mit einer Spende.

Jetzt spenden

5 Ergänzungen

  1. Sicher das es eine „Fehlerkennung“ war?

    Sobald keine Hardliner der Konservativen, sondern nur Demokraten und gemäßigte Republikaner unter Fehlerkennungen waren, dann sind es keine Fehler!
    Dann sollen sie bei harmlosen Verkehrskontrollen „mehr“ überprüft werden, als andere US-Bürger!
    Diese Abgeordneten werden das als Schikane werten und entsprechend darüber echauffieren https://www.duden.de/suchen/dudenonline/echauffieren !
    Die Polizisten werden entsprechend reagieren, wenn ein mutmaßlicher „Verbrecher“ anfängt zu gestikulieren!
    Ich rechne Alsbald mit Toten!

    1. Retrokognition!
      Das passt wie die Faust aufs Auge!
      Es ist (aktuell) nichts weiter als Hellsehen aufgrund vergangener, personengebundener Ereignisse!

  2. Was ist dran am Einwand Amazons, der für den Test eingestellte Treffer-Schwellwert von 80% wäre nicht geeignet, um Menschen zu identifizieren? Weiß wer Genaueres?

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.