Gesichtserkennung von Amazon verwechselte US-Abgeordnete mit Verdächtigen

Einfach verwechselt: Amazon-Software tut sich besonders bei nichtweißer Hautfarbe schwer Alle Rechte vorbehalten ACLU

Amazons umstrittene Gesichtserkennungssoftware Rekognition hat in 28 Fällen die Gesichter von Kongressabgeordneten versehentlich als Verdächtige aus einer Datenbank festgenommener Amerikaner erkannt. Der grobe Fehlgriff der Software kam bei einem Test der Bürgerrechtsorganisation ACLU zutage. Rekognition wird Polizeibehörden zur Identifikation von gesuchten Straftätern angeboten und kommt in der Metropole Orlando bereits zum Einsatz. Die Bürgerrechtler glichen Bildern der insgesamt 535 Abgeordneten in Senat und Repräsentantenhaus mit der Datenbank ab, dabei produzierte Rekognition Fehlerkennungen bei Politikern aller Ethnien und Altersgruppen.


netzpolitik.org - ermöglicht durch Dich.

Besonders viele Schnitzer leistete sich die Software allerdings bei bestimmten Gruppen, berichtet ACLU:

Die falschen Übereinstimmungen betrafen übermäßig oft Menschen nichtweißer Hautfarbe […] Die Resultate zeigen, warum der Kongress die ACLU dabei unterstützen sollte, ein Moratorium für den Einsatz von Gesichtserkennung durch die Strafverfolgungsbehörden zu fordern. […] Eine Identifikation [durch die Software] – ob sie nun stimmt oder nicht – kann Menschen ihr Leben oder ihre Freiheit kosten.

Weitersagen und Unterstützen. Danke!
5 Kommentare
  1. Sicher das es eine „Fehlerkennung“ war?

    Sobald keine Hardliner der Konservativen, sondern nur Demokraten und gemäßigte Republikaner unter Fehlerkennungen waren, dann sind es keine Fehler!
    Dann sollen sie bei harmlosen Verkehrskontrollen „mehr“ überprüft werden, als andere US-Bürger!
    Diese Abgeordneten werden das als Schikane werten und entsprechend darüber echauffieren https://www.duden.de/suchen/dudenonline/echauffieren !
    Die Polizisten werden entsprechend reagieren, wenn ein mutmaßlicher „Verbrecher“ anfängt zu gestikulieren!
    Ich rechne Alsbald mit Toten!

    1. Retrokognition!
      Das passt wie die Faust aufs Auge!
      Es ist (aktuell) nichts weiter als Hellsehen aufgrund vergangener, personengebundener Ereignisse!

  2. Was ist dran am Einwand Amazons, der für den Test eingestellte Treffer-Schwellwert von 80% wäre nicht geeignet, um Menschen zu identifizieren? Weiß wer Genaueres?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.