Überwachung

Amazon will umstrittene Software für Gesichtserkennung an US-Grenzpolizei verkaufen

Amazons „Rekognition“ soll nach Wunsch des Konzerns der gefürchteten Behörde ICE bei der Identifizierung von EinwandererInnen helfen. Trotz des Protestes von Angestellten hält Firmenchef Jeff Bezos an den Plänen fest.

Eine Figur aus Amazon Pappkartons
Amazon vermarktet seine Gesichtserkennungssoftware „Rekognition“ an die US-amerikanische Regierung Gemeinfrei-ähnlich freigegeben durch unsplash.com Hello I’m Nik

Amazon will seine umstrittene Gesichtserkennungssoftware „Rekognition“ an die US-Polizeibehörde ICE verkaufen. Das bestätigte zuletzt ein Sprecher des Onlinehandel- und Datenkonzerns. Die Software soll der Behörde bei der Identifizierung von EinwanderInnen helfen.


netzpolitik.org - ermöglicht durch Dich.

Amazon könnte damit bald eines der umstrittensten Vorhaben der Regierung von Präsident Donald Trump unterstützen. Das ICE ist eine Polizeibehörde des Ministeriums für Heimatschutz. Sie soll die USA vor illegaler Migration schützen. Seit Juni geht das ICE als Teil der harten Einwanderungspolitik Trumps aktiv gegen Minderjährige an der mexikanischen Grenze vor. Seither landeten vermutlich bis zu 3.000 Kinder von ihren Familien getrennt in Gewahrsam.

Die Software, von der Amazon selbst angibt, sie könne Millionen von Gesichtern speichern und erkennen, funktioniert allerdings nicht einwandfrei. Die Bürgerrechtsorganisation ACLU testete „Rekognition“ vor kurzem an Fotos aller US-amerikanischen Kongress-Abgeordneten. Dabei identifizierte die Software 28 Abgeordnete mit größtenteils dunkler Hautfarbe fälschlich als wegen Straftaten Festgenommene aus einer Polizeidatenbank.

Der Fall unterstreicht die Bedenken gegen solche Software: Denn Technologie kann bereits bestehenden Rassismus und Diskriminierung weiter verstärken. Wenn Gesichtserkennung mehr Mühe hat, nicht-weiße Menschen zu identifizieren, bedeutet das für die Betroffenen stärkere Überwachung und Kontrolle.

Bereits im Juni hatte sich Amazon mit VertreterInnen des ICE getroffen, wie nun bekannt wurde. Kritiker fürchten, eine Ausstattung der Behörde mit der „Rekognition“-Software von Amazon führe dazu, dass undokumentierte EinwandererInnen lebenswichtige Einrichtungen wie Krankenhäuser oder Beratungsstellen aus Angst vor automatisierter Überwachung meiden. Derzeit gibt es laut eines Sprechers des ICE noch keinen konkreten Vertrag mit Amazon. Die Software wird bereits von zwei Polizeibehörden in den US-Staaten Oregon und Orlando eingesetzt.

Jeff Bezos bleibt gelassen

Amazon-Angestellte protestieren gegen den Verkauf von Rekognition an ICE. Ein offener Brief sammelt Einwände und richtete sich direkt an Firmenchef Jeff Bezos. Bisher unterzeichneten 450 MitarbeiterInnen das Schreiben. Ein Mitarbeiter von Amazon, der anonym bleiben will, kommentierte den Brief in einem Blogpost und gab Details zu dessen Inhalt. Er verwies auf die Bedenken gegen die gesellschaftlichen Konsequenzen, die der Einsatz der Gesichtserkennungssoftware nach sich zieht. Zudem formulierte er klare Einwände gegen die verantwortungslose Rolle, die Amazon dabei spielt. Aus dem Kommentar des Angestellten:

Die aktuelle politische Lage macht die Idee, Gesichtserkennungstechnik an die Regierung zu verkaufen, noch bedenklicher. Die Polizei hat die Überwachung nicht-weißer AktivistInnen verstärkt. Die Trump-Regierung setzt ihren breiten Angriff auf EinwandererInnen fort. Zu diesen aufgeladenen Überwachungsmaßnahmen wollen wir nichts beitragen. Wenn Amazon sagt, dass wir von unseren ‚Rekognition‘-KundInnen verlangen, dass sie sich an das Gesetz halten, ist das in keinster Weise eine Garantie für Bürgerrechte – viel eher ziehen sie sich dadurch aus der Verantwortung, wenn die Software für negative Zwecke eingesetzt wird.

Auch bei anderen Tech-Firmen wehren sich ArbeitnehmerInnen gegen Überwachungsprojekte. Vor einigen Monaten protestierten Google-MitarbeiterInnen öffentlich gegen die Unterstützung des Konzerns für ein Drohnenprojekt des US-Militärs. Auf den Druck hin kündigte Google die Zusammenarbeit auf.

Amazon-Chef Bezos machte zuletzt deutlich, dass er über die Bedenken seiner Angestellten sehr wohl im Bilde ist. Doch inhaltlich ging er bisher nicht darauf ein. „Einer der Aufgaben der Firmenführung ist es, die richtigen Entscheidungen zu treffen, auch wenn sie unpopulär sind“, erklärte Bezos. Amazon steuert damit weiter auf Überwachungskurs.

5 Kommentare
  1. Warum nur bevorzugt der reichste Mensch auf diesem Planeten, Jeff Bezos, noch so viele „Gutmenschen“ in seinem Unternehmen? Sie laufen zwar schon mit Inkontinenz-Windeln in den Amazon-Lagern, aber dann ertragen sie das kaltblütige Geschäft mit der ICE-Behörde doch nicht.

    Diese undankbaren Mitarbeiter müssen schnellstens weg-digitalisiert werden, denn Roboter würden sich nicht mehr in „unpopuläre Firmenentscheidungen“ einmischen und auch keinen Betriebsrat gründen.

    Und das alles hat rein gar nix mit Politik zu tun. Und nein, es geht auch überhaupt nicht um Rendite und steuerfreie Gewinne. Es geht einzig darum, dem Fortschritt durch intelligente Technologie zum Durchbruch zu verhelfen, und dabei sind menschliche Moral und Ethik-Kommissionen so was von hinderlich.

    Das Bit an sich ist weder gut noch böse, aber es kennt den Unterschied zwischen true und false.

    Frage an die künstliche Intelligenz: Braucht der Planet überflüssige und technophobe Menschen?

    Siehste!

  2. Anscheinend will die EU Lügendetektortests and den EU-Aussengrenzen einsetzen. Entsprechende Tests mit der Software iBorderCtrl würden bald in Ungarn, Lettlandund und Griechenland gestartet. Die KI läuft über Gesichtserkennung und soll die Mimik überwachen.
    Quelle:https://www.futurezone.de/netzpolitik/article215696781/Luegendetektor-sollen-an-EU-Aussengrenze-eingesetzt-werden.html

    Ich habe bis jetzt noch nichts darüber woanders gelesen.
    @Netzpolitik-Team: Wär das nicht ein Topic für ne Recherche?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.