Von wegen Künstliche IntelligenzIndische Arbeitskräfte steckten hinter Amazons smarten Supermarktkassen

Mit einem angeblich KI-basierten Bezahlsystem wollte Amazon das Einkaufen revolutionieren. Jetzt beendet der Konzern das Experiment „Just Walk Out“ in seinen Supermärkten, einem Bericht zufolge soll es bis heute nicht richtig funktionieren. Amazon widerspricht, doch der Fall verrät viel über die globale Arbeitsteilung hinter KI.

Foto von der Außenseite eines modern aussehenden Supermarktes mit dem Schriftzug "Amazon Fresh" in grünen Leuchtbuchstaben
Eröffnung eines Amazon Fresh Stores in Washington DC CC-BY-SA 2.0 Ted Eytan via Flickr, Zuschnitt: netzpolitik.org

Amazon beendet in seinen Fresh-Supermärkten den Einsatz des Bezahlsystems „Just Walk Out“. Darüber berichtete zuerst das US-Medium The Information [Paywall] und beruft sich dabei auf interne Dokumente von Amazon. Das angeblich KI-basierte Abrechnungssystem sei bis zuletzt stark von der manuellen Überprüfung der Einkäufe durch mehr als 1.000 Arbeiter:innen abhängig und so teuer gewesen, dass es sich nicht lohne.

Ein „reibungsloser Checkout“, das ist Amazons Versprechen für Just Walk Out. Der Name – auf Deutsch etwa „einfach Rausgehen“ – soll für die Kund:innen von Amazon-Fresh-Supermärkten Programm sein: Statt an der Kasse anzustehen und die Artikel händisch zu scannen oder scannen zu lassen, soll das System dank Videoüberwachung und RFID-Chips die Einkäufe automatisch erfassen und den Preis eigenständig abbuchen. Laut dem US-Magazin Gizmodo war die Technik in mehr als der Hälfte der über 40 Amazon-Fresh-Geschäfte in den USA und dem Vereinigten Königreich als Ergänzung zu klassischen Supermarktkassen im Einsatz.

Den Medienberichten zufolge erlebten Kund:innen allerdings häufig kein reibungsloses Einkaufserlebnis. Schon länger gab es Streit um die Rechte an der Nutzung der biometrischen Videoaufnahmen; oft hätten Kund:innen zudem ihre Rechnungen für die Einkäufe erst Stunden später erhalten. The Information schreibt nun, dass die Technik weniger weit entwickelt ist, als Amazon behauptet hatte. Ziel sei es eigentlich gewesen, dass der Konzern lediglich fünf Prozent aller Just-Walk-Out-Einkäufe händisch überprüfen lassen müsse. Im Jahr 2022 hätten jedoch volle 70 Prozent manuell überprüft werden müssen, so The Information.

Gegenüber Gizmodo widersprach der Konzern der Darstellung von The Information und betonte, dass die Arbeitskräfte nur „eine kleine Minderheit“ der Einkäufe hätten überprüfen müssen. Die vorrangige Rolle der Arbeiter:innen sei es gewesen, Videoaufnahmen mit den passenden Metadaten zu labeln, um das Machine-Learning-Modell hinter Just Walk Out zu verbessern.

Auf Anfrage von netzpolitik.org bittet die Amazon-Pressestelle darum, lediglich mit einem allgemeinen Statement zitiert zu werden, das Eigenlob über die verbesserte Einkaufserfahrung enthält. Der Konzern präsentiert darin auch einen anderen Grund für die Abkehr von Just Walk Out: Demnach sei der Wunsch von Kund:innen gewesen, „ihren Kassenbon während des Einkaufs zu sehen“.

Mehr als 1.000 indische Arbeitskräfte

Unbestritten bleibt die Aussage von The Information, dass die angeblich mehr als 1.000 Arbeitskräfte, die die Datenarbeit hinter Just Walk Out erledigt haben, bei einem Outsourcing-Unternehmen in Indien beschäftigt waren. Der Fall ist somit ein weiteres Beispiel für die verborgene menschliche Arbeitskraft hinter dem, was Tech-Unternehmen gerne als „Künstliche Intelligenz“ verkaufen.

2019 sorgte etwa eine Bloomberg-Recherche für Schlagzeilen, die aufdeckte, dass Amazon mehr 30.000 Arbeiter:innen in den USA, Costa Rica, Indien und Rumänien beschäftigte, um die sprachgesteuerte „KI“ Alexa auf Amazons Smart-Speaker Echo zu trainieren. Zu diesem Zweck hörten die outgesourcten Arbeitskräfte die Aufnahmen von Echo an, ohne dass die Nutzer:innen davon wussten. Auch die Videoaufnahmen von Amazons angeblich smarter Überwachungskamera Ring werden von regelmäßig von Arbeiter:innen händisch durchgeschaut. Ähnliche Berichte gibt es über den „intelligenten“ Sprachassistenten von Google.

Auch wenn Unternehmen ihre Dienste gerne als „Künstliche Intelligenz“ vermarkten, kommen viele von ihnen nicht ohne permanente menschliche Unterstützung aus. „Hinter den Anwendungen stehen Millionen von Menschen, die Inhalte moderieren und Trainingsdaten etikettieren“, berichtete 2023 die KI-Forscherin Milagros Micelli im Interview mit netzpolitik.org. „Sie helfen auch dabei, die Daten überhaupt zu generieren, indem sie Bilder hochladen und Worte einsprechen. Es gibt sogar Mitarbeiter:innen, die sich gegenüber Nutzer:innen als KI ausgeben.“

Die Anthropologin Mary L. Gray und der Informatiker Siddharth Suri nennen das „Geisterarbeit“: Die unsichtbare Tätigkeit von Millionen Menschen, die das Funktionieren moderner Technologie überhaupt erst ermöglicht. Kritiker:innen weisen darauf hin, dass dieses System der Arbeitsteilung hinter KI an koloniale Ausbeutung erinnert: Während die Tech-Konzerne überwiegend in den USA sitzen und mit ihren Diensten Milliardenumsätze machen, stammen die meisten Geisterarbeiter:innen aus Ländern des Globalen Südens, schuften unter problematischen Bedingungen und erhalten oft nicht mehr als einen Hungerlohn.

Wir haben Amazon nach dem Beschäftigungsstatus und dem Gehalt der indischen Arbeitskräfte hinter Just Walk Out gefragt und darauf keine Antwort erhalten.

„Panoptischer“ Supermarkt wird auch in Berlin getestet

Amazon Fresh ist der Versuch des mächtigen US-Konzerns, mit der Lebensmittelversorgung einen weiteren Markt für sich zu erobern. 2007 als Lebensmittel-Lieferdienst gestartet, eröffnete Amazon Fresh seit 2020 zahlreiche klassische vor-Ort-Supermärkte. 2017 übernahm Amazon die Supermarktkette Whole Foods, die in Nordamerika und dem Vereinigten Königreich hunderte Geschäfte betreibt. Erste eigene vor-Ort-Geschäfte betreibt der als Onlinehändler groß gewordene Konzern zudem bereits seit 2018 unter dem Namen Amazon Go. In diesen kleineren Läden bleibt Just Walk Out offenbar weiter im Einsatz. Gleiches gilt für Geschäfte von Dritten, die die Technik implementiert haben, etwa einige Souvenirläden, Freizeitparks und Krankenhäuser.

Bis heute wird Amazons Vorstoß in das Supermarktgeschäft vom Versprechen begleitet, das Einkaufserlebnis dank technischer Innovation grundlegend zu verbessern. In den Fresh-Geschäften wird Just Walk Out nun mit der nächsten angeblich bahnbrechenden Einkaufsinnovation ersetzt: „Wir führen Amazon Dash Cart ein, unseren smarten Einkaufswagen“, schreibt uns ein Amazon-Sprecher. Dash Carts sind Einkaufswägen mit Scanner und Bildschirm, bei denen die Kund:innen ihre Einkäufe während des Einkaufs scannen. Außerdem soll es in Amazon-Fresh-Läden ab sofort ganz normale Selbstbedienungskassen geben, wie sie auch in Supermärkten in Deutschland seit einigen Jahren im Einsatz sind.

In Deutschland betreibt Amazon keine Supermärkte. Doch auch hier experimentieren andere Ketten mit neuen Kassensystemen. Im Berliner Ortsteil Prenzlauer Berg etwa testet Rewe einen Supermarkt, der flächendeckend Bewegungen im Geschäft aufzeichnet und die Rechnung automatisiert zusammenstellt. Verschiedene Kund:innen sollen dabei unter anderem mithilfe der schematischen Darstellung ihres Knochenbaus auseinandergehalten werden – in unserem Bericht nannten wir es deshalb einen „panoptischen“ Supermarkt. In einer Testphase, so hieß es von Rewe, brauche auch dieses System noch menschliche Überprüfung.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

17 Ergänzungen

  1. Offenbar ist es immer noch Billiger einen „Schachtürken“ zu bauen und damit etwas vor zu gaukeln als wirkliche Automation zu Implementieren. Das ist einerseits eine Gute Nachricht (was KI angeht), andererseits zeigt es die Ungleichbehandlung auf die Arbeitnehmer immer wieder erfahren.
    Und eigentlich ist es nur Betrug am Kunden der mit Falschen und Überzogenen Versprechungen in den Laden gelockt werden soll. Aber was sollte man von einen Konzern wie Amazon auch anderes erwarten?

  2. > In den Fresh-Geschäften wird Just Walk Out nun mit der nächsten angeblich bahnbrechenden Einkaufsinnovation ersetzt: „Wir führen Amazon Dash Cart ein, unseren smarten Einkaufswagen“, schreibt uns ein Amazon-Sprecher. Dash Carts sind Einkaufswägen mit Scanner und Bildschirm, bei denen die Kund:innen ihre Einkäufe während des Einkaufs scannen.

    Also das ist nun wirklich nichts Bahnbrechendes. In Erfurt war ich vor ca. 2 Jahres im Globus-Supermarkt. Dort gab/gibt es Handscanner, mit denen die Kund:innen ihre Ware während des Einkaufs selbst scannnen können und am Ausgang an einem Terminal bezahlen. Der Unterschied mag sein, dass der Handscanner optional zum Einkaufswagen dazugenommen werden kann.

    1. Edeka hat in NRW Märkte, die den neuen Amazon-Carts zumindest ähnlich scheinen. Zahlung erfolgt hier an separaten Kassen.
      Stichwort EASY Shopper.

      1. Was ihr beide da erzählt, da rollen sich mir die Fußnägel hoch.

        Ich möchte einfach nur einen Wocheneinkauf machen. Ohne Videoüberwachung, ohne Skeletterkennung, ohne irgendwas.

        Ohne, dass ich mich zu einer Werbeinstrument verknechten lassen muss.

    2. Das ist der wirklich smarte Move: Anstatt die eigenen Mitarbeiter an der Kasse arbeiten zu lassen und sie dafür bezahlen zu müssen, lässt man nun die Kunden unbezahlt diese Arbeit erledigen und verkauft es ihnen noch als Fortschritt und Erleichterung.

      1. Und dabei ist es in Wahrheit zusätzlich zum Rückschritt für den Arbeitsmarkt auch noch ein Rückschritt bei der Bezahlung, denn diese Kassen sind für gewöhnlich mit Kartenzahlung.

        1. Rückschritt für den Arbeitsmarkt? Ja, durchaus. Hier werden Arbeitsplätze eingespart.
          Rückschritt für die Bezahlung? Kann man sehen wie man will. Zumindest bei Globus sind diese Selbstscan-Kassen für Barzahlung erweitert worden.
          Trotzdem muss man sich vorher anmelden um einen Scanner zu bekommen, so dass alle Einkaufsbewegungen analysiert werden können. Dazu kommt nun noch Payback, so dass man als Kunde immer gläserner wird.
          Jeder wie er wünscht/möchte…

          1. > Hier werden Arbeitsplätze eingespart.

            In Anlehnung an ein Zitat zur Börse: „Die Arbeitsplätze sind nicht weg. Sie sind nur an einem billigeren Ort.“

            > Dazu kommt nun noch Payback, so dass man als Kunde immer gläserner wird.

            Es geht halt nicht (in Wahrheit sehr wohl) zu 100 % ohne die Kunden zu nerven. („Sammeln Sie Punkte?“)

  3. Sagmamalso, es gibt im Bereich Design Thinking / Agile Prozesse schon die Situation, das man eine Funktion definiert, und solange man die Technologie nicht verfügbar hat, das durch manuelle Arbeit auszuführen. Um etwas über das Gesamtsystem zu lernen (also zB ob Kundinnen das benutzen würden).

    Das ist kein besonderer Fall und das es jetzt Amazon trifft, festzustellen, das die Technologie noch lange braucht ist eher schön, weil man das jetzt den AI Optimisten gemütlich aufs Brot schmieren kann.

    Denn AI löst in den seltensten Fällen Problem von Kundinnen.

    1. > Sag mama (lso), es gibt im Bereich Design Thinking / Agile Prozesse

      Mal abgesehen vom Neusprech, der meist beschönigen und euphorisieren soll, so wäre dies bis dahin noch einigermaßen akzeptabel. Das aber als „kein besonderer Fall“ herunter zu spielen, grenzt an kaum zu überbietender Bräsigkeit im Hinblick auf die stattfindende Ausbeutung durch super fette globale Konzerne.

      Es geht auch nicht um ein „aufs Brot schmieren“. Das was Amazon und andere schon auf dem Brot haben, türmt sich kilometerhoch. Es ist an der Zeit denen die zu leicht verdiente und kaum versteuerte Butter vom Brot zu nehmen und ihnen den Brotkorb höher zu hängen.

  4. > …, dass dieses System der Arbeitsteilung hinter KI an koloniale Ausbeutung erinnert

    Nur erinnert, und deshalb zu schwach. Indien hat seine koloniale Vergangenheit überwunden, und GB hat mittlerweile einen Premier indischer Abstammung (manche meinen süffisant, das sei die personifizierte späte und verdiente Rache an den Engländern).

    Womit wir es hier zu tun haben, ist jedoch eine neue Form von Ausbeutung, begangen in einem globalen Wirtschaftskontext durch High-Tech Konzerne und Dienstleistern. Doch wie passt hier der historische Begriff Kolonialismus dazu? Kolonialismus ohne Kolonien, und darum handelt es sich hier, prägte den Begriff Neokolonialismus.

    https://de.wikipedia.org/wiki/Neokolonialismus

    Warum mache ich mir die Mühe, auf diese Unterscheidung hinzuweisen? Weil ich finde, dass historische Erinnerungs-Assoziationen zu leicht beiseite geschoben werden als etwas, das zur Vergangenheit gehört, jetzt nicht stattfindet.

    Die Hungerlöhne, bezahlt von global agierenden Tech-Giganten ist aber eine Ausbeutung von Menschen, die im hier und heute real stattfindet. Das Gebot der Stunde wäre ein konsequenter Konsumboykott von Produkten und Dienstleistungen dieser ausbeutenden Konzerne. Denn wer kann sein Glück heute auf dem Rücken von Menschen aufbauen, die ohne Skrupel ausgebeutet werden?

    1. Vollkommen richtig beschrieben.

      Das Traurige ist, dass diese Tech-Giganten von diversen, vor allem den hiesigen schwarzen/blaugelben Parteien und Wirtschaftsverbänden zum Vorbild genommen werden. Ich kenne Firmen, die ihre komplette Lagerbewirtschaftung nach dem Vorbild von Amazon umgestellt haben und dies sowohl Kunden als auch Mitarbeitern als (digitalen) „Fortschritt“ verkaufen. Wohl wissend, dass das System weder technisch ausgereift noch durch die Mitarbeiter schnell handhabbar ist.

      Da heisst es dann: Das wird so gemacht, ihr habt gigantische Überstunden anzuhäufen, ihr dürft keine Kritik üben, und wem das nicht passt, der/die kann gehen.

      Kundenverlust wird hingenommen, die Firmen können nicht rechtzeitig liefern, es droht Insolvenz.
      Aber Hauptsache, die großen (US-)Vorbilder werden hofiert und man huldigt dem „Fortschritt“.

      Und sind die Leute dann auf der Straße, werden sie – weil potentieller Bürgergeldkandidat – als „Sozialschmarotzer“ stigmatisiert, die angeblich „dem System“ auf der Tasche liegen …

  5. Enshittification ist eine Sache, aber zusammen mit Ausbeutung, ohne KI und so weiter, wer hätte das gedacht. Die Wettbewerbsbehörden offenbar sicherlich nicht. Nein, nein, nie nicht.

    1. Sollte nicht der Bürger mit dem Einkommen, und dann vielleicht Clickworking, weil die Techfirmen alles für uns machen, oder so?

      Im ernst, vielleicht ist es irgendwann so, dass alle ausnahmslos zwischendurch Clickworking betreiben, einfach weil es zum Erhalt der Technologie notwendig sein würde/könnte. Das sind dann aber richtige Sachen, die auch gebraucht werden. Sands of Time und so, nicht direkt aus der Spüle.

  6. (23879, {’name‘: ‚Künsltiche Intelligenz‘, ’slug‘: ‚kuensltiche-intelligenz‘}) # Falschschreibung
    (9265, {’name‘: ‚Künstliche Intelligenz‘, ’slug‘: ‚kuenstliche-intelligenz‘})

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.