Heute startet die Initiative „Data Workers‘ Inquiry“, zu deutsch etwa: Datenarbeiter:innen-Befragung. In dem gemeinsamen Projekt vom Weizenbaum Institut, der Technischen Universität Berlin und dem Distributed AI Research Lab berichten Arbeitskräfte, die hinter sogenannter Künstlicher Intelligenz und Content Moderation stecken, von ihrer Arbeits- und Lebenswelt. Die Berichte umfassen Texte, Videos, Podcasts sowie Comics und Zines.
Wir haben Mit-Initiatorin Milagros Miceli gefragt, was sich aus den Befragungen lernen lässt. Miceli ist Soziologin und Informatikerin. Sie leitet ein Team am Berliner Weizenbaum-Institut und forscht seit Jahren zur Arbeit hinter KI-Systemen, unter anderem zur Datenannotation. So nennt man es, wenn Menschen Datensätze sichten, sortieren und mit Etiketten versehen, damit Maschinen sie verstehen. Bevor zum Beispiel eine Bilderkennung das Foto einer Katze erkennen kann, müssen Menschen reihenweise Bilder mit Katzen kennzeichnen. Mit solchen Datensätzen lassen sich dann KI-Systeme trainieren.
„Die Datenarbeiter:innen werden wie Wegwerfartikel behandelt“
netzpolitik.org: Was machen Datenarbeiter:innen eigentlich und welche Bedeutung haben sie für das Funktionieren der digitalen Welt?
Milagros Miceli: Datenarbeiter:innen sind unverzichtbar für die Entwicklung und Wartung der beliebtesten Plattformen und Systeme, die wir nutzen. Es gibt keine KI ohne die Arbeit, die in die Datensammlung, -bereinigung und -kommentierung fließt, und ohne algorithmische Überprüfung. Ohne die kontinuierliche Arbeit von Inhaltsmoderator:innen, die Social-Media-Plattformen, aber auch Suchmaschinen und Tools wie ChatGPT nutzbar machen, wären wir nicht in der Lage, diese Systeme zu nutzen, ohne ernsthafte psychologische Schäden davonzutragen: Würden wir ChatGPT noch einsetzen, wenn alle Antworten mit Beleidigungen gespickt wären? Wären wir noch in den sozialen Medien unterwegs, wenn wir regelmäßig auf Gewaltdarstellungen stoßen würden?
netzpolitik.org: Welche Rolle spielt Outsourcing in dieser Branche?
Milagros Miceli: Die menschliche Arbeit ist ein notwendiger Teil des Kreislaufs zur Erzeugung und Maximierung des Mehrwerts. Doch dafür muss die Arbeitskraft verfügbar und billig sein. Daher verlassen sich die meisten Tech-Giganten auf Plattformen und Unternehmen, die ausgelagerte Arbeitskräfte bereitstellen, die rund um die Uhr zu niedrigen Kosten verfügbar sind. Der beeindruckende Fortschritt der KI-Technologien, den wir in den vergangenen zehn Jahren erlebt haben, korreliert mit dem Aufschwung von Plattformen und Unternehmen für Datenarbeit. Der Aufschwung begann mit der Gründung von Amazon Mechanical Turk vor 20 Jahren. Das Mechanical-Turk-Modell machte eine große Anzahl von Arbeitskräften weltweit jederzeit und zu günstigen Preisen verfügbar.
netzpolitik.org: Im Data Workers‘ Inquiry berichten Datenarbeiter:innen aus ganz unterschiedlichen Arbeitskontexten und Weltregionen. Unter ihnen sind Plattformarbeiter:innen in Venezuela und Syrien, Angestellte von Outsourcing-Firmen in Kenia und auch Content Moderator:innen in Deutschland. Gibt es so etwas wie eine universelle Erfahrung, die alle von ihnen teilen?
Milagros Miceli: Die meisten Datenarbeiter:innen haben einiges gemeinsam: Sie werden nicht für ihre Zeit bezahlt, sondern nur für erledigte Aufgaben. Meist erhalten sie magere Stundenlöhne von gerade einmal 2 US-Dollar in Kenia oder 1,7 US-Dollar in Argentinien. Sie haben keine Arbeitsrechte oder sonstigen Schutz. Und sie sind der Überwachung und der Willkür von Auftraggeber:innen und Plattformen ausgesetzt. In vielen Fällen tragen sie auch dauerhafte psychische Probleme von der Arbeit mit sich. Die meisten Datenarbeiter:innen unterliegen Geheimhaltungsvereinbarungen, die sie daran hindern, mit anderen darüber zu sprechen, was vor sich geht. Wir haben Fälle erlebt, in denen Beschäftigte keine psychologische oder rechtliche Beratung in Anspruch genommen haben, weil ihnen gesagt wurde, dass dies einen Bruch der Geheimhaltungsvereinbarungen bedeuten würde, dass sie mit ihren Arbeitgebern abgeschlossen haben.
Vor allem im globalen Süden gibt es strukturelle Abhängigkeiten, die den Beschäftigten keine andere Wahl lassen, als solche Arbeitsbedingungen zu akzeptieren. Vor allem an Orten mit hoher Arbeitslosigkeit werden die Arbeitnehmer:innen wie Wegwerfartikel behandelt. Das Outsourcing-Modell erlaubt es den Unternehmen auch, sich aus der Verantwortung zu stehlen. Wenn Probleme auftreten, fühlt sich niemand für das Wohlergehen der Arbeitnehmer:innen verantwortlich, und sie werden allein gelassen.
Die Datenarbeiter:innen sollen selbst zu Wort kommen
netzpolitik.org: Die Leistung von Datenarbeiter:innen hinter KI und Content Moderation wird oft unsichtbar gemacht. Die Autor:innen Mary Gray und Siddharth Suri sprechen deshalb auch von „Ghost Work“. Wie will die Data Workers‘ Inquiry das ändern?
Milagros Miceli: Diese „Geisterarbeit“ sichtbar zu machen, die Probleme der Beschäftigten zu beleuchten und die Öffentlichkeit zu sensibilisieren, sind wichtige Ziele unseres Projekts. Die Data Workers‘ Inquiry verkörpert jedoch ein Engagement, das über eine abstrakte „Sensibilisierung“ im Sinne von Akademiker:innen und Journalist:innen hinausgeht, die über die Arbeiter:innen sprechen. Unser Ansatz besteht darin, die Stimmen der Arbeitnehmer:innen und ihre politischen Forderungen zu verstärken. Bei der Konzeption dieses Projekts und der Methodik war es mir sehr wichtig, dass wir nicht mehr für und über die Arbeiter:innen sprechen. Stattdessen wollten wir eine Plattform schaffen, auf der sie für sich selbst sprechen und ihre Anliegen in eigene Worte fassen können.
netzpolitik.org: Wie sieht das in der Praxis aus?
Milagros Miceli: Wir laden die Datenarbeiter:innen ein, die Führung zu übernehmen, sowohl bei der Entscheidung, welche Themen und Fragen sie für dringlich halten, als auch bei der Wahl des Mediums und des Formats. Deren Vielfalt spricht für sich selbst: Es gibt Podcasts, Dokumentarfilme, Animationen, Comics, Zines und Essays. Die meisten Formate wurden speziell ausgewählt, um ein breiteres Publikum zu erreichen, das nicht unbedingt akademische Abhandlungen liest.
Außerdem hoffen wir, dass der Dialog und die Vernetzungsmöglichkeiten des Projekts die Arbeitnehmerorganisation stärken und zu positiven Veränderungen führen können. Es geht also nicht nur darum, dass die Arbeitnehmer:innen uns informieren, sondern dass sie auch miteinander reden und sich organisieren.
netzpolitik.org: Die teilnehmenden Datenarbeiter:innen agieren in dem Projekt als „Community Researchers“. Was bedeutet das?
Milagros Miceli: Das bedeutet, dass sie in ihren eigenen Arbeitsgemeinschaften oder an ihren Arbeitsplätzen als Mitglieder der Gemeinschaft selbst forschen, das heißt: aus einer Insider-Perspektive. Wir stellen ihre Erfahrungen in den Mittelpunkt und erkennen ihr einzigartiges Wissen an. In meiner Laufbahn habe ich weltweit etwa 100 Interviews mit Datenarbeiter:innen geführt. Dennoch werde ich nie wissen, wie es sich anfühlt, von dieser Arbeit abhängig zu sein und von den Kund:innen schlecht behandelt zu werden. Das ist etwas, das nur die Arbeiter:innen wissen.
Alle Community-Forscher:innen entwickeln eigene Forschungsfragen, konzipieren und führen eigene Untersuchungen durch und bereiten Präsentationen ihrer Ergebnisse vor. Dabei sprechen sie mit ihren Kolleg:innen und anderen Datenbearbeiter:innen und stehen auch mit uns in ständigem Austausch. Wir beraten sie zum Beispiel bei der Datenerhebung und der Strukturierung des Prozesses. Unsere Aufgabe ist es, ihnen eine Plattform zu bieten.
„Die Arbeiter:innen riskieren viel“
netzpolitik.org: Wie macht sich dieser Ansatz in den Berichten bemerkbar, die ihr veröffentlicht?
Milagros Miceli: Wenn die Community-Forscher:innen andere Arbeiter:innen interviewen, wissen sie, was und wie sie fragen müssen. Durch ihre gemeinsamen Erfahrungen fassen sie sofort Vertrauen zueinander. Gute Beispiele dafür sind die Podcasts und Dokumentationen auf unserer Website. Oder das Zine über afrikanische Frauen in der Content-Moderation, in dem Wanderarbeiter:innen ihre Erfahrungen mit psychologischem, wirtschaftlichem und sexuellem Missbrauch bei der Firma Sama in Kenia teilen. Oder der herzzerreißende Bericht, der die psychischen Probleme der Content-Moderator:innen von Meta untersucht. All das sind gute Beispiele für die Unterstützung von Community-Mitgliedern, die ihre persönlichen Geschichten erzählen.
netzpolitik.org: Du hast es schon angesprochen: In der Regel müssen Datenarbeiter:innen Verschwiegenheitsklauseln unterschreiben, sogenannte Non-Disclosure-Agreements, kurz NDAs. Im Data Workers‘ Inquiry benennen jedoch viele Arbeiter:innen ihre Arbeitgeber, manche treten sogar unter Klarnamen auf. Welches Risiko gehen sie damit ein?
Milagros Miceli: Die Verletzung von NDAs kann für die Arbeitnehmer:innen sehr ernste Folgen haben. Im vergangenen Jahr wurde ein Moderator bei Telus International in Essen, Deutschland, wegen seiner Aussage über die Arbeitsbedingungen im Bundestag entlassen. Dies bedeutet nicht nur den Verlust ihres Einkommens, sondern könnte auch zum Verlust des Visums oder Aufenthaltstitels für die vielen Migrant:innen führen, die für ihren rechtlichen Status auf diese Arbeit angewiesen sind.
Dennoch melden sich unsere Community-Forscher:innen zu Wort. Das zeigt, wie wichtig es den Autor:innen ist, ein großes Publikum zu erreichen. Sie sind unglaublich mutig, und sie hoffen natürlich, dass ihre Geschichten gehört werden.
Ihr Engagement zeigt uns, wie viel Vertrauen sie in das Projekt haben. Die Verantwortung, die damit einhergeht, nehmen wir nicht auf die leichte Schulter. Wir haben allen Community-Forscher:innen angeboten, anonym zu bleiben und die Unternehmen, für die sie arbeiten, zu anonymisieren. Einige haben das Angebot angenommen, aber die meisten Autor:innen haben sich dafür entschieden, ihren richtigen Namen und auch die Unternehmen zu nennen.
Natürlich haben wir uns bemüht, alle wichtigen Vorkehrungen zu treffen, um alle Beteiligten wirksam zu schützen. Wir haben uns unter anderem rechtlich beraten lassen. Und wir stehen in ständigem Austausch mit Expert:innen für Datenschutz und Forschungsethik.
„Die Datenarbeiter:innen können eine Gegenmacht aufbauen“
netzpolitik.org: Lass uns noch einmal grundsätzlich über das Projekt sprechen. Die Data Workers‘ Inquiry ist inspiriert von einem Fragebogen, mit dem Karl Marx 1880 die Lage der französischen Arbeiterklasse untersuchen wollte. Inwiefern erschwert heute die Digitalisierung mit ihrer globalen Arbeitsteilung gemeinsame Kämpfe ausgebeuteter Arbeiter:innen? Oder können digitale Werkzeuge hierbei sogar hilfreich sein?
Milagros Miceli: Da die Data Workers‘ Inquiry auch ein akademisches Projekt ist, hat diese Frage sowohl eine theoretische als auch eine politische Antwort. Was die theoretischen Analysen betrifft, so erfordert die globale Arbeitsteilung durch die Digitalisierung eine Erweiterung des orthodoxen marxistischen Rahmens – weg vom Fokus auf den weißen Industriearbeiter und hin zu Fragen der gesellschaftlichen Reproduktion, der Überschneidungen von Race, Geschlecht und Klasse, der Fortführung des Kolonialismus und der weitreichenden Ausbeutung natürlicher Ressourcen, die alle den Plattformkapitalismus aufrechterhalten.
Die Schlüsselrolle der Datenarbeiter:innen für das reibungslose Funktionieren der KI erinnert an die grundlegende marxistische Annahme, dass nur menschliche Arbeit Mehrwert schaffen kann, ungeachtet der Versuche, sie auf bloße Anhängsel von Maschinen zu reduzieren. Datenarbeit sollte folglich als eine Produktionsweise analysiert werden, die die Entfremdung verschärft, indem sie die Arbeiter:innen physisch von ihren Produkten trennt. Das erschwert es den Datenarbeiter:innen, sich zu organisieren und die Kontrolle über ihre Produktionsmittel auszuüben.
netzpolitik.org: Wenn das die theoretische Antwort war, wie lautet die politische?
Milagros Miceli: Ohne politischen Druck und öffentliche Solidarität sind die Arbeitnehmer:innen den Repressalien der Technologieunternehmen ausgeliefert. Druck können sie aber nur dann ausüben, wenn sie Kanäle der Solidarität schaffen und kollektiv eine Gegenmacht zu den Konzernen aufbauen. Und nur dann können sie für gerechte Arbeitsbedingungen kämpfen.
Viele der Community-Forscher:innen gehören bereits Gewerkschaften an. Dort sind sie aber in verschiedenen Arbeitsgruppen zusammengeschlossen, was ihre politische Macht untergräbt. Außerdem sind viele von ihnen mit den großen traditionellen Gewerkschaften unzufrieden und wollen eigene Gewerkschaften gründen.
Und auch der Einsatz von Technologie kann ihnen in diesem Kampf helfen. Technologie ist nicht per se schlecht. Sie kann den Arbeitnehmer:innen tatsächlich dabei helfen, sich zu verbinden und zu organisieren. Außerdem, so argumentieren einige unserer Community-Forscher:innen, könnten Datenarbeiter:innen ihre Aufgaben besser erfüllen, wenn Technologien nicht einseitig zu Überwachung und Effizienzsteigerung eingesetzt würden, sondern wenn sie stattdessen dazu genutzt würden, die Kommunikation und Zusammenarbeit zwischen den Arbeitnehmer:innen zu optimieren.
Es braucht Anerkennung und bessere Bedingungen
netzpolitik.org: Viele sehen in der digitalen Ökonomie eine Fortsetzung kolonialer Ausbeutungsdynamiken: Harte Arbeit unter prekären Bedingungen wird oft in Länder des globalen Südens ausgelagert. Die Profite fließen hingegen überwiegend in den globalen Norden. Könnt ihr dieses Bild bestätigen?
Milagros Miceli: Nach Angaben der Weltbank gibt es weltweit zwischen 154 Millionen und 435 Millionen Datenarbeiter:innen, von denen viele in den Ländern der Weltmehrheit leben oder aus diesen vertrieben wurden. Die Zahlen sind in den vergangenen Jahren exponentiell gestiegen und eine Verlangsamung dieser Entwicklung ist nicht zu erkennen.
Die größte Konzentration von Datenarbeiter:innen in einem Land ist zwar immer noch in den USA zu finden. Doch globale gesehen lebt die überwältigende Mehrheit im globalen Süden, etwa in Indien und den Philippinen sowie in Venezuela und Brasilien.
Vor der Data Workers‘ Inquiry habe ich mehrere Studien mit Datenarbeiter:innen in Argentinien, Venezuela, Bulgarien und Syrien durchgeführt. In allen Fällen befanden sich die Auftraggeber:innen in den USA und der EU. Das prägt auch die Tätigkeiten der Datenarbeiter:innen. Sie müssen meist nachts arbeiten, weil bei den Kund:innen dann Tag ist. Und oft verstehen sie nicht, warum zum Beispiel spanischsprachige Mitarbeiter:innen englischsprachige Anweisungen erhalten. Oder ihnen sind die Objekte auf den Bildern fremd, die sie beschriften sollen.
Mitunter ist es aber auch umgekehrt und ihnen sind die Bilder seltsam vertraut. So musste eine aus Syrien vertriebene Datenbearbeiterin Satellitenbilder aus ihrer Heimatregion beschriften, die dann für Überwachungsdrohnen verwendet werden sollten. Der Fall zeigt, wie die Erfahrung von Datenarbeiter:innen auch als Fachwissen genutzt wird. Sie sollen dann mitunter ausgerechnet jene Technologien verbessern, die zu ihrer Vertreibung geführt haben.
netzpolitik.org: Was muss sich in der Tech-Branche in Bezug auf Outsourcing verändern und was können Menschen, Zivilgesellschaft und Politik in Deutschland oder in Europa tun, um Datenarbeiter:innen zu unterstützen?
Milagros Miceli: Mit unserem Projekt wollen wir den Arbeitnehmer:innen eine Plattform bieten, auf der sie ihre Forderungen vorbringen können. Und die meisten von ihnen tun das sehr deutlich. Sie wollen bessere Löhne und Arbeitsbedingungen, stabilere Arbeitsverträge und mehr Unterstützung. Dazu zählt auch psychologische Betreuung, wenn sie gefährliche Tätigkeiten wie Content Moderation übernehmen.
Viele unserer Community-Forscher:innen sind stolz darauf, etwas zum technologischen Fortschritt und einem sichereren Internet beizutragen, wünschen sich aber dafür mehr Anerkennung. Das schließt natürlich den Lohn ein.
Wir sollten daher auch nicht länger fragen, ob ein Stundenlohn von 2 Dollar in Ländern wie Kenia und Venezuela wenig oder viel Geld ist. Stattdessen sollten wir fragen, warum die Tech-Giganten, die jedes Jahr Milliardenumsätze machen, ihren Arbeitnehmer:innen nicht mehr Lohn zahlen. Schließlich sind die für ihr Geschäft unentbehrlich.
Danke für die klaren Worte, die das bezeichnen, was es ist: Koloniale Ausbeutung!
Daran anschließend sollte eigenes Denken einsetzen, im Rahmen persönlicher Möglichkeiten, sofern mentale Bequemlichkeit dies zulässt:
Wie funktioniert Kolonialismus, und wie kann es sein, dass globale Tech-Konzerne auf diesem Monster reiten können?
Wie funktioniert Ausbeutung, und warum lassen Menschen das mit sich machen?
Das steht aber nicht im Artikel. Dort steht nicht Koloniale Ausbeutung ist, weil es eben keine ist, denn schließlich gibt es keine Kolonien mehr. Dort steht „Fortsetzung kolonialer Ausbeutungsdynamiken“, das ist ein gravierender Unterschied. Während der Kolonialzeit hatten die Menschen keinerlei Rechte und oft auch keine Wahl und wurden zur Arbeit gezwungen. Die Menschen heute haben aber Rechte (falls nicht, ist das nicht die Schuld westlicher Firmen, sondern von der Regierung vor Ort) und niemand zwingt ihnen diese Arbeit auf, sie bewerben sich von sich aus bei den Unternehmen. Niemand stellt in Zweifel, dass die Arbeit hart ist, die Arbeitsbedingungen schlecht sind und der Verdienst gering ist, aber Fakt ist, dass jeder, der diese Arbeit macht, sich das auch selber ausgesucht hat und da muss man aufhören immer so zu tun, als würde man diese Menschen zu dieser Arbeit zwingen.
Natürlich kann man argumentieren und sagen „Was sollen sie auch sonst tun? Sonst verdienen sie gar nichts und haben weder Essen noch ein Dach über den Kopf“, nur wer so argumentiert, der soll sich mal überlegen, was denn wäre, wenn westlichen Unternehmen diese Arbeit dort gar nicht erst anbieten würden? Genau, dann „verdienen sie gar nichts und haben weder Essen noch ein Dach über den Kopf“. Man darf hier nicht immer so tun, als ging es um „bessere oder schlechtere Arbeitsbedingungen“, wenn es in Wahrheit um „Arbeit oder kein Arbeit“ geht, denn westliche Unternehme finden auch woanders Arbeiter, die bereit sind für dieses Gehalt und diese Arbeitsbedingungen zu arbeiten. Aber wie es dann diesen Regionen gehen würde, wenn alle westlichen Unternehmen dort abwandern, daran denkt niemand. Ja, dann werden die Leute dort nicht mehr ausgebeutet, aber geht es ihnen dann wirklich besser? Nein, dann geht es ihnen nämlich genauso, wie wenn sie heute diese Arbeiten nicht annehmen würden und das ist eben nicht besser und das ist eine Option, die ihnen heute schon offen stünde.