KI-Arbeiter in Kenia: „Die Arbeitsbedingungen sind erbärmlich“

Etwa ein Jahr ist es her, als Time Magazine aufdeckte, dass OpenAI kenianische Arbeiter für weniger als zwei Dollar pro Stunde anmietete, um das eigene Glamourprodukt ChatGPT etwas weniger toxisch erscheinen zu lassen. Bevor die populären Chatbots im letzten Jahr auf das hocherregte Publikum losgelassen wurden, mussten sich also Menschen in Kenia jeden Tag stundenlang damit beschäftigen, widerwärtigste Inhalte händisch aus dem Trainingsmaterial zu entfernen.

Die Aufgabe der Beschäftigten hatte seit November 2021 darin bestanden, Textfragmente auf gefährliche oder schädliche Inhalte hin durchzusehen und je nach Ergebnis zu markieren, um ChatGPT dadurch zu optimieren. Die Vergütung dafür war so gering, dass von einer Kompensation kaum gesprochen werden kann. Hinzu kamen schlimmste Arbeitsbedingungen.

Wir wollten wissen, wie die Arbeitsbedingungen heute in Kenia sind. Die Technologiezentren in der Nähe von Kenias Hauptstadt Nairobi werden Silicon Savannah genannt, ein Wortspiel, das an das Silicon Valley in den Vereinigten Staaten erinnert, aber die afrikanische Savanne mit aufnimmt. Hat sich für die Beschäftigten dort etwas zum Positiven verändert?

Mophat Okinyi aus Nairobi war einer der Content-Moderatoren, welche ChatGPT trainiert haben. Er ist Menschenrechtsaktivist, Gewerkschafter und setzt sich für die faire Behandlung und die Rechte von Tech-Mitarbeitern und Datentrainern ein. Zugleich ist er Gründer und Geschäftsführer der Techworker Community Africa, die Tech-Worker befähigt, informiert und unterstützt und dafür sorgt, dass ihre Rechte geschützt werden. Er berichtet morgen auf den Cyberfestspielen am Bodensee über digitalen Kolonialismus, die Arbeitsbedingungen in Kenia und die Geschäftspraktiken der Tech-Konzerne. Wir haben ihn zu den aktuellen Bedingungen der Datenarbeiter in Kenia gefragt.

Ausbeuterisch und unmenschlich

netzpolitik.org: Wie viele kenianische Arbeitnehmer sind aktuell für westliche Unternehmen wie OpenAI tätig, um Dienste wie ChatGPT zu säubern?

Mophat Okinyi: Mir liegen zwar keine Echtzeitdaten über die Zahl der kenianischen Arbeitnehmer vor, die derzeit von westlichen Unternehmen wie OpenAI für Aufgaben der Inhaltsmoderation beschäftigt werden. Ich weiß jedoch, dass es eine signifikante Anzahl von solchen Arbeitskräften gibt, da große Tech-Unternehmen wie Meta und ByteDance und andere ihre Inhaltemoderations- und/oder Datenetikettierungsaufgaben hier in Kenia von Unternehmen wie Teleperformance und Samasource und anderen Outsourcing-Unternehmen erledigen lassen.

netzpolitik.org: Was denken Sie, wenn Sie das verbreitete Mantra lesen, dass durch KI alles automatisiert werde?

Mophat Okinyi: Die Vorstellung, dass KI alles automatisiert, vereinfacht die Situation zu sehr. KI kann bei vielen Aufgaben unglaublich intelligent und effizient sein, es fehlt ihr aber an menschlichem Urteilsvermögen und kontextbezogenem Verständnis. Diese Einschränkung bedeutet, dass die Automatisierung allein noch nicht mit der Komplexität und den Nuancen der menschlichen Intelligenz mithalten kann.

Meine größte Sorge ist, dass der momentan notwendige menschliche Input oft auf ausbeuterische und unmenschliche Weise gewonnen wird, besonders in Regionen wie Silicon Savannah hier in Kenia. Der Rückgriff auf menschliche Arbeitskraft zum Training und zur Verfeinerung von KI-Systemen sollte nicht auf Kosten einer fairen Behandlung und grundlegender Menschenrechte gehen. Es ist von entscheidender Bedeutung, diese ethischen Überlegungen anzusprechen, um sicherzustellen, dass der Fortschritt der KI der Menschheit zugute kommt, ohne die Würde und das Wohlergehen der an ihrer Entwicklung Beteiligten zu opfern.

netzpolitik.org: Wie werden die kenianischen Arbeitnehmer heute bezahlt? Wie sind jetzt die Arbeitsbedingungen?

Mophat Okinyi: Die Arbeitsbedingungen sind sehr erbärmlich, und die Arbeitnehmer haben nicht die Möglichkeit, sich gewerkschaftlich zu organisieren. Sie erhalten oft Kurzzeitverträge von drei Monaten oder weniger, was dazu dient, ihre freie Meinungsäußerung zu unterdrücken und ihre Möglichkeiten einzuschränken, sich für bessere Bedingungen einzusetzen.

Viele dieser Beschäftigten werden weiter als Wegwerfarbeiter eingesetzt. Die Löhne sind außerordentlich niedrig. Bevor meine Kollegen und ich auf die Ausbeutung der Beschäftigten aufmerksam machten, bekamen diese Arbeiter 21.000 Kenia-Shilling (KES) pro Monat, was etwa 0,94 US-Dollar pro Stunde entspricht. Nach der Sensibilisierung der Öffentlichkeit erhöhte das Unternehmen Samasource den Grundlohn auf KES 27.000, was einem Stundenlohn von 1,21 US-Dollar entspricht. Trotz dieser Erhöhung reichen die Löhne nach wie vor nicht aus, um einen angemessenen Lebensstandard zu gewährleisten, was die dringende Notwendigkeit weiterer Verbesserungen bei der Entlohnung und den Arbeitsbedingungen verdeutlicht.

Trotz unermüdlicher Arbeit im Teufelskreis der Armut gefangen

netzpolitik.org: Manche Menschen im Westen sagen, dass zwei US-Dollar pro Stunde in einem Land wie Kenia viel Geld sind. Was sagen Sie solchen Leuten?

Mophat Okinyi: Diese Beschäftigten bekommen umgerechnet weniger als zwei US-Dollar. Auch wenn zwei US-Dollar pro Stunde in bestimmten Kontexten als beträchtlicher Betrag erscheinen mag, ist es wichtig, die Lebenshaltungskosten und die vorherrschenden wirtschaftlichen Bedingungen in Kenia zu berücksichtigen. Solche Löhne bieten möglicherweise keinen ausreichenden Lebensstandard und entschädigen die Arbeiter nicht angemessen für die Aufgaben und Herausforderungen, denen sie ausgesetzt sind.

Wäre die Entlohnung ausreichend, könnten sich die meisten dieser Beschäftigten das Nötigste leisten, etwa Essen am Arbeitsplatz und Fahrkosten, denn viele haben schon mit diesen grundlegenden Dingen zu kämpfen. Die Wirklichkeit ist: Viele von ihnen sind mit Schulden belastet und trotz ihrer unermüdlichen Arbeit in einem Teufelskreis der Armut gefangen.

Es ist alarmierend, dass die Unternehmen, die diese Menschen beschäftigen, oft Milliardenumsätze machen, aber dennoch ist die Situation dieser Arbeitnehmer nach wie vor katastrophal, wenn sie sich im Laufe der Zeit nicht sogar noch verschlechtert hat. Es besteht ein krasses Missverhältnis zwischen dem Reichtum, den diese Unternehmen erwirtschaften, und den prekären Bedingungen, unter denen ihre Beschäftigten leben. Dies macht deutlich, wie dringend notwendig eine gerechte Entlohnung und bessere Arbeitsbedingungen sind.

netzpolitik.org: Welche Art von hasserfüllten oder negativen Inhalten werden von den Arbeitnehmern beseitigt?

Mophat Okinyi: Wir haben uns mit einer Reihe von schädlichen Inhalten befasst, einschließlich, aber nicht nur sexuelle Inhalte, Hass, Gewalt und Selbstverletzungen. Beispiele für sexuelle Inhalte waren Nekrophilie, Pädophilie und Vergewaltigung. Hassreden umfassten diskriminierende Äußerungen, die sich gegen Menschen oder Gruppen aufgrund von Faktoren wie Ethnie oder Religion richteten. Gewalttätige Inhalte umfassten Darstellungen von körperlicher Gewalt oder Aggressionshandlungen. Zu den selbstverletzenden Inhalten gehörte Material, das Selbstverletzungen oder Selbstmord propagierte oder darstellte.

Wir haben eine entscheidende Rolle bei der Identifizierung und Entfernung solcher Inhalte gespielt, um die Integrität und Sicherheit von ChatGPT zu wahren, und wir mussten einen psychischen und emotionalen Preis dafür zahlen.

netzpolitik.org: Woher kommen die Inhalte, die von den Arbeitern aussortiert wurden?

Mophat Okinyi: Die Inhalte stammen von verschiedenen Online-Plattformen und -Diensten. Sie sind aus den dunkelsten Ecken des Internets zusammengeklaubt, die meisten von Dating-Seiten, Pornoseiten, privaten Chatseiten, einige von Online-Unterhaltungen mit KI-Chatbots, einige von Kinderhandelsseiten und anderen Webseiten mit illegalen Inhalten.

Regierung in Kenia lobt unethische Praktiken noch

netzpolitik.org: Zusammen mit drei Kollegen haben Sie beim kenianischen Parlament eine Petition eingereicht, um die Arbeitsbedingungen von Tech-Arbeitern in Kenia zu untersuchen. Gibt es eine ernsthafte Untersuchung? Gibt es schon ein Ergebnis?

Mophat Okinyi: Wir haben die Petition am 11. Juli 2023 an das kenianische Parlament gerichtet, um besonders die Arbeitsbedingungen kenianischer Jugendlicher untersuchen zu lassen, die unter ausbeuterischen und unmenschlichen Bedingungen arbeiten. Trotz unserer Bemühungen bestätigte das kenianische Parlament den Eingang unserer Petition erst am 9. November.

Seitdem haben wir mit politischem Störfeuer zu kämpfen. Erst letzten Monat besuchten hohe Regierungsbeamte, darunter auch der Präsident Kenias, genau das Unternehmen, das unsere Leute ausbeutet. Sie haben das Unternehmen nicht nur besucht, sondern auch gelobt, was zeigt, dass ihnen das Wohlergehen unserer Arbeitnehmer nicht wirklich am Herzen liegt.

Diese Situation spiegelt das wider, was ich als digitale Kolonisierung bezeichne. Die Regierung lobt unethische Praktiken, nur weil sie von westlichen Unternehmen vorangetrieben werden, und missachtet dabei die Würde ihrer eigenen Bevölkerung. Angesichts dieser Entwicklungen gehen wir leider davon aus, dass unsere Petition im Parlament nicht die ihr gebührende Aufmerksamkeit erhält, was die Notlage der betroffenen Arbeitnehmer weiter verschlimmert.

netzpolitik.org: Glauben Sie, dass viele westliche Nutzer inzwischen wissen, dass KI-Systeme, ihre Fähigkeiten und ihre Benutzerfreundlichkeit auch den Arbeitern in Kenia zu verdanken sind?

Mophat Okinyi: Viele westliche Nutzer sind sich der Beiträge von Beschäftigten in Ländern wie Kenia zur Entwicklung und Wartung von KI-Systemen vielleicht nicht ganz bewusst. Es ist wichtig, das Bewusstsein für die menschliche Arbeit hinter den KI-Fortschritten zu schärfen und sich für die Anerkennung und faire Behandlung aller beteiligten Personen einzusetzen.

Oft werden die Endprodukte gefeiert, ohne sich mit ihrer Herkunft zu befassen, und die entscheidende Rolle von Datentrainern und Arbeitern beim maschinellen Lernen wird übersehen. Ohne ihren Beitrag gäbe es aber keine KI-Systeme wie ChatGPT.

Es ist wichtig zu betonen, dass die Entwicklung von KI in hohem Maße von der Arbeit und dem Fachwissen von Menschen abhängt, die zur Datenverarbeitung, -kommentierung und -verfeinerung beitragen. Ohne sie hätte die Technologie nicht ihre heutige Leistungsfähigkeit erreicht. Wie ich schon immer gesagt habe: Es gibt keine KI ohne Daten, und die Datenarbeiter sollten genauso respektiert werden wie die KI-Ingenieure.

netzpolitik.org: Die Zusammenarbeit mit Samasource, dem von OpenAI beauftragten Unternehmen, wurde vorzeitig abgebrochen. Wer sind nun die Kooperationspartner in Kenia? Hat sich etwas zum Positiven verändert?

Mophat Okinyi: Derzeit ist mir nicht bekannt, welche Partner die Arbeit übernommen haben, die zuvor von Samasource erledigt wurde, da solche Informationen oft vertraulich behandelt werden. Diese Geheimhaltung kann als Strategie dienen, um potentiell unethische Praktiken zu verbergen und sich einer Rechenschaftspflicht für die Behandlung der Beschäftigten zu entziehen. Trotz dieser mangelnden Transparenz bin ich der Überzeugung, dass diese Unternehmen ihren Ansatz nicht grundlegend geändert haben und Menschen weiterhin als Wegwerfarbeiter in der KI-Entwicklung behandeln.

netzpolitik.org: Vielen Dank für die Beantwortung der Fragen!