Öffentlichkeit

Die digitale Müllabfuhr: Kommerzielle Inhaltsmoderation auf den Philippinen

Unternehmen wie Facebook beschäftigten weltweit Moderatorinnen und Moderatoren, welche die Inhalte der Nutzer filtern und löschen. Die Dienstleistung nennt sich „Commercial Content Moderation“, einer der größten Standorte sind die Philippinen. Dort sollen bis zu 150.000 Menschen in der Branche arbeiten.

In den Philippinen ist Business Process Outsourcing (BPO) ein großer Markt. Content Moderation ist dabei eines der Geschäftsfelder. CC-BY 2.0 greyweed

Unternehmen wie Facebook beschäftigten weltweit Moderatorinnen und Moderatoren, welche die Inhalte der Nutzer filtern und löschen. Diese Dienstleistung nennt sich „Commercial Content Moderation“. Sie ist globalisiert und einer der größten Standorte sind die Philippinen. Dort sollen bis zu 150.000 Menschen in der Branche arbeiten. Ganz genau weiß niemand, wie viele Menschen die Inhalte von Plattformen, Cloud-Diensten und sozialen Medien nach welchen Regeln da „kuratieren“, denn eines der Kennzeichen des Sektors ist massive Intransparenz. Und nicht nur auf den Philippinen: Als Facebook über das Unternehmen Arvato unlängst in Berlin-Spandau eine Moderationsabteilung öffnete, kommunizierte der Konzern nur, dass man dies getan hätte. Sonst nichts.


netzpolitik.org - ermöglicht durch Dich.

Die Heinrich-Böll-Stiftung hat mit der Veranstaltung „Die Müllabfuhr im Internet“ versucht, etwas Licht ins Dunkel zu bringen.

Bilder, die einen nach Feierabend nicht loslassen

Der Theaterregisseur Moritz Riesewieck hat auf den Philippinen recherchiert. Er hat Moderatoren gesucht, mit Gewerkschaftern und Psychologen gesprochen. In einer szenischen Lesung erzählt er von der Angst der jungen Akademiker, die für philippinische Moderationsfirmen wie TaskUs für Tinder moderieren, über ihre Arbeit zu erzählen. Denn alle müssen Schweigeverpflichtungen (NDAs) unterschreiben. Ihnen drohen Strafen, wenn sie reden. Die Jobs sind zwar nicht schlecht bezahlt für philippinische Verhältnisse, doch sie hinterlassen Spuren. Zu den psychologischen Folgen des Jobs gehört, dass einen die Bilder nach Feierabend nicht loslassen. Viele Moderatoren klagen über Beziehungs- und Alkoholprobleme, mit denen sie alleine gelassen werden.

In der Lesung kommen auch Details zu Tage, welch skurrile Richtlinien es für die Moderation gibt: Ist bei einem Bild die Form des männliche Geschlechtsteils durch eine Hose zu sehen, dann wird das Bild gelöscht, wenn die Aufnahme in einem Haus entstanden ist. Ist die Aufnahme außerhalb des Hauses entstanden, wird das Bild nicht gelöscht.

Philippinen als führender Standort für das Outsourcing von Content Moderation

Riesewick stellt auch die Frage, warum eigentlich die Philippinen sich zu dem Standort für Content Moderation entwickelt haben. Für ihn ist klar, dass neben den niedrigen Lohnkosten und den guten englischen Sprachkenntnissen, vor allem der weit verbreitete strenge Katholizismus gepaart mit einer calvinistischen Arbeitsethik, die perfekte Grundlage bilden um die Community-Richtlinien von Facebook & Co umzusetzen.

Sarah T. Roberts von der Western University in Kanada ergänzte die szenische Lesung mit einem Überblicksvortrag. Sie forscht seit mehr als sechs Jahren über Commercial Content Moderation und schreibt darüber auch auf ihrer Webseite.

In der Branche gäbe es vier verschiedene Modelle, wie Unternehmen Moderation organisieren würden:

  • In-House-Lösungen, bei denen die Moderatoren beim jeweiligen Unternehmen angestellt sind
  • Agenturen, die meist PR- oder Werbeagenturen sind und die Moderation als Zusatzleistung übernehmen
  • Call-Center/Large Scale: spezialisierte Firmen wie TaskUs, MicroSourcing oder Arvato
  • Microlabor Websites wie Mechanical Turk. Diese seien jedoch unbeliebt, weil Arbeiter nicht gut zu kontrollieren seien und NDA nicht funktionieren würden

Roberts betonte, dass sich die Arbeitsbedingungen und Probleme der Content Moderators in den USA und den Philippinen nicht so sehr unterschieden. Überall in der Branche seien unsichere Arbeitsbedingungen, kurzfristige Verträge, psychologische Probleme, Langeweile und Schweigeverträge an der Tagesordnung. Einziger Unterschied sei, dass die philippinischen Moderationsarbeiter unsichtbarer seien, aber sich gleichzeitig mehr mit den Unternehmen identifizieren würden, für die sie moderieren.

Intransparente Privatisierung von Zensur

Roberts machte neben den Arbeitsbedingungen ein weiteres Problemfeld auf: durch die NDAs und die Intransparenz der Branche sei die Moderation ein Problem für die freie Meinungsäußerung und demokratische Intervention. Sie belegte dies mit Gewalt-Bildern aus Syrien, die aus politischen Gründen gezeigt werden, während die gleichen Bilder aus Mexiko zensiert würden. In der Moderation zeige sich auch die außenpolitische Agenda der Staaten, in denen ein Unternehmen jeweils seinen Stammsitz habe.

In der anschließenden Diskussion sagte Riesewick, dass Commercial Content Moderation eine Auslagerung von Zensur an private Unternehmen sei. Auf diese Problematik haben wir sowohl bei den angestrebten freiwilligen Selbstverpflichtungen im Anti-Terror-Paket der Bundesregierung wie auch beim EU Internet Forum hingewiesen.

Roberts betonte dabei auch, dass Konzerne trotz ihrer teilweise sehr großen Verbreitung eben kein öffentlicher Raum seien. Wenn diese sich zwischen freier Meinungsäußerung und Profit entscheiden müssten, sei die Entscheidung klar für den Profit. Einig war sich das Podium auch in dem Punkt, dass die Plattformen Transparenz über ihre Moderations-Richtlinien geben müssten.

Die Lesung von Moritz Riesewieck und der Vortrag von Sarah T. Roberts sind auf der re:publica nochmal zu sehen.

7 Kommentare
  1. Ist halt wie beim Elektroschrott. Wird produziert und genutzt von und für Reiche Weiße, und deren Geldvermehrung. Und die ekelige Verschrottung machen dann sklavenähnliche Untermenschen in der 3. Welt. Ist Teil der Kalkulation.

  2. Dieser Beitrag zeigt nicht nur die Praktiken von Facebook & Co., dieser Beitrag zeigt auch oder sogar besonders die Macht des Vatikan. Der Vatikan hat nichts mit einem Gott zu tun, ich bin sogar der Meinung, dass nicht ein einziger „Mensch“ in diesem Vatikan an einen Gott glaubt. Es ist eine Machtmaschine die sogar mächtiger ist als die Inhaber des westlichen Geldsystems Rothschild, Rockefeller & Co. denn auch wenn das westliche Geldsystem zusammenbricht, was ja zu erwarten ist, wird die Macht der katholischen Kirche bleiben, wenn nicht sogar größer werden. Die Schafe des Herrn sind in Wirklichkeit die Schafe der größten und mächtigsten Mafiaorganisation der Welt und das macht uns zu Sklaven ohne Möglichkeit der Gegenwehr, denn die dressierte Schafherde ist viel zu groß als das es etwas nützen würde zu versuchen diese Schafherde wieder zu individuell denkenden Menschen wandeln zu wollen. Übrigens, ich glaube an keinen Gott, ich glaube an mein individuelles und freies Denkvermögen, aber was habe ich davon? Oder gibt es doch noch Einige mehr die ihre Individualität bewahrt haben, Einige die alles zuerst hinterfragen, Einige die der Mainstream nicht auf dem Leim gehen, Einige die ihren gesunden Menschenverstand benutzen, Einige die sich keine Vorurteile implantieren lassen durch Massenhypnose?
    Frank

  3. Sicher gibt es Regierungen, Unternehmen und Organisationen, die mittels gezielter Zensur bestimmte Interessen verfolgen. Aber mal im Ernst: Hierbei geht es ja nicht nur um nackte Oberkörper und sich unter der Hose abzeichnende Genitalien. Was ginge denn erst los, wenn das Netz nicht ständig von pornographischen und Gewalt-Darstellungen ausgedünnt würde? Wollt ihr bei Facebook & Co. so etwas zu Gesicht bekommen? Wie sieht es dann erst mit Kindern und Jugendlichen aus, die zufällig darauf stoßen? Da wäre der mediale Aufschrei aber groß!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.