Unternehmen wie Facebook beschäftigten weltweit Moderatorinnen und Moderatoren, welche die Inhalte der Nutzer filtern und löschen. Diese Dienstleistung nennt sich „Commercial Content Moderation“. Sie ist globalisiert und einer der größten Standorte sind die Philippinen. Dort sollen bis zu 150.000 Menschen in der Branche arbeiten. Ganz genau weiß niemand, wie viele Menschen die Inhalte von Plattformen, Cloud-Diensten und sozialen Medien nach welchen Regeln da „kuratieren“, denn eines der Kennzeichen des Sektors ist massive Intransparenz. Und nicht nur auf den Philippinen: Als Facebook über das Unternehmen Arvato unlängst in Berlin-Spandau eine Moderationsabteilung öffnete, kommunizierte der Konzern nur, dass man dies getan hätte. Sonst nichts.
Die Heinrich-Böll-Stiftung hat mit der Veranstaltung „Die Müllabfuhr im Internet“ versucht, etwas Licht ins Dunkel zu bringen.
Bilder, die einen nach Feierabend nicht loslassen
Der Theaterregisseur Moritz Riesewieck hat auf den Philippinen recherchiert. Er hat Moderatoren gesucht, mit Gewerkschaftern und Psychologen gesprochen. In einer szenischen Lesung erzählt er von der Angst der jungen Akademiker, die für philippinische Moderationsfirmen wie TaskUs für Tinder moderieren, über ihre Arbeit zu erzählen. Denn alle müssen Schweigeverpflichtungen (NDAs) unterschreiben. Ihnen drohen Strafen, wenn sie reden. Die Jobs sind zwar nicht schlecht bezahlt für philippinische Verhältnisse, doch sie hinterlassen Spuren. Zu den psychologischen Folgen des Jobs gehört, dass einen die Bilder nach Feierabend nicht loslassen. Viele Moderatoren klagen über Beziehungs- und Alkoholprobleme, mit denen sie alleine gelassen werden.
In der Lesung kommen auch Details zu Tage, welch skurrile Richtlinien es für die Moderation gibt: Ist bei einem Bild die Form des männliche Geschlechtsteils durch eine Hose zu sehen, dann wird das Bild gelöscht, wenn die Aufnahme in einem Haus entstanden ist. Ist die Aufnahme außerhalb des Hauses entstanden, wird das Bild nicht gelöscht.
Philippinen als führender Standort für das Outsourcing von Content Moderation
Riesewick stellt auch die Frage, warum eigentlich die Philippinen sich zu dem Standort für Content Moderation entwickelt haben. Für ihn ist klar, dass neben den niedrigen Lohnkosten und den guten englischen Sprachkenntnissen, vor allem der weit verbreitete strenge Katholizismus gepaart mit einer calvinistischen Arbeitsethik, die perfekte Grundlage bilden um die Community-Richtlinien von Facebook & Co umzusetzen.
Sarah T. Roberts von der Western University in Kanada ergänzte die szenische Lesung mit einem Überblicksvortrag. Sie forscht seit mehr als sechs Jahren über Commercial Content Moderation und schreibt darüber auch auf ihrer Webseite.
In der Branche gäbe es vier verschiedene Modelle, wie Unternehmen Moderation organisieren würden:
- In-House-Lösungen, bei denen die Moderatoren beim jeweiligen Unternehmen angestellt sind
- Agenturen, die meist PR- oder Werbeagenturen sind und die Moderation als Zusatzleistung übernehmen
- Call-Center/Large Scale: spezialisierte Firmen wie TaskUs, MicroSourcing oder Arvato
- Microlabor Websites wie Mechanical Turk. Diese seien jedoch unbeliebt, weil Arbeiter nicht gut zu kontrollieren seien und NDA nicht funktionieren würden
Roberts betonte, dass sich die Arbeitsbedingungen und Probleme der Content Moderators in den USA und den Philippinen nicht so sehr unterschieden. Überall in der Branche seien unsichere Arbeitsbedingungen, kurzfristige Verträge, psychologische Probleme, Langeweile und Schweigeverträge an der Tagesordnung. Einziger Unterschied sei, dass die philippinischen Moderationsarbeiter unsichtbarer seien, aber sich gleichzeitig mehr mit den Unternehmen identifizieren würden, für die sie moderieren.
Intransparente Privatisierung von Zensur
Roberts machte neben den Arbeitsbedingungen ein weiteres Problemfeld auf: durch die NDAs und die Intransparenz der Branche sei die Moderation ein Problem für die freie Meinungsäußerung und demokratische Intervention. Sie belegte dies mit Gewalt-Bildern aus Syrien, die aus politischen Gründen gezeigt werden, während die gleichen Bilder aus Mexiko zensiert würden. In der Moderation zeige sich auch die außenpolitische Agenda der Staaten, in denen ein Unternehmen jeweils seinen Stammsitz habe.
In der anschließenden Diskussion sagte Riesewick, dass Commercial Content Moderation eine Auslagerung von Zensur an private Unternehmen sei. Auf diese Problematik haben wir sowohl bei den angestrebten freiwilligen Selbstverpflichtungen im Anti-Terror-Paket der Bundesregierung wie auch beim EU Internet Forum hingewiesen.
Roberts betonte dabei auch, dass Konzerne trotz ihrer teilweise sehr großen Verbreitung eben kein öffentlicher Raum seien. Wenn diese sich zwischen freier Meinungsäußerung und Profit entscheiden müssten, sei die Entscheidung klar für den Profit. Einig war sich das Podium auch in dem Punkt, dass die Plattformen Transparenz über ihre Moderations-Richtlinien geben müssten.
Die Lesung von Moritz Riesewieck und der Vortrag von Sarah T. Roberts sind auf der re:publica nochmal zu sehen.