Öffentlichkeit

Rezension: „Digitale Drecksarbeit“ – wie Plattformen ihre Inhalte-Moderation organisieren

Irgendwo auf den Philippinen sitzt jemand und muss sich den ganzen digitalen Müll anschauen, den wir gar nicht mehr zu sehen bekommen. Moritz Riesewick hat ein Buch über die Menschen und Methoden hinter der Moderation auf kommerziellen Plattformen geschrieben. Es ist gut geworden.

Jeden Tag schauen sich die Moderatoren hunderte, wenn nicht tausende Bilder und Videos an, welche von Facebook-Nutzern und Algorithmen markiert wurden. (Symbolbild) CC-BY-NC 2.0 wvs

Moritz Riesewieck kam über das Theater zu der Recherche für das Buch „Digitale Drecksarbeit“. Für ein Projekt fliegt er auf die Philippinen, trifft professionelle Content-Moderatoren, wühlt im Firmengeflecht der Subunternehmen, die von Facebook & Co. angeheuert werden. Die Mitarbeiter dieser Firmen löschen täglich hunderttausende Inhalte: Strafbares, Pornografie, Hassrede. Je nachdem, was der Auftraggeber als nicht zulässig definiert hat.

Wir finanzieren uns zu fast 100 % aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Dann wurde mehr als ein Theaterprojekt und eine Performance aus seinen Nachforschungen: Riesewieck fängt an, tiefer ins Thema einzusteigen, macht einen Film, noch ein Theaterstück und schreibt als netzpolitischer Newcomer ein Buch. Dieses Buch ist ihm gut gelungen. Denn Riesewieck erzählt gekonnt, mit vielen Referenzen, großem Wissen sowie philosophischen und religiösen Nebenaspekten, wie soziale Netzwerke unerwünschte Inhalte von ihren Plattformen entfernen lassen. Es macht Spaß, ihm in der Recherche und seinen Gedanken zu folgen. Plötzlich sitzt man mit ihm am Tisch eines Schnellrestaurants in Manila und hört, was die Menschen zu sagen haben, die den ganzen Tag den Dreck anschauen, bewerten und löschen müssen, den andere so hochladen. Ein Einblick in Jobs, die kaum auszuhalten sind.

Jeden Tag schauen sich die Moderatoren hunderte, wenn nicht tausende Bilder und Videos an, welche von Facebook-Nutzern und Algorithmen markiert wurden. Vom Köpfungsvideo des Islamischen Staats über Kinderpornografie bis zur Selbstmordanleitung kann alles dabei sein. Spannend sind dabei auch die Grenzfälle, denn am Ende entscheidet auch das Bauchgefühl des Moderators darüber, ob ein Inhalt bestehen bleibt oder privat zensiert wird. Übrigens etwas, das auch in der Kommentarmoderation vieler klassischer Medien hierzulande die Entscheidungen bestimmt.

Kritik am Walled Garden

Das Buch ist im dtv Verlag erschienen, 312 Seiten, 16.90 Euro als gedruckte Ausgabe. All rights reserved dtv

Doch Riesewieck beschäftigt sich nicht nur mit der Moderation von Inhalten. Sein Buch ist auch eine Kritik am Internet der Walled Gardens, in denen Konzerne intransparent entscheiden, wo die Meinungsfreiheit endet. Ein Internet, in dem die Moderation auf den Philippinen angesiedelt ist, nicht nur, weil es dort günstig ist und viele Menschen englisch sprechen, sondern weil das katholische Weltbild recht gut mit den Good-Clean-Fun-Moralvorstellungen des Silicon Valleys zusammenpasst. Das alles erzählt das Buch, schlägt die Brücke nach Europa und zu den Debatten in Deutschland um Hassrede und besorgte Bürger, die mit Morddrohungen in den Netzwerken herumhantieren.

Mittlerweile ist einiges bekannt geworden über die Facebook-Regeln, die Löschzentren und die Methoden der Unternehmen. Der Umgang mit Hate Speech und das Netzwerkdurchsetzungsgesetz haben die netzpolitische Debatte des Jahres geprägt und die Gefahren einer privatisierten Rechtsdurchsetzung deutlich gemacht. Gerade in Bezug auf diese deutsche Debatte ist Riesewiecks Text leider weniger stark und etwas knapp gehalten.

Länglicher wird es hingegen am Ende des Buches, wo er eher allgemein über die Auswirkungen der Existenz sozialer Netzwerke und die Beschleunigung der Kommunikation schreibt. Immerhin rutscht Riesewieck hier nicht ins Kulturpessimistische ab, dafür ist das Buch viel zu reflektiert, sondern kritisiert die Technikgläubigkeit im Silicon Valley und die Auswirkungen von sozialen Netzwerken auf den Einzelnen. Die Entwicklung hinterlasse bei den Nutzern eine Verlassenheit und Entwurzelung, was Riesewieck als Bedrohung für die Demokratie wahrnimmt.

Insgesamt ein spannendes und persönliches Sachbuch, das vielleicht nicht mit großen Enthüllungen aufwarten kann, aber auch denjenigen einen Blick in die kommerzielle Content Moderation erlaubt, die sich bislang nicht damit beschäftigt haben.

Weitersagen und Unterstützen. Danke!
0 Kommentare

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.