Diskriminierende Moderationspraktiken

Zu hässlich für TikTok

TikTok hat Moderator:innen angewiesen, Videos von dicken, unattraktiven oder armen Menschen auf der Plattform zu verstecken, damit sie keine neue Nutzer:innen abschrecken. Die geleakten Dokumente zeichnen das Bild einer Firma, der ein Blick für Verhältnismäßigkeit fehlt.

Telefon mit TikTok-Logo auf dem Bildschirm
Wer was in der App sieht und was nicht, das bestimmt TikTok selbst mit seinen Moderationspraktiken. Gemeinfrei-ähnlich freigegeben durch unsplash.com Kon Karampelas

TikTok kommt aus den schlechten Schlagzeilen nicht raus. Neue Recherchen von The Intercept haben nun aufgedeckt: Die Videoplattform hat Moderator:innen angewiesen, „hässliche“ und arme Nutzer:innen auf der Plattform zu verstecken. Das zeigen interne Dokumente, die The Intercept über Whistleblower erhalten hat.

Laut der so genannten „Ugly Content Policy“ waren Moderator:innen demnach angehalten, Videos von Menschen in der Reichweite zu beschneiden, die TikToks Richtlinie als unattraktiv deklarierte. Ein „offensichtlicher Bierbauch“ oder „zu viele Falten“ bei älteren Nutzer:innen führten ebenso zur Disqualifikation wie eine „abnormale Körperform“, „Pummeligkeit“, fehlende Zähne oder sichtbare Narben.

Die derart deklarierten Videos sollten nicht im so genannten For-You-Feed der App ausgespielt werden, einer algorithmisch gesteuerten Startseite, die ein Video auf den Bildschirm von Millionen von Nutzer:innen weltweit katapultieren kann. Anders gesagt: Wer aus dem For-You-Feed getilgt wird, verschwindet im Keller der App, unsichtbar für weite Teile des Publikums.

Armut und Hässlichkeit nicht zu empfehlen

Das Dokumente ergänzt das Bild, das sich aus den Recherchen von netzpolitik.org zur Mobbing-Richtlinie von TikTok abzeichnete: Ein rasant wachsendes Unternehmen, dem es an Professionalität, Einsicht und Taktgefühl mangelt, wenn es um die Moderation von Inhalten auf der eigenen Plattform geht.

So listen die krude ins Englische übersetzten Anweisungen Nutzer:innen, die fettleibig oder „zu dünn“ sind in einem Satz auf mit anderen, die angeborene Behinderungen wie Kleinwüchsigkeit aufweisen. Einen Abschnitt darunter geht es um Nutzer:innen, deren soziale und finanzielle Umstände von TikTok offenbar als abschreckend gewertet wurden: Videos, die etwa in „Slums“ oder vor Baustellen und kaputten Wänden gedreht wurden.

Die Argumentation war in beiden Fällen gleich: Solche Nutzer:innen könnten „die kurzfristige Nutzer:innenbindung“ an die Plattform senken. „Wenn das Aussehen der Figur oder die Drehumgebung nicht gut ist, wird das Video viel unattraktiver sein, nicht wert, um neuen Nutzer:innen empfohlen zu werden,“ so das Dokument.

Ein Sprecher von ByteDance, der chinesischen Mutterfirma hinter TikTok, sagte gegenüber The Intercept, die „Ugly Content“-Richtlinie sei scheinbar dieselbe oder eine ähnliche, wie sie netzpolitik.org bereits vergangenen Dezember veröffentlichte. Doch das ist nicht der Fall. Die von uns veröffentlichte Richtlinie diente vorgeblich dazu Mobbing auf der Plattform zu bekämpfen – indem vermeintlich gefährdete Nutzer:innen aus dem Feed getilgt wurden. Das nun veröffentlichte Dokument argumentiert hingegen klar mit einer Marketing-Logik. Ziel war nicht, Nutzer:innen vor Hänseleien und Gewalt zu schützen, sondern allein das Wachstum der App. Armut und Hässlichkeit passte TikTok demnach schlicht nicht ins Konzept.

Politische Zensur und seltsame Prioritäten

Die „Ugly Content“-Richtlinie ist eine von vielen Moderationsregeln der Plattform, die zur Drosselung von Videos im For-You-Feed führte. Die Absicht: das Publikum für solche Videos möglichst klein halten und andere, erstrebenswertere Inhalte ausspielen. Ein weiteres von The Intercept veröffentlichtes Dokument offenbart hingegen die zahlreichen Auflagen, die TikTok für Livestreams auf seiner Seite machte – und dort geht es auch offen um politische Zensur.

So verbietet die Richtlinie unter dem Schlagwort „Kontroverse Inhalte“ etwa nicht nur Propaganda für terroristische Organisationen, sondern auch Streams, die die „nationale Sicherheit, Ehre und Interessen“ gefährden. Ein Verstoß führte zur Sperrung des Accounts. Wer live Polizei- oder Militäreinsätze streamte, etwa am Rand von Demonstrationen, wurde für einen Tag gesperrt. Gleiches galt für die „Diffamierung von politischen oder religiösen Führern“.

Die Richtlinien stärken das Bild, das auch aus unseren Recherchen entstanden ist: Während TikTok öffentlich betont, keine politischen Inhalte zu zensieren oder in der Reichweite zu drosseln, lassen sich viele Abschnitte aus den Richtlinien so weit auslegen, dass sich damit problemlos jede Kritik an Regierungen oder anderen Autoritäten abdrehen lässt. Mangels demokratischer Kontrollmöglichkeiten und Transparenz lässt sich nicht überprüfen, ob und wie diese Möglichkeiten in der Praxis angewendet werden.

Auffällig ist in den Auflagen für das Livestreaming auch, wie unterschiedlich TikTok verschiedene Verstöße bewertet. So sollten etwa minderjährige Schwangere ihren Account für immer verlieren – eine drastische Strafe, die sonst nur für Pornografie, Todesdrohungen oder Kindesmissbrauch vorbehalten ist. Wer dagegen andere aufgrund ihres Geschlechts, einer Behinderung oder ethnischen Zugehörigkeit beleidigte, wurde nur für einen Monat suspendiert und durfte danach normal weiterstreamen. Wer vulgär vor einer Moschee tanzte, flog für einen Tag raus. Wer dagegen außerhalb eines Strandes einen Bikini trug, sollte für eine Woche gesperrt werden. Zahllose weitere Beispiele für solch schiefe Verhältnisse finden sich im gesamten Dokument.

TikTok bemüht sich gute PR

TikTok betont gegenüber The Intercept, dass „die meisten“ der genannten Richtlinien so nicht mehr angewandt werden „oder in einigen Fällen offenbar nie angewandt wurden.“ Den Quellen zufolge seien beide Richtlinien jedoch bis Ende 2019 im Einsatz gewesen und die Livesteaming-Regeln wurden erst im vergangenen Jahr verfasst. Nach der Richtlinie zur Drosselung von armen oder unattraktiven Nutzer:innen gefragt, wiederholte TikTok die selbe Formulierung, die auch netzpolitik.org genannt wurde: Die Regeln seien ein „früher kruder Versuch“ gewesen, Mobbing auf TikTok entgegenzuwirken und seien so nicht mehr in Anwendung. Auf den Einwand, das Dokument erwähne Mobbing in keinem Wort und verweise stattdessen klar auf Nutzer:innenbindung, ging der Unternehmenssprecher nicht ein.

TikTok bemüht sich derzeit um Schönwetter, nachdem sich negative Berichte zu fehlenden Schutzmaßnahmen, intransparenter Moderation und politischer Zensur auf der Plattform in den vergangenen Monaten gehäuft hatten.

Erst vergangenen Freitag hat das Unternehmen angekündigt, ein neues „Transparenz-Center“ in Los Angeles zu eröffnen. Kritiker:innen und externe Fachleute sollen sich dort selbst ein Bild von den Moderationspraktiken der Videoplattform machen können, die derzeit ein rasantes weltweites Wachstum hinlegt. Auch wirbt TikTok derzeit erfahrenes Personal von Veteranen wie YouTube und Microsoft ab. Nun muss das Unternehmen zeigen, dass es nicht nur sein Wachstum, sondern auch den respektvollen Umgang mit seinen Nutzer:innen ernst nimmt, und bereit ist aus Fehlern zu lernen.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

Eine Ergänzung
  1. „zeichnen das Bild einer Firma, der ein Blick für Verhältnismäßigkeit fehlt“ zusammen mit „Make Your Day Real People. Real Videos.“ und „Es ist Ihnen nicht gestattet, (i) Nutzerinhalte auf dem Dienst zu posten, die sich als missbräuchlich, schikanierend, verleumderisch, belästigend, schädigend, hasserfüllt, unzutreffend, verletzend, beleidigend, anstößig, obszön, angreifend, pornographisch, schockierend, bedrohlich, rechtswidrig, gewalttätig oder vulgär auslegen lassen,“ wobei die Emphase auf „auslegen lassen“ liegt.

    TikTok ist keine neutrale Platform und möchte das auch nicht sein. Ich verstehe, das das kritisiert wird aber wo ist jetzt die Lösung?

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.