Geheime Regeln: TikTok hat das Wort „Umerziehungslager“ zensiert

Es gibt Wörter, die sind auf TikTok offenbar unerwünscht. Den Eindruck erweckt zumindest eine neue Funktion der Social-Media-Plattform. TikTok-Nutzer:innen sollen künftig automatische Untertitel für ihre Videos erzeugen können. Zunächst wurde die Funktion auf Englisch ausgerollt. Auf Deutsch war sie zumindest für kurze Zeit im Februar verfügbar. Manche deutsche Wörter hatte TikTok dabei nicht automatisch in Text verwandelt, sondern unkenntlich gemacht.

Dabei wurde etwa „Umerziehungslager“ zu „umerziehung************“ und „Arbeitslager“ zu „arbeit************“. Insgesamt konnte netzpolitik.org neun Wörter und eine Silbe identifizieren, die TikTok mit Sternchen versehen hat. Es waren nicht nur Wörter, die Assoziationen mit dem chinesischen Lagersystem wecken. Auch das Wort „Prostitution“ zensierte TikTok zu „pros****************“. Die Untertitel kann man immerhin nachträglich per Hand korrigieren.

Am 9. Februar war die Untertitel-Funktion auf einem unserer Testhandys plötzlich nicht mehr verfügbar. Die Pressestelle von TikTok erklärt das so: „Bei einem kürzlichen Test von Untertiteln wurden veraltete englische Sprach-Schutzmaßnahmen fälschlicherweise für die deutsche Funktion angewendet.“

Diese Erklärung irritiert. Denn einige zensierte Begriffe haben keine Ähnlichkeit zu englischen Wörtern. „Arbeitslager“, „Umerziehungslager“, „Internierungslager“, „Konzentrationslager“ und „Vernichtungslager“. All diese Wörter hat TikTok in den Untertiteln mit Sternchen unkenntlich gemacht. Das Wort „Lager“ tauchte allerdings in anderen Zusammenhängen vollständig in Untertiteln auf. Eine Verwechslungsgefahr mit englischen Begriffen lässt sich hier schwer erkennen.

Die Begriffe haben zudem einen aktuellen politischen Hintergrund. Der Staat China interniert die Bevölkerungsminderheit der Uigur:innen in Umerziehungslagern. Hunderttausende Menschen sind seit Jahren betroffen, was erst durch journalistische Recherchen einer breiten Öffentlichkeit bekannt wurde. China spricht im Zusammenhang lieber von „Bildungszentren“ und bezeichnet die Maßnahmen als freiwillig. Der Mutterkonzern von TikTok, ByteDance, stammt aus China. Zwar streitet TikTok einen Einfluss durch das autoritäre Regime ab. Dennoch gab es in der Vergangenheit mehrfach Hinweise auf eine politisch motivierte Kontrolle der Inhalte.

Nochmal: Wieso hat TikTok „Umerziehungslager“ und ähnliche Begriffe in der Untertitel-Funktion blockiert? Wir haben nachgehakt und erklärt, dass wir „veraltete englische Sprach-Schutzmaßnahmen“ in diesem Fall für keine plausible Erklärung halten. Eine Sprecherin antwortete: „Wir moderieren keine Inhalte aufgrund ihrer politischen Ausrichtung. Unsere Moderationsentscheidungen werden von keiner Regierung beeinflusst, auch nicht von der chinesischen.“

„Massage“ und „Prostitution“ offenbar auch nicht in Ordnung

Ebenso mit Sternchen versehen wurden die Worte „Massage“ und „dick“ sowie alle Wörter mit der Silbe „ass“,  etwa „Hass“ und „Rassismus“, aber auch „lassen“ und „Wasser“. Weitere Wörter waren „Titten,“, „Prostitution“ und „prostituieren“. Zumindest bei diesen Wörtern ist eine Erklärung durch „englische Sprach-Schutzeinstellungen“ plausibel: „dick“, „massage“, „tit“, „ass“ und „prostitute“ sind englische Wörter. Unabhängig von der Sprache stellt sich nach wie vor die Frage, warum ausgerechnet diese Wörter in Untertiteln zensiert wurden.

Zwar verbieten die Richtlinien von TikTok die „Darstellung“ von sexuellen Handlungen – es ist aber keine Rede davon, dass manche Wörter unerwünscht sind. Immer wieder berichten Sexarbeiter:innen, dass ihre Arbeit durch öffentliche Stigmatisierung erschwert wird. Einschränkungen bei Begriffen wie „Prostitution“ könnten wohl dazu beitragen.

Auf einem weiteren Testhandy von uns war die Untertitel-Funktion auch am 10. Februar weiterhin verfügbar – nachdem wir TikTok mit den Beobachtungen konfrontiert hatten. Seitdem tauchen die vormals zensierten Worte vollständig in den Untertiteln auf.

Die getesteten Wörter in der Untertitel-Funktion sind nur eine Stichprobe. Ein Ausmaß des möglichen Problems dahinter lässt sich daraus nicht ablesen. Zahlreiche andere Wörter wurden von TikTok problemlos in Text verwandelt, darunter Schimpfwörter, sexuelle Begriffe und Wörter, die Menschenrechtsverletzungen in China anprangern. Selbst wenn hinter den unkenntlich gemachten Untertiteln ein politischer Einfluss auf bestimmte Themen stecken würde, dann wäre er nicht konsistent. Wir wollten von TikTok wissen, nach welchen Kriterien die betroffenen Worte ausgewählt wurden – keine Antwort.

Schon bei der Einführung der Untertitel-Funktion auf Englisch gab es Probleme. Im April 2021 hatte TikTok „asian woman“ (asiatische Frau) nicht in Text umgewandelt. Das US-Magazin Mashable bezeichnete das als „besonders bedauerlich angesichts der jüngsten Zunahme von Hassverbrechen gegen Asiat:innen“. TikTok hatte das gegenüber Mashable als „Fehler“ bezeichnet und korrigiert.

Gehörlösen-Bund: „Keine Zensur in Untertiteln“

Der Deutsche Gehörlosen-Bund kritisiert gegenüber netzpolitik.org die Bevormundung, wenn Untertitel nicht ausgeschrieben werden. Der Verein versteht sich als Interessenvertretung der Gehörlosen in Deutschland. „Gehörlose Nutzer*innen können in den allermeisten Fällen nicht erkennen, um welche Wörter es geht“, schreibt Pressesprecher Wille Zante.

Der Verein freue sich über alles, was Barrierefreiheit selbstverständlicher mache. Dass man die TikTok-Untertitel nachbearbeiten kann, sei zumindest ein Ausweg. Aber: „Zensur hat in Untertiteln nichts zu suchen“. Wir haben TikTok mit der Kritik des Gehörlosen-Bundes konfrontiert. TikTok: „Wir sind dankbar für das Feedback unserer Community, da wir daran arbeiten, TikTok für alle noch besser zugänglich zu machen.“

Im engeren Sinn ist mit Zensur die Kontrolle durch staatliche Institutionen gemeint. TikTok aber ist ein Unternehmen. Insofern würde das Wort Zensur nicht passen. Andererseits kann TikTok als Plattform unmittelbar kontrollieren, welche politischen Informationen für ein Millionenpublikum zugänglich werden. Plattformen von dieser Größe könnten in einem erweiterten Sinn also durchaus nicht-staatliche Zensur betreiben.

Politische Moderation hat Tradition bei TikTok

In der Vergangenheit hatte TikTok schon einmal politisch brisante Videos eingeschränkt. Im Jahr 2019 haben Enthüllungen des britischen Guardian gezeigt, dass TikTok offenbar Regeln hatte, um politisch unliebsame Inhalte zu unterdrückten. Im selben Jahr hat netzpolitik.org Ausschnitte aus inzwischen veralteten Regeln für TikTok-Moderator:innen veröffentlicht. Ende 2019 hat der Autor dieses Textes TikTok-Videos hochgeladen, in denen er Menschenrechtsverletzungen in China kritisierte. Dann wurden die Videos versteckt, in dem sie aus den Suchergebnissen einschlägiger Hashtags verschwanden. Begründung von TikTok: ein „Bug“.

In einem zweiten Versuch wurden Videos hochgeladen, die Polizeigewalt dokumentieren. Die Videos stammten aus journalistischen Nachrichtenangeboten. TikTok hatte sie gelöscht. Begründung: Die Richtlinien der Plattform sollten die „Sicherheit und das Wohlbefinden“ der Nutzer:innen gewährleisten.

Eine Plattform, die potentiell jedes Bild und jedes Wort kontrollieren und einschränken könnte – das trifft nicht nur auf TikTok zu. Auch Facebook-Schwester Instagram entwickelt gerade eine Funktion, um automatisch Untertitel zu erzeugen. Bislang ist sie schon auf Englisch verfügbar. Gegenüber Mashable hat Instagram bestätigt, dass dabei automatisch Schimpfwörter zensiert werden. YouTube macht das auch.

TikTok-Nutzer:innen vermeiden bestimmte Wörter

Von solchen Einflussnahmen geht offenbar eine Signalwirkung aus. Schon jetzt befürchten etwa TikTok-Nutzer:innen Nachteile, wenn sie in ihren Videos Wörter verwenden, die der Plattform missfallen könnten. Zum Beispiel die TikTok-Nutzerin Marlies, die auf der Plattform mehr als 180.000 Follower:innen hat. In einem ihrer Videos hat sie etwa von „sexueller Gewalt“ gesprochen. Auf einer händisch hinzugefügten Texttafel hat sie selbst daraus „s3ksu3ll3r G3w4lt“ gemacht.

„Es ist tatsächlich so, dass Videos häufiger überprüft werden, wenn sie ‚anstößige‘ Wörter enthalten“, schreibt die TikTok-Nutzerin in einer E-Mail an netzpolitik.org. „Ich persönlich habe die Erfahrung gemacht, dass Videos erst mal wieder runtergenommen oder gar nicht erst veröffentlicht werden und man dann einen Widerspruch einreichen muss“. Erst nach einer Überprüfung würden die betroffenen Videos wieder freigegeben. „Mit dem Verfremden der Wörter kann man das normalerweise umgehen“, schreibt sie.

Auch der deutsche TikTok-Nutzer „HerrAnwalt“ (4,9 Millionen Follower) verfremdet Wörter auf TikTok. Aus „Sex“ wurde bei ihm „Seggs“. Bei „KingLoui23“ (3,2 Millionen Follower) wurden aus „Drogen“ und „Depressionen“ die Wörter „Dr*gen“ und „D€pr€$$ion“.

Aman, der den TikTok-Kanal „kingloui23“ betreibt, hat uns Fragen per Sprachmemo beantwortet. Er erzählt, dass er Wörter als Vorsichtsmaßnahme verfremdet, damit seine Videos nicht gesperrt werden – und zwar bei allem, was mit Sex, Gewalt und Drogen zu tun habe. Er baut bewusst Schreibfehler ein, erzählt er, etwa „schlagen“ mit „@“ statt „a“. Oder er nutzt unauffällige Wörter, zum Beispiel „in Stimmung sein“, wenn es um etwas Sexuelles geht.

Ob man sich solche Einschränkungen gefallen lassen sollte? Aman sagt: „Da sind jedem Creator die Hände gebunden.“ Er glaubt offenbar nicht, dass der TikTok-Support im Zweifel eine ernste Hilfe ist. „Wenn meine Videos eingeschränkt werden, dann kann ich nichts machen.“

Wir wollten von TikTok wissen, ob es stimmt, dass Videos wegen solcher Begriffe geblockt oder benachteiligt werden. Für welche Wörter und Themen man auf TikTok bestraft werde und warum. Offiziell gab es dazu keine Antwort.

Selbstzensur als Meme

Inzwischen ist aus der vorauseilenden Selbstzensur ein Meme geworden. Wer täglich auf TikTok unterwegs ist, sieht das Phänomen häufiger – sogar bei öffentlich-rechtlichen TikTok-Formaten. Der Kanal „brudi_offiziell“ wird für Funk produziert. Das ist das Content-Netzwerk von ARD und ZDF. Hier werden etwa die Wörter „Sex“ und „Sexting“ zu „Segs“ und „Seggsting“.

Gegenüber netzpolitik.org erklärt die Redaktion das so: „Bei den Verfremdungen geht es uns in erster Linie um die Nähe zur Zielgruppe“. Das seien im Kern Männer von 14 bis 16 Jahren. „Unser Eindruck ist, dass in dieser Zielgruppe solche Verfremdungen auf allen Plattformen sehr geläufig sind. Um möglichst nah an der relevanten Lebenswelt und den entsprechenden Sehgewohnheiten zu sein, haben wir das teilweise für unsere Texte übernommen.“

Dass Nutzer:innen ihre Worte freiwillig verfremden, ist nicht allein auf TikTok beschränkt. Das passiert ebenso auf Instagram und YouTube. So hat etwa YouTuber Rezo auf einem Vorschaubild „Seggs“ statt „Sex“ geschrieben. Es lässt sich nicht unmittelbar sagen, ob Nutzer:innen das vorwiegend aus Spaß tun oder aus Sorge vor algorithmischer Abstrafung.

Wettrüsten gegen Algorithmen

Wille Zante vom Gehörlosen-Bund vergleicht es mit einem Wettrüsten: Auf der einen Seite Algorithmen, auf der anderen Seite die Veränderungen in der Sprache. „Für die Barrierefreiheit ist es jedenfalls schlecht“, schreibt Zante. Zugleich hat das Thema eine politische Dimension. Es geht um die Frage, wie algorithmische Anreize Einfluss darauf nehmen, welche Themen mit welchen Worten eine breite Öffentlichkeit finden.

Wir haben Amnesty International um eine Einschätzung gebeten. Auf TikTok im Detail wollte die Menschenrechtsorganisation nicht eingehen. Eine Sprecherin schrieb: „Menschenrechte gelten online genauso wie offline, einschließlich des Rechts auf Meinungsfreiheit.“ Plattformen sollten stärker offenlegen, wie ihre Algorithmen funktionieren, um nachvollziehbar zu machen, warum User:innen bestimmte Inhalte gezeigt werden.

Passend dazu wollten wir von TikTok wissen, warum es keine öffentliche Liste unerwünschter Wörter gibt. So könnten sich Menschen gezielt daran halten. Sie müssten nicht mutmaßen, welche Regeln es geben könnte, auf deren Grundlage sie möglicherweise bestraft würden. Der Konzern, der in mehreren Städten sogenannte „Zentren für Transparenz und Verantwortung“ betreibt, hat diese Frage nicht beantwortet.

Update: 10. Februar, 16.15 Uhr: Wir haben die Antworten von TikTok-Nutzer KingLoui23 ergänzt.

Update, 11. Februar, 10.15 Uhr: Das Wort „Massage“ enthält auch die Silbe „ass“, deshalb haben wir nicht zehn, sondern neun Wörter und eine Silbe entdeckt. Wir haben das korrigiert.

Update 15. Februar, 13:00 Uhr: Nach der Veröffentlichung hat sich die Pressestelle von TikTok mit einer Ergänzung gemeldet. Die „veralteten Sprach-Schutzmaßnahmen“ hätten „Einschränkungen für englischsprachige Schimpfwörter“ beinhaltet. Betroffen sei auch das englische Wort „slag“ gewesen. Dessen Buchstaben stecken etwa in den Worten „Arbeit-slag-er“, „Umerziehung-slag-er“. Wir hatten Rückfragen: Warum hat sich die „Sprach-Schutzmaßnahme“ nicht an Leerzeichen orientiert, um alleinstehende Wörter zu erkennen? Warum wurde „slag“ erkannt, während geläufige Schimpfwörter wie „fuck“ und „bitch“ bei unserem Test verschriftlicht wurden? TikTok hat auf das ursprüngliche Statement verwiesen, wonach die Schutzmaßnahmen „fälschlicherweise“ angewandt wurden.