Geheime RegelnTikTok hat das Wort „Umerziehungslager“ zensiert

Während die chinesische Regierung Angehörige der uigurischen Minderheit in Lagern interniert, hat TikTok Worte wie „Arbeitslager“ und „Umerziehungslager“ in Deutschland eingeschränkt: In automatischen Untertiteln wurden sie mit Sternchen ersetzt. TikTok erklärt das mit „veralteten englischen Sprach-Schutzmaßnahmen“.

Eine Person legt den Finger auf die Lippen, ein TikTok-Logo, Sternchen.
Hat hier jemand ******* gesagt? (Symbolbild) – Person: Pixabay/ philm1310; Logo: TikTok; Bearbeitung: netzpolitik.org

Es gibt Wörter, die sind auf TikTok offenbar unerwünscht. Den Eindruck erweckt zumindest eine neue Funktion der Social-Media-Plattform. TikTok-Nutzer:innen sollen künftig automatische Untertitel für ihre Videos erzeugen können. Zunächst wurde die Funktion auf Englisch ausgerollt. Auf Deutsch war sie zumindest für kurze Zeit im Februar verfügbar. Manche deutsche Wörter hatte TikTok dabei nicht automatisch in Text verwandelt, sondern unkenntlich gemacht.

Dabei wurde etwa „Umerziehungslager“ zu „umerziehung************“ und „Arbeitslager“ zu „arbeit************“. Insgesamt konnte netzpolitik.org neun Wörter und eine Silbe identifizieren, die TikTok mit Sternchen versehen hat. Es waren nicht nur Wörter, die Assoziationen mit dem chinesischen Lagersystem wecken. Auch das Wort „Prostitution“ zensierte TikTok zu „pros****************“. Die Untertitel kann man immerhin nachträglich per Hand korrigieren.

Am 9. Februar war die Untertitel-Funktion auf einem unserer Testhandys plötzlich nicht mehr verfügbar. Die Pressestelle von TikTok erklärt das so: „Bei einem kürzlichen Test von Untertiteln wurden veraltete englische Sprach-Schutzmaßnahmen fälschlicherweise für die deutsche Funktion angewendet.“

Diese Erklärung irritiert. Denn einige zensierte Begriffe haben keine Ähnlichkeit zu englischen Wörtern. „Arbeitslager“, „Umerziehungslager“, „Internierungslager“, „Konzentrationslager“ und „Vernichtungslager“. All diese Wörter hat TikTok in den Untertiteln mit Sternchen unkenntlich gemacht. Das Wort „Lager“ tauchte allerdings in anderen Zusammenhängen vollständig in Untertiteln auf. Eine Verwechslungsgefahr mit englischen Begriffen lässt sich hier schwer erkennen.

Screenshot der Untertitel-Funktion von TikTok. Das Wort "Internierungslager" wurde nicht vollständig transkribiert.
TikToks „veraltete, englische Sprachschutz-Maßnahmen“ haben offenbar das Wort „Internierungslager“ zensiert. - Screenshot: TikTok

Die Begriffe haben zudem einen aktuellen politischen Hintergrund. Der Staat China interniert die Bevölkerungsminderheit der Uigur:innen in Umerziehungslagern. Hunderttausende Menschen sind seit Jahren betroffen, was erst durch journalistische Recherchen einer breiten Öffentlichkeit bekannt wurde. China spricht im Zusammenhang lieber von „Bildungszentren“ und bezeichnet die Maßnahmen als freiwillig. Der Mutterkonzern von TikTok, ByteDance, stammt aus China. Zwar streitet TikTok einen Einfluss durch das autoritäre Regime ab. Dennoch gab es in der Vergangenheit mehrfach Hinweise auf eine politisch motivierte Kontrolle der Inhalte.

Nochmal: Wieso hat TikTok „Umerziehungslager“ und ähnliche Begriffe in der Untertitel-Funktion blockiert? Wir haben nachgehakt und erklärt, dass wir „veraltete englische Sprach-Schutzmaßnahmen“ in diesem Fall für keine plausible Erklärung halten. Eine Sprecherin antwortete: „Wir moderieren keine Inhalte aufgrund ihrer politischen Ausrichtung. Unsere Moderationsentscheidungen werden von keiner Regierung beeinflusst, auch nicht von der chinesischen.“

„Massage“ und „Prostitution“ offenbar auch nicht in Ordnung

Ebenso mit Sternchen versehen wurden die Worte „Massage“ und „dick“ sowie alle Wörter mit der Silbe „ass“,  etwa „Hass“ und „Rassismus“, aber auch „lassen“ und „Wasser“. Weitere Wörter waren „Titten,“, „Prostitution“ und „prostituieren“. Zumindest bei diesen Wörtern ist eine Erklärung durch „englische Sprach-Schutzeinstellungen“ plausibel: „dick“, „massage“, „tit“, „ass“ und „prostitute“ sind englische Wörter. Unabhängig von der Sprache stellt sich nach wie vor die Frage, warum ausgerechnet diese Wörter in Untertiteln zensiert wurden.

Zwar verbieten die Richtlinien von TikTok die „Darstellung“ von sexuellen Handlungen – es ist aber keine Rede davon, dass manche Wörter unerwünscht sind. Immer wieder berichten Sexarbeiter:innen, dass ihre Arbeit durch öffentliche Stigmatisierung erschwert wird. Einschränkungen bei Begriffen wie „Prostitution“ könnten wohl dazu beitragen.

Auf einem weiteren Testhandy von uns war die Untertitel-Funktion auch am 10. Februar weiterhin verfügbar – nachdem wir TikTok mit den Beobachtungen konfrontiert hatten. Seitdem tauchen die vormals zensierten Worte vollständig in den Untertiteln auf.

Die getesteten Wörter in der Untertitel-Funktion sind nur eine Stichprobe. Ein Ausmaß des möglichen Problems dahinter lässt sich daraus nicht ablesen. Zahlreiche andere Wörter wurden von TikTok problemlos in Text verwandelt, darunter Schimpfwörter, sexuelle Begriffe und Wörter, die Menschenrechtsverletzungen in China anprangern. Selbst wenn hinter den unkenntlich gemachten Untertiteln ein politischer Einfluss auf bestimmte Themen stecken würde, dann wäre er nicht konsistent. Wir wollten von TikTok wissen, nach welchen Kriterien die betroffenen Worte ausgewählt wurden – keine Antwort.

Schon bei der Einführung der Untertitel-Funktion auf Englisch gab es Probleme. Im April 2021 hatte TikTok „asian woman“ (asiatische Frau) nicht in Text umgewandelt. Das US-Magazin Mashable bezeichnete das als „besonders bedauerlich angesichts der jüngsten Zunahme von Hassverbrechen gegen Asiat:innen“. TikTok hatte das gegenüber Mashable als „Fehler“ bezeichnet und korrigiert.

Gehörlösen-Bund: „Keine Zensur in Untertiteln“

Der Deutsche Gehörlosen-Bund kritisiert gegenüber netzpolitik.org die Bevormundung, wenn Untertitel nicht ausgeschrieben werden. Der Verein versteht sich als Interessenvertretung der Gehörlosen in Deutschland. „Gehörlose Nutzer*innen können in den allermeisten Fällen nicht erkennen, um welche Wörter es geht“, schreibt Pressesprecher Wille Zante.

Der Verein freue sich über alles, was Barrierefreiheit selbstverständlicher mache. Dass man die TikTok-Untertitel nachbearbeiten kann, sei zumindest ein Ausweg. Aber: „Zensur hat in Untertiteln nichts zu suchen“. Wir haben TikTok mit der Kritik des Gehörlosen-Bundes konfrontiert. TikTok: „Wir sind dankbar für das Feedback unserer Community, da wir daran arbeiten, TikTok für alle noch besser zugänglich zu machen.“

Im engeren Sinn ist mit Zensur die Kontrolle durch staatliche Institutionen gemeint. TikTok aber ist ein Unternehmen. Insofern würde das Wort Zensur nicht passen. Andererseits kann TikTok als Plattform unmittelbar kontrollieren, welche politischen Informationen für ein Millionenpublikum zugänglich werden. Plattformen von dieser Größe könnten in einem erweiterten Sinn also durchaus nicht-staatliche Zensur betreiben.

Politische Moderation hat Tradition bei TikTok

In der Vergangenheit hatte TikTok schon einmal politisch brisante Videos eingeschränkt. Im Jahr 2019 haben Enthüllungen des britischen Guardian gezeigt, dass TikTok offenbar Regeln hatte, um politisch unliebsame Inhalte zu unterdrückten. Im selben Jahr hat netzpolitik.org Ausschnitte aus inzwischen veralteten Regeln für TikTok-Moderator:innen veröffentlicht. Ende 2019 hat der Autor dieses Textes TikTok-Videos hochgeladen, in denen er Menschenrechtsverletzungen in China kritisierte. Dann wurden die Videos versteckt, in dem sie aus den Suchergebnissen einschlägiger Hashtags verschwanden. Begründung von TikTok: ein „Bug“.

In einem zweiten Versuch wurden Videos hochgeladen, die Polizeigewalt dokumentieren. Die Videos stammten aus journalistischen Nachrichtenangeboten. TikTok hatte sie gelöscht. Begründung: Die Richtlinien der Plattform sollten die „Sicherheit und das Wohlbefinden“ der Nutzer:innen gewährleisten.

Eine Plattform, die potentiell jedes Bild und jedes Wort kontrollieren und einschränken könnte – das trifft nicht nur auf TikTok zu. Auch Facebook-Schwester Instagram entwickelt gerade eine Funktion, um automatisch Untertitel zu erzeugen. Bislang ist sie schon auf Englisch verfügbar. Gegenüber Mashable hat Instagram bestätigt, dass dabei automatisch Schimpfwörter zensiert werden. YouTube macht das auch.

TikTok-Nutzer:innen vermeiden bestimmte Wörter

Von solchen Einflussnahmen geht offenbar eine Signalwirkung aus. Schon jetzt befürchten etwa TikTok-Nutzer:innen Nachteile, wenn sie in ihren Videos Wörter verwenden, die der Plattform missfallen könnten. Zum Beispiel die TikTok-Nutzerin Marlies, die auf der Plattform mehr als 180.000 Follower:innen hat. In einem ihrer Videos hat sie etwa von „sexueller Gewalt“ gesprochen. Auf einer händisch hinzugefügten Texttafel hat sie selbst daraus „s3ksu3ll3r G3w4lt“ gemacht.

„Es ist tatsächlich so, dass Videos häufiger überprüft werden, wenn sie ‚anstößige‘ Wörter enthalten“, schreibt die TikTok-Nutzerin in einer E-Mail an netzpolitik.org. „Ich persönlich habe die Erfahrung gemacht, dass Videos erst mal wieder runtergenommen oder gar nicht erst veröffentlicht werden und man dann einen Widerspruch einreichen muss“. Erst nach einer Überprüfung würden die betroffenen Videos wieder freigegeben. „Mit dem Verfremden der Wörter kann man das normalerweise umgehen“, schreibt sie.

Auch der deutsche TikTok-Nutzer „HerrAnwalt“ (4,9 Millionen Follower) verfremdet Wörter auf TikTok. Aus „Sex“ wurde bei ihm „Seggs“. Bei „KingLoui23“ (3,2 Millionen Follower) wurden aus „Drogen“ und „Depressionen“ die Wörter „Dr*gen“ und „D€pr€$$ion“.

Aman, der den TikTok-Kanal „kingloui23“ betreibt, hat uns Fragen per Sprachmemo beantwortet. Er erzählt, dass er Wörter als Vorsichtsmaßnahme verfremdet, damit seine Videos nicht gesperrt werden – und zwar bei allem, was mit Sex, Gewalt und Drogen zu tun habe. Er baut bewusst Schreibfehler ein, erzählt er, etwa „schlagen“ mit „@“ statt „a“. Oder er nutzt unauffällige Wörter, zum Beispiel „in Stimmung sein“, wenn es um etwas Sexuelles geht.

Ob man sich solche Einschränkungen gefallen lassen sollte? Aman sagt: „Da sind jedem Creator die Hände gebunden.“ Er glaubt offenbar nicht, dass der TikTok-Support im Zweifel eine ernste Hilfe ist. „Wenn meine Videos eingeschränkt werden, dann kann ich nichts machen.“

Wir wollten von TikTok wissen, ob es stimmt, dass Videos wegen solcher Begriffe geblockt oder benachteiligt werden. Für welche Wörter und Themen man auf TikTok bestraft werde und warum. Offiziell gab es dazu keine Antwort.

Selbstzensur als Meme

Screenshot des TikTok-Kanals "brudi_offiziell" mit der Schreibweise "Seggs"
Beim öffentlich-rechtlichen TikTok-Kanal „brudi_offiziell“ geht es manchmal um „Seggs“ - Screenshot: TikTok/ brudi_offiziell

Inzwischen ist aus der vorauseilenden Selbstzensur ein Meme geworden. Wer täglich auf TikTok unterwegs ist, sieht das Phänomen häufiger – sogar bei öffentlich-rechtlichen TikTok-Formaten. Der Kanal „brudi_offiziell“ wird für Funk produziert. Das ist das Content-Netzwerk von ARD und ZDF. Hier werden etwa die Wörter „Sex“ und „Sexting“ zu „Segs“ und „Seggsting“.

Gegenüber netzpolitik.org erklärt die Redaktion das so: „Bei den Verfremdungen geht es uns in erster Linie um die Nähe zur Zielgruppe“. Das seien im Kern Männer von 14 bis 16 Jahren. „Unser Eindruck ist, dass in dieser Zielgruppe solche Verfremdungen auf allen Plattformen sehr geläufig sind. Um möglichst nah an der relevanten Lebenswelt und den entsprechenden Sehgewohnheiten zu sein, haben wir das teilweise für unsere Texte übernommen.“

Dass Nutzer:innen ihre Worte freiwillig verfremden, ist nicht allein auf TikTok beschränkt. Das passiert ebenso auf Instagram und YouTube. So hat etwa YouTuber Rezo auf einem Vorschaubild „Seggs“ statt „Sex“ geschrieben. Es lässt sich nicht unmittelbar sagen, ob Nutzer:innen das vorwiegend aus Spaß tun oder aus Sorge vor algorithmischer Abstrafung.

Wettrüsten gegen Algorithmen

Wille Zante vom Gehörlosen-Bund vergleicht es mit einem Wettrüsten: Auf der einen Seite Algorithmen, auf der anderen Seite die Veränderungen in der Sprache. „Für die Barrierefreiheit ist es jedenfalls schlecht“, schreibt Zante. Zugleich hat das Thema eine politische Dimension. Es geht um die Frage, wie algorithmische Anreize Einfluss darauf nehmen, welche Themen mit welchen Worten eine breite Öffentlichkeit finden.

Wir haben Amnesty International um eine Einschätzung gebeten. Auf TikTok im Detail wollte die Menschenrechtsorganisation nicht eingehen. Eine Sprecherin schrieb: „Menschenrechte gelten online genauso wie offline, einschließlich des Rechts auf Meinungsfreiheit.“ Plattformen sollten stärker offenlegen, wie ihre Algorithmen funktionieren, um nachvollziehbar zu machen, warum User:innen bestimmte Inhalte gezeigt werden.

Passend dazu wollten wir von TikTok wissen, warum es keine öffentliche Liste unerwünschter Wörter gibt. So könnten sich Menschen gezielt daran halten. Sie müssten nicht mutmaßen, welche Regeln es geben könnte, auf deren Grundlage sie möglicherweise bestraft würden. Der Konzern, der in mehreren Städten sogenannte „Zentren für Transparenz und Verantwortung“ betreibt, hat diese Frage nicht beantwortet.

Update: 10. Februar, 16.15 Uhr: Wir haben die Antworten von TikTok-Nutzer KingLoui23 ergänzt.

Update, 11. Februar, 10.15 Uhr: Das Wort „Massage“ enthält auch die Silbe „ass“, deshalb haben wir nicht zehn, sondern neun Wörter und eine Silbe entdeckt. Wir haben das korrigiert.

Update 15. Februar, 13:00 Uhr: Nach der Veröffentlichung hat sich die Pressestelle von TikTok mit einer Ergänzung gemeldet. Die „veralteten Sprach-Schutzmaßnahmen“ hätten „Einschränkungen für englischsprachige Schimpfwörter“ beinhaltet. Betroffen sei auch das englische Wort „slag“ gewesen. Dessen Buchstaben stecken etwa in den Worten „Arbeit-slag-er“, „Umerziehung-slag-er“. Wir hatten Rückfragen: Warum hat sich die „Sprach-Schutzmaßnahme“ nicht an Leerzeichen orientiert, um alleinstehende Wörter zu erkennen? Warum wurde „slag“ erkannt, während geläufige Schimpfwörter wie „fuck“ und „bitch“ bei unserem Test verschriftlicht wurden? TikTok hat auf das ursprüngliche Statement verwiesen, wonach die Schutzmaßnahmen „fälschlicherweise“ angewandt wurden.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

8 Ergänzungen

    1. Das englische „slag“ und „ass“ unterscheidet sich klanglich vom Deutschen „-ass“ und „-slager“. Als ich mal Englisch ausgesprochen „ass“ in die Spracherkennung gegeben habe, wurde daraus ein deutsches „es“. Die Spracherkennung müsste demnach zuerst deutsche Wörter erkannt, in Text umgewandelt und danach textbasiert eine englische Sperrliste daneben gelegt haben, die dann auch Buchstabenfolgen innerhalb von Wörtern für problematisch hielt. Wir haben auch z.B. „bitch“ und „fuck“ als sehr geläufige Schimpfwörter getestet, das wurde transkribiert. Kurzum: Es kann sein, unterm Strich plausibel erscheint es mir nicht.

      1. Ich halte es schon für Plausibel, da ich viele Zensurprogramme gesehen habe. Die Dinger funktionieren einfach nicht. Oft sind deutsche Wörter exakt wie in den Beispielen zensiert wurden und manchmal hat man nicht einmal bei den normalsten Wörtern verstanden, wieso (selbst wenn man die englisch mit einbezogen hat). Da werden englische Filter angewendet, obwohl man deutsch lokalisierte Clients nutzt. Das man Lager oder vermutlich auch Wertstofflager schreiben kann ist ein deutlicher Hinweis auf das S vor dem Lager (also aufs englische Wort slag). Und im amerikanischen Raum ist Sexualität ein größeres „Problem“ als hierzulande (bei Gewalt genau umgekehrt), zumindest im Bezug auf Jugendschutz.

        Das schreibe ich, obwohl ich mir der Lage der chinesischen KP im Bezug auf Menschenrechtsverletzungen und den versuchten Verschleierungen bewusst bin. Man könnte aber auch so fragen: warum wird das „slager“ in „Arbeitslager“ zensiert und nicht das ganze Wort oder gar „Umerziehung“ oder „Umerziehungslager“? Die im Artikel genannte Stichprobe an zensierten Wörtern untermauert jedenfalls noch gar nichts.

        Allerdings bleibt das Problem mit den Algorithmen. Das ist die wesentliche Nachricht. Genauso kritisch ist jegliche Art von unfreiwilligem Zensurprogramm an sich, ungeachtet der zensierten Wörter. Menschen haben ungeahnte Kreativität solche Zensuren mit Sonderzeichen, Buchstabendrehern, Leerzeichen, Zeilenumbruch etc zu umgehen. Wer also etwas schlechtes schreiben will, findet seinen Weg. Geschadet wird aber allen, die etwas normales wie „Wasser“ schreiben wollen.

  1. >> Passend dazu wollten wir von TikTok wissen, warum es keine öffentliche Liste unerwünschter Wörter gibt. So könnten sich Menschen gezielt daran halten. Sie müssten nicht mutmaßen, welche Regeln es geben könnte, … <<<

    Ja, so muss man das machen. Listen dieser Art lassen sich automatisiert erstellen. Script dafür erstellen und dann global als Projekt verteilen. Stand vorläufiger Ergebnisse wären immer wieder mal dafür gut, fokussierte TokTok-Schlagzeilen zu bringen. Was für ein Spaß, auch für deren Server-Admins.

  2. „ass“ und vieles Andere wird auch seit Ewigkeiten in anderen Platformen gesperrt.

    Die Regierung scheint da z.B. Spiele mit Chatfunktion mit ähnlichen Speerlisten auszustatten.

  3. Ich habe mich mal in einem Forum gewundert, warum das Wort Nachttischlampe zensiert wurde. Ist das jetzt ein neues Schimpfwort, welches mir nicht bekannt war?
    Erst wenn man das Wort in Nachtti-schlampe zerlegt, erkennt man die Ursache!

  4. Ich denke „Prostitution“ wurde Opfer des enthaltenen „tit“ und ist selber kein zu zensierender Begriff.

    Ähnlich wie das in den diversen -(s)Lagern – aber nicht im „Lager“ enthaltenen „slag“.

    Klassischer Fall des Narrative Bias, im Falle dessen Leute Dinge glauben, weil sie sich für sie ohne mentale Anstrengung in eine Geschichte verpacken lassen. Arme Uiguren, böser Chinese –> TikTok böse.
    //Wer letzteres ernsthaft benutzt, ist eh schon verloren.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.