Geheime Wortfilter: TikTok hat in Deutschland heimlich Kommentare blockiert

TikTok bietet nicht nur einen schier unendlichen Strom aus Videos, sondern auch eine lebendige Kommentarkultur. Der Kommentarbereich ist Ort für Debatten, Running Gags und Anregungen aus der Community. Viele TikTok-Nutzer:innen nehmen Kommentare direkt zum Anlass, weitere Videos zu drehen. Auf diese Weise haben Kommentare großen Einfluss, welche Inhalte Millionen von Menschen zu sehen bekommen.

In den Kommentarspalten von TikTok gibt es aber offenbar geheime Regeln. Sie bewirken, dass manche Dinge gar nicht erst zur Sprache gebracht werden können. Eine Recherche der Tagesschau deckt auf: Die Erwähnung bestimmter Begriffe verhinderte zumindest bis Februar automatisch die Veröffentlichung von TikTok-Kommentaren. In diesem Fall war ein Kommentar zwar für die Person sichtbar, die ihn gepostet hat, nicht aber für sonstige Nutzer:innen. Einen Warnhinweis erhielt eine von der Sperre betroffene Person nicht. Die Einschränkung passierte heimlich.

Zu den betroffenen Wörtern gehörten laut Tagesschau etwa Begriffe aus den Bereichen queer („homophob“, „LGBTQ“), Rechtsextremismus („Auschwitz“, „Nationalsozialismus“) und Erotik („Sex“, „Porno“). Auch der Name der verschwundenen, chinesischen Tennisspielerin Peng Shuai war betroffen. Ermittelt wurden die Begriffe durch schlichtes Ausprobieren.

In einem Pressestatement gesteht TikTok „Fehler“ ein. „In diesem Fall ist es uns eindeutig nicht gelungen, unsere Schutzmaßnahmen angemessen differenziert umzusetzen“, schreibt eine Sprecherin. TikTok habe Mechanismen eingerichtet, um potenziell schädliche Kommentare automatisiert herauszufiltern. „Wir sind uns darüber im Klaren, dass dieses Vorgehen in diesem Fall nicht zielgerichtet genug war, und wir arbeiten mit Hochdruck daran, unser Vorgehen zu überarbeiten.“

Wörter angeblich „hasserfüllt“ oder „übermaßig sexuell“

Nach der Presseanfrage seien nur noch 11 der entdeckten Begriffe gesperrt worden, wie die Tagesschau berichtet. Ursprünglich von der Sperre betroffen waren demnach die Wörter:

Auschwitz, gay, Heterosexuelle, homo, homophob, homosexuell, LGBTQ, LGBTQI, Nationalsozialismus, Peng Shuai, Porno, Pornografie, Prostitution, queer, schwul, Sex, Sexarbeit, Sklaven, Terroristen

TikTok schreibt, einige der Wörter „könnten als Schimpfwörter in einer hasserfüllten oder übermäßig sexuellen Weise verwendet werden, und um unsere Community zu schützen, haben wir einen sehr restriktiven Ansatz gewählt.“

Die Antwort irritiert, schließlich sind Begriffe wie „LGBTQ“ oder „homophob“ weder hasserfüllt noch übermäßig sexuell. Vielmehr können diese Begriffe verwendet werden, um Hetze und Hassrede zu benennen und zu bekämpfen, um aufzuklären und Betroffene zu stärken.

Es war angeblich nur ein österreichisches Schimpfwort

Im Fall des blockierten Begriffs „Peng Shuai“ hat TikTok eine technische Erklärung. „Peng Shuai wurde aufgrund des österreichisch-deutschen Begriffs ‚Hua‘ (Hure) nur in deutschsprachigen Regionen moderiert, weil die Buchstabenfolge „H-U-A“ in dem Wort erkannt wurde“, so TikTok. Inzwischen sei der Begriff nicht mehr blockiert.

Eine ähnliche Erklärung hat TikTok bereits im Februar präsentiert, als netzpolitik.org anscheinend zensierte Begriffe in automatisch generierten Untertiteln entdeckt hatte. Betroffen waren etwa die Worte „Arbeitslager“ und „Umerziehungslager“. Sie wurden in Untertiteln durch Sternchen unkenntlich gemacht. TikTok begründete das mit „veralteten englischen Sprach-Schutzmaßnahmen“. Demnach habe ein Wortfilter das englische Schimpfwort „slag“ im Wort „Arbeitslager“ erkannt.

Nun soll also ein Schimpfwort aus Österreich für die versehentliche Sperre von TikTok-Kommentaren verantwortlich sein. In beiden Fällen sollen die TikTok-Wortfilter daran gescheitert sein, freistehende Wörter von harmlosen Buchtabenfolgen zu unterscheiden.

Zu der relativ jungen Plattform TikTok gibt es bereits eine lange Vorgeschichte von Zensurvorwürfen und politisch problematischer Moderation. 2020 deckte eine Recherche auf, dass TikTok weltweit Hashtags zu LGBTQ-Themen auf Russisch und Arabisch versteckte. Eine Enthüllung zu inzwischen veralteten Moderationsregeln zeigte 2019, wie TikTok ein System betrieb, um Inhalte zu unterdrücken und zu lenken.

TikTok: „Ähnliche Fehler korrigieren“

Das übermäßige Sperren von Inhalten wird als Overblocking bezeichnet. Das kann passieren, wenn Plattformen lieber auf billige technische Lösungen setzen statt auf kostspielige menschliche Moderation. Passieren Einschränkungen von Inhalten auch noch heimlich, heißt das Shadowbanning. Generell dürfen Plattformen nach Hausrecht Regeln erlassen und regelwidrige Inhalte einschränken und sperren. Doch solange diese Regeln nicht transparent sind, haben Nutzer:innen keine Möglichkeit, sich freiwillig daran zu halten oder auch nur darüber zu diskutieren.

Für viele Nutzer:innen auf TikTok dürfte die Tagesschau-Recherche schon länger gehegte Befürchtungen bestätigen. Bereits im Februar haben wir berichtet, wie selbst prominente Creator:innen aus Angst vor Wortfiltern Begriffe verfremden. Statt „Sex“ schreiben sie in Texteinblendungen ihrer Videos etwa „Seggs“, aus „Drogen“ und „Depressionen“ werden Wörter wie „Dr*gen“ und „D€pr€$$ion“.

TikTok wolle nach der Tagesschau-Recheche eine „gründliche Überprüfung“ starten, „um diesen und potenziell ähnliche Fehler zu korrigieren“, so eine Sprecherin. Die Plattform wolle ihre Strategie überdenken, „um sicherzustellen, dass wir Hass und Verstöße erkennen, aber Gegenrede und neutrale Kommentare erlauben“. Etwas Ähnliches hat TikTok schon vor zwei Jahren gesagt, als es um zensierte Hashtags ging. Damals sagte die Plattform, man wolle „ähnliche Probleme in Zukunft vermeiden.“ Offenkundig ist das nicht gelungen.

Tagesschau will trotz Wortfilter auf TikTok bleiben

Anlass für die Recherche der Tagesschau war wohl vor allem Zufall: Die Journalist:innen hatten beobachtet, dass einige der vom Tagesschau-Account selbst verfassten TikTok-Kommentare offenbar nicht bei anderen Nutzer:innen erschienen. Im Jahr 2019 hatte die Tagesschau gegenüber dem Medienmagazin Zapp noch eine rote Linie für den eigenen TikTok-Kanal aufgezeigt. Chefredakteur Marcus Bornheim sagte damals: „Wenn wir merken, dass unsere Inhalte rausgenommen werden durch irgendeine Form von Moderation von TikTok, wenn wir da nicht mehr frei und unabhängig berichten können, dann machen wir sofort den Kanal zu.“

Genau das ist nun im Fall von Kommentaren passiert. Wir haben die Pressestelle des zuständigen NDR gefragt, ob sich die Tagesschau als Konsequenz der Recherche von TikTok zurückziehe. Kurze Antwort: Nein. Ausführlicher erklärt eine Sprecherin: „Seit dem Start des tagesschau-Accounts wird die Ausspielung der Videos im Newsfeed von TikTok genau beobachtet. Bislang wurden keine Tagesschau-Inhalte blockiert.“ Offenbar umfasst die von Bornheim 2019 beschriebene rote Linie also nur Videos und keine selbst verfassten Kommentare.

Der TikTok-Kanal der Tagesschau hat aktuell 1,2 Millionen Abonennt:innen. „Die Recherche hat dazu geführt, dass TikTok Fehler eingeräumt und angekündigt hat, das Vorgehen zu überarbeiten“, erklärt die Sprecherin weiter. Gerade in Zeiten von Desinformation halte man die Tagesschau als Informationslieferant für eine junge Zielgruppe auf Tik Tok „für einen unverzichtbaren Wert“.