Shadowbanning: TikTok zensiert LGBTQ-Themen und politische Hashtags

TikTok zensiert und versteckt Hashtags zu LGBTQ-Themen in mindestens acht Sprachen. Das entdeckte ein Forscherteam des Australian Strategic Policy Institute (ASPI) bei Recherchen rund um die App.

Nach außen hin gibt sich TikTok als Plattform, auf der alle gleichermaßen willkommen sind. Zur globalen Pride Month im Juni feierte TikTok lautstark seine LGBTQ-Community, rief zu Spenden auf, legte Regenbogenflaggen und Effekte über die Videos. Doch im Maschinenraum der App sieht es anders aus.

Betroffen sind etwa der arabische Hashtags مثلي_الجنس# („schwul“) und المتحول جنسي# („transgender“) und die russischen Hashtags #гей („schwul“) und #ялесбиянка („Ich bin lesbisch“). Auch #gei auf Estnisch und #gej auf Bosnisch werden zensiert. TikTok-Nutzer:innen, die Videos mit diesen Tags posten, merken nicht, dass ihre Inhalte in der Suche unterdrückt werden. Ihre Videos werden nicht gelöscht – die Methode wird deshalb auch als Shadowbanning bezeichnet. In der Praxis behandelt TikTok diese Hashtags aber ähnlich wie terroristische Organisationen, Drogen oder Kraftausdrücke: Wer danach sucht, bekommt eine Fehlermeldung. In einigen Fällen suggeriert TikTok in den Suchergebnissen, dass die Begriffe nicht verwendet würden – obwohl sie für zahlreiche Videos auf der Plattform im Einsatz sind.

Zensur weit über nationale Gesetze hinaus

TikToks Manager:innen und der chinesische Mutterkonzern ByteDance werden nicht müde zu betonen, dass die App von „keiner fremden Regierung beeinflusst wird, auch nicht der chinesischen Regierung“. Auch sollen die Moderationsregeln der App keinen „politischen Befindlichkeiten“ folgen. Die jetzt von ASPI aufgedeckten Zensurpraktiken zeigen das Gegenteil: eine Plattform, die in ihrer Bereitschaft, alles zu zensieren, was gegen die homo- und transfeindlichen „Befindlichkeiten“ von Regierungen verstoßen könnte, alle anderen Mitstreiter:innen überbietet.

TikTok verweist darauf, dass bestimmte Hashtags aufgrund von lokalen Gesetzen unterdrückt werden müssten. Doch die Plattform geht auf mehreren Ebenen weit über das hinaus, was Gesetze vorschreiben. Denn die Maßnahmen betreffen nicht nur Nutzer:innen in russisch- und arabischsprachigen Ländern, sondern gelten weltweit – auch für Nutzer:innen in Deutschland, den USA oder anderen Ländern. Dabei wäre TikTok durchaus in der Lage, die Zensur auf bestimmte Regionen zu begrenzen. In anderen Bereichen arbeitet die App stark mit Geolokalisierung.

Im Fall von Russland geht die Zensur zudem weit über das hinaus, was andere Social-Media-Plattformen tun. Seit 2013 ist es dort verboten „Propaganda für nicht-traditionelle sexuelle Beziehungen“ zu verbreiten – ein Gesetz, das die Menschenrechte massiv einschränkt. Weder Instagram noch Twitter lassen sich davon beeindrucken, beide Plattformen zeigen auch in Russland weiterhin LGBTQ-Hashtags an. TikTok scheint dagegen überzuerfüllen, was sich die russische Regierung wünscht – auf Kosten der Nutzer:innen.

Dass TikTok LGBTQ-Inhalte zensierte, war schon länger bekannt. Whistleblower aus dem Unternehmen hatten 2019 Moderationsrichtlinien an den Guardian geleakt, die zeigten, dass TikTok Inhalte auch in solchen Ländern zensiert, in denen Homosexualität niemals illegal war. In der Türkei sollten demnach Videos zensiert werden, auf denen Männer sich Küssen oder an den Händen halten, auch Pride-Demonstrationen oder andere Dinge, die „Homosexualität bewerben“ sollten versteckt werden. In unseren eigenen Recherchen haben wir aufgedeckt, dass TikTok die Reichweite von LGBTQ-Nutzer:innen über Monate gedrosselt hat – vorgeblich um sie vor Mobbing zu schützen.

Auch Hashtags gegen Polizeigewalt wieder verschwunden

Die Maßnahmen betreffen nach Recherchen von ASPI auch politische Hashtags. So wurde der Hashtag #acab – ein Acronym für „all cops are bastards“ – in der Suche nicht angezeigt, als zur gleichen Zeit die Demonstrationen gegen den Mord am Schwarzen US-Amerikaner George Floyd ihren Höhepunkt erreichten und der Begriff zu einem Ausdruck der Proteste gegen Polizeigewalt wurde. Nach massiver öffentlicher Kritik war der Hashtag Ende Mai in der Suche plötzlich wieder da, TikTok verwies auf einen „technischen Fehler“. Zu diesem Zeitpunkt hatte der Hashtag laut dem dem Digital Forensic Research Lab des Atlantic Council bereits 96,5 Millionen Ansichten.

Drei Monate später war der Hashtag schon wieder aus der Suche getilgt worden, entdeckten die Forscher:innen. Zugleich demonstrierten Tausende in Kenosha gegen rassistische Polizeigewalt, nachdem ein Polizist den Schwarzen US-Amerikaner Jacob Blake in den Rücken geschossen hatte.

Es sei sehr unwahrscheinlich, schreiben die ASPI-Forscher:innen in ihrem Bericht, dass der Hashtag ein weiteres Mal von einem technischen Fehler betroffen gewesen sei. Sie vermuten vielmehr, dass TikTok die schwindende öffentliche Aufmerksamkeit nutzte, um den Hashtag unauffällig ein weiteres Mal zu zensieren.

Eine TikTok-Sprecherin teilte mit, es gebe nationale Unterschiede in der Handhabung von Hashtags. „Als Teil unseres lokalisierten Moderationsansatzes waren einige Begriffe, die das ASPI zur Verfügung stellte, teilweise aufgrund einschlägiger örtlicher Gesetze eingeschränkt“, sagte sie. Andere Begriffe seien eingeschränkt worden, „weil sie in erster Linie bei der Suche nach pornografischen Inhalten verwendet wurden“ oder weil es bei der Übersetzung aus dem Arabischen zu Problemen kam. Die Begriffe würden derzeit überprüft, um „ähnliche Probleme in Zukunft zu vermeiden.“

Gegen Hassrede und Homosexualität

Gestern gab die EU-Kommission bekannt, dass TikTok einem freiwilligen Kodex zur Bekämpfung von Hassrede im Netz beigetreten ist. Damit folgt die chinesische Plattform anderen Tech-Unternehmen wie Facebook, Microsoft, YouTube oder Twitter, die bereits seit 2016 an dem Abkommen beteiligt sind. Die Unternehmen verpflichten sich darin unter anderem dazu, „klare und wirksame Verfahren für die Prüfung von Meldungen über illegale Hassreden in ihren Diensten einführen, um solche Inhalte zu entfernen oder den Zugang dazu zu sperren“. In dem Kodex bekennen sich die Firmen außerdem dazu, ihre Nutzer zu informieren und dafür zu sensibilisieren, „welche Art von Inhalten nach ihren Regeln und Community-Leitlinien nicht erlaubt sind“.

TikTok tilgt bereits heute terroristische Propaganda, rassistische oder antisemitische Hetze und neuerdings auch Verschwörungstheorien wie QAnon von der Plattform. Das Unternehmen sucht per Algorithmus nach solchen Inhalten und versucht sie frühzeitig zu löschen. Hashtags wie #Nazi, #ISIS oder #KKK werden zudem in der Suche zensiert, seit Juli 2020 auch #QAnon.

Doch während die Einschränkung der Meinungsfreiheit in diesen Fällen rechtlich gedeckt ist, zeigt die Zensur von Hashtags zu Polizeigewalt und LGBTQ-Themen, dass TikTok in seiner Content-Moderation nach wie vor einen grobmotorischen Ansatz fährt. Technisch gesehen behandelt die App diese Themen alle gleichermaßen als unerwünschte Inhalte und zensiert sie in der Suche – egal, ob es sich dabei um Terrorismus, Extremismus, Verschwörungstheorien oder Homosexualität handelt.

Update 14.09.: Wir haben den Beitrag um ein Statement von TikTok ergänzt.