„Ich finde TikTok blöd, weil es Inhalte zensiert.“ Ein solcher Satz in einem TikTok-Video konnte bis vor Kurzem dazu führen, dass es niemals ein großes Publikum erreichen würde. Das gleiche galt für Clips, die einen Screenshot aus einem WhatsApp-Chat beeinhalteten. Bis mindestens September dieses Jahres wurden bei der Videoplattform Inhalte heruntergeregelt, die das Unternehmen scharf kritisierten oder einen direkten Konkurrenten von TikTok nannten. Das belegen Moderationsregeln, die netzpolitik.org einsehen konnte.

Für diese Recherche hat netzpolitik.org mit einer Quelle bei TikTok gesprochen, sowie Moderationskriterien und Kommunikationen eingesehen. Im Artikel „TikTok: Gute Laune und Zensur“ haben wir die Abläufe in der Moderation und die politischen Implikationen der Informationskontrolle auf der chinesischen Videoplattform offengelegt. Nun richten wir den Blick auf die Kritikfähigkeit und den Umgang des Unternehmens mit der Konkurrenz (PDF).

Kritik an TikTok war unerwünscht

Eine der Regelungen, die netzpolitik.org einsehen konnte, hieß „Inhalte, die einen Angriff auf TikTok beinhalten“. In ihr stand, dass „konstruktive Kritik“ und „Feedback“ erlaubt seien. Bei Inhalten, „die TikTok attackieren, verdammen oder kritisieren“, sollten die Moderator:innen die Videos als „Not Recommend“ markieren. Eine Einordnung als „Not Recommend“ führt dazu, dass die Reichweite eines Videos stark eingeschränkt wird. Es taucht dann nicht mehr im algorithmisch kuratierten „For-You“-Newsfeed auf, den die Nutzer:innen beim Öffnen der App sehen.

Die Regel beinhaltete Beispiele für nicht erlaubte Kritik, an denen sich die Moderator:innen orientieren sollten. „Nur Idioten nutzen diese App“ war ebenso als Beispiel genannt wie: „Das ist die dümmste App, die ich je gesehen habe“. Die Quelle bei TikTok erzählte uns, dass auch harmlose Sätze wie „Ich habe keine Lust mehr auf TikTok“ dazu geführt hätten, dass Inhalte ausgebremst wurden.

Auf Nachfrage, wann TikTok diese Regel aufgegeben hat, gibt die Pressestelle von TikTok nur eine schwammige Antwort. Um Fehlinformationen entgegenzuwirken, habe man „zu Beginn“ einen restriktiven, temporären Ansatz verfolgt. Dieser habe zu keinem Zeitpunkt eine langfristige Lösung dargestellt und das Unternehmen verfolge ihn nicht mehr.

Nach Informationen von netzpolitik.org galt diese Regel in Deutschland allerdings bis mindestens September 2019, eventuell auch darüber hinaus.

Nennung der Konkurrenz führt zu Ausbremsen

Eine weitere Moderationsregel beschäftigte sich mit den „direkten“ und „indirekten“ Konkurrenten von TikTok, sie war mit „Inhalte, welche Werbung für Konkurrenten beeinhalten“ beschrieben. Als indirekte Konkurrenten benannte TikTok darin Facebook, Instagram, Youtube und Netflix, als direkte Konkurrenten Triller, Dubsmash, Weishi, Kwai, Lasso, WhatsApp und Snapchat. Doch die Regel hatte mitnichten etwas mit Werbung zu tun, sondern betraf alle Inhalte, in denen die direkte Konkurrenz vorkam.

Jeder Inhalt mit einem eindeutigen Merkmal eines direkten Konkurrenten sollte auf „Not Recommend“ gesetzt werden. Das konnte ein Logo, der Name als Text, ein Screenshot oder ein User Interface sein. Das galt auch für indirekte Konkurrenten, wenn deren Logo oder Name in mehr als der Hälfte des Videos zu sehen war – selbst wenn das Logo vom TikTok-User absichtlich unkenntlich gemachte wurde. Ausgebremst wurden auch Videos, die Funktionalitäten von direkten Konkurrenten erklärten.

TikTok möchte sich gegenüber netzpolitik.org nicht zu den Fragen bezüglich dieses Sachverhaltes äußern. Stattdessen schickte das Unternehmen ein allgemeines Statement, dass es an der Verbesserung der Moderationsrichtlinien arbeite.

Nach Informationen von netzpolitik.org wurde die „Konkurrenz-Drossel“ bis mindestens September dieses Jahres eingesetzt.

Löschen, Bremsen, Pushen

Die Moderationsregeln unterteilen unliebsame Inhalte in vier Kategorien, welche die Reichweite insgesamt begrenzen. Verstoßen Videos komplett gegen die Auflagen der Plattform, werden sie gelöscht – „Deletion“. Andere Inhalte werden als „Visible to self“ markiert. Dadurch kann eine Nutzerin das Video selbst noch sehen, andere aber nicht mehr. Das ist eine noch stärkere Einschränkung als „Not Recommend“ oder „Not for Feed“. Bei letzterem kann es – neben dem Ausschluss aus dem wichtigen „For You“-Feed – auch zu einer Benachteiligung bei der Suche und Auffindbarkeit in Hashtags kommen, sagt die Quelle.

Für die nicht generell eingeschränkten Videos gibt es zwei Stufen. Die meisten werden als „General“ bezeichnet, hier können allerdings über die Markierung von „Risks“ die Inhalte regional gesperrt oder heruntergedrosselt werden, berichtet die Quelle. Moderationsregeln, die netzpolitik.org einsehen konnte, bestätigen das. Videos, deren Verbreitung die Marketingabteilung extra verstärken will, kann sie mit der Markierung „Featured“ pushen.

TikTok bestätigte netzpolitik.org gegenüber nur die Existenz von „Deletion“, „Visible to self“ und „Risks“. Die „Risks“ seien notwendig, damit die Videos nicht gegen lokale Gesetze in bestimmten Ländern verstoßen.

Die Erfolgsplattform TikTok gehört dem chinesischen Technologieunternehmen ByteDance. Keine App wurde im vergangenen Jahr so oft heruntergeladen wie die Videosharing-Plattform. Im November 2019 durchbrach TikTok die Eine-Milliarde-Nutzer:innen-Schallmauer – so schnell wie kein anderes soziales Netzwerk je zuvor. Die Video-App und ihre Kultur ist bei Kindern und Jugendlichen derzeit so angesagt, dass auch die Tagesschau inzwischen einen eigenen Account dort betreibt.

Über diese Recherche und die Quellen

Unser Wissen über die Moderation bei TikTok in Deutschland beruht auf einem mehrstündigen Gespräch von netzpolitik.org mit einer Quelle, die Einblick in die Moderationsstrukturen und die Policy hat. Wir haben die Identität der Quelle und ihren Arbeitsvertrag überprüft. Wir können und wollen die Quelle aus Gründen des Informantenschutzes nicht näher beschreiben.

Sollten Sie Informationen oder Hinweise zu diesem Thema oder anderen Themen haben, freuen wir uns über eine Kontaktaufnahme – gerne verschlüsselt. Nutzen Sie dafür keine beruflichen Mailadressen, Telefonnummern, Netzwerke und Geräte.