Commercial Content Moderation

TikTok hat einen umfangreichen Transparenzbericht zur Entfernung von Inhalten veröffentlicht. Er gibt einen Einblick darin, was die Videoplattform löscht und welche Staaten besonders viel Anfragen stellen.

Instagram entfernt einen kritischen Beitrag über die Versäumnisse der Polizei beim Anschlag von Hanau. Eine echte Erklärung für die Gründe gibt das soziale Netzwerk nicht.

Ein Softwareentwickler aus der Technikabteilung von TikToks Mutterkonzern ByteDance berichtet über effiziente Informationskontrolle in Echtzeit und eine Armee von 20.000 Moderator:innen, welche die chinesische Version von TikTok so gut kontrollieren, dass es noch nie Ärger mit dem Staat gab.

Wer auf Twitter Bilder und Videos zu den Umweltprotesten gegen den Autobahnbau über die Suchfunktion suchte, bekam eine Warnmeldung. Dahinter könnte ein Pornofilter stecken. Bestätigen wollte Twitter dies nicht.

Graffiti mit dem Slogan: "Black Lives Matter"

Seitdem die Facebook-Führung die gewaltverherrlichenden Aussagen von US-Präsident Trump stehen lassen will, rumort es im Unternehmen. Angestellte stellen sich in der Öffentlichkeit gegen Mark Zuckerberg und haben am Montag sogar eine Demo veranstaltet.

Demonstration. Über der Demo fliegt ein großer aufgeblasener Stein.

Twitter hat wieder zugeschlagen und sperrte nach Gutsherrenart den Account der Hedonistischen Internationale. Was dieser vorgeworfen wird, sagte Twitter nicht. Genausowenig reagierte das Unternehmen im eigenen Beschwerdesystem. Erst als Presse ins Spiel kam, wurde der Account wieder freigeschaltet. Ein Einzelfall ist das nicht.

TikTok hat Moderator:innen angewiesen, Videos von dicken, unattraktiven oder armen Menschen auf der Plattform zu verstecken, damit sie keine neue Nutzer:innen abschrecken. Die geleakten Dokumente zeichnen das Bild einer Firma, der ein Blick für Verhältnismäßigkeit fehlt.

Leaked documents reveal how TikTok hid videos of people with disabilities. Queer and fat users were also pushed out of view. The Chinese company says the rules were meant to protect vulnerable users.

Neue Einblicke in die Moderationsregeln zeigen, wie TikTok versuchte Mobbing zu bekämpfen: Videos von Menschen mit Behinderungen wurden einfach versteckt. Auch queeren und dicken Nutzer:innen drehte man so das Publikum ab. Das Erstaunen und der Ärger darüber sind groß.

Exaggerated corporate sensitivities? We publish excerpts from the moderation rules of TikTok which show that not only political content made the video platform nervous. The naming of competitors and criticism of the company were also punished.

Wer über die Videoplattform schimpfte, bekam weniger Reichweite. Wir veröffentlichen Ausschnitte aus den Moderationsregeln von TikTok. Sie zeigen, dass nicht nur politische Inhalte die Videoplattform nervös machten. Auch die Nennung der Konkurrenz und Kritik am Unternehmen wurden bestraft.

Never before has a platform grown as fast as TikTok. We have gained exclusive insight into its content moderation and are publishing excerpts from its moderation rules: TikTok operates a sophisticated system to identify, control, suppress and direct content. The platform can throttle videos of protests and demonstrations according to its rules.

Unsere Recherchen zur Content Moderation bei TikTok zeigen, wie wenig politische Meinungsfreiheit auf der Plattform respektiert wird. Das chinesische Unternehmen kontrolliert und manipuliert intransparent wie bisher kein anderer marktdominanter Konkurrent diese neue Öffentlichkeit. Selbst Facebook wirkt dagegen fast wie ein demokratisches Forum. Ein Kommentar.

Noch nie ist eine Plattform so schnell gewachsen wie TikTok. Wir haben exklusiven Einblick in die Moderation bekommen und veröffentlichen Ausschnitte aus den Moderationsregeln: TikTok betreibt ein ausgeklügeltes System um Inhalte zu identifizieren, zu kontrollieren, zu unterdrücken und zu lenken. Die Plattform kann nach ihren Regeln Videos von Protesten und Demonstrationen drosseln.

Seit letztem Jahr läuft bei Facebook eine Untersuchung zu Bürgerrechten. Diese fordert nun in einem Bericht, jedes Lob zu rassistischen Ideologien zu löschen. Außerdem soll Werbung zu Wohnungen, Jobs oder Krediten nicht mehr nach potentiell diskriminierenden Kriterien geschaltet werden.

Der Datenkonzern Facebook setzt bei der Moderation von Inhalten zunehmend auf Automatisierung. Eine Quelle erklärt uns erstmals, wie sich die Maschinen auf die Moderationsarbeit auswirken. Auch wenn am Ende heute immer noch Menschen entscheiden: Die automatisierte Inhaltserkennung verändert die digitale Öffentlichkeit grundlegend.

Undeutliches Bild eines Menschen am Schreibtisch

Wie Facebook Inhalte moderiert, behandeln der Weltkonzern und seine Dienstleister wie ein Staatsgeheimnis. Durch Gespräche mit Insidern können wir erstmals rekonstruieren, wie die Arbeit in den Moderationszentren organisiert ist.

Welche Inhalte auf Social-Media-Plattformen erlaubt sind und welche gelöscht werden, hängt heute oft von den Entscheidungen kommerzieller Moderationsteams ab. Die Dokumentation „The Cleaners“ ist ein außergewöhnliches Porträt dieser Schattenindustrie. Im netzpolitik.org-Podcast spricht Regisseur Hans Block über Meinungsfreiheit, Moral und Verantwortung in Zeiten der digitalen Öffentlichkeit.

Ob Hassrede, terroristische Inhalte oder urheberrechtlich geschützte Werke: Weltweit rufen Staaten nach mehr Verantwortung der Internetplattformen für die Inhalte ihrer Nutzer. Eins von vielen Themen auf unser Konferenz am 21. September in Berlin.

Der Alltag von menschlichen Content-Moderatoren in sozialen Netzwerken ist wirklich schockierend. Zu diesem Schluss kam Youtube und löschte einen Arte-Trailer über seine Zensoren kurzerhand von seiner Plattform. Das kommt leider häufiger vor, klagt der deutsch-französische Kultursender.

Commercial Content Moderation

TransparenzberichtTikTok löschte in sechs Monaten fast 90 Millionen Videos

OverblockingInstagram sperrt Video von „Monitor“ über rassistischen Anschlag in Hanau [Update]

TikTokInsider berichtet über Zensurtechniken bei ByteDance

OverblockingTwitter-Bildersuche zu Protesten im Dannenröder Forst wegen Pornofilter gesperrt?

WalkoutProteste bei Facebook gegen Haltung zu Trump

Willkürliche SperrenTwitters Beschwerde-System funktioniert am besten über die Presse

Diskriminierende ModerationspraktikenZu hässlich für TikTok

Stop complaining about us! TikTok’s Criticism and Competition Guidelines

ModerationsregelnDie Kritik-Drossel von TikTok

TikTokCheerfulness and censorship

Content-Moderation bei TikTokEine neue Dimension der Informationskontrolle

TikTokGute Laune und Zensur

Facebook: Bericht fordert, Lob auf Rassismus zu verbieten

Warum Künstliche Intelligenz Facebooks Moderationsprobleme nicht lösen kann, ohne neue zu schaffen

Exklusiver Einblick: So funktionieren Facebooks Moderationszentren

Preview #14np: Hitzige Debatten um Plattforminhalte

Ironiebefreit: Youtube löscht Arte-Video über digitale Zensoren