MedienberichtTikTok-Moderator:innen sollen mit Aufnahmen sexualisierter Gewalt geschult worden sein

Content-Moderator:innen prüfen im Auftrag von TikTok verbotene Uploads. Wie ein US-Magazin berichtet, sollten sie dafür ein Dokument mit Hunderten Aufnahmen sexualisierter Gewalt gegen Kinder zurate ziehen. Die betroffenen Unternehmen bestreiten das.

Eine Person hält ein Smartphone in der Hand, auf dem das TikTok-Logo angezeigt wird
TikTok steht erneut in der Kritik Gemeinfrei-ähnlich freigegeben durch unsplash.com Solen Feyissa

TikTok soll Darstellungen sexualisierter Gewalt gegen Kinder gespeichert und für interne Schulungszwecke verbreitet haben. Das berichtet das US-Magazin Forbes und beruft sich auf Gespräche mit ehemaligen Content-Moderator:innen. Sie waren demnach nicht direkt bei TikTok angestellt, sondern bei einem von TikTok beauftragten US-Unternehmen namens Teleperformance.

Konkret soll es um Hunderte Fotos von Kindern gehen, wie Forbes berichtet. Sie seien nackt oder würden Ziel von Gewalt. Die Aufnahmen seien zuvor von TikTok gelöscht worden. Ein Dokument mit diesen Aufnahmen soll für Hunderte Personen bei Teleperformance und TikTok zugänglich gewesen sein. Eine ehemalige Mitarbeiterin habe sich laut Forbes deshalb an das FBI gewandt. Die US-Polizeibehörde habe jedoch keine Presseanfragen hierzu beantwortet.

TikTok bestreitet die Vorwürfe gegenüber Forbes. Für das Trainingsmaterial gebe es strenge Zugangskontrollen und es beinhalte keine bildlichen Beispiele von Missbrauch. Ein Teleperformance-Sprecher teilte Forbes mit, die Firma nutze keine entsprechenden Videos zu Schulungszwecken.

Zugriff angeblich aus dem Home Office möglich

Content-Moderator:innen sichten auf Plattformen wie TikTok und Facebook die Massen an Uploads nach regelwidrigen oder illegalen Aufnahmen. Viele Tech-Konzerne beauftragen damit externe Firmen. Zur Arbeit gehören auch Schulungen, welche Uploads nicht erlaubt sind, und entsprechende Dokumente zum Nachschlagen. Ungewöhnlich wäre es, wenn dabei tatsächliche Darstellungen sexualisierter Gewalt gegen Kinder für viele Angestellte zugänglich gemacht würden.

Eine ehemalige TikTok-Moderatorin sagte Forbes, sie habe bei der Arbeit gedacht: „Das ist jemandes Sohn. Das ist jemandes Tochter“. Sie sei sich sicher: „Wenn die Eltern das wüssten, würden sie TikTok niederbrennen.“

Wie Forbes berichtet, habe ein Großteil der Angestellten von Teleperformance während der Pandemie im Home Office gearbeitet. Ein ehemaliger Angestellter sagte Forbes, auch von zuhause aus sei das Dokument mit den Gewaltdarstellungen zugänglich gewesen. „Wenn jemand das wollte, könnte er sein Telefon zücken und einfach alles aufzeichnen, was er sieht“. Immer wieder gibt es Berichte darüber, dass Content-Moderator:innen für große Online-Plattformen unzureichend bezahlt, geschult und psychologisch betreut werden.

Auch aus rechtlichen Gründen müssen Tech-Konzerne bei der Content-Moderation den Zugriff auf Gewaltdarstellungen gegen Kinder streng regulieren. In den USA gehen Verdachtsmeldungen an eine zentrale Sammelstelle namens NCMEC. Eine TikTok-Sprecherin teilte Forbes mit, man sei bestrebt, den Kontakt der Moderator:innen mit diesem Material im Einklang mit höchsten Branchenstandards zu minimieren.

No Tracking. No Paywall. No Bullshit.

Unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze jetzt unsere Arbeit mit einer Spende.

Jetzt spenden


Jetzt spenden

2 Ergänzungen

  1. Vermutung: Es waren keine Aufnahmen zu Schulungszwecken, sondern wahrscheinlich Live-Mitschnitte. Die müssen dann natürlich gelöscht werden. Nicht immer kann ein neuronales Netzwerk alles perfekt vorher aussortieren.

    Ist doch bei den Cleaners nicht anders gewesen. Computer sind nun mal Maschinen, die von Menschen genutzt werden, egal wie alt diese sind.

    1. Der Vorwurf lautet aber genau so: TikTok hat Material das in der Vergangenheit gelöscht worden war zu Schulungszwecken „weitergenutzt“.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.