TikTok soll Darstellungen sexualisierter Gewalt gegen Kinder gespeichert und für interne Schulungszwecke verbreitet haben. Das berichtet das US-Magazin Forbes und beruft sich auf Gespräche mit ehemaligen Content-Moderator:innen. Sie waren demnach nicht direkt bei TikTok angestellt, sondern bei einem von TikTok beauftragten US-Unternehmen namens Teleperformance.
Konkret soll es um Hunderte Fotos von Kindern gehen, wie Forbes berichtet. Sie seien nackt oder würden Ziel von Gewalt. Die Aufnahmen seien zuvor von TikTok gelöscht worden. Ein Dokument mit diesen Aufnahmen soll für Hunderte Personen bei Teleperformance und TikTok zugänglich gewesen sein. Eine ehemalige Mitarbeiterin habe sich laut Forbes deshalb an das FBI gewandt. Die US-Polizeibehörde habe jedoch keine Presseanfragen hierzu beantwortet.
TikTok bestreitet die Vorwürfe gegenüber Forbes. Für das Trainingsmaterial gebe es strenge Zugangskontrollen und es beinhalte keine bildlichen Beispiele von Missbrauch. Ein Teleperformance-Sprecher teilte Forbes mit, die Firma nutze keine entsprechenden Videos zu Schulungszwecken.
Zugriff angeblich aus dem Home Office möglich
Content-Moderator:innen sichten auf Plattformen wie TikTok und Facebook die Massen an Uploads nach regelwidrigen oder illegalen Aufnahmen. Viele Tech-Konzerne beauftragen damit externe Firmen. Zur Arbeit gehören auch Schulungen, welche Uploads nicht erlaubt sind, und entsprechende Dokumente zum Nachschlagen. Ungewöhnlich wäre es, wenn dabei tatsächliche Darstellungen sexualisierter Gewalt gegen Kinder für viele Angestellte zugänglich gemacht würden.
Eine ehemalige TikTok-Moderatorin sagte Forbes, sie habe bei der Arbeit gedacht: „Das ist jemandes Sohn. Das ist jemandes Tochter“. Sie sei sich sicher: „Wenn die Eltern das wüssten, würden sie TikTok niederbrennen.“
Wie Forbes berichtet, habe ein Großteil der Angestellten von Teleperformance während der Pandemie im Home Office gearbeitet. Ein ehemaliger Angestellter sagte Forbes, auch von zuhause aus sei das Dokument mit den Gewaltdarstellungen zugänglich gewesen. „Wenn jemand das wollte, könnte er sein Telefon zücken und einfach alles aufzeichnen, was er sieht“. Immer wieder gibt es Berichte darüber, dass Content-Moderator:innen für große Online-Plattformen unzureichend bezahlt, geschult und psychologisch betreut werden.
Auch aus rechtlichen Gründen müssen Tech-Konzerne bei der Content-Moderation den Zugriff auf Gewaltdarstellungen gegen Kinder streng regulieren. In den USA gehen Verdachtsmeldungen an eine zentrale Sammelstelle namens NCMEC. Eine TikTok-Sprecherin teilte Forbes mit, man sei bestrebt, den Kontakt der Moderator:innen mit diesem Material im Einklang mit höchsten Branchenstandards zu minimieren.
Vermutung: Es waren keine Aufnahmen zu Schulungszwecken, sondern wahrscheinlich Live-Mitschnitte. Die müssen dann natürlich gelöscht werden. Nicht immer kann ein neuronales Netzwerk alles perfekt vorher aussortieren.
Ist doch bei den Cleaners nicht anders gewesen. Computer sind nun mal Maschinen, die von Menschen genutzt werden, egal wie alt diese sind.
Der Vorwurf lautet aber genau so: TikTok hat Material das in der Vergangenheit gelöscht worden war zu Schulungszwecken „weitergenutzt“.