Interner BerichtTwitter scheitert bei der Suche nach sexualisierter Gewalt

Twitter hat ein Problem bei der Erkennung von sexualisierter Gewalt gegen Kinder. Das zeigt ein interner Bericht, den das Unternehmen erstellen ließ um neue Geschäftsmodelle zu prüfen. Die Autor*innen fordern massive Investitionen in eine neue Infrastruktur – bisher offenbar ohne Erfolg.

Twitter-Logo aus Buchstaben gebildet
Twitter schafft lieber keine Konkurrenz für OnlyFans. CC-BY-SA 2.0 Esther Vargas

Twitter hat keine ausreichenden Tools, um Inhalte mit sexualisierter Gewalt gegen Kinder frühzeitig zu entdecken. Zu diesem Schluss kommen die Autor*innen eines internen Berichtes der Plattform, über den The Verge berichtet. „Twitter ist nicht in der Lage, sexuelle Ausbeutung von Kindern und nicht einvernehmliche Nacktheit in großem Umfang zu erkennen“, stellte das Team demnach im April 2022 fest.

Laut Aussagen von früheren und aktuellen Mitarbeiter*innen seien die Führungskräfte offenbar gut über das Problem informiert, trotzdem tue Twitter wenig, um es zu beheben.

Die Pressesprecherin von Twitter, Katie Rosborough erklärt: „Twitter hat keine Toleranz gegenüber sexueller Ausbeutung von Kindern. Wir bekämpfen den sexuellen Missbrauch von Kindern im Internet aggressiv und haben erheblich in Technologie und Tools investiert, um unsere Richtlinie durchzusetzen.“

Auf unbestimmte Zeit verschoben

Anlass für den Bericht waren demnach Pläne von Twitter, ein Bezahl-Modell für legale Erotikinhalte einzuführen, ähnlich wie OnlyFans. Die Pläne seien nach den Warnungen des Teams auf unbestimmte Zeit verschoben worden – kurz nachdem Elon Musk im April ankündigte, Twitter zu übernehmen.

Twitter versucht generell, neue Finanzierungsmöglichkeiten zu finden. Die Plattform hat in den letzten Jahren vor allem rote Zahlen geschrieben. Mit der neuen Funktion hätte Twitter Creator*innen die Möglichkeit gegeben, Erotikinhalte exklusiv für zahlende Nutzer*innen zu erstellen. Von den Einnahmen hätte Twitter wiederum ein Teil abbekommen. Seit 2021 existiert bereits die Möglichkeit nicht sexuell explizite Tweets zu monetarisieren. Dies ist mit der Funktion „Super Follower“ möglich.

Twitter setzt veraltete Tools ein

Die Probleme um das Finden und Löschen von illegalen Inhalten sind Twitter nicht erst durch den Bericht aufgefallen. Schon 2021 habe eine weitere interne Gruppe Alarm geschlagen, berichtet The Verge: Sie wiesen damals schon darauf hin, Twitter setze veraltete Tools ein, um Darstellungen von Gewalt gegen Kinder aufzuspüren.

Grundsätzlich haben viele Social-Media-Plattformen Schwierigkeiten, die Menge an Inhalten mit sexualisierter Gewalt an Kindern, die von Nutzer*innen täglich hochgeladen werden, schnell zu entfernen. Aber im Gegensatz zu Twitter investiert beispielsweise der Meta-Konzern, zu dem unter anderem Facebook und Instagram gehören, wesentlich mehr Geld in die Moderation und Infrastruktur.

Twitter verwendet dagegen dem Bericht zufolge für die Erkennung dieser Inhalte vor allem die gängige Datenbank „PhotoDNA“ von Microsoft. Allerdings können mit dieser nur Inhalte erkannt werden, die bereits als illegales Material identifiziert und in der Datenbank hinterlegt sind. Sie ist somit nicht für die Erkennung neuer Inhalten geeignet. Die Software, die Twitter dagegen zur Entdeckung neuer Inhalte einsetzt, ist laut den Berichten ineffizient, schlecht gewartet und fehlerhaft.

Auch bei der Übertragung an die zuständigen Behörden gibt es laut dem Bericht Defizite. Alle Plattformen sind nach dem US-Gesetz dazu verpflichtet, Inhalte, die Gewalt gegen Kinder zeigt, an die semistaatliche Organisation National Center for Missing & Exploited Children (NCMEC) (zu deutsch: Nationales Zentrum für vermisste und ausgebeutete Kinder) zu übermitteln. Dadurch, dass Twitter die Übermittlung nicht automatisiert vornimmt, bilde sich ein Rückstau bei den Meldungen, heiße es im Bericht.

Der Bericht fordert Twitter dazu auf, die Infrastruktur für Erkennung und Löschung von Inhalten mit sexualisierter Gewalt dringendst zu modernisieren. Allerdings hat die Leitung von Twitter seit dem Bericht aus dem Jahr 2021 nicht viel getan, um diese Defizite zu beheben, schreibt The Verge.

Noch größere Probleme durch Monetarisierungs-Pläne erwartet

Die Autor*innen des aktuellen Berichtes, der die Auswirkung der Monetarisierung von erotischen Inhalten überprüfen sollte, kommen zu dem Schluss, dass sich die genannten Schwierigkeiten bei der Erkennung und Löschung von illegalen Inhalten noch verschlimmert hätten, hätte Twitter das Vorhaben in die Tat umgesetzt. „Heute können wir nicht proaktiv verletzende Inhalte identifizieren und haben inkonsistente [Richtlinien] für nicht jugendfreie Inhalte und deren Durchsetzung“, schrieben sie in dem Bericht.

Zwar sehen sie durch die so generierten Mehreinnahmen die Möglichkeit, die dringend benötigte Modernisierung von Twitter zu finanzieren. Insgesamt aber überwiegen die Sorgen vor den genannten Risiken.

3 Ergänzungen

  1. Klingt ja sehr nach einer überzeugenden Argumentation für die Überwachung der Nutzer mittels „Chatkontrolle“… Interessant wäre aber hier auch wie groß der Anteil der Accounts die illegale Inhalte tauschen denn überhaupt ist. Also ob das ein Massenphänomen oder doch eher eine Randerscheinung ist geht daraus ja noch lange nicht hervor.

  2. Da zeigt sich, was erste Garde ist, und was nicht!

    Oder sind die Gesetze, die mit Blick auf unmoderierter Massenplattformen beworben und enstanden sind, aber z.T. Wirkung weit darüber bzw. darunter hinaus haben, am Ende „nicht wirklich realistisch“ umsetzbar? Nicht mal von den Massenplattformen?

    Hätte doch nur jemand…

  3. Da bleibt eigentlich nur die Hoffnung das Musk Twitter kaufen muß oder für lau bekommt und dann den ganzen Laden dicht macht. Twitter ist eine der schlimmsten Plattformen und sollte meiner Meinung nach verboten werden. Andere Plattformen wurden für weniger aus dem Netz verbannt aber Twitter kann machen was es will.

Ergänzung an Piratenpartei Kapitän Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.