Trusted FlaggerYouTube serviert freiwillige Helfer:innen ab

Seit Jahren helfen freiwillige Nutzer:innen auf YouTube bei der Löscharbeit. Ohne Bezahlung. Millionen Videos haben sie schon gemeldet. Jetzt sind einige stinksauer.

Eine Person hat die Hände auf der Tastatur eines Laptops. Ein Screenshot mit YouTube-Videos.
Videos, die auf andere Websites locken: Eine häufige Masche auf YouTube. (Symbolbild) – Vereinfachte Pixabay Lizenz Mensch am Laptop: Pixabay / mohamed_hassan, Screenshot: YouTube.com, Bearbeitung: netzpolitik.org

Sein Online-Name ist LightCode, und er ist ziemlich sauer. Mehrere Jahre lang hat der Entwickler aus den USA in seiner Freizeit geholfen, YouTube aufzuräumen. Er hat die Plattform nach Spam- und Gewaltvideos durchforstet. Am 15. Oktober veröffentlicht LightCode auf Englisch einen Wutbrief gegen YouTube. Er schreibt: „Wir sind fertig. Wir sind angepisst. Wir ertragen das nicht mehr.“

Was ist passiert?

LightCode ist einer von mehreren freiwilligen Helfer:innen auf YouTube. Sie heißen „Trusted Flagger“, auf Deutsch: vertrauenswürdige Hinweisgeber:innen. Sie unterstützen YouTube bei der Suche nach missbräuchlichen Videos: zum Beispiel Spam, Gewalt, Tierquälerei. Zwar dürfen alle Nutzer:innen auf YouTube Videos melden, aber Trusted Flagger haben Privilegien.

So können Trusted Flagger etwa mit einem speziellen Tool mehrere Videos auf einmal melden. Die Hinweise werden YouTube zufolge mit erhöhter Priorität bearbeitet. Dazu gebe es Austausch mit dem YouTube-Team. Mit diesen Vorzügen wird das Trusted-Flagger-Programm noch immer öffentlich beworben. Aber offenbar ist die Realität dahinter ernüchternd.

Einblick in den Maschinenraum

Auf Feedback warten die freiwilligen Helfer:innen nach eigenen Angaben heute mehrere Wochen bis Monate. E-Mails mit Rückfragen würden kaum beantwortet. Das einst mächtige Tool zum Finden und Melden missbräuchlicher Videos wurde wohl durch ein weniger nützliches ersetzt. Diese und weitere Vorwürfe erhebt nicht nur LightCode in seinem öffentlichen Brief – auch ein Trusted Flagger aus Deutschland bestätigt sie.

„Es läuft schon eine ganze Weile ziemlich scheiße“, sagt er im Gespräch mit netzpolitik.org. Er möchte hier Phil genannt werden, sein echter Name ist der Redaktion bekannt. Wir haben YouTube-Mutter Google gefragt, ob die Vorwürfe von LightCode korrekt sind. In seiner allgemein gehaltenen Antwort ging der Konzern nicht direkt auf die Frage ein.

Die Geschichte der Trusted Flagger gibt einen seltenen Einblick in den Maschinenraum von YouTube, eine der größten Social-Media-Plattformen der Welt. Seit Jahren wird diskutiert, wie Plattformen ihre Richtlinien durchsetzen können. Wie lassen sich Gewalt, Betrug und Propaganda bekämpfen, wenn Millionen von Menschen sekündlich neue Inhalte hochladen? Neben Heerscharen bezahlter Löschcrews und automatisch löschenden Bots lautet eine Antwort: freiwillige Helfer:innen.

Das sagt YouTube zu den Trusted Flaggern

Schon der Transparenzbericht von YouTube zeigt, dass sich bei den Trusted Flaggern etwas verändert hat. Im Jahr 2018 wurden dank ihrer Hilfe rund 5,3 Millionen Videos entfernt. Im Jahr 2019 waren es nur noch rund 2,6 Millionen, ein Jahr später 0,56 Millionen. Die Helfer:innen melden immer weniger Videos. Ein möglicher Grund: Sie haben nicht mehr das nötige Werkzeug.

„Die haben alles entfernt, womit man gut arbeiten kann“, sagt der deutsche Trusted Flagger Phil. Früher habe er mit einem speziellen Tool gezielt nach Videos suchen können, die gegen die Richtlinien verstoßen. Das waren oft Spam-Videos, die Menschen auf kostenpflichtige Seiten mit Pornos oder Kinofilmen locken sollten. Die Treffer konnte Phil direkt im Tool melden; bereits gemeldete Videos ließen sich herausfiltern. Heute gibt es dieses Tool nicht mehr.

Phil müsste missbräuchliche Videos nun über die weniger praktische YouTube-Suche aufspüren und per Formular melden. Das koste deutlich mehr Zeit und Klicks.

Eine Begründung für die Schikane hat YouTube inzwischen geliefert: Anfang Oktober erhalten die Trusted Flagger eine E-Mail, unterzeichnet von Derek Slater, einem Manager der YouTube-Mutter Google. LightCode bezieht sich in seinem Wutbrief darauf. Die entscheidenden Passagen der E-Mail konnte netzpolitik.org verifizieren.

„Schlag in die Magengrube“

In der E-Mail bedankt sich Slater zunächst bei den Trusted Flaggern. Ihre Hilfe werde sehr wertgeschätzt, sie mache YouTube für Millionen Nutzer:innen sicherer. Slater erwähnt technische Verbesserungen, mit deren Hilfe YouTube automatisch Verstöße erkenne. Und dann kommt das, was LightCode so wütend macht.

Slater zufolge bekomme das Trusted-Flagger-Programm einen neuen Fokus. YouTube setze nun auf Hinweise von NGOs und Regierungsorganisationen, nicht mehr auf massenhafte Meldungen. Eine feste Ansprechperson für die Freiwilligen gebe es nicht mehr; sie könnten aber jederzeit eine Nachricht hinterlassen.

Für Trusted Flagger heißt das im Klartext: Ihr seid nicht mehr wichtig. LightCode beschreibt die E-Mail als „Schlag in die Magengrube, gefolgt von einem Kinnhaken“.

Der E-Mail zufolge arbeitet YouTube mit mehr als 200 NGOs und mehr als 70 Behörden zusammen. Auch sie haben die Privilegien von Trusted Flaggern. In Deutschland sind das neben einigen Polizeibehörden beispielsweise die Beratungsstelle für digitale Gewalt, HateAid, und das Portal jugendschutz.net. Das hat YouTube 2019 in einer Stellungnahme gegenüber dem Rechtsausschuss des Bundestages offengelegt (PDF). Von den Trusted Flaggern, die zu keiner NGO gehören, gebe es weltweit höchstens 50, schätzt Phil, genau wisse er es nicht. Eine Rückfrage zu den genauen Zahlen lässt die Pressestelle von Google unbeantwortet.

Waren die Trusted Flagger zu fleißig?

Zahlenmäßig spielen die Meldungen von NGOs und Regierungsorganisationen allerdings eine kleine Rolle. Laut Transparenzbericht wurden auf Hinweis von NGOs im Jahr 2019 knapp 27.000 Videos entfernt; auf Hinweis von Behörden nur 74. Kein Vergleich zu den millionenfachen Hinweisen der einzelnen Trusted Flagger.

Ein Balkendiagramm zeigt, wie viele YouTube-Videos 2019 gelöscht wurden, nach einer Meldung durch Algorithmen, Trusted Flagger, Nutzer:innen, NGOs, Behörden.
Das Jahr 2019 zeigt gut, wie viel Trusted Flagger leisten können. Ab 2020 geht die Anzahl ihrer Meldungen stark zurück. Die Werte für NGOs und Behörden sind so gering, dass die entsprechenden Balken hier kaum sichtbar sind. Quelle: YouTube Transparency Report - CC-BY-NC-SA 4.0 netzpolitik.org

Nicht nur deshalb ärgern sich Phil und LightCode über die E-Mail von Slater. Phil vermutet, YouTube wolle in Wahrheit einfach Geld sparen, immerhin müssten all die Hinweise von irgendwem gesichtet werden. Wir wollten von YouTube-Mutter Google wissen, ob das stimmt: Ist es für YouTube schlicht zu teuer, massenhafte Hinweise von Trusted Flaggern zu überprüfen? Der Konzern hat die Frage nicht direkt beantwortet. Über einen Sprecher weist Google zumindest darauf hin, dass sich die automatische Erkennung wesentlich verbessert habe. Das legt nahe, dass der Konzern menschliche Hilfe für weniger notwendig erachtet als früher.

EU feilt an Gesetz für Trusted Flagger

Trusted Flagger spielen auch eine Rolle im geplanten Digitale-Dienste-Gesetz der EU. Artikel 19 würde von Plattformen verlangen, dass Hinweise von Helfer:innen „vorrangig und unverzüglich bearbeitet und entschieden werden“. Bei sehr vielen Meldungen durch Trusted Flagger bedeutet das sehr viel Arbeit. Es wäre Spekulation, ob das geplante Gesetz ein zusätzlicher Anreiz ist, die Anzahl der Meldungen gering zu halten.

LightCode bezweifelt, dass YouTubes Algorithmen die Arbeit von Freiwilligen wie ihm vollständig ersetzen können. Es gebe immer neue „abuse trends“, also Maschen, mit denen Menschen die Algorithmen täuschen und missbräuchliche Videos auf YouTube schleusen. Diese Trends zu entdecken sei Teil seiner freiwilligen Arbeit gewesen.

Ein weiteres Problem bei Löscharbeit durch Algorithmen: Sie machen Fehler. Wenn Plattformen zu viel blockieren, kann das die Meinungsfreiheit gefährden. Um Fälle von Overblocking zu erkennen und zu überprüfen, braucht es letztlich doch wieder Menschen.

LightCode und Phil bedauern, dass ihre Arbeit in der gewohnten Form nicht mehr möglich ist. Und das, obwohl sie für ihren Fleiß kein Geld bekommen haben. Warum sind die beiden so heiß auf unbezahlte Arbeit?

„Ich hatte das Gefühl, etwas Gutes zu tun“, sagt Phil. Er hat eine enge Verbindung zu der Plattform, befasst sich auch beruflich mit YouTube. LightCode schreibt, es habe ihn motiviert, dass Menschen durch seine Arbeit nicht auf schädliche Videos stoßen – etwa Videos mit Links zu Malware und Phishing oder Videos, die Kinder verstören. Beide erzählen, dass sie sich auch auf andere Weise gern bei YouTube nützlich gemacht haben, etwa indem sie Fragen anderer Nutzer:innen im Forum beantwortet haben.

Warum NGOs nur wenige Videos melden

Für manche NGOs macht der Status als Trusted Flagger die Arbeit leichter. „Der Mehrwert ist, dass Meldungen priorisiert behandelt werden“, sagt Josephine Ballon von HateAid im Gespräch mit netzpoltik.org. HateAid berät Betroffene digitaler Gewalt. Die Berater:innen melden auf YouTube zum Beispiel üble Nachrede und Verleumdung. „Manchmal haben Betroffene schon selbst vergeblich versucht, Kommentare und Videos löschen zu lassen.“

Die Anzahl der gemeldeten Inhalte sei unterm Strich aber gering. Und das leuchtet ein, wenn man sich die Aufgaben von HateAid vor Augen führt: Es ist eine Beratungsstelle – und kein Büro für Klickarbeiter:innen, die YouTube durchkämmen.

Die Amadeu-Antonio-Stiftung, die gegen Rechtsextremismus, Rassismus und Antisemitismus mobil macht, empfindet das Trusted-Flagger-Programm als „sehr effektiv“, schreibt eine Sprecherin. Inhalte würden sehr viel schneller gelöscht. Die Stiftung tausche sich mit YouTube darüber aus, wie die Richtlinien verbessert werden könnten.

Eine weitere NGO, die Google dem Bundestag als Trusted Flagger genannt hat, ist Klicksafe, ein von der EU finanziertes Portal für Sicherheit im Netz. Auf Anfrage teilt Klicksafe jedoch mit, nicht mehr als Trusted Flagger aktiv zu sein. Eine Sprecherin verweist auf jugendschutz.net.

Die Jugendschützer:innen möchten auf Anfrage jedoch nichts zum Trusted-Flagger-Programm sagen, was über den Jahresbericht (PDF) hinausgeht. Demnach haben sie im Jahr 2020 mehrere Hundert YouTube-Inhalte gemeldet.

Die Rückmeldungen legen nahe: NGOs können vor allem Lücken in den YouTube-Richtlinien aufzeigen. Die wenigsten haben Zeit, YouTube systematisch nach möglichst vielen Verstößen zu durchforsten. Dafür bräuchte es wohl eher passionierte YouTube-Kenner:innen, die nichts lieber tun als das. Ein paar von ihnen würden dafür nicht mal Geld verlangen.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

3 Ergänzungen

  1. Es gibt also private „Flagger“ bei YT ? Wusste ich noch gar nicht. Alles völlig „unvoreingenommene“ super-fleißige Helferlein*innen, die nur das Beste für uns wollen ? Inwiefern nimmt eine solche Gruppe von Leuten bewusst o. unbewusst Einfluß auf die Entscheidungen bei YT/Google ? (Siehe auch Wikipedia, Stichwort : Copilot)
    Welche Vorgaben gibt es zum Spielraum betreffs Auslegung der YT Richtlinien. Inwieweit ist der Einzelne vor „Gesinnungs-Entscheidungen“ die u.a. gut in den Kram (Dritter) passen geschützt ? Und, aha, jetzt stehen die Armen vor dem Aus und müssen den virtuellen Hausmeister-Kittel ausziehen. Das Ganze wird jetzt vollautomatisch-algorithmisch und kapitalistisch folgerichtig aufgelöst – welch Überraschung !
    Kostet weniger, ermöglicht Rundumschläge die womöglich noch weniger anfechtbar sind, Algorithmen sind auch willige hoch anonyme Prügelknaben hinter denen man sich gut verstecken kann usw. usf.
    Ist dem Konzern auch völlig wurscht weil er weiß, das Gesperrte (egal ob schuldig oder unschuldig) und erst recht kriminell organisierte User immer einen Weg finden werden sich Zugang zu verschaffen (siehe auch der „No-Covid“ Fimmel, den sich manch verstrahlte Zeitgenossen verschrieben haben)

    Die gleiche obige Fragestellung betreffs „Flagger“ gilt natürlich auch betreffs NGO’s die dank priviligiertem Flagger-Status ebenfalls eingreifen dürfen. Und es gibt da keinerlei Bedenken aufgrund von Interessenkonflikten bis hin zu ideologisch-politisch-wirtschaftlicher Beeinflussung ? In dem Zusammenhang jagen mir bei der Herausstellung der AA-Stiftung, die das natürlich ganz prima findet kalte Schauer über den Rücken (Stichwort: Anetta Kahane oder ganz simpel : Denunziation)…

    Aber hey, wer sich gegen Antisemitismus, Rassismus, Fremdenhaß positioniert hat natürlich schon die Absolution im Ticket dazu abonniert. Und hey, Google und Youtube sind ja Privatwirtschaft, wie die das „händeln“ ist ihre Privatsache, wir wissen ja : Der Markt heilt alles und bekanntlich sogar sich selbst – indem er alles rausschmeißt was seinen Betreibern nicht passt und den Umsatz schmälert z.B.
    Ja gut, so ein kleines bisschen wird ja auch angedeutet, dass der Komplex ja schon recht undurchsichtig SCHEINT und ein weiteres kleines bisschen Arbeitskampfprosa (für die armen Flagger) ist auch eingebunden. Aber nicht zuviel bitte, sonst hört das womöglich noch jemand.

    Hätte, hätte, Fahrradkette, was könnte man noch alles Hübsches dazu ermitteln…aber hey, für mal eben zum kalten Kaffee fürs täglich Brot zusammengebastelt war das schon ganz ok, Seb, und sogar ein bisschen „kritische Berichterstattung“ dabei (hört hört!)- wenn auch unreflektiert.

    Bin diesbezüglich auch gespannt wann die ersten vollautomatischen MS Algo-Journalisten ins Netz gespeist werden (nebst Kobolden, versteht sich): Schicker Werdegang dazu – feddich ! Der Unterschied dürfte schon jetzt kaum noch spürbar sein.

    *Zwinkersmiley*

  2. das scheint mir für google eine lösung zu sein, die

    – die gruppen zufriedenstellt, die im skandalfall medienwirksam wären und
    – die zahl der meldungen verringert.

    .~.

  3. Der Grund, weshalb YT die wirksamen Prüfer raus ekelt, liegt doch auf der Hand: Sie waren zu effektiv.
    Gerade so grenzwertige Videos bringen doch Klicks und Aufenthaltsdauer, also Daten (über die Sehgewohnheiten) und Einnahmen aus der mitgelieferten Werbung.
    Davon lebt die Schokoladenfabrik! Die werden sich doch nciht ihre besten Köder mies machen lassen … :-(

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.