Vor einigen Wochen stellte der Content Creator Julien Bam fest, dass einige seiner Abonnent*innen manche seiner Videos nicht sehen konnten. Er erhielt Nachrichten, dass ein paar seiner Zuschauer*innen nicht einmal von der Existenz einiger Videos mitbekommen hatten. Es stellte sich heraus, dass diese Videos im eingeschränkten Modus auf Youtube nicht mehr sichtbar waren, wie Bam in einem Video berichtet.
Der eingeschränkte Modus ist eine Jugendschutz-Funktion von Youtube, die seit 2010 genutzt werden kann. Laut Youtube soll damit unter anderem der Übergang von Youtube Kids zu Youtube erleichtert werden. „Videos mit Inhalten, die potenziell nur für Erwachsene geeignet sind, werden im eingeschränkten Modus nicht angezeigt“, heißt es hierzu auf einer Infoseite von Youtube-Mutter Google.
Der Filter lässt sich in den Einstellungen aktivieren und deaktivieren. Wird er über die Familien-Version aktiviert, können die Kinder ihn nicht selbst wieder deaktivieren. Wenn man ihn selbst aktiviert, muss man das für jeden Browser machen, heißt es auf einer Infoseite. In öffentlichen WLANs wie Schulen, Bibliotheken oder Jugendherbergen könne der Netzwerkadministrator den Filter aktivieren. Nutzt man Youtube in der App, wird man nicht darüber informiert, wenn dieser Modus gerade eingeschaltet ist.
Julien Bam produziert Videos für eine vorwiegend junge, jugendliche Community und zählt zu den bekanntesten Content Creators in Deutschland. In seinen aufwendig produzierten Videos gibt es Sketche, Musik und bunte Kostüme, bekannte Youtuber*innen und Komiker*innen treten auf; es geht unter anderem um Außerirdische oder den Osterhasen. Die Zuordnung „potenziell nicht jugendfrei“ trifft für seine Videos nicht zu.
Der eingeschränkte Modus sperrt für betroffene Nutzer*innen nicht nur einige Videos, sondern auch grundsätzlich die Kommentarfunktion. Das heißt, Nutzer*innen könne keine Kommentare unter Videos sehen oder schreiben. Erkannt werden „potenziell nicht jugendfreie“ Inhalte laut YouTube anhand von „zahlreichen Anhaltspunkten“, darunter Titel, Videobeschreibung und Metadaten.
Auf einer Infoseite nennt Youtube inhaltliche Gründe für eine Sperre im eingeschränkten Modus: Drogen und Alkohol, sexuelle Inhalte, Gewalt, Erwachsenenthemen oder Videos, die sich mit Terrorismus, Krieg, Kriminalität und politischen Konflikten befassen, vulgäre oder jugendfreie Sprache, Aufhetzung und Erniedrigung. Wenn ein Video vom Filter gesperrt wird, ist es selbst über einen direkten Link nicht mehr aufrufbar. Inhalte, die zu Aufklärungszwecken dienen, sollen davon ausgenommen sein, insbesondere wenn es sich um persönliche Geschichten handelt.
Offensichtliche Beispiele von Overblocking
Man muss nicht lange suchen, um im eingeschränkten Modus zahlreiche Beispiele von Overblocking zu finden. So nennt man es, wenn durch eine technische Maßnahme mehr Inhalte gesperrt werden als eigentlich gewünscht. Stichproben von netzpolitik.org zeigen: Der eingeschränkte Modus filtert Videos heraus, die ausdrücklich zur Aufklärung erstellt wurden, darunter auch LGBTQ+-Inhalte.
Zu den im eingeschränkten Modus nicht abrufbaren Videos gehören unter anderem Schminkvideos für trans Personen oder Videos, die beim Coming-out helfen sollen. Auch über 30 Videos des YouTube-Kanals von netzpolitik.org werden herausgefiltert.
Auch bei der Gegenprobe offenbart der eingeschränkte Modus Schwächen – ohne, dass man lange danach suchen muss. Wir fanden im eingeschränkten Modus ebenso zensierte Pornos wie Videos, die reale Gewalt dokumentieren, aufgezeichnet durch Bodycams von US-Polizist*innen. Zwar wurden viele solcher Videos im eingeschränkten Modus ausgeblendet, einige aber nicht.
Der eingeschränkte Modus filtert auch politischen Journalismus heraus. Auf dem Youtube-Kanal des SPIEGEL werden etwa Videos herausgefiltert, die über russische Propaganda aufklären sollen.
Kritik aus der queeren Szene
Queere Organisationen und Blogger*innen kritisieren den eingeschränkten Modus bereits seit Jahren. Eine Empörungswelle gab es etwa im Jahr 2017 auf Twitter (heute: X) unter dem Hashtag #YouTubeIsOverParty. Obwohl YouTube den Filter danach etwas angepasst hat, gab es nach Berichten von queer.de weiterhin Probleme.
Inzwischen haben YouTuber*innen die Möglichkeit, Einspruch einzulegen, wenn eines ihrer Videos betroffen ist. Viele wissen jedoch noch nicht einmal, dass dieser Filter existiert. Creator*innen werden nicht darauf hingewiesen, wenn eines ihrer Videos unter den eingeschränkten Modus fällt – und Nutzer*innen werden nicht darauf hingewiesen, wenn sie gerade im eingeschränkten Modus Videos schauen.
Youtube weiß selbst, dass der eingeschränkte Modus Fehler macht. So heißt es auf der Infoseite ausdrücklich: „Leider kann es manchmal bei der Auswahl der Videos, die im eingeschränkten Modus verfügbar sind, zu Fehlern kommen. Wir arbeiten aber laufend daran, unsere automatisierten Systeme zu verbessern.“
Es ist jedoch fraglich, wie gut ein automatisiertes System überhaupt sein kann: Maschinenlesbare Hinweise wie Videotitel und Videobeschreibungen reichen kaum aus, um zuverlässig zwischen Aufklärungsinhalten und nicht jugendfreien Inhalten zu unterscheiden.
Unsere Recherchen zu anderen Jugendschutz-Filtern wie JusProg oder Google SafeSearch zeigen: Die Probleme ähneln sich stark. Die Filter orientieren sich offenkundig oft an bloßen Stichworten; selbst seriöse Inhalte rund um Sexualität oder Geschlechtsidentität werden blockiert. Dabei sind es insbesondere Jugendliche, die zu solchen und weiteren sensiblen Themen Aufklärung suchen und seriöse Info-Angebote benötigen.
In _Bildungseinrichtungen_ den Informationszugang einzuschränken ist schon eine lustige Idee. Wenn es nicht so traurig wäre.
Aber es zeigt deutlicher denn je, in welche Richtung wir steuern bzw besser gesagt, gesteuert werden sollen.
(Aussenseitermeinung)
Gut so.
Je früher Schülerinnen und Jugendliche lernen, dass Youtube eine Platform ist um ihnen Werbung vorzuspielen, und nicht verlässliche Information, desto eher geht das vorbei.
Ab wann ist man kein Außenseiter mehr?
Durch Filtern und Demonetarisieren wird schon so viel beschnitten, dass ich die Idee mit der allgemeinen Informationsplattform bei den großen Technologiefirmen einfach nicht (mehr?) als vorhanden sehe.
Anstatt sich immer nur über „falsche Sperrungen“ aufzuregen, wäre es doch zielführender, sich mit der Methode der Kuratierung von Sperren auseinander zu setzten. Letztlich steht der Verdacht im Raum, dass hier politisch motiviertes cancel culture betrieben wird.
Vielleicht gilt für Zensur das gleiche wie für Privatsphäre? Entweder man schützt alle oder niemanden.
Filter sind im Prinzip „Aus dem Auge, aus dem Sinn“ und keiner Aufklärung vorzuziehen. Der deutsche Jugendschutz ist völlig am Ende.
Ich halte Jugendschutzfilter für kontraproduktiv. Sie schaden mehr als sie nutzen. Statt nun langer Erklärungen will ich euch eine reale Begebenheit dazu nicht vorenthalten:
Ein Junge, ca. 10 blätterte in einen Geschichtsbuch für Kinder. Pyramiden, Mittelalter und dann ein wenig NS-Zeit mit ein paar Photos von Nazis. Der Junge zu seiner Betreuerin: „Ich weiß, dass man nicht den Stinkefinger zeigen darf. Aber darf ich denen den Finger zeigen?“ Die Betreuerin „Eigentlich darfst du das nicht, aber … stotter …“. Der Junge: „ach komm mach mit. Wir machen das zusammen“.
Stell dir vor, das Buch hätte diese fürchterliche Zeit ausgelassen oder zensiert. Stell dir vor, so ein Kind würde niemals lernen, wie eine Weigel, LePen oder Wilders ticken. Stell dir vor, es würde nicht in die Lage versetzt Diskriminiernug zu erkennen, weil die Welt nur aus eine Maus und Benjamin Blümchen besteht? Und sell dir vor, das Kind sei nicht in der Lage drohende Übergriffe, etwa vom lieben Onkel, zu erkennen. Gerade das letzte Thema ist nicht jugendfrei und fürchterlich. Aber sorry, ich kann nicht meine Kinder blind ins verderben rennen lassen, nur weil es Leute gibt, die bei kritischen Themen pikiert sind.
Möchten sich die Zensoren schuldig machen? Schuldig an Kindern?
Gut, es gäbe einiges hier zu sagen. Aber ich wollte euch doch nur eine (reale) Geschichte erzählen.
Und mit dem Stinkefinger geht es schon los. Weiß die Betreuerin, dass der Stinkefinger einen Ordnungswidrigkeiten- (im ungünstigsten Fall Straftat-) Bestand darstellt? Oder wurde dies auch bei Youtube gefiltert?
Eine Schlussfolgerung aus der vergangenen Nazi-Zeit zu ziehen und dies mit aktuellen Politikern zu verbinden, vermag das Gehirn eines Kindes nicht zu leisten. Das Kind kann es nicht verstehen und ja, für ein Kind ist die Welt des Benjamin Blümchen eine heile Welt. Und das soll auch so bleiben. Kinder sollen ihre Kindheit ausleben und das Kindsein genießen.
Aus diesem Grund existieren Kinder- und Jugendfilter. Diese sollen Kinder für gefährdeten Schriften und Medien schützen.
Bei Erwachsenen funktioniert das ja heutzutage auch so – nennt man Zensur und kann man täglich bei den großen Medien-Emittenten sehen.
Zurück zu Kindern: Stell Dir vor, das Kind sieht Bilder vom aktuellen Kriegsgeschehen, z. B. Ukraine. Wie soll sich das Kind da bitte eine Meinung bilden, außer dass das dort bestimmt weh tut. Je mehr das Kind solche Bilder sieht, deste ’normaler‘ wird es für das Kind. Es kann hierbei nicht eine eindeutige Grenze ziehen. Und was wird aus diesem Kind mit solch einem Hintergrund? Richtig, ein psychisch gestörtes Individuum ohne jegliche Empathie.
Ich warne hier ausdrücklich vor der Abschaffung von Contentfiltern.
Im Übrigen gibt es Unmengen an Youtubern, die ihre Meinungen öffentlich darstellen. Da kommt es auf ein paar blockierte Inhalte, auch wenn sie queeeeer oder politisch motiviert sind, nicht drauf an. Hier hilft die Quantität der Beiträge ungemein. Zumal diese Beiträge nur die persönliche Sichtweise der Autoren widerspiegelt und größtenteils keinerlei Aussagekraft haben, da entsprechende seriöse Quellen schlicht und ergreifend nicht geliefert werden.
Aus diesem Grund ist es auch gut so, dass manche Beiträge gefiltert werden, um dadurch nicht weiter zur Verdummung der Menschheit beizutragen. Leute, nutzt euer Gehirn!
Auch deshalb muss es möglich sein Dienste wie YouTube IMMER ohne Ausweis und Altersverifikation anonym nutzen zu können. Ist ja nicht so das auf YouTube harter Porn oder sowas veröffentlicht wird, also wo ist das das Problem ? Diese Zensur durch die Hintertüre muss endlich mal gestoppt werden !!!
Sowohl Pornos als auch reale Gewaltvideos (bis hin zu Massakrierungen und Enthauptungen) rutschen regelmäßig durch die Filter (von YouTube, FB und Co) bzw. werden nicht zeitnah entfernt. Allerdings greift dann ohnehin nicht immer eine Alterssperre.
Uploadfilter anyone?
Seien wir ehrlich: Die Filter werden von Konservativen betrieben, sie entziehen sich jeglicher demokratischen Kontrolle.
So lassen wir evangelikale US-Sexfeinde mitmachen bei der Erziehung unserer Kindern. Klasse, ne?
Dies ist ein perfektes Beispiel dafür, dass man Moderation nicht Algorithmen überlassen darf.
Aber für manuelle Moderation wäre die anfallende Menge an Material viel zu groß!
Also, was tun? Asoziale Plattformen verbieten!
Asozial nenne ich sämtliche Plattformen, die nach der Aufmerksamkeitsökonomie vorgehen: Benutzer/innen verfolgen, daraus gezielte Werbung (targeted advertising) machen und damit Geld verdienen. Das sind vornehmlich: Alles von Alphabet, alles von META, YouTube und ein paar weitere.
Dieses Geschäftsmodell gehört ganz einfach verboten.
Wie sollen Kinder lernen Jugendschutz oer später Zensurfilter zu umgehen, wenn sie das nicht in der Schule bzw. in ihrer Jugend lernen können?
Technische Ergänzung:
Es gibt offenbar zwei Wege, wie Netzwerkadministratoren/Eltern einen der eingeschränkten Modi erzwingen können:
– bei eingeloggten Nutzern, wenn Family Link oder Google Workspace verwendet wird (https://support.google.com/a/answer/6212415)
– für alle in einem Netzwerk über einen umleitenden DNS Eintrag (https://support.google.com/a/answer/6214622)
Fall 1 lässt sich vermutlich einfach schon durch ausloggen umgehen.
Im Fall 2 kann die Einschränkung vermutlich beispielsweise im Firefox durch DNS über HTTPS (Einstellungen -> Datenschutz und Sicherheit -> ganz unten) umgangen werden, da damit solche DNS Manipulationen nicht mehr möglich sind.
Queere Inhalte sind im Internet sehr einseitig, finde ich. Als queere Person ist es mir unendlich peinlich, dass vor allem LGBT+ nur noch sexualisiert dargestellt wird. Das ist mein Eindruck. Egal wo ich hinschaue, es geht immer um Sex, weil einerseits die Schwulenszene daran beteiligt ist und andererseits weil heterosexuelle Menschen über sexpositiv ihre Kink-BDSM-Swinger-Sex-Partys verkaufen und hetero-sexuell mit homo-sexuell vermischen. Es sind nicht schwule Männer die sich auf Frauen einlassen sondern lesbische Frauen auf heterosexuelle Männer. Von dem her sollte nicht nur Queer ausgeblendet werden sondern dieser ganze pseudohafte queer-hetero-sexpositiv Inhalte die oft mit Queer in Verbindung gebracht werden. Schreckliche Entwicklung
Achja. Klassischer Trollpost. a hat schon was dazu gesagt. Erinnert mich voll ans MLP:FiM fandom. Trolle meinen, My Little Pony sei peinlich weil nur porn zu sehen ist – und zwar dann wenn man Google so lange durchforstet, bis man 1 Bild gefunden hat, um sich aufzuregen.
Oder kurz: Aus ner Mücke nen Elefanten machen. Du erweist uns lgbt und queers nen Bärendienst!
Großteil der MLP Fans sind über 30 und männlich. Es gibt sogar Studien und Psychologen die ganz einhellend erklären, warum viele sich sexuell zu diesen Cartoon Ponys angezogen fühlen und es nichts schlimmes ist.
Im Pflichtschulbereich ist Werbung grundsätzlich verboten, darum fällt Youtube sowieso schon raus. Youtube behält sich immer (außer in Premium) vor – auch beim Kinderkonto – Werbung zu schalten „We run ads“