Jugendschutz-Filter: Google blockiert Journalismus über Pornoseiten

Google ist für viele das Tor zum Internet. Längst hat das Wort „googeln“ im Alltag die gleiche Bedeutung wie „etwas im Internet nachschauen“. Die größte Suchmaschine der Welt bestimmt mit, was Abermillionen Menschen im Netz sehen können – und was sie nicht finden. Nun hat Google offenbar seine Maßnahmen zum Jugendschutz verschärft. Das Ergebnis: Der Jugendschutz-Filter der Suchmaschine lässt auch journalistische Inhalte aus den Ergebnissen verschwinden, weil er sie als anstößig einstuft.

Da ist zum Beispiel eine Recherche des SPIEGEL, die erstmals offenlegte, wer die Männer hinter xHamster sind. „Das Pornoimperium und seine Könige“ enthüllt die nebulösen Firmenkonstrukte hinter einer der weltgrößten Pornoseiten, es geht um Macht und bildbasierte Gewalt. Aber ist der Jugenschutz-Filter aktiv, tilgt Google den Eintrag aus den Ergebnissen. Selbst bei einer gezielten Suche bleibt er verborgen. Die Recherche erschien 2021, gemeinsam mit Journalist*innen von NDR und netzpolitik.org. Auch diese Veröffentlichungen blockiert Google: „Die Männer hinter xHamster“ und „xHamster: Wer steckt hinter der Pornoplattform?“ – beides offenbar zu anstößig für den Filter.

Bei insgesamt 20 Nachrichtenseiten haben wir beobachtet, wie bei Google journalistische Artikel über Pornoseiten aus den Suchergebnissen verschwinden. Die Pressestelle des Konzerns sieht darin offenbar kein Problem und weicht unseren Fragen aus, dazu später mehr.

Zunächst ist der Jugendschutz-Filter für Nutzer*innen offenbar ausgeschaltet. Er schaltet sich automatisch ein, wenn Google den Verdacht hat, dass Nutzer*innen unter 18 sind. Bei unseren Tests in den vergangenen Tagen ist das mehrfach passiert. Ein klares System ließ sich dahinter allerdings nicht erkennen. Teils wurde er im Hintergrund aktiv, sobald wir mit einem Google-Account eingeloggt waren.

In einem Fall stellte sich der Filter plötzlich scharf, als wir – ohne eingeloggt zu sein – nach dem „Amt für Veröffentlichungen“ der Europäischen Union suchten. Es ist unklar, warum Google ausgerechnet diese Suchanfrage für verdächtig hielt. Immerhin bekamen wir in diesem Fall eine Warnung per Pop-up. Darin stand, dass der Jugendschutz-Filter namens SafeSearch jetzt „anstößige Ergebnisse“ filtere.

DJV: Pressefreiheit berührt

Wir haben die Ergebnisse unserer Recherche dem Deutschen Journalisten-Verband (DJV) vorgelegt. Er vertritt als Gewerkschaft und Berufsverband die Interessen von Journalist*innen in Deutschland. „Sicherheitsmaßnahmen müssen da enden, wo sie die Pressefreiheit berühren“, schreibt Pressesprecher Hendrik Zörner. „Es kann nicht sein, dass kritische Medienberichte über Pornoseiten blockiert werden, sobald sie bestimmte Reizbegriffe enthalten. Da muss Google besser darauf achten, was die eigenen Filter anrichten.“

Helene Hahn ist Referentin für Internetfreiheit für die Menschenrechts-Organisation Reporter ohne Grenzen. Sie kritisiert: „Dass so viele Beiträge von zahlreichen Medien betroffen zu sein scheinen, verweist auf ein ernsthaftes Problem bei der Plattform, das mehr öffentliche Aufmerksamkeit braucht.“ Es könne nicht sein, dass journalistische Inhalte, die sich etwa kritisch mit der Porno-Industrie auseinandersetzen, aus der Suchmaschine ausgeblendet würden.

Google versteckt Ergebnisse und fragt, ob wir uns vertippt haben

In den meisten Fällen unserer Stichprobe zeigte Google mit aktivem Filter schlicht eine kürzere Suchergebnis-Liste. Manchmal lieferte unsere Suchanfrage sogar gar keine Ergebnisse, dann stand dort der Hinweis: „Achte darauf, dass alle Wörter richtig geschrieben sind“. Das ist mindestens irreführend – immerhin war nicht etwa unsere Rechtschreibung für die fehlenden Ergebnisse verantwortlich, sondern Google. „Es muss deutlich sichtbar werden, wenn und dass solche Filter aktiv sind“, fordert Hahn von Reporter ohne Grenzen.

Die Suchmaschine hat sich während unserer Stichprobe nicht immer gleich verhalten. In einem Fall, als unsere Suche kein Ergebnis erzielte, erschien eine Infobox mit dem Hinweis auf „von SafeSearch ausgeblendete Ergebnisse“. Dort hieß es, wir sollten es mit einem anderen Suchbegriff versuchen oder die SafeSearch-Einstellungen verwalten. Die Infobox war teils auf Deutsch, teils auf Englisch verfasst. Das deutet darauf hin, dass Google im Hintergrund noch an den Funktionen arbeitet.

In den Einstellungen lässt sich der Jugendschutz-Filter zumindest händisch ausschalten. Man darf allerdings bezweifeln, ob Nutzer*innen das regelmäßig tun – oder überhaupt mitbekommen. Es braucht dafür zwei Klicks (Menüleiste > „Safe Search“ > „Aus“); alternativ lässt sich einer Suchanfrage per URL auch der Parameter „&safe=off“ hinzufügen. Wer ohne solche Eingriffe ungefilterte Suchergebnisse sehen möchte, muss sich gegenüber Google identifizieren. Anonym lässt sich die Suchmaschine dann nicht mehr nutzen. Um zu beweisen, dass sie volljährig sind, brauchen Nutzer*innen einen Google-Acccount und müssen dort eine Kreditkarte hinterlegen – oder gleich ihren Ausweis hochladen.

Google hat sich an den Problemen zunächst interessiert gezeigt, sich Beispiele schicken lassen und um eine Verlängerung der Antwortfrist gebeten. Aber dann hat die Pressestelle nur mit ausweichenden Phrasen reagiert. Mit etwas Fantasie lassen sich darin Ansätze von Antworten finden. Zum Beispiel schreibt die Pressestelle: „SafeSearch ist so konzipiert, dass es keine Inhalte filtert, die in erster Linie bildenden Charakter haben.“ Daraus lässt sich ableiten: Das Filtern journalistischer Inhalte war nicht im Sinne der Erfindung. Offenkundig möchte Google vermeiden, selbst von einem „Versehen“ oder „Fehler“ zu sprechen.

Weiter schreibt Google: „Die überwiegende Mehrheit der Inhalte der genannten Websites wird nicht von SafeSearch gefiltert.“ Das lässt sich als Versuch werten, die von uns entdeckten Probleme kleinzureden.

Verschwundene Artikel bei ZDF, Guardian, ZEIT

Wir können nicht klar benennen, seit wann SafeSearch auch journalistische Recherchen für „anstößig“ hält. Erstmals bemerkt haben wir das Phänomen Anfang September, als wir eine bestimmte Recherche über eine Pornoseite googeln wollten – und sie einfach nicht auftauchte. Daraufhin haben wir eine Stichprobe gemacht. Für diese Stichprobe haben wir am 8. September gezielte Suchanfragen für Artikel auf Nachrichtenseiten gestellt.

Bei der Google-Suche lassen sich Anfragen mit sogenannten Operatoren eingrenzen. Das sind zusätzliche Suchbefehle. So kann man mit dem Operator „site:“ nach Inhalten einer bestimmten Domain suchen. Die Google-Suche „site:heise.de pornhub“ liefert beispielsweise allein Ergebnisse von heise online. Auf diese Weise haben wir bei Dutzenden Nachrichtenseiten Inhalte über Pornoseiten gesucht – einmal mit und einmal ohne Jugendschutz-Filter.

Das Ergebnis: Google hält offenbar Artikel für anstößig, in denen Worte wie „Pornhub“, „Mindgeek“, „xHamster“, „xVideos“, „OnlyFans“ oder „Pornos“ auftauchen. Bei zehn deutschsprachigen Seiten und zehn englischsprachigen Seiten haben wir Artikel identifiziert, die der Jugendschutz-Filter blockiert:

1. Bayerischer Rundfunk
2. FAZ
3. FOCUS online
4. heise online
5. netzpolitik.org
6. SPIEGEL
7. T-Online
8. taz
9. ZDF
10. ZEIT Online
11. AFP
12. BBC
13. Forbes
14. Gizmodo
15. The Guardian
16. Mashable
17. NBCnews
18. TheNewYorker
19. TheVerge
20. Wired

Journalismus über Pornoseiten klärt darüber auf, was rund um die meistbesuchten Websites der Welt passiert. Es geht um eine der einflussreichsten Unterhaltungsindustrien, um Jugendschutz, um Diskriminierung von Sexarbeiter*innen, um bildbasierte Gewalt, um unaufgearbeitete Tabus oder um das Recht auf sexuelle Selbstbestimmung. Das ist weder „anstößig“ noch „unsicher“. Die Funktion namens SafeSearch blockiert solche Inhalte trotzdem. Für „anstößig“ hält Google unter anderem diese Artikel:

• „Sexualisierte Gewalt im Netz: Dutzende Frauen verklagen Pornhub“, taz, 2021.
• „Altersüberprüfung: Google sperrt User im US-Bundesstaat Arkansas aus“, heise online, 2023.
• „Youporn und Pornhub waren gestern – Solche Pornos hast du noch nie gesehen“, ZDF, 2019.
• „Pornhub partners with child abuse charities to intercept illegal activity“, The Guardian, 2022.
• „Junge Union fordert Pornografie-Verbot“, netzpolitik.org, 2010.
• „Fehlender Jugendschutz: xHamster trickst Netzsperre der Medienaufsicht aus“, T-Online, 2022.

Aufklärung über Safer Sex als „anstößig“ blockiert

Auch nicht-journalistische Angebote sind vom Filter betroffen. So veröffentlichte die Techniker Krankenkasse den Artikel „Was ist Safer Sex?“. Dort werden Leser*innen über Kondome und Lecktücher aufgeklärt. Für den Jugendschutz-Filter: anstößig. Sogar manche Informationen der deutschen Medienaufsicht schaffen es nicht durch den Filter. Die Medienaufsicht droht Pornoseiten in Deutschland mit Netzsperren, weil sie keine Ausweiskontrollen einführen wollen. Hierzu erschien die Pressemitteilung „Pornoseiten müssen Kinder- und Jugendmedienschutz umsetzen“. Selbst das ist für den Filter „anstößig“.

Einheitlich waren die Ergebnisse unserer Stichprobe nicht. In vielen Fällen hat Google bei unserer Stichprobe nur die direkten Links zu den gesuchten Artikeln unterschlagen. Weiterhin auffindbar waren teils Unterseiten, in denen die gesuchten Artikel verlinkt waren. Das heißt, der Jugendschutz-Filter blockiert zwar jugendfreie Inhalte, ist dabei aber sehr ungenau.

In vielen Fällen waren nur manche Porno-bezogene Artikel einer Seite verborgen, andere nicht. Zum Beispiel hielt Google unseren Artikel „Kein OnlyFans für Minderjährige“ für nicht anstößig. Er erscheint auch bei eingeschaltetem Jugendschutz-Filter. Blockiert wurde dagegen der Artikel „OnlyFans zensiert mindestens 149 Wörter“.

Offenbar sind es also nicht allein Stichwörter, die entscheiden, wann der SafeSearch-Filter aktiv wird. Eine mögliche Erklärung: Ausgefeiltere Filtersysteme beziehen mehrere Faktoren mit ein und berechnen daraus einen Score. Das ist ein Wert, der das Risiko eines Inhalts ausdrücken soll. Eine Rolle spielen könnte dabei zum Beispiel die Anzahl verdächtiger Wörter pro Artikel. Oder die Websites, auf die ein Artikel verlinkt. All das ist allerdings Spekulation – die genaue Antwort will Google auch auf direkte Nachfrage für sich behalten.

Die Pressestelle gab uns hierzu nur Hinweise: Sie bestätigte, das die Systeme eine Vielzahl von Faktoren berücksichtigen. Aber Google habe bei eigenen Tests festgestellt, dass die Klassifikation „sehr genau“ sei. Diese Aussage irritiert: Wir konnten schon innerhalb weniger Minuten – bei einer händischen Stichprobe – gravierende Mängel beobachten. Nach Aussage von Google sollen die Systeme etwa feststellen, ob Inhalte „sexuell befriedigend“ sind. Auch das irritiert: Artikel wie „Dutzende Frauen verklagen Pornhub“ oder „Junge Union fordert Pornografie-Verbot“ mögen vieles sein, aber sicher nicht „sexuell befriedigend“.

Das sind die Fragen, die Google nicht beantworten wollte

Offenbar sind nicht alle Nachrichtenseiten von Einschränkungen durch SafeSearch betroffen. Für CNN, New York Times, Reuters und Bloomberg konnten wir zum Suchbegriff „Pornhub“ keine Fälle von blockierten Inhalten feststellen. Führt Google möglicherweise eine Liste mit vertrauenswürdigen Seiten, die ungehindert über Pornoseiten berichten dürfen? Falls es eine solche Allow-Liste gibt, dann hätte sie jedenfalls große Lücken. Unsere Fragen nach einer solchen Liste hat Googles Pressestelle nicht beantwortet.

Insgesamt sind es fünf Fragen, bei denen sich Google gegen eine konkrete Antwort entschieden hat:

1. Wie war es möglich, dass der Safe-Search-Filter in diesem Umfang offenkundig jugendfreie Inhalte aussortiert? Wie genau funktioniert der Safe-Search-Filter?
2. Wieso hat Google offenkundig jugendfreie und seriöse Informationsangebote nicht auf eine Allow-List gesetzt, sodass sie vom Safe-Search-Filter nicht aussortiert werden? Plant Google einen solchen Schritt und wenn ja, für wann?
3. Inwiefern ist es nach Ansicht von Google mit Pressefreiheit, Netzneutralität, Diskriminierungsfreiheit (nach MStV) und dem Recht auf sexuelle Selbstbestimmung vereinbar, wenn jugendfreie Informationsangebote per Filter als „anstößig“ aussortiert werden? Wie stellt Google die Einhaltung dieser Rechte bei der SafeSearch-Funktion sicher?
4. Laut Infoseite ist die SafeSearch-Funktion „automatisch aktiviert, wenn unsere Systeme uns signalisieren, dass Sie unter 18 Jahre alt sind“. Wie genau kommt Google zu diesem Schluss? Können Sie mindestens anschauliche Beispiele dafür nennen, welche Faktoren hier mit einfließen?
5. Das Phänomen scheint recht neu zu sein. Gab es in jüngster Zeit eine Nachschärfung von SafeSearch, und wenn ja: wann und inwiefern?

Gesetz verbietet Benachteiligung von Medien

Einen Begriff aus unserem Fragenkatalog müssen wir kurz erklären: Diskriminierungsfreiheit. In Deutschland gibt es ein Gesetz, das große Plattformen zu Fairness verpflichtet, wenn es darum geht, wie sie Inhalte zugänglich machen. Hierfür gibt es im Medienstaatsvertrag (MStV) einen Paragrafen zu „Diskriminierungsfreiheit“, der die Meinungsvielfalt schützen soll.

Dort steht, dass große Plattformen einen „besonders hohen Einfluss“ auf die Wahrnehmbarkeit von „journalistisch-redaktionell gestalteten Angeboten“ haben. Solche redaktionellen Angebote dürfen Plattformen wie Google nicht „unbillig systematisch behindern“. Einfacher ausgedrückt: Es muss schon einen guten Grund geben, wenn eine Plattform die Inhalte mancher Nachrichtenmedien versteckt.

Ob diese Regel auf den aktuellen Fall überhaupt anwendbar ist, das müsste die zuständige Medienaufsicht entscheiden. Wir haben deshalb die Landesmedienanstalt Hamburg Schleswig-Holstein um Einschätzung gebeten. Die Behörde weist darauf hin, dass die Behinderung eines Angebots „systematisch“ sein müsse, um gegen den Paragrafen zu verstoßen. Das könne man den geschilderten Fällen aber nicht entnehmen. Die Einschätzung der Behörde legt nahe: Wer etwa unsystematisch oder fahrlässig handelt, braucht die Medienaufsicht nicht zu fürchten.

Der Fall SafeSearch zeigt, welche Schäden entstehen können, wenn man im Namen des Jugendschutzes das Internet umkrempelt. Hierzu dürften in nächster Zeit einige Änderungen zu erwarten sein, denn das frisch in Kraft getretene EU-Gesetz über digitale Dienste (DSA) verpflichtet große Plattformen dazu, Risiken zu mindern, zum Beispiel durch „Werkzeuge zur Altersüberprüfung“.

Je nach Ausgestaltung dürfte sich der Wunsch nach mehr Alterskontrollen mit anderen netzpolitischen Grundsätzen beißen. So hatte die Ampelregierung im Koalitionsvertrag festgehalten: „Eine Identifizierungspflicht lehnen wir ab. Anonyme und pseudonyme Online-Nutzung werden wir wahren.“ Aktuell muss sich zwar niemand vor dem Googeln identifizieren. Dennoch macht Google bereits heute Kreditkarte oder Ausweis zur Bedingung, wenn man dem SafeSearch-Filter dauerhaft entgehen will.

Update, 15. September, 12:30 Uhr: Angestoßen durch die Presseanfrage im Rahmen der Recherche hat die Landesmedienanstalt Hamburg Schleswig-Holstein ein Telefonat mit Vertreter*innen von Google geführt und sie auf das Problem hingewiesen. Google habe demnach zurückgemeldet, dass man sich das näher anschaue.