Deutschlands wichtigster Jugendschutz-Filter, JusProg, blockiert Aufklärungsseiten; das hat diese Woche unsere Recherche-Kooperation mit BR Data gezeigt. In Dutzenden Fällen hat der Filter Websites als „ab 18“ eingestuft, obwohl sie Aufklärung zu sensiblen Themen wie Verhütung oder Coming-Out boten. Inzwischen hat JusProg nachgebessert; die Seiten haben eine niedrigere Alterseinstufung erhalten. Erledigt hat sich das Thema damit allerdings nicht, denn inzwischen wurden weitere Fehler entdeckt.
JusProg ist der einzige Jugendschutz-Filter für Websites in Deutschland, der die gesetzlichen Anforderungen erfüllt und dafür offiziell anerkannt ist. Eltern können ihn auf den Geräten ihrer Schützlinge installieren. Stoßen Kinder auf eine irrtümlich gesperrte Website, können Eltern diese Seite händisch freischalten. Der Filter kommt aber auch in öffentlichen WLANs zum Einsatz, etwa dem kostenlosen, staatlichen BayernWLAN. Auf diese Weise bekommen auch Erwachsene das gefilterte Internet vorgesetzt.
Wenn Technologie zu viele Inhalte blockiert, nennt man das Overblocking. Mindestens 74 Fälle von Overblocking durch JusProg hatte unsere Recherche sichtbar gemacht. Hinter diesen Aufklärungsseiten zu sensiblen Themen standen gemeinnützige Organisationen oder staatlich finanzierte Angebote. Grundlage der Recherche war die Vorarbeit der IT-Sicherheitsforscherin Lilith Wittmann, die hierzu auch eine ausführliche Analyse veröffentlicht hat.
Deutschlands wichtigster Jugendschutz-Filter blockiert Hilfsangebote
Wie kann man sich vor solch fehlerhaften Jugendschutz-Programm schützen? Diese Frage hat sich auch Wittmann gestellt. Ihre Antwort ist das – Achtung: Wortspiel – Jugendschutz-Schutz-Programm. Das ist ein Online-Dienst, mit dem Nutzer*innen kinderleicht selbst überprüfen können, welche JusProg-Altersstufe eine Website hat.
Bislang war das nicht so einfach möglich. Zuvor mussten sich Nutzer*innen JusProg etwa selbst auf ein Gerät holen und im Kinder-Modus eine Website ansteuern. Das Jugendschutz-Schutz-Programm dagegen lässt sich einfach im Browser bedienen. Auf diese Weise können alle Interessierten schnell und einfach selbst überprüfen, worauf unsere Recherche zunächst nur ein Schlaglicht geworfen hat: Welche Internet-Angebote sind für Kinder und Jugendliche gesperrt, obwohl sie frei zugänglich sein sollten?
Deutsche Aidshilfe: „Sperrpraxis ist diskriminierend“
Allein weil sich das Internet ständig verändert, ist klar: Ein Filter wie JusProg kann niemals fertig sein. Der Betreiber-Verein selbst kommuniziert auf der eigenen Website offen, dass die Software Fehler macht, und gibt Gelegenheit, Hinweise einzureichen.
Für manche Betroffene von irrtümlichen Sperren ist das nicht genug. Das zeigt eine Pressemitteilung der Deutschen Aidshilfe vom 17. Januar. In Folge unserer Recherchen übte die Aidshilfe scharfe Kritik an JusProg. Vorstandsmitglied Ulf Kristal schrieb:
Diese Sperrpraxis ist diskriminierend und wirkt dem Auftrag der Aufklärung und Prävention entgegen. Jugendlichen werden damit lebenswichtige Informationen vorenthalten. Angebote zu sexueller Bildung für junge Menschen gilt es zu stärken statt wegzufiltern.
Die Deutsche Aidshilfe hatte die Recherche zum Anlass genommen, weitere Websites aus ihrem Umfeld zu prüfen. Die gute Nachricht: Bei etwa 50 Seiten davon sei die Altersstufe „ab 6“ gewesen, wie uns Digitalreferent Manuel Hofmann mitteilt. Aber Hofmann hat auch einige weitere, augenscheinliche Fälle von Overblocking durch JusProg entdeckt. „Wir werden das auch gegenüber JusProg anbringen“, schreibt er.
So hatten am gestrigen Donnerstag etwa diese sieben Seiten das Label „ab 18“:
- kosima-mannheim.de – Eine Anlaufstelle in Mannheim zur Förderung der sexuellen Gesundheit.
- heinfiete.de – Eine Anlaufstelle für die Gay Community in Hamburg rund um sexuelle Aufklärung und Safer Sex.
- hessen-ist-geil.de – Das Präventionsprojekt der Aidshilfen in Hessen.
- prep.jetzt – Eine Infoseite rund um PrEP, eine medikamentöse Schutzmethode für HIV-negative Menschen, um sich vor einer HIV-Ansteckung zu schützen
- wissen-verdoppeln.hiv – Eine Infoseite darüber, dass HIV unter Therapie nicht übertragbar ist.
- tht.org.uk – Die Website des Terrence Higgins Trust, nach eigenen Angaben die „führende britische Wohltätigkeitsorganisation für HIV und sexuelle Gesundheit“
- lfc-online.de – Die Website des Dachverbands der deutschsprachigen schwulen Fetischclubs. Zu den Zielen des Verbands gehören unter anderem Prävention im Bereich AIDS, Abbau von Diskriminierung und Verständnisförderung in Bezug auf Fetisch und SM.
Einen Tag später, am heutigen Freitag, hat sich bereits etwas geändert: Die Seite heinfiete.de hat das Label „ab 12“.
JusProg: „Äußerst wenige Ratingfehler“
Im Zuge unserer jüngsten Veröffentlichung hatte JusProg-Vorstand Stefan Schellenberg bereits Verbesserungen angekündigt. „Wir haben Ihr Testergebnis zum Anlass genommen, einige Verbesserungspotentiale bei uns zu identifizieren, die wir jetzt angehen werden“, schrieb Schellenberg. Man habe „in den letzten Tagen noch einmal intensiv öffentliche und öffentlich geförderte Webseiten sowie ungeförderte von Organisationen insbesondere aus Bayern händisch geprüft mit einem Schwerpunkt in den genannten sensiblen Themenfeldern, aber auch darüber hinaus“.
Bei dieser Prüfung von mehreren hundert Webseiten habe es „nur noch äußerst wenig Ratingfehler“ gegeben. Die evangelische Nachrichtenagentur epd verkündete am Mittwoch: „JusProg schaltet nach Kritik blockierte Seiten frei“. Wohlgemerkt: Das geschah, bevor die weiteren, augenscheinlichen Fälle von Overblocking auftauchten.
Von Außen lässt sich schwer beurteilen, ob fehlerhafte Alterseinstufungen bei JusProg selten oder häufig auftreten. Transparenz über die internen Abläufe ist bei JusProg eher nicht erwünscht. Auch auf direkte Nachfrage hin wollte uns der gemeinnützige Verein keinen Blick hinter die Kulissen gewähren. Bei JusProg verpasst eine Software Websites anhand von Stichworten automatisch Labels wie „ab 12“ oder „ab 16“ oder „ab 18“. Welche Worte das sind, ist jedoch geheim. Auch menschliche Prüfer*innen sichten zumindest einige Websites; der Verein möchte allerdings nicht verraten, wie viele es davon gibt.
IT-Sicherheitsforscherin: JusProg als „Zufallsgenerator“
Lilith Wittmann zweifelt an der Verlässlichkeit der Technologie. Die Entscheidungen der Filtersoftware erinnerten „manchmal eher an einen Zufallsgenerator“, schlussfolgert sie in ihrer Analyse. Wittmann hat die Programmierschnittstelle von JusProg genutzt und unter anderem mehrfach die Altersstufe von twitter.com abgefragt. Das Ergebnis war inkonsistent: „So wurde in etwa 50 Prozent der Fälle twitter.com als geeignet ab 6 Jahren und den übrigen 50 Prozent als geeignet ab 16 Jahren eingestuft“.
Bloß, wie lassen sich diese sprunghaften Einstufungen erklären? „Diese API-Antworten sind auch für uns nicht nachvollziehbar“, schrieb JusProg an Wittmann. Das ist zumindest ein Hinweis darauf, dass auch JusProg selbst nicht genau nachvollziehen kann, was der Filter tut.
Während sich JusProg in Sachen Transparenz gegenüber der Öffentlichkeit verschließt, nimmt der Verein zumindest per Online-Formular Hinweise entgegen, um den Filter besser zu machen. Wer also mithilfe des neuen Jugendschutz-Schutz-Programms weitere Websites mit fragwürdiger Alterseinstufung entdeckt, kann sie direkt an JusProg melden.
Auch wir freuen uns über weitere Hinweise auf Fälle von JusProg-Overblocking, insbesondere bei Aufklärungsseiten zu sensiblen Themen – gerne per E-Mail an sebastian[at]netzpolitik.org (Betreff: JusProg) oder als Kommentar unter diesem Artikel.
Ist es sinnvoll JusProg Fehleinschätzungen zu melden und damit den Filter zu verbessern, wie ganz am Ende des Artikels vorgeschlagen?
Ich finde, damit doktort man an Kleinigkeiten herum, ohne das eigentliche Problem zu lösen.
Dafür hilft man aber dabei, die Illusion aufrecht zu erhalten, dass Filter prinzipiell ein sinnvolles und einsetzbares Instrument sind.
Bei einer Pornoseite hat das Tool eine Altersfreigabe „ab 12 Jahren“ ausgespuckt.
Das passiert halt wenn man alles automatisiert. Auch interessant das alle großen Plattformen „indiziert“ sind.
Ein beträchtlicher Teil Deutschlands ist also auf illegalen Webseiten unterwegs.
Ihr sagt: „JusProg ist der einzige Jugendschutz-Filter für Websites in Deutschland, der die gesetzlichen Anforderungen erfüllt und dafür offiziell anerkannt ist. “
Wikipedia sagt:
„Es war lange Zeit das einzige von der Kommission für Jugendmedienschutz anerkannte Programm zur Gewährleistung des Jugendschutzes im Internet. 2019 entzog die KJM dem Programm die Zulassung mit der Begründung, die Wirkung sei mangelhaft.“
Wobei „offiziell“ bei der seltsamen Konstruktion des Jugendschutzes auf Basis von Staatsverträgen in Deutschland aus meiner Sicht fragwürdig ist. Wikipedia sagt jedenfalls zu jugendschutz.net:
„jugendschutz.net ist z. T. umstritten. So wird auf Blogs von Zensurgegnern, beispielsweise vom AK Zensur kritisiert, die Firma übernehme „quasi hoheitliche Aufgaben des Staates“ und habe im Sinne der Akquisition von Projekten ein Interesse daran, das Internet als für Kinder und Jugendliche gefährlich darzustellen.“
Soziale Probleme können nicht durch Technik gelöst werden. Derartige Angebote sind immer Geschäftemacherei, auch wenn sie noch so schön klingen.
Den Kindern muss Soziale Kompetenz gelehrt werden und eine Hilfe gegeben werden, wie sie das Gesehene bewerten können.
Es ihnen nicht zu zeigen hilft nicht.
Kein Filter ist perfekt, auch wenn der Verkäufer das noch so zuckersüß verspricht.
@Martin Wegner
Jeder einzelne Satz ist richtig. Guter Beitrag.
@alle
Warum fließt das Geld in Filter- und Überwachungstechnik anstatt in die Befähigung von Kindern und Jugendlichen?
Wer repräsentiert Kinder und Jugendliche als „stakeholder“ bei Gesetzgebungsverfahren?
Wer repräsentiert Erzieher, Lehrer und Sozialarbeiter bei Gesetzgebungsverfahren, die die Befähigung leisten müssen?
Warum schneidet das Gemeinwohl auf allen Ebenen schlecht ab, wenn es um Investitionen geht, die die Gesellschaft klug und resilient machen könnten?
Wenn schlechte analoge Verhältnisse digitalisiert werden, dann haben wir schlechte digitale Verhältnisse.
Regeln für IT-Gesetzgebung und Energie:
1. Infrastruktur or nothing.
2. Richtig machen.
https://pi-hole.net/
Ich hatte vor ca. zehn Jahren die Alexa 1M Domains durch den jusprog-Filter geschickt per Script. Ca. 20% der Seiten waren nicht abrufbar.
Im ZDF lief gerade
„Ende der privaten Chats?“
ein Bericht über Thorn, einer Software die Chats vollautomatisch auf cyber grooming und Kindesmissbrauch untersuchen soll und sicher nur solche Threads erfassen soll.
Eine gemeinnützige(!) Stiftung mit 19 Mio Umsatz fur Software Lizenzen mit Gehältern weit über 100000 Dollar.
Der Vorsitzende musste allerdings gerade zurücktreten, weil er und seine Frau für einen vermeintlichen Vergewaltiger eingetreten sind…
Das ganze sieht eher wie ein Startup aus, sagt die Autorin und wenn die EU die Chatüberwachung vorschreiben würde, wäre das ein Milliarden-Geschäft, auf die auch andere Firmen warten.
Wo sind eigentlich die Bilanzzahlen dieses gemeinnützigen Vereins jusprog einsehbar?
Würde mich sehr interessieren
Immerhin profitiert dieser Verein ja von meinem Steuergroschen durch diverse Steuerbefreiungen.
Da möchte ich schon sehen, was denn der Vorstand so an Entschädigung bekommt und wie die Mitarbeiter bezahlt werden, die alle Links manuell nachprüfen…
Beim rummspielen mit dem JugendschutzSchutzProgramm habe ich noch ein Paar komische/problematische Blocks gefunden (alles war am 20.1. abends ab 18):
autostraddle.com (Magazin für queere Menschen, besonders queere Frauen)
ohhey.gay (Administration der .gay Top-Level-Domain)
untag.com (verkauft Klamotten speziell für trans Menschen, hat explizit auch eine Kategorie für Kinder/Jungendliche)
maditaoeming.de (Pornowissenschaftlerin)
teach-love.de (Sexuelle Bildung, allerdings an Lehrkräfte, Sozialarbeiter*innen, etc. gerichtet)
torproject.org
devuan.org (Linux-Distribution)
Hier noch zwei ab 16:
voidlinux.org (Linux-Distribution)
xkcd.com
Blockiert wird auch jeder VPN-Anbieter. Alles sehr suspekt.
Das Sperren der VPN Anbieter erfolgt um zu verhindern dass die Kids sich kurzmal einen VPN Tunnel mieten.
Auch Browser wie Opera müssten gesperrt sein, da diese auch ein VPN aufbauen können und generell über Proxy gehen können.
Es müssten eigentlich auch alle Übersetzer von Webseiten gesperrt sein. Proxy Anbieter sowieso.
Das war so Stand der Technik in den 90ern als man noch Webwasher etc. eingesetzt hat.
Ob die da wirkliche eigene Infrastruktur verwenden? Oder nur für ein paar Euro im Monat ein gängiges Filter von 3. mieten? Aber sicher eine völlig abwegige Idee.
Du zählst einen guten Teil der Gründe auf, warum hier eine technische Lösung kein soziales Problem löst. Es gab/gibt ja noch andere (gescheiterte) Methoden, Jugendschutz aus der Sicht der KJM zu implementieren (…) Es gibt keine technische Lösung, die mit dem Grundgesetz in Einklang steht und wirksam ist.
Es gäbe aber die Lösung der Aufklärung in Schulen, im Netz und in den Medien. Es gäbe die Lösung kindgerechte Seiten und Projekte zu fördern. Es gibt die Möglichkeit für Staat und Regierung Werte zu vermitteln. Bildungsgerechtigkeit zum Beispiel (oder hat man etwa keine Werte?). Der ÖR hatte einmal einen Bildungsauftrag. Das ist so grundlegend wie die MINT-Fächer, vielleicht heute bei Bedrohung durch rechtsradikale und/oder populistische Parteien sogar wichtiger; von Pisa ganz zu schweigen. Man könnte ja mal die Frage stellen, wieso junge Menschen meinen Pornographie zu brauchen und wie man dem begegnen könnte (und dabei zum Beispiel auf die Experten hören).
Das ist keine Frage von „man könne ja sowohl das eine, als auch das Andere tun“. Das ist eine Frage, was nachweislich notwendig und wirksam ist und was ohne jegliche Evidenz eines Nutzen bei Existenz von guten Gegenargumenten zwingend gestrichen werden muss.
Der Nutzen davon ginge weit über den Jugendschutz hinaus, ist IMHO grundlegend für eine Demokratie und unabdingbar für unsere Wirtschaft. So gesehen müsste dieser Punkt der Bildung gerade für eine konservative Partei wie CDU/CSU obligatorisch sein.
Liebe Politiker, was versteht ihr daran nicht? Es ist mir wirklich schleierhaft.
Joachim: Um den letzten Satz prospektiv zu beantworten:
Weil die meisten Politiker, anstatt wirklich nachzudenken und Kompetenzen zu entwickeln (bzw. auf wirklich kompetente Leute zu hören), lieber genau die Methoden anwenden, die sie nachher den wirklich gefährlichen Parteien vorwerfen, nämlich nach schnellen, bildzeitungstauglichen Lösungen zu suchen.
Das betrifft so gut wie alle hier auf Netzpolitik diskutierten Themen. Die langfristigen Folgen werden ignoriert bzw. sind ihnen egal.
„Das Sperren der VPN Anbieter erfolgt um zu verhindern dass die Kids sich kurzmal einen VPN Tunnel mieten.“
Was wiederum zeigt, wie bescheuert der Ansatz ist. „Eltern haften für ihre Kinder“ hat einen Grund, ähnlich wie Verkehrsregeln, Jetzt machen wir Verkehrsregeln so sicher, dass tauchen auf dem Boden des Mariannengrabens für Kinder unmöglich ist, juristisch gesehen jetzt, nicht real. Beim Pornoladen könnte man noch diskutieren, ob anonyme Altersverifikation, die den Anbieter nichts zu kosten hat, und einfach zu integrieren ist, ein wertvolles Stück Infrastruktur, sowie erst damit eine Pflicht wert sein könnte. Aber Autobahnabzweiger nur altersverifiziert… das sind die falschen Mittel, und die falschen Wege.
Denken wir an eine sichere Erkennung von „Desinformation“. Welche Ausnahmen wird es wohl geben?
Natürlich Politik und Presse, wobei ich bei letztere nicht mehr so sicher bin, ob „unser“ politische Wille da wirklich noch weit genug reicht.
Sonst gilt ein guter Teil der Begründungen und vor allem Fernsehdebatten als Desinformation, mit 100%iger Sicherheit. Als nächstes aber die Frage, wie diligent man bei Ausnahmen werden will:
– Regierungsmitglieder?
– Opposition, Parlamentarier allgemein?
– Presse allgemein?
– Nur besonders registrierte Presse?
– Schreiben über und Zitieren für alle?
Gerade bei dem letzten Punkt wäre es schelmenhaft konsequent, wenn der Füllfederhalter gerade da herunterfiele, und damit auch der Punkt für den Gesetzesentwurf.
Beim Sprung ins Digitale verhallt die Erinnerung and das Wort „freiheitlich“ in der Praxis, mit atemberaubender Geschwindigkeit. Die Grundordnung wird auch in einer Autokratie noch „freiheitlich“ heißen – ,dem Text nach -, und man wird sich mit Ausdrucken der digitalisierten Versionen davon die Ärsche wischen.
> torproject.org
> devuan.org (Linux-Distribution)
> voidlinux.org (Linux-Distribution)
Ja wer filtert denn da? Die Erfüllungsgehilfen von Microsoft, Google & Co.? Möglich geworden durch politisches Brainwashing derer Lobbyisten. Ein Fall für das Kartellamt und die EU-Wettbewerbswächter.
Die Linux distributionen werden wahrscheinlich gesperrt um zu verhindern dass die Kids sich „kurzmal“ eine live-CD(DVD,USB) bauen können und dann darüber surfen.
Das ist somit gewollt und kein False Positive.
Das mit den „Kids“ ist natürlich zynisch gemeint. Derartige Regeln werden von Filtern in Unternehmen eingesetzt, damit die „Mitarbeiter“(Kids) keine „Ausflüge“ machen. Das würde auch erklären, das man die Buzz-Words nicht benennen kann.
Es ist natürlich vorstellbar, dass sich ein Kind/Jugendlicher/Mitarbeiter ein bootbares Linux herunterladen könnte und damit dann das Filter umgeht, das ja wohl nur auf dem Windows-Rechner installiert wird und keinen transparenten Proxy bietet?
Ein bischen komplizierter kann es schon werden, wenn z.B. gewisse Konzepte umgesetzt werden, die nur authorisierten Rechnern allgemeines Surfen erlauben.
Dann muss man schon irgendwie Tickets klauen oder sich in Anwendungen reinklinken, Klone von „Einwohnern“ installieren (Steam Apps?). Es muss so kompliziert sein, dass zumindest etwas Kompetenz hängenbleibt, wenn die Kids das machen, dann hat es auch etwas gebracht.
Was wieder zeigt, dass Tagging gesetzlich gefordert werden sollte.
Also nicht „irgendwie Jugendschutz“, sondern „gesperrt WEGEN“.
Natürlich bedarf es einer Widerspruchssystematik, bzw. einer Stelle dafür, immerhin können hier durchaus gravierende Nachteile entstehen.
„Es ist natürlich vorstellbar, dass sich ein Kind/Jugendlicher/Mitarbeiter ein bootbares Linux herunterladen könnte und damit dann das Filter umgeht“
Jein. Wenn die installation möglich ist, kommt das Linux eben von woanders, im Zweifel mit Hardware, z.B. wenn die Filterung nicht schon im Router o.ä. passiert, bzw. unbekannte Geräte nicht rannkommen. Hier bedarf es also noch feinerer Einordnung (Tagging). Tatsächlich ist Blacklisting Schwachsinn, denn irgendwer wird ein „VPN“ anbieten.
Wir landen also bei einem Minimum an Unternehmensnetzwerk, für Kinder mit Familien.
Ihr erwähnt eine Programmierschnittstelle ohne eine Quelle anzugeben. Ich habe eine gesucht und nicht gefunden. Wenn ihr den JusProgDNS meint, wäre es vielleicht gut das auch so zu nennen. Andernfalls wäre eine Quelle gut. Danke!
Warum gibt es kein Internet speziell für für Menschen die u18 sind?
Warum muss das Internet so dermaßen jugendfrei umgebaut werden?
Warum versuchen Menschen immer mehr das Internet zu regulieren?
So langweilig, wie im Jahr 2024, war das Internet noch nie. Und es wird immer schlimmer
> Warum gibt es kein Internet speziell für für Menschen die u18 sind?
Was würde diese Idee zu Ende gedacht bedeuten? Welches Merkmal nach der Altersgrenze wäre das nächste, um ein „spezielles Internet“ zu schaffen? Für wen zu welchem Zweck zu wessen Nutzen?
Gäbe es einen speziellen Planeten für Leute mit einfachen Ideen, das könnte mir gefallen. Aber ich bin mir sicher, die Freude darüber würde nicht lange dauern, und das Lachen darüber im Halse stecken bleiben.
Man kann es auch ganz einfach machen:
Alle Geräte Betriebssoftware-Hersteller müssen eine Erwachsenen und Jugendschutzversion anbieten. Ausweiskontrolle an der Ladenkasse ^^
Ich erinnere einen Bericht über Kindergärten. Dort wurde beobachtet, dass ein paar kleine Jungs (Kindergarten!) ein Mädchen in eine Türrahmenecke pressten und abwechselnd bedrängten.
Der Reporter fragte natürlich was sie da machen. Antwort?
„Wir spielen vergewaltigen“.
Sorry, wie willst Du so etwas mit einer Alterskontrolle beim PC Kauf verhindern? Oder mit irgendwelchen Filtern?
Da fehlt es doch den Eltern.