Gesetz zur ChatkontrolleEU-Ratspräsidentschaft will Netzsperren ausweiten

Während reihenweise Expert:innen die geplante Chatkontrolle kritisieren, will der Rat der EU andere Maßnahmen verschärfen. Internet-Provider sollen vermehrt Websites sperren und Anbieter von Suchmaschinen Ergebnisse entfernen. Die tschechische Ratspräsidentschaft nennt die Vorschläge „Kompromiss“.

Flaggen der EU
Netzsperren in der EU (Symbolbild) – Flaggen: IMAGO / Shotshop; Montage: netzpolitik.org

Die EU-Staaten wollen das von der EU-Kommission geplante Gesetz zur Bekämpfung des sexuellen Missbrauchs von Kindern verschärfen. Das geht aus internen Papieren der tschechischen Ratspräsidentschaft an die Ratsarbeitsgruppe Strafverfolgung hervor. Sie bezeichnet die Vorschläge selbst als „Kompromiss“. Behörden in EU-Staaten sollen demnach einfacher und umfassender Netzsperren anordnen können. Außerdem sollen sie Anbieter von Suchmaschinen dazu verpflichten, Websites aus ihren Suchergebnissen zu verbannen.

Derzeit arbeiten die Organe der Europäischen Union an ihren Positionen zu einem Vorschlag der EU-Kommission. Was letztlich im Gesetz landet, entscheiden dann die Verhandlungen. Das Paket ist umfassend; der bekannteste Teil ist die sogenannte Chatkontrolle. Hier sollen Anbieter dazu verpflichtet werden, auch private Nachrichten von Nutzer:innen auf Anordnung zu durchleuchten. Das ist ein Vorhaben, vor dem sogar EU-Datenschutzbehörden eindringlich warnen, außerdem Bürgerrechtler:innen, Kinderschützer:innen und die Wissenschaftliche Dienste des Bundestags.

Die EU-Staaten im Rat sind gegenüber der geplanten Chatkontrolle offenbar gespalten, wie ein internes Stimmungsbild aus dem Juli 2022 zeigte. In den Papieren ist die Durchleuchtung von Chats allerdings noch kein Thema – das kommt noch. Stattdessen geht es zunächst um andere Maßnahmen, die ebenso Grundrechte von Nutzer:innen im Netz betreffen. Die Papiere wurden von der britischen NGO Statewatch und dem Rat selbst veröffentlicht.

Zeitliche Begrenzung für Netzsperren gestrichen

Der ursprüngliche Entwurf der EU-Kommission sieht vor, dass Hosting-Anbieter „Material über sexuellen Kindesmissbrauch“ löschen sollen, wenn zuständige Behörden sie dazu auffordern. Konkret könnte das so aussehen: Eine Behörde erfährt zum Beispiel, dass ein Account über einen Speicherplatz-Anbieter im Netz Foto-Galerien verbreitet, die Gewalt gegen Kinder zeigen. Sie fordert daraufhin den Speicherplatz-Anbieter auf, diese Inhalte zu löschen. Dafür haben Anbieter nach den Plänen der EU-Kommission 24 Stunden Zeit.

Ähnlich funktioniert das schon jetzt. So wurden 97,5 Prozent der in Deutschland gehosteten Inhalte innerhalb einer Woche gelöscht, nachdem das BKA darauf aufmerksam wurde. Das zeigt ein Bericht der Bundesregierung über das Jahr 2021. Der jährlich veröffentlichte Bericht ist eine Konsequenz aus der Auseinandersetzung um Netzsperren in Deutschland 2011 und zeigt seitdem, dass Löschen statt Sperren funktioniert. Bei Anbietern aus dem Ausland dauerte es vom Hinweis zur Löschung zwar länger, doch auch das war in den meisten Fällen erfolgreich. 60 Prozent der Inhalte waren nach einer Woche weg, nach einem Monat immerhin 88 Prozent.

Klappt eine solche Löschung nicht, sollen laut EU-Kommission die Internet-Zugangs-Anbieter aktiv werden. In Deutschland sind das zum Beispiel die Telekom, Vodafone oder 1&1. Diese Anbieter sollen auf Anordnung von Behörden Netzsperren einrichten und damit für ihre Kund:innen den Zugang zu Aufnahmen sexualisierter Gewalt verhindern. Das Problem: Diese Aufnahmen sind dann weiterhin online und lassen sich mit simplen Tricks wie etwa dem Tor-Browser oder VPN-Diensten weiterhin aufrufen. Netzsperren sind dafür also ineffektiv, schädlich – und der falsche Ansatz für das Problem.

Wir überwachen die Überwacher.

WE FIGHT FOR YOUR DIGITAL RIGHTS

Jetzt Spenden

Der Vorschlag der EU-Kommission sah für Netzsperren zumindest Einschränkungen vor. So sollten angeordnete Netzsperren etwa zeitlich begrenzt sein, maximal auf fünf Jahre. Diese Einschränkung will die EU-Ratspräsidentschaft den internen Papieren zufolge ersatzlos streichen. Ebenso streichen will sie eine verpflichtende Abwägung, ob die Netzsperre mehr negative als positive Auswirkungen hätte. Netzsperren sollen sich laut EU-Ratspräsidentschaft zudem nicht nur auf Inhalte beschränken, die außerhalb der EU gehostet werden. Auch Hosting-Anbietern innerhalb der EU könnten demnach Netzsperren drohen.

Die von der EU-Kommission geplanten Netzsperren waren im Vergleich zurückhaltender. Sie sollten nur dann eingesetzt werden, wenn Hosting-Anbieter illegale Aufnahmen trotz Anordnung nicht löschen – und wenn und EU-Behörden keine weiteren, rechtlichen Möglichkeiten haben. Auf diese Einschränkungen möchte die EU-Ratspräsident verzichten.

Abkehr vom Prinzip „Löschen statt Sperren“

In der Debatte um sexualisierte Gewalt gegen Kinder im Netz gibt es den Grundsatz „Löschen statt Sperren“. Löschen bewirkt, dass illegale Inhalte wirklich aus dem Netz entfernt werden – und auch mit technischen Tricks nicht weiter abrufbar sind. Sperren heißt, dass Inhalte abrufbar bleiben. Die EU-Bürgerrechtsorganisation EDRi befürchtet in einem Positionspapier: Wenn Behörden allzu einfach solche Sperrungen anordnen können, dann wird weniger gelöscht. Immerhin wäre es deutlich mehr Aufwand, zig Hosting-Anbieter zu kontaktieren als eine Handvoll nationaler Internet-Provider.

Aus den Papieren der EU-Ratspräsidentschaft geht nicht eindeutig hervor, was genau im Ernstfall gesperrt werden soll: Direkte URLs zu entsprechenden Inhalten oder ganze Domains? Beides wäre problematisch. Direkte URLs lassen sich in der Regel schon aus technischen Gründen nicht durch Internet-Provider sperren. Bei HTTPS-Verschlüsselung sehen die Provider nämlich nicht, welche URLs ihre Kund:innen anklicken. Entsprechend lässt sich der Zugang dazu auch nicht gezielt unterbinden.

Netzsperren gibt es daher auch auf der Ebene von Domains. Doch auch hier gibt es ein Problem. EDRi schreibt: „Eine Sperrung auf Domain-Ebene würde auch legale Inhalte betreffen“, und das wäre „in vielen Fällen ein unverhältnismäßiger Eingriff in die die freie Meinungsäußerung und den Zugang zu Informationen.“

Wir machen's nicht für Klicks

WE FIGHT FOR YOUR DIGITAL RIGHTS

Jetzt Spenden

Solche Bedenken finden sich in den Vorschlägen der EU-Ratspräsidentschaft nicht. Stattdessen wollen die EU-Staaten mehr Möglichkeiten für ihre eigenen Behörden. Laut Vorschlag der EU-Kommission sollten eigentlich koordinierende Behörden in den EU-Staaten die zentralen Aufgaben erledigen und einem neuen EU-Zentrum zuarbeiten. Der Ratspräsidentschaft gefällt das offenbar nicht. Sie schlägt eine weniger zentralisierte Lösung vor. Demnach sollen andere, nationale Behörden etwa für die Anordnung von Netzsperren zuständig sein dürfen – sofern sie der koordinierenden Behörde Bescheid geben. Die koordinierende Behörde dürfe dann Bedenken äußern und sich notfalls an eine Justizbehörde wenden.

Suchmaschinen sollen Websites aus Suchergebnissen bannen

Vieles spricht dafür, dass die Vorschläge der EU-Ratspräsidentschaft das Prinzip „Löschen statt Sperren“ schwächen. Hierzu möchte man auch eine neue Gruppe von Akteur:innen in die Pflicht nehmen: Suchmaschinen. Bei dem Vorhaben der EU-Kommission hatten Suchmaschinen bislang keine zentrale Rolle gespielt. Anbieter von Suchmaschinen sollen laut EU-Ratspräsidentschaft allerdings Treffer aus ihren Suchergebnissen verbannen, wenn sie von zuständigen Behörden in EU-Staaten dazu aufgefordert wurden. Betroffen sind demnach Websites, bei denen sich Hinweise auf „Material über sexuellen Kindesmissbrauch“ finden.

Der Rauswurf aus den Suchergebnissen soll allerdings an Bedingungen geknüpft sein. Zum Beispiel soll er notwendig sein, um die Verbreitung von Aufnahmen sexualisierter Gewalt gegen Kinder in der EU zu verhindern, heißt es. Es solle aber auch Rücksicht darauf genommen werden, wenn Anbieter Maßnahmen ergreifen, um das Risiko zu verringern. Wieder geht aus den Berichten nicht eindeutig hervor, ob einzelne Inhalte gemeint sind oder vollständige Websites. Ähnlich wie bei Netzsperren gilt auch hier: Der Rauswurf ganzer Websites wie Dropbox könnte auch jede Menge legaler Inhalte betreffen, die für Nutzer:innen dann weitaus schwerer zugänglich sind.

Für die meist genutzte Suchmaschine in der EU, Google, ist der Ausschluss von URLs aus den Suchergebnissen zumindest nichts Neues: Längst entfernt Google selbstständig Ergebnisse aus der eigenen Suche, wenn sie zu sexualisierter Gewalt gegen Minderjährige führen. Im ersten Halbjahr 2022 ist das laut Googles Transparenzbericht bei knapp einer halben Million URLs (484.573) passiert. Mehr als sechs Milliarden Mal erhielt Google Anfragen zu Entfernungen wegen Urheberrechtsverstößen.

Am Donnerstag trifft sich die Ratsarbeitsgruppe Strafverfolgung, um über den Vorschlag der Kommission zu diskutieren. Es ist erst der Beginn von längeren Verhandlungen. Zu den besonders umstrittenen Regelungen rund ums Durchleuchten privater Nachrichten enthalten die bisherigen Kompromissvorschläge kaum inhaltliche Änderungen. Mehrere Minister:innen der Bundesregierung hatten ihre Ablehnung der Chatkontrolle öffentlich beteuert. Nun kommt es darauf an, dass Deutschland diese Positionen auch im Rat verteidigt. In der Ratsarbeitsgruppe Strafverfolgung sitzen Vertreter:innen des Innenministeriums von SPD-Ministerin Nancy Faeser.

8 Ergänzungen

  1. Mal wieder Unsinn um die Massen-Zensur auszuweiten !!!

    Ich vermute ohnehin das es nur wenig harte Kinderpornos im normalen Internet gibt. Da solche Schwerkriminellen ja über irgendwelche Insider Foren kommunizieren auf die Suchmaschinen ohnehin keinen Zugriff haben. Der Verbreitung solcher Strafbarer Inhalte dürfte somit durch das Gesetz kaum entgegen gewirkt werden. Dafür bräuchte es mehr klassische Polizeiliche Ermittlungsarbeit und genau da scheint die Politik ja leider kaum willens zu sein mehr zu investieren.

    Spannend auch das in Tschechien die Piratenpartei mit in der Regierung ist und sich dort nun für Internetzensur einzusetzen scheint. Also dem Gegenteil von dem für was diese Partei mal gegründet wurde.

    1. Nerd 1337,

      leider nein. In den USA sinkt der Jahrgang fürs Sexting stetig. Was vor 5 Jahren noch die 8.te klasse machte, ist jetzt schon bei der 7. und Teilweise der 6. Klasse angekommen. Mädchen landen dann in der Falle, das sie entweder Bilder schicken und als i..tch gebranntmakrt werden. Oder sie senden nichts und sind Prüde oder Schüchtern. Eine Situation wo die meisten nicht gewinnen können. Dabei ist selbst ein Bilderaustausch mit wirklichen Freunden nur so lange Interessant, wenn die Beziehung zerbricht. Die Bilder werden wie Baseballkarten unter den Jungs getauscht, so das es nach ein zwei Jahren von sehr sehr vielen Bildern gibt und jene die keine Bilder schicken als Resterampe fungieren. Dies Zerstöt mittlerweile die kompleete Erfahrung junger Menschen, die gar keine Beziehungen mehr aufbauen weil sie sehr schnell nur noch entsprechende Inhalte kurzfristig konsumieren und längere Beziehungen nicht mehr oder nur noch selten existieren. Gut die Corona-Beziehungen waren ohnehin einem sehr starken Umbruch unterworfen. Aber die Technik und die Veränderung einer ganzen Generation geprägt durch Likes und personalisierte Reichweite hat schon fast ihren Höhepunkt erreicht.
      Polizeiliche Ermittlungsarbeit sorgt leider nur dafür das mehrere 14+ jährige Menschen vorbestraft werden.

    2. Es geht hier nicht um „harte Kinderpornos“ bei deren Produktion echte Kinder zu Schaden kommen, sondern um die bereits jetzt extrem aufgeweichte Schwamm-Definition von Kinderpornos wo auch gezeichnete Inhalte, reiner Text, Urlaubsbilder oder Sexting unter Teenagern drunter fallen.
      Falls das Ganze noch weiter auf „Material über sexuellen Kindesmissbrauch“ ausgeweitet werden sollte, dann könnten selbst Artikel wie dieser da drunter fallen.

  2. Es sollte dabei klar sein das mit dieser Netzsperre Fundamentalisten einen Freibrief bekommen das gesamte europäische kulturelle und künstlerische Selbstverständnis zu unterwandern und determinieren.

    Ungarn unter Viktor Orban kann damit Wikipedia dauerhaft in Europa sperren, Narrative Begründung + die neutrale Formulierung zu LGBTIQ stellt eine Kindesmisshandlung da.

    Wenn irgendwer glaubt das in Europa jetzt Fundamentalisten das Netz diktieren können – schöne Grüße aus dem Iran!

  3. „Direkte URLs zu entsprechenden Inhalten oder ganze Domains?“

    Klar geht das bei SSL nicht mit den Domains, es sei denn, da wäre ein übergeordneter Dienst, der dann auf Anfrage hin die untergeordnete URL (von deren Kunden) löscht. Das muss nicht schaden, wenn Gesetzgeber irgendwie domänenspezifische Kenntnis einfließen lassen.

    Ich erwarte dann allerdings auch, dass z.B. google.com oder facebook.com genauso (schnell und lang) gesperrt werden, wie irgendwelche Webspace- oder VM-Hostinganbieter, nicht denkend an Webdesignunternehmen u.ä., die auf noch kleinerer Ebene Hostingplatz anbieten.

    Ich stelle mir den Angriff dann so vor:
    – Angreifer hat Uugriff auf Kundenwebspace o.ä. (selbst gemietet oder per Exploit).
    – Illegales Material wird eingestellt.
    – Das wird bei den Behörden gemeldet. Die Reaktionsverzögerung seitens der Behörden ist hier natürlich kritisch für den Angriff.
    – Der Anbieter wird solange mit Spammails geflutet, die wie Sperraufträge für URLs aussehen, die allerdings nicht sperrwürdig sind, das sichergestellt ist, dass der Anbieter es nicht schafft, innerhalb von 24 Stunden auf eine etwaige Behördenanfrage zu antworten.

    Ist jetzt ad-hoc. Vielleicht wird es billiger sein, einfach nur die Spammails an Mitwettbewerber zu verschicken, oder sich durch Phishing Zugang zu einer der Zehntausenden sperrberechtigten Behördenaccounts zu holen. Wenn die nach dem Motto „leicht rein, schwer wieder raus“ verfahren, war es das für den Mitwettbewerber.

  4. Problem dabei…

    Es lässt sich relativ simple ein Programm schreiben, welches die Webseiten die in den Suchindexen der Betreiber fehlen als besonders interessant darstellt.

    Damit gibt es dann eine öffentliche Methode mit dem diese Webseiten auf dem Seevierteller landen.

    Es muss gegen Grooming vorgegangen werden, aber auch gegen eine Beeinflussung der Teenager über die Algorithmen der großen IT-Dienstleister:innen. Denn nur deshalb und wegen fehlender Aufklärung haben wir dieses Problem. Noch nie hat da ein Verbot der Eltern geholfen oder eine peinliche Aktion in seltsamen Medien oder über Influencer.

    Ich denke der richtige Ansatz wäre eine Aufklärung darüber in den Schulen und das die Kids darüber sprechen und warum auch das Sexting ein Problem ist, als auch der Verlust der Privatsphäre durch Smartphones und Apps, die eben nur an generierten Inhalten und Einschaltquoten interessiert sind aber nicht an den Menschen selber. Auch eine Art von Missbrauch.

    Wenn unsere Politiker:innen nicht schneller dem Stand der Technik entsprechen und immer noch mit Unwirksamen Mitteln an kommen, haben wir ein Problem. Statt eine Chat-Kontrolle könnten wir einfach Menschen unter 21 Jahren den Zugang zum Internet, oder vernetzten persönlichen Geräten verbieten, Punkt. Problem gelöst. Gut das wäre wahrscheinlich eine zu extreme Variante. Aber wenn eine Gruppe so viel Angriffsfläche offenbart, ist sie einfach noch nicht bereit.

    1. „Statt eine Chat-Kontrolle könnten wir einfach Menschen unter 21 Jahren den Zugang zum Internet, oder vernetzten persönlichen Geräten verbieten, Punkt.“

      Richtig so. Wie die Streithähne aus der Kneipe rauszuwerfen. Wobei das Quatsch ist, weil die Streithähne die Politik und „das Internet“ sind, also die Politik und Facebook, Youtube usw. Das könnte man doch machen!

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.