ChatkontrolleStudie zerlegt Pläne der EU-Kommission

Eine Studie des Wissenschaftlichen Dienstes des EU-Parlaments kritisiert die Überwachungspläne der EU-Kommission hart. Ihr Vorschlag einer Chatkontrolle verletze die Grundrechte, sei technisch fragwürdig und würde wohl mit bestehender Rechtsprechung kollidieren.

Drei zerknüllte Papierblätter
Die Expert:innen vom Wissenschaftlichen Dienst des EU-Parlament finden nicht viel Gutes am Kommissionsvorschlag. – Gemeinfrei-ähnlich freigegeben durch unsplash.com Richard Dykes

Die EU-Kommission bekommt heftigen Gegenwind von Fachleuten des EU-Parlaments zu spüren. Ihr als Chatkontrolle bekannter Gesetzentwurf, der sexualisierte Gewalt gegen Kinder im Netz bekämpfen soll, sei nur begrenzt effektiv, um das erklärte Ziel zu erreichen, heißt es in einer Studie des Wissenschaftlichen Dienstes im EU-Parlament (EPRS). Zudem drohe der Vorschlag, die Ende-zu-Ende-Verschlüsselung zu untergraben und gefährde die Grundrechte von Nutzer:innen, so die Untersuchung, die heute im Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) im EU-Parlament vorgestellt wurde.

Der liberale EU-Abgeordnete Moritz Körner nennt die Analyse „schonungslos“ und sagt: „Nur selten fällen die vom Europäischen Parlament beauftragten Experten ein so vernichtendes Urteil über Gesetzesvorschläge der Europäischen Kommission.“

Vor knapp einem Jahr hatte die EU-Kommission ihren Entwurf vorgestellt. Das EU-Parlament entwickelt derzeit seine Position zu dem Regelwerk. Der von Anfang an umstrittene Vorschlag sieht unter anderem die zwangsweise Durchleuchtung privater Kommunikationsinhalte auf Anordnung vor. Das kann etwa durch sogenanntes Client-Side-Scanning passieren, also die Durchsuchung von Inhalten auf den Endgeräten von Nutzenden, bevor sie für den Versand verschlüsselt werden. Dagegen laufen Expert:innen Sturm, weil es tief in die Grundrechte eingreift und zudem auf technischer Ebene verschlüsselte Kommunikation untergräbt. Dieser Kritik schließt sich nun auch der Wissenschaftliche Dienst an.

Unzulässiger Eingriff in Grundrechte

Der Kommissionsvorschlag kann Anbieter von Kommunikationsdiensten unter anderem dazu verpflichten, nach bekanntem wie unbekanntem Bildmaterial zu suchen und auch sogenanntes Grooming aufzuspüren. Gemeint ist damit eine Kontaktanbahnung von Erwachsenen an Minderjährige. Dies würde jedoch das Grundrecht auf Privatsphäre und auf vertrauliche Kommunikation „in einem ernsthaften Ausmaß“ beeinträchtigen, schreiben die Verfasser:innen der Studie. Bereits die Überwachung von Bewegungs- und Standortdaten wäre laut Urteilen des Europäischen Gerichtshofes (EuGH) ein unzulässiger Verstoß. Dies gelte erst recht, wenn Kommunikationsinhalte selbst überwacht würden.

Auch die zwangsläufig notwendige Datensammlung würde gegen die Grundrechtecharta der EU verstoßen, weil hierbei massenhaft personenbezogene Daten überwacht und verarbeitet würden. Dies ergebe sich auch aus einschlägigen EuGH-Urteilen zur Vorratsdatenspeicherung. Demnach ist anlasslose Massenüberwachung unzulässig. Ebenfalls illegal ist es, Diensteanbietern eine generelle Überwachungspflicht aufzuerlegen. Darüber hinaus verletze der Vorschlag die Freiheit der Meinungsäußerung und Informationsfreiheit sowie gleichermaßen die in der Charta festgeschriebene unternehmerische Freiheit.

Nur in einem Punkt sieht die Studie eine Stärkung von Grundrechten. Es sei durchaus zu erwarten, dass Täter:innen überführt würden, was wiederum die Grundrechte von Kindern schütze. Da diese aber gleichermaßen Internetnutzende seien, werden deren Grundrechte ebenso wieder beschnitten. Das könnte ihre Entwicklung beeinträchtigen.

Die schwerwiegenden Einwände legen nahe, dass die geplanten Regeln in dieser Form einen schweren Stand vor dem Europäischen Gerichtshof hätten. Der EU-Piratenabgeordnete Patrick Breyer warnt: „Niemand hilft Kindern mit einer Verordnung, die unweigerlich vor dem Europäischen Gerichtshof scheitern wird, weil sie gegen die Charta der Grundrechte verstößt.“ Auch die sozialdemokratische Abgeordnete Birgit Sippel wünscht sich einen Neustart des Vorhabens. „Der gute Wille allein reicht nicht aus, um wirksame Gesetze im Einklang mit Grundrechten zu gestalten.“ Wenn es so fundamentale rechtliche Fragen gebe, sei die EU weit von „better law-making“ entfernt.

Zweifel an der Technik

Neben den Auswirkungen auf Grundrechte hat der Wissenschaftliche Dienst den Gesetzesvorschlag auch darauf geprüft, ob er notwendig und verhältnismäßig ist. Zur Notwendigkeit bringt die Studie vor allem zwei grundlegende Bedenken: Zum einen bestehen Zweifel an den technologischen Möglichkeiten, bislang unbekannte Missbrauchsdarstellungen und Grooming-Versuche automatisiert zu erkennen. Diese seien noch nicht „genau genug, um als effektiv angesehen zu werden“.

Der EU-Kommission ist dieses Problem bekannt. Laut einem von uns veröffentlichten Bericht beruft sich die Kommission etwa auf eine Genauigkeit von 90 Prozent beim Erkennen von Grooming. Das heißt, bei einem von zehn als Grooming erkannten Inhalten liegen die Systeme falsch – und unverdächtige Kommunikation landet auf dem Tisch von Ermittler:innen. Bei einer Million vermeintlich auffälliger Nachrichten sind das bereits 100.000 falsche Alarme.

Mehrarbeit für die Behörden

Damit zusammen hängt auch das zweite Bedenken des Wissenschaftlichen Dienstes: Können Ermittler:innen überhaupt die Fülle an anfallendem Material bearbeiten? Besonders, wenn sie zwischen berechtigten Meldungen noch eine Vielzahl an Fehlalarmen aussortieren müssen.

Die neuen Technologien würden „zu einer Zunahme der gemeldeten Inhalte und einer Abnahme der Genauigkeit führen, was sich erheblich auf die Arbeitsbelastung der Strafverfolgungsbehörden auswirken wird“, so das Fazit der Autor:innen.

Die Studie kritisiert aber nicht nur, was die Kommission mit dem Vorschlag bezweckt, sondern auch, was sie offenbar übersieht: nämlich grundrechtsschonende Alternativen. So gebe der Gesetzestext den zuständigen Behörden keine Möglichkeiten, „Kommunikations- oder Hostinganbietern“ andere, weniger invasive Schutzmaßnahmen vorzuschreiben.

Allgemeine Scan-Anordnungen sind nicht verhältnismäßig

Der Wissenschaftliche Dienst stellt nicht nur die Notwendigkeit und Geeignetheit des Kommissionsvorschlags in Frage. Auch der Verhältnismäßigkeit erteilt er eine Absage. Dabei geht es vor allem darum, dass die Scan-Anordnungen alle Nutzenden eines Dienstes betreffen würden, also zum Beispiel alle, die einen bestimmten Messenger verwenden. Das könnte laut der Studie gegen zwei wichtige Prinzipien verstoßen: das Verbot allgemeiner Überwachungspflichten bei Hosting-Anbietern und das Verbot anlassloser und unterschiedsloser Vorratsdatenspeicherung.

Ein weiteres Problem sei der Eingriff in verschlüsselte Kommunikation. „Das Scannen von Inhalten auf den persönlichen Geräten der Nutzer in der Ende-zu-Ende-verschlüsselten Kommunikation verstößt gegen den Kern des Rechts auf Datenschutz“, heißt es in der Studie.

Täter:innen weichen aus

Die Bilanz der Expert:innen: Die Verordnung hätte deutliche Auswirkungen auf eine ganze Reihe von Grundrechten und es gibt ernste Zweifel an ihrer Verhältnismäßigkeit. Aber wären die Vorschläge überhaupt effektiv, selbst wenn man das außer Acht ließe? Die Antwort lautet auch hier: wahrscheinlich nicht. Täter:innen würden „wahrscheinlich auf das Dark und Deep Web ausweichen“, um den Maßnahmen zu entgehen, heißt es in der Studie. Gemeint sind jene Teile des Internets, die nicht über einen herkömmlichen Browser aufgerufen werden können.

Statt der Chatkontrolle braucht es etwas anderes, findet auch der EU-Abgeordnete Patrick Breyer: „Was wir anstelle totalitärer Chatkontrolle und Ausweispflichten wirklich brauchen, ist eine längst überfällige Verpflichtung der Strafverfolgungsbehörden, bekanntes Missbrauchsmaterial im Internet zu löschen, sowie europaweite Standards für wirksame Präventionsmaßnahmen, Opferhilfe und -beratung und zeitnahe strafrechtliche Ermittlungen.“ Der EU-Abgeordnete Moritz Körner von der FDP sagt: „Die Europäische Kommission wäre gut beraten, ihre Schnüffelinitiative sofort zurückzuziehen.“

Die Kritik ist nicht neu

Der Wissenschaftliche Dienst des EU-Parlaments ist nicht das erste Gremium, das fundamentale Kritik an den Kommissionsvorschlägen übt. Sie stehen in einer Reihe mit vielen anderen: den Wissenschaftlichen Diensten des Bundestags, den EU-Datenschutzbeauftragten, den FDP-geführten Ministerien in Deutschland, Bürgerrechtler:innen, Kinderschutzorganisationen und vielen mehr.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

4 Ergänzungen

  1. Hi Thomas und Anna,

    nach dem Easterhack und dem Vortrag über die Chatkontrolle, denke ich leider wir als Tech-Community sind auf dem Holzweg.

    Viele techies sind halt nicht mehr up 2 date, leider. Der Überwachungskapitalismus scannend die unverschlüsselten Endgeräte in Echtzeit und verändert auch schon Verhalten der Kinder, und erwachsenen Nutzer:innen. Wir verschließen davor die Augen und halten dieses Internet für bedrohlich, dabei erscheinen Inhalte eben „personalisiert“ nur jenen denen sie abgezweigt werden sollen (zu über 90%).

    Schon gibt es „offiziell“ keine Probleme mehr. In den meisten Fällen passt es bis auf die False-Positive. A.I. betreut zwar auch die Ausnahmen aber das schließt einen (semi offiziellen, oder Hack-Missbrauch dieser Technologie) leider nicht aus.

    Was mich so verwirrte war der Easterhack Talk. Da waren die Einwürfe der EU schon klar. „KEINE Verschlüsselung wird gebrochen“ und ihr nanntet „A.I. auf den Systemen“ schon als Grundprinzip. Dabei ist die Ansage doch absolut ehrlich. Hier wird die Chatkontrolle durch das Betriebssystem oder schon offline umgesetzt. Genau dies ist halt der Plan, durch Apps oder eben Betriebssystem Updates. Komplett ohne Verschlüsselung per, Rechtschreiberkennung der Wort oder Ton-Eingabe….

  2. …und trotz alledem – egal, ob ein wissenschaftlicher Dienst oder entsprechende Fachexperten/NGOs dies zerlegen – werden wir erleben, dass eine wie auch immer genannte/geartete Überwachung früher oder später Einzug halten wird.

    Allein schon, weil macht- und kontrollbesessene Menschen in den Büros und Abgeordnetensesseln zwanghaft diese Einblicke haben wollen! Vorgeschoben wird mit verlogenen Krokodilstränen und Statements „Es schütze die Kinder!“.

    Wetten werden angenommen.

  3. Die Kritik ist nicht neu aber völlig gerechtfertigt!
    ich dachte wir leben hier in einem freiem land! und zu einem freiem land gehört auch dass so wenig wie möglich überwacht wird!

    denen beim parlament hat es nichts anzugehen was ich bei google, in whatsapp oder sonst was mache!

  4. Vielleicht müssen Ermittler einfach mal ihren Job machen… nämlich ermitteln.
    Was für mich ok wäre ist, wenn die Gesetze derart angepasst werden, dass Ermittler sich in Teenie-Communities als Minderjährige ausgeben und ihrerseits Täter groomen.
    So bleiben der Allgemeinheit ihre Rechte erhalten, Täter würden gefasst, bevor etwas passiert und es würde, falls das Schule macht und sich rum spricht, die Abschreckung erhöht, Grooming zu betreiben

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.