Chatkontrolle: Studie zerlegt Pläne der EU-Kommission

Die EU-Kommission bekommt heftigen Gegenwind von Fachleuten des EU-Parlaments zu spüren. Ihr als Chatkontrolle bekannter Gesetzentwurf, der sexualisierte Gewalt gegen Kinder im Netz bekämpfen soll, sei nur begrenzt effektiv, um das erklärte Ziel zu erreichen, heißt es in einer Studie des Wissenschaftlichen Dienstes im EU-Parlament (EPRS). Zudem drohe der Vorschlag, die Ende-zu-Ende-Verschlüsselung zu untergraben und gefährde die Grundrechte von Nutzer:innen, so die Untersuchung, die heute im Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) im EU-Parlament vorgestellt wurde.

Der liberale EU-Abgeordnete Moritz Körner nennt die Analyse „schonungslos“ und sagt: „Nur selten fällen die vom Europäischen Parlament beauftragten Experten ein so vernichtendes Urteil über Gesetzesvorschläge der Europäischen Kommission.“

Vor knapp einem Jahr hatte die EU-Kommission ihren Entwurf vorgestellt. Das EU-Parlament entwickelt derzeit seine Position zu dem Regelwerk. Der von Anfang an umstrittene Vorschlag sieht unter anderem die zwangsweise Durchleuchtung privater Kommunikationsinhalte auf Anordnung vor. Das kann etwa durch sogenanntes Client-Side-Scanning passieren, also die Durchsuchung von Inhalten auf den Endgeräten von Nutzenden, bevor sie für den Versand verschlüsselt werden. Dagegen laufen Expert:innen Sturm, weil es tief in die Grundrechte eingreift und zudem auf technischer Ebene verschlüsselte Kommunikation untergräbt. Dieser Kritik schließt sich nun auch der Wissenschaftliche Dienst an.

Unzulässiger Eingriff in Grundrechte

Der Kommissionsvorschlag kann Anbieter von Kommunikationsdiensten unter anderem dazu verpflichten, nach bekanntem wie unbekanntem Bildmaterial zu suchen und auch sogenanntes Grooming aufzuspüren. Gemeint ist damit eine Kontaktanbahnung von Erwachsenen an Minderjährige. Dies würde jedoch das Grundrecht auf Privatsphäre und auf vertrauliche Kommunikation „in einem ernsthaften Ausmaß“ beeinträchtigen, schreiben die Verfasser:innen der Studie. Bereits die Überwachung von Bewegungs- und Standortdaten wäre laut Urteilen des Europäischen Gerichtshofes (EuGH) ein unzulässiger Verstoß. Dies gelte erst recht, wenn Kommunikationsinhalte selbst überwacht würden.

Auch die zwangsläufig notwendige Datensammlung würde gegen die Grundrechtecharta der EU verstoßen, weil hierbei massenhaft personenbezogene Daten überwacht und verarbeitet würden. Dies ergebe sich auch aus einschlägigen EuGH-Urteilen zur Vorratsdatenspeicherung. Demnach ist anlasslose Massenüberwachung unzulässig. Ebenfalls illegal ist es, Diensteanbietern eine generelle Überwachungspflicht aufzuerlegen. Darüber hinaus verletze der Vorschlag die Freiheit der Meinungsäußerung und Informationsfreiheit sowie gleichermaßen die in der Charta festgeschriebene unternehmerische Freiheit.

Nur in einem Punkt sieht die Studie eine Stärkung von Grundrechten. Es sei durchaus zu erwarten, dass Täter:innen überführt würden, was wiederum die Grundrechte von Kindern schütze. Da diese aber gleichermaßen Internetnutzende seien, werden deren Grundrechte ebenso wieder beschnitten. Das könnte ihre Entwicklung beeinträchtigen.

Die schwerwiegenden Einwände legen nahe, dass die geplanten Regeln in dieser Form einen schweren Stand vor dem Europäischen Gerichtshof hätten. Der EU-Piratenabgeordnete Patrick Breyer warnt: „Niemand hilft Kindern mit einer Verordnung, die unweigerlich vor dem Europäischen Gerichtshof scheitern wird, weil sie gegen die Charta der Grundrechte verstößt.“ Auch die sozialdemokratische Abgeordnete Birgit Sippel wünscht sich einen Neustart des Vorhabens. „Der gute Wille allein reicht nicht aus, um wirksame Gesetze im Einklang mit Grundrechten zu gestalten.“ Wenn es so fundamentale rechtliche Fragen gebe, sei die EU weit von „better law-making“ entfernt.

Zweifel an der Technik

Neben den Auswirkungen auf Grundrechte hat der Wissenschaftliche Dienst den Gesetzesvorschlag auch darauf geprüft, ob er notwendig und verhältnismäßig ist. Zur Notwendigkeit bringt die Studie vor allem zwei grundlegende Bedenken: Zum einen bestehen Zweifel an den technologischen Möglichkeiten, bislang unbekannte Missbrauchsdarstellungen und Grooming-Versuche automatisiert zu erkennen. Diese seien noch nicht „genau genug, um als effektiv angesehen zu werden“.

Der EU-Kommission ist dieses Problem bekannt. Laut einem von uns veröffentlichten Bericht beruft sich die Kommission etwa auf eine Genauigkeit von 90 Prozent beim Erkennen von Grooming. Das heißt, bei einem von zehn als Grooming erkannten Inhalten liegen die Systeme falsch – und unverdächtige Kommunikation landet auf dem Tisch von Ermittler:innen. Bei einer Million vermeintlich auffälliger Nachrichten sind das bereits 100.000 falsche Alarme.

Mehrarbeit für die Behörden

Damit zusammen hängt auch das zweite Bedenken des Wissenschaftlichen Dienstes: Können Ermittler:innen überhaupt die Fülle an anfallendem Material bearbeiten? Besonders, wenn sie zwischen berechtigten Meldungen noch eine Vielzahl an Fehlalarmen aussortieren müssen.

Die neuen Technologien würden „zu einer Zunahme der gemeldeten Inhalte und einer Abnahme der Genauigkeit führen, was sich erheblich auf die Arbeitsbelastung der Strafverfolgungsbehörden auswirken wird“, so das Fazit der Autor:innen.

Die Studie kritisiert aber nicht nur, was die Kommission mit dem Vorschlag bezweckt, sondern auch, was sie offenbar übersieht: nämlich grundrechtsschonende Alternativen. So gebe der Gesetzestext den zuständigen Behörden keine Möglichkeiten, „Kommunikations- oder Hostinganbietern“ andere, weniger invasive Schutzmaßnahmen vorzuschreiben.

Allgemeine Scan-Anordnungen sind nicht verhältnismäßig

Der Wissenschaftliche Dienst stellt nicht nur die Notwendigkeit und Geeignetheit des Kommissionsvorschlags in Frage. Auch der Verhältnismäßigkeit erteilt er eine Absage. Dabei geht es vor allem darum, dass die Scan-Anordnungen alle Nutzenden eines Dienstes betreffen würden, also zum Beispiel alle, die einen bestimmten Messenger verwenden. Das könnte laut der Studie gegen zwei wichtige Prinzipien verstoßen: das Verbot allgemeiner Überwachungspflichten bei Hosting-Anbietern und das Verbot anlassloser und unterschiedsloser Vorratsdatenspeicherung.

Ein weiteres Problem sei der Eingriff in verschlüsselte Kommunikation. „Das Scannen von Inhalten auf den persönlichen Geräten der Nutzer in der Ende-zu-Ende-verschlüsselten Kommunikation verstößt gegen den Kern des Rechts auf Datenschutz“, heißt es in der Studie.

Täter:innen weichen aus

Die Bilanz der Expert:innen: Die Verordnung hätte deutliche Auswirkungen auf eine ganze Reihe von Grundrechten und es gibt ernste Zweifel an ihrer Verhältnismäßigkeit. Aber wären die Vorschläge überhaupt effektiv, selbst wenn man das außer Acht ließe? Die Antwort lautet auch hier: wahrscheinlich nicht. Täter:innen würden „wahrscheinlich auf das Dark und Deep Web ausweichen“, um den Maßnahmen zu entgehen, heißt es in der Studie. Gemeint sind jene Teile des Internets, die nicht über einen herkömmlichen Browser aufgerufen werden können.

Statt der Chatkontrolle braucht es etwas anderes, findet auch der EU-Abgeordnete Patrick Breyer: „Was wir anstelle totalitärer Chatkontrolle und Ausweispflichten wirklich brauchen, ist eine längst überfällige Verpflichtung der Strafverfolgungsbehörden, bekanntes Missbrauchsmaterial im Internet zu löschen, sowie europaweite Standards für wirksame Präventionsmaßnahmen, Opferhilfe und -beratung und zeitnahe strafrechtliche Ermittlungen.“ Der EU-Abgeordnete Moritz Körner von der FDP sagt: „Die Europäische Kommission wäre gut beraten, ihre Schnüffelinitiative sofort zurückzuziehen.“

Die Kritik ist nicht neu

Der Wissenschaftliche Dienst des EU-Parlaments ist nicht das erste Gremium, das fundamentale Kritik an den Kommissionsvorschlägen übt. Sie stehen in einer Reihe mit vielen anderen: den Wissenschaftlichen Diensten des Bundestags, den EU-Datenschutzbeauftragten, den FDP-geführten Ministerien in Deutschland, Bürgerrechtler:innen, Kinderschutzorganisationen und vielen mehr.