Im Februar haben wir berichtet, dass der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) das geplante Gesetz zur Chatkontrolle mit der großen Heckenschere stutzen will. Am heutigen Donnerstag hat sich der Ausschuss nun auf seine Position geeinigt. Es bleibt dabei: Die Heckenschere soll ran.

Alles dreht sich um einen Entwurf der EU-Kommission zur „Bekämpfung des sexuellen Missbrauchs von Kindern im Netz“. Dieser Entwurf sieht vor, dass Online-Anbieter auf Anordnung selbst private Chats durchleuchten müssen, um mögliche Hinweise auf sexualisierte Gewalt gegen Minderjährige zu finden. Das Vorhaben stößt auf breite Kritik von unter anderem Kinderschutz-Verbänden, Datenschutz-Behörden und Bürgerrechtler*innen.

Gerade entwickeln Ministerrat und EU-Parlament ihre Positionen zu dem Vorhaben. Später werden die drei Organe – Rat, Parlament und Kommission – gemeinsam im Trilog darüber verhandeln. Zuerst sind im Parlament die Ausschüsse dran. Die Empfehlung aus dem IMCO-Ausschuss ist dabei wichtig, aber nicht am wichtigsten. Federführend ist der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres, kurz: LIBE. Auf ihn kann die IMCO-Position allerdings eine Signalwirkung haben. Gleich vier Auswüchse des Gesetzentwurfs möchte IMCO loswerden.

1. Keine Schwächung von Ende-zu-Ende-Verschlüsselung

Ende-zu-Ende-Verschlüsselung stellt sicher, dass nur Sender*in und Empfänger*in einer Nachricht die Inhalte lesen können. Hier geht es um Grundrechte wie Privatsphäre und das Brief- und Fernmeldegeheimnis. Die Chatkontrolle könnte diese Grundrechte verletzen. Hierzu schreibt der Ausschuss auf Englisch: „Unter keinen Umständen“ soll eine Anordnung zur Chatkontrolle die Anbieter von Messenger-Diensten dazu verpflichten, auf die Inhalte von Nachrichten zuzugreifen oder eine „Beeinträchtigung ihrer Verschlüsselung“ vorzusehen.

Das lässt sich als Absage an sogenanntes Client-Side-Scanning interpretieren. Dabei werden Inhalte direkt auf dem Gerät untersucht, bevor sie verschickt werden. Lob dafür kommt etwa von der Grundrechte-Organisation EDRi (European Digital Rights): „Dies bedeutet, dass der Ausschuss die Bedeutung des Schutzes der privaten Kommunikation der Bürger*innen anerkennt.“

2. Keine Suche nach Grooming

Grooming nennt man es, wenn Erwachsene sexuellen Kontakt mit Minderjährigen anbahnen. Der Entwurf der Kommission sieht vor, dass Anbieter auf Anordnung auch Fälle von Grooming erkennen sollen. Um das zuverlässig zu tun, bräuchte es jedoch genauen Einblick in die Inhalte und den Kontext von Kommunikation. Man müsste herausfinden: Handelt es sich um ein harmloses Gespräch, oder passiert hier gerade eine solche Anbahnung? Alternativ könnte man auch weniger invasiv nach Hinweisen suchen. Zum Beispiel: Kontaktiert ein Account reihenweise weitere Accounts, zu denen er vorher keine Verbindung hatte?

Solche Methoden sind wiederum fehleranfällig. Sie könnten zu vielen falschen Verdächtigungen führen. Der Ausschuss schlägt vor, die entsprechenden Passagen im Gesetz zu streichen.

3. Keine Pflicht zur Alterskontrolle in App Stores

Marktplätze wie der Google Play Store oder Apples App Store sind wichtige Flaschenhälse. Viele laden dort ihre Anwendungen herunter. Die EU-Kommission will, dass Betreiber dort das Alter von Nutzer*innen überprüfen. Der IMCO-Ausschuss will das nicht. Warum das wichtig ist, fasst EDRi so zusammen: „Werkzeuge zur Alterskontrolle sind eine Bedrohung für Kinder und Erwachsene. Sie können Menschen manipulativer Überwachungswerbung aussetzen und die digitale Identität zur Voraussetzung für die Teilnahme am sozialen Leben und den Zugang zu Online-Diensten machen.“ Mehr über das Problem Alterskontrollen berichten wir hier.

4. Wohl keine Chatkontrolle für unbekannte Darstellungen

Aus der IMCO-Position geht hervor: Die Chatkontrolle soll wohl nur bereits bekannte Missbrauchsdarstellungen umfassen, keine unbekannten. Der Ausschuss drückt sich bei diesem Thema allerdings weniger deutlich aus als noch im Februar. Damals hatte der Ausschuss die entsprechenden Passagen einfach gestrichen. In der heute beschlossenen Position heißt es verklausuliert, eine Technologie soll „hinreichend zuverlässig und in der Lage sein, zwischen rechtmäßigen und unrechtmäßigen Inhalten zu unterscheiden, ohne dass eine unabhängige menschliche Bewertung erforderlich ist“.

Der Knackpunkt: Ohne menschliche Überprüfung lassen sich mutmaßliche Missbrauchsdarstellungen nicht von legalen Aufnahmen wie etwa einvernehmlichem Sexting unterscheiden. Teils ist das selbst mit menschlicher Überprüfung nicht möglich. Die Formulierung lässt sich somit über Bande als Nein zur Chatkontrolle für unbekannte Darstellungen interpretieren.

Chatkontrolle bleibt

Trotz dieser Kürzungen: Der IMCO-Ausschuss lehnt die Chatkontrolle nicht grundsätzlich ab. Der Ausschuss hat hierzu lediglich strengere Einschränkungen formuliert. Zum Beispiel, die Chatkontrolle sollte nur „als letztes Mittel“, „anteilig“ und „für begrenzte Zeit“ eingesetzt werden.

Das lässt viel Spielraum für Interpretation. Kritiker*innen wie der Europa-Abgeordnete Patrick Breyer (Piraten) sind davon nicht überzeugt. In einem Statement zur IMCO-Position schreibt er: „Vor allem soll die verdachtslose Nachrichten- und Chatkontrolle weiterhin kommen“. Es drohe „das Ende des digitalen Briefgeheimnisses“, nicht nur für E-Mails und Chats, sondern auch für persönliche Cloudspeicher und private Fotos. Ebenso warnt EDRi, das Gesetz „läuft immer noch auf Massenüberwachung hinaus und muss abgelehnt werden“.

Netzsperren bleiben

Nicht angerührt hat der IMCO-Ausschuss die im Entwurf vorgesehenen Netzsperren. Auch das ist ein großer Kritikpunkt. In der Debatte um sexualisierte Gewalt gegen Kinder im Netz gibt es den Grundsatz „Löschen statt Sperren“. Löschen bewirkt, dass illegale Inhalte wirklich aus dem Netz entfernt werden – und auch mit technischen Tricks nicht weiter abrufbar sind. Sperren heißt, dass Inhalte abrufbar bleiben. Hier berichten wir mehr über das Problem von Netzsperren im Kontext der Chatkontrolle.

Ob und wann die Heckenschere zum Einsatz kommt, steht noch nicht fest. Erst einmal muss noch der federführende Ausschuss im Parlament über seine Position abstimmen, dann das Parlament als Ganzes, dann geht es in den Trilog. EDRi rechnet mit einer Parlamentsabstimmung im Oktober.