Verschlüsselung nicht untergraben: EU-Ausschuss will Chatkontrolle kräftig stutzen

Mit der großen Heckenschere will der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) das geplante Gesetz zur Chatkontrolle stutzen. Von den teils invasiven Plänen der EU-Kommission soll demnach vieles wegfallen. Einige Überwachungsvorhaben würden gar ersatzlos gestrichen.

Das und mehr steht im Entwurf der IMCO-Stellungnahme, die der maltesische Sozialdemokrat Alex Agius Saliba verfasst hat. Sie ist auf den 8. Februar datiert. Die Position des Ausschusses ist ein wichtiger Baustein für die Verhandlungen um die sogenannte Chatkontrolle.

Dahinter steht ein Entwurf der EU-Kommission zur „Bekämpfung des sexuellen Missbrauchs von Kindern im Netz“. Dieser Entwurf sieht vor, dass Online-Anbieter auf Anordnung selbst private Chats durchleuchten müssen, um mögliche Hinweise auf sexualisierte Gewalt gegen Kinder zu finden. Das Vorhaben stößt auf breite Kritik von unter anderem Kinderschutz-Verbänden, Datenschutz-Behörden und Bürgerrechtler*innen.

Gerade entwickeln Ministerrat und EU-Parlament ihre Positionen zu dem Vorhaben. Später werden die drei Organe – Rat, Parlament und Kommission – gemeinsam darüber verhandeln. Zunächst befassen sich im EU-Parlament jedoch mehrere Ausschüsse mit der Chatkontrolle. Einer davon ist ebenjener Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO). Auf 85 Seiten empfiehlt der IMCO-Entwurf grundlegende Änderungen.

Keine Kontrolle bei verschlüsselten Chats

Vor allem auf einen Aspekt hat sich die Debatte in den letzten Monaten zugespitzt, und das ist die Überwachung von Ende-zu-Ende-verschlüsselter Kommunikation. Das betrifft beispielsweise Chatgespräche bei Signal oder WhatsApp. Ende-zu-Ende-Verschlüsselung stellt sicher, dass allein Sender*in und Empfänger*in eine Nachricht lesen können. Sie ist eine der wichtigsten Technologien, um das Grundrecht auf Gewährleistung der Integrität und Vertraulichkeit der Kommunikation zu sichern.

Eine technische Möglichkeit, um Inhalte bereits vor dem verschlüsselten Versand zu überprüfen, heißt Client-Side-Scanning. Genau das könnte eine Folge der Chatkontrolle sein, wie sie die EU-Kommission plant. In diesem Fall würde Ende-zu-Ende-Verschlüsselung zwar weiterhin aktiv sein, ihr Sinn und Zweck wäre jedoch untergraben. So etwas will der IMCO-Ausschuss offenbar verhindern. Im englischsprachigen Entwurf für die Stellungnahme heißt es, vereinfacht übersetzt:

„Keine Bestimmung dieser Verordnung so auszulegen, dass sie die Bereitstellung oder Nutzung verschlüsselter Dienste verbietet, einschränkt oder untergräbt, um das Vertrauen von Nutzer*innen an vertrauliche und sichere Kommunikation nicht zu verletzen.“

Der Ausschuss liefert hierfür eine Begründung, auf die auch die Bürgerrechtler*innen und IT-Expert*innen immer wieder verweisen: „Jede Einschränkung der Verschlüsselung könnte von böswilligen Dritten missbraucht werden.“ Auch für Kinder sei die Sicherheit und Vertraulichkeit von Kommunikation wichtig, wie aus dem IMCO-Entwurf hervorgeht.

Keine Alterskontrolle, keine Suche nach Grooming

Der Ausschuss will der Chatkontrolle auch gleich drei weitere Zähne ziehen. Aktuell suchen Online-Anbieter nach bereits bekannten Aufnahmen, die mutmaßlichen Missbrauch von Minderjährigen zeigen. Bei diesem Verfahren verwenden Anbieter Datenbanken mit digitalen Fingerabdrücken verdächtiger Aufnahmen. Neue Uploads lassen sich automatisch mit so einer Datenbank abgleichen. Der IMCO-Entwurf sieht vor, dass zwar solche Maßnahmen ins geplante Gesetz fließen dürfen – mehr jedoch nicht.

Die EU-Kommission wollte dagegen deutlich mehr. Laut Kommission sollen Online-Anbieter auf Anordnung auch nach neuen verdächtigen Aufnahmen suchen. Bei einem solchen Vorhaben besteht verstärkt die Gefahr, dass harmlose Aufnahmen irrtümlicherweise als Missbrauch eingestuft werden, zum Beispiel einvernehmliches Sexting oder Aufnahmen für medizinische Zwecke. Eine solche Pflicht zur Suche nach unbekannten Aufnahmen möchte der IMCO-Ausschuss dem Entwurf zufolge ersatzlos aus dem Gesetz streichen.

Außerdem ersatzlos streichen möchte der Ausschuss, dass Online-Anbieter auf Anordnung nach Hinweisen zu Grooming suchen sollen. Grooming nennt man es, wenn Erwachsene einen sexuellen Kontakt zu Kindern anbahnen. Auch hier besteht die Gefahr, unbescholtene Nutzer*innen zu verdächtigen.

Chatkontrolle als „letztes Mittel“

Drittens sollen Online-Anbieter nicht dazu verpflichtet werden können, das Alter ihrer Nutzer*innen zu überprüfen. Die Kommission hatte eine entsprechende Regelung vorgesehen. Je nach Umsetzung müssten viele Nutzer*innen dann erst einmal ihren Ausweis vorlegen, bevor sie einen Online-Dienst nutzen dürfen. Mehr zu den Gefahren einer solchen Alterskontrolle haben wir hier berichtet.

Eine generelle Absage an die Chatkontrolle sieht der IMCO-Entwurf nicht vor. Er möchte die Hürden dafür jedoch an mehreren Stellen höher ansetzen. Zum Beispiel sollen EU-Staaten eine Chatkontrolle nur als „letztes Mittel“ anordnen können, nachdem weniger invasive Maßnahmen gescheitert sind. Zudem sollen nur solche Anbieter zu Maßnahmen verpflichtet werden dürfen, „von denen vernünftigerweise erwartet werden kann, dass sie technisch und operativ in der Lage sind, gezielt gegen Missbrauchsinhalte vorzugehen“. Konkrete Beispiele nennt der Entwurf an dieser Stelle nicht – mindestens dürften damit einmal mehr Ende-zu-Ende-verschlüsselte Messenger aus der Schusslinie genommen werden, die keinen Zugriff auf die Inhalte ihrer Nutzer*innen haben können und wollen.

Der Ausschuss möchte auch enger fassen, wann ein Online-Anbieter überhaupt ins Visier der Behörden gerät. Demnach müsse ein „bedeutsames, systematisches Risiko“ vorliegen, dass missbräuchliche Inhalte sich „schnell und mit besonders großer Reichweite verbreiten können“.

Hilfsangebote für Kinder stärken

Mit Nachdruck haben Kinderschützer*innen in den vergangenen Monaten andere Maßnahmen gefordert, um Minderjährige im Netz zu schützen. Einige dieser Forderungen sind auch im IMCO-Entwurf zu lesen. Zum Beispiel sollen Anbieter verstärkt Informationen bereitstellen, um Nutzer*innen zu sensibilisieren. Es soll Mechanismen geben, mit deren Hilfe Kinder verstörende Inhalte oder Übergriffe melden können und Unterstützung erhalten. Diese Mechanismen sollen laut Entwurf leicht zugänglich und kinderfreundlich sein. Um gemeldete Inhalte schnell zu prüfen, sollen Anbieter genug Angestellte und Ressourcen bereitstellen.

Zugleich unterstreicht der Ausschuss, dass auch Kinder ein Recht auf Privatsphäre haben. Demnach sollten Online-Anbieter ihre Maßnahmen darauf zuschneiden, dass Kinder „ein zunehmendes Bedürfnis nach Autonomie“ haben sowie ein „Recht auf Zugang zu Informationen und freie Meinungsäußerung“. Das entspricht im Tenor den Forderungen britischer Kinderschutz-Organisationen. In einer jüngst vorgelegten Analyse schrieben sie: „Privatsphäre ermöglicht es Kindern, ihre Persönlichkeit sicher zu entwickeln und herauszufinden, wer sie sind.“ Die Gewissheit, nicht ständig überwacht zu werden, helfe Kindern, Vertrauen zu Eltern, Lehrer*innen oder anderen Bezugspersonen aufzubauen.

Auch Chatkontrolle light ist Chatkontrolle

Beim Bündnis „Chatkontrolle stoppen“ ist die Resonanz auf den IMCO-Entwurf positiv. Bündnis-Sprecherin Elina Eickstädt bezeichnet ihn auf Anfrage von netzpolitik.org als „grundsätzlich sehr begrüßenswert“ – besonders mit Blick auf den Schutz von Verschlüsselung und darauf, dass Anbieter nicht dazu verpflichtet werden sollen, auch nach Grooming und unbekannten Aufnahmen zu suchen. Es bleibe zu hoffen, dass sich andere Ausschüsse im EU-Parlament ein Beispiel daran nehmen und weitere problematische Artikel entfernen, etwa Regelungen zu möglichen Netzsperren.

Der Europa-Abgeordnete Patrick Breyer (Piraten) schreibt auf Anfrage: Kollege Saliba wolle dem extremen Vorstoß der EU-Kommission „diverse Giftzähne ziehen“. Als Beispiel nennt er etwa die Streichung der verpflichtenden Alterskontrollen. Breyer kritisiert, dass Netzsperren weiterhin im Entwurf stehen – und dass Chatkontrolle nach wie vor nicht vom Tisch ist. Es drohe „das Ende des digitalen Briefgeheimnisses für die meisten E-Mails und Chats“ und „die Massenüberwachung privater Fotos“.

Der im Parlament führende Ausschuss für das geplante Gesetz ist derweil nicht IMCO, sondern LIBE, der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres. Dessen Position liegt noch nicht vor, dürfte aber ähnlich kritisch gegenüber den Chatkontrolle-Vorhaben sein. Mit welchen konkreten Forderungen das EU-Parlament in die Verhandlungen mit Ministerrat und Kommission gehen wird, steht noch nicht fest.