Pläne der Kommission: Wie die Chatkontrolle EU-weit Wellen schlägt

Die geplante Chatkontrolle der EU-Kommission sorgt für hitzige Diskussionen. Bürgerrechtsorganisationen warnen vor dieser Form der anlasslosen Massenüberwachung, und auch die Regierungen einiger EU-Mitgliedsstaaten äußern inzwischen Kritik an dem Vorhaben.

Die Chatkontrolle ist Teil eines Gesetzesentwurfes, der den Kampf gegen sexualisierte Gewalt an Kindern im Internet erleichtern soll. Er sieht unter anderem vor, Kommunikations- und Hostinganbieter:innen per Anordnung dazu zu verpflichten, private Chatnachrichten in Messengerdiensten etwa auf Smartphones automatisiert zu scannen. Ziel ist es, Darstellungen von sexualisierter Gewalt gegen Kinder und Jugendliche aufzuspüren.

Von der Ausspähung wäre auch verschlüsselte Kommunikation betroffen. Dabei werden Inhalte beim sogenannten Client-Side-Scanning auf dem Endgerät durchsucht, bevor sie verschlüsselt verschickt werden. Außerdem sollen Nachrichten auf Hinweise auf sogenanntes Grooming geprüft werden. So nennt man es, wenn sich Erwachsene Minderjährigen mit sexueller Absicht nähern.

Immer mehr Regierungen äußern Kritik

Viele Regierungen befürworten es, den Kampf gegen sexualisierte Gewalt an Kindern mit mehr Nachdruck zu führen. Zugleich aber stoßen die konkreten Pläne der Kommission bei einigen Mitgliedstaaten auf Skepsis.

So nahm etwa die niederländische Regierung dazu am 17. Juni in einem Positionspapier ausführlich Stellung. Ihre Kritik fällt – auch wenn sie sich laut internen Dokumenten auf EU-Ebene grundsätzlich für das Scannen von Nachrichten ausspricht – hart aus.

Zwar begrüßt die Regierung laut ihrer offiziellen Position, dass die EU-Kommission sowohl Regierungen als auch Unternehmen in die Pflicht nehmen will, die Verbreitung von Darstellungen sexualisierter Gewalt an Kindern im Internet zu bekämpfen. Auch sei es erfreulich, dass Anbieter:innen verpflichtet werden sollen, gefundene Inhalte innerhalb von 24 Stunden zu löschen.

Allerdings stelle die Verpflichtung, Inhalte zu scannen und möglicherweise zu entschlüsseln, eine Gefahr für Datenschutz, Privatsphäre und die Sicherheit im Internet dar. Anbieter:innen von Internetdiensten sollten stattdessen selbst geeignete Mittel wählen dürfen, um die Verbreitung von Darstellungen sexualisierter Gewalt zu verhindern.

Die niederländische Regierung warnt außerdem davor, dass die automatische Auswertung von Inhalten zu falsch-positiven Treffern führen könnte. Ein geleaktes Dokument zeigt, dass die EU-Kommission hier hohe Fehlerquoten in Kauf nimmt. Demnach schlägt die aktuelle Software zum Erkennen von Grooming in etwa zehn Prozent der Fälle fälschlicherweise Alarm. Den Haag fordert, dass ausschließlich die Ermittlungsbehörden dafür zuständig sein sollen, Grooming aufzuspüren. Darüber hinaus sieht sie Sprachauswertungssoftware kritisch, da diese „für andere Zwecke“ missbraucht werden könne. Auch müsse vermieden werden, dass Angestellte von Internetdiensten persönlich die gefundenen Gewaltdarstellungen sichten müssten.

Zudem fordert die niederländische Regierung, dass klar geregelt sein müsse, wann Inhalte gesperrt oder entfernt werden. Andernfalls sei die Meinungsfreiheit gefährdet. Besorgt zeigt sie sich auch hinsichtlich der Anonymität im Internet. Der Entwurf der EU-Kommission sieht vor, dass bestimmte Anbieter:innen das Alter ihrer Nutzer*innen überprüfen müssen. Erfolgt diese Prüfung über die Kontrolle des Personalausweises, ließen sich die betroffenen Dienste nicht länger anonym nutzen.

Ganz ähnlich klingt die Einschätzung aus Warschau. Denn auch die polnische Regierung hat sich kritisch zum Entwurf geäußert. Zwar unterstützt auch sie die Bemühungen der Kommission, die Sicherheit von Kindern im Internet zu gewährleisten und dazu Vorschriften EU-weit zu harmonisieren. Einige der vorgesehenen Maßnahmen könnten aber zu tief in Bürgerrechte wie das Briefgeheimnis eingreifen, sagte Unterstaatssekretär Paweł Lewandowski gegenüber der polnischen Presseagentur PAP.

Europäische Bürgerinitiative in Arbeit

Die tschechische Regierung äußerte sich etwas zurückhaltender. Auch sie begrüßt Initiativen zur Bekämpfung sexualisierter Gewalt an Kindern und erachtet dafür die internationale Zusammenarbeit als entscheidend. Über die Bestimmungen „für den Erlass von Überprüfungsanordnungen, Zugangssperren und Löschungsentscheidungen sowie die Einbeziehung des Justiz- oder Verwaltungssystems“ müsse allerdings noch weiter diskutiert werden. Auch sei noch zu klären, wie genau die Verpflichtung der Anbieter:innen, strafbare Inhalte zu erkennen, umgesetzt werden soll, „da die Ende-zu-Ende-Verschlüsselung eines der wichtigsten Elemente zur Gewährleistung der Cybersicherheit ist“.

Tschechien hat noch bis zum Ende des Jahres die EU-Ratspräsidentschaft inne und kann dadurch inhaltliche Schwerpunkte in den Debatten des Rats setzen. Entschieden gegen die Chatkontrolle ist die tschechische Piratenpartei, die dort auch an der Regierung beteiligt ist. Sie unterstützt die Petition der Initiative imaniti.org, die sich an das tschechische Parlament richtet und fordert, den Vorschlag der Kommission abzulehnen. Die Initiative konnte zwar nur einige hundert Unterschriften sammeln, imaniti.org kündigte aber an, bis Ende September eine europaweite Petition gegen das Vorhaben zu starten. Eine Europäische Bürgerinitiative benötigt mindestens eine Million Unterschriften, bevor sich die Kommission mit den gestellten Forderungen auseinandersetzen muss.

Uneinigkeit der Bundesregierung

Auch die deutsche Bundesregierung zeigt sich hinsichtlich des Gesetzesvorhabens der EU-Kommission noch uneinig. In einem Schreiben an die EU-Kommission stellte sie 61 teils überaus konkrete Rückfragen, etwa zum Stellenwert der verschlüsselten Kommunikation oder den zu erwartenden Fehlerquoten beim Einsatz Künstlicher Intelligenz.

Zugleich weist ein geleaktes Sitzungspapier der Rats-Arbeitsgruppe Strafverfolgung der EU von Juli darauf hin, dass die Bundesregierung den Gesetzesvorschlag grundsätzlich unterstützt. Zweifel äußert sie, wenn etwa die Verschlüsselung, wie beim Client-Side-Scanning vorgesehen, gebrochen werden soll. Den Einsatz von Alterskontrollen begrüßt sie hingegen, solange etwa Nutzer:innen von Messengerdiensten anonym bleiben können.

Sowohl das Justiz- als auch das Digitalministerium, beide werden von der FDP geführt, hatten im August ein Schreiben an das Bundesinnenministerium (BMI) geschickt. Es zieht „rote Linien“, die das neue EU-Gesetz nicht überschreiten dürfe. Danach müsse etwa das Client-Side-Scanning explizit ausgeschlossen werden.

Die Uneinigkeit innerhalb der Bundesregierung hatte sich frühzeitig angekündigt. Digitalminister Volker Wissing sprach sich bereits im Mai klar gegen die Chatkontrolle aus, diese sei „nicht hinnehmbar“. Er unterstrich diese Position Anfang Juni auf der diesjährigen re:publica. Dementgegen habe sich laut Anke Domscheit-Berg von der Linkspartei das SPD-geführte Bundesinnenministerium in einer Sitzung des Digitalausschusses nur wenige Tage später sehr unklar geäußert. Demnach hänge das Recht auf Verschlüsselung, das im Koalitionsvertrag festgeschrieben ist, davon ab, wie Verschlüsselung definiert werde. Die Ende-zu-Ende-Verschlüsselung ist wesentlicher Ansatzpunkt des EU-Gesetzesvorhabens.

Widerstand aus der Bevölkerung

Widerstand gegen die Chatkontrolle gibt es hierzulande auch in der Zivilbevölkerung. Die Kampagne „Chatkontrolle stoppen“ organisierte die erste Demonstration gegen die Pläne der EU-Kommission in Berlin bereits im Mai. Aufgerufen zu den Protesten hatte der Chaos Computer Club (CCC) sowie die Digitale Gesellschaft und Digitalcourage. Letztere haben neben dem Deutschen Anwaltverein und der Deutschen Vereinigung für Datenschutz auch den offenen Brief der europäischen Bürgerrechtsorganisation European Digital Rights (EDRi) unterzeichnet.

Die Digitale Gesellschaft wie auch EDRi haben wiederum neben 94 weiteren deutschen und internationalen Organisationen, Unternehmen und IT-Sicherheitsexperten einen offenen Brief der Global Encryption Coalition unterzeichnet. Darin fordern sie die EU auf, die Ende-zu-Ende-Verschlüsselung aufrechtzuerhalten. Auch die Petition gegen Chatkontrolle von Campact zeigt, wie groß die Kritik in der Bevölkerung ist. Mehr als 160.000 Menschen haben die Petition bislang unterschrieben.

Selbst einige Kinderschutzorganisationen, darunter der Deutsche Kinderverein und der Kinderschutzbund, lehnen Chatkontrollen als „massiven Eingriff in rechtsstaatliche Grundsätze“ ab. Joachim Türk, der dem Vorstand des Deutschen Kinderschutzbunds angehört, hält „anlasslose Scans von verschlüsselter Kommunikation für unverhältnismäßig und nicht zielführend“. Aus seiner Sicht spiele verschlüsselte Kommunikation kaum eine Rolle bei der Verbreitung von Inhalten sexualisierter Gewalt.

EU-Datenschutzbehörden greifen Entwurf an

Starke Zweifel an der Verhältnismäßigkeit äußern auch die EU-Datenschutzbehörden. In einer Stellungnahme vom 28. Juli kritisieren sie die Chatkontrolle als einen massiven Eingriff in Grundrechte, etwa in das Recht auf Privatsphäre oder auf Schutz der persönlichen Daten.

Die Kritik der Datenschutzbehörden bezieht sich unter anderem auf den Umgang mit Ende-zu-Ende-Verschlüsselung, das Mittel der Alterskontrollen sowie den Einsatz von KI zum Erkennen von Grooming und Darstellungen sexualisierter Gewalt. Gerade bei Letzterem gebe es zu hohe Fehlerquoten. Die Behörden fordern daher, die entsprechenden Maßnahmen aus dem Entwurf zu streichen.

Zudem kritisieren sie, dass im Entwurf die Kontrolle von Sprachnachrichten in Chats oder von Telefonaten nicht klar ausgeschlossen ist. Diese müssten Anbieter:innen demnach durchleuchten, was die Datenschützer:innen als „besonders invasiv“ bewerten.

Der Gesetzesvorschlag erlaube ein „allgemeines und unterschiedsloses Scannen des Inhalts praktisch aller Arten von elektronischer Kommunikation aller Nutzer“. Es bedrohe aber die Meinungsfreiheit, wenn Nutzer:innen davon ausgehen, dass ihre Kommunikation unentwegt überwacht wird, und sie sich daher möglicherweise selbst zensieren.

Vielerorts noch ein Randthema

Die meisten europäischen Regierungen haben sich noch nicht öffentlich zum Vorschlag der Kommission positioniert. Im Rahmen unserer Recherche haben wir bei Datenschutz- und Bürgerrechtsorganisationen aus verschiedenen EU-Staaten nachgefragt, wie in ihrem Land die Chatkontrolle diskutiert wird. Die Antworten gleichen sich: Trotz der zahlreichen Kritik an dem Vorschlag, ist die Chatkontrolle vielerorts im öffentlichen Diskurs bislang nur ein Randthema.

Klar ist aber auch: Noch steht der Entwurf zur Chatkontrolle am Anfang des EU-Gesetzgebungsprozesses. Als nächstes werden das Europäische Parlament und der Europäische Rat über den Vorschlag beraten und mögliche Änderungen einleiten. Dokumente aus dem Rat zeigen, dass sich die Mitgliedstaaten in bisherigen Gesprächen noch äußerst uneinig waren. Im Parlament dürfte der Vorschlag vor allem in der Fraktion der Europäischen Volkspartei Rückhalt (EVP) genießen. Die EVP hatte sich bereits im vergangenen Jahr dafür ausgesprochen, Plattformen dazu zu verpflichten, Darstellungen sexualisierter Gewalt aufzuspüren.