Pläne der KommissionWie die Chatkontrolle EU-weit Wellen schlägt

Die Debatte um die EU-Pläne zur Chatkontrolle wird nicht nur in Deutschland geführt. Wir haben uns angeschaut, wie Regierungen und Zivilgesellschaft anderer europäischer Länder auf den Vorschlag der Kommission reagieren.

Flaggen europäischer Länder mit Smartphone im Vordergrund, auf dem Messenger-Dienste angezeigt werden
Chatkontrolle ist in der öffentlichen Debatte der jeweiligen EU-Länder noch ein Randthema – Alle Rechte vorbehalten IMAGO/Manngold; unsplash.com/Adem Ay; Montage: netzpolitik.org

Die geplante Chatkontrolle der EU-Kommission sorgt für hitzige Diskussionen. Bürgerrechtsorganisationen warnen vor dieser Form der anlasslosen Massenüberwachung, und auch die Regierungen einiger EU-Mitgliedsstaaten äußern inzwischen Kritik an dem Vorhaben.

Die Chatkontrolle ist Teil eines Gesetzesentwurfes, der den Kampf gegen sexualisierte Gewalt an Kindern im Internet erleichtern soll. Er sieht unter anderem vor, Kommunikations- und Hostinganbieter:innen per Anordnung dazu zu verpflichten, private Chatnachrichten in Messengerdiensten etwa auf Smartphones automatisiert zu scannen. Ziel ist es, Darstellungen von sexualisierter Gewalt gegen Kinder und Jugendliche aufzuspüren.

Von der Ausspähung wäre auch verschlüsselte Kommunikation betroffen. Dabei werden Inhalte beim sogenannten Client-Side-Scanning auf dem Endgerät durchsucht, bevor sie verschlüsselt verschickt werden. Außerdem sollen Nachrichten auf Hinweise auf sogenanntes Grooming geprüft werden. So nennt man es, wenn sich Erwachsene Minderjährigen mit sexueller Absicht nähern.

Immer mehr Regierungen äußern Kritik

Viele Regierungen befürworten es, den Kampf gegen sexualisierte Gewalt an Kindern mit mehr Nachdruck zu führen. Zugleich aber stoßen die konkreten Pläne der Kommission bei einigen Mitgliedstaaten auf Skepsis.

So nahm etwa die niederländische Regierung dazu am 17. Juni in einem Positionspapier ausführlich Stellung. Ihre Kritik fällt – auch wenn sie sich laut internen Dokumenten auf EU-Ebene grundsätzlich für das Scannen von Nachrichten ausspricht – hart aus.

Zwar begrüßt die Regierung laut ihrer offiziellen Position, dass die EU-Kommission sowohl Regierungen als auch Unternehmen in die Pflicht nehmen will, die Verbreitung von Darstellungen sexualisierter Gewalt an Kindern im Internet zu bekämpfen. Auch sei es erfreulich, dass Anbieter:innen verpflichtet werden sollen, gefundene Inhalte innerhalb von 24 Stunden zu löschen.

Allerdings stelle die Verpflichtung, Inhalte zu scannen und möglicherweise zu entschlüsseln, eine Gefahr für Datenschutz, Privatsphäre und die Sicherheit im Internet dar. Anbieter:innen von Internetdiensten sollten stattdessen selbst geeignete Mittel wählen dürfen, um die Verbreitung von Darstellungen sexualisierter Gewalt zu verhindern.

Die niederländische Regierung warnt außerdem davor, dass die automatische Auswertung von Inhalten zu falsch-positiven Treffern führen könnte. Ein geleaktes Dokument zeigt, dass die EU-Kommission hier hohe Fehlerquoten in Kauf nimmt. Demnach schlägt die aktuelle Software zum Erkennen von Grooming in etwa zehn Prozent der Fälle fälschlicherweise Alarm. Den Haag fordert, dass ausschließlich die Ermittlungsbehörden dafür zuständig sein sollen, Grooming aufzuspüren. Darüber hinaus sieht sie Sprachauswertungssoftware kritisch, da diese „für andere Zwecke“ missbraucht werden könne. Auch müsse vermieden werden, dass Angestellte von Internetdiensten persönlich die gefundenen Gewaltdarstellungen sichten müssten.

Zudem fordert die niederländische Regierung, dass klar geregelt sein müsse, wann Inhalte gesperrt oder entfernt werden. Andernfalls sei die Meinungsfreiheit gefährdet. Besorgt zeigt sie sich auch hinsichtlich der Anonymität im Internet. Der Entwurf der EU-Kommission sieht vor, dass bestimmte Anbieter:innen das Alter ihrer Nutzer*innen überprüfen müssen. Erfolgt diese Prüfung über die Kontrolle des Personalausweises, ließen sich die betroffenen Dienste nicht länger anonym nutzen.

Ganz ähnlich klingt die Einschätzung aus Warschau. Denn auch die polnische Regierung hat sich kritisch zum Entwurf geäußert. Zwar unterstützt auch sie die Bemühungen der Kommission, die Sicherheit von Kindern im Internet zu gewährleisten und dazu Vorschriften EU-weit zu harmonisieren. Einige der vorgesehenen Maßnahmen könnten aber zu tief in Bürgerrechte wie das Briefgeheimnis eingreifen, sagte Unterstaatssekretär Paweł Lewandowski gegenüber der polnischen Presseagentur PAP.

Europäische Bürgerinitiative in Arbeit

Die Europaabgeordnete Markéta Gregorová beim Sammeln von Unterschriften gegen die Chatkontrolle.
Die Europaabgeordnete Markéta Gregorová sammelt Unterschriften gegen die Chatkontrolle. - Alle Rechte vorbehalten Markéta Gregorová

Die tschechische Regierung äußerte sich etwas zurückhaltender. Auch sie begrüßt Initiativen zur Bekämpfung sexualisierter Gewalt an Kindern und erachtet dafür die internationale Zusammenarbeit als entscheidend. Über die Bestimmungen „für den Erlass von Überprüfungsanordnungen, Zugangssperren und Löschungsentscheidungen sowie die Einbeziehung des Justiz- oder Verwaltungssystems“ müsse allerdings noch weiter diskutiert werden. Auch sei noch zu klären, wie genau die Verpflichtung der Anbieter:innen, strafbare Inhalte zu erkennen, umgesetzt werden soll, „da die Ende-zu-Ende-Verschlüsselung eines der wichtigsten Elemente zur Gewährleistung der Cybersicherheit ist“.

Tschechien hat noch bis zum Ende des Jahres die EU-Ratspräsidentschaft inne und kann dadurch inhaltliche Schwerpunkte in den Debatten des Rats setzen. Entschieden gegen die Chatkontrolle ist die tschechische Piratenpartei, die dort auch an der Regierung beteiligt ist. Sie unterstützt die Petition der Initiative imaniti.org, die sich an das tschechische Parlament richtet und fordert, den Vorschlag der Kommission abzulehnen. Die Initiative konnte zwar nur einige hundert Unterschriften sammeln, imaniti.org kündigte aber an, bis Ende September eine europaweite Petition gegen das Vorhaben zu starten. Eine Europäische Bürgerinitiative benötigt mindestens eine Million Unterschriften, bevor sich die Kommission mit den gestellten Forderungen auseinandersetzen muss.

Uneinigkeit der Bundesregierung

Auch die deutsche Bundesregierung zeigt sich hinsichtlich des Gesetzesvorhabens der EU-Kommission noch uneinig. In einem Schreiben an die EU-Kommission stellte sie 61 teils überaus konkrete Rückfragen, etwa zum Stellenwert der verschlüsselten Kommunikation oder den zu erwartenden Fehlerquoten beim Einsatz Künstlicher Intelligenz.

Zugleich weist ein geleaktes Sitzungspapier der Rats-Arbeitsgruppe Strafverfolgung der EU von Juli darauf hin, dass die Bundesregierung den Gesetzesvorschlag grundsätzlich unterstützt. Zweifel äußert sie, wenn etwa die Verschlüsselung, wie beim Client-Side-Scanning vorgesehen, gebrochen werden soll. Den Einsatz von Alterskontrollen begrüßt sie hingegen, solange etwa Nutzer:innen von Messengerdiensten anonym bleiben können.

Sowohl das Justiz- als auch das Digitalministerium, beide werden von der FDP geführt, hatten im August ein Schreiben an das Bundesinnenministerium (BMI) geschickt. Es zieht „rote Linien“, die das neue EU-Gesetz nicht überschreiten dürfe. Danach müsse etwa das Client-Side-Scanning explizit ausgeschlossen werden.

Die Uneinigkeit innerhalb der Bundesregierung hatte sich frühzeitig angekündigt. Digitalminister Volker Wissing sprach sich bereits im Mai klar gegen die Chatkontrolle aus, diese sei „nicht hinnehmbar“. Er unterstrich diese Position Anfang Juni auf der diesjährigen re:publica. Dementgegen habe sich laut Anke Domscheit-Berg von der Linkspartei das SPD-geführte Bundesinnenministerium in einer Sitzung des Digitalausschusses nur wenige Tage später sehr unklar geäußert. Demnach hänge das Recht auf Verschlüsselung, das im Koalitionsvertrag festgeschrieben ist, davon ab, wie Verschlüsselung definiert werde. Die Ende-zu-Ende-Verschlüsselung ist wesentlicher Ansatzpunkt des EU-Gesetzesvorhabens.

Widerstand aus der Bevölkerung

Widerstand gegen die Chatkontrolle gibt es hierzulande auch in der Zivilbevölkerung. Die Kampagne „Chatkontrolle stoppen“ organisierte die erste Demonstration gegen die Pläne der EU-Kommission in Berlin bereits im Mai. Aufgerufen zu den Protesten hatte der Chaos Computer Club (CCC) sowie die Digitale Gesellschaft und Digitalcourage. Letztere haben neben dem Deutschen Anwaltverein und der Deutschen Vereinigung für Datenschutz auch den offenen Brief der europäischen Bürgerrechtsorganisation European Digital Rights (EDRi) unterzeichnet.

Die Digitale Gesellschaft wie auch EDRi haben wiederum neben 94 weiteren deutschen und internationalen Organisationen, Unternehmen und IT-Sicherheitsexperten einen offenen Brief der Global Encryption Coalition unterzeichnet. Darin fordern sie die EU auf, die Ende-zu-Ende-Verschlüsselung aufrechtzuerhalten. Auch die Petition gegen Chatkontrolle von Campact zeigt, wie groß die Kritik in der Bevölkerung ist. Mehr als 160.000 Menschen haben die Petition bislang unterschrieben.

Selbst einige Kinderschutzorganisationen, darunter der Deutsche Kinderverein und der Kinderschutzbund, lehnen Chatkontrollen als „massiven Eingriff in rechtsstaatliche Grundsätze“ ab. Joachim Türk, der dem Vorstand des Deutschen Kinderschutzbunds angehört, hält „anlasslose Scans von verschlüsselter Kommunikation für unverhältnismäßig und nicht zielführend“. Aus seiner Sicht spiele verschlüsselte Kommunikation kaum eine Rolle bei der Verbreitung von Inhalten sexualisierter Gewalt.

EU-Datenschutzbehörden greifen Entwurf an

Starke Zweifel an der Verhältnismäßigkeit äußern auch die EU-Datenschutzbehörden. In einer Stellungnahme vom 28. Juli kritisieren sie die Chatkontrolle als einen massiven Eingriff in Grundrechte, etwa in das Recht auf Privatsphäre oder auf Schutz der persönlichen Daten.

Die Kritik der Datenschutzbehörden bezieht sich unter anderem auf den Umgang mit Ende-zu-Ende-Verschlüsselung, das Mittel der Alterskontrollen sowie den Einsatz von KI zum Erkennen von Grooming und Darstellungen sexualisierter Gewalt. Gerade bei Letzterem gebe es zu hohe Fehlerquoten. Die Behörden fordern daher, die entsprechenden Maßnahmen aus dem Entwurf zu streichen.

Zudem kritisieren sie, dass im Entwurf die Kontrolle von Sprachnachrichten in Chats oder von Telefonaten nicht klar ausgeschlossen ist. Diese müssten Anbieter:innen demnach durchleuchten, was die Datenschützer:innen als „besonders invasiv“ bewerten.

Der Gesetzesvorschlag erlaube ein „allgemeines und unterschiedsloses Scannen des Inhalts praktisch aller Arten von elektronischer Kommunikation aller Nutzer“. Es bedrohe aber die Meinungsfreiheit, wenn Nutzer:innen davon ausgehen, dass ihre Kommunikation unentwegt überwacht wird, und sie sich daher möglicherweise selbst zensieren.

Vielerorts noch ein Randthema

Die meisten europäischen Regierungen haben sich noch nicht öffentlich zum Vorschlag der Kommission positioniert. Im Rahmen unserer Recherche haben wir bei Datenschutz- und Bürgerrechtsorganisationen aus verschiedenen EU-Staaten nachgefragt, wie in ihrem Land die Chatkontrolle diskutiert wird. Die Antworten gleichen sich: Trotz der zahlreichen Kritik an dem Vorschlag, ist die Chatkontrolle vielerorts im öffentlichen Diskurs bislang nur ein Randthema.

Klar ist aber auch: Noch steht der Entwurf zur Chatkontrolle am Anfang des EU-Gesetzgebungsprozesses. Als nächstes werden das Europäische Parlament und der Europäische Rat über den Vorschlag beraten und mögliche Änderungen einleiten. Dokumente aus dem Rat zeigen, dass sich die Mitgliedstaaten in bisherigen Gesprächen noch äußerst uneinig waren. Im Parlament dürfte der Vorschlag vor allem in der Fraktion der Europäischen Volkspartei Rückhalt (EVP) genießen. Die EVP hatte sich bereits im vergangenen Jahr dafür ausgesprochen, Plattformen dazu zu verpflichten, Darstellungen sexualisierter Gewalt aufzuspüren.

7 Ergänzungen

  1. Die Chatkontrolle hat mit der Verhinderung von sexualisierter Gewalt nichts zu tun. Denn dadurch wird nicht ein einziger Fall von Missbrauch verhindert. Aber die Bürgerrechte aller EU Bürger massiv eingeschränkt.

    1. Die Vertraulichkeit der Kommunikation (bzw. das „Post und Fernmeldegeheimnis“) ist bereits im Grundgesetz verankert. Sie ist aber nicht unverletztlich sondern kann durch Gesetze eingeschränkt werden. Prinzipiell ist das auch nicht schlecht, denn z.B. zur Strafverfolgung von Verdächtigen muss man Beweise sammeln. Problematisch wird es nun aber, wenn daraus im digitalen Zeitalter eine Massenüberwachung im Vorraus und/oder auf Vorrat gemacht werden soll, und der sonst nötige (Anfangs-)Verdacht vollkommen entfällt. Und das nur, weil es technisch möglich ist und die Forderung politisch opportun erscheint.

  2. Hier kann man die Ergebnisse der jüngsten Anhörung der EU Kommission zum fraglichen Gesetzgebungsverfahren nachlesen:
    https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12726-Bekampfung-des-sexuellen-Missbrauchs-von-Kindern-Erkennung-Entfernung-und-Meldung-illegaler-Online-Inhalte/feedback_de?p_id=30786148

    Interessanterweise ist nach Beendigung der Anhörung die URL per Suche auf der EU site kaum zu finden, wenn man ihn nicht zuvor abgespeichert hatte.

    Weiter ist bemerkenswert, dass lt. Patrick Breyer MdEP twitter die Gesetzesinitiative zwei Tage nach Schließung der Anhörung still und heimlich in den Gesetzgebungsgang des Europäischen Parlamentes eingebracht wurde. War die Anhörung also eine reine Farce?

    1. „eine reine Farce“

      Vermutlich ja. Gesetze, die komplett in die Tonne müssen, aber weiter gepusht werden…

      Ich mache aber nur big big data mit verfügbaren Daten, hauptsächlich auf Basis eines Hirns mit Anhang, sowie weiterer Koprozessoren verschiedener Art, also nichts Reales.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.