Die umstrittene Chatkontrolle-Verordnung wird weiter zwischen den Mitgliedsländern der EU verhandelt. Es gibt weiterhin keine Einigung zum Thema, aber es sieht so aus als würde der Widerstand Frankreichs gegen die Pläne bröckeln. Damit wackelt die Sperrminorität, die derzeit verhindert, dass der Rat sich auf die Chatkontrolle einigt. Wir veröffentlichen das eingestufte Protokoll der Sitzung vom 4. Juni im Volltext.

Hinter dem Begriff Chatkontrolle verbirgt sich die so genannte CSA-Verordnung, mit der die EU-Kommisssion Dienste wie Messenger verpflichten will, die Inhalte ihrer Nutzer:innen auf Straftaten mit Bezug zu Kindesmissbrauch zu durchsuchen und diese bei Verdacht an Behörden zu schicken. Die Pläne werden weithin als Einführung einer neuen Form anlassloser Massenüberwachung und Angriff auf verschlüsselte Kommunikation bewertet.

Belgischer Kompromissvorschlag

Nachdem die Verhandlungen für die Chatkontrolle gestockt hatten, hatte die belgische Ratspräsidentschaft Anfang Mai neue Kompromissvorschläge gemacht. Dazu hatten wir die belgische PowerPoint-Präsentation veröffentlicht. Ende Mai hatte die Ratspräsidentschaft ihren ausformulierten Kompromisstext dann an die Staaten verschickt. Wir haben auch diesen Gesetzentwurf im Volltext veröffentlicht.

Laut dieses Entwurfs sollen Dienste das Risiko, dass auf ihren Plattformen Straftaten begangen werden, bewerten. Demnach wird die Chatkontrolle vor allem Dienste mit Anonymität und Verschlüsselung treffen. Dienste sollen Bilder, Videos und URLs durchsuchen, aber nicht mehr, wie in vorherigen Konzepten zur Chatkontrolle geplant, auch Audio und Text. Zudem sollen Nutzer:innen einer Chatkontrolle zustimmen, sonst dürfen sie keine Bilder und Videos hochladen. Dieses Modell wird „Upload Moderation“ genannt.

Deutschland hatte sich bei der vorletzten Sitzung, wie auch in der aktuellsten, gegen diesen Vorschlag ausgesprochen, so wie Polen, Österreich, Luxemburg und die Niederlande. Frankreich, das bislang zu den Staaten gehörte, die Chatkontrolle ablehnen, zeigte sich in der vorletzten Sitzung plötzlich „deutlich positiver“ gegenüber dem Vorschlag eingestellt, so das deutsche Protokoll.

Frankreich wackelt

Der Wandel von Frankreichs Einstellung zur Chatkontrolle setzt sich nun fort. In der letzten Sitzung, zu der wir das eingestufte Protokoll der Ständigen Vertretung in Brüssel im Volltext veröffentlichen, hat Frankreich seine „Unterstützung zeitnaher Kompromissfindung“ wiederholt und befürwortete zudem das Modell, bei dem Nutzer:innen einer Chatkontrolle zustimmen sollen – oder keine Bilder hochladen dürfen. Gleichzeitig wünschte sich Frankreich „eine stärkere Formulierung zum Schutz von Verschlüsselung“, heißt es im Protokoll.

Polen wiederholte seine „rote Linie“, dass Aufdeckungen ausschließlich auf verdächtige Nutzer beschränkt sein müssten und äußerte Bedenken gegen das Zustimmungsmodell. Estland machte gegenüber der Aufdeckungsanordnung und dem „Upload Moderation“-Modell einen Prüfvorbehalt geltend.

Deutschland wiederholte seine Forderung, Maßnahmen, die zu einem Scannen privater verschlüsselter Kommunikation auf dem Endgerät von Nutzer:innen führen, aus dem Anwendungsbereich des Verordnungsentwurfs auszunehmen. Der jüngste Kompromiss würde dieser Forderung widersprechen.

Es bleibt anlasslose Überwachung

Die Chatkontrolle ist nicht nur politisch und technisch umstritten, sondern auch juristisch. Der Juristische Dienst der EU-Staaten hat die Chatkontrolle letztes Jahr als rechtswidrig bezeichnet und gewarnt, dass Gerichte das geplante Gesetz wieder kippen könnten. Am grundsätzlichen Problem der Chatkontrolle, nämlich der anlasslosen Überwachung unbescholtener Menschen, ändert auch der belgische Kompromissvorschlag nichts.

Die Chatkontrolle hat breiten Widerspruch nicht nur in der Zivilgesellschaft hervorgerufen. Dabei ist auffällig, dass der Deutsche Kinderschutzbund wie auch Vertreter:innen von Ermittlungsbehörden das anlasslose Durchleuchten privater Dateien und Kommunikation gleichsam als unverhältnismäßig ablehnen. Diese Kritik äußern auch weltweit führende IT-Sicherheitsforscher:innen, zahlreiche Wissenschaftler:innen und der Menschenrechtskommissar der Vereinten Nationen.

Die Chatkontrolle wird auch von europäischen und deutschen Datenschutzbehörden sowie von mehr als 100 internationalen Digital- und Bürgerrechtsorganisationen abgelehnt. Tech-Firmen wie Apple halten es für technisch unmöglich, Daten automatisch zu scannen, ohne dabei die Privatsphäre und die IT-Sicherheit zu gefährden.

Hier das Dokument in Volltext

• Geheimhaltungsgrad: Verschlusssache – Nur für den Dienstgebrauch
• Datum: 06.06.2024
• Von: Ständige Vertretung der BRD bei der EU
• An: Auswärtiges Amt
• Kopie: BMI, BMJ, BMWK, BMDV, BMFSFJ, BMF, BKAmt
• Betreff: Sitzung der RAGS am 3./4. Juni 2024
• Zweck: Zur Unterrichtung
• Geschäftszeichen: 350.80

Sitzung der RAGS am 3./4. Juni 2024

I. Zusammenfassung und Wertung

In Bezug auf den Verordnungsvorschlag zur Stärkung von Europol im Bereich Schleusungskriminalität und Menschenhandel (TOP 1) erfolgte die Diskussion entlang des vom Vorsitz erneut überarbeiteten Kompromisstextes. Die Mehrzahl der MS unterstützte weiterhin grundsätzlich den vom Vorsitz vorgeschlagenen Ansatz. FRA äußerte zwar noch einmal die bisherigen Bedenken, zeigte sich insgesamt aber deutlich weniger kritisch als bisher.

Zu den Ratsschlussfolgerungen zur Polizeizusammenarbeit (TOP 2) stellte KOM den Zwischenstand zur Umsetzung in den MS vor und kündigte an, bis zum Sommer die Evaluierung vorzulegen.

Die übrigen TOPe am ersten Sitzungstag waren Informationspunkte.

Der zweite Sitzungstag befasste sich ausschließlich mit den Verhandlungen der CSA–VO (TOP 5). Die Grundlage der Verhandlungen stellte der Vorschlag eines reduzierten Anwendungsbereichs von Aufdeckungen mit sog. „upload moderation“ dar. Vorsitz stellte anschließend fest, dass auf fachlicher Ebene alle MS zu Wort gekommen seien.

II. Im Einzelnen

[…]

TOP 5: CSA–VO

FRA wiederholte Unterstützung zeitnaher Kompromissfindung. Das Zustimmungserfordernis der Nutzer zur Durchführung von Aufdeckungsanordnungen könne FRA grds. weiter unterstützen. FRA mache sich aber für eine tiefergehende juristische Analyse stark.

CZE, ITA, SWE, SVK, GRC, SVN, FIN und PRT legten einen – teils positiven – Prüfvorbehalt ein.

POL wiederholte Forderung („rote Linie“), Aufdeckungen auf verdächtige Nutzer zu begrenzen. Bzgl. des neuen Zustimmungserfordernis bestünden in POL weiterhin (rechtliche) Bedenken. An Zustimmung sollten keine Zugangsbeschränkungen geknüpft werden. POL bedauerte, dass Fragen der Altersverifikation nicht tiefergehender diskutiert worden seien.

Für NLD gehen viele der neuen Safeguards in die richtige Richtung. NLD-Sorgen würden durch Vorsitz grds. aufgegriffen. Es bestehe großer NLD-Wille, Balance zwischen technischen Rahmenbedingungen und politischer Bewertung zu wahren. Weiterhin könne NLD lediglich Aufdeckungen von neuem CSAM unterstützen.

Für DEU trugen wir insgesamt entlang der abgestimmten Weisung vor. Wir betonten insbesondere, dass die Forderung, Maßnahmen, die zu einem Scannen privater verschlüsselter Kommunikation auf dem Endgerät von Nutzern führen, aus dem Anwendungsbereich des VO–E auszunehmen, für DEU unverändert höchste Priorität hat. Nach unserem Verständnis entspreche der jüngste Vorschlag dieser Forderung nicht.

Artikel 1: Gegenstand und Anwendungsbereich

FRA wiederholte grds. Unterstützung der vorgeschlagenen „upload moderation“ (Artikel 10a), für Artikel 1 Absatz 5 wünsche sich FRA gleichwohl eine stärkere Formulierung zum Schutz von Verschlüsselung. EST forderte Rückkehr zur Textfassung von Artikel 1 vom 13. März 2024. Bzgl. Aufdeckungsanordnungen bestehe in EST Prüfvorbehalt. Dieser umfasse auch die vorgeschlagene „upload moderation“. SWE unterstützte Änderungen grundsätzlich.

Artikel 5: Risikoberichte

Vorsitz erläuterte, dass Absatz 2a darauf ziele, hinreichend abstrakte Regelungen in der VO vorzusehen. Konkretere Werte könnten im Anhang geregelt werden. FRA begrüßte die Streichung konkreter Prozentsätze im VO-Text. Aus SWE-Sicht sollten Aufwände und Kosten für Anbieter so gering wie möglich gehalten werden. Artikel 5 beachte dies in der jetzigen Fassung weitgehend.

Artikel 7 und 8: Aufdeckungsanordnungen

SWE, NLD und FRA begrüßten, dass der Verweis auf die unabhängige Verwaltungsbehörde wieder aufgenommen wurde. Für SWE seien die Anforderungen an die Verwaltungsbehörde in Artikel 8 mit Blick auf das Erfordernis „frei von externen Einflüssen“ zu streng gefasst. SWE setze sich für eine angepasste Formulierung ein. PRT verwies mit Blick auf die Einbeziehung unabhängiger Verwaltungsbehörden auf „nationale Schwierigkeiten“.

Das hit-Verfahren werde durch FRA – und auch POL – weiterhin ausdrücklich unterstützt. Es trage signifikant zur Verhältnismäßigkeit bei. Hierbei sollte im Wesentlichen KI-gestützte Verfahren eingesetzt werden. Bzgl. der menschlichen Überprüfung stehe eine Festlegung auf einen Zeitraum aus. Es bleibe zu verhindern, dass andauernder Missbrauch nicht erkannt werde.

Für NLD sei das hit-Verfahren dagegen weiterhin nicht überzeugend. Es verhindere, dass eindeutiges CSAM verfolgt werden könne. Auch ROM, ITA, MLT, IRL, ESP, CYP, DNK, SVK, HRV und BGR kritisierten das hit-Verfahren. ROM wies daraufhin, dass ein Treffer mehrere Betroffene umfassen könne. Nicht die Menge könne über Strafverfolgung entscheiden. Für SVK sei mit Blick auf den Schutz von betroffenen Kindern und Jugendlichen „overreporting“ gegenüber „underreporting“ vorzuziehen.

Die vorgeschlagene Pseudonymisierung werde durch NLD grds. begrüßt. NLD-Position bzgl. des Umfangs von Aufdeckungen gelte aber fort. NLD begrüßte ausdrücklich, dass interpersonelle Kommunikation im Anwendungsbereich verbleibe. Andernfalls drohten „sichere Häfen“.

Auf DEU Nachfrage erläuterte BEL, dass die Streichung von Absatz 10 Unterabsatz 4 hohen technischen Aufwänden geschuldet sei. Weiter erläuterte KOM auf DEU Nachfrage, dass Absatz 6a Unterabsatz 2 klarstelle, dass der Anbieter im Rahmen der „upload moderation“ keine Kenntnis von Inhalten erlange und daher auch keinen Einfluss auf dessen Zustellung nehme. Es sei ein „doppeltblindes“ System vorgesehen.

ESP erinnerte an den Zeitdruck der Verhandlungen. Die VO müsse hinreichend weit gefasst sein, damit sie lange Bestand habe und nicht bereits bei Inkrafttreten veraltet sei. Angesichts des deutlich reduzierten Anwendungsbereichs der VO stelle sich die Frage, ob der Name der CSA–VO, „Vorschlag zur Prävention und Bekämpfung von CSA“, beibehalten werden könne.

EST sprach sich für eine Rückkehr zur vorherigen Fassung von Artikel 7 aus. Die Einschränkung auf visuelles Material gehe für POL in die richtige Richtung, reiche allerdings nicht, um POL Bedenken auszuräumen. DNK, MLT und CYP sprachen sich dafür aus, Text im Anwendungsbereich der VO zu belassen. SWE setzte sich für eine Unterscheidung zwischen Bild und Videomaterial ein.

KOM erläuterte, dass der vorliegende Entwurf eine Kombination mehrere, vielschichtige Safeguards enthalte. Auf BGR Nachfrage erläuterte KOM soweit es sich um „bulk“-Sendungen handele, sei offen, ob diese einen oder mehrere Treffer darstellten. Es entspreche aus KOM-Sicht der Logik solche großen Inhalte als mehrere Treffer zu werten. Andernfalls würde die Aufdeckungswahrscheinlichkeit durch den Versand weniger Nachrichten mit mehr Inhalten reduziert werden können. Das zusätzliche Zustimmungserfordernis sei als weiterer Safeguard zu verstehen. Rechtsgrundlage für Aufdeckungen bleibe die Anordnung durch die zuständige nationale Behörde.

Vorsitz stellte eine Mehrheit gegen das vorgeschlagene hit-Verfahren fest und kündigte an, an einem Kompromiss zu arbeiten.

KOM wiederholte, es gebe grds. keine absolute Rechtssicherheit. Es sprächen aber gute Argumente und EuGH-Entscheidungen für die Verhältnismäßigkeit des Vorschlags. BEL habe weitere Schutzvorkehrungen ergänzt. Dazu zählten u.a. Einschränkung auf visuelles Material, Pseudonymisierung und user consent. Zu beachten sei auch EuGH-Rechtsprechung, die feststelle, dass automatisierte Datenverarbeitung, bei der Nutzer anonym blieben, als weniger eingriffsinvasiv einzustufen sei. Auch habe der EuGH Anforderungen an die Speicherung personenbezogener Daten gestellt.

Vorsitz stellte fest, dass Kommentare auf fachlicher Ebene eingegangen seien. Teilweise stehe eine politische Entscheidung noch aus. Auf fachlicher Ebene seien in der RAGS zum jetzigen Zeitpunkt alle MS zu Wort gekommen. Im JI-Rat werde ein Fortschrittsbericht vorgelegt.

Zum vorliegenden Kompromissvorschlag sei eine AStV-Befassung mit dem Ziel einer politischen Orientierung für den 19. Juni geplant.

MS sind eingeladen schriftliche Kommentare bis zum 5. Juni einzureichen.