Seit zwei Jahren diskutiert die EU eine verpflichtende Chatkontrolle, zuletzt waren die Verhandlungen festgefahren. Die Kommission will Internetdienste verpflichten, die Inhalte ihrer Nutzer auf Straftaten zu durchsuchen und diese an Behörden zu schicken. Das Parlament bezeichnet das als Massenüberwachung und fordert, nur unverschlüsselte Inhalte von Verdächtigen zu scannen.

Die EU-Staaten können sich bisher nicht auf eine gemeinsame Position einigen. Manche Länder unterstützen den Vorschlag der Kommission, andere eher die Position des Parlaments. Vor zwei Wochen hat der Rat erneut in der Arbeitsgruppe Strafverfolgung verhandelt, wir hatten direkt danach darüber berichtet. Jetzt veröffentlichen wir ein weiteres Mal das eingestufte Protokoll der Sitzung.

Ohne Chatkontrolle keine Bilder und Videos

Die belgische Ratspräsidentschaft stellte dort einen neuen „Kompromissansatz“ vor. Einige Ideen sind noch relativ neu, deshalb gibt es statt eines ausformulierten Textes bisher nur eine PowerPoint-Präsentation.

Belgien schlägt vor, die Chatkontrolle auf „visuelle Inhalte“ zu beschränken, also Bilder und Videos. „Audiokommunikation und Text sollen ausgeschlossen werden.“ Verschlüsselte Inhalte sollen ebenfalls „nicht von den Aufdeckungsanordnungen erfasst werden“.

Internetdienste sollen bekannte Kinderpornografie suchen, zum Beispiel mit „kryptografischem und perzeptuellem Hashing“. Darüber hinaus sollen sie aber auch Grooming und neues Missbrauchsmaterial erkennen, „mit KI (wie z.B. maschinelle Lerninstrumente, fortschrittliche Algorithmen)“. Weil diese Systeme fehleranfällig sind, „sollen Meldungen bei unbekannten Material erst nach zwei Treffern erfolgen“.

Viele Akteure wollen dafür Client-Side-Scanning nutzen, was Wissenschaftler als unsicher und gefährlich kritisieren. Als Alternative schlägt Belgien jetzt eine „Upload-Moderation“ vor. Demnach sollen Nutzer zustimmen, dass ihre Inhalte gescannt werden. „Verweigere ein Nutzer die Zustimmung, könne er einen Dienst weiter nutzen, aber keine Bilder und Videos hochladen.“

Pfad für einen Kompromiss

Da die Staaten den Vorschlag nicht vorher prüfen konnten und es noch keine schriftliche Version gibt, haben die Vertreter unter Vorbehalt diskutiert. Deutschland bat um „schriftliche Vorschläge“ für „eine angemessene Prüfung“. Auch Portugal sagte, „dass der neue Ansatz noch diverse Fragen aufwerfe“.

Frankreich fragte, „inwieweit die Zustimmung des Nutzers verbindlich sei und wann diese eingeholt werden müsse“. Belgien antwortete, „dass die Zustimmung per AGB oder beim Upload per Pop-Up-Fenster erfolgen könne“. Spanien fragte, wie Word- oder PowerPoint-Dateien behandelt werden sollen, die auch Bilder enthalten können. Eine Antwort ist nicht vermerkt.

Viele Staaten unterstützen die grundsätzliche Richtung der neuen Vorschläge. Dazu gehören Chatkontrolle-Befürworter wie Rumänien, Bulgarien und Dänemark.

Auch bisher kritische Staaten loben den Vorschlag. Frankreich „unterstützte den Vorschlag des Vorsitzes grundsätzlich“, er scheint „in die richtige Richtung zu gehen“. Polen „äußerte sich wohlwollend zum neuen Ansatz und sah darin einen ‚Pfad für einen Kompromiss'“. Diese beiden Staaten waren bisher Teil der Sperrminorität, mit ihrer Unterstützung könnte der Rat zu einer Einigung kommen.

Wichtige Fragen weiterhin offen

So weit ist es aber noch nicht, es sind noch einige Fragen offen. Mehrere Staaten kritisieren die Beschränkung auf Bilder und Videos. Irland befürchtet, dass die Chatkontrolle „an Effektivität verliert“. Dänemark fordert, „Text müsse ebenfalls erfasst sein“.

Die Niederlande lehnen „die Einbeziehung von unbekanntem CSAM und Grooming vollständig ab“, das ist „eine politische Entscheidung in den Niederlanden“. Die Fehlerquoten sind einfach zu hoch.

Aus diesem Grund schlägt Belgien vor, neues Material erst ab dem zweiten Treffen an Behörden auszuleiten. Das wiederum lehnen jedoch andere Staaten ab. Irland kritisiert, damit „strafrechtlich hochrelevante Inhalte einfach zu ignorieren“. Die Ratspräsidentschaft sah diese Kritik „als durchaus stichhaltig an und kündigte an, seinen Ansatz insoweit zu überdenken“.

Mehrere Staaten fordern, den juristischen Dienst zum „Zwei-Treffer-System“ zu befragen. Die Juristen hatten die bisherigen Vorschläge zur Chatkontrolle als rechtswidrig bezeichnet. In dieser Sitzung war der juristische Dienst jedoch nicht anwesend.

Neue Bewegung in Verhandlungen

Zuletzt sind die Verhandlungen zwischen den EU-Staaten ins Stocken geraten. Die belgische Ratspräsidentschaft hat mit ihren neuen Vorschlägen wieder etwas Bewegung in die Verhandlungen gebracht.

Es bleibt offen, ob Belgien in der Lage ist, eine Einigung zu organisieren. Ende Juni geht die Ratspräsidentschaft an Ungarn, für die das Thema wohl keine Priorität hat. Bis dahin plant Belgien noch einige Verhandlungsrunden, die nächste bereits am Freitag.

Hier das Dokument in Volltext:

• Geheimhaltungsgrad: Verschlusssache – Nur für den Dienstgebrauch
• Datum: 10.05.2024
• Von: Ständige Vertretung der BRD bei der EU
• An: Auswärtiges Amt
• Kopie: BMI, BMJ, BMWK, BMDV, BMFSFJ, BMF, BKAmt
• Betreff: Sitzung der RAGS am 08.05.2024
• Zweck: Zur Unterrichtung
• Geschäftszeichen: 350.80

Sitzung der RAGS am 08.05.2024

I. Zusammenfassung und Wertung

Hinsichtlich der CSA–VO (TOP 1) erörterte die RAGS den vom Vorsitz in der Sitzung vorgestellten neuen Kompromissansatz. Vorsitz dankte MS für ihre Einschätzungen und kündigte an, dass er weiter daran arbeiten werde.

In Bezug auf die Bekämpfung der Schleuserkriminalität durch eine Stärkung von Europol (TOP 2) stand der vom Vorsitz vorgelegte Kompromisstext im Mittelpunkt der Diskussion. Hierbei wurde deutlich, dass die überwiegende Mehrzahl der MS den jetzt vorgeschlagenen Weg unterstützt. Lediglich FRA äußerte die bekannten grundsätzlichen Bedenken. Somit erscheint eine allgemeine Ausrichtung noch unter BEL-Vorsitz möglich.

Die übrigen TOPe waren Informationspunkte.

II. Im Einzelnen

TOP 1: Proposal for a Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse – Presentation by the Presidency on the way forward

Vorsitz stellte seinen neuen Kompromissansatz für die CSA–VO vor. Bezüglich der Methodologie und den Kategorien für die Risikokategorisierung verwies er dabei auf das überarbeitete Dokument WK 3036/2024 REV 3. Die weiteren Aspekte seines neuen Ansatzes stellte Vorsitz mündlich mit Hilfe einer PPT-Präsentation vor.

Demnach sollen bekanntes CSAM, unbekanntes CSAM und Grooming im Anwendungsbereich der VO verbleiben, aber die Aufdeckungsanordnungen auf visuelle Inhalte beschränkt werden. Audiokommunikation und Text sollen aus der VO ausgeschlossen werden. E2EE-Daten sollen ebenfalls nicht von den Aufdeckungsanordnungen erfasst werden.

Bekanntes CSAM könne mittels kryptografischem und perzeptuellem Hashing detektiert werden. Neues CSAM könne mit KI (wie z.B. maschinelle Lerninstrumente, fortschrittliche Algorithmen) aufdeckt werden.

Die Detektion solle mittels „upload moderation“ erfolgen, die an die Zustimmung des Nutzers geknüpft sei. Verweigere ein Nutzer die Zustimmung, könne er einen Dienst weiter nutzen, aber keine Bilder und Videos hochladen. „Upload moderation“ sei etwas anderes als CSS.

Um Falschmeldungen zu reduzieren, sollen Meldungen bei unbekanntem CSAM erst nach 2 Treffern erfolgen („delayed reporting“). Vor der menschlichen Verifikation von detektiertem neuem Material solle als weitere Schutzmaßnahme ein Pseudonymisierung stattfinden.

PRT machte geltend, dass der neue Ansatz noch diverse Fragen aufwerfe.

Wir trugen die DEU-Position weisungsgemäß vor. Insbesondere baten wir Vorsitz, den Delegationen schriftliche Vorschläge zu übermitteln, um eine angemessene Prüfung zu ermöglichen.

FRA unterstützte den Vorschlag des Vorsitz grundsätzlich. Dieser scheine in die richtige Richtung zu gehen, allerdings gebe es noch einige Fragen. U.a. müsse geklärt werden, inwieweit die Zustimmung des Nutzers verbindlich sei und wann diese eingeholt werden müsse. Vorsitz erläuterte, dass die Zustimmung per AGB oder beim Upload per Pop-Up-Fenster erfolgen könne. Insoweit sei Vorsitz flexibel.

IRL kritisierte den Ausschluss von Audiokommunikation und Text aus dem Anwendungsbereich der VO, da diese hierdurch an Effektivität verliere. Mit dem Konzept des „delayed reporting“ riskiere man, strafrechtlich hochrelevante Inhalte einfach zu ignorieren (ebenso DNK, ROU, CYP und BGR, z.T. mit beeindruckenden praktischen Beispielen). Wenn ohnehin eine Pseudonymisierung erfolge, brauche man keine 2 Treffer abzuwarten. Insgesamt sei IRL kompromissbereit, erwarte dies aber auch von anderen MS (ebenso CZE).

ESP dankte Vorsitz für den neuen Ansatz und warf die Frage auf, ob dieser auch funktioniere, wenn Bilder in Word- oder PPT-Dokumenten eingebettet seien.

POL äußerte sich wohlwollend zum neuen Ansatz und sah darin einen „Pfad für einen Kompromiss“.

BGR begrüßte den kreativen Ansatz und sah viele gute und neue Elemente.

DNK hielt den neuen Ansatz für grundsätzlich gut, sah die Beschränkung der Detektion von Grooming auf Bild- und Videomaterial aber als unzureichend an. Text müsse ebenfalls erfasst sein.

EST verwies auf seinen eigenen Vorschlag zur Risikokategorisierung und kündigte an, neue Textvorschläge einzureichen.

NLD lehnten die Einbeziehung von unbekanntem CSAM und Grooming vollständig ab. Dies sei eine politische Entscheidung in NLD.

ROU bezeichnete den Vorschlag des Vorsitz als beeindruckend.

CYP plädierte dafür, nun endlich zu einer allgemeinen Ausrichtung zu kommen (ebenso CZE und LVA).

LVA stimmte dem neuen Ansatz zu.

Die von mehreren MS geforderte Einschätzung des JD-Rat zum „delayed reporting“ konnte in der Sitzung nicht erfolgen, da JD-Rat nicht anwesend war. Vorsitz sah die von diversen MS vorgebrachten Einwände gegen das „2-Treffer-System“ als durchaus stichhaltig an und kündigte an, seinen Ansatz insoweit zu überdenken. Er sei hier flexibel.

Vorsitz wies darauf hin, dass PPT-Präsentation noch während der Sitzung ins Del-Portal eingestellt werde (Dok. WK 6697/2024 INIT). Die Reaktionen der MS seien hilfreich gewesen. Er werde weiter an dem Kompromissansatz arbeiten.

[…]

TOP 5: AOB

Seitens der Delegationen wurden keine Themen unter AOB angemeldet.

Vorsitz informierte abschließend über weitere Sitzungen:

• Am 21.05.2024 werde es eine Sitzung der HLEG geben. Die Ausweisung im Del-Portal als RAGS Attaché Sitzung sei falsch.
• Die ursprünglich für den 06.06.2024 vorgesehene RAGS-Police Sitzung werde auf den 03.06.2024 vorgezogen. Am Rande der Sitzung erläuterte Vorsitz, dass vermutlich sowohl CSA–VO als auch migrant smuggling-VO behandelt würden.
• Die für den 14.06.2024 angekündigte RAGS-Police Sitzung finde statt.
• Vermutlich werde es am 26.06.2024 vormittags eine gemeinsame Sitzung von RAGS-Police und RAGS-Customs geben.
• Vors behalte sich vor, ggf. weitere Sitzungen (vorzugsweise JI-Referenten) anzusetzen. Diese würden 2 Wochen vorher angekündigt.