Seit zwei Jahren diskutiert die EU eine verpflichtende Chatkontrolle, zuletzt waren die Verhandlungen festgefahren. Die Kommission will Internetdienste verpflichten, die Inhalte ihrer Nutzer auf Straftaten zu durchsuchen und diese an Behörden zu schicken. Das Parlament bezeichnet das als Massenüberwachung und fordert, nur unverschlüsselte Inhalte von Verdächtigen zu scannen.
Die EU-Staaten können sich bisher nicht auf eine gemeinsame Position einigen. Manche Länder unterstützen den Vorschlag der Kommission, andere eher die Position des Parlaments. Vor zwei Wochen hat der Rat erneut in der Arbeitsgruppe Strafverfolgung verhandelt, wir hatten direkt danach darüber berichtet. Jetzt veröffentlichen wir ein weiteres Mal das eingestufte Protokoll der Sitzung.
Ohne Chatkontrolle keine Bilder und Videos
Die belgische Ratspräsidentschaft stellte dort einen neuen „Kompromissansatz“ vor. Einige Ideen sind noch relativ neu, deshalb gibt es statt eines ausformulierten Textes bisher nur eine PowerPoint-Präsentation.
Belgien schlägt vor, die Chatkontrolle auf „visuelle Inhalte“ zu beschränken, also Bilder und Videos. „Audiokommunikation und Text sollen ausgeschlossen werden.“ Verschlüsselte Inhalte sollen ebenfalls „nicht von den Aufdeckungsanordnungen erfasst werden“.
Internetdienste sollen bekannte Kinderpornografie suchen, zum Beispiel mit „kryptografischem und perzeptuellem Hashing“. Darüber hinaus sollen sie aber auch Grooming und neues Missbrauchsmaterial erkennen, „mit KI (wie z.B. maschinelle Lerninstrumente, fortschrittliche Algorithmen)“. Weil diese Systeme fehleranfällig sind, „sollen Meldungen bei unbekannten Material erst nach zwei Treffern erfolgen“.
Viele Akteure wollen dafür Client-Side-Scanning nutzen, was Wissenschaftler als unsicher und gefährlich kritisieren. Als Alternative schlägt Belgien jetzt eine „Upload-Moderation“ vor. Demnach sollen Nutzer zustimmen, dass ihre Inhalte gescannt werden. „Verweigere ein Nutzer die Zustimmung, könne er einen Dienst weiter nutzen, aber keine Bilder und Videos hochladen.“
Pfad für einen Kompromiss
Da die Staaten den Vorschlag nicht vorher prüfen konnten und es noch keine schriftliche Version gibt, haben die Vertreter unter Vorbehalt diskutiert. Deutschland bat um „schriftliche Vorschläge“ für „eine angemessene Prüfung“. Auch Portugal sagte, „dass der neue Ansatz noch diverse Fragen aufwerfe“.
Frankreich fragte, „inwieweit die Zustimmung des Nutzers verbindlich sei und wann diese eingeholt werden müsse“. Belgien antwortete, „dass die Zustimmung per AGB oder beim Upload per Pop-Up-Fenster erfolgen könne“. Spanien fragte, wie Word- oder PowerPoint-Dateien behandelt werden sollen, die auch Bilder enthalten können. Eine Antwort ist nicht vermerkt.
Viele Staaten unterstützen die grundsätzliche Richtung der neuen Vorschläge. Dazu gehören Chatkontrolle-Befürworter wie Rumänien, Bulgarien und Dänemark.
Auch bisher kritische Staaten loben den Vorschlag. Frankreich „unterstützte den Vorschlag des Vorsitzes grundsätzlich“, er scheint „in die richtige Richtung zu gehen“. Polen „äußerte sich wohlwollend zum neuen Ansatz und sah darin einen ‚Pfad für einen Kompromiss'“. Diese beiden Staaten waren bisher Teil der Sperrminorität, mit ihrer Unterstützung könnte der Rat zu einer Einigung kommen.
Wichtige Fragen weiterhin offen
So weit ist es aber noch nicht, es sind noch einige Fragen offen. Mehrere Staaten kritisieren die Beschränkung auf Bilder und Videos. Irland befürchtet, dass die Chatkontrolle „an Effektivität verliert“. Dänemark fordert, „Text müsse ebenfalls erfasst sein“.
Die Niederlande lehnen „die Einbeziehung von unbekanntem CSAM und Grooming vollständig ab“, das ist „eine politische Entscheidung in den Niederlanden“. Die Fehlerquoten sind einfach zu hoch.
Aus diesem Grund schlägt Belgien vor, neues Material erst ab dem zweiten Treffen an Behörden auszuleiten. Das wiederum lehnen jedoch andere Staaten ab. Irland kritisiert, damit „strafrechtlich hochrelevante Inhalte einfach zu ignorieren“. Die Ratspräsidentschaft sah diese Kritik „als durchaus stichhaltig an und kündigte an, seinen Ansatz insoweit zu überdenken“.
Mehrere Staaten fordern, den juristischen Dienst zum „Zwei-Treffer-System“ zu befragen. Die Juristen hatten die bisherigen Vorschläge zur Chatkontrolle als rechtswidrig bezeichnet. In dieser Sitzung war der juristische Dienst jedoch nicht anwesend.
Neue Bewegung in Verhandlungen
Zuletzt sind die Verhandlungen zwischen den EU-Staaten ins Stocken geraten. Die belgische Ratspräsidentschaft hat mit ihren neuen Vorschlägen wieder etwas Bewegung in die Verhandlungen gebracht.
Es bleibt offen, ob Belgien in der Lage ist, eine Einigung zu organisieren. Ende Juni geht die Ratspräsidentschaft an Ungarn, für die das Thema wohl keine Priorität hat. Bis dahin plant Belgien noch einige Verhandlungsrunden, die nächste bereits am Freitag.
Hier das Dokument in Volltext:
- Geheimhaltungsgrad: Verschlusssache – Nur für den Dienstgebrauch
- Datum: 10.05.2024
- Von: Ständige Vertretung der BRD bei der EU
- An: Auswärtiges Amt
- Kopie: BMI, BMJ, BMWK, BMDV, BMFSFJ, BMF, BKAmt
- Betreff: Sitzung der RAGS am 08.05.2024
- Zweck: Zur Unterrichtung
- Geschäftszeichen: 350.80
Sitzung der RAGS am 08.05.2024
I. Zusammenfassung und Wertung
Hinsichtlich der CSA–VO (TOP 1) erörterte die RAGS den vom Vorsitz in der Sitzung vorgestellten neuen Kompromissansatz. Vorsitz dankte MS für ihre Einschätzungen und kündigte an, dass er weiter daran arbeiten werde.
In Bezug auf die Bekämpfung der Schleuserkriminalität durch eine Stärkung von Europol (TOP 2) stand der vom Vorsitz vorgelegte Kompromisstext im Mittelpunkt der Diskussion. Hierbei wurde deutlich, dass die überwiegende Mehrzahl der MS den jetzt vorgeschlagenen Weg unterstützt. Lediglich FRA äußerte die bekannten grundsätzlichen Bedenken. Somit erscheint eine allgemeine Ausrichtung noch unter BEL-Vorsitz möglich.
Die übrigen TOPe waren Informationspunkte.
II. Im Einzelnen
TOP 1: Proposal for a Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse – Presentation by the Presidency on the way forward
Vorsitz stellte seinen neuen Kompromissansatz für die CSA–VO vor. Bezüglich der Methodologie und den Kategorien für die Risikokategorisierung verwies er dabei auf das überarbeitete Dokument WK 3036/2024 REV 3. Die weiteren Aspekte seines neuen Ansatzes stellte Vorsitz mündlich mit Hilfe einer PPT-Präsentation vor.
Demnach sollen bekanntes CSAM, unbekanntes CSAM und Grooming im Anwendungsbereich der VO verbleiben, aber die Aufdeckungsanordnungen auf visuelle Inhalte beschränkt werden. Audiokommunikation und Text sollen aus der VO ausgeschlossen werden. E2EE-Daten sollen ebenfalls nicht von den Aufdeckungsanordnungen erfasst werden.
Bekanntes CSAM könne mittels kryptografischem und perzeptuellem Hashing detektiert werden. Neues CSAM könne mit KI (wie z.B. maschinelle Lerninstrumente, fortschrittliche Algorithmen) aufdeckt werden.
Die Detektion solle mittels „upload moderation“ erfolgen, die an die Zustimmung des Nutzers geknüpft sei. Verweigere ein Nutzer die Zustimmung, könne er einen Dienst weiter nutzen, aber keine Bilder und Videos hochladen. „Upload moderation“ sei etwas anderes als CSS.
Um Falschmeldungen zu reduzieren, sollen Meldungen bei unbekanntem CSAM erst nach 2 Treffern erfolgen („delayed reporting“). Vor der menschlichen Verifikation von detektiertem neuem Material solle als weitere Schutzmaßnahme ein Pseudonymisierung stattfinden.
PRT machte geltend, dass der neue Ansatz noch diverse Fragen aufwerfe.
Wir trugen die DEU-Position weisungsgemäß vor. Insbesondere baten wir Vorsitz, den Delegationen schriftliche Vorschläge zu übermitteln, um eine angemessene Prüfung zu ermöglichen.
FRA unterstützte den Vorschlag des Vorsitz grundsätzlich. Dieser scheine in die richtige Richtung zu gehen, allerdings gebe es noch einige Fragen. U.a. müsse geklärt werden, inwieweit die Zustimmung des Nutzers verbindlich sei und wann diese eingeholt werden müsse. Vorsitz erläuterte, dass die Zustimmung per AGB oder beim Upload per Pop-Up-Fenster erfolgen könne. Insoweit sei Vorsitz flexibel.
IRL kritisierte den Ausschluss von Audiokommunikation und Text aus dem Anwendungsbereich der VO, da diese hierdurch an Effektivität verliere. Mit dem Konzept des „delayed reporting“ riskiere man, strafrechtlich hochrelevante Inhalte einfach zu ignorieren (ebenso DNK, ROU, CYP und BGR, z.T. mit beeindruckenden praktischen Beispielen). Wenn ohnehin eine Pseudonymisierung erfolge, brauche man keine 2 Treffer abzuwarten. Insgesamt sei IRL kompromissbereit, erwarte dies aber auch von anderen MS (ebenso CZE).
ESP dankte Vorsitz für den neuen Ansatz und warf die Frage auf, ob dieser auch funktioniere, wenn Bilder in Word- oder PPT-Dokumenten eingebettet seien.
POL äußerte sich wohlwollend zum neuen Ansatz und sah darin einen „Pfad für einen Kompromiss“.
BGR begrüßte den kreativen Ansatz und sah viele gute und neue Elemente.
DNK hielt den neuen Ansatz für grundsätzlich gut, sah die Beschränkung der Detektion von Grooming auf Bild- und Videomaterial aber als unzureichend an. Text müsse ebenfalls erfasst sein.
EST verwies auf seinen eigenen Vorschlag zur Risikokategorisierung und kündigte an, neue Textvorschläge einzureichen.
NLD lehnten die Einbeziehung von unbekanntem CSAM und Grooming vollständig ab. Dies sei eine politische Entscheidung in NLD.
ROU bezeichnete den Vorschlag des Vorsitz als beeindruckend.
CYP plädierte dafür, nun endlich zu einer allgemeinen Ausrichtung zu kommen (ebenso CZE und LVA).
LVA stimmte dem neuen Ansatz zu.
Die von mehreren MS geforderte Einschätzung des JD-Rat zum „delayed reporting“ konnte in der Sitzung nicht erfolgen, da JD-Rat nicht anwesend war. Vorsitz sah die von diversen MS vorgebrachten Einwände gegen das „2-Treffer-System“ als durchaus stichhaltig an und kündigte an, seinen Ansatz insoweit zu überdenken. Er sei hier flexibel.
Vorsitz wies darauf hin, dass PPT-Präsentation noch während der Sitzung ins Del-Portal eingestellt werde (Dok. WK 6697/2024 INIT). Die Reaktionen der MS seien hilfreich gewesen. Er werde weiter an dem Kompromissansatz arbeiten.
[…]
TOP 5: AOB
Seitens der Delegationen wurden keine Themen unter AOB angemeldet.
Vorsitz informierte abschließend über weitere Sitzungen:
- Am 21.05.2024 werde es eine Sitzung der HLEG geben. Die Ausweisung im Del-Portal als RAGS Attaché Sitzung sei falsch.
- Die ursprünglich für den 06.06.2024 vorgesehene RAGS-Police Sitzung werde auf den 03.06.2024 vorgezogen. Am Rande der Sitzung erläuterte Vorsitz, dass vermutlich sowohl CSA–VO als auch migrant smuggling-VO behandelt würden.
- Die für den 14.06.2024 angekündigte RAGS-Police Sitzung finde statt.
- Vermutlich werde es am 26.06.2024 vormittags eine gemeinsame Sitzung von RAGS-Police und RAGS-Customs geben.
- Vors behalte sich vor, ggf. weitere Sitzungen (vorzugsweise JI-Referenten) anzusetzen. Diese würden 2 Wochen vorher angekündigt.
Man merkt immer mehr, dass die Leute, die das vorantreiben selber absolut keine Ahnung haben.
Beispiele:
-Text soll einerseits ausgeschlossen werden, aber Grooming soll andererseits erkannt werden… What??
-Ausleitung der Chats nach 2 Treffern
Aber letzten Endes ist es völlig egal, was sie machen, es wird – zum Glück- immer einen Weg geben, diesen gefährlichen Irrsinn zu umgehen.
Ist halt die Frage, wie viel Aufwand man bereit ist zu betreiben. Bzw ob den Leuten wichtiger ist, dass sie alles hopplahopp versenden können, anstatt an ihre eigene Sicherheit zu denken.
Da halte ich die geplanten Alterskontrollen oder die geplanten AppStore-Zensuren für wesentlich problematischer.
Aber falls Texte am Ende auch erfasst werden… Joa… Dann ist es sicher, dass Leute, die -egal wie- mit Kinder zu tun haben werden, vermutlich in Zukunft ihren „Spaß“ haben werden.
Interessant finde ich aber die Aussage, dass das Thema für Ungarn keine Priorität haben soll. Ich hatte befürchtet, die wären auch ein Hardliner, die das unbedingt möglichst schnell haben wollten.
Hoffentlich bleibt der juristische Dienst bei seiner Positon und erklärt auch den neuen Ansatz für illegal
Dachte Klauseln, bei denen man auf Grundrechte verzichtet, seien rechtswidrig.
Kann jemand mit juristischem Hintergrund kommentieren?
Grundrechtsverzicht heißt die Einwilligung eines Grundrechtsträgers in konkrete Eingriffe in und Beeinträchtigungen von Grundrechten. Ein wirksamer Grundrechtsverzicht führt dazu, dass Eingriffe rechtmäßig sind, für welche die Rechtmäßigkeitsvoraussetzungen eigentlich nicht vorliegen. Beispiel: Die Polizei darf grundsätzlich nicht in die Wohnung kommen, wenn kein Gefahrverdacht bzw. kein Verdacht auf Begehung von Straftaten vorliegt. Sie darf aber reinkommen, wenn die Bewohner dies erlauben.
Wichtigste Voraussetzung ist darüber hinaus, dass der Grundrechtsträger FREIWILLIG eingewilligt hat. Sonst liegt kein Verzicht vor, sondern ein Entzug des Schutzes.
Zum Artikel: Es macht mE keinen Unterschied, ob Nutzer dazu verpflichtet werden, ihre Kommunikation durchsuchen zu lassen oder ob sie nur kommunizieren können, wenn sie vorab der Durchsuchung zugestimmt haben. Es sprechen sehr gute Argumente dafür, in beiden Fällen einen Verstoß gegen den Wesensgehalt des Fernmelde- bzw. Telekommunikationsgeheimnisses aus Art. 10 I GG anzunehmen, also eine besonders schwere Grundrechtsverletzung (Art. 19 Abs. 2 GG).
Ihr verlinkt auf den Wiki-Artikel „perceptual Hashing“.
Hier ein Zitat daraus:
„In an essay entitled „The Problem With Perceptual Hashes“, Oliver Kuederle produces a startling collision generated by a piece of commercial neural net software, of the NeuralHash type. A photographic portrait of a real woman (Adobe Stock #221271979) reduces through the test algorithm to the same hash as the photograph of a piece of abstract art (from the „deposit photos“ database). Both sample images are in commercial databases. Kuederle is concerned with collisions like this. „These cases will be manually reviewed. That is, according to Apple, an Apple employee will then look at your (flagged) pictures… Perceptual hashes are messy. When such algorithms are used to detect criminal activities, especially at Apple scale, many innocent people can potentially face serious problems… Needless to say, I’m quite worried about this.“[13]
FYI
Deep perceptual hashing algorithms with hidden dual purpose:
when client-side scanning does facial recognition
https://arxiv.org/pdf/2306.11924
Telegram Server liegen in Dubai. Opensource Android und Sideload.
Fertig. Auch Signal wird sich nicht beugen. Eventuell dann zwei Versionen wie bei Telegram. Da gibt es eine zensierte im Store und eine freie per APK vom Anbieter außerhalb Europas. Die Verbrecher werden auch ihre Kommunikationswege anpassen. Letztendlich wird wieder nur die große unschuldige Masse überwacht.