ChatkontrolleDas EU-Überwachungsmonster kommt wirklich, wenn wir nichts dagegen tun

Jetzt ist es raus: Die EU-Kommission will die Chatkontrolle einführen – und damit das größte Projekt zur anlasslosen Massenüberwachung seit Langem. Es braucht schnell Protest, damit das Vorhaben noch verhindert wird. Ein Kommentar.

Überwachendes Auge
Die Chatkontrolle ist das größte Überwachungsprojekt seit Langem. (Symbolbild) – Alle Rechte vorbehalten IMAGO / Science Photo Library

Irgendwie gab es immer wieder Hoffnung, dass die EU-Kommission doch noch Abstand nimmt von ihren Plänen. Doch nun ist nach zahlreichen Verschiebungen doch gekommen, wovor Bürgerrechtsorganisationen seit Monaten warnen. Die EU-Kommission hat ihre Pläne vorgestellt und will mit der sogenannten Chatkontrolle eine neue umfassende, anlasslose Massenüberwachung aller Bürger:innen einführen.

Messengerdienste wie WhatsApp oder Signal sollen gezwungen werden, Dateien daraufhin zu untersuchen, ob sie Inhalte wie Darstellungen von Kindesmissbrauch enthalten. Das Problem ist: Das Vorhaben etabliert eine Infrastruktur, mit der man theoretisch jedwede Datei suchen und an Behörden melden kann. Die Technologie ist ein Angriff auf die sichere, private und verschlüsselte Kommunikation und die Integrität unserer Endgeräte. Das sieht ein Konzern wie Facebook genauso wie die Hacker:innen vom CCC oder ein EU-Abgeordneter der FDP.

Angriff auf die Privatsphäre

Da kann sich die EU-Innenkommissarin noch so harmlos hinstellen und so tun, als handele es sich nur um eine Art Spamfilter. Nein, die Chatkontrolle ist kein Spamfilter, der unverschlüsselte E-Mails anschaut. Es geht darum, Zugriff auf die Dateien unbescholtener Menschen zu bekommen. Das geht nur, indem man Verschlüsselung schwächt oder die Dateien auf den Geräten der Leute mittels Client-Side-Scanning durchsucht. Das gefährdet Grundrechte.

Und weil die Innenkommissarin weiß, wie brisant ihre Pläne sind, versucht sie das Problem zu verschleiern: Sie will die technischen Details an eine noch zu schaffende ominöse EU-Zentralstelle delegieren, unter dem Dach der Polizeibehörde Europol. Es gibt keine technische Beschreibung im Gesetz, so kann die EU-Kommission Debatte und Proteste hinauszögern. Das Prinzip kennen wir schon: Bei der Urheberrechtsreform wurden die Uploadfilter auch nicht ausdrücklich genannt – und jeder, der eins und eins zusammenzählen kann, wusste, dass die technische Lösung auf Uploadfilter hinauslaufen wird. So ist es nun wieder.

Technologie verschleiern um die Debatte abzuwürgen

Für die jüngsten Überwachungspläne instrumentalisiert die EU-Kommission Kinder und Kinderschutz, und das obwohl auch Kinderschutzorganisationen den Eingriff für unverhältnismäßig halten. Während Polizeibehörden wie das Bundeskriminalamt es nicht einmal als ihre Aufgabe sehen, illegale Bilder auch löschen zu lassen, und die herkömmlichen Ermittlungsmöglichkeiten noch lange nicht ausgeschöpft sind, will die EU nun ein beispielloses Überwachungswerkzeug einführen. Ein Werkzeug, das einmal eingeführt für immer neue Inhalte und Durchsuchungen genutzt werden kann.

Und das ist nur ein Teil des Gesetzesvorhabens, das auch noch Netzsperren und Altersverifikationen enthält, welche die Anonymität bei der App-Nutzung untergraben. Das Vorhaben beinhaltet sogar, dass Internetdienste Grooming und unbekannte Bilder automatisiert erkennen. Hier werden die Behörden in das Leben zahlreicher unbescholtener Menschen eingreifen, weil Technik so etwas einfach nicht leisten kann und Fehler produzieren wird.

Die Pläne der EU-Kommission sind auf fast allen Ebenen gefährlich. Gegen diesen Irrsinn, der die IT-Sicherheit, verschiedene Grundrechte und die Demokratie als Ganzes gefährdet, sollten wir schleunigst aktiv werden, uns organisieren, verbünden und auf die Straßen gehen.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

18 Ergänzungen

  1. Demonstrationen und öffentlich erklärte Abscheu gegen dieses Vorhaben, dass dem totalitärer Staaten nicht nachsteht, sind wichtig.
    Nur, wenn auch der öffentliche Aufschrei gegen die Einführung gegen diese massive und extremistische Überwachungstechnik selbst diesesmal verfangen wird, wird eine erneute Mobilisierung in ein, zwei Jahren, wenn der nächste Durchsetzungversuch auf EU Ebene läuft und ohnehin noch andere Säue durch das Dorf getrieben werden, vielleicht noch den gewünschten Erfolg bringen, beim dritten mal wird das Vorhaben verschleiert und ohne mobilisierbare Öffentlichkeit durchgeführt.
    Ich möchte dem Aufruf folgendes anhängen: Spendet für Organisationen, die Klagen gegen die Gesetze vorbereiten und durchführen.
    Spendet für demokratische Organisationen die unsere Demokratie stärken.

    1. Klingt Nachvollziehbar. Was wären denn vernünftige Organisationen, die sich dafür einsetzen und Spenden annehmen? Ich bin interessiert zu Spenden, weil ich weder die Zeit noch die Energie habe, mich persönlich einzusetzen, aber die Thematik beunruhigt mich zutiefst.

        1. Ja.

          Denn es wird schon lange sehr viel gespended, Demokratie nicht stattfinden zulassen.

          Die Alternative wäre natürlich Revolution 8)

  2. Soweit ist das jetzt erst einmal nur ein Gesetzesentwurf, den die entsprechenden Abgeordneten auch ablehnen können.
    Demonstrationen sind sicherlich eine wichtige und wirksame Maßnahme, um die Aufmerksamkeit der Abgeordneten zu wecken. Es kann aber auch hilfreich sein, ihnen direkt zu schreiben.

    Wem muss ist da schreiben? Wer stimmt wahrscheinlich _für_ die Chatkontrolle, den man umstimmen müsste?

    1. Wollen wir nicht zuerst Jan Philipp Albrecht schreiben (er macht inzwischen etwas anderes auf SWH-Landesebene, aber er war derjenige, der in den Snowden Jahren die Datenschutzgrundverordnung durch die EU-Institutionen getragen hat ) : irgendwo in der Datenschutzgrundverordnung muss doch ein Satz stehen, der das oben genannte Vorhaben der Kommission illegal macht ? Diesen Satz hätte ich gern, um ihn auf das Plakat bei der nächsten Demo zu schreiben…

      1. IANAL, aber soweit ich sehen kann ist die DSVGO eben nicht für Kommunikationsinhalte zuständig, alldiweil diese viel grundlegender durch Artikel 10 Grundgesetz “ Das Briefgeheimnis sowie das Post- und Fernmeldegeheimnis sind unverletzlich.“ geschützt werden sollten.

        Also, wenn du was‘ für’s Plakat brauchst: „G10“.

      2. Leider nein, da war die EU schon richtig schnell und der erste Schritt wurde bereits gemacht: man hat das „freiwillige“ scannen erlaubt, und jetzt will man es eben zur Pflicht machen.

        „In Verhandlungen hat sich die EU-Kommission mit Rat und Parlament auf eine Ausnahme von der ePrivacy-Richtlinie geeinigt, die künftig Anbietern wie Facebook, Gmail oder Skype das Durchleuchten privater Chats erlauben soll. Eine Gesetzesänderung macht dies seit einigen Monaten rechtswidrig.“
        Quelle: https://netzpolitik.org/2021/eprivacy-ausnahme-eu-billigt-durchleuchtung-privater-chats/

      3. Danke für die Antworten, – stimmt leider (erschreckend),

        die DSGVO hilft hier nicht, die ePrivacy Verordnung ist wischiwaschi, die EU-Grundrechte-Charta Artikel 7 (Recht auf Achtung privater Kommunikation), 8 (Schutz pers.bez.Daten) und 11 (Informationsfreiheit) retten uns nicht direkt, bestenfalls der Verweis in Artikel 8 (3) => auf unabhängige Prüfung => EUGH (denn dessen Urteil lautet, dauerhaft und automatisiert und über alles : das kann nie verhältnismäßig sein), – bleibt noch Artikel 10 Grundgesetz „das Briefgeheimnis sowie das Post- und Fernmeldegeheimnis sind unverletzlich“ – glaubt das noch jemand, nach allem, was wir im NSA-Untersuchungsausschuss erfahren hatten? Absatz 2 des Art.10 relativiert ja, der Gesetzgeber darf alles, solange er nicht den Wesensgehalt des Grundgesetzes verlässt… Mit Artikeln und Paragrafen kommt man also nicht erfolgreich auf’s Plakat.

        Direkt : Vertraulichkeit der Kommunikation für Journalisten, Anwälte, Whistleblower, Menschenrechtsverteidiger, und für uns Bürger (Wähler) zurück zu fordern, ist wohl einfacher.

  3. Besonders besorgniserregend ist, dass sogar bisher unbekannte strafbare Darstellungen und „Grooming“ algorithmisch erkannt werden sollen.

    Mit „Grooming“ ist gemeint, dass sich Erwachsene sexuell an Minderjährige heranmachen. Doch um wen geht es da eigentlich, um unter 18-Jährige oder um unter 14-Jährige? Überhaupt: Welche Gruppe von Menschen dürfte am häufigsten online Minderjährige „groomen“? Richtig: Andere Minderjährige. Wird der 14-Jährige, der seine 13-jährige Klassenkameradin anchattet, dann zukünftig automatisch ans BKA gemeldet?

    Überhaupt: Das Schutzalter liegt in Deutschland bei 14 Jahren, d.h. Jugendliche dürfen ab diesem Alter auch online mit Erwachsenen in Chats flirten, wenn es einvernehmlich, selbstbestimmt und ohne Druck stattfindet. Wie soll ein Algorithmus solche komplexen zwischenmenschlichen Nuancen erkennen können? Und besteht nicht sogar die Gefahr, dass Sexting zwischen zwei Erwachsenen als False Positive erkannt werden könnte?

    Mal ein paar Zahlen aus der jüngst veröffentlichten Polizeilichen Kriminalstatistik 2021:

    Nur 51% der Tatverdächtigen bei „Verbreitung von Kinderpornografie“ waren Erwachsene. Die übrigen 49% verteilen sich auf Heranwachsende mit 8%, Jugendliche mit 25% und Kinder mit 16%.

    Besonders erstaunlich ist der Punkt „Herstellung mit Verbreitungsabsicht von Kinderpornografie“. 2021 wurden hier 276 Tatverdächtige erfasst. 62% davon waren Kinder, 11% Jugendliche.

    Die Verfolgung von Kinderpornografie hat sich in Deutschland in den letzten Jahren zu einem beachtlichen Teil hin zu einer Verfolgung von Jugendsexualität gewandelt, bei der Kinder und Jugendliche selbst bzw. deren Familien mit Hausdurchsuchungen und Strafverfolgung bedroht werden.

    Es ist vermutlich nur den Wenigsten bewusst, aber die Pläne der EU-Kommission stellen insofern auch eine nicht zu unterschätzende Gefahr für Kinder und Jugendliche selbst dar.

    Zur Erinnerung: Die Definition von Kinderpornografie ist in Deutschland zuvor erheblich erweitert worden. Strafbar sind u.a. Darstellungen von unbekleideten oder teilweise bekleideten Personen unter 14, welche eine aufreizend geschlechtsbetonte Körperhaltung einnehmen. Eine klare Abgrenzung zwischen strafbaren und legalen Darstellungen ist auf Grund der schwammigen Gesetzesformulierung in vielen Fällen nicht möglich.

    Wenn das schon für Menschen schwierig ist, wie soll dann ein Algorithmus das leisten?

    Und müssen wir uns nicht auch mal die Frage stellen: Ist eine strafrechtliche Verfolgung in der aktuellen Form überhaupt noch sinnvoll oder schadet sie mehr als sie nutzt?

  4. Man kann nur hoffen, dass das schnellstmöglich runtergebrochen wird bis zum präventiven Scan auf Urheberrechtsverletzungen und Steuerbetrug, dass plötzlich jeder ärger mit den Rechteverwahrern und dem Finanzamt bekommt. Vielleicht merken die Leute dann, was Sie da als Führung haben. Alles unterhalb wird weggeredet.

    Und eins ist langfristig klar, wenn die Schwangerschaftsabbruchverfolgung in US kommt, dauert +10 Jahre bis das auch hier ist, und man direkt auch darauf auf den Privatrechnern scannt.

  5. Ich habe alles versucht, was mir eingefallen ist. Ich habe Ms. Johannssen und von den Leyen angeschrieben und angerufen. Durch gekommen bin ich selbstverständlich nicht. Die arme Sekretärin hat versucht einen Rückruf zu vereinbaren, ging natürlich nicht. Dies versuche ich seit dem Beginn des Krieges in der Ukraine. Man wird ständig abgewiesen mit dem Hinweis, dass die Krise Vorrang hat. Die Krise hindert aber diese Faschisten nicht daran an umgestrittenen und verfassungswidrigen Gesetzen zu arbeiten.

    Eine nutzlose Antwort („Reply to a petition addressed to President Ursula von der Leyen, to stop the abolition of digital privacy of correspondence“) wurde an alle die kontaktiert habe gesendet. Nicht mal eine meiner Fragen wurde beantwortet. Von den Fachlichen Fragen (ich bin IT-Experte mit sehr viel KI-Erfahrung) müssen wir überhaupt nicht reden. Meine Meinung ist absolut irrelevant. Meine Bitte um einen Rückruf vom Migration and Home Affairs (Cybercrime) ist nie erfolgt. Eine Antwort auf meine Fragen ebenso nicht. Ich warte nun seit dem 05.04. auf irgendeine Reaktion.

    Früher war es noch möglich nach Straßbourg zu gehen und die Abgeordneten direkt anzusprechen – jetzt natürlich nicht mehr. Wo ist diese EU Demokratie zu finden? EU Institutionen bringen mir in dem geschilderten Fall einfach absolut nichts.

    Was ich als nächstes machen werde:
    – an Protesten teilnehmen
    – wenn dieser Vorschlag durchgeht, werden ALLE Verordneten angerufen um das Thema zu besprechen
    – massive Beträge an Organisationen wie Gesellschaft für Freiheitsrechte spenden
    – ich werde keine Bilder mehr mit meinen Kontakten teilen. Nicht weil ich etwas Illegales teile, sondern weil ich weiß wie diese Überwachungssysteme funktionieren (habe selbst Software entwickelt). Ich betreibe schon eigene Server, eigenes File Sharing ist einfach aufzubauen

    1. „EU Demokratie“ – Von „Konstruktionsfehlern“ über „nie so gedacht gewesen“ und „nicht machbar“ bis „so nicht der Fall“.

      Es sind zwar demokratische Staaten, aber grundständige demokratische Legetimierung und diesbezügliche Durchlässigkeit fehlen den EU-Prozessen nach wie vor. Zudem wirkt die EU auf die Gesetze der Teilnehmerstaaten, im ungünstigen Falle unter Umgehung oder gewissermaßen mittels Annulierung der im Weg stehenden Teile der jew. Verfassungen.

      So gesehen haben wir auch „weniger Demokratie eingekauft“. Nun wacht die EU auch über Kriterien zur Demokratie, wenn auch bisher wohl mit durchwachsenem Erfolg. Diese Sorte Vorhaben habe leider mehr als nur das Potential die DemkratieFÄHIGKEIT Europas zu zerstören. Das wird dann irgendwas wirtschaftliches geopolitisches mit ein bischen Abstimmung am Rande. Bei perfekter wissenschaftlich-psychologisch und philosophisch-langfristig orientierter fundierter Technokratie, wäre das auszuhalten.

  6. Inzwischen bin ich kein Freund der EU mehr.
    Die Idee war gut, aber langsam entwickelt sich dieses Konstrukt zu einem autoritären Bürokratiemonster.
    Leistungsschutzgesetz, Upload-Filter, Mica-Rules, Bitcoin-Verbot, Chat-Kontrolle.
    Sehr Zielsicher greift die EU mit schönen Worten alles an, was den Menschen Freiheit im Netz gewährt.
    Leider verstehen die meisten diese Entwicklung nicht und fallen auf die fadenscheinigen Begründungen hinein. (siehe Klimadebatte bei Bitcoin, Anti-Geldwäsche bei Mica, Kindesschutz bei chats usw …)

    1. Online-Petitionen halte ich gerade für eine denkbar schlechte Idee, weil die der einfachste Weg sind, die Energie der Bürgerinnen und Bürger zu binden, echte Aktionen zu verhindern und damit den Protest wirkungslos verpuffen zu lassen.

      Die Menschen müssen auf die Straße, überall. Und nicht davon entmutigen lassen, wenn man nicht gleich beim ersten Mal tausende Teilnehmerinnen und Teilnehmer findet. Greta Thunberg hat als Einzelperson angefangen.

    2. Change.org ist doch selbst eine Datenkrake – hat 2016 den Big Brother Award bekommen.

      Darüber hinaus halte ich so ziemlich gar nichts von diesen ganzen Online-Protesten. Die werden meiner Meinung nach von der Politik nicht allzu ernst genommen. Wer zu bequem ist, eine eigene Email zu formulieren, dem ist das Thema augenscheinlich auch nicht so richtig wichtig.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.