Messenger-ÜberwachungEU-Innenminister wollen Chatkontrolle

Die Innenminister:innen der EU-Staaten stellen sich hinter die Idee der Einführung einer sogenannten „Chatkontrolle“. Unter dem Begriff versteht man das Durchsuchen von Dateien auf den Endgeräten von Bürger:innen, noch bevor diese zum Beispiel über verschlüsselte Messenger versendet werden.

Handy mit Signal und WhatsApp
Die Idee der Chatkontrolle könnte die Ende-zu-Ende-Verschlüsselung aushebeln, weil schon vor dem Senden Dateien durchsucht werden. Gemeinfrei-ähnlich freigegeben durch unsplash.com Adem Ay

Die Innenminister:innen der EU sprechen sich für eine Einführung der Chatkontrolle aus. Diese Form der präventiven Massenüberwachung steht wegen Gefahren für Privatsphäre, IT-Sicherheit, Meinungsfreiheit und Demokratie in der Kritik. Netzpolitik.org hat in einem Grundlagenartikel die Probleme und Fragen, die mit der „Chatkotrolle“ zusammenhängen, beschrieben.

In der Erklärung des Innenministertreffens (PDF) begrüßen die Minister:innen die Unterrichtung der Kommission über den bevorstehenden Gesetzentwurf. Dieser sieht möglicherweise Verpflichtungen für Internetdiensteanbieter vor, sexuellen Missbrauch von Kindern online aufzudecken, zu melden und zu beseitigen. Weiter steht dort:

Die Minister betonten auch die entscheidende Bedeutung der Zusammenarbeit mit Internetanbietern von Internetdiensten, Plattformen für soziale Medien und Anbietern elektronischer Kommunikation, die am besten in der Lage sind, sexuellen Kindesmissbrauch proaktiv aufzudecken und zu melden. (unsere Übersetzung)

Hinter dem Wort „proaktiv“ kann sich im Bereich Internet und Sicherheit ein Durchsuchen von Dateien verbergen, das Wort wird auch im Zusammenhang mit Uploadfiltern benutzt, bei denen Dateien vor dem Upload durchsucht werden.

Hintergrund der Stellungnahme ist ein Gesetzespaket zur Bekämpfung von sexuellem Kindesmissbrauch, das die EU-Kommission bald vorstellen will. Ein Teil des geplanten Gesetzes behandelt die Verbreitung von Darstellungen von Kindesmissbrauch im Internet. Ins Visier soll das Gesetz auch private und verschlüsselte Kommunikation nehmen, etwa über Messenger-Apps.

Kurzfristig verschoben

Ursprünglich wollte die Kommission den brisanten Gesetzentwurf bereits am 1. Dezember vorstellen, inzwischen ist der Punkt jedoch aus dem Kalender der Kommission verschwunden. Auf Anfrage von netzpolitik.org bestätigte eine Sprecherin in der letzten Woche lediglich, dass die Kommission an dem Vorschlag arbeite. Ein konkretes Datum könne sie im Moment aber nicht nennen.

Wie sich das EU-Parlament zu dem Vorschlag positionieren wird, ist derzeit noch offen. Allerdings stimmten die Abgeordneten in diesem Jahr dafür, Online-Diensten wie Facebook, Skype oder Gmail das Scannen von Inhalten wieder zu erlauben. Auf freiwilliger Basis geschieht dies auf vielen Plattformen und Cloud-Diensten schon seit geraumer Zeit, kürzlich gestärkte Datenschutzbestimmungen machten die Praxis jedoch vorübergehend illegal. Die eilig beschlossene Ausnahmeregel gilt vorerst für drei Jahre, betrifft nur unverschlüsselte Inhalte und könnte durch das nun geplante Gesetz ersetzt werden.

Gefährliche Überwachungstechnologie

Eine Überwachungstechnologie, die aus dem EU-Gesetz folgen könnte, wird Client-Side-Scanning (CSS) genannt. Zuletzt haben weltweit bekannte IT-Sicherheitsforscher:innen und Erfinder von Verschlüsselungssystemen in einer gemeinsamen Studie alle Pläne für Inhalte-Scanner auf den Geräten von Endnutzer:innen heftig kritisiert. Die Expertinnen kommen zum Schluss: Client-Side-Scanning ist eine Gefahr für Privatsphäre, IT-Sicherheit, Meinungsfreiheit und die Demokratie als Ganzes.

Technisch gesehen ermögliche CSS zwar noch eine Ende-zu-Ende-Verschlüsselung, aber das sei fraglich, wenn die Nachricht bereits vor dem Abschicken nach gezielten Inhalten durchsucht würde. Zudem schaffe CSS Sicherheitslücken und Einfallstore für Akteure wie staatliche Hacker und Kriminelle.

#1MillionForDigitalRights

Wir brauchen eine Million Euro für ein Jahr netzpolitik.org. Eine Million für ein ganzes Jahr kritischen und unabhängigen Journalismus: Denkanstöße, Berichte aus Brüssel, Analysen, Meldungen, Kommentare, Aufklärung, investigative Recherchen und Leaks. Wir machen Druck für Grund- und Freiheitsrechte in der digitalen Welt. Bis wir unser Spendenziel erreichen, fehlt noch sehr viel Geld. Deswegen:

Hier klicken und sofort spenden!

Hier klicken und sofort spenden!

21 Ergänzungen

  1. Bürger:innen

    Ist es nicht gerade auch das Problem, dass es Menschen ohne Pass treffen wird? Oder sollen nur EU-Bürger:innen überwacht werden?

    1. Letztlich hat das nichts mit Pässen und Staatsbürgerschaften zu tun. Das kann technisch nur so laufen, dass Dienste-Anbieter usw. verpfichtet werden, die Dateien zu durchsuchen. Auf welcher Ebene das wo passiert, ist noch nicht klar. Letztlich geht es bei der Technologie nicht um eine Identifizierungspflicht, sondern um Inhalte, die überprüft/überwacht werden. Eine Identifizierungspflicht würde wenn dann über die Handynummer gemacht werden. Da (fast) alle EU-Staaten eine Ausweispflicht beim Erwerb einer SIM-Karte einfordern, kann man hierüber weite Teile der Nutzer:innen in ihrer Identität erfassen.

  2. Ich will da noch hinzufügen das die Chatkontrolle ja auch dazu führt das Polizei Aufgaben privatisiert werden. Das heißt das Konzerne wie Facebook die als Filter Anbieter fungieren dann Zugriff auf alle Dateien erhalten um ohne vorherige richterliche Anordnung hin Strafrechtlich gegen die eigenen Nutzer zu ermitteln. Der Richtervorbehalt vor staatlichen Überwachungsmaßnahmen wird somit komplett umgangen.

    So argumentiert da jedenfalls die Piratenpartei, siehe:

    https://flaschenpost.piratenpartei.de/2021/08/19/big-brother-ist-bald-privatmann/

    Es wäre daher mal interessant in wie fern solch ein Vorhaben überhaupt Verfassungskonform und mit der Idee eines demokratischen Rechtsstaates an sich kompatibel ist. Schließlich wird ja hier Gewaltenteilung und Staatliches Gewaltmonopol zugunsten der Konzerne die dann Polizeikompetenzen bekommen aufgeweicht.

  3. Halt mal, in dem Text steht doch nirgendwo, dass die Innenminister das „wollen“.

    Wortwörtlich heißt es:

    The ministers welcomed the briefing by the Commission on the upcoming legislative proposal to prevent and combat child sexual abuse, which may propose obligations on online service providers to detect, report and remove child sexual abuse online, as a means to support industry in its efforts to prevent and combat these crimes, and could create an EU centre to prevent and combat child sexual abuse.

    Die begrüßen, dass sie informiert werden, aber nicht den Inhalt.

    Der Artikel ist also etwas irreführend.

    1. Die Formulierung ist ja auch etwas arg schwammig…. Grundsätzlich ist es ja wünschenswert das Kinderpornos gelöscht und die Täter verfolgt werden. Welch drastische Folgen das in dieser Form hat (Staatliche Überwachungssoftware auf allen PCs) wird da nicht genannt…. Ich habe den Eindruck da geht es darum das mit möglichst harmlosen verschleiernden Formulierungen zu verhüllen damit die Öffentlichkeit keinen Anstoß nimmt.

      Die Innenminister dürften aber dennoch total dafür sein, wann waren die denn jemals gegen die Ausweitung der Totalüberwachung aller Bürger ?

    2. Wortlaut hin oder her, ob jetzt Original oder Übersetzung – dass die EU-Innenminister das wollen ist doch kein Geheimnis. Das ist nicht erst seit gestern so.

  4. Um politische Begierden durchzusetzen braucht es Mehrheiten in Abstimmungen. Diese Mehrheiten wollen erst mal organisiert werden und das wird immer schwieriger. In der Vergangenheit wurden schon verschiedene Narrative erprobt: Drogen, Eigentumsdelikte, Terrorismus. Ein wenig Paranoia hilft immer, wenn Statistiken (aka Hellfeld) nichts hergeben. Möchte man den wissenschaftlichen Diskurs wegen mangelnder Ergiebigkeit verlassen, so begibt man sich ins sog. Dunkelfeld zu, dort wo man nix sieht, aber umso mehr vermuten darf.

    Reicht das immer noch nicht, dann müssen kräftig Emotionen geschürt werden. Hierzu sind sexualisierte Straftaten immer gut, und das Abscheulichste am geeignetsten.

    Sind die Menschen mittels eines geeigneten „Narrativs“ (lat. narrare: erzählen, i.w.S. auch der Narr, der es glaubt) von Realität und Vernunft hinreichend entfernt, schlucken sie fast alles.

    Damit Menschen sich freiwillig kontrollieren und bewerten lassen, braucht es einen moralisch höheren Sinn zur Rechtfertigung: Etwa so wie der Kettenraucher die Löcher im Staatshaushalt stopft, und ein Blockwart das Fundament von Recht und Ordnung sichert.

    Jene, die zu den Erzählern zählen, verfolgen jedoch eigene „höhere“ Interessen, die nicht deckungsgleich sein muss mit der Erzählung, welche der Bevölkerung vorgehalten wird.

    Rückblickend scheinen die Zeiten weniger verlogen zu sein, als Briefe noch aufgedampft wurden. Vielleicht wäre Politik erfolgreicher, wenn wir darüber debattieren würden, ob Briefe und Pakete wieder generell inspiziert werden sollen. Das da alles drin ist! Hoch kriminell!

    1. Es geht im Gegenzug dann also aber auch darum Gegennarrative zu schaffen. Gegen Überwachung zu Argumentieren reicht allein nicht, man muss dann eben aber auch FÜR Freiheit emotionalisieren. Das kommt zu kurz, auch weil es in der Netzpolitischen Szene zu viele Einzelkämpfer gibt !

      Da bräuchte es mal ein Bündnis aller Kräfte, CCC, Piratenpartei, Anonymous, Netzpolitik, Aka Vorrat und viele andere… Aber da kommuniziert man nicht untereinander, alle machen ihr eigenes Süppchen und ohne gemeinsame Roadmap erreicht man die Öffentlichkeit dann eben kaum effizient.

  5. Aha, also werden die Pädös die Daten lokal verschlüsseln und dann in den Messenger „pushen“. Apps die vor der Versendung Dateien verschlüsseln gibt es bereits. (Schlüsselaustausch muss halt manuell stattfinden, aber wenn man nicht erwischt werden will).
    Das würde ja auch bedeuten, dass theoretisch langfristig jede Art von APP die verschlüsselt, proaktiv die Daten vorher scannen muss. Da man sonst diese „Durchleuchtung“ relativ einfach umgehen kann, wenn man das möchte. Es sieht für mich so aus, dass in erster Linie es nicht um Missbrauch von Kindern geht.
    Wenn man Kinder schützen will, muss man die Kinder in der Schule dafür sensibilisieren, einen Raum für Vertrauen herstellen, in Pädagogen investieren die für so was geschult sind und eine Reaktions-Kette bis zum Jugendamt/Polizei aufbauen. Von mir aus kann in so einem Fall dann auch aus allen Rohren geschossen werden (TKÜ, Hausdurchsuchung etc.). Zwar würde es nicht in erster Linie die kleinen Kinder schützen, aber wenn diese in die Schule kommen, hätten Sie da die Möglichkeit sich Hilfe zu holen. Ist suboptimal, aber immer noch besser ein System der „Massenüberwachung“ zu installieren, da dies in einem Missbrauchsfall auch einen großen Schaden anrichten würde. Bei allen…

    1. bzgl. vor Versenden Verschlüsseln beim Chatten: Sicherlich wird das erfolgreich gemacht. Die Profis werden durch solche Sicherheitsgesetze weniger berührt, die haben ja vorgesorgt. Eher trifft es wie meistens die Normalos unter den Tätern oder auch „Tätern“. Gelegenheitsnutzer bzw. Konsumenten und so weiter. Die Mehrzahl davon wird unbedacht vorgehen oder es einfach nicht wissen. KiPo-Versand (und bald darauf auch weitere staatlich verfolgte Inhalte) wird nicht nur von Profis gemacht. Die armen Schweine unter den Tätern und „Tätern“ erwischt es dann mit maschineller Unterstützung, unter dem Gejohle der Sicherheitsszene und der Tagespresse.

  6. Chatkontrolle findet längst erfolgreich statt:

    „Laut den Staatsanwaltschaften Kassel und Frankfurt am Main war das Landesamt für Verfassungsschutz Ende August auf englische Chats des Tischlerlehrlings aufmerksam geworden, in denen er sich nach Waffen und der Herstellung selbiger mittels 3D-Druck erkundigte.“

    https://taz.de/600-Sprengsaetze-in-Hessen-gefunden/!5812195/

    Offenbar hat die geltende Rechtslage dafür ausgereicht.

    1. Es gibt genug Leute aus dem Rechten Spektrum die auch auf öffentlichen Telegramm Kanälen sowas schreiben. Teils unter Klarnamen, da braucht man dann keine Überwachung um die zu erwischen !

      Hab auch schon ein paar von der Sorte Polizeilich angezeigt :)

  7. Ich will auch so viel 1 Milliarde Euro 70kg weniger aber das heißt nicht das ich das bekomme 😡 diese Chat Kontrolle greift in meine Privatsphäre ein und die Leute die sie damit bekommen wollen sind nicht so dumm und nutzen diese Art Chats 🤦‍♂️ Leute schreibt eure Abgeordneten an und beschwert euch das ist nur vor Stufe als Nächstes wird nicht nur auf Kinder Pornos gesucht

    1. Vor allem sollte nicht NUR auf die Privatsphäre geguckt werden.
      Je nach dem, wie das noch ausgeformt wird, bekommen vielleicht sogar „technische Handlanger“, aber in jedem Falle nicht nur „der Staat“ sondern verschiedene Staaten bzw. Behörden daraus, die Möglichkeit, wahlweise massiv einzugreifen, und vielleicht auch massiv weitere Daten zu sammeln.

      Unterbindung von Diskurs zu bestimmten Themen oder unliebsamer Presse/Künstler/Unternehmen/Informationen ist nicht nur mit Uploadfiltern prinzipiell möglich.

  8. Die Firma Apple hat sich gerade von einem ähnlichen, eigentlich noch umfassenderen Vorhaben etwas zurück gezogen aufgrund massiver internationaler Ablehnung. Präventive Onlinedurchsuchung von privater Kommunikation (Filterung, „Chatkontrolle“) sind zivilisationsverändernd und dadurch auch -gefährdend.

    Was tun?
    – Die Mehrheit kann und wird nichts tun.
    – Interessierte Personenkreise (zunehmende Anzahl):
    1) Erwachsen werden im eigenen Nutzungsverhalten. Dinge auch mal sein lassen und entsprechenden Druck und Mangel aushalten lernen. „Nein, ich bin wirklich nicht mehr auf Facebook/Whatsapp“
    2) Ausweichen auf kaum regulierbare Plattformen und Anwendungen. Linux ist ein Türöffner, mit z.B. Ubuntu hat man vieles was im Leben benötigt wird plus ein IT-Kompetenztraining obendrauf (denn ganz ohne eigeninitiative wird es hin zu Linux nicht klappen). Matrix org ist ein guter Ersatz für derzeitige Massen-Chats. Leider wird der kostenlose Anbieter element.io dann aber wohl auch überwacht werden, so dass es außereuorpäische oder kooperativ gehostete Anbieter braucht.
    3) Konsequenzen ziehen: IT-Anwendungen von außerhalb der Rechtsräume der EU, USA und China nutzen. Open Source-basierte Chatplattformen können egal wo gehostet werden. Wir benötigen keine EU-Betreiber mehr für unser Privatleben, wenn die EU einen sicheren, würdevollen IT-Betrieb verbietet.

    1. volle Zustimmung!
      Außer der Empfehlung Ubuntu.
      Canonical hat selber Benutzer-Bespitzelung eingebaut. Wenn es in diese Richtung gehen soll, dann Mint oder noch besser LMDE.
      Letzteres, weil Ubuntu mit 20.04 technisch eine Richtung eingeschlagen hat, die auf Vendor-Lock-In hinausläuft. Das hat Mint mit Version 20 so gerade eben noch umgehen können, aber das wird auf Dauer nicht funktionieren. Dann besser gleich zur Quelle Debian als Basis: LMDE. In meinem Blog habe ich ausführlicher darüber berichtet.

    2. Problem bei 3):
      a) Ausländer sind oftmals Freiwild.
      b) Geheimdienste arbeiten so gern zusammen, und haben dort im Zweifel guten Zugriff.
      c) Die Motive der dortigen Zugreifer sind nicht besser, oder sogar schädlicher.

      Das ist nicht als Absage zu verstehen, aber ich halte das für eine real vertane Chance seitens EU. Das ist dann tot, und es ist nicht klug.

  9. Dazu fällt mir noch ein, wie perfide das EU-System mittlerweile seine „Fürsorglichkeit“ gegen Menschen ausspielt:

    Die DSGVO (Datenschutz-Grundverordnung) ist ein starker Antrieb für Privatleute, Unternehmen u. Organisationen, für Internetanwendungen auf EU-Anbieter zu setzen, da hier der Datenschutz (angeblich) eher sichergestellt ist. Die DSGVO war ein Melienstein.

    Daher massiver juristischer Druck zur Nutzung europäischer oder anderweitig „sauber“ regulierter Anbieter.

    Möchte ein Unternehmen/Organisation aufgrund von Risiken wie „Chatkontrolle“ nun auf außereuopäische aber vertrauenswürdige Anbieter ausweichen, wird das durch den wegen der DSGVO und weiteren neuen Regulierungen erzeugten Druck erschwert.

    Fazit: Durch Regulierung zum Schutz der Bürger wird es zukünftig wohl schwerer, wirklich freie Anbieter weltweit auszuwählen.

    1. „Fazit: Durch Regulierung zum Schutz der Bürger wird es zukünftig wohl schwerer, wirklich freie Anbieter weltweit auszuwählen.“

      Vor allem aber selbst einer zu sein. Regulierung wirklich großer Plattformen… ok – aber was machen jetzt kleine Entwickler mit zusätzlichen Filterpflichten u.ä., schon eine Communityseite wird zur Hypothek.

  10. Es wird für mich echt Zeit, mal wieder ein anderes OS für ein Handy auszuprobieren. Ich bin mal gespannt wie und ob man die neuen angedachten Vorhaben in alternative Betriebssysteme wie z.B. lineage OS Integrieren will bzw wird.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.