Gesetz gegen KindesmissbrauchEU-Kommission will private Nachrichten durchleuchten

Laut einem geleakten Gesetzesentwurf, den wir veröffentlichen, könnte die EU bald das Scannen von Millionen Nachrichten auf Anzeichen von Kindesmissbrauch vorschreiben. Abgeordnete warnen vor massiver Überwachung.

Chatkontrolle
Werden verdächtige Chats bald automatisch den Behörden gemeldet? (Symbolbild) CC-BY-SA 2.0 Montecruz Foto/Montage netzpolitik.org

Die Europäische Kommission könnte Plattformen wie Facebook, WhatsApp oder Signal bald das Durchleuchten von Inhalten und Nachrichten ihrer Nutzer:innen vorschreiben. Durchsetzen soll das ein Vorschlag für eine EU-Verordnung zur Bekämpfung von Kindesmissbrauch, den die Kommission am morgigen Mittwoch vorstellen will. Gegen die Vorschriften formiert sich allerdings bereits seit Monaten Widerstand.

Nach Vorstellungen der EU-Kommission sollen Plattformen künftig Maßnahmen zur Bekämpfung von Kindesmissbrauch angeordnet werden können. Der Vorschlag unterscheidet drei Arten von sexualisiertem Missbrauch: die Verbreitung bereits bekannter Missbrauchsdarstellungen, bislang unbekanntes Material und die entsprechende Kontaktaufnahme zu Kindern. Für jede dieser drei Kategorien soll es verschiedene Indikatoren geben, die in einer Datenbank verzeichnet sind.

Schon länger Warnungen vor „Chatkontrolle“

Wie genau die Betreiber die Indikatoren aufspüren sollen, spezifiziert der Entwurf nicht. Die Anbieter sollen geeignete Technologie einsetzen, um entsprechende Anzeichen zu erkennen. Das kann etwa bestimmte Software zum Scannen auf verdächtige Inhalte sein oder zum Abgleich von Videos und Bildern mit bekannten Kindesmissbrauchsinhalten. Verdachtsfälle müssen dann den Behörden gemeldet werden.

Anbieter sollen mittels Anordnungen zu Maßnahmen verpflichtet werden können, wenn etwa auf dem Dienst ein besonders hohes Risiko besteht, dass dieser für sexualisierte digitale Gewalt an Kindern genutzt wird.

Bereits im Vorfeld hatte eine Kampagne von Abgeordneten und aus der Zivilgesellschaft vor einer „Chatkontrolle“ gewarnt. Dabei ging es um Befürchtungen, dass sogenanntes Client-Side-Scanning vorgeschrieben werden könnte. Dies bedeutet, dass Software zur Prüfung aller Inhalte schon auf dem Gerät der Nutzer:innen installiert werden muss. Damit soll selbst Ende-zu-Ende-Verschlüsselung umgangen werden, jedes Bild oder Video würde dann der Prüfung unterzogen werden können.

Entwurf könnte Client-Side-Scanning bringen

Ob die EU-Kommission nun Client-Side-Scanning vorschreiben möchte, blieb zunächst unklar. Ein geleakter Textvorschlag der Kommission (den wir veröffentlichen) spricht davon, dass die konkrete Technologie von einer neu einzurichtenden EU-Zentralstelle gegen Kindesmissbrauch ausgesucht werden soll. Dabei einbezogen werden soll aber auch der Europäische Datenschutzbeauftragte, der vor der überschießenden Maßnahmen im Kampf gegen Kindesmissbrauch gewarnt hat.

Um welche Technologien es sich konkret handeln könnte, sagt der Entwurf der EU-Kommission nicht. Auch ist noch unklar, ob es sich bei dem geleakten Entwurf um die endgültige Version des Kommissionsvorschlags handelt. Doch der Verweis auf eine nicht näher benannte „Technologie“ ohne konkrete Einschränkungen könnte für das neue EU-Zentrum zum Blankoscheck werden, um das Scannen aller Inhalte direkt auf dem Gerät europaweit für alle Plattformen und Messengerdienste zur Vorschrift zu machen.

Auch Stimmen aus der Zivilgesellschaft zeigen sich extrem skeptisch. „Die Vorstellung ist unerhört, dass die private Kommunikation von Hunderten von Millionen Menschen in der EU, von der sie vernünftigerweise erwarten, dass sie privat ist, wahllos und generell rund um die Uhr gescannt wird“, sagte Ella Jakubowska vom NGO-Dachverband European Digital Rights (EDRi) im Vorfeld dem Online-Medium Politico. In Berlin ist am Mittwoch ein Protest vor der Vertretung der EU-Kommission gegen das Vorhaben  geplant.

EU-Innenkommissarin Ylva Johansson hält trotz der Bedenken an dem Vorhaben fest. „Die Täter verstecken sich hinter der Ende-zu-Ende-Verschlüsselung; sie ist einfach zu benutzen, aber fast unmöglich zu knacken, was es den Behörden erschwert, Straftaten zu untersuchen und zu verfolgen“, beklagte Johansson Ende April.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

20 Ergänzungen

  1. Faszinierend das Schweigen der Industrie, Wirtshaft und Forschung.

    Unter dem Vorwand von Kinderschutz geht es ausschließlich um Betriebs, Wirtschaft und Industriespione.

    Entweder hat die Covid19 Pandemie oder der Klimawandel zu einer geistigen Degeneration geführt, anders kann man sich diese grenzenlose Dummheit nicht mehr erklären.

    1. Das fällt dir jetzt vielleicht nicht sofort auf, aber einige die du in „Industrie, Wirtshaft und Forschung“ schweigend wahrnimmst, haben chronische Stimmbandentzündung, weil sie schon länger als 20 Jahre schreiend herumlaufen.

      Die letzte Internetgeneration (also Insta, Twitter und TickTock) hatte es ja nicht so mit Überwachungsthemen und Datenschutz.

  2. ist es eigentlich absicht bzw hat es system, dass die EU auch nach dem austritt von GB alle gesetzesvorhaben vor allem auf englisch vorantreibt? hat das vielleicht zum ziel all jene menschen vom politischen diskurs auszuschliessen die nicht perfektes englisch beherrschen??
    ich konnte den entwurf mit meinem schulenglisch nicht verstehen.

    1. Ja.

      Mal davon abgesehen, dass Juristen- und Verwaltungsdeutsch auch nicht unbedingt allgemeinverstaendlich ist.

      De facto bildet sich eine einheitliche Arbeitssprache aus, und das ist Englisch. Eine andere Sprache waere nur noch mit expliziter Entscheidung und grossem Aufwand realisierbar, wird nicht passieren.

      Die sinnvolle Konsequenz waere, die Buerger moeglichst weit zur Zweisprachigkeit zu bringen und zu unterstuetzen. Das wuerde auch wirkliche EU-weite Diskurse erlauben, EU-weite Medien signifikanter Reichweite, etc, pp. Das ist der herrschenden Klasse natuerlich nicht behilflich, also wird es nicht gemacht. Ist mE allerdings ein Generationenthema, die Generation Internet kann Englisch oder ist bildungsseitig abgehaengt (natuerlich auch ein kein Zufall sondern Privilegienerhaltung).

      1. „ist bildungsseitig abgehaengt“

        Ich zähle mich zur geringen Menge „Generation Internet“ die sehr schnell nach 1989 via uucp news hinter in-berlin auch für fido und z-netz verbreitetet gehabt zu haben. – Da kostete Telefon noch Geld und war ein fernes Ferngespräch mit Akkustikkoppler.

        Das ich es bis heute nicht geschafft habe, auch nur irgendeine Vorlage ansatzweise in englisch (fehlerfrei) verstanden zu haben, wo Sie doch selbst feststellen das es auf deutsch auch nicht hilft, mich als bildungsfern zu bezeichnen, halte ich schon für einen mächtigen Griff ins Klo.
        Vielleicht nochmal drüber nachdenken.

        1. Ich habe aus guten Gründen nicht „bildungsfern“ geschrieben. Goethe hilft einem ja auch nicht, wenn man das klingonische Original nicht lesen kann.

          Ausreichend Englisch zur Teilhabe an gesellschaftlichen Prozessen ist mittlerweile notwendiger Teil von Bildung. Wer das nicht hat, hat einen Nachteil gegenüber anderen, und das ist letztlich eine Bildungsfrage. Übrigens auch für englische Muttersprachler, denn „international English“ ist zwingend eben nicht perfektes UK, US, Australian oder sonstwas lokales und primär durch dortige lokale Kultur definiertes.

          Dass „ausreichend“ kein spezialisiertes Verwaltungsenglisch voraussetzen darf und hier auch eine Bringschuld an Bürgernähe vorliegt: d’accord.

    2. Naja, Englisch ist halt irgendwie der gemeinsame Nenner. Wenn statt dessen Estnisch oder Slowenisch verwendet würde, wäre das wahrscheinlich auch nicht recht. Und es würde wohl den Ruf der EU als gletscherhaft schwerfällige Organisation nur weiter zementieren, wenn schon jeder einzelne Entwurfstext in alle 24 offiziellen EU-Sprachen übersetzt werden müsste. Spätestens zur Veröffentlichung ist das aber fällig.

      Im übrigen gibt es ja auch nach dem Brexit noch EU-Länder, in denen Englisch offizielle Amtssprache ist (Irland und Malta).

  3. Was mich bei den EU-Vorhaben immer wieder stört ist, dass ein Kind („Child“) schon jede Person unter 18 Jahren ist. Das schafft meiner Ansicht nach einige Probleme mit der nationalen Gesetzgebung in DE bzgl. der Definitionen – denn in DE ist ein Kind <14 Jahre. Der Erfassungsbereich der Verordnung/Richtlinie wird damit in DE viel weiter ausfallen als man es als DE-Anwalt erwarten würde. Die Gefahr, dass auch Jugendliche unschuldig in den Fokus von Ermittlungen geraten ist so nicht von der Hand zu weisen (wie auch der CCC in seiner Stellungnahme festgestellt hat). Ich bin da durch mein Jura-Studium in der Hinsicht wohl auch grundlegend anders gepolt …
    (Die radikale Unterscheidung entlang der Trennlinie "18-Jahe-Alt" kenne ich sonst so nur aus USA)

    1. Keine Sorge, Deutschland hat das „Problem“ schon vor Jahren gelöst, indem es den Straftatbestand der „Jugendpornografie“ eingeführt hat, um alle abzudecken, die mindestens 14 Jahre alt und damit strafrechtlich gesehen keine Kinder mehr sind, aber auch noch nicht volljährig sind. Dummerweise sind Jugendliche ab 14 Jahren auch strafmündig, und damit hat es vor allem dazu geführt, dass verliebte Jugendliche, die einander Nacktfotos von sich selbst schicken, vor dem Jugendstrafrichter landen, sobald ein Staatsanwalt mal wieder einen schnellen Karriereschub braucht – und es gibt nun mal auch in Polizei und Justiz einen soliden Anteil an Beamten, welche primär daran interessiert sind, in die nächste Besoldungsstufe befördert zu werden, und dafür möglichst viele und prestigeträchtige Fälle brauchen. Mit der Chatüberwachung haben solche freidrehenden Staatsanwälte noch leichteres Spiel.

  4. Bemerkt eigentlich jeder die Heuchelei? Während hier die im Neusprech „Chatkontolle“ genannte Maßnahme sämtliche Bügerinnen und Bürger einem Überwachungsregime unterwerfen soll tagt man andernorts im Untersuchungsausschuss um die Pegasus-Spionage aufzuklären.

    1. Was soll daran Heuchelei sein? Wenn eine Regierung ein Gesetz beschließt und Oppositionskreise einen Untersuchungsausschuss zu einer anderen Sache durchführt, gehen Interessengruppen unterschiedlichen Interessen nach.

      Man wird nicht dadurch zum Heuchler, nur weil man derselben Institution angehört.

  5. Ein Aspekt, der bei dem ganzen Thema meiner Meinung nach stärker betont werden sollte, ist die Tatsache, dass die EU genau die privaten Betreibern zum Scannen (also quasi Mitlesen) aller Nachrichten ihrer Nutzer verpflichten will, deren Datensammelei die gleiche EU im Rahmen anderer Vorhaben zu Recht zu regulieren/brechen versucht. Klar werden die jeweils durch andere Politiker vertreten, aber es scheint ja grundsätzlich für beides eine Mehrheit geben zu können…

    1. Ah, nein, nicht Sammeln.

      Der Ansatz ist vollstaendige Erfassung und Auswertung mittels zentral konfigurierbarer Regelsaetze/ML-Engine auf dem Geraet, mit Alarmierung und Ausleitung bei Bedarf. Das ist wesentlich maechtiger, wesentlich flexibler und kann vom Hersteller im Betriebssystem, und damit an allen Sicherungen in Apps vorbei, implementiert werden.

      Sammeln ist fuer Anfaenger.

      1. Ohja: ML für Unbekanntes oder zB Gesprächsinhalte ist natürlich auch wesentlich fehleranfälliger. Aber genereller Überwachungsdruck und Angst vor Kriminalisierung ist ja Teil des Designs.

  6. analog dazu könnten auch regelmässig, auf der Suche nach Missbrauch, Straßenzugsweise Hausdurchsuchungen durchgeführt werden. Waffensammler, Drogenanbau und zufällig liegen in irgendwelchen Kellern noch ein paar versteckte Leichen.

  7. Wiedereinmal sollen unter einem Vorwand Bürgerrechte beschnitten werden. Wenn schon der Deutsche Kinderschutzbund kritisiert das verschlüsselte Kommunikation keine Roll bei der Verbreitung spielt lässt dies aufhorchen.

    Macht aber nichts, es wird wieder USB-Sticks geben, die mit der Post versendet werden. Natürlich ist der Inhalt verschlüsselt.

  8. Mal ganz davon abgesehen, dass dies einen Präzedenzfall für anlasslose Massenüberwachung schafft, kann dieses Gesetzt für viele Opfer einen Gegenteiligen Effekt haben.
    Viele Opfer von Kindesmissbrauch sind meinst kaum in der Lage verbal oder in einem persönlichen Gespräch über ihre Erfahrungen zu Sprechen, sie können es vielleicht nur in einer fremden Sprache oder über Textnachrichten. Für diese Menschen, kann es Lebenswichtig sein, dass niemand außer der Vertrauensperson etwas davon erfährt.
    Ein solcher Gesetzesentwurf wird viele davon abschrecken sich zu öffnen. Falls sie sich dann trotzdem öffnen und irgendein Fremder alter Mann, diese Nachrichten liest, kann dies eine Retraumatisierung auslösen und das vertrauen in Safe Spaces zerstören.

    Und es gibt noch viele weiter Folgen, Patrick Breyer, EU-Abgeordneter der Piratenpartei hat dazu eine ausführlich Zusammenfassung veröffentlicht.
    https://www.patrick-breyer.de/beitraege/nachrichtendurchleuchtung/

  9. Auf Betriebssystemebene implementiert, wäre das natürlich sehr witzig für alle, inklusive Freelance, das mit den falschen Positiven.

    Natürlich wird dann „zum Schutz der Bürger vor sich selbst“, natürlich nicht wegen falscher Positiven, auf Alarm und Beispieleinschickung zumeißt verzichtet werden, „für den Datenschutz“, zugunsten eines Blockadesystems.

    Einen Tag später setzen dann die großen Hersteller ihre Firmenrichtlinien auf den Endgeräten mit derselben Technik um.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.