Gesetz gegen Kindesmissbrauch

EU-Kommission plant Durchleuchtungspflicht

Dienste wie Facebook und GMail will die EU verpflichten, Nachrichten auf möglichen Kindesmissbrauch zu durchleuchten. Die eben gestärkte Vertraulichkeit von Inhalten soll dafür wieder geschwächt werden.

Facebook scannt Uploads
Facebook durchleuchtet Uploads auf Anzeichen von Kindesmissbrauch Gemeinfrei-ähnlich freigegeben durch unsplash.com Kon Karampelas

Die EU-Kommission plant gesetzliche Maßnahmen zur Überwachung von Online-Diensten wie Facebook und GMail. Im Visier steht auch die Ende-zu-Ende-Verschlüsselung von Messengerdiensten wie WhatsApp und Signal.

Die Maßnahmen sollen die Bekämpfung von Kindesmissbrauchsvideos und -Bildern erleichtern, die über Cloud-Dienste und soziale Netzwerke verbreitet werden, heißt es von der Kommission. Sie verkündete den Schritt ohne großes mediales Echo kurz vor der Sommerpause im Juli.

Datenschützer und EU-Abgeordnete äußern sich nun allerdings skeptisch.

Neue Rechtslage wird wieder ausgehebelt

Mit den neuen Gesetzen reagiert die EU-Kommission auf eine bislang wenig beachtete Gesetzesänderung: den Europäische Code für elektronische Kommunikation. Mit Jahresende stärkt die neue Richtlinie die Vertraulichkeit von E-Mail, Messengerdiensten und Internettelefonie. Diese sogenannten Over-the-Top-Anbieter sind dann rechtlich mit klassischen Kommunikationsmitteln wie Telefon und Fax praktisch gleichgestellt, es gilt etwa das Fernmeldegeheimnis.

Dies steht dem Bestreben der Kommission entgegen, die digitale Verbreitung von Darstellungen von Kindesmissbrauch zu verhindern. Denn Dienste wie Facebook und YouTube durchleuchten heute automatisiert die Inhalte ihrer Nutzer auf Anzeichen von Kindesmissbrauch. Sie verwenden dafür eine von Microsoft entwickelte Technologie: PhotoDNA prüft hochgeladene Bilder und Videos darauf, ob ihre Signatur (Hash-Wert) mit jenen aus einer Datenbank von bekanntem Kindesmissbrauchsmaterial übereinstimmt.

Auf diese Art wurden EU-Behörden im Vorjahr rund drei Millionen Bilder und Videos gemeldet, heißt es in der Mitteilung der EU-Kommission. Doch ab Ende Dezember gibt es für das routinemäßige freiwillige Durchleuchten von Uploads keine rechtliche Grundlage mehr, beklagt die EU-Behörde. „Die Kommission ist der Ansicht, dass sofortige Maßnahmen erforderlich sind, um dem zu begegnen.“ Das neue Gesetz soll eine rechtliche Basis dafür schaffen.

Vorschlag für Meldepflicht folgt 2021

Die Kommission plant aber bereits über freiwilliges Monitoring hinausgehende Schritte. Eine zusätzliches Gesetz soll Dienstanbieter verpflichten, die Inhalte ihrer Nutzenden auf Kindesmissbrauchsinhalte zu durchsuchen und an die Behörden zu melden. Der Entwurf für das Gesetz soll bereits in den nächsten 10 Monaten vorgelegt werden.

Darüber hinaus wünscht sich die Kommission ein Mittel, um verschlüsselte Kommunikation durchleuchten und Missbrauchsdarstellung aufspüren zu können. Eine technische Möglichkeit dazu soll bis Jahresende das Europäische Internetforum liefern, ein Netzwerk aus Konzernen und EU-Institutionen. Es sollten dafür „am Gerät, Server bzw. Verschlüsselungsprotokoll ansetzende Lösungen“ geprüft werden, betont die Kommission.

Nach Ansicht der EU-Behörde ist die Durchleuchtung von Inhalten mit deren Vertraulichkeit vereinbar. Praktisch bedeutet dies aber die Quadratur des Kreises, kritisiert Diego Naranjo von European Digital Rights gegenüber netzpolitik.org.

Denn wenn Anzeichen von Kindesmissbrauch auffindbar gemacht werden können, dürfte dies auch für andere Inhalte möglich sein, sagt Naranjo. Es wirke, als wolle die Kommission die Nachrichteninhalte von Nutzer:innen entweder vor der Verschlüsselung durchleuchten oder Hintertüren in die Verschlüsselung einbauen

Beide Möglichkeiten hält Naranjo für problematisch. Denn wenn die Verschlüsselung erst umgangen werden könne, stehe anderen Formen der Durchleuchtung etwa gegen Urheberrechtsverletzungen nichts mehr im Wege, glaubt der NGO-Aktivist. Er verweist darauf, dass es andere Methoden zur Umgehung von Verschlüsselung gebe, die nicht auf Durchleuchtung aller Inhalte beruhen.

Breyer: Plan gleicht QAnon-Mythos

Das Vorhaben stößt auch bei EU-Abgeordneten auf Kritik. Es sei zwar wichtig, dass die Kommission beim Thema Kindesmissbrauch nicht locker lasse, sagt der FDP-Politiker Moritz Körner. „Das Europäische Parlament hat jedoch nicht vergessen, dass Kommissionspräsidentin von der Leyen sich ihren Spitznamen ‚Zensursula‘ gerade bei dem Thema Kindesmissbrauch erarbeitet hat.“ Das EU-Parlament werde bei Überwachungsmaßnahmen und der möglichen Aushebelung von Verschlüsselungstechnologien die Verhältnis- und Zweckmäßigkeit der Schritte im Blick behalten.

Fundamentale Kritik kommt von dem Piraten-Abgeordneten Patrick Breyer: „Verdachtslose Massenzensur des Internetzugangs und privater Nachrichten verletzt das Grundrecht auf Achtung unserer Privatsphäre und unserer Korrespondenz“, sagt der Abgeordnete, der in der Grünen-Fraktion sitzt. „Die Sicherheit unserer Kommunikationsinfrastruktur vor Kriminellen und Geheimdiensten braucht wirksame Ende-zu-Ende-Verschlüsselung.“

Patrick Breyer
Patrick Breyer CC0 kryp

„Der Plan der EU-Kommission liest sich stellenweise ähnlich wie die QAnon-Verschwörungstheorie, derzufolge Pädophile die Welt beherrschten“, sagt Breyer gegenüber netzpolitik.org. Der EU-Abgeordnete fordert Alternativen zur Meldepflicht:

Fakt ist: Sexueller Missbrauch ist gerade durch Verwandte, Freunde und Bezugspersonen sehr verbreitet, und die allerwenigsten Missbrauchsfälle werden überhaupt dokumentiert. Kaum einmal kann Opfern sexuellen Kindesmissbrauchs durch Ermittlungen wegen kinderpornografischer Darstellungen geholfen werden. Um Kinder vor Missbrauch zu schützen bräuchte es ganz andere Maßnahmen wie flächendeckende Präventions-, Erkennungs- und Aussteigerprogramme, doch die sind seit Jahren skandalös unterfinanziert.

EU macht Druck auf Facebook

Besonderes Augenmerk richtet die EU-Kommission in ihren geplanten Maßnahmen auf Facebook. 94 Prozent der weltweiten Meldungen von Kindesmissbrauchsinhalten stammen von dem Konzern, dessen Dienste Facebook, Instagram und WhatsApp global von mehr als zwei Milliarden Menschen regelmäßig genutzt werden.

Mark Zuckerberg
Facebookchef Mark Zuckerberg CC-BY 2.0 Anthony Quintano

Der Konzern hat angekündigt, dass Nutzende in Zukunft zwischen allen seinen Diensten verschlüsselt Nachrichten austauschen können sollen. Bislang funktioniert das nur bei WhatsApp (wenngleich eingeschränkt). Die Pläne für Verschlüsselung aller Dienste sorgen für Widerstand von Kinderrechts-NGOs, auch einige Aktionär:innen von Facebook sind dagegen.

Die EU-Kommission fürchtet, dass durch standardmäßige Verschlüsselung die Zahl der gemeldeten Kindesmissbrauchsinhalte um mehr als die Hälfte oder sogar um zwei Drittel zurückgehen könnten. „Derzeit verwendete Aufdeckungsinstrumente“ würden bei End-zu-End-verschlüsselter Kommunikation nicht funktionieren, heißt es in der Mitteilung der Kommission.

Facebook: Verschlüsselung ist „langfristiges Projekt“

Dem hält Facebook entgegen, dass es beim verschlüsselten WhatsApp bereits heute auf alternative Techniken zur Bekämpfung von Kindesmissbrauch setzt. Etwa scannt WhatsApp die Profilbilder von Nutzenden, um mögliche Hinweise auf Missbrauch zu finden und zu melden. Der Dienst sperrt nach eigenen Angaben jeden Monat 25.000 Konten wegen des Teilens von vermuteten Kindesmissbrauchsinhalten.

Ein Facebook-Sprecher betont auf Anfrage von netzpolitik.org, der Konzern beschäftige weltweit ein 35.000 Köpfe starkes Sicherheitsteam, das unter anderem Meldungen wegen Kindesmissbrauch nachgehe. „Die Einführung der Ende-zu-Ende-Verschlüsselung ist ein langfristiges Projekt, der Schutz von Kindern im Internet ist für diese Bemühungen von entscheidender Bedeutung, und wir sind entschlossen, starke Sicherheitsmaßnahmen in unsere Pläne einzubauen“, sagte der Sprecher gegenüber netzpolitik.org.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

9 Ergänzungen
  1. Dann könnten wir auch zufällige Häuser stürmen und nach strafrechtlich relevanem Material durchsuchen. Aber man tut es nicht. Denn da würde jeder sofort Aufschreien, wenn die Polizei mal bei ihm oder ihr durch die Türe kommt.
    Ich habe ernsthaft Angst, dass der Zugriff des Staates auf die (digitale) Privatssphäre der Bürger*innen immer weiter ausgebaut wird, weil momentan noch viele Menschen – vor allem der älteren Generation – diese Art der Überwachung kaum als Eingriff in ihre Grundrechte wahrnehmen; weil es ein verborgener Eingriff ist, den man gar nicht bemerkt und der damit eben recht „sanft“ und nicht gewaltsam erscheint. Man darf leider nicht vergessen: sind Grundrechte mal weg/eingeschränkt bekommt man oft nur sehr langsam zurück – oder gar nicht.

  2. Man sollte die Argumentation der Behörden umdrehen, um zu erkennen was geschieht: nicht Kindesmissbrauch soll bekämpft werden, indem man gegen Verschlüsselung vorgeht – nein, es soll Verschlüsselung bekämpft werden, und dazu muss man eben gegen Kindesmissbrauch vorgehen. Hat man das einmal geschafft hat man ein Einfalltor für weitere Ausweitung der Überwachung.

  3. Gilt das dann auch für jeden E-Mail-Provider, inclusive Protonmail, Posteo oder ähnliche Dienste mit Privacy als „unique selling point“?
    Klingt jedenfalls danach, als wolle die EU-Kommission das Recht auf private, anonyme elektronische Kommunikation allumfassend angreifen.
    Denn wir können uns nach den vergangenen Erfahrungen todsicher sein, dass diese Praxis auf immer weitere Inhalte ausgeweitet wird, weil „Sicherheits“politiker*innen das fordern und Konzerne wohl auch ein Interesse an privater Kommunikation haben. Persönliche Daten sind ja schließlich das „Gold des 21. Jahrhunderts“.

  4. Es bräuchte mehr Messenger auf Basis von 100% freier dezentraler Software über welche dann wirklich sicher Ende2Ende verschlüsselt kommuniziert werden kann. Daran mangelt es nach wie vor noch viel zu sehr.

  5. Meine Sorgeist die: sollte wirklich ein VERBOT für Verschlüsselung kommen, dann wäre es ja zuerst mal nur gegen die paar großen (und vielen kleinen) IT-Konzerne durchsetzbar. Aber was würde mit Open-Source passieren? Das lässt sich nicht so einfach per Verbot konrollieren. Kommt dann vielleicht noch ein Linux-Verbot? Oder „kryptografische Programmieranleitungen“ werden wie Bombenbaupläne strafrechtlich verfolgt? Oder wird am Ende einfach alles im Internet blockiert, was die Behörden (Polizei, Zoll, Geheimdienste, etc.) nicht mitlesen können???
    Viele Fragen, und ich halte über kurz oder lang alles für möglich. :-(

    1. Man verbietet keine Verschluesselung, man macht einfach Vorgaben, die nur mit Luecken in der Verschluesselung umzusetzen sind. Man hat ja auch keine Uploadfilter vorgeschrieben, nur Vorgaben, die nicht ohne Uploadfilter umzusetzen sind.

      Gleichzeitig ist die Umsetzung nur fuer die grossen Fast-Monopolisten moeglich, man haelt also die unbequemen Kleinen und Dezentralen aus dem Markt. Ohnehin schwebt Politik wie Plattformen mittelfristig eine Abschaffung des vom Benutzer frei programmierbaren Computers vor, zugunsten voll monitarisierter und kontrollierbarer Geraete unter zentraler Kontrolle.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.