Gesetz gegen KindesmissbrauchEU-Parlament gibt Weg frei für Durchleuchten privater Nachrichten

Facebook und Skype durchforsten seit Jahren automatisiert private Bilder und Videos auf Hinweise von Kindesmissbrauch. Ein neues Gesetz, das heute im Eilverfahren im EU-Parlament beschlossen wurde, soll diese Praxis fortsetzen – trotz Überwachungsbedenken.

Facebook-App
Gemeinfrei-ähnlich freigegeben durch unsplash.com Brett Jordan

EU-Abgeordnete haben heute grünes Licht für ein neues EU-Gesetz gegeben, dass Anbietern wie Facebook auch weiterhin das Durchleuchten von privaten Nachrichten auf mögliche Anzeichen von Bildern und Filmen, die Kindesmissbrauch zeigen, erlauben soll. Das Gesetz, das die Kommission erst im Sommer vorgeschlagen hatte, läuft derzeit im Eilverfahren durch die EU-Institutionen. Es könnte schon Anfang 2021 beschlossen werden.

Anlass für das Gesetz ist eine zunächst kaum beachtete Gesetzesänderung im Vorjahr. Durch sie verlieren Diensteanbieter wie Facebook und Skype mit dem 21. Dezember 2020 die Möglichkeit, Chatnachrichten und private Gruppen massenhaft auf Kindesmissbrauchsinhalte zu durchforsten. Der Europäische Code für elektronische Kommunikation stärkt die Vertraulichkeit von E-Mail, Messengerdiensten und Internettelefonie. Solche Dienste sind dann rechtlich mit Telefon und Fax praktisch gleichgestellt, es gilt dann das Fernmeldegeheimnis.

Die Änderung riefen die EU-Kommission, Sicherheitsbehörden und Kinderrechtsaktivist*innen auf den Plan. Selbst der US-Schauspieler Ashton Kutcher schaltete sich in den Prozess ein. Skepsis gibt es hingegen von der digitalen Zivilgesellschaft, Grünen und Linken. Sie halten die Pläne für eine Aufweichung der Vertraulichkeit bei der Online-Kommunikation für einen Fehler, auch wenn sie einem guten Zweck dienen sollen.

Bilder und Videos auf Verdacht durchleuchtet

Dienste wie Facebook und Skype durchleuchten bislang automatisiert die Inhalte ihrer Nutzer auf Anzeichen von Bildern und Filmen, die Kindesmissbrauch zeigen. Sie verwenden dafür eine von Microsoft entwickelte Technologie: PhotoDNA prüft hochgeladene Bilder und Videos darauf, ob ihre digitale Signatur – ihr sogenannter Hash-Wert – mit jenen aus einer Datenbank von bekanntem Kindesmissbrauchsmaterial übereinstimmt.

Auf diese Art wurden EU-Behörden im Vorjahr rund drei Millionen Bilder und Videos gemeldet, heißt es in der Mitteilung der EU-Kommission. Doch ab 21. Dezember gibt es für das routinemäßige freiwillige Durchleuchten von Uploads keine rechtliche Grundlage mehr.

Das neue Gesetz soll das ändern und eine Ausnahmeregelung für das freiwillige Scannen von Videos, Bilder und Chatnachrichten wegen möglichen Fällen von Kindesmissbrauch schaffen. Nach Wunsch des Parlaments soll die Durchleuchtungserlaubnis auch Verkehrs- und Verbindungsdaten umfassen, die von automatisierten Systemen nach Schlüsselwörtern und verdächtigen Mustern durchsucht werden dürfen.

Ausdrückliche Ablehnung für diesen Vorschlag kommt aus den Fraktionen der Grünen und Linken. Die Abgeordneten Cornelia Ernst von der Linkspartei und der Pirat Patrick Breyer, der bei den Grünen sitzt, schlugen als Schatten-Berichterstatter im Namen ihrer Fraktion vor, den Gesetzesvorschlag ganz abzulehnen.

“Die Analyse des Inhalts aller privaten Nachrichten ist so inakzeptabel, als ob die Post alle Briefe geöffnet hätte, um sie auf illegale Inhalte zu überprüfen”, schrieb Breyer in seinem Antrag auf Ablehnung. Der Vorschlag schütze nicht so sehr Kinder, als er gesetzestreue Bürger:innen Risiken der fälschlichen Verdächtigung durch Algorithmen aussetze.

Gegen besseres Wissen und Gewissen werde da ein Text angenommen, von dem alle Beteiligten wüssten, dass er dem übrigen EU-Recht zuwiderlaufe, sagt die Linken-Abgeordnete Ernst gegenüber netzpolitik.org. “Besonders problematisch ist, dass der Text jetzt das Scannen von Textnachrichten mit KI-Systemen erlaubt, die sogenanntes Grooming aufspüren sollen.”

“Wir kennen praktisch keinerlei Daten, und die Kommission übrigens auch nicht, die zeigen würden, ob so ein System überhaupt funktioniert und irgendeinen Nutzen hat”, sagt Ernst. “Hier wird etwas erlaubt, von dem wir nicht wissen, ob es überhaupt existiert oder bei uns auch eingesetzt wird. Es liegt schlicht gar nichts vor.”

Beschluss noch im Frühjahr möglich

Den Einwänden zum Trotz stellten sich die Mehrheit der Abgeordneten im zuständigen Ausschuss für Justiz und Inneres hinter den Vorschlag der Kommission, auch der Rat positionierte sich. Bereits in den nächsten Wochen soll das Parlament mit den EU-Staaten und der Kommission über einen endgültigen Text Verhandlungen aufnehmen, ein Beschluss könnte noch im Frühjahr erfolgen.

Nachliefern möchte die EU-Kommission dann im kommenden Jahr einen weiteren Gesetzesvorschlag, der über freiwillige Schritte hinausgeht. Ein zusätzliches Gesetz soll Dienstanbieter verpflichten, die Inhalte ihrer Nutzenden immer auf Kindesmissbrauchsinhalte zu durchsuchen und an die Behörden zu melden. Der Umgang mit illegalen Inhalten soll überdies auch Teil des Digitale-Dienste-Gesetzes sein, dass die EU-Kommission noch vor Weihnachten vorstellen möchte.

7 Ergänzungen

  1. Gibt es für die EU (und die Bundesregierung) eigentlich noch andere Themen als Überwachung und “Stärkung” von Polizei und Militär?

    Den Rest der Menschheit beschäftigt gerade Corona, man macht sich Gedanken über den Strukturwandel, über die immer weiter auseinanderklaffenden reichen und armen Schichten, Klimawandel, Digitalisierung – und von der EU hört und liest man nur, das mal wieder irgendwelche Abhörgesetze verschärft. Wahlweise zum Schutz der Kinder, der Bekämpfung von Terroristen oder ganz allgemein zur “Erhöhung der gefühlten Sicherheit”.
    Die europäische Idee war, die Menschen durch das Verstärken gemeinsamer Werte zusammen zu bringen, nicht durch das Bündeln von Panzerkäufen!

    1. @ Marvin

      Ja, diese Enttäuschung teile ich. Vielleicht liegt es am inhärenten Drang von Institutionen, ihre Bedeutung und ihre Wirkung zu vergrößern. Das Europaparlament befasst sich natürlich vor allem mit den Themen, für die es die gesetzgebende Befugnis in Europa hat. Die Parlamentarier wollen ja etwas tun und nicht bloß herumsitzen. Und das führt dann leider zu Einschränkungen der Bürgerrechte.

  2. Das ist doch eine Gesamtrichtung. Dabei geht ein wesentliches Merkmal, das Europa von anderen bisher unterschieden hat, verloren.

    1. Das Verbot ist die technische Konsequenz, die sich die Gesetzgeberin mal wieder zu schade ist, explizit mit ins Gesetz zu scheiben.

      Es ist nicht verboten, aber man kann es auch nicht machen, wenn man auf dem “Boden” des Gesetzes bleiben will.

      Diese Gestze bieten zwar keinen Boden, aber who cares… Löcher sind der neue Boden!

    2. Nöö, Verschlüsselung soll nicht verboten werden. Es ist ein wenig subtiler. Ich vermute, dass es so ist:

      Microsoft hat ein Hashverfahren für Bilderkennung. Damit möchte MS den Fuss in die Tür aller Kommunikationsanbieter bekommen, am liebsten so dass Inhalte in der MS Cloud landen, damit die dann mit der MS Software gescannt werden. MS entscheidet so über gut und böse.

      Also “schenkt” MS der EU und nachweislich z.B Wite IT die Software. MS betreibt damit Lobbyarbeit. Der “lobbybearbeiteten” EU geht es sicher auch um Terrorbekämpfung und sogenannter “Kinderpornographie”, aber insbesondere darum Facebook, Google und Co zu kontrollieren und in den Griff zu bekommen. Am liebsten ohne Kosten. Verschlüsselung durch einen Nutzer können sie nicht verhindern. Aber Facebook und Co. zwingen ihre proprietäre Technik (What’sApp) weiter zuweichen. Und denen ist das egal, denn am Liebsten würden sie die Daten selbst auswerten – um Geld zu verdienen. Verschlüsselung ist da nur hinderlich.

      Die MS Technologie funktioniert nur mit unverschlüsselter Kommunikation oder entschlüsselten Daten. Also legt man Facebook und Co nahe (macht ein Gesetz), die Verschüsselung aufzuweichen (Generalschlüssel oder serverseitige Verschlüsselung usw). Prima, so kann der Schrott dann noch Verschlüsselung genannt werden und so kann später auch nach Urheberrechtsvereletzungen oder Bombenbauanleitung und irgendwann nach Ordnungswidrigkeiten gesucht werden. Jedenfalls wenn Otto Nomalbenutzer, also die Mehrheit, What’s App und Co. verwendet.

      Es geht dabei nicht um Kriminalisierung Aller. Es geht darum bei Bedarf Erfolge zu generieren und die Kontrolle (über “ausländische Konzerne”) zu erlagen, dabei aber wenigstens augenscheinlich den Rechtsstaat zu wahren. So wäre erklärbar, dass der EU die Wirksamkeit der Überwachungsmaßnahmen bei wirklichen Verbrechern relativ egal ist.

      Soweit meine Verschwörungstheorie (immerhin basierend auf ein paar Fakten).

      TL;DR: Leute, verschlüsselt selbst z.B. mit PGP. Nutzt keine proprietäre Kommunikationstechnik sondern z.B. XMPP. Und vor allen Dingen, haltet Euch von zurecht geächteten Inhalten fern. Missbrauchsdarstellungen von Kindern z.B sind Belege für menschenverachtende Verbrechen.

  3. Hier werden Konzerne zu Ermittlungsbehörden gemacht. Kostengünstig outgesourct. Dafür erhalten die Konzerne das, was für sie am wertvollsten ist: Daten. Die immer wieder gleichen Begründungen für weniger Datenschutz und Sammelwut: Waffen, Drogen, Kindesmissbrauch, Schwarzarbeit, Terror… Dabei gibt es keine Belege für eine Wirksamkeit der vielfältigen Maßnahmen.

    Viel zu wenig beachtet wird der Umstand, dass kapitalistische Netzwerke (oft als soziale Netzwerke verklärt) mit ihre Algorithmen dafür sorgen, dass sich Menschen radikalisieren. Die endgültige Radikalisierung mag ja auf 8chan und anderen Plattformen erfolgen, die Saat wird auf Facebook und Co. ausgebracht. Es wäre hilfreich diese Algorithmen zu verbieten.

    Im Übrigen kann man die Macht der Monopolisten zumindest einschränken, indem man bspw. Messengerdienste zwingt den Austausch von geschriebenen Nachrichten plattformübergreifend zu ermöglichen. Kein Mensch wäre bei Vodafone, wenn er dann nicht mit Menschen im Telekomnetz telefonieren könnte. Genau das muss bei Messenegern, sozialen Webseiten etc. auch ermöglicht (bzw. erzwungen) werden.

    Ok, alles am Thema vorbei. Was war nochmal der Anlass? Ach ja, Kinder schützen. Da kann ja keiner was gegen mehr Überwachung haben.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.