EU-Abgeordnete haben heute grünes Licht für ein neues EU-Gesetz gegeben, dass Anbietern wie Facebook auch weiterhin das Durchleuchten von privaten Nachrichten auf mögliche Anzeichen von Bildern und Filmen, die Kindesmissbrauch zeigen, erlauben soll. Das Gesetz, das die Kommission erst im Sommer vorgeschlagen hatte, läuft derzeit im Eilverfahren durch die EU-Institutionen. Es könnte schon Anfang 2021 beschlossen werden.
Anlass für das Gesetz ist eine zunächst kaum beachtete Gesetzesänderung im Vorjahr. Durch sie verlieren Diensteanbieter wie Facebook und Skype mit dem 21. Dezember 2020 die Möglichkeit, Chatnachrichten und private Gruppen massenhaft auf Kindesmissbrauchsinhalte zu durchforsten. Der Europäische Code für elektronische Kommunikation stärkt die Vertraulichkeit von E‑Mail, Messengerdiensten und Internettelefonie. Solche Dienste sind dann rechtlich mit Telefon und Fax praktisch gleichgestellt, es gilt dann das Fernmeldegeheimnis.
Die Änderung riefen die EU-Kommission, Sicherheitsbehörden und Kinderrechtsaktivist*innen auf den Plan. Selbst der US-Schauspieler Ashton Kutcher schaltete sich in den Prozess ein. Skepsis gibt es hingegen von der digitalen Zivilgesellschaft, Grünen und Linken. Sie halten die Pläne für eine Aufweichung der Vertraulichkeit bei der Online-Kommunikation für einen Fehler, auch wenn sie einem guten Zweck dienen sollen.
Bilder und Videos auf Verdacht durchleuchtet
Dienste wie Facebook und Skype durchleuchten bislang automatisiert die Inhalte ihrer Nutzer auf Anzeichen von Bildern und Filmen, die Kindesmissbrauch zeigen. Sie verwenden dafür eine von Microsoft entwickelte Technologie: PhotoDNA prüft hochgeladene Bilder und Videos darauf, ob ihre digitale Signatur – ihr sogenannter Hash-Wert – mit jenen aus einer Datenbank von bekanntem Kindesmissbrauchsmaterial übereinstimmt.
Auf diese Art wurden EU-Behörden im Vorjahr rund drei Millionen Bilder und Videos gemeldet, heißt es in der Mitteilung der EU-Kommission. Doch ab 21. Dezember gibt es für das routinemäßige freiwillige Durchleuchten von Uploads keine rechtliche Grundlage mehr.
Das neue Gesetz soll das ändern und eine Ausnahmeregelung für das freiwillige Scannen von Videos, Bilder und Chatnachrichten wegen möglichen Fällen von Kindesmissbrauch schaffen. Nach Wunsch des Parlaments soll die Durchleuchtungserlaubnis auch Verkehrs- und Verbindungsdaten umfassen, die von automatisierten Systemen nach Schlüsselwörtern und verdächtigen Mustern durchsucht werden dürfen.
Ausdrückliche Ablehnung für diesen Vorschlag kommt aus den Fraktionen der Grünen und Linken. Die Abgeordneten Cornelia Ernst von der Linkspartei und der Pirat Patrick Breyer, der bei den Grünen sitzt, schlugen als Schatten-Berichterstatter im Namen ihrer Fraktion vor, den Gesetzesvorschlag ganz abzulehnen.
„Die Analyse des Inhalts aller privaten Nachrichten ist so inakzeptabel, als ob die Post alle Briefe geöffnet hätte, um sie auf illegale Inhalte zu überprüfen“, schrieb Breyer in seinem Antrag auf Ablehnung. Der Vorschlag schütze nicht so sehr Kinder, als er gesetzestreue Bürger:innen Risiken der fälschlichen Verdächtigung durch Algorithmen aussetze.
Gegen besseres Wissen und Gewissen werde da ein Text angenommen, von dem alle Beteiligten wüssten, dass er dem übrigen EU-Recht zuwiderlaufe, sagt die Linken-Abgeordnete Ernst gegenüber netzpolitik.org. „Besonders problematisch ist, dass der Text jetzt das Scannen von Textnachrichten mit KI-Systemen erlaubt, die sogenanntes Grooming aufspüren sollen.“
„Wir kennen praktisch keinerlei Daten, und die Kommission übrigens auch nicht, die zeigen würden, ob so ein System überhaupt funktioniert und irgendeinen Nutzen hat“, sagt Ernst. „Hier wird etwas erlaubt, von dem wir nicht wissen, ob es überhaupt existiert oder bei uns auch eingesetzt wird. Es liegt schlicht gar nichts vor.“
Beschluss noch im Frühjahr möglich
Den Einwänden zum Trotz stellten sich die Mehrheit der Abgeordneten im zuständigen Ausschuss für Justiz und Inneres hinter den Vorschlag der Kommission, auch der Rat positionierte sich. Bereits in den nächsten Wochen soll das Parlament mit den EU-Staaten und der Kommission über einen endgültigen Text Verhandlungen aufnehmen, ein Beschluss könnte noch im Frühjahr erfolgen.
Nachliefern möchte die EU-Kommission dann im kommenden Jahr einen weiteren Gesetzesvorschlag, der über freiwillige Schritte hinausgeht. Ein zusätzliches Gesetz soll Dienstanbieter verpflichten, die Inhalte ihrer Nutzenden immer auf Kindesmissbrauchsinhalte zu durchsuchen und an die Behörden zu melden. Der Umgang mit illegalen Inhalten soll überdies auch Teil des Digitale-Dienste-Gesetzes sein, dass die EU-Kommission noch vor Weihnachten vorstellen möchte.