ePrivacy-AusnahmeEU billigt Durchleuchtung privater Chats

Anbieter wie Facebook, Skype oder Gmail dürfen private Videos und Bilder auf mögliche Fälle von Kindesmissbrauch durchleuchten. Die EU-Institutionen einigen sich auf eine Ausnahme, die das erlaubt. Eine Pflicht zum Scannen von Nachrichten soll bald folgen.

Facebook-App
Gemeinfrei-ähnlich freigegeben durch unsplash.com Brett Jordan

In Verhandlungen hat sich die EU-Kommission mit Rat und Parlament auf eine Ausnahme von der ePrivacy-Richtlinie geeinigt, die künftig Anbietern wie Facebook, Gmail oder Skype das Durchleuchten privater Chats erlauben soll. Eine Gesetzesänderung macht dies seit einigen Monaten rechtswidrig. Die Ausnahme soll neuerlich erlauben, Videos und Bilder in privaten Nachrichten auf mögliche Kindesmissbrauchsinhalte zu überprüfen und an die Strafverfolgungsbehörden zu melden.

Eine deutliche Stärkung des Datenschutzes ging der nun beschlossenen Ausnahme voraus. Der Europäische Kodex für Elektronische Kommunikation dehnte den rechtlichen Schutz privater Nachrichten in der ePrivacy-Richtlinie auf so genannte Over-the-top-Dienste aus. Damit genießen Chats auf Facebook, Linkedin und zahllosen anderen Diensten juristisch den selben Status wie normale Telefonanrufe – sie dürfen nicht generell überwacht werden.

Allerdings klagten daraufhin Polizeibehörden und Kinderrechtegruppen, dies verunmögliche den Abgleich der Hash-Werte von Audio- und Videodaten mit Datenbanken bekannter Kindesmissbrauchsinhalte. Solche Scans von Nachrichteninhalten machen große Anbieter seit Jahren. Während Facebook sie wegen der Gesetzesänderung vorübergehend aussetzte, ignorierten Google und Microsoft die rechtlichen Fragezeichen und scannten weiter. Technisch ist dies im Übrigen nur bei unverschlüsselten Inhalten möglich, die EU-Staaten denken aber bereits über mögliche Maßnahmen für einen Zugang zu verschlüsselten Inhalten nach.

Die EU-Institutionen beschlossen die Ausnahme im Eilverfahren. In die Debatte mischte sich sogar der Schauspieler Asthon Kutcher ein, dessen Kinderrechte-NGO Thorn Missbrauch durch schwächere IT-Sicherheit verhindern möchte.

Scans auch gegen Grooming-Verdacht

Die nun beschlossene Ausnahmeregel erlaubt pauschales Scannen von Inhalten auf Kindesmissbrauch für die nächsten drei Jahre, teilte die portugiesische EU-Ratspräsidentschaft mit. Entgegen von Forderungen aus dem EU-Parlament schließt die Einigungen auch Anti-Grooming-Maßnahmen mit ein. Eine Studie des Forschungsdienstes im Parlament hatte automatisierte Scans von Textnachrichten auf Grooming wegen ihrer Fehleranfälligkeit und Missbrauchsmöglichkeiten als möglichen Grundrechteverstoß bezeichnet.

Die EU-Kommission möchte der Ausnahme bereits in den kommenden Wochen einen neuen Gesetzesvorschlag folgen lassen, der die Erlaubnis für freiwilliges Scannen durch eine Verpflichtung zur Durchleuchtung von Nachrichten auf Kindesmissbrauchsverdacht ersetzen soll. Kritik gibt es daran etwa vom EU-Abgeordneten Patrick Breyer, der dies als unverhältnismäßigen Eingriff in die Privatsphäre bezeichnet und vor fehlerhaften Algorithmen warnt, die Unschuldige in Verdacht bringen könnten.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

13 Ergänzungen

  1. „Anbietern wie Facebook, Gmail oder Skype“

    Gerne konkreter für Faule: Welche Größe von Unternehmen? Nur Messenger, auch In-App-Chat (vgl. Gaming Lobby und Server) – verschlüsselter Chat wurde ja erwähnt… keine gute Richtung, weil das dann keine Verschlüsselung ist, was auch immer die machen, mit der Ausnahme des Blockierens auf Basis von „KI“ auf Clientseite, was auch furchtbarer Blödsinn ist.

    „Eine deutliche Stärkung des Datenschutzes ging der nun beschlossenen Ausnahme voraus.“
    Die Richtung hat sich ja abgezeichnet: Zoo mit Datenschutz (letzlich fake), ganz toll. Privatsphäre ist dann keine mehr, wenn falsche Positive so viel Spass bringen, selbst wenn nur das Automobil draufguckt, welches bisher all zu oft doch auch menschlichen Anteil hatte. Nicht dass Privatssphäre bei Facebook erwartet werden sollte, aber das Modell ist ja dann allgemein tot. Es bleibt dabei: kein Stück gefakten Zuckers ohne Kahlschlag.

    1. Nachdem es sich um freiwillige Maßnahmen handelt, gibt es keine spezielle Größengrenze für die Teilnahme. Bei Facebook, Microsoft und Google ist allerdings bekannt, dass sie solche Scans grundsätzlich machen.

      1. blühende Landschaften, clühende Landschaften, dlühende Landschaften, elühende Landschaften, glühende L... sagt:

        Ja, „ok“…

        „Eine Pflicht zum Scannen von Nachrichten soll bald folgen.“ – jetzt kommt es auf darauf an, ob und was noch weiter umgesetzt wird.

        Das ist schon so eine Sache, ob man auf baldige Nachbesserungen hofft, welcher einige es bisher ja durchaus mal gab, die aber doch immer hinter dem ganz großen Sinn zurückzubleiben vermochten, und es zudem immer noch nicht alle von der Schlachtbank herunter geschafft zu haben scheinen. Oder man hofft auf Rücknahme und Neuverhandlung im Zuge von Reformen, was ich mir weder in DEU noch EUR wirklich vorstellen kann, dass es adäquat und zeitnah passiert. Vielleicht bröselt auf lange Sicht die Basis der Hardlinern, doch ich fürchte, dass hier im Allgemeinen nicht mit Vernunft nicht zu rechnen ist.

  2. Nur mal zum besseren Verständniss:

    facebook soll die „staatliche“ Beauftragung bekommen, die Inhalte der privaten Chats zu prüfen.

    Ok. Moralisch gesehen so gut, so richtig – wenn es um Kindesmissbrauch (KiPo usw.) geht.

    Jetzt übertrage ich das einmal auf die „Gelbe Post“ und das analoge Leben:

    Müsste dann nicht – entsprechend analog – die Post die Pakete, Päckchen und Briefe prüfen (= öffnen und lesen)?

    Mal zurück zu facebook (und andere Dienstleister, dessen Chatfunktionen dann ja auch „überwacht“ werden soll(t)en): Patrick Breyer hat mit seiner Kritik (s. Link zu seiner Seite) nicht so Unrecht.

    1. Aber es ist doch Unsinn, weder bei Facebook Messenger noch bei WhatsAPP ist es möglich mal einfach so 30 Minuten an Porno im HD Format zu versenden, da gibt es sehr enge Limits für die größen von Dateianhängen…..

      Wer sich wirklich solches kriminelles Material beschaffen will wird dafür wohl eher andere Kanäle benutzen als irgendwelche Chat APPs fürs Handy….

      Daher halte ich die Argumentation der EU lediglich für einen Vorwand für mehr Totalüberwachung und Kontrolle !

    2. Die große Gefahr der digitalen Überwachung ist die, dass ein Staat nicht mehr auf zehn- oder hunderttausende von willigen Helfern angewiesen ist, sondern ein System das einmal etabliert wurde schon mit ein paar dutzend Personen betrieben, beliebig skaliert und auch ohne große Probleme (oder viele Mitwisser) auf beliebige andere Bereiche ausgeweitet werden kann. Deswegen lieben illiberale Politiker digitale Überwachung.
      Wirtschaftlich wäre es „unergiebig“ jedes Paket händisch zu öffnen; aber man fotografiert das Label und scannt sie immerhin, weil das alles automatisch funktioniert. Selbes gilt für Personenkontrollen durch Polizeibeamte: niemand kann täglich hunderttausende Reisende kontrollieren (Flugverkehr mal ausgenommen) – also will man biometrische Gesichtsscans machen. Etc.

      Die autoritären Elemente in einem Staat (westlich oder sonstwo auf der Welt) wird immer jede neue Möglichkeit zur Überwachung nutzen wollen. Die individuelle Freiheit soll sich ja selbst in Deutschland schon dem Möglichen „frewillig“ unterordnen und auf Grundrechte verzichten, Die Unschuldsvermutung wird dabei immer weiter eingedampft.

  3. Sind denn „private“ Dateien auf Facebook und Co. überhaupt realistisch privat? Es ist bekannt, dass all diese Firmen „Clouddaten“ und auch Mails durchleuchten, um mit den Daten Geld zu verdienen. Das die EU dann fordert, auch nach illegalen Daten zu suchen, ist nicht so abwegig.

    Das sich dann ein Problem damit ergibt, wenn diese Daten „geschützt“ werden sollen, liegt in der Natur der Sache. Man versucht die Quadratur des Kreises. Die ist aber bekanntlich unmöglich.

    Noch schlimmer wird es, wenn die EU dann überlegt, wie man denn verschlüsselte Nachrichten durchleuchten kann. Damit ist diese „Verschlüsselung“ dann genau wie ein bisschen Schwanger. Ein bisschen „angeschlüsselt“? Oder wie denkt man das?

    Sie verrennen sich in ihrer Regulierungswut.

    Mein Vorschlag wäre:
    – Wir können die Firmen nicht hindern Daten, die bei ihnen lagern, zu durchsuchen. Also versuchen wir es gar nicht.
    – Wir können Daten für die Cloud auf unseren Systemen mit unseren Schlüsseln verschlüsseln und jeden Zugriff unterbinden. Also tun wir das, wo es lohnt.
    – Wir wollen keine Missbrauchsbilder. Genauer wollen wir keinen Missbrauch von Kindern. Also gehen wir gegen die Ursachen vor. (Stichworte: Charité, Telefonhotlines, Schulen, Jugendämter usw.)

    Und alle Kontraktionen verschwinden.

    Leider bin ich damit aber nicht am Ende. Es ist wahrscheinlich, dass da ganz andere Interessen eine Rolle spielen. Weder Regierungen noch Firmen wollen Verschlüsselung der Nutzerdaten.

    Beispiel: Microsoft möchte ihr Scan-Programm nach illegalen Bildern durchsetzen und schwatzt jedem diesen Kram auf. Über deren Motivation kann ich nur spekulieren. Es würde mich nicht wundern, wenn die zu scannenden Daten unverschlüsselt in der MS-Cloud oder ein Haufen „Telemetriedaten“ „zur Verbesserung der Nutzererfahrung“ mit jedem Scanvorgang bei MS landen. Selbst wenn diese Unterstellung nicht stimmt, wenn die Aufgabe für MS nur ist, Verschlüsselung zu diskreditieren – nach dem Motto, man könne ja Daten nicht ausschnüffeln – oh falsch, ich meine natürlich die Kinder nicht schützen, weil verschlüsselt – reicht mir das vollkommen aus.

    So geht das nicht.

  4. Bilder scannen ist ja das eine. Das geht über Hashwerte, etc, das kann man wohl noch einigermaßen privatsphären-freundlich machen. – Aber wie will man denn Grooming finden?
    Sicher mag es denkbar sein, eine KI zu programmieren und entsprechend zu trainieren. Aber für Liebesgeplänkel (allgemein, unabhängig vom Alter) gibt es keine Hashwerte oder eine vorschriftsmäßige Struktur ;) Das würde viele Fehlergebnisse bedeuten und damit die Notwendigkeit, dass Menschen als Kontrollinstanz, d.h. staatliche Organe, gerade besonders und gezielt die Online-Flirterei, allerhand Liebesschwüre und wahrscheinlich auch Verbalerotik der Bürgerinnen unter die Lupe nehmen ?!
    Mir fehlen wirklich die Worte!

  5. Herr Breyer stellt unter seiner Projektseite „chatkontrolle.de“ Möglichkeiten und Materialien vor, mit denen man sich selbst gegen die Chatkontrolle einbringen kann, falls man dies will.

  6. Vielen Dank für den Artikel.
    Ich halte mich selbst für recht netz-affin, aber Grooming war für mich kein geläufiger Begriff: bitte definiert kurz solche Begriffe – alternativ verlinkt auf entsprechende Wikipedia Seiten.

    1. Schließe mich dem an. Bitte nicht geläufige Begriffe wie Grooming erläutern. Danke, dass Ihr bei NP Euch für Privacy stark macht und nicht auf den „Aber denkt denn niemand an die KiNdEr“-spin reinfallt, den die rechtskonservativen hier mal wieder fahren.

  7. Zum Wohle des demokratischen Gemeinwesens würde ich hiermit gerne eine umgehende Erweiterung der Durchsuchungen vorschlagen, um auch Fälle von Bestechlichkeit und unlauterer Einflussnahme auf politische Entscheidungsträger in Zukunft aufzuspüren!

    1. Ich bitte darum, die Liste noch um illegales Fussballspiel-Streaming und um die unlautere Weitergabe von Hausaufgaben zu ergänzen.
      Schließlich wollen wir doch alle in einem harmonischen und fairen Internet leben, oder nicht?

Ergänzung an Hanse Pirat Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.