In letzter SekundeBritische Chatkontrolle vorerst geplatzt

Das britische Parlament steht unmittelbar davor, die Online Safety Bill zu beschließen. Vor allem Kinder soll das umstrittene Gesetz vor „schädlichen“ Inhalten und Pornografie im Internet schützen. Dabei war auch eine Chatkontrolle vorgesehen – die nun überraschend ausgesetzt werden soll.

Die teils für die Online Safety Bill verantwortliche Digitalministerin Michelle Donelan will Online-Dienste bremsen, um dabei Kinder zu schützen. – Alle Rechte vorbehalten IMAGO / agefotostock

Die Kehrtwende kam so plötzlich wie überraschend: Bis auf Weiteres plant die britische Regierung offenbar nicht mehr, eine sogenannte Chatkontrolle auf den Inseln einzuführen. Eine automatisierte Inhaltekontrolle, die Darstellungen von Kindesmissbrauch aufspüren soll, bleibe so lange ausgesetzt, bis sie „technisch machbar“ ist, berichtet die Financial Times.

Die britische Variante der Chatkontrolle ist Teil der Online Safety Bill. Das seit Jahren verhandelte Gesetz befindet sich unmittelbar vor der Verabschiedung, heute beginnt die dritte und abschließende Lesung im Oberhaus. Sie soll vor allem Kinder vor „schädlichen Inhalten“ im Internet schützen und sieht verschärfte Sorgfaltspflichten für Online-Dienste, weitflächige Alterskontrollen und urspünglich auch eine Chatkontrolle vor.

Massenhafte Überwachung verletzt Grundrechte

Die massenhafte und automatisierte Überwachung sogar verschlüsselter Messenger-Nachrichten steht jedoch von Beginn an unter starker Kritik. Denn IT-Sicherheitsexpert:innen und Jurist:innen sind sich einig: Der Ansatz funktioniert weder technisch zuverlässig noch ist er mit Grundrechten vereinbar, da anlasslos und massenhaft die Privatsphäre verletzt wird. Einige prominente Anbieter, darunter WhatsApp und Signal, haben bereits angekündigt, sich notfalls aus dem britischen Markt zurückzuziehen oder es auf einen Rauswurf ankommen zu lassen.

Die einstimmige Kritik hat offenkundig Spuren hinterlassen. „Eine Anordnung kann nur erfolgen, wenn dies technisch machbar ist und die Technologie nachweislich Mindeststandards an Genauigkeit bei der Erkennung ausschließlich von Inhalten zum sexuellen Missbrauch und zur Ausbeutung von Kindern erfüllt“, zitiert die Financial Times aus einer noch nicht öffentlich verfügbaren Erklärung der britischen Regierung.

Die Nachricht lässt etwa die Signal-Chefin Meredith Whittaker jubeln, die bis zuletzt gegen das Gesetz mobilisiert hatte. Von einem kompletten Sieg will sie jedoch nicht sprechen: Besser wäre es gewesen, die Vorgaben zur Chatkontrolle wären vollständig aus dem geplanten Gesetz geflogen, schreibt Whittaker auf X (vormals Twitter). Dennoch sei die überraschende Wende „sehr groß und sehr gut“.

Automatisierte Inhaltekontrolle überall

Die Pflicht für Inhaltekontrolle reicht indes über verschlüsselte Messenger hinaus, sie soll auch für Cloudspeicher, Fotodienste und sonstige Internet-Angebote gelten. Ohne großflächige pro-aktive Überwachung ließe sich die Vorgabe aber nicht umsetzen, warnt etwa Google in einer Stellungnahme zu dem Gesetz. Als Folge würde sogenanntes Overblocking drohen, wenn also im Zweifel mehr Inhalte gelöscht werden als notwendig.

Auf die Gefahren automatisierter Inhaltekontrolle hatte unter anderem auch der ehemalige UN-Sonderberichterstatter für Meinungsfreiheit, David Kaye, in einer Anhörung vor dem Parlament hingewiesen. Solche Werkzeuge könnten etwa Kontexte nicht erkennen, was zu fehlerhaften Entscheidungen führen könne, so der Jurist. Die Menschenrechtsorganisation Amnesty International warnt ebenfalls vor der „Spähklausel“: „Es bleibt unbestreitbar, dass es nicht möglich ist, ein technisches System zu schaffen, das die Inhalte privater elektronischer Kommunikation scannen und gleichzeitig das Recht auf Privatsphäre wahren kann“, sagt der Amnesty-Tech-Chef Rasha Abdul Rahim.

Alterskontrolle trifft auch Wikipedia

Merkliche Folgen dürfte auch die geplante Alterskontrolle im Netz nach sich ziehen. Demnach müssen alle Anbieter, die pornografische Inhalte zulassen, das Alter ihrer Nutzer:innen überprüfen. Wie sie das genau bewerkstelligen sollen, bleibt vorerst unklar – in Frage kommt etwa, dass Nutzer:innen ihre Ausweisdokumente auf die Dienste hochladen müssen. Neben Porno-Websites sind davon auch soziale Netzwerke wie X (vormals Twitter) oder die Online-Enzyklopädie Wikipedia betroffen.

Nutzer:innen unter 13 Jahren soll es ohnehin untersagt sein, soziale Netzwerke zu nutzen. Bei Verstößen drohen „gigantische“ Strafzahlungen von bis zu zehn Prozent des weltweiten Umsatzes, bekräftige gestern die Digitalministerin Michelle Donelan. Darüber hinaus droht den Verantwortlichen in den Unternehmen, persönlich belangt zu werden. Sie müssen Haftstrafen von bis zu zwei Jahren befürchten. Auf ähnliche Auflagen außerhalb Großbritanniens reagierten Anbieter wie Pornhub, indem sie die Nutzer:innen erfasster Gebiete kurzerhand aussperrten.

Kampf gegen „schädliche“ Inhalte

Minderjährige Nutzer:innen dürfen aber nicht nur pornografische Inhalte nicht zu Gesicht bekommen, sie sollen auch vor weiteren „schädlichen Inhalten“ geschützt werden. Dazu zählen etwa Anleitungen zu Suizid oder Tierquälerei. Hierbei hat das Oberhaus die Auflagen zuletzt etwas abgeschwächt, aus Sicht der US-Nichtregierungsorganisation Electronic Freedom Foundation (EFF) bleibt die geplante Unterteilung in unterschiedliche Kategorien jedoch weitgehend bedeutungslos.

Nach der dritten Lesung im Oberhaus muss noch die untere Kammer, das Haus of Commons, dem Gesetz abschließend zustimmen. Digitalministerin Donelan nimmt dabei den 19. Oktober ins Visier. Der ebenfalls notwendige Segen des Königs gilt als Formalie.

Update, 7.9.: Die britische Regierung bestreitet einen Richtungswechsel, berichtet die BBC. Vor dem House of Lords sagte einer der zuständigen Minister:innen, Lord Parkinson, die Regulierungsbehörde Ofcom werde weiterhin die Möglichkeit haben, Online-Dienste zur Durchleuchtung verschlüsselter Inhalte anzuweisen – solange dabei die IT-Sicherheit nicht geschwächt werde. Sollte es keine den Anforderungen genügende Technik geben, könne Ofcom den Firmen auch anordnen, sie zu entwickeln. „Wir wissen, dass sie entwickelt werden kann“, zitiert die BBC eine:n Regierungssprecher:in. Aus Sicht des früheren Chefs des National Cyber Security Centre, Ciaran Martin, habe die Regierung zwar auf dem Papier weiterhin die Befugnis, Scan-Anordnungen auszusprechen. Dies sei aber an so viele Bedingungen geknüpft, dass sie niemals ausgeübt werden könne.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

5 Ergänzungen

  1. Zitat: Eine automatisierte Inhaltekontrolle, die Darstellungen von Kindesmissbrauch aufspüren soll, bleibe so lange ausgesetzt, bis sie „technisch machbar“ ist.

    Die Signal-Chefin Meredith Whittaker wird also, insofern eine technische Lösung gefunden wurde, nolens volens die automatisierte Inhaltekontrolle implementieren müssen.

    Ein Rückzug der Signal App bedeutet nicht den Untergang des Abendlandes (GB), sondern es wird alternativ dann Entwickler ermuntern, eine rechtskonforme App zu entwickeln.

    Zitat : Es bleibt unbestreitbar, dass es nicht möglich ist, ein technisches System zu schaffen, das die Inhalte privater elektronischer Kommunikation scannen und gleichzeitig das Recht auf Privatsphäre wahren kann“, sagt der Amnesty-Tech-Chef Rasha Abdul Rahim

    Desweiteren sind schon einige Entwicklungen in der Pipeline, die solche Probleme proaktiv ( das Recht auf Privatsphäre ) angehen und in ersten Testläufen zu sehr guten Laborergebnissen führten. Im übrigen ist es an der Zeit, im Keller (Darknet) mal einwenig das Licht anzuschalten und kräftig durchzulüften :)

    “You may be the only person left who believes in you, but it’s enough.
    It takes just one star to pierce a universe of darkness. Never give up.”
    — Richelle E. Goodrich

  2. „Desweiteren sind schon einige Entwicklungen in der Pipeline, die solche Probleme proaktiv ( das Recht auf Privatsphäre ) angehen und in ersten Testläufen zu sehr guten Laborergebnissen führten.“

    Dann bitte ich stellvertretend für alle hier um genaue Angaben und Quellen dieser „Pipeline“-Experimente.
    Ansonsten sollten Sie sich (u. a. hier) genauestens mit der Materie auseinandersetzen, bevor sie eine doch äußerst grundrechtsfeindliche Meinung vertreten, deren Inhalt weder den Kindern bzw. Opfern nützt geschweige denn das Problem löst.

    1. Sehr gerne komme ich Ihrer Aufforderung zumindest in Teilen nach:

      Zum leichten Einstieg in die Materie: https://de.wikipedia.org/wiki/Homomorphe_Verschlüsselung

      >> Es gibt eine Reihe von Kryptosystemen, die zumindest partiell homomorphe Verschlüsselung bei annehmbarem Aufwand erlauben. Darüber hinaus existieren auch voll-homomorphe Verschlüsselungssysteme, die jedoch auf Grund ihrer komplexen Gestalt und Rechenintensivität bislang keine Verwendung finden.

      Craig Gentry: A Fully Homomorphic Encryption Scheme.

      Seit 2009 hat sich beim VLSI Design ( in der Chip Fertigung ) einiges getan und die geforderten PetaFLOPS sind jetzt zumindest unter Laborbedingungen errreichbar. Wir haben uns dabei erlaubt Craig Gentrys Encryption Scheme einwenig zu modifizieren. :)

      Da Sie weder über ausreichend Hintergrundwissen zur Gruppe ( sie besteht vornehmlich aus IT Experten und Juristen, die in ihrer Jugend selbst sexuelle Gewalterfahrungen durchleiden mussten) noch über die eigentliche juristische Einbindung und Arbeitsweise wissen können , ist Ihre „harsche Kritik“ sofern unangebracht. Getreu dem Motto: Wir werden wissen, wie und wann wir die Öffentlichkeit erreichen, aber die Öffentlichkeit wird uns nicht wahrnehmen können, gehe ich dann mal wieder zurück an die Arbeit.

      „by invitation only “ via VPN >>TOR Circuit>> netzpolitik.org ::)

  3. Teil 2:

    Missbrauch und Gewalt resultieren vielfach aus problematischen psychosozialen und gesellschaftlich-prekären Verhältnissen, die es zu verbessern gilt. Nur so funktioniert echte Prävention.

    Drittens: Verschlüsselung, Anonymität und daraus erwachsendes Vertrauen sind elementarer Bestandteil eines funktionierenden demokratischen Systems. Das Tor-Netzwerk wie auch die Ihnen sicher bekannten kryptographischen Algorithmen diverser Messenger wurden erdacht, um im Netz das zu gewährleisten, was für uns in der realen Welt selbstverständlich ist. Zudem retten Anonymität und Verschlüsselung jeden Tag etliche Menschenleben, die angesichts zunehmender autoritärer Herrschaftsstrukturen und den mit ihnen verbundenen Zensurmaßnahmen gefährdet sind.

    Auch vor diesem Hintergrund sollten Sie und Ihre Mitstreiter Ihre Position und Ihr Vorhaben gründlich überdenken.

    PS: Es gibt auf netzpolitik.org zum Thema viele weitere, interessante Artikel und lesenswerte Kommentare.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.