In letzter Sekunde: Britische Chatkontrolle vorerst geplatzt

Die Kehrtwende kam so plötzlich wie überraschend: Bis auf Weiteres plant die britische Regierung offenbar nicht mehr, eine sogenannte Chatkontrolle auf den Inseln einzuführen. Eine automatisierte Inhaltekontrolle, die Darstellungen von Kindesmissbrauch aufspüren soll, bleibe so lange ausgesetzt, bis sie „technisch machbar“ ist, berichtet die Financial Times.

Die britische Variante der Chatkontrolle ist Teil der Online Safety Bill. Das seit Jahren verhandelte Gesetz befindet sich unmittelbar vor der Verabschiedung, heute beginnt die dritte und abschließende Lesung im Oberhaus. Sie soll vor allem Kinder vor „schädlichen Inhalten“ im Internet schützen und sieht verschärfte Sorgfaltspflichten für Online-Dienste, weitflächige Alterskontrollen und urspünglich auch eine Chatkontrolle vor.

Massenhafte Überwachung verletzt Grundrechte

Die massenhafte und automatisierte Überwachung sogar verschlüsselter Messenger-Nachrichten steht jedoch von Beginn an unter starker Kritik. Denn IT-Sicherheitsexpert:innen und Jurist:innen sind sich einig: Der Ansatz funktioniert weder technisch zuverlässig noch ist er mit Grundrechten vereinbar, da anlasslos und massenhaft die Privatsphäre verletzt wird. Einige prominente Anbieter, darunter WhatsApp und Signal, haben bereits angekündigt, sich notfalls aus dem britischen Markt zurückzuziehen oder es auf einen Rauswurf ankommen zu lassen.

Die einstimmige Kritik hat offenkundig Spuren hinterlassen. „Eine Anordnung kann nur erfolgen, wenn dies technisch machbar ist und die Technologie nachweislich Mindeststandards an Genauigkeit bei der Erkennung ausschließlich von Inhalten zum sexuellen Missbrauch und zur Ausbeutung von Kindern erfüllt“, zitiert die Financial Times aus einer noch nicht öffentlich verfügbaren Erklärung der britischen Regierung.

Die Nachricht lässt etwa die Signal-Chefin Meredith Whittaker jubeln, die bis zuletzt gegen das Gesetz mobilisiert hatte. Von einem kompletten Sieg will sie jedoch nicht sprechen: Besser wäre es gewesen, die Vorgaben zur Chatkontrolle wären vollständig aus dem geplanten Gesetz geflogen, schreibt Whittaker auf X (vormals Twitter). Dennoch sei die überraschende Wende „sehr groß und sehr gut“.

Automatisierte Inhaltekontrolle überall

Die Pflicht für Inhaltekontrolle reicht indes über verschlüsselte Messenger hinaus, sie soll auch für Cloudspeicher, Fotodienste und sonstige Internet-Angebote gelten. Ohne großflächige pro-aktive Überwachung ließe sich die Vorgabe aber nicht umsetzen, warnt etwa Google in einer Stellungnahme zu dem Gesetz. Als Folge würde sogenanntes Overblocking drohen, wenn also im Zweifel mehr Inhalte gelöscht werden als notwendig.

Auf die Gefahren automatisierter Inhaltekontrolle hatte unter anderem auch der ehemalige UN-Sonderberichterstatter für Meinungsfreiheit, David Kaye, in einer Anhörung vor dem Parlament hingewiesen. Solche Werkzeuge könnten etwa Kontexte nicht erkennen, was zu fehlerhaften Entscheidungen führen könne, so der Jurist. Die Menschenrechtsorganisation Amnesty International warnt ebenfalls vor der „Spähklausel“: „Es bleibt unbestreitbar, dass es nicht möglich ist, ein technisches System zu schaffen, das die Inhalte privater elektronischer Kommunikation scannen und gleichzeitig das Recht auf Privatsphäre wahren kann“, sagt der Amnesty-Tech-Chef Rasha Abdul Rahim.

Alterskontrolle trifft auch Wikipedia

Merkliche Folgen dürfte auch die geplante Alterskontrolle im Netz nach sich ziehen. Demnach müssen alle Anbieter, die pornografische Inhalte zulassen, das Alter ihrer Nutzer:innen überprüfen. Wie sie das genau bewerkstelligen sollen, bleibt vorerst unklar – in Frage kommt etwa, dass Nutzer:innen ihre Ausweisdokumente auf die Dienste hochladen müssen. Neben Porno-Websites sind davon auch soziale Netzwerke wie X (vormals Twitter) oder die Online-Enzyklopädie Wikipedia betroffen.

Nutzer:innen unter 13 Jahren soll es ohnehin untersagt sein, soziale Netzwerke zu nutzen. Bei Verstößen drohen „gigantische“ Strafzahlungen von bis zu zehn Prozent des weltweiten Umsatzes, bekräftige gestern die Digitalministerin Michelle Donelan. Darüber hinaus droht den Verantwortlichen in den Unternehmen, persönlich belangt zu werden. Sie müssen Haftstrafen von bis zu zwei Jahren befürchten. Auf ähnliche Auflagen außerhalb Großbritanniens reagierten Anbieter wie Pornhub, indem sie die Nutzer:innen erfasster Gebiete kurzerhand aussperrten.

Kampf gegen „schädliche“ Inhalte

Minderjährige Nutzer:innen dürfen aber nicht nur pornografische Inhalte nicht zu Gesicht bekommen, sie sollen auch vor weiteren „schädlichen Inhalten“ geschützt werden. Dazu zählen etwa Anleitungen zu Suizid oder Tierquälerei. Hierbei hat das Oberhaus die Auflagen zuletzt etwas abgeschwächt, aus Sicht der US-Nichtregierungsorganisation Electronic Freedom Foundation (EFF) bleibt die geplante Unterteilung in unterschiedliche Kategorien jedoch weitgehend bedeutungslos.

Nach der dritten Lesung im Oberhaus muss noch die untere Kammer, das Haus of Commons, dem Gesetz abschließend zustimmen. Digitalministerin Donelan nimmt dabei den 19. Oktober ins Visier. Der ebenfalls notwendige Segen des Königs gilt als Formalie.

Update, 7.9.: Die britische Regierung bestreitet einen Richtungswechsel, berichtet die BBC. Vor dem House of Lords sagte einer der zuständigen Minister:innen, Lord Parkinson, die Regulierungsbehörde Ofcom werde weiterhin die Möglichkeit haben, Online-Dienste zur Durchleuchtung verschlüsselter Inhalte anzuweisen – solange dabei die IT-Sicherheit nicht geschwächt werde. Sollte es keine den Anforderungen genügende Technik geben, könne Ofcom den Firmen auch anordnen, sie zu entwickeln. „Wir wissen, dass sie entwickelt werden kann“, zitiert die BBC eine:n Regierungssprecher:in. Aus Sicht des früheren Chefs des National Cyber Security Centre, Ciaran Martin, habe die Regierung zwar auf dem Papier weiterhin die Befugnis, Scan-Anordnungen auszusprechen. Dies sei aber an so viele Bedingungen geknüpft, dass sie niemals ausgeübt werden könne.