Das britische Parlament hat gestern den umstrittenen Online Safety Bill beschlossen. Das Gesetz soll vor allem Kinder vor schädlichen Inhalten im Internet schützen und sieht unter anderem weitläufige Alterskontrollen, strenge Vorgaben zur Inhaltemoderation und empfindliche Geldbußen bei Verstößen vor. Das Gesetz enthält ebenso eine britische Variante der sogenannten Chatkontrolle, die eine automatisierte Durchleuchtung privater Chat-Nachrichten festschreibt. Diese dürfte aber vorerst nicht umgesetzt werden.
Das rund sechs Jahre lang verhandelte Gesetz ist inzwischen auf gut 300 Seiten angewachsen und trifft nicht nur große Online-Dienste wie Facebook oder Google. Schätzungen der konservativen Regierung zufolge sind rund 20.000 kleinere und nicht-kommerzielle Anbieter wie die Wikipedia betroffen. Viele davon machen sind nun Sorgen, ob sie die Vorgaben überhaupt umsetzen können, für manche kommt sogar ein Rückzug aus dem Internet für britische Nutzer:innen in Frage.
Online-Anbieter müssen künftig dafür sorgen, dass auf ihren Diensten keine illegalen oder schädlichen Inhalte erscheinen. Darunter fallen etwa Darstellungen von Kindesmissbrauch, Anleitungen zu Suizid oder Selbstschädigung, Drogen- und Waffenhandel, terroristische Inhalte, bestimmte Formen psychischer Gewalt wie sogenannte Zwangskontrolle und vieles mehr. Zudem sollen Alterskontrollen sicherstellen, dass Minderjährige nicht mit pornografischen Inhalten in Berührung kommen.
Für die Umsetzung der Regeln ist die Regulierungsbehörde Ofcom zuständig, sie kann Zwangsmaßnahmen oder Geldbußen anordnen und sogar Manager:innen von Online-Diensten bis hin zu Gefängnisstrafen persönlich zur Verantwortung ziehen. Sobald König Charles III seine Unterschrift unter das Gesetz setzt, werde die Behörde eine Konsultation rund um die ersten Standards starten, deren Umsetzung von den Online-Diensten erwartet werde, kündigte Ofcom-Chefin Dame Melanie Dawes an.
Zugleich erhöht die Regierung den Druck auf Meta, zum dem die sozialen Netze Facebook und Instagram gehören. Das Unternehmen plant, die Messenger seiner Dienste bald mit Ende-zu-Ende-Verschlüsselung zu sichern. Eine groß angelegte Kampagne soll sie davon abhalten, bislang jedoch erfolglos.
Menschenrechtsorganisationen schlagen Alarm
Bei Grundrechteorganisationen macht sich nun Verunsicherung breit. „Niemand bestreitet, dass Tech-Unternehmen mehr tun könnten, um die Sicherheit von Kindern im Internet zu gewährleisten“, sagte James Baker von der Open Rights Group. „Aber der Online Safety Bill ist ein überzogenes gesetzliches Chaos, das unserer Sicherheit ernsthaft schaden könnte, indem es den Internetnutzern die Privatsphäre entzieht. Das Gesetz wird auch die Meinungsfreiheit vieler Menschen im Vereinigten Königreich untergraben“, so Baker weiter.
In der Kritik steht etwa, dass viele entscheidende Details völlig ungeklärt sind und es nun Ofcom zufällt, umsetzbare Regeln zu schaffen. Dazu sei eine enge Zusammenarbeit mit IT-Expert:innen, Tech-Unternehmen und der Zivilgesellschaft notwendig, forderte Baker. Dazu ruft auch die Wikimedia Foundation auf. Schon im Vorfeld hatte das gemeinnützige Projekt vor den möglichen Folgen gewarnt, die das fertige Gesetz nicht aus dem Weg räumt.
Die weitgehend von Freiwilligen bestückte Online-Enzyklopädie Wikipedia enthält zahlreiche Artikel, die als „schädlich“ eingestuft werden könnten. Die gesetzlichen Vorgaben würden den Community-basierten Ansatz untergraben, warnt das Projekt in einem Blog-Beitrag. Zudem seien die vorgesehenen Alterskontrollen inkompatibel mit dem Bekenntnis zur Privatsphäre und Meinungsfreiheit der Nutzer:innen. Dies gefährde den Fortbestand der Enzyklopädie im Vereinigten Königreich, sagte die Wikimedia-Manager:in Rebecca MacKinnon.
Die US-Nichtregierungsorganisation Electronic Frontier Foundation (EFF) sieht ein deutlicher zensiertes, abgekapseltes Internet auf britische Nutzer:innen zukommen. Insbesondere die vorerst auf Eis liegende Chatkontrolle sei gefährlich, denn sie untergrabe die Privatsphäre und Sicherheit nicht nur britischer Bürger:innen, sondern könnte auch weltweit eine gefährliche Vorbildwirkung entfalten, so die EFF.
Hartes Ringen um Chatkontrolle
Um ähnliche Vorgaben ringt derzeit die EU. Dabei geht es darum, mit automatisierten Mitteln Inhalte auf mögliche Darstellungen von Kindesmissbrauch zu prüfen und sie gegebenenfalls an Behörden zu melden. Betroffen könnten auch Ende-zu-Ende-verschlüsselte Messenger-Dienste sein, bei denen selbst die Anbieter keinen Zugriff auf die Inhalte haben. Sie müssten die Nachrichten also beispielsweise durchleuchten, bevor sie verschlüsselt werden.
Die als Client-Side-Scanning bekannte Technik würde jedoch das Ende vertraulicher Kommunikation im Internet einläuten und zudem ein riesiges Sicherheitsloch aufreißen, warnen Expert:innen. Mit der Technik hatte etwa Apple geliebäugelt, die Pläne aber nach lauter Kritik wieder fallen gelassen. Derzeit gibt es schlicht keine Technik oder einen grundrechtskompatiblen Ansatz, der die Bedenken aus dem Weg räumen würde.
Dies ist einer der Gründe dafür, dass sich die EU-Länder bislang nicht auf eine gemeinsame Position zu dem Kommissionsvorschlag einigen konnten – und auf den britischen Inseln die Chatkontrolle solange ausgesetzt bleiben soll, bis der Ansatz technisch angeblich umsetzbar ist. Zuvor hatten Messenger-Anbieter wie WhatsApp und Signal mit ihrem Rückzug aus dem britischen Markt gedroht, weil sie ihre Sicherheitsstandards nicht absenken wollen.
Zufrieden stellt der Aufschub die EFF jedoch nicht. „Es ist ein grundlegendes Menschenrecht, private Gespräche zu führen“, schreibt die Grundrechteorganisation. Dieses Grundrecht sei für die am stärksten gefährdeten Menschen noch wichtiger – und genau deren Sicherheit werde durch die geplanten Bestimmungen besonders gefährdet. Eine Chatkontrolle würde die Tür öffnen für Belästiger, Datendiebe und autoritäre Regierungen, warnt die EFF. „Paradoxerweise haben die britischen Gesetzgeber diese neuen Risiken im Namen der Online-Sicherheit geschaffen.“
Ausweiskontrollen im Netz
Wie die geplanten Alterskontrollen im Detail umgesetzt werden sollen, bleibt ebenfalls offen. Sie sollen nicht nur für einschlägige Porno-Seiten gelten, sondern für alle Online-Dienste, die potenziell pornografisches Material zulassen. Zudem sollen sie Kinder unter 13 Jahren von der Nutzung sozialer Medien aussperren.
Fest steht jedenfalls, dass sich Ausweiskontrollen im Netz kaum umsetzen lassen, ohne umfangreich Daten zu sammeln, von Kindern wie von Erwachsenen. Kürzlich hatte dies etwa Australien geprüft, den Ansatz jedoch wegen schwerer Bedenken verworfen. Auf die Vorgaben einiger US-Bundesstaaten wie Utah reagierten Anbieter wie Pornhub, indem sie die Nutzer:innen erfasster Gebiete kurzerhand aussperrten. In Deutschland, wo sich Landesmedienanstalten für Altersverifikationen einsetzen und Pornoseiten mit Netzsperren drohen, ist die seit einigen Jahren tobende Auseinandersetzung noch nicht vollständig ausgefochten.
“War is peace. Freedom is slavery. Ignorance is strength. Big Brother is watching you.”
Großbritannien wird einmal mehr zur Geburtsstätte des Orwell-Staates. Geht alles, wenn man keine Verfassung hat, aus der EU ausgetreten ist und Faschisten und Antidemokraten, vor denen das Buch warnen sollte, sowieso per Definition immer nur die anderen sind.
Ich hoffe wirklich, dass Signal und WhatsApp ernst machen mit ihrer Drohung. Große Teile der Bevölkerung werden den Knall erst hören, wenn ihre wichtigste Kommunikationsapp zu verschwinden droht und ihnen genau mitgeteilt wird, warum.
„wenn man keine Verfassung hat“
dem möchte ich kurz widersprechen. das vereinigte königreich hat sehr wohl eine verfassung, es handelt sich dabei aber um eine (teilweise) „nicht-kodifizierte“ verfassung. es sind viele kleine stücke die zusammen eben trotzdem ein ganzes ergeben, und kein einzelnes gebundenes büchlein mit bundesadler vorne drauf.
ich mache diese ergänzung nur, weil die aussage einfach nicht stimmt, und weil es auch menschen gibt die behaupten deutschland hätte keine verfassung nur weil es eben „grundgesetz“ heißt.
danke für diesen artikel! es ist nicht gerade tröstlich, daß die briten dieselben probleme haben, obwohl sie doch aus dem verein „eu“ ausgetreten sind. sollen wir als deutsche jetzt stolz darauf sein, dass die noch jüngst vermaledeite verbotskultur sich inzwischen auch bei unseren nachbarn durchgesetzt hat?
völlig unerklärlich ist mir allerdings, weshalb man jugendlichen unter 13 jahren keine eigene chat-plattform anbietet, auch wenn dreizehnjährige sicher keine lust haben, mit neunjährigen zu quatschen……..
Weil es, aus den genannten Gründen, unmöglich ist, die erwachsenen, die auf einer Kinderchat-Plattform nichts zu suchen haben, auszusperren, ohne dass wieder alle Orwell’sch durchleuchtet werden müssen. Es ist doch egal ob ich Minderjährige von Pornos oder Erwachsene aus Kinderchats raushalten will. Das ist doch technisch dasselbe Prinzip.
Netter Denkfehler, den die Politik dauernd macht. „Nur für soundso“.
Nee, nee, in diesem Falle stimmt es sogar: Die Überwachung findet zwar für alle Nutzer statt, aber eben nur für alle Nutzer der Kindernetzwerke!
Also werden jetzt Kinder getrackt, nicht Erwachsene.
Wenn, dann so.
Solch einen Service willst du nicht moderieren. Das zieht pot. Täter an und selbst ohne werden die Kinder selbst zu Tätern indem sie dort intimes verschicken.
bin mal gespannt was jetzt die messenger dienste machen werden.wollten die sich nicht zurückziehen?
Die Messenger wollten sich wegen der Chatkontrolle zurückziehen, die ja jetzt nicht eingeführt wurde. Ich denke, die werden solange bis die Chatkontrolle wirklich kommt das auch nicht machen.