Jugendschutz soll im Internet eine zunehmend große Rolle spielen. Nicht nur in der EU und Großbritannien ist eine Kindersicherung geplant oder bereits im Anrollen. Auch in den USA sollen immer mehr Bundes- und Landesgesetze Minderjährige schützen. Neben Porno-Sites sind in den vergangenen zwei Jahren vor allem soziale Netzwerke wie Facebook, Instagram und TikTok ins Visier überwiegend konservativer Politiker:innen geraten.
Acht Bundesstaaten, darunter Texas, Florida, aber auch das liberale Kalifornien, haben bereits Gesetze verabschiedet, die auf soziale Medien abzielen. Mehrere andere, etwa Maryland, Minnesota und New Jersey, arbeiten derzeit noch daran. Auch im US-Kongress dreht ein Bundesgesetz seit letztem Jahr seine Runden.
Dabei unterscheiden sich die Anläufe teils deutlich voneinander, haben aber zumindest einen Punkt gemein: In der einen oder anderen Form führen sie eine Überprüfung des Alters ein. Für minderjährige Nutzer:innen gelten dann meist schärfere Regeln, beispielsweise beim Sammeln personenbezogener Daten und beim Ausspielen von Online-Werbung. In manchen Fällen sollen Erziehungsberechtigte sogar Zugriff auf bestimmte Bereiche der Accounts ihrer Kinder erhalten. Verstöße werden mit Geldbußen geahndet, üblicherweise mehrere Tausend US-Dollar pro Vergehen.
Ähnliche Vorgaben enthält der jüngst vom US-Kongress beschlossene Kids Online Safety Act (KOSA), selbst wenn die Altersverifikation noch nicht endgültig fixiert ist. In einem ersten Schritt soll zunächst das US-Handelsministerium potenziell geeignete technische Ansätze samt deren Gefahren evaluieren und sie dann dem Kongress vorlegen.
Schwammige Vorgaben zur Alterskontrolle
Diese Unschärfe hat einen guten Grund: Die Umsetzung wird nicht einfach, so sie denn überhaupt gelingt. Schließlich greifen solche Gesetze tief in die Privatsphäre ein, bringen große IT-Sicherheitsrisiken mit sich und treffen zudem fast immer auch Erwachsene.
Bei der Altersverifikation wollen sich auch die Bundesstaaten nicht genau festlegen. Sie lassen unterschiedliche Verfahren zu und machen dabei nur grobe Vorgaben. Indirekt verweisen sie etwa auf die zahllosen Dienstleister, die zuletzt aus dem Boden geschossen sind. Auch Kreditkartenfirmen kommen in Frage. Manche Bundesstaaten, darunter Florida, schreiben neben einer „üblichen“ auch die Möglichkeit einer „anonymen“ Altersverifikation fest. Damit wollen sie erreichen, dass Drittanbieter die Überprüfung abwickeln und die Online-Dienste diese Daten gar nicht erst zu Gesicht bekommen.
Dies ist nicht unbeantwortet geblieben: Mit strategischen Klagen wehren sich Industriebündnisse wie die Computer and Communications Industry Association (CCIA) oder NetChoice, hinter denen Schwergewichte wie Meta, Google und Snapchat stehen, juristisch bislang erfolgreich gegen die Vorschriften der Bundesstaaten. Auch Bürgerrechtsorganisationen wie die Electronic Frontier Foundation (EFF) und die American Civil Liberties Union (ACLU) sind an Bord: Reihenweise haben Bundesgerichte die Gesetze blockiert, vollständig in Kraft ist deshalb derzeit noch keines von ihnen.
Innerhalb der nächsten Jahre dürfte mindestens eines davon vor dem Supreme Court landen. Bis dahin könnte indes einer ihrer Grundpfeiler, die Altersverifikation, weggebrochen sein. Denn etwas weiter fortgeschritten sind die Gerichtsverfahren rund um Alterskontrollen auf Porno-Websites. Insgesamt 19 Bundesstaaten haben seit 2023 einschlägige Gesetze erlassen, auch diese stecken seitdem weitgehend in Gerichtsverfahren fest.
Schwer berechenbare Gerichte
Auf eines davon sind alle Augen gerichtet: Anfang Juli hat der Supreme Court entschieden, im kommenden Halbjahr die texanische Variante zu verhandeln. Dass es überhaupt so weit gekommen ist, hat bereits langjährige Beobachter:innen beunruhigt. Eigentlich hatte das Höchstgericht vor über zwei Jahrzehnten in gleich zwei Präzedenzfällen Vorgaben zur Alterskontrolle im Internet für verfassungswidrig erklärt. Auch damals ging es schon um den Zugang von Minderjährigen zu Pornographie im Netz.
Diese Grundsatzentscheidungen haben untergeordnete Gerichte bislang stets berücksichtigt. Nicht so der sogenannte Fifth Circuit, ein für bundesweit relevante Fälle aus Texas, Louisiana und Mississippi zuständiges Berufungsgericht, im Instanzenweg die letzte Station vor dem Supreme Court. Ganz überraschend war das nicht: Der als extremistisch und weit rechts-außen geltende Gerichtshof hat in den vergangenen Jahren eine Reihe an bemerkenswerten Entscheidungen getroffen und sich wiederholt über jahrzehntealte Spruchpraxis hinweggesetzt.
Das hat inzwischen auch beim Supreme Court für Irritationen gesorgt – der selbst so weit rechts steht wie seit Generationen nicht mehr und der ebenfalls keine Scheu gezeigt hatte, lange geltendes Recht wie jenes auf Abtreibung über Bord zu werfen. Kürzlich hat er jedoch zwei netzpolitisch relevante Entscheidungen des Fifth Circuit aufgehoben, die beide auf Gesetze aus Texas zurückgingen: Online-Dienste dürfen demnach weiterhin Inhalte moderieren, wie sie es für richtig halten. Und staatliche Behörden können an soziale Netze herantreten und sie beispielsweise auf Desinformation rund um Gesundheitsthemen aufmerksam machen.
Doch bis der Supreme Court das letzte Wort spricht, bleibt es nicht zuletzt rechtlich ein heilloses Durcheinander. Auf den berüchtigten Fifth Circuit beschränkt sich dies nicht: Vergangene Woche hat der für die Midwest-Region zuständige Seventh Circuit Court of Appeals die Alterskontrolle aus Indiana für verfassungskonform erklärt.
Von Gerichten gestoppte Gesetze
Der California Age-Appropriate Design Code Act (CAADCA) aus dem Jahr 2022 verpflichtet Online-Dienste, Kinder aus Kalifornien mit einem „angemessenen Maß an Zuverlässigkeit“ zu erkennen. Für diese Nutzer:innen sollen dann erhöhte Anforderungen an Privatsphäre und Sicherheit gelten.
Obwohl das Gesetz zu den verhältnismäßig zurückhaltenden – und schwammigen – zählt, haben weite Teile davon einer gerichtlichen Überprüfung bislang nicht standgehalten. Schon vor knapp einem Jahr hatte ein Bundesgericht den CAADCA ausgesetzt, vergangene Woche bestätigte die Berufungsinstanz den Kernpunkt: Das Gesetz, das eigentlich im Juli in Kraft treten sollte, würde Anbieter verfassungswidrig zwingen zu entscheiden, ob bestimmte Inhalte Kinder schädigen könnten oder nicht – und bleibt daher weitgehend aufgehoben.
Auf Eis liegt auch der Social Media Safety Act aus Arkansas. Als erster Bundesstaat verlangte er ab September 2023 von Anbietern sozialer Netze, das Alter ihrer Nutzer:innen zu überprüfen. Unter-18-Jährige sollten das Einverständnis ihrer Erziehungsberechtigten einholen, um überhaupt einen Account anlegen zu können.
Der von der ehemaligen Trump-Pressesprecherin Sarah Huckabee Sanders regierte Bundesstaat gibt sich kämpferisch, sich in dem weiter andauernden Rechtsstreit letztenendes gegen die Anbieter sozialer Netze durchzusetzen. „Sie vermarkten ein süchtig machendes Produkt, das nachweislich Depressionen, Einsamkeit und Angstzustände verstärkt und unsere Kinder ins Fadenkreuz von Menschenhändlern bringt“, warnte Sanders.
Im Schnellverfahren und ohne Gegenstimme hat im Frühjahr das Parlament in Mississippi eine verpflichtende Altersverifikation für alle Nutzer:innen sozialer Dienste im Bundesstaat beschlossen. Minderjährige sollen für die Nutzung das Einverständnis der Erziehungsberechtigten benötigen.
Anbieter haben dann „wirtschaftlich vertretbare“ Anstrengungen zu unternehmen, um potenziell schädigende Inhalte von Jugendlichen fernzuhalten. Das reicht vom Drogenkonsum über Stalking bis hin zu Darstellungen von Kindesmissbrauch und sonstiger „illegaler Aktivität“. Die Regeln hätten ab Juli gelten sollen, bis auf Weiteres blockiert jedoch eine einstweilige Verfügung das Gesetz.
Nicht in ein eigenes Gesetz, sondern in das Budget hat Ohio den Social Media Parental Notification Act gepackt. Soziale Netze, dem Gesetzestext nach aber wohl auch manche Gaming-Anbieter, müssen dann von Unter-16-Jährigen die Erlaubnis ihrer Erziehungsberechtigten einholen. Neben der Alterskontrolle und Zugangsgenehmigung enthält das Gesetz keine Vorgaben, bestimmte Inhalte zu blockieren. Bis auf Weiteres bleibt es ebenfalls ausgesetzt.
Noch nicht in Kraft getretene Gesetze
Mit einem politischen Manöver ist Utah Klagen gegen sein Kinderschutzgesetz ausgewichen: Anfang des Jahres ersetzte das Landesparlament kurzerhand ein noch nicht in Kraft getretenes Gesetzespaket mit einem neuen. Viele Regeln bleiben jedoch effektiv die selben, in Kraft treten sollen sie ab Oktober – sofern eine im Mai eingereichte, aktualisierte Klage erfolglos bleibt.
Der mehrheitlich von Mormonen bewohnte Bundesstaat geht dabei viel weiter als andere. Mittels Alterskontrollen identifizierte Minderjährige sollen besonderen Schutz genießen, standardmäßig sollen viele Funktionen ausgeschaltet bleiben, etwa Push-Benachrichtigungen oder automatisch abspielende Videos. Außerdem sollen Erziehungsberechtigte die Einstellungen ihrer Schützlinge verändern und ihnen beispielsweise Zeitbegrenzungen auferlegen können.
Zudem dreht der Utah Social Media Regulation Act die Beweislast um: Online-Dienste, die Inhalte mit Hilfe von Algorithmen kuratieren, müssen nachweisen, dass sie damit die psychische Gesundheit ihrer Nutzer:innen nicht gefährden. Nur unter bestimmten Bedingungen sind sie bei einer Klage allenfalls nicht haftbar. „Diese Anbieter sozialer Medien verdienen Milliarden US-Dollar, indem sie unsere Kinder töten“, polterte der republikanische Governeur Spencer Cox.
Ab September kommen in Texas umfangreiche Auflagen auf Online-Dienste zu. Der Begriff „Digitaler Dienst“ ist hierbei sehr breit gefasst (und im Übrigen praktisch wortgleich mit dem Gesetz in Mississippi): Betroffen sind alle Anbieter, die eine „Website, eine Applikation, ein Programm oder Software“ betreiben, die über das Internet personenbezogene Daten sammeln oder verarbeiten sowie Postings von Nutzer:innen zulassen.
Bei solchen Online-Diensten können Unter-18-Jährige Accounts nur mit Genehmigung anlegen, und selbst dann müssen sie die Anbieter von möglicherweise schädlichen Inhalten wie „bullying“ oder „grooming“ fernhalten: Sie haben umfassende Listen solcher nur unscharf definierter Inhalte zu führen und müssen den Zugang dazu blockieren. Ausdrücklich müssen sie dabei auch gerne genutzte Schlupflöcher berücksichtigen, etwa – absichtliche oder unabsichtliche – Tippfehler oder sogenannte Homoglyphen.
Erziehungsberechtigte erhalten nicht nur Zugang zu den Account-Einstellungen, sie können auch alle personenbezogenen Daten des Kontos anfordern. Mindestens eine Klage samt Antrag auf eine einstweilige Verfügung ist bereits eingereicht, entschieden ist darüber noch nicht.
Im konservativ regierten Florida gilt das Social-Media-Gesetz ab Januar. Dort soll Unter-14-Jährigen generell die Nutzung sozialer Netze untersagt sein, Unter-16-Jährige müssen sich dies von ihren Erziehungsberechtigten erlauben lassen. Womöglich unautorisierte Accounts müssen die Anbieter löschen, sind davon fälschlicherweise Erwachsene betroffen, müssen sie dann innerhalb von 90 Tagen ihre Identität nachweisen.
Minderjährigen soll der Zugriff auf „schädliche Inhalte“ verwehrt bleiben, darunter sexuelle Inhalte oder auch jene, denen es insgesamt an „ernsthaftem literarischen, künstlerischen, politischen oder wissenschaftlichen Wert“ mangelt. Online-Dienste, deren Inhalte zu mehr aus einem Drittel aus solchen bestehen, sollen den Zugang erst ab 18 Jahren erlauben.
Eine elterliche Erlaubnis zur Social-Media-Nutzung brauchen Unter-16-Jährige ab Juli 2025 in Louisiana. Erziehungsberechtigte erhalten außerdem Zugriff auf die Einstellungen des Accounts und können unter anderem tägliche Nutzungslimits setzen. Auch können sie sich benachrichtigen lassen, falls das Kind dem Online-Dienst einen Inhalt oder eine Person meldet.
Eine Klage gegen das Gesetz wurde bislang offenbar noch nicht eingereicht. Allerdings meldeten die Industrieverbände CCIA sowie Netchoice im Vorfeld Protest an: Die Aufteilung von Nutzer:innen in Erwachsene und Minderjährige sei schon vor Jahren als verfassungswidrig eingestuft worden, weil sich Altersverifikation schwer umsetzen ließe.
„Auch nach 25 Jahren ist die Altersauthentifizierung noch immer eine schwierige technische und soziale Herausforderung“, heißt es in einer Stellungnahme. Die Abgeordneten sollten den Verlauf der Klage gegen das ähnlich gelagerte Gesetz in Kalifornien abwarten, bevor sie ihre Stimme abgeben – ein Rat, den sie offenkundig nicht berücksichtigt haben.
… Und uns hat man ausgelacht, als wir im Usenet die Schreibberechtigung nur nach erfolgreich abgelegter Befähigungsprüfung forderten …
Im Grunde ist das nichts Anderes als eine konsequent zu Ende gedachte Umsetzung des NetzDG. Für die Redaktion sowie die ganzen „Das Internet war sooooo schön als noch nicht jeder Depp einen Internetanschluss hatte“-Boomer gilt: „Bedenke, was du dir wünschst. Es könnte in Erfüllung gehen.“
Konsequent? Also keine Vorgaben, stattdessen Krautsalat und Datenabfluss für alle? Das ist ein Lobbygeschenk an die Bundesstaaten, die vorhaben einem Social Network ein Lobbygeschenk zu machen…
Obwohl ich das für soziale Netzwerke nicht so schlimm finde. Komischerweise wird Pornografie meist sehr gut gefiltert aber mit Gewalt wird man immer wieder konfrontiert. Sich einmalig oder wenn zweifel aufkommen sich zu legitimieren ist so gesehen nicht weiter schlimm.
Beim der Pornografie geht es ja vornehmlich darum das der Konsum anonym bleiben muss und die Netzwerke nur Strafbares Material melden und filtern. Zudem will man sicherstellen das Minderjährige keinen Zugang haben. Was man in Sozialen Netzwerken manchmal zu sehen bekommt ist auch für Volljährige oft schwer verdaulich.