GroomingMit der Chatkontrolle droht die Alterskontrolle

Die von der EU-Kommission geplante Chatkontrolle gefährdet nicht nur private Kommunikation. Kaum beachtet wurde bislang ein weiteres Risiko: Anbieter sollen das Alter von Nutzer:innen überprüfen. Es droht eine Ausweispflicht, um chatten zu dürfen.

Ein Personalausweis in einer Chat-Sprechblase mit drei Punkten
Kein Chat mehr ohne Ausweiskontrolle? Gemeinfrei-ähnlich freigegeben durch unsplash.com Chatblase: Volodymyr Hryshchenko

Die EU-Kommission hat vergangene Woche einen Gesetzesvorschlag vorgestellt, mit dem sie gegen Darstellungen sexualisierter Gewalt an Kindern und Grooming vorgehen will. Daraufhin gab es viele Reaktionen: Menschen gingen auf die Straße, starteten eine Petition, Politiker:innen und Verbände lehnten den Vorstoß empört ab. Im Fokus der Sorge: Der Vorschlag könnte eine sogenannte Chatkontrolle bringen. Das heißt, Anbieter müssten auch private Nachrichten durchleuchten. Eine solche massenhafte Überwachung würde vertrauliche Kommunikation im Netz schwächen.

Doch der Vorschlag der Kommission könnte noch andere Folgen haben: Er würde Anbieter dazu verpflichten, verstärkt Alterskontrollen einzuführen. Je nachdem, wie genau Anbieter diese Kontrollen gestalten, könnten Nutzer:innen Dienste dann nicht mehr nutzen, ohne sich zu identifizieren.

Dem EU-Entwurf zufolge sollen Anbieter künftig Einschätzungen vorlegen. Darin sollen sie das Risiko für die „Nutzung des Dienstes zum Zwecke des sexuellen Missbrauchs von Kindern im Internet“ beschreiben – etwa, ob der Dienst bereits für sexualisierte Gewalt genutzt wurde oder ob Erwachsene auf dem Dienst direkt mit Kindern in Kontakt treten können. Diese Einschätzung spielt eine Rolle dabei, ob Anbieter eine sogenannte Chatkontrolle durchführen müssen. In diesem Fall würden sie eine Anordnung erhalten, um Technologien zur Erkennung sexualisierter Gewalt gegen Minderjährige einzusetzen.

Anreiz für vorauseilende Maßnahmen

Um das Risiko einer Anordnung zur Chatkontrolle zu verringern, können Anbieter ergriffene Gegenmaßnahmen vorzeigen. Als ein Beispiel dafür nennt der Entwurf der EU-Kommission ausdrücklich „Funktionen zur Altersüberprüfung“. Daraus lässt sich ein klarer Anreiz ablesen: Je mehr Gegenmaßnahmen ein Anbieter ergreift, desto eher bleibt er womöglich von behördlichen Anordnungen verschont.

Besonders in die Pflicht nimmt die EU-Kommission Chatdienste, mit denen Nutzer:innen auch Kontakte zu Kindern anbahnen können – sogenanntes Cybergrooming. Das könnte viele Anbieter betreffen, bei denen Erwachsene mit Kindern kommunizieren können. Betroffene Anbieter wären verpflichtet, Maßnahmen „zur Altersverifizierung und -bewertung“ zu ergreifen. Damit sollen sie minderjährige Nutzer:innen identifizieren und Anbahnungsversuche verhindern. Und verhindern, dass sich Erwachsene als Kinder ausgeben.

Welche Maßnahmen das genau sind, beschreibt der Entwurf nicht. Eine Möglichkeit wäre, das Alter von Nutzer:innen zu bestimmen, und Chats zwischen Erwachsenen und Kindern schlicht zu unterbinden. Anbieter könnten auch die Accounts von Kindern schwerer auffindbar machen oder verhindern, dass man ihnen Bilder und andere Medien schicken kann. Denkbar wäre auch, dass Eltern bestätigen müssen, mit welchen Erwachsenen-Accounts ein Kind kommunizieren darf.

Kurzer Weg von Alterskontrolle zur Ausweiskontrolle

Bereits heute erschweren manche Anbieter das Anchatten von Kindern. Das Videoportal TikTok etwa hatte nach politischem Druck eine Reihe von Schutzmaßnahmen eingeführt. Profile von 13- bis 15-Jährigen werden auf dem Dienst etwa automatisch auf „privat“ gestellt, der Versand von Direktnachrichten an junge Nutzende ist standardmäßig deaktiviert. Das eigene Alter können Nutzer:innen beim Anlegen eines Accounts jedoch selbst wählen – möglich also, dass sie dabei nicht die Wahrheit sagen.

Eine strengere Alterskontrolle könnte dazu führen, dass sich Online-Dienste nicht mehr ohne vorheriges Ausweisen nutzen lassen. Häufig gehen Alterskontrollen mit einer Identifikation der Nutzer:innen einher. Eine schlichte Checkbox mit der Auswahl „Ja, ich bin über 18“ dürfte für die EU-Kommission kaum ausreichen.

Einer der datenschutzfreundlichsten Vorschläge ist dabei noch die Alterskontrolle mit dem elektronischem Personalausweis. Die offizielle Ausweis-App soll es möglich machen, dass nur die Information übertragen wird, ob eine Person volljährig ist – ohne sonstige Daten wie Namen oder Adresse zu offenbaren. Es gibt aber auch deutlich weniger datensparsame Methoden: Etwa, dass Nutzer:innen für eine Alterskontrolle ihre Webcam einschalten und dann Gesicht und Ausweis vorzeigen.

Schärfere Alterskontrollen zum Schutz von Minderjährigen könnten dazu führen, dass Millionen Nutzer:innen sensible Daten preisgeben müssen. Hacks und Leaks der Vergangenheit zeigen, dass solche Daten immer wieder trotz Schutzmaßnahmen an die Öffentlichkeit gelangen und von Kriminellen missbraucht werden können.

Unklare Lage für datensparsame Appstores

Alterskontrollen könnten nicht nur auf die Anbieter von Chatdiensten zukommen. Geht es nach der EU-Kommission, setzen die Regulierungen noch einen Schritt vorher an. Auch die Anbieter von Appstores nimmt der Entwurf in die Pflicht. Sie sollen verlässlich das Alter der Nutzer:innen einschätzen und überprüfen. Damit sollen sie verhindern, dass Kinder Zugang zu Software bekommen, bei denen das Risiko von Grooming besteht.

Das könnte zunächst dazu führen, dass Kinder als riskant eingestufte Chatapps nicht mehr installieren können. Aber auch alternative, datensparsame Appstores könnte das in Bedrängnis bringen, etwa F-Droid. Das ist ein Marktplatz für quelloffene Android-Apps, für den Nutzer:innen keinen Google-Account oder eine sonstige Registrierung benötigen.

Um solche und weitere Fragen wird es wohl in den kommenden EU-Verhandlungen mit Rat und Parlament gehen. Auch wenn es bereits in der Ampel scharfe Kritik am EU-Vorstoß gibt, ist der Ausgang der Verhandlungen offen.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

26 Ergänzungen

  1. Gibt es freie Schnittstellen für das Ausweisgedöns? Das wäre ja schon noch Obligat für einen Alterscheck. Zudem sollte mittels QR, aber auch Copy und Paste, zwischen verschiedenen Geräten sicher ausgetauscht werden können, so dass ein Gerät den Alterscheck macht, das andere die Schmuddelsoftware, die den Alterscheck anfragen muss.

    FDroid müsste vielleicht einen Shop mit Altersverifikation machen (bzw. andere Apps nicht runterladbar anbieten, solange der „Alterslogin“ nicht vollzogen ist). Eine Sache der freien Schnittstellen?

    1. Man „könnte“ so einen eID-Server für den Ausweis selbst entwickeln. ABER man muss sich an alle Vorgaben des BSI halten* und ein kostenpflichtiges Berechtigungs-Zertifikat erwerben (natürlich bei der „Vergabestelle für Berechtigungszertifikate“ …)
      Man bekommt dabei schon nach kurzer Recherche den Eindruck: dieses eID-Gedöns ist ein Projekt für die Wirtschaft und gewinnorientierte Unternehmen. Sollte also durch die „Überall-Ausweispflicht!“ das freie und offene Internet zu Tode geschunden werden wird man das achsenzuckend in Kauf nehmen.

      * https://www.bsi.bund.de/DE/Themen/Oeffentliche-Verwaltung/Elektronische-Identitaeten/Technische-Richtlinien/technische-richtlinien_node.html

      1. Ich hatte zunächst vor allem die Clientseite im Sinn.

        Wollte meinen:
        Anonym gegenüber dem Dienst: muss
        Open Source App: muss

    2. Gegenfrage: Gibt es freie Schnittstellen für das Chatgedöns? Es würde mich nicht wundern wenn die Nutzer bei derartigen Bedingungen z.B. zu Telegram migrierten.

  2. Dann müssten ja auch die Repositories von Linux Distributionen wie Debian, Ubuntu und co Pass Kontrollen einführen. Denn auch da gibt es ja Browser und Chat Software zum Download.

    Würde man das eng auslegen dann wäre der Weiterbetrieb von Linux und Freier Software in dieser Form in der Europäischen Union nicht mehr rechtssicher möglich !!!

    1. Der Vorstoß mit den Bildern bei Chatanwendungen ist doch auch von der Qualität. Geht es da um „shit effort“ oder muss jetzt noch sichergestellt werden, dass es nicht z.B. durch sogenannte „freie Software“ umgangen werden kann?

      1. Wie bei Upload Filter wird man das nicht festschreiben aber dem Hersteller keine andere Wahl lassen.

        Frei programmiebare Geräte in Bürgerhand sind viel zu gefährlich.

    2. Doch, es wird da nichts passieren (können), denn die EU kann rechtlich nicht in andere Staaten und in dort entwickelte Betriebssysteme eingreifen. Hier überschätzt sie sich gewaltig, ganz abgesehen davon, dass es immer IT-Projekte geben wird, die gegen den Irrsinn der EU technisch wie politisch vorgehen werden.

      Wie „postdemocracy“ weiter unten völlig richtig erlärt:

      DER GRÖßENWAHN DER EU-KOMMISSION MUSS SOFORT GESTOPPT WERDEN!!!

      1. „die EU kann rechtlich nicht in andere Staaten und in dort entwickelte Betriebssysteme eingreifen“

        Klar. Aber es wird ja auch „nur“ der Einsatz in der EU verboten werden.
        Wobei: seit der DSGVO ist ein Einsatz von Telemetrie-will-nach-Hause-Telefonieren Windows eigentlich in Behörden nicht mehr erlaubt – und es wird flächendeckend drauf gesch***en und trotzdem weiter benutzt! Pragmatismus siegt eben über Gesetze. Wer will den Behörden-Staat schon aufhalten? Es ist ja niemand Klageberechtigt.

  3. Danke, dass ihr diesen wichtigen Aspekt beleuchtet. Selbst wenn die dystopischen Chatkontrollen als solche durch irgendwelche tollen „Kompromisse“ abgeschwächt werden, droht hier doch ganz klar eine Art indirekte Klarnamen- bzw. Verifikationspflicht.

    Deshalb: Keine Kompromisse oder Einigungen. Das ganze Vorhaben gehört zu 100% abgelehnt und keinen Fußbreit darf nachgegeben werden, denn hat die EU-Kommission erst mal ihren Fuß in der Tür, fällt sie im nächsten Schritt ins Haus mit ein! Hier muss radikal dagegen gehalten werden!

      1. Massendemos wie seinerzeit zu TTIP, Petitionen, ziviler Ungehorsam…gibt viele Möglichkeiten…

        Greta Thunberg hat es zu einem anderen Thema vorgemacht, machen wir es ALLE zu diesem nach!

      2. Im Text ist angedeutet: keine Kompromisse zuzulassen.

        Ich sehe hier eine technologische Bringschuld, also z.B. ein EU-weites, geräteübergreifendes, mit offenen Schnittstellen versehenes, Altersverifikationssystem für Onlinedienste, das u.a. auch Nachrichtenaustausch über QR-Codes zu unterstützen hat, um Gerätegrenzen zumindest in einer Richtung sicher überbrücken zu können. Vielleicht noch Authorisierung eines Gerätes, Altersverifikation innerhalb einer gewissen Zeit mehrfach durchführen zu können.

        Verhandlungskindergarten sollten wir ächten. Forderungen wie die Rückseite des Mondes mit Sozialwohnungen zuzupflastern, o.ä.

      3. Oft heißt es „so quasi“: „Nur der Kompromiss ist nicht radikal.“

        Das ist natürlich Unsinn. Ich fordere auch nicht die Auslöschung der Juden, um am Finanzmarkt bessere Chancen zu haben, nur um vielleicht in der Verhandlungsrunde ein paar Prozente herausschlagen zu können. JA, ein schlechtes Beispiel. Muss genügen. Mehr Diligenz gibt’s mal nicht, solange jene Institution „Kommission“ in der Form existiert.

        Radikal wäre auch:
        – Fehler zu korrigieren.
        – Designfehler äußerst zeitnah zu korrigieren.
        – Keinen Kompromiss zu machen, mit was gegen Demokratie funktioniert.
        – Politische Akteure an ihren Taten messen. So ein Entwurf ist auch eine Tat, die viele Leute Resourcen kostet, obwohl z.B. der Entwurf technisch unsinnig ist, oder auch nur Folgen hat, die so fundamentaler Natur sind, dass sie in dem Entwurf zu berücksichtigen sind.
        – Gesetze bei denen Grundlegendes übersehen wurde, werden annuliert oder gehen zurück an die Fachabteilung.

  4. stimmt es, dass hinter der ganzen sache ein US filmstar samt einer organisation steckt die eine spezielle software der kommission um viel geld andrehen will?

  5. Versucht man hier nicht ein gesellschaftliches Problem mit (schlechter & unüberlegter) Technologie zu lösen? Ich persönlich sehe hier primär die Eltern in der Verantwortung; dass sie die Kinder aufklären und im Internet begleiten. Analog zu „steig nicht zu Leuten ins Auto, die du nicht kennst“.

    1. Haargenau. Die EU-Kommission will jetzt aber Autos mit „Einstiegskontroll-System“, welche jede Person die ins Auto einsteigt identifiziert und einen Alterscheck macht bevor dei Türe aufgeht. Die Technologie dazu hätten wir, also warum benutzen wir sie nicht um die Welt für unsere Kinder sicherer zu machen???!!!

    2. Es gibt keinerlei Evaluation des Jugendschutzes in Deutschland. Nada, njente, nix. Das beruht alles auf persoenlicher Ueberzeugung, reinem Glauben und Hintergedanken.

      Koennte ja auffallen, dass es den Kindern hier nicht schlechter geht als in Laendern ohne so weitgehende Regelungen.

      1. Das muesste „nicht besser“ statt „nicht schlechter“ heissen.

        In vielen Bereichen geht’s den Kindern uebrigens schlechter: Schule, Verkehr, …

  6. Es wäre ja einfach, wenn man sich international auf einen Standard einigt und diese Prüfung dem ISP überlässt. Denn man muss ja zwangsweise volljährig sein um einen Vertrag abschließen zu können. Kinderschutzmechanismen sind in jedem OS eingebaut und es liegt an den Erziehungsberechtigten diese Funktionen auch zu aktivieren. Viele der Pornoseiten markieren ihre Inhalte mit Meta Daten, das sie solche Filter auch erkennen. Nur offenbar traut die Politik es den Erziehungsberechtigten nicht zu, diese Funktionen auch zu aktivieren.

    Es wäre im Prinzip einfach, aber durch Lobbyismus wird es besonders weit und schwammig formuliert. So das sie diese Verordnungen auch anderweitig auslegen lassen. Betrifft mich ja nicht, habe ja auch nichts zu verbergen. Bisher haben es Politiker nicht verstanden, das schon jetzt die Vertraulichkeit bei der Digitalen Kommunikation keinen großen Stellenwert hat. Mit dieser Verordnung werden wir dann auch wissen wer, wann welchen Schweinekram geschaut hat. Bravo!

  7. Von Seiten der Politik werden Kinder und Kinderschutz immer wieder missbraucht – wie auch hier. Das muss endlich aufhören!

  8. Einfach die Kinder und Jugendlichen allgemein richtig aufklären und zwar ohne Angst, sondern mit Mut erziehen und dann ist sowas einfacht erst recht nicht nötig.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.