MassenüberwachungDas sagen Kinderschutz-Organisationen zur Chatkontrolle

Neben dem Kinderschutzbund lehnt auch der Deutsche Kinderverein Chatkontrollen mit Nachdruck ab – als „massiven Eingriff in rechtsstaatliche Grundsätze“. Es gibt aber auch Fürsprache.

Mutter und Tochter schauen auf ein Handy; ein Polizist kontrolliert mit Taschenlampe
Chatkontrolle heißt, dass im Zweifel nicht nur Erziehungsberechtigte ihren Nachwuchs beaufsichtigen (Symbolbild) – Polizist: IMAGO / YAY Images, IMAGO / MASKOT, Montage: netzpolitik.org

Weder Erwachsene noch Kinder und Jugendliche möchten wohl ihre privaten Online-Chats jemandem zur Kontrolle vorlegen. Aber wie wäre das, wenn Chat-Anbieter und Polizei zur Sicherheit einen Blick hineinwerfen? Ein solches Szenario wäre durch die Chatkontrolle möglich, die ein Entwurf der EU-Kommission einfordert.

Anbieter unter anderem von Chat-Apps müssten auf Anordnung Inhalte scannen. Entdeckt die Software einen Verdacht auf sogenannte Missbrauchsdarstellungen oder Kontaktanbahnungen durch Erwachsene, dann schlägt sie Alarm. Die Inhalte sollen zunächst an die Anbieter gehen, dann an Ermittlungsbehörden. Dabei kann es passieren, dass auch harmlose Aufnahmen auf dem Schreibtisch der Polizei landen.

Die Folge wäre, dass private Kommunikation nicht mehr vertraulich ist. Das könnte auch Familienchats und intime Chats unter Jugendlichen und Kindern betreffen. Ist das im Sinne des Kinderschutzes? Wir haben Kinderschutzorganisationen um eine Einschätzung gebeten – und gemischte Antworten erhalten.

Deutscher Kinderverein: „Kinderschutz darf nicht missbraucht werden“

Der Deutsche Kinderverein versteht sich als Impulsgeber und Kinderschutz-Lobbyist auf Grundlage der UN-Kinderrechtskonvention. Kinderschutz sei eine der größten sozialen Baustellen in unserem Land, heißt es auf der Website. Geschäftsführer Rainer Rettinger bezeichnet die geplante Chatkontrolle gegenüber netzpolitik.org als „massiven Eingriff in rechtsstaatliche Grundsätze“.

Rettinger verweist auf Recherchen, die zeigen: Dem BKA mangelt es schon jetzt nicht an Hinweisen auf Aufnahmen sexualisierter Gewalt gegen Kinder. Entdeckte Fotos und Videos bleiben online, weil Ermittler:innen die Provider nicht strukturiert dazu auffordern, sie zu löschen. „Allein dies ist schon ein Skandal und für Betroffene ein unerträglicher Zustand“, schreibt Rettinger. „Nun will man eine anlasslose Massenüberwachung starten, hat aber derzeit kein Personal, um diese Massen bewältigen zu können.“

Rettinger hinterfragt: „Wer garantiert, dass die Technologie fehlerfrei arbeitet?“ Auch IT-Expert:innen warnen vor den unvermeidlichen Fehlerquoten automatischer Erkennungstechnologien. Außerdem könnte eine Chatkontrolle zum Kinderschutz laut Rettinger ein „Türöffner“ sein für Ermittlungen zu anderen Fällen. Dafür dürfe „Kinderschutz nicht missbraucht werden“.

Statt einer Chatkontrolle sieht Rettinger viele, drängendere Aufgaben. Dazu gehörten unter anderem eine „Verdopplung der Fachkräfte im Jugendamt“, „bessere Ausstattung der Jugendämter“ und eine „deutschlandweite, verpflichtende Ausbildung im Kinderschutz“. Kinder müssten wissen, wo es Hilfe gibt; was Erwachsene dürfen und was nicht. Lehr- und Erziehungspersonal müsse geschult und sensibilisiert werden, um mögliche Betroffene zu erkennen. Hier solle die EU aktiv werden. Mit Bilck auf die Chatkontrolle schreibt Rettinger: „Solange die Hausaufgaben der Politik nicht gemacht sind, solange brauchen wir über diese Maßnahmen nicht reden.“

Innocence in Danger: „gegen das Dunkelfeld“

Eine klare Gegenposition vertritt der deutsche Ableger der internationalen Organisation Innocence in Danger. Vorstand Julia von Weiler schreibt netzpolitik.org: „Der Begriff Chatkontrolle ordnet das Vorhaben in eine Big-Brother-artige Totalüberwachung ein – und gibt meines Erachtens das Gesetzesvorhaben der EU falsch wieder.“ Außerdem schreibt sie: „Sollte das vorgeschlagene Gesetz der EU Wirklichkeit werden, wären Kinder und Betroffene viel besser geschützt als vorher. Alleine durch die Tatsache, dass Provider die Risiken für gelingenden Kinder- und Jugendschutz evaluieren und adressieren müssen.“

Im vergangenen Jahr habe sich die Zahl der angezeigten Missbrauchsabbildungen im Netz verdoppelt. „Die neue Maßnahme würde sicherlich gegen das riesige Dunkelfeld wirksam werden“, schreibt von Weiler. Große Anbieter würden bereits jetzt „Milliarden von Missbrauchsabbildungen“ aus ihrem Kommunikationsbestand fischen. „Das ist für Kinder und Jugendliche, deren Erleiden sexualisierter Gewalt millionenfach digital geteilt wird, ein Segen.“

Zur Einordnung: Die US-Organisation National Center for Missing & Exploited Children (NCMEC) führt Buch über gemeldete Missbrauchsdarstellungen im Netz. Daten liefern unter anderem Tech-Konzerne wie Facebook, Google und Microsoft. Im Jahr 2021 gingen demnach 29,3 Millionen Meldungen ein. Das NCMEC befasst sich nicht nur mit sexualisierter Gewalt, sondern auch mit vermissten Kindern. Nach eigenen Angaben zählte das NCMEC in den vergangenen 37 Jahren „Milliarden Fotos vermisster Kinder“.

Netzwerk Kinderrechte: „mit Maximalforderungen reingehen“

Eher abwägend argumentiert Jutta Croll, Vorstandsmitglied des Netzwerks Kinderrechte Deutschland. Das Netzwerk nimmt sich die UN-Kinderrechtskonvention zur Grundlage, rund 100 Organisationen sind dort Mitglied. „Wir haben den Entwurf der EU-Kommission begrüßt“, sagt Croll im Gespräch mit netzpolitik.org. Es sei das erste Mal, dass ein Gesetzentwurf der EU einen grundsätzlich kinderrechtlichen Ansatz verfolge und den Vorrang des Kindeswohls gemäß der EU-Grundrechtecharta in den Fokus rücke.

„Die geplanten Maßnahmen zur Chatkontrolle greifen schwerwiegend in Grundrechte und Persönlichkeitsrechte ein“, sagt Croll. Aber der Entwurf mache sehr klar, dass die EU-Kommission sich dessen bewusst sei. Die Kommission habe entsprechende Mechanismen eingezogen, damit aus der Chatkontrolle keine anlasslose Überwachung sämtlicher persönlicher Kommunikation werde. „Ob diese Mechanismen ausreichen, lässt sich jetzt noch nicht absehen“, sagt Croll.

Genau hier ist der Knackpunkt, an dem die Einschätzungen auseinandergehen: Kritiker:innen, IT-Expert:innen und Bürgerrechtler:innen befürchten eine verheerende Ausweitung der Chatkontrolle auf Millionen Nutzer:innen zahlreicher Dienste.

Warum die Chatkontrolle Grundrechte bedroht

Croll finde den Entwurf der EU „argumentativ gründlich ausgearbeitet“. Es brauche eine Balance zwischen dem Recht auf Privatsphäre und dem Schutz von Kindern und Jugendlichen. Auch der Fokus auf private Chats sei wichtig, weil hier Täter:innen Kontakt zu Kindern und Jugendlichen anbahnen. „Es ist eine weit verbreitete Grooming-Strategie, dass sich Täter:innen zuerst als Jugendliche ausgeben. Sobald sie ein Bild haben, verlangen sie mehr und drohen damit, etwa der Familie Bescheid zu sagen.“ Diese Art von Erpressung setze Kinder massiv unter Druck.

Dass eine Chatkontrolle schon allein technisch nicht ohne Fehler ablaufen kann, ist Croll bewusst. „Es ist durchaus denkbar, dass auch ganz harmloses, einvernehmliches Sexting zwischen Jugendlichen in das Raster einer Chatkontrolle fällt“, sagt sie. „Das könnte auch heißen, dass Mitarbeitende der Ermittlungsbehörden die Bilder sehen.“ Harmlose, intime Bilder von Minderjährigen auf den Bildschirmen von Beamt:innen – ist das OK? Croll sagt: Auch hier gehe um eine Abwägung, um gravierende Fälle sexuellen Missbrauchs zu verhindern.

Kinderschutzbund: „unverhältnismäßig und nicht zielführend“

Croll rechnet mit ungefähr zwei Jahren Verhandlungen über das Gesetz. „Es ist klar, dass der Entwurf dabei geschliffen wird. Ich finde es aus reiner Kinderrechtsperspektive gut, mit Maximalforderungen reinzugehen.“ Wichtiger als die Chatkontrolle ist für Croll das „Risk Assesssment“ (Risikoabschätzung). Das heißt, Anbieter sollen selbst untersuchen, wie ihre Dienste für sexualisierte Gewalt gegen Kinder missbraucht werden können, und Gegenmaßnahmen ergreifen. Für Croll ist der Entwurf ein wichtiger Anstoß, um auch Anbieter in die Verantwortung zum Schutz von Kindern zu nehmen.

Die Meinungen innerhalb des Netzwerks Kinderrechte Deutschland sind offenbar nicht einheitlich. Deutlich kritischer positioniert sich der Deutsche Kinderschutzbund, auch Mitglied des Netzwerks. Der Deutschen Presse-Agentur sagte Bundesvorstand Joachim Türk: „Verschlüsselte Kommunikation spielt bei der Verbreitung von Missbrauchsdarstellungen kaum eine Rolle.“ Der Kinderschutzbund halte deshalb „anlasslose Scans von verschlüsselter Kommunikation für unverhältnismäßig und nicht zielführend.“

Auch von Politiker:innen der Ampelparteien gab es scharfe Kritik an dem Vorhaben, zuletzt etwa von Digitalminister Volker Wissing (FDP): „Es darf nicht passieren, dass unbescholtene Bürgerinnen und Bürger unbegründet des Kindesmissbrauchs verdächtigt werden“. Innenministerin Nancy Faeser (SPD) hatte den EU-Vorstoß aber auf Twitter begrüßt. Es steht daher noch nicht fest, welche Position Deutschland bei bevorstehenden Verhandlungen im EU-Rat einnehmen wird.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

10 Ergänzungen

  1. Innocence in Danger ist schon in der Vergangenheit dadurch aufgefallen, mit maximal unsinnigen Forderungen um sich zu werfen, die kein einziges Problem für die Kinder lösen. Die Vorsitzende des Vereins, Julia von Weiler, forderte u.a. schon ein Smartphoneverbot für Jugendliche unter 14 als Antwort auf Pornografie im Netz. Nicht gerade kreativ für eine Organisation, die sich auf die Fahne schreibt, Prävention betreiben und Medienkompetenz fördern zu wollen.

    „‚Die geplanten Maßnahmen zur Chatkontrolle greifen schwerwiegend in Grundrechte und Persönlichkeitsrechte ein‘, sagt Croll. Aber der Entwurf mache sehr klar, dass die EU-Kommission sich dessen bewusst sei.“
    Ich will nicht einmal etwas anderes behaupten, die EU-Kommission weiß hier sehr genau, was sie tut. Der Irrtum besteht darin, nicht zu erkennen, dass der Schutz der Kinder hier reiner Vorwand ist, um fundamentale Grundrechte abzuschaffen und sämtliche Kritiker von vornherein zu diskreditieren, indem man einfach und billig behaupten kann, wenn sie diese Maßnahmen nicht unterstützen, dass sie dann auch nicht gegen die Bekämpfung von Kindesmissbrauch – ergo: für Kindesmissbrauch oder gar selbst Täter – seien.

    „Für Croll ist der Entwurf ein wichtiger Anstoß, um auch Anbieter in die Verantwortung zum Schutz von Kindern zu nehmen. “
    Und ich denke, dass jeder Schritt, mit welchem der Staat sich selbst oder irgendwelche Firmen zu irgendetwas auf dem Gebiet verpflichtet, dazu dient, die Eltern ein Stück weiter aus der Verantwortung zu nehmen, welche schon jetzt mit der modernen Welt, in der ihre Kinder aufwachsen, und deren Realität überfordert sind und (persönliche Erfahrungen aus meinem Umfeld) auch oft überhaupt kein Interesse daran haben, sich ernsthaft damit auseinanderzusetzen; und bei wohl keinem Thema kommt das so weitläufig zum Tragen wie bei Sexualität. Obendrein ist die Verpflichtung der Anbieter nach dem Motto „ihr müsst rein theoretisch gar nichts, aber wenn was passiert, seid ihr dran“ ein Weg, gerichtlich bereits als verfassungs- und menschenrechtswidrig eingestufte Überwachungsmaßnahmen (Client-Side-Scanning kann dasselbe wie der Staatstrojaner) durch die Hintertür einzuführen.

    1. Naja dieser Croll – wie funktioniert privatsphäre noch mal, wenn sie nicht mehr privat ist? Richtig: gar nicht.

      Die Lektion für die Kinder hier: keine Fotos first, keine Fotos senden second.
      Die Lektion für die Erwachsenen hier: Widerstand.

      Es hilft nichts, das Böse siegt hier freundlich, zunächst.

  2. Der sogenannte Verein „Innocence in Danger“ ist bei mir leider nur mit drei Dingen assoziiert: einer kuscheligen Nähe zur BILD-zeitung, einer sehr hohen Dichte an Adelsprädikaten im Vereinspräsidium, und Spenden sammelt man reichlich, aber sagen was damit gemacht wurde will man nicht. (Auf Spendensiegel verzichtet man gerne, ähnlich wie beim „Herz-für-Kinder“ der BILD.)
    Meiner Meinung nach ist das ein Vanity-Verein für selbstverliebte Millionäre mit viel Freizeit.

    Hier ein über 10 Jahre alter Artikel der Frankfurter Rundschau: https://www.fr.de/politik/vorwuerfe-gegen-innocence-danger-11454396.html
    Zitate:
    „Eine echte Jahresbilanz, oder konkrete Nachweise über die Verwendung des Spendengelds sucht man vergebens.“
    „Der Verein gilt jedoch als hoch erfolgreicher Spendensammler.“
    „Im Vorstand sitzen fast ausschließlich Adlige, gute Namen sind Geld wert.“

    1. Nicht zu vergessen, dass sie vor ca. 10 Jahren eine ekelige Aktion hatten „Tatort Internet“, wo sie Grooming Typen angelockt hatten und vor laufender Kamera bloßgestellt hatten. Immerhin haben sie die Gesichter verpixelt.

      Innocence in danger steht für eine absolut autoritäre Netzpolitik, wo alles, was mit Internet zu tun hat, von Minderjährigen versteckt werden soll. Haben auch eher mit CDU/ CSU zu tun.

  3. „Harmlose, intime Bilder von Minderjährigen auf den Bildschirmen von Beamt:innen – ist das OK? Croll sagt: Auch hier gehe um eine Abwägung, um gravierende Fälle sexuellen Missbrauchs zu verhindern.“

    Die Logik idealer Behördenwelten kennen wir doch schon. Funktioniert nie. Werbung = Müll.
    Beispielproblem Nummer 1: Die Zahl dieser harmlosen Bilder wird gewaltig ausfallen, und der Pedophilenzubringer Wachtmeister/in X aus Y findet das super, gleich mit Namen und Telefonnummern.

  4. Keine Kompromisse. Mehr bedarf es nicht an Worten. Keine Kompromisse. Wer scheibchenweise seine Grundrechte hergibt in faulen Kompromissen hergibt, weil irgendwelche wahnsinnigen Menschen mit absurden Forderungen daherkommen, der verdient sie nicht. Keine Kompromisse.

  5. Ich möchte anmerken, dass es bei den im Artikel erwähnten „privaten Chats“ sich nicht um „private Chats“ handelt. WhatsApp, Facebook-Messenger usw, überall wo die Chatkontrolle betrieben wird, sind keine nachweisbar (Open source), privaten (nicht-analysierten) Chats.

    Die einzigen Chats die man als privat bezeichnen kann, sind z.B. die XMPP Messenger und da wird auch in Zukunft keine Chatkontrolle kaufen kann.

    1. Naja, und Telefon und Brief. Wirklich privat ist XMPP auch nicht, wenn deine eigene Hausspinne deine Hirnwellen mitschneidet.

      Fäsers statement klingt ja schon mal positiv, for a change.

    2. Natürlich sind das private Chats. Als Mensch ohne Allwissen muss man davon ausgehen, wenn Gesetz und „Ende-zu-Ende-Verschlüsselung“ es einem sagen.

      Ob man da wirklich drauf bauen sollte, ist eine andere Frage, wegen der so einige ja ungern Software anderer Leute nutzen, o.ä.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.