We fight for your digital rights!„Innenpolitik wie von den schlimmsten Helikoptereltern“

Digitale Kommunikation kann jederzeit und überall stattfinden. Und sie kann ausgespäht werden. Das steht auch ganz oben auf dem Wunschzettel der allermeisten Innen- und Sicherheitspolitiker:innen – so auch bei der geplanten Chatkontrolle. Markus Reuter, Redakteur bei netzpolitik.org, verfolgt die entsprechenden Pläne der EU-Kommission von Beginn an. Und ihn treibt eine wachsende Sorge um.

Kommt mit uns in den Maschinenraum von netzpolitik.org: In sieben Videos und persönlichen Einblicken zeigen wir euch, mit welchen Prinzipien und mit welchen Mitteln unsere Redaktion arbeitet.
Kommt mit uns in den Maschinenraum von netzpolitik.org: In sieben Videos und persönlichen Einblicken zeigen wir euch, mit welchen Prinzipien und mit welchen Mitteln unsere Redaktion arbeitet. CC-BY-NC-SA 4.0 – Foto: Darja Preuss, Bearbeitung: netzpolitik.org – owieole

Die größte Herausforderung bei dem Thema Chatkontrolle war, dass wir lange Zeit wussten, dass sich da was anbahnt, wir aber gleichzeitig im Nebel stocherten. Es ist schwierig, wenn du nicht viel Dokumente in der Hand hast, aber gleichzeitig weißt, dass etwas geplant ist.

Was wir Chatkontrolle nennen, ist eigentlich die „Verordnung zur Prävention von sexuellem Missbrauch von Kindern“, die bis heute allerdings sehr vage formuliert ist. Fest steht aber, dass sie dazu führen könnte, dass „Anbieter von Hostingdiensten und Anbieter öffentlich zugänglicher interpersoneller Kommunikationsdienste“ sämtliche Inhalte auf unseren Smartphones durchsuchen.

Die EU-Kommission verspricht, die verschlüsselte Kommunikation damit nicht anzugreifen. Das stimmt insofern, dass sie die Verschlüsselung auf dem Weg von A nach B nicht knacken will. Aber wenn ich auf dem Gerät von A alle Dateien vorab durchsuche, dann kann ich mir die Verschlüsselung letztlich auch sparen.

Der Anfang von vielen weiteren Überwachungsbefugnissen

Bei der Chatkontrolle geht es zum einen um Bild- oder Videodateien, den Tausch von sexualisierter Darstellungen von Gewalt gegen Kinder. Zum anderen sollen mit Hilfe Künstlicher Intelligenz Annäherungsversuche von Erwachsenen gegenüber Minderjährigen erkannt werden, was als Grooming bezeichnet wird. Bei Schlagworten wie „automatischer Erkennung“ gehen bei mir allerdings alle Alarmglocken an.

Ein hochproblematisches Bild unterscheidet sich im Zweifel kaum von einem völlig harmlosen. In den meisten Fällen der Darstellung von nackten Minderjährigen schicken sich Jugendliche Nackedei-Fotos hin und her – sogenanntes Sexting –, was in einem bestimmten Alter meist nichts Ungewöhnliches und auch per se nicht illegal ist. Das führt dazu, dass die Mehrheit der Tatverdächtigen in dem Feld selbst minderjährig sind.

Oder es geht um Bilder von spielenden nackten Kindern am Strand, aufgenommen von den eigenen Eltern, geteilt im Familien-Chat. Es gibt schon heute Falschmeldungen deswegen, durch die harmlose Menschen beschuldigt werden. Das ist der schlimmste Vorwurf, den du Menschen machen kannst – dass sie sich der Gewalt gegenüber Kindern schuldig machen.

Und in der Logik der Chatkontrolle müssten noch weitere Einschränkungen folgen. Wenn zum Beispiel unangemessene Annäherung identifiziert werden soll, braucht man mindestens das Alter der beteiligten Personen. Dann aber muss eine Identifizierung und Altersverifizierung zur Pflicht werden. Denn erst damit weiß ich, wer ist denn eigentlich minderjährig und wer ist erwachsen? Und schon bekommen wir mit der Chatkontrolle auch noch die Ausweispflicht bei Messenger-Diensten durch die Hintertür.

Es droht die schlimmste Version von 1984

Niemand sagt, dass sexualisierte Gewalt gegen Kinder kein Problem ist. Das ist ein großes Problem. Und die Menschen, die diese Gewalt ausüben, muss man zur Verantwortung ziehen.

Genau das aber ist das Problem. In der Debatte geht es darum, wie schlimm sexuelle Gewalt an Kindern ist. Da sind sich alle einig. Sexuelle Gewalt an Kindern ist ein grausames Verbrechen. Allerdings wird jede Kritik an der Sinnhaftigkeit oder Verhältnismäßigkeit dieser neuen anlasslosen Massenüberwachung mit dem Vorwurf im Keim erstickt, man erleichtere diese Verbrechen, wenn man gegen die Chatkontrolle ist. Und dann reden wir nicht einmal mehr über Prävention, Bildung und viele andere Maßnahmen, die tatsächlich helfen würden.

Wenn wir alle Menschen präventiv überwachen, um Straftaten zu verhindern, rutschen wir in die schlimmste Version von 1984 hinein. Wenn man das konsequent zu Ende denkt, gäbe es kein Recht mehr auf irgendeinen unbewachten Kommunikations- und Interaktionsraum, denn es könnten ja überall und jederzeit schwere Verbrechen passieren oder geplant werden.

Es ist ein allzu bekanntes Muster, dass bestimmte Gefahren als Grundlage für neue Überwachungsgesetze ins Feld geführt werden. Das waren vor einigen Jahren der islamistische Terror und die Organisierte Kriminalität. Jetzt ist es sexualisierte Gewalt gegen Kinder. Bei solchen Sachen ist einfach klar, dass alle dagegen sind. Und deswegen sind auch angstbesetzte Themen im innenpolitischen Debatten so effektiv: Damit kriegt man einen Fuß in die Tür, um irgendwas technisch durchzusetzen – vor allem, wenn die Maßnahmen nicht verhältnismäßig oder zweckmäßig sind.

Bei jeder neuen Möglichkeit zur Massenüberwachung wird auf diese Weise argumentiert, um die Grundrechtseingriffe zu rechtfertigen. Bis die Grundrechte am Ende vollkommen ausgehöhlt sind. Wir dürfen nicht vergessen: Der Staat und seine Behörden haben laut Verfassung kein Recht, zu wissen, wer ich bin, wo ich bin, mit wem ich was bespreche, was ich tue, mit wem ich es tue. Das wäre Innenpolitik wie von den schlimmsten Helikoptereltern.

Zocken gegen den Bullshit

Die Nadel im Heuhaufen suchen?

Ich habe immer noch die Hoffnung, dass wir irgendwann Innenminister:innen bekommen, die Überwachung abbauen. Es gibt immer wieder Nuancen in diese Richtung, aber generell gilt: mehr Polizei, mehr Überwachung. Der Sicherheitsapparat muss aufgerüstet werden. Das aber heißt auch: Die Privatsphäre wird zerstört, die Grundrechte werden beschnitten. Wir brauchen Sicherheit, das ist ganz klar. Aber es muss halt zweckmäßig und verhältnismäßig sein. Und am Ende bleibt immer ein Restrisiko. Immer. Das kann nicht mal ein totalitäres System verhindern.

Und obwohl wir das eigentlich auch alle irgendwie wissen, entwickelt sich die Innenpolitik immer mehr in Richtung Heuhaufen: Regierungen und Behörden wollen möglichst viel Heu anhäufen – in dem Heuhaufen sind aber nur ein paar wenige Nadeln drin. Und die wollen sie dann finden. Anstatt zu sagen: Hey, lasst uns doch mal vielleicht weniger Heu ansammeln und stattdessen gucken, wie wir gezielter nach den Nadeln suchen.

Hinter den Plänen für die Chatkontrolle steht auch die Angst, dass die Polizei nichts mehr mitkriegt, weil Menschen zunehmend verschlüsselt kommunizieren. Aber zum einen versinkt die Welt nicht auf einmal in Kriminalität, weil Menschen unüberwacht kommunizieren. Menschen werden nicht kriminell, weil sie nicht überwacht werden. Zum anderen wird die Polizei nie alles mitbekommen, und wenn sie alles mitkriegen könnte, dann befänden wir uns in einer totalitären Kontrollgesellschaft. Wollen wir da hin? Auf keinen Fall.

Welche Zukunft wollen wir?

Vielen Menschen ist offenbar nicht bewusst, wie fragil Demokratien sind und dass man immer wieder für sie kämpfen muss – jeden Tag. Denn Demokratie, Rechtsstaat und Grundrechte sind nicht in Stein gemeißelt.

Wir haben uns leider schon allzu sehr an Überwachung gewöhnt – in der Annahme, dass das schon alles seine Berechtigung hat, was Polizei und Staat machen. Stattdessen sollte für alle Seiten selbstverständlich sein, dass diejenigen, die Kontrolle ausüben und uns überwachen, auch kontrolliert werden müssen. Und zwar engmaschig, unabhängig und unnachgiebig. Das ist auch Aufgabe der Medien, also auch von netzpolitik.org. Alle Teile der Gesellschaft haben ihre Aufgaben. Unsere Aufgabe ist es, zu recherchieren und kritisch zu berichten, zu hinterfragen.

Denn vom Staat, das wissen wir aus der Geschichte zur Genüge, kann auch eine große Gefahr ausgehen. Und als Bürger:innen haben wir das Recht, uns gegen diese Gefahr vorsorglich zu schützen. Die Innenpolitik der Zukunft darf daher nicht so aussehen, dass jeder Raum, in dem Menschen miteinander interagieren, präventiv überwacht wird. Wenn die Chatkontrolle so kommt, wie die EU-Kommission sie derzeit plant, wird aber genau einer solchen Zukunft der Weg bereitet.

396.020 EUR

fehlen uns noch fuer unsere Arbeit.

Den Finger heben, bevor die Hände gebunden sind

Unsere Aufgabe bei netzpolitik.org ist es, frühzeitig zu erkennen, was geplant ist, welche politische Wirklichkeit damit auf uns zukommt, und das öffentlich zu machen – und auch zu kritisieren.

Wir schreiben darüber, bevor die meisten Menschen sich der Risiken überhaupt bewusst werden. Und das ist wichtig, denn wenn die Menschen anfangen, sich dafür zu interessieren, können sie bei uns schon einiges darüber lesen – gut aufbereitet und verständlich.

Netzpolitik.org hat bereits früh erkannt, dass wichtige Gesetze zunehmend in Brüssel gemacht werden. Deshalb berichten wir auch darüber, bevor Richtlinien verabschiedet sind und die Folgen für uns alle spürbar werden. Und wenn ich da nicht schon frühzeitig was verhindere, dann ist am Ende nicht mehr viel zu holen bei der nationalen Umsetzung, weil die Leitplanken schon gezogen sind. Dann sagt die hiesige Regierung: Ja, sorry, kommt aus Brüssel – uns sind die Hände gebunden. Aus einer zivilgesellschaftlichen Perspektive gesehen, weiß man: Je früher man hineingrätscht, desto mehr kann man verändern. Wir müssen wachsam den Finger heben, bevor uns die Hände gebunden sind.

Ich bin sehr gespannt, wie es weitergeht mit der Chatkontrolle. Das ist momentan ein Thema, das vor allem hierzulande hitzig diskutiert wird und woanders noch nicht so hochkocht. Aber die Erfahrung in der EU zeigt: Kocht ein Thema nur in Deutschland hoch, dann kriegst du es nicht mehr so einfach vom Tisch. Es braucht vielmehr den europäischen Druck aus vielen Ländern, um etwas zu verändern. Dafür machen wir mit unserer Berichterstattung den Anfang, das ist unser Ziel.

Der Text basiert auf einem Gespräch, das Stefanie Talaska geführt und aufbereitet hat.

Kommt mit uns in den Maschinenraum von netzpolitik.org: In sieben Videos und persönlichen Einblicken zeigen wir euch, mit welchen Prinzipien und mit welchen Mitteln unsere Redaktion arbeitet.

5 Ergänzungen

  1. Ich bin immer wieder erstaunt, wie sehr immer wieder Vorschläge ernsthaft diskutiert werden, für die man (hoffentlich) ausgelacht würde, würde man sie im Kontext des ’normalen‘ Lebens, also abseits des (Neulandes) Internets, machen.

    Chatkontrolle ist nichts anderes als ständige, anlasslose Kontrolle aller Telefonate und Briefpost. Schließlich kann man sich auch darüber zu Straftaten verabreden oder darüber Bilder austauschen. Weniger schnell, umständlicher, ja, aber man kann. Würde irgendein Politiker jemals eine totale Kontrolle aller Telefonate und jeglicher Briefpost fordern? Natürlich nicht. Aber beim Internet gibt es scheinbar kein Halten. Ist ja nichts Neues.

    Interessant wird es, wenn es einmal tatsächlich die Chatkontrolle geben wird. Kriminelle sind ja nun einmal nicht dämlich und werden dann – zumindest zum Teil – auf anderen Kommunkationswege ausweichen, vielleicht ja wieder klassisches Telefon und Briefe. Da wäre es doch nur konsequent, auch dort dann die Vollüberwachung einzuführen. Man will – darf! – ja schließlich keine Schlupflöcher offen lassen.

    So gesehen müsste man schon beinahe hoffen, dass die Chatkontrolle kommt, um dann die Verrenkungen der Politik bewundern zu können, wenn sie entweder versuchen, die Kontrolle auf ‚alles‘ auszudehnen, oder versuchen, zu begründen, warum eben das dann doch nicht passieren soll.

    Noch ‚lustiger‘ wäre es, würde man auch Face-to-Face-Kommunikation mit einbeziehen, z. B. das Bierchen mit dem Kumpel in der Kneipe. Was da alles besprochen wird! Das muss unbedingt überwacht werden! Kann denn nicht einmal jemand auch an die Kinder denken…?

    1. Vieles passiert eben leider „konvenienterweise“ auf niedrigeren Ebenen, sobald du etwas baust, wie eine Pandemieapp, oder so eine Chatkontrolle ( – an dieser Stelle ist natürlich kein „direkter Vergleich“ intendiert).

      D.h. vielleicht, dass in Bayern noch ein Zusatzgesetz vom Himmel fällt, oder dass vor Ort Polizisten für Ermittlungen auf Sachen zugreifen, die plötzlich greifbar werden.

      Beispiel: Chatkontrolldaten = Nutzerdaten? Zur Abwehr von besonders schweren Verbrechen (im nächsten interview dann alsbald noch „irgendwie Straftaten“ und dann irgendwann vielleicht einfach nur noch allgemein „im Rahmen von Ermittlungen“).

      Schon jetzt greifen einzelne Senatoren/Sonstwer nach Gusto durch, und offensichtlich kommt es auch zu Netzwerkdurchgriff, wo wahlweise Staatsanwalt oder Anzeigensteller und Polizisten vor Ort auf wunderliche Weise ähnliche Parteizugehörigkeiten oder zumindest sogenannte Auffassungen aufweisen. Ermöglichen Gesetze hier eine Ausweitung der Repression, sollten dann mehr als Alarmglocken läuten.

    2. Nja, bei Kompetenz.

      Bei „Sicherheitslösungen“ zu Minecraft, waren es doch auch gerne mal die Serverbesitzer, die sich für clientseitige „Schutzsoftware“ stark gemacht haben.
      Das Ehrliche: hier ist klar, dass die Ohren Server schützen, sonst niemanden.
      Das Detail: Die Gegenstimmen halten sich Zahlenmäßig in Grenzen.
      Die Relativierung: Leute können Lesen, und vermeiden redundante Posts. So vermeiden sie auch unnötige Exponierung.
      Problem(?): Es wird „demokratisch“ auf Quantität gesetzt, also mehr Veröffentlichung durch möglichst seriöse Veröffentlicher. Da unterscheiden die sich nicht sehr von…

  2. Kleine Korrektur: „Grooming“ bezeichnet primär Kinder und Jugendliche unterschwellig bestimmten Inhalten auszusetzen und somit ein Thema für sie zu normalisieren. Dies ist nicht nur in sexuellem, sondern auch in politischem Kontext sehr gefährlich. Annäherungsversuche von Erwachsenen gegenüber Minderjährigen können Teil des Prozesses oder Resultat davon sein, müssen es aber nicht.
    Disney-Kinderfilme sind, mit ihren vielen sexuellen Motiven, Anspielungen, versteckten Botschaften und politischer Wortwahl (welche regelmäßig geupdated wird), ein bekanntes Beispiel für kontaktloses sexuelles und politisches Grooming.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.