Chatkontrolle: EU-Gesetzgebung einfach erklärt

Der Podcast „Dicke Bretter“ möchte Einblicke geben, wie Gesetze und politische Initiativen zu digitalen Themen entstehen und wie Institutionen und Organisationen arbeiten, in denen Regeln, Urteile, Richtlinien oder auch Gesetze gemacht werden. Diesmal geht es um die geplante Chatkontrolle, die als Beispiel herhält, um darzustellen, wie die EU-Institutionen arbeiten. Die Chatkontrolle ist ein Vorschlag der EU-Kommission, der unter anderem E-Mail- und Messenger-Anbieter verpflichten soll, anlasslos und massenhaft Kommunikation nach mutmaßlich illegalem Material, das Gewalt gegen Kinder zeigt, zu durchsuchen und dies zu melden.

In Kooperation mit dem Chaosradio des Chaos Computer Clubs bringt netzpolitik.org den Podcast in gekürzter schriftlicher Form: ein Gespräch zwischen Elisa Lindinger, Elina Eickstädt und Constanze Kurz, die das Projekt „Dicke Bretter“ gestalten. Am Beispiel Chatkontrolle geht es diesmal um die Fragen: Wie kommt eine Gesetzgebung zustande? Welche Institutionen wirken dabei mit?

EU-Gesetzgebung am Beispiel Chatkontrolle

Constanze Kurz: Unser Thema soll die EU-Gesetzgebung sein, von der netzpolitisch-aktivistischen Seite betrachtet. Wir wollen konkret über die Chatkontrolle reden, ein aktuell laufendes Gesetzgebungsverfahren, und dabei die beteiligten Institutionen beleuchten. Wir möchten uns auch mit den typischen Begriffen, die im Zusammenhang mit EU-Gesetzgebung oft fallen, auseinandersetzen und hoffentlich ein bisschen Mut machen, sich selber einzubringen.

Das Initiativrecht für Gesetze hat in den meisten Fällen die EU-Kommission. Sie setzt sich zusammen aus verschiedenen für inhaltliche Bereiche zuständigen EU-Kommissaren und -Kommissarinnen. Für die Chatkontrolle kommt die EU-Kommissarin aus welchem Land?

Elina Eickstädt: Sie kommt aus Schweden.

Constanze Kurz: Und sie heißt Ylva Johansson.

Elina Eickstädt: Am meisten bekannt ist wohl die Kommissionspräsidentin Ursula von der Leyen. Die EU-Kommission setzt sich aus jeweils einer Kommissarin oder einem Kommissar pro Land zusammen, die dann einen bestimmten Fachbereich hat. Man kann es sich so vorstellen wie eine Ministerin in Deutschland. Und Johansson ist die Ministerin für Inneres.

Constanze Kurz: Die Kommissarinnen und Kommissare wechseln natürlich, genauso wie wir es in Deutschland auch kennen, mit jeder Legislaturperiode.

Elina Eickstädt: Diese Periode läuft jetzt noch ungefähr ein Jahr für das Europaparlament und die EU-Kommission.

Gesetzgebung als Marathon

Constanze Kurz: Die dritte Säule neben Parlament und Kommission ist der EU-Ministerrat. Dort sind die Regierungen der einzelnen EU-Länder vertreten. Am Beispiel der Chatkontrolle sieht man ganz gut praktisch, wie diese drei Institutionen ineinandergreifen. Die Chatkontrolle ist eine Initiative der EU-Kommission.

Elina Eickstädt: Es dauert aber manchmal ein bisschen, bis die Kommission ein Gesetz vorschlägt. Tatsächlich wurde schon 2021 damit angefangen, dieses Gesetz voranzubringen. Doch es gab sehr viele Bedenken, sehr viel Diskussion. Der konkrete Gesetzesvorschlag ist dann im Mai 2022 rausgekommen. Wir befinden uns gerade im Sommer 2023. EU-Gesetzgebungen sind also ganz schöne Marathons. Wir wissen auch gar nicht, ob wir überhaupt bis zu den EU-Wahlen mit diesem Gesetz fertig werden.

Constanze Kurz: Warum ist diese „Chatkontrolle“ so kontrovers? Was ist eigentlich dieses Vorhaben? Es geht ja um Bilder oder Bewegtbilder, die Missbrauch von Kindern zeigen. Für Chat-Dienste soll es einen Scan nach solchen Bildern geben.

Elina Eickstädt: Chatkontrolle ist ein deutsches Wort und prägt die deutsche Debatte und Wahrnehmung. Die Regulierung heißt eigentlich Child Sexual Abuse Regulation und will die Probleme von Kindesmissbrauch und Gewalt gegen Kinder und auch die Verbreitung von Kindesmissbrauchsdarstellungen online angehen. Die Umsetzung betrifft nicht nur das Scannen von Chats, sondern auch Netzsperren oder Upload-Filter.

Eine magische Techniklösung

Constanze Kurz: Welche Rolle spielt dabei die Ratspräsidentschaft?

Elina Eickstädt: Die Ratspräsidentschaft wechselt alle sechs Monate. Momentan hat die Ratspräsidentschaft Schweden, und die Schweden haben eine Willenserklärung veröffentlicht, in der sie sehr deutlich gemacht haben, dass sie für mehr Überwachung stehen.

Ylva Johansson ist eine schwedische Kommissarin. Sie ist aus einer politischen Partei, die während der Wahlperiode nicht mehr zu der Regierungspartei gehört, weil es zwischendurch Wahlen gab. Das heißt: Es kann schon sein, dass da Kommissarinnen sitzen, die eine andere politische Meinung haben als die der Regierung.

Constanze Kurz: Wir als Deutsche haben ja aktuell keinen Kommissar, weil wir die Kommissionspräsidentin stellen. Wie die meisten wissen, gehört Ursula von der Leyen zur Christenunion, ist also konservativ. Die Regierung ist jedoch mittlerweile eine Ampel-Regierung.

Elina Eickstädt: Das Vorhaben der Chatkontrolle ist komplex. Elisa und ich haben dazu einen Text geschrieben, in dem wir den tech-solutionistischen Ansatz erklären.

Constanze Kurz: Sie suchen eine technische Lösung, die ihre Probleme erschlägt, und diese Art Lösung gibt es schlicht nicht, schon gar nicht ohne enorme Nachteile für festgeschriebene Bürgerrechte, die in der EU-Charta und auch in der Menschenrechtskonvention stehen. Sie suchen eine Art magische Techniklösung und hören immer gern denjenigen zu, die ihnen das versprechen.

Elina Eickstädt: Ich appelliere immer gern an Politikerinnen, da nochmal fünf Minuten drüber nachzudenken. Es ist ein vielschichtiges, sehr komplexes gesellschaftliches Problem, was auch die Frage von Kindesmissbrauch und Entstehung von Kindesmissbrauchsdarstellungen angeht.

Es ist verständlich, dass man sagt, es wäre total super, wenn wir so eine Technologie hätten und wir damit alles erschlagen könnten. Aber ich glaube, es ist falsch, einfach zu glauben, nur weil unsere Gesellschaft jetzt digitaler wird, dass wir die Probleme, die sich sozusagen in den digitalen Raum übersetzen, auch mit digitalen Mitteln vollständig lösen können.

Klar ist, dass Technologie vielleicht ein Hilfswerkzeug sein kann, aber nicht die Wurzel des Problems adressieren kann. Die Chatkontrolle ist nicht das einzige Beispiel einer Gesetzgebung, wo diese Art Gedanken Anwendung finden.

Constanze Kurz: Viele Kritiker haben darüber geschrieben, es gibt auch viele juristische Stellungnahmen mittlerweile, die die Grundrechtswidrigkeit dieses Vorhabens der Chatkontrolle in den Fokus rücken. Auch die IT-Security-Welt hat sich gegen das Vorhaben aufgestellt. Nicht nur, weil Europa das plant, sondern auch, weil es parallele Ideen gibt, die etwa aus Großbritannien kommen, aber auch aus den Vereinigten Staaten.

Elisa Lindinger: Dann ist doch das Spannende, nochmal zu fragen, wer sind denn diejenigen, die es propagieren? Wer argumentiert denn dafür, wenn alle dagegen sind?

Constanze Kurz: Das muss man vielleicht generell betrachten bei den EU-Gesetzgebungen: Wir haben oft eine Fraktion, die kommt aus dem Bereich der inneren Sicherheit, das sind Strafverfolgungsbehörden, das sind Geheimdienste. Aber es sind auch Strukturkonservative mit totalitären Überwachungsideen. Wir haben aber auch häufig klassische kommerzielle Akteure, die hier mitspielen und versprechen, sie könnten die technische Lösung anbieten. Im speziellen Fall der Chatkontrolle ist es aber so, dass die Betroffenen die großen Tech-Konzerne sind, meistens US-amerikanische – aber nicht nur. Sie sind in diesem Fall nicht gerade auf der Seite der Kommissare.

Elina Eickstädt: Anders die kommerziellen Akteure, die ein Interesse daran haben, dass gescannt wird oder Scanning-Technologien anbieten: Spannend ist eine Organisation von Ashton Kutcher. Man kennt ihn als Hollywood-Schauspieler, aber er hat auch viel in Start-Ups investiert. Er ist hingefahren nach Brüssel.

Die Kommission hat ja relativ lange daran gearbeitet, die Gesetzesinitiative vorzubereiten, Kommissarin Johansson federführend. Sie hat sich tatsächlich kein einziges Mal mit Vertretern der Zivilgesellschaft getroffen. In der Regel holt sich die Kommission das Feedback von unterschiedlichen Stakeholdern ein. Aber mit Ashton Kutcher hat sie sich sogar zwei- oder dreimal getroffen, sie sind auch extra ins Silicon Valley geflogen, teilweise um ihn zu treffen. Er war auch schon mehrfach im EU-Parlament, hat Selfies gemacht.

Doch was hat Ashton Kutcher eigentlich damit zu tun? Er hat eine Kinderschutzorganisation gegründet, die heißt Thorn. Und zu Thorn gehört ein Startup. Das heißt Safer und stellt Technologien zur Verfügung, die Content-Moderationslösungen sind und genau das gewährleisten sollen, was in dieser Chatkontrolle-Regulierung vorgesehen ist, also das Scannen nach bekannten und unbekannten Materialien und Grooming. Wenn von Ashton Kutcher weinend vorgetragen wird, dass das technisch irgendwie ganz einfach ist, dann glauben die Leute das leider. Ashton Kutcher ist ein Schauspieler und ein guter Entertainer.

Ein Büro in Brüssel

Constanze Kurz: Wer schreibt die Kommissarin an, um an Gesetzgebungsprozessen mitzuwirken? Elina hat beispielsweise das getan.

Elina Eickstädt: Ich bin wie Constanze eine ehrenamtliche Sprecherin des Chaos Computer Clubs, und der CCC begleitet problematische netzpolitische Themen. Wir nehmen auch Stellung dazu. Und es gibt eine europäische Dachorganisation, das ist EDRi – European Digital Rights. EDRi gibt es mittlerweile schon seit zwanzig Jahren.

Constanze Kurz: Vielleicht zum Vergleich, der CCC wird dieses Jahr 42.

Elina Eickstädt: EDRi ist ein Dachverband, hat auch ein Büro in Brüssel und auch ein sehr großes Team inzwischen. Ich glaube, es sind fast zwanzig Leute. Es gibt sowohl Leute, die Politikberaterinnen sind, inzwischen sechs oder sieben Personen, als auch ein Team, das sich um Kampagnen kümmert.

Constanze Kurz: Sie sind Hauptamtliche. Während der CCC ehrenamtlich arbeitet, werden bei EDRi Leute bezahlt, um den ganzen Tag diese Arbeit zu machen.

Elisa Lindinger: Und es ist eine Mitgliederorganisation. Da ist zum einen natürlich dieses sehr schlagkräftige und vor Ort aktive Team von EDRi selber, aber sie haben natürlich auch teilweise ehrenamtliche, teilweise hauptamtliche Organisationen, die in den EU-Mitgliedstaaten und darüber hinaus nochmal vernetzt und dort aktiv sind. Sie können nochmal Energie und Wissen mit reingeben.

Elina Eickstädt: Von EDRi ist Ella Jakubowska verantwortlich für die Chatkontrolle dieses Fall. Sie hat den großen Überblick über alles, was passiert. Sie ist in Brüssel vor Ort und hat viel Hintergrundwissen.

Im LIBE-Ausschuss

Constanze Kurz: Eine große Rolle bei der Chatkontrolle, aber auch bei allen anderen Gesetzesvorhaben, spielen die Ausschüsse, Berichterstatter und Schattenberichterstatter und der EU-Rat.

Elina Eickstädt: Wird ein Gesetzesvorschlag vorgestellt, geht er an den Rat. Im Rat gibt es Facharbeitsgruppen. Die Facharbeitsgruppe im Rat, die jetzt gerade die Chatkontrolle diskutiert, bevor das dann weitergereicht wird, ist die AG Strafverfolgung. Da sitzen für Deutschland Vertreterinnen aus dem Bundesinnenministerium, die das mitverhandeln.

Die juristische Grundlage für die Chatkontrolle ist aber tatsächlich der Binnenmarkt. Das heißt zugleich: Wenn man jetzt fordern würde, wir möchten mehr Ressourcen für Kinderschutz, dann könnten sie das mit dieser Regulierung nicht abdecken, weil das kein Problem des Binnenmarktes ist.

Das Parlament hat auch seine eigenen Fachausschüsse. In der Regel gibt es einen federführenden Ausschuss, der seinen Bericht abgibt. Dieser Bericht ist praktisch einfach nur eine Liste von Änderungsanträgen an das Gesetz.

Wir haben also den Gesetzesvorschlag, er wurde vorgestellt und dann an die Ausschüsse weitergegeben. Bei der Chatkontrolle ist es der LIBE-Ausschuss, das ist der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres. Mit diesem Ausschuss haben wir als netzpolitisch Interessierte am meisten zu tun. Die Personen, die da drinsitzen, sind immer wieder für unsere Themen zuständig.

Nachdem der LIBE-Ausschuss den Vorschlag bekommen hat, ist das passiert, was relativ häufig bei EU-Gesetzen passiert: Ein weiterer Ausschuss wird involviert, der Binnenmarkt-Ausschuss. Dann kommt es meistens zu einer Verzögerung im Gesetzesprozess, manchmal eine sehr lange Verzögerung, das war beispielsweise auch beim AI Act so.

Elisa Lindinger: Gibt es noch einen dritten involvierten Ausschuss?

Elina Eickstädt: Nein, und der LIBE-Ausschuss ist immer noch federführend. Es gibt einen Berichterstatter, der schreibt einen Entwurfsbericht und legt ihn erstmal seinem Ausschuss vor. Für jedes Gesetz in jedem Ausschuss gibt es einen solchen Berichterstatter.

Es gibt aber für jede Fraktion auch noch einen sogenannten Schattenberichterstatter, der für die Fraktion in diesem Ausschuss sitzt und sich mit dieser Regulierung beschäftigt. Ich glaube, die Schattenberichterstatter haben vier Wochen Zeit, um Änderungsanträge zu stellen. Das war bei der Chatkontrolle bis etwa Mitte Mai 2023 im LIBE-Ausschuss.

Da sind wir jetzt sozusagen. Das heißt, jetzt schauen sich der Berichterstatter oder die Mitarbeitenden von den Berichterstattern alle Änderungsanträge an.

Constanze Kurz: Und es sind wirklich viele Änderungen!

Elina Eickstädt: Der Berichterstatter versucht, all diese Änderungsanträge in irgendeine Kompromissform zu bringen. Dann wird das ganze Ding im Ausschuss nochmal abgestimmt. Die Frist ist der 21. September.

Doch selbst in der EU-Kommission gibt es sehr kontroverse Debatten über diese Regulierung. Die Diskussionen im Parlament sind auch ähnlich kontrovers. Es gibt nicht nur Streitpunkte in den Ausschüssen, sondern auch sehr viele Streitpunkte in den Fraktionen selber. An dieser Stelle kann man vielleicht darüber reden, wie Fraktionen im EU-Parlament eigentlich aussehen.

Constanze Kurz: Es gibt derzeit sieben Fraktionen im Parlament, aber sie sind nicht so homogen wie etwa im deutschen Parlament, sondern sehr viel heterogener. Die Bündnisse, die sich da zusammentun, scheinen manchmal ein bisschen aus der Not geboren.

Chatkontrolle darf so nicht in Kraft treten

Wie es weitergeht

Elina Eickstädt: Die Diskussionen sind also relativ kontrovers, deswegen wird es wahrscheinlich erst im September weitergehen. Im Oktober wird es dann wohl ins Parlament gehen.

Wir möchten natürlich noch aufzeigen: Wann ist eigentlich ein guter Zeitpunkt, mit meinem Abgeordneten zu sprechen? Dieser abgestimmte Bericht im Ausschuss ist so ein bisschen die Handlungsempfehlung an das Parlament. Das heißt, es ist sinnvoll, vor dem September mit Abgeordneten zu sprechen, die im LIBE-Ausschuss sitzen.

Man kann relativ einfach rausfinden, welcher der Abgeordnete für den eigenen Wahlkreis ist. Es gibt vom EU-Parlament für jeden Abgeordneten eine Profilseite, da steht, in welchem Ausschuss die Person drin ist.

Constanze Kurz: 19 Monate ist derzeit der statistische Schnitt von der Ausübung des Initiativrechts durch die EU-Kommission bis zum Ende des Gesetzgebungsprozesses. Für die Chatkontrolle sind wir also ganz gut in der Mitte. Wir müssten eigentlich nun über den Trilog reden, der bei der Chatkontrolle noch anstehen wird.

Elina Eickstädt: Der Trilog ist auch in anderen EU-Gesetzgebungsprozessen interessant, auch weil er sich verändert hat.

Doch da sind wir bei der Chatkontrolle noch gar nicht, deswegen vertagen wir uns dafür auf eine kommende Folge des Podcasts „Dicke Bretter“.