Anlasslose MassenüberwachungRecherchen decken Netzwerk der Chatkontrolle-Lobby auf

Ein breites Netzwerk aus Tech-Firmen, Stiftungen, Sicherheitsbehörden und PR-Agenturen lobbyiert auf höchster EU-Ebene für die Chatkontrolle. Eine Recherche von mehreren europäischen Medien deckt nun die millionenschweren Zusammenhänge auf.

Ylva Johansson und Ashton Kutcher vor Europafahne
Ashton Kutcher (rechts) war nur das öffentliche Gesicht eines breiten Netzwerkes, das für die Chatkontrolle bei der EU-Kommission lobbyiert. Hier bei einem Treffen mit Johansson am 20. März 2023. Twitter / Ylva Johansson

Zeit Online, BalkanInsight und weitere europäische Medien zeichnen in einer umfangreichen Recherche nach, wie IT- und KI-Firmen zusammen mit Stiftungen, NGOs, Sicherheitsbehörden und PR-Agenturen seit Jahren und unter dem Einsatz von Millionen von US-Dollar für die sogenannte Chatkontrolle lobbyieren.

Bekannt war seit Langem auch durch Recherchen von netzpolitik.org, dass der US-Schauspieler Ashton Kutcher mit seiner Organisation Thorn – von der er jüngst zurücktrat – für die Chatkontrolle lobbyiert. Doch das Netzwerk ist weitaus größer.

So schreibt Zeit Online:

Ashton Kutcher, der Hollywoodstar, der KI-Unternehmer wurde, ist das öffentlich wahrnehmbare Gesicht dieser Industrie. Doch während zumindest Teile seines Engagements für die europäische Chatkontrolle öffentlich sind, läuft im Hintergrund der neuen EU-Gesetzgebung eine breite Lobbykampagne.

Laut der Recherchen gibt es neben Kutcher und seinen Aktivitäten „ein ganzes Geflecht von Lobbyvereinen und Organisationen“, das enge Verbindungen zur EU-Kommissionspräsidentin Ursula („Zensursula“) von der Leyen und der EU-Innenkommissarin Ylva Johansson pflegt.

Zugang zu höchster Ebene

Interne Dokumente der EU-Kommission zeigen laut der Recherche, dass sich Ursula von der Leyen und Ylva Johansson sehr eng von Thorn haben beraten lassen. Offiziell gibt sich die Firma als gemeinnützige Organisation, verkauft aber mit „Safer“ auch Software, die mit Hilfe sogenannter Künstlicher Intelligenz Darstellungen von Kindesmissbrauch aufspüren soll. Zu den Kunden zählt etwa das US-Ministerium für Heimatschutz, das sich die Anschaffung von Softwarelizenzen über vier Millionen US-Dollar kosten ließ, wie die Zeit berichtet.

Thorn habe hochkarätige Lobbyisten angeheuert – unter anderem die Lobbyfirma FGS Global. Allein im Jahr 2022 habe Thorn mehr als 600.000 Euro an FGS Global bezahlt, schreibt Zeit Online.

Das Engagement habe offensichtlich Erfolg gehabt, so nahmen Vertreter der PR-Firma für Thorn an Expertensitzungen teil und die EU-Kommission ermöglichte Thorn gleich mehrfach, bei wichtigen Entscheidungsterminen dabei zu sein. Es habe zudem laut der Recherche, die auch Kommunikationen auswertete, ein kontinuierlicher Mailkontakt bestanden.

Lobbyist und Mitarbeiter der Kommission in Personalunion

Neben Kutcher und seiner Stiftung Thorn lobbyiert laut den Recherchen zum Beispiel auch die Organisation WeProtect Global Alliance auf höchster Ebene. Dieser Organisation gehört Antonio Labrador Jimenez an, der gleichzeitig als ranghoher Mitarbeiter der Generaldirektion Inneres (DG Home) bei der EU-Kommission arbeitet – und dort für die umstrittene Gesetzesinitiative zuständig ist.

Bei WeProtect handelt es sich laut der Recherchen allerdings nicht um eine gewöhnliche zivilgesellschaftliche Organisation, sondern eine regierungsnahe Institution, der auch Unternehmen angehören. Zeit Online schreibt:

Sie ist aus zwei Regierungsinitiativen hervorgegangen, von denen die eine von der EU-Kommission und den US-Behörden und die andere vom britischen Innenministerium mitbegründet wurde. 2016 wurden beide Initiativen zu WeProtect zusammengelegt.

Im Board der Organisation sitzen laut der Recherche Regierungsvertreter und Sicherheitsbehörden, zu den Mitgliedern gehören neben Kinderschutzorganisationen, praktisch alle großen Internetkonzerne, aber auch zahlreiche Regierungen.

24 Millionen Dollar von der Oak Foundation

Laut Zeit Online ist WeProtect „so etwas wie ein Sammelbecken all jener Kräfte, die davon überzeugt sind, dass die Überwachung jedweder Kommunikation ein sinnvolles Mittel sei, um Missbrauchsbilder zu bekämpfen“. Mitglied im Board von WeProtect ist auch Douglas Griffiths, der wiederum Präsident der Oak Foundation ist.

Zeit Online bezeichnet ihn als den „wohl wichtigsten Geldgeber der Lobby rund um die Chatkontrolle“. Seine Oak Foundation habe nicht nur WeProtect mit „großzügiger Unterstützung für strategische Kommunikation“ versorgt, sondern ein enges Netz zivilgesellschaftlicher Organisationen und Lobbyisten finanziert, die den Kampf zugunsten von Johanssons Vorschlag nach Brüssel getragen hätten. Dieses Netzwerk sei unter dem Namen ECLAG organisiert. Laut der Recherchen von BalkanInsight hat die Oak Foundation seit 2019 mehr als 24 Millionen Dollar in verschiedene Organisationen wie Thorn oder ECPAT für Lobbying rund um die Chatkontrolle gesteckt.

Im Kern geht es den Organisationen darum, mit der Chatkontrolle in der EU einen Präzedenzfall für andere Regierungen zu schaffen, eine Zielvorgabe, die auch Ashton Kutcher bei Lobbyveranstaltungen vorbrachte.

Ylva Johansson mit Vertreter:innen von Brave, sie hält ein Schild der Organisation
EU-Innenkommissarin Ylva Johansson posiert mit Vertreter:innen der Lobbyorganisation Brave. - Screenshot / Twitter

Aus der finanziellen Unterstützung der Oak Foundation ging laut den Recherchen auch die Organisation Brave hervor, die sich dann wiederum von der PR-Firma Purpose, die zu Capgemini SE gehört, beraten lassen hat. Die Kosten in Höhe von 1,9 Millionen Dollar übernahm erneut die Oak Foundation. Purpose hatte sich offenbar immer wieder mit Mitgliedern aus Ylva Johanssons Kabinett getroffen, darunter auch Antonio Labrador Jimenez. Johansson selbst tritt in einem von Purpose gedrehten Video auf – und verbreitet dieses auf ihrem Twitter-Account.

Auch Sicherheitsbehörden an Bord

Auch Sicherheitsbehörden seien an der Chatkontrolle interessiert, heißt es in der Recherche. Ein Thema sei dabei die Ausweitung der Chatkontrolle auf andere Kriminalitätsbereiche.  Ein internes Dokument zeige, dass Vertreter von Europol dies bei einem Treffen im Juli 2022 anfragten:

„Es gibt andere Kriminalitätsbereiche“, die von der KI-gestützten Erkennung profitieren würden, wird Europol in dem Protokoll zitiert. Das geplante EU-Zentrum könnte doch auch für andere Zwecke genutzt werden als allein für die Suche nach Missbrauchsbildern.

In diesem Fall wies das Innen-Kommissariat darauf hin, dass Europol mit den Erwartungen realistisch sein müsse „angesichts der vielen Sensibilitäten rund um den Vorschlag“. Es zeigt aber, dass die Ausweitung der Chatkontrolle schon in den Startlöchern sitzt.

19 Ergänzungen

  1. Eine Einführung einer allgemeinen Überwachungssoftware, wie der Chatkontrolle, wäre und ist die Aussicht auf einen zeiltlich relativ unbegrenzten und spontan schnell wachsenden Markt. Da zwingend davon auszugehen ist, dass innerhalb absehbarer Zeiträume der Grad der Eingriffe größer und nicht kleiner werden, kann davon ausgegangen werden, dass der Markt an diesem Punkt veritables Wachstumspotential bietet. Zusätzlich kann, dass zeigt ja das Internet in China, dass. selbst bei extrem invasiven Eingriffen, von einer „Austrocknung“ des Marktes nicht absehbar ausgegangen werden kann.

  2. Wie, Ashton Kutcher geht es gar nicht um die Kinder, sondern ums Geld? Und das Versprechen, die Technologie nur gegen Kindesmissbrauch einzusetzen, war auch eine himmelschreiende Lüge? Na sowas! Hätte uns doch nur jemand gewarnt.

    Ich habe mal einen Blick ins Strafgesetzbuch geworfen, um herauszufinden, ob im Abschnitt „Friedensverrat, Hochverrat und Gefährdung des demokratischen Rechtsstaates“ irgendwelche Tatbestände aufgelistet sind, derer die Beteiligten sich schuldig gemacht haben könnten, aber außer „verfassungsfeindlicher Einwirkung auf Bundeswehr und Sicherheitsorgane“ nach § 89 I StGB gibt es keinen Tatbestand, der nach seinem Wortlaut auch nur annähernd erfüllt sein könnte. Meine These: In Brüssel und Berlin wird man schon wissen, warum derlei Bestrebungen im Rahmen von Gesetzgebungsverfahren oder Lobbyismus nicht unter Strafe gestellt sind.

    Nicht nur handelt es sich um einen großen, koordinierten Angriff auf den freiheitlich-demokratischen Rechtsstaat, sondern er ist auch noch legal.

  3. Das ist schon auch ein bischen wie beim Bingo.
    Sieht so aus, als würde ich nie jemals was erfolgreiches mit „Chat“ bauen.
    Dann fallen noch Foren weg, Serverstrukturen für Endkunden, KI-Training mit Menschen im Internet, Donwloadseiten, …

    Ich hätte in die Forschung gehen sollen, oder zu Mafia, oder woandershin?

  4. Zitat: „A few days earlier, she was preceded by an intervention in which she glorified a software promoted by Ashton Kutcher and Demi Moore. Specifically, on November 16, Eva Kaili, in her capacity as the vice-president of the European Parliament, organized a conference in Brussels on “New Technology”. In it he promoted an anti-child pornography software marketed by Ashton Kutcher and Demi Moore. This is a controversial piece of software that is supposed to detect child pornography.

    For an unknown reason, the MEP appeared to be his warm supporter. “Eva Kaili thanked Ashton Kutcher again and again and again to the point of shame,” reports a German journalist. “

    Quelle: https://hellas.postsen.com/world/216522/Eva-Kaili-When-she-advertised-Ashton-Kutcher-and-Demi-Moore’s-software.html

  5. Abgesehen vom nicht vorhandenen konsolidierten Beispiel, das nicht gerade eine Korrekturbewegung erfährt: glaubt jemand, dass es bei „Messengern o.ä.“ bleibt? Da kommt doch Email und folgerichtig sämtliche Kommunikation dazu.

    Kann man interpretieren, dass eben die Schweine zum Trog kommen, und das dann so aussieht wie im Artikel beschrieben, oder muss man da von Planung sprechen?

    In letzterem Falle hat man eine gute Estimation, wie die Grundrechte abgeschafft werden, und wen oder was man stoppen muss. Da müsste die gesamte Härte der Demokratie, inklusive Militär auf den Tisch, um diesen Leuten das Handwerk nachhaltik zu legen. Speziell bei „Sicherheitsbehörden“, die Lobbying betreiben, sind wir neben Rechnungsfragen bei Hochverrat.

  6. Und nun musste sich Ashton Kutcher auch noch von Thorn zurückziehen. Kutcher hatte zusammen mit seiner Frau Mila Kunis einen Brief ans Gericht geschrieben und sich für eine niedrigere Strafe für Danny Masterson eingesetzt, der wegen Vergewaltung verurteilt wurde und dann doch ein Strafmaß von mindestens 30 Jahren bekommen hat. Das passt nicht so ganz zu jemanden der sich für Opfter von solchen Taten einsetzt.

    Dazu kommt, dass es in den USA Berichte gibt, dass Thorn es auch weniger um Kinder geht, sondern mehr darum Sexarbeiter’innen „aufzudecken“.

    Es ist traurig, dass wir in einer Gesellschaft leben, in der der Vorschlag von Ylva Johanson ernsthaft diskutiert und nicht sofort abgelehnt wird.

  7. Sehr gute Arbeit! Danke.

    Es werden da bereits missbrauchte Kinder erneut missbraucht. Für einseitige, undemokratische, politische Ziele.
    Für einen ÜberwachungsStaat.
    Wenn denn da soviele Millionen bereit stehen, warum werden die nicht für Eltern und Kinder eingesetzt?
    Für entsprechende Hilfe-Angebote?
    Diese wurden abgebaut.
    Und wenn ich daran erinnern darf, das erst nach eurer (rechtlich riskanten) Recherche die Polizei bekannte Download links entfernen ließ. Weil das ja so furchtbar aufwändig sei. (Klar wollten die diese Bilder weiter im Netz lassen um sie als Lockmittel zu missbrauchen, um zeigen zu können wie wichtig ihre Arbeit ist..)

    Das die „Besitende Klasse“ Angst um ihre Pfründe hat ist nachvollziehbar. Die Ressourcen werden immer knapper und der Unterschied zwischen Oben und Unten immer größer und härter. Daher versucht man u.a. über den angeblichen Kinderschutz eine totale Überwachung zu etablieren. So hofft man, daß man von kommenden Aufständen rechtzeitig erfährt und sie unauffällig niederknüppeln kann.
    Natürlich ist eine Totalüberwachung auch ein riesen Geschäft.

  8. Sehr gute Arbeit! Danke auch von mir!

    Auch wenn es in diesem Artikel mehr um das Aufdecken (u.a. offenkundig ökonomischer) Vorteilsnahmen geht, fehlt mir der Versuch, die dahinter stehenden Motiv und die Geldgeber besser heraus zu schälen:

    > Ein breites Netzwerk aus Tech-Firmen, Stiftungen, Sicherheitsbehörden und PR-Agenturen
    > lobbyiert auf höchster EU-Ebene für die Chatkontrolle. Eine Recherche von mehreren
    > europäischen Medien deckt nun die millionenschweren Zusammenhänge auf.

    Aber wer investiert denn die Millionen und warum?

    Die Missbrauchsneigung der „Dual-Use Zensur-Werkzeuge im CSAM-Umfeld“ schreit ja zum Himmel.

    Aber wer – jenseits einer chronisch unterfinanzierten und Daten-geilen „Going-Dark-Exekutive“ – hat denn ein Millionen-schweres Interesse, dass wir digital bevormundet werden? Dass wir digital nackt und wehrlos sind?

    Wer investiert denn in diese systematischen Propaganda- und Desinformations-Kampagnen seit „Zensursula“, deren Ziel ganz offenkundig ist, dass wir uns die total-überwachenden Handschellen und Fußfesseln bitte selber anlegen?

    Ich habe eine Idee für Motive, Täter und denke an Gruselkabinette à la Amthors „Augustus Intelligence“, das ja auch auf eine Infrastruktur hätte aufbauen müssen, aus der es die Daten hätte abschnorcheln können.

    Aus meiner Sicht sind die Bugdoors, die mit dem CSAM-Narrativ in unsere Privatsphäre geschlagen und letztlich geforderten E2E-Verschlüsselungsverbot abgesichert werden, die legalen Schnittstellen von schmierig-verdeckten Geschäftsmodellen einer Finanzelite, die mit dem Zugang zu garantiert echten Daten (und Kompromat) anstrengungslos ihren Reichtum vermehren können sollen.

    So lange wir keinen neuen Snowden haben, so lange ist das natürlich unbewiesen und nur eine plausible VT, der die Nutznießer so lange wie möglich eine Alukappe überstülpen werden ..

  9. Wir können genausogut aufgeben.
    Gegen Artikel 13 bin ich damals auf die Straße gegangen. Musste mich danach von Politik und den Medien (ZEIT, FAZ, SZ, Heise und Co) als bezahlter Demonstrant verunglimpfen lassen.
    Natürlich wurde die Copyright Directive durchgepeitscht. Schliesslich lobbyierten Verlage für die totale Ausbeutung und missbrauchten dafür die „Urheber“.

    Damals dachte ich noch „Hey, wenigstens hast du es versucht“.

    So naiv bin ich nicht mehr.
    Wer berichtet denn über dieses Netzwerk? Die Tech-Bubble und in einem – bereits auf Seite 333 verschobenen – Artikel die ZEIT. Ansonsten keiner.
    Denn diesmal geht es nicht nur um angebliche Urheber, die man retten muss, sondern um Kinder.
    Diese Lobby könnte auch den chinesischen Totalitarismus einführen. Oder den Traumstaat einer AfD.
    Denn keiner traut sich, was zu sagen oder zu widersprechen. Schließlich geht es um Kinder.

    Ich habe aufgegeben, ganz ehrlich.
    Die Totalüberwachung wird kommen. Erst in der EU, dann ein Jahr später weltweit.
    Mache ich mir keine Illusionen.

    Wer noch was anderes glaubt, soll bitte noch mal nachdenken, was vor ein paar Tagen passiert ist: Tausende Organisationen hatten vor der Chatkontrolle gewarnt.
    Sofort wurden von den Befürwortern ein Dutzend Schauspieler in ABC-Schutzanzügen bestellt, um vor dem Parlament in Namen der Totalüberwachungs-Lobby „für die Kinder“ zu demonstrieren. Daraufhin bekräftigte Johansen ihr Engagement für die Totalüberwachung.

    Gebt es einfach auf.

  10. Das Schweigen der ÖR zu diesen Recherchen ist _mal wieder_ leider ohrenbeteubend wie immer bei rechtswidrigen Angriffen dieser Art durch Politik, Kapital und Deckorganisationen freidrehender Sicherheitsorgane. Angesichts der Tragweite solcher Vorhaben und in ihrer Widerlichkeit kaum zu überbietenden Zusammenhänge leider nichts weniger als ein Armutszeugnis ….beim Blick darauf welche Polit-Belanglosigkeiten und Wiederholungen es sonst noch so auf die Webseiten und in die Talkformate der ÖR schaffen. Debatten zum Thema Freiheit im digitalen Raum? Fehlanzeige. Dabei ist das die historische Epoche in der Grundrechte von morgen ausgefochten werden oder auf Dauer verloren gehen. Wie soll man da gegen „Tiefe Staat“ VTs argumentieren, wenn man das Gefühl bekommt, die ÖR klären selbst dann nicht auf, wenn es offenkundigste Versuche gibt in Echtzeit und in aller Öffentlichkeit Strukturen einzuführen die morgen genau so einen tiefen Staat ausmachen würden? Tut mir leid, aber mit deren Ignoranz und Inkompetenz diesem _politischen_ Themenkomplex (Digitalpolitik) ggü. hab ich ein echtes Problem, seit Jahren. Sowas auf netzpolitik.org oder Zeit online oder heise oder… aber nicht den ÖR Headline Formaten – nicht mal deren Webseiten – zu erfahren ist beschämend und darf nicht sein! Das ist machtpolitisch und von wirtschaftlichen Interessen geleiteter Missbrauch von Opfergeschichten. Es gibt keine Rechtfertigung dafür aus einer Gefahr für Kinder eine für die gesamte Gesellschaft zu machen und sich der Rechtsgüterabwägung wissentlich zu entledigen und dabei vor den Karren geldgeiler Industrievertreter zu spannen. Keine! Johannson sollte einpacken und Anchor(wo)men endlich ihren Job machen wenn es um unser aller Freiheit geht.

  11. Ist natürlich schlimm, wenn die Ermittlungsbehörden moderne Technologie nutzen oder gar ihre Arbeit digitalisieren. Sollen sie doch mit dem Pferd durch die Straßen reiten … da die dabei auch noch viel zu viel sehen, natürlich mit verbundenen Augen.

    1. Niemand ist gegen Digitalisierung und moderne Technologien. Aber es geht um uferlose Überwachungsbefugnisse, bei denen automatisiert die Handys aller Menschen anlasslos gescannt werden. Nichts anderes ist die Chatkontrolle.

  12. The Heat Initiative is helmed by Sarah Gardner, who joined from Thorn, an anti-child trafficking organization founded by actor Ashton Kutcher. (Earlier this month, Kutcher stepped down from Thorn following reports that he’d asked a California court for leniency in the sentencing of convicted rapist Danny Masterson.) Thorn has drawn scrutiny for its partnership with Palantir and efforts to provide police with advanced facial recognition software and other sophisticated surveillance tools. Critics say these technologies aren’t just uncovering trafficked children, but ensnaring adults engaging in consensual sex work.

    source: https://theintercept.com/2023/10/01/apple-encryption-iphone-heat-initiative/
    https://embed.documentcloud.org/documents/23933180-apple-letter-to-heat-initiative/?embed=1&responsive=1&title=1

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.