ChatkontrolleWie ein Hollywoodstar für mehr Überwachung wirbt

Das neue Überwachungsgesetz der EU zur Durchleuchtung privater Chats verdanken wir Ursula von der Leyen. Neben vielen Kritikerinnen hat es es prominente Freunde. Neue Dokumente zeigen, wie der Schauspieler Ashton Kutcher mit seiner Organisation in Brüssel für Überwachungstechnologie lobbyierte – offenbar erfolgreich.

Ashton Kutcher und Ursula von der Leyen
Dreamteam für mehr Überwachung: Ashton Kutcher und Ursula von der Leyen CC-BY 3.0 Kuhlmann/MSC/TechCrunch/Bearbeitung netzpolitik.org

Es ist ein weitreichender Vorschlag, den die Europäische Kommission macht: Private Chatnachrichten über beliebte Apps wie Instagram, WhatsApp oder Signal sollen künftig systematisch durchleuchtet werden, wenn eine EU-Behörde das anordnet. Möglich machen soll das ein Gesetzesentwurf gegen Kindesmissbrauch, den die Kommission heute vorgelegt hat. (Wir haben vorab berichtet.)

Behörden sollen Internetdiensten künftig anordnen dürfen, dass sie private Nachrichten auf den Verdacht von Kindesmissbrauch scannen müssen. Wenn die Plattform in Bildern oder Videos ihrer Nutzer:innen konkrete Anzeichen für Missbrauchsmaterial findet, muss dies den Behörden gemeldet werden. Das könnten etwa Dateien sein, die ähnlich zu bereits bekannten Darstellungen sexualisierter Gewalt sind. Welche Technologien für diese Erkennung zum Einsatz kommen, soll ein neues EU-Zentrum gegen Kindesmissbrauch bereitstellen.

Diese Pläne halten Kritiker:innen für einen massiven Eingriff in die Privatsphäre. Es sei völlig unklar, wie zuverlässig eine solche Technologie sei – etwa, wie leicht Unschuldige in ihr Visier geraten können. Datenschützer:innen warnen überdies, wenn die EU das Scannen von Inhalten direkt auf den Geräten anordne, könne das die Ende-zu-Ende-Verschlüsselung von Messengern wie WhatsApp und Signal unterlaufen.

Doch selbst interne Einwände fanden kein Gehör bei den EU-Spitzen. Politisch verantwortlich sind EU-Innenkommissarin Ylva Johansson und Kommissionschefin Ursula von der Leyen. Johansson betonte in vergangenen Monaten mantraartig, Privatsphäre und Verschlüsselung dürften der Strafverfolgung nicht im Wege stehen. Für Von der Leyen sind solche Kontroversen nichts Neues: Ihr Vorschlag für Netzsperren gegen Kindesmissbrauchsinhalte sorgte 2009 für massive Proteste gegen „Zensursula“ in Deutschland.

Demonstration
Protestkundgebung gegen Zensursula, April 2009. - CC-BY 2.0 Stephan Luckow

Ein Schauspieler mit Nebenlinie als Überwachungsentrepreneur

Der neue Überwachungsvorschlag aus Brüssel weckt freilich nicht nur lautstarke Opposition, er findet auch einflussreiche Fürsprache. Überaus wirksames Lobbying für das Gesetz machte dabei offenbar eine Organisation namens Thorn, gegründet vom Hollywoodschauspieler Ashton Kutcher und seiner damaligen Frau Demi Moore.

Kutcher ist hierzulande bekannt für Komödien wie „Ey Mann, wo is‘ mein Auto?“, abseits seiner Schauspielkarriere mauserte sich Kutcher in den vergangenen Jahren zum Technologieinvestor. Mit Thorn stieg Kutcher in den Markt für Überwachungstechnologie ein: 2020 brachte die Organisation „Safer“ auf den Markt, nach eigenen Angaben die erste „umfassende Erkennungsplattform“ für Kindesmissbrauchsinhalte eines Drittanbieters.

Gegenüber den EU-Institutionen tritt Thorn als Charity-Organisation auf, die sich aus idealistischen Gründen gegen Kindesmissbrauch einsetzt. Allerdings brachte die Organisation bei Treffen mit europäischen Behörden immer wieder seine eigens entwickelte Software zum Aufspüren von Kindesmissbrauch ins Spiel. Das zeigen mehr als ein dutzend E-Mails und Gesprächsnotizen, die netzpolitik.org durch Informationsfreiheitsanfragen bei der EU-Kommission, deutschen und schwedischen Behörden erhielt.

In seinem Lobbying nutzt Thorn das Gewicht seines Hollywoodstar-Gründers. Organisationen fällt es oft schwer, hochrangige Treffen mit der Kommission einzufädeln. Wie wenig das auf Thorn zutrifft, verdeutlichen Bilder von einem Videotreffen zwischen Kutcher und Von der Leyen, die die Kommissionschefin im November 2020 auf Twitter postete.

In diesem Fenster soll ein Twitter-Post wiedergeben werden. Hierbei fließen personenbezogene Daten von Dir an Twitter. Aus technischen Gründen muss zum Beispiel Deine IP-Adresse übermittelt werden. Twitter nutzt die Möglichkeit jedoch auch, um Dein Nutzungsverhalten mithilfe von Cookies oder anderen Tracking-Technologien zu Marktforschungs- und Marketingzwecken zu analysieren.

Wir verhindern mit dem WordPress-Plugin „Embed Privacy“ einen Abfluss deiner Daten an Twitter so lange, bis Du aktiv auf diesen Hinweis klickst. Technisch gesehen wird der Inhalt erst nach dem Klick eingebunden. Twitter betrachtet Deinen Klick als Einwilligung in die Nutzung deiner Daten. Weitere Informationen stellt Twitter hoffentlich in der Datenschutzerklärung bereit.

Zur Datenschutzerklärung von Twitter

Zur Datenschutzerklärung von netzpolitik.org


Damals setzte Thorn sich vehement für einen Vorschlag der EU-Kommission ein, der wenige Monate später im Rekordtempo Gesetz wurde. Plattformen wie Facebook erlaubte die EU darin, freiwillig private Nachrichten auf Kindesmissbrauchsverdacht zu scannen. Dafür schuf die EU eine Ausnahme in ihren Datenschutzregeln, die eigentlich gerade erst verschärft worden waren. Diese gibt den Plattformen seither den rechtlichen Spielraum, auf freiwilliger Basis das zu tun, was bald auf Anordnung verpflichtend werden könnte: das Durchleuchten privater Nachrichten.

Kutcher lobbyierte persönlich in Interviews mit EU-Fachmedien und sogar über Twitter-Appelle an SPD-Vorsitzende Saskia Esken für diese Regelung. Dass sie beschlossen wurde, kann auch als Erfolg für Thorn gewertet werden.

Seine Lobbykampagne führt Thorn seither konsequent weiter. 20 EU-Gesetzgeber:innen habe die Organisation allein 2021 getroffen, heißt es in einem öffentlichen Bericht. Und tatsächlich, Lobbyist:innen von Thorn grasen seit dem Vorjahr die wichtigsten digitalpolitischen Entscheider:innen in Brüssel ab. Laut offiziellem Lobbyregister trafen sie enge Mitarbeiter:innen Von der Leyens, aber auch ihrer Stellvertreter Margrethe Vestager und Margaritis Schinas sowie von Binnenmarktkommissar Thierry Breton. Gesprächsthema: Kindesmissbrauch, und was Thorn dagegen tun kann.

„Ausgewogener Ansatz“ gegen zu viel Verschlüsselung

Hinter verschlossenen Türen boten Lobbyist:innen von Thorn dem Kabinett Von der Leyens ihre Expertise an. Die Organisation wolle dabei helfen, einen „ausgewogenen Ansatz zu finden, der den Schutz der Privatsphäre gewährleistet und dennoch die Aufdeckung von sexuellem Kindesmissbrauch ermöglicht“, heißt es in Gesprächsnotizen der Kommission.

In dem Treffen verriet Thorn auch, dass es an „Themen rund um Verschlüsselung“ arbeite. Wochen zuvor hatte die Organisation in einem Blogpost vor Plänen des Meta-Konzerns gewarnt, dass Nachrichten über Facebook Messenger und Instagram Messenger künftig Ende-zu-Ende-verschlüsselt würden. Damit werde „die Welt 99 Prozent ihrer Informationen“ über die Verbreitung von Kindesmissbrauchsinhalten verlieren. „Dies bedeutet, dass Missbrauchstäter illegales und schädliches Material über sexuellen Kindesmissbrauch unentdeckt auf denselben Plattformen verbreiten können, die wir und unsere Kinder täglich nutzen.“

Welche Positionen Thorn gegenüber der EU vertrat, bleibt inzwischen teilweise im Dunklen. Im März 2021 trifft die Organisation Mitarbeiter:innen von EU-Kommissarin Johansson, die direkt für den neuen EU-Gesetzesvorschlag gegen Kindesmissbrauch verantwortlich ist. Was dort besprochen wird, bleibt leider geheim: Gesprächsnotizen von dem Treffen übermittelt uns die Kommission praktisch völlig geschwärzt. Eine Offenlegung hätte negativen Einfluss auf ihre interne Entscheidungsfindung, argumentiert die EU-Behörde.

Thorn wirbt mit „über 30 Kund:innen in der ganzen Welt“

Klar ist allerdings, dass die von Asthon Kutcher gegründete Organisation in anderen Lobbytreffen offensiv ihre Software vermarktet. Thorn habe „über 30 Kund:innen in der ganzen Welt, und ihre Preisgestaltung zielt darauf ab, auch kleineren Anbietern die Nutzung ihrer Dienste zu ermöglichen“, sagten Lobbyist:innen bei einem Treffen mit Werner Stengg, einem führenden digitalpolitischen Berater von Kommissionsvizechefin Vestager. Auf der Website von Safer sind als Kund:innen etwa die Foto-Plattform Flickr und das Videoportal Vimeo aufgeführt.

Thorn biete von Künstlicher Intelligenz gesteuerte Software zum Finden, Entfernen und Melden von Kindesmissbrauchsinhalten. Darüber hinaus arbeite das Non-Profit an einem „neuen Algorithmus zur Erfassung von Grooming-Aktivitäten“, also der gezielten Kontaktaufnahme mit Minderjährigen in Missbrauchsabsicht, heißt es in den Gesprächsnotizen.

Ashton Kutcher
Star mit Sendungsbewusstsein: Ashton Kutcher - Alle Rechte vorbehalten IMAGO / Motorsport Images

Auf Anfrage von netzpolitik.org bestätigt eine Sprecherin von Thorn, dass die eigene Technologie für die Durchsetzung des neuen EU-Gesetzes verwendet werden könne. Es sei von entscheidender Bedeutung, „langfristige Rechtssicherheit für den Schutz von Kindern im Internet durch Entdeckung, Meldung und Löschung von Kindesmissbrauchsmaterial zu schaffen und ein europäisches Zentrum einzurichten“, sagte der Sprecherin zufolge Julie Cordua, die das operative Geschäft der Organisation leitet. Thorn werde „unsere Erfahrung und unser Fachwissen auch in Zukunft zur Verfügung stellen“.

Den Gesetzesvorschlag der Kommission begrüßt Thorn ausdrücklich. „Ich danke Kommissarin Ylva Johansson und ihrem Team für die großartige Arbeit, die sie in dieses Gesetz gesteckt haben“, sagte Cordua. Thorn sei „dankbar für die Pionierarbeit, die die EU leistet“.

„Safer“ bald in der EU im Einsatz?

Auch in einem siebenseitigen Positionspapier, das Thorn im Herbst 2021 an schwedische EU-Diplomaten schickte, bewirbt die Organisation den Erfolg seiner Software „Safer“, mit der seit 2019 bereits 183.000 Verdachtsfälle auf Missbrauch an US-Stellen übermittelt worden seien. In Schweden, dem Heimatland von Kommissarin Johansson, hofft Thorn offenbar auf einen Verbündeten bei den kommenden Beratungen über den Gesetzesvorschlag im Rat der EU-Staaten. Thorn wolle „die schwedische Perspektive“ verstehen, heißt es in einer E-Mail an die Vertreterin des skandinavischen Staates im EU-Rat.

Auch in Deutschland wurde Thorn vorstellig. Da auf europäische Ebene über einen rechtlichen Rahmen zur Bekämpfung von Kindesmissbrauch verhandelt werde, wolle Thorn in Berlin seine Mission vorstellen. So heißt es in einer vergangenen Sommer verschickten E-Mail an das Büro des damaligen Unabhängigen Beauftragten für sexuellen Kindesmissbrauch, Johannes-Wilhelm Rörig.

Ob auf das Lobbying von Ashton Kutcher und seinem Non-Profit-Unternehmen tatsächlich ein lukrativer öffentlicher Auftrag folgt, ist noch offen. Eine entscheidende Rolle dürfte dabei das neue EU-Zentrum gegen Kindesmissbrauch spielen. Der Gesetzesentwurf der Kommission lagert nämlich die heikle politische Frage, mit welcher Software Plattformen künftig private Nachrichten scannen sollen, teilweise an die Verwaltung aus. Mitreden darf auch der Europäische Datenschutzbeauftragte.

Sollte die Software von Thorn bei den EU-Behörden Anklang finden, könnte sie bald weiträumig eingesetzt werden. Für die Non-Profit-Organisation könnte das hohe Einnahmen bedeuten. Ashton Kutcher und seine Organisationen hätten dann aber auch auf die Privatsphäre von Millionen Europäer:innen prägenden Einfluss.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

5 Ergänzungen

  1. Thorn works with a group of technology partners who serve the organization as members of the Technology Task Force. The goal of the program includes developing technological barriers and initiatives to ensure the safety of children online and deter sexual predators on the Internet. Various corporate members of the task force include Facebook, Google, Irdeto, Microsoft, Mozilla, Palantir, Salesforce Foundation, Symantec, and Twitter.

    https://en.wikipedia.org/wiki/Thorn_(organization)

    Was soll man nur von diesem toxischen Geschäftspartnern halten und welche Rolle spielen sie?

  2. Ob man mit solchen Maßnahmen ernsthaft etwas ändert? Die Täter im großen Stil werden sicher nicht ihre „Daten“ über Messenger etc. austauschen… Das sieht für mich mehr nach Leid als nach Nutzen aus.

  3. Non-profit ist halt ein sehr schwammiges Konstrukt. Natürlich verdienen da Leute Geld, und wenn es die ganzen Angestellten und Lobbyisten sind.

  4. << Thorn’s partners, per its website, include many of the largest Silicon Valley tech companies, such as Amazon, Google, Twitter, Facebook, Salesforce, Microsoft, Intel, Dropbox and Adobe, as well as Goldman Sachs and Verizon. They are also partnered with the NGO Polaris, which operates the U.S. National Trafficking Hotline and whose current CEO is a former operative for USAID, a CIA cut-out. Polaris is also a member organization of the Clinton Global Initiative (CGI), an organization allegedly devised and initially financed by Jeffrey Epstein and also associated with Epstein’s top co-conspirator Ghislaine Maxwell. Other NGO partners of Thorn include the National Center for Missing and Exploited Children (NCMEC), the international branch of which was launched in 1999 by Hillary Clinton and Cherie Blair; and the McCain Institute for International Leadership, named for the late, hawkish Senator John McCain and hosted at Arizona State University (ASU). >>
    https://unlimitedhangout.com/2020/09/investigative-reports/ashton-kutchers-ngo-supplies-police-with-free-cia-linked-surveillance-tool-to-protect-kids/

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.