Rund 150 Abgeordnete aus nationalen Parlamenten in der EU sind bereits Ziel von sexualisierten Deepfakes geworden. Das haben Forschende der Berliner Denkfabrik Agora Digitale Transformation herausgefunden. Die von der Stiftung Mercator geförderte gemeinnützige Organisation arbeitet zu digitalem Wandel und Demokratie.
In der Folge fordern 119 Abgeordnete des EU-Parlaments in einem offenen Brief schärfere Maßnahmen von EU-Kommission und Mitgliedstaaten.
Für die Studie haben die Forschenden unter anderem bekannte Deepfake-Seiten durchleuchtet. Dort haben sie nach den Namen von 5.872 Abgeordneten aus den nationalen Parlamenten aller 27 EU-Staaten gesucht. In 38 Fällen stießen sie direkt auf gefälschte sexualisierte Bilder oder Videos der Abgeordneten.
Sie suchten darüber hinaus nach Spuren bereits entfernter Inhalte sowie nach Deepfake-Werkzeugen, die dazu einladen, sexualisierte Aufnahmen der Betroffenen zu erstellen. Insgesamt konnten die Forschenden auf diese Weise ermitteln, dass 147 Abgeordnete aus 22 EU-Ländern zum Ziel nicht-einvernehmlicher, sexualisierter Deepfakes geworden sind.
Mithilfe Künstlicher Intelligenz (KI) lassen sich sexualisierte Bilder oder Videos von Personen ohne deren Zustimmung erzeugen. Sogenannte „Nudifier“-Apps (Auszieh-Apps) benötigen dafür nur das Foto einer Person.
Die Ergebnisse der Studie zeigen außerdem, dass weibliche Abgeordnete von sexualisierten Deepfakes deutlich häufiger betroffen sind als männliche. Von den 147 Betroffenen waren 138 Frauen und neun Männer.
Auch die aus Österreich stammende EU-Abgeordnete Lena Schilling (Grüne) wurde Ziel von sexualisierten Deepfakes. „Man hat uns gegen unseren Willen ausgezogen“, sagte sie der Nachrichtenagentur APA. „KI verstärkt Gewalt gegen Frauen, und deshalb braucht es politische Entscheidungen, die uns schützen.“
Gesetze allein reichen nicht aus
Die Studie rückt die Frage nach der Wirksamkeit bestehender Regelungen in den Blick. In manchen der 22 Länder gibt es bereits Gesetze gegen Deepfakes. Den Autor:innen zufolge hatte das jedoch keine sichtbare Wirkung auf die Zahl der betroffenen Abgeordneten.
In ihrem offenen Brief fordern die 119 Abgeordneten des EU-Parlaments unter anderem klare Vorgaben und ausreichend ausgestattete Behörden, damit das kommende EU-weite Verbot sogenannter „Nudifier“-Apps tatsächlich durchgesetzt werden kann. Es ist Teil der KI-Verordnung (AI Act) und tritt am 2. Dezember 2026 in Kraft.
Die Abgeordneten machen jedoch deutlich, dass ein Verbot allein nicht ausreiche. „Ein Verbot auf dem Papier schützt niemanden, solange es nicht durchgesetzt wird“, heißt es auf Englisch. Unterzeichnet wurde der Brief partei- und länderübergreifend, unter anderem von den deutschen Abgeordneten Alexandra Geese (Grüne), Tiemo Wölken (SPD), Martin Schirdewan (Die Linke) und Dennis Radtke (CDU).
Weiter heißt es in dem offenen Brief über sexualisierte Deepfakes: „Dies ist geschlechtsspezifische digitale Gewalt. Ihr Zweck ist die Demütigung und Kontrolle über die Körper von Frauen“. Jede junge Frau, die eine politische Karriere in Betracht zieht, „muss heute einkalkulieren, dass ihr so etwas passieren könnte.“
Auch Agora Digitale Transformation hat Forderungen gegen sexualisierte Deepfakes. Die Autor:innen empfehlen unter anderem, Suchmaschinen stärker in den Blick zu nehmen. Selbst wenn Deepfakes bereits offline sind, könnten Suchmaschinen noch entsprechende Suchergebnisse anzeigen, was sich auf den Ruf und auf die Psyche der Betroffenen auswirke.
Schreibe eine Ergänzung!