„Voller Erfolg im Parlament“, schreibt Sergey Lagodinsky auf LinkedIn. Der grüne EU-Abgeordnete feiert die Entscheidung für ein Verbot von sexualisierten Deepfakes. Darauf haben sich die Fraktionen im EU-Parlament gestern geeinigt, als sie den sogenannten KI-Omnibus verhandelt haben. Das Gesetz soll die KI-Verordnung (AI Act) anpassen.
„Die Frage war klar: Wenn der Omnibus Änderungen am KI-Gesetz bringt, warum nicht genau hier ansetzen?“, schreibt Lagodinsky weiter. Mit seinen Fraktionskolleg:innen hat er sich seit Januar für ein Verbot von sexualisierten Deepfakes eingesetzt. Es geht um synthetische Nacktaufnahmen, erzeugt mit Software, die viele als „KI“ bezeichnen.
Die Grünen haben allerdings nicht ganz bekommen, was sie wollten. Sie hatten sich sogar dafür ausgesprochen, sexualisierte Deepfakes grundsätzlich zu verbieten – selbst wenn das Einverständnis der betroffenen Person vorliegt. So wie die Einigung bis jetzt aussieht, soll nur der nicht einvernehmliche oder missbräuchliche Einsatz der Technologie verboten werden. In dieser Form hatten sich Abgeordnete der Sozialdemokraten und der Fraktion Renew für ein Verbot eingesetzt.
Parlament, Rat und Kommission müssen noch verhandeln
Noch sind nicht alle Details geklärt. Nächste Woche sollen die verantwortlichen Ausschüsse im Parlament – Justiz und Binnenmarkt – über den Kompromisstext abstimmen. Damit ist das Verbot allerdings noch nicht beschlossen. Was im KI-Omnibus am Ende steht, werden Parlament, Kommission und Rat im Trilog aushandeln. Besonders kontrovers dürften diese Gespräche jedoch nicht werden. Denn auch die Mitgliedstaaten haben sich in ihren parallelen Verhandlungen mittlerweile auf ein Deepfake-Verbot verständigt. Im vierten Kompromisstext der Ratspräsidentschaft tauchte das Verbot in dieser Woche auf, wie Mlex (Paywall) berichtete.
Im Rat hatte vor allem Spanien auf eine Regelung hingearbeitet. Ein breiteres Interesse an dem Problem gab es dort schon vor dem internationalen Skandal um nicht-einvernehmliche Deepfakes durch den Chatbot Grok. Im Herbst 2023 hatte ein Fall in der spanischen Stadt Almendralejo für Aufsehen gesorgt, als gefälschte Nacktbilder von mehr als 20 Mädchen zirkulierten. Seitdem bemüht sich die spanische Regierung um ein nationales Verbot.
Zu klären bleibt noch, wie das Verbot in die KI-Verordnung integriert werden soll. Das Parlament will die nicht-einvernehmliche Erstellung von sexualisierten Deepfakes in den Artikel 5 aufnehmen, der verbotene KI-Praktiken auflistet. Der Ratsentwurf dagegen sieht vor, zwei Dinge zu verbieten: KI-Systeme, die nicht-einvernehmliche sexualisierte Deepfakes erstellen können und KI-Systeme, die Kindesmissbrauchsmaterial erstellen können.
Die grüne verbotspartei wieder. Deepfakes ist zunächst eine Technologie und Technologien zu verbiten ist ein falscher Ansatz. Erst bei nicht authorisierter Weitergabe oder Veröffentlichung solcher bearbeiteten Bilder, nichts anderes sind deep fakes, sollte es Einschränkungen geben. Oft genug entscheiden Politiker über Dinge, die sie nicht verstehen.
Da kann man ja mal wieder schwer gespannt sein, wie man Kontraktualismus in die Pipeline gießt sodass es der Verordnung entspricht.
Ist bisschen wie die Gesetzgebungsdiskussion in Amerika von »der 3D-Drucker darf keine Waffen drucken können«.
So sehr ich verbraucherschützende Gesetzgebung auf EU-Ebene ja mag, so sehr sind mir Verordnungen von Personen ohne hinreichendes Technikverständis ein Dorn im Auge.
Das gibt dann wieder einen Gummiparagraphen, aus dem sich Pflichten für Filter und Überwachung ableiten lassen. Glückwunsch.
Da Kindesmissbrauch per Definition nicht einvernehmlich ist gehe ich mal davon aus das mit diesem zusätzlichen Verbot reine Fantasien verboten werden sollen? Rechtlich ist jemand in der EU ein „Kind“, wenn er/sie unter 18 Jahre alt. Wie soll man da jetzt rechtssicher abgrenzen? Ebenfalls ist das bei Beibehaltung der Ausnahmeklausel für Inhalte von kindlich aussehenden Erwachsenen etwas widersprüchlich.
In der letzten mit bekanntrn Entwurfsfassung der CSA-VO stand dieses Verbot unter “ realistischen Inhalten“, so dass nur „realistisches Kindesmissbrauchsmaterial“ erfasst wäre.
In der aktuellen Fassung des AI Acts wird auf Artikel 2 (c) und (e) der Directive 2011/93/EU verwiesen. Irgendwelche Entwickler von Hentai-Modelle werden daher nicht erfasst. An der aktuellen Rechtslage ändert sich daher in vielen Staaten nichts.
Was ich problematisch finde ist das im Kontext von nicht einvernehmlichen Bildern auch nur auf „realistic“ abgestellt wird. Auch ein erkennbares 3D-Modell von mir sollte nicht verbreitet werden dürfen.
Da ich im Artikel nirgends einen Link zum Entwurf finde hier der Link:
https://www.consilium.europa.eu/en/press/press-releases/2026/03/13/council-agrees-position-to-streamline-rules-on-artificial-intelligence/
Da Kindesmissbrauch per Definition nicht einvernehmlich ist gehe ich mal davon aus das mit diesem zusätzlichen Verbot reine Fantasien verboten werden sollen? Rechtlich ist jemand in der EU ein „Kind“, wenn er/sie unter 18 Jahre alt ist. Wie soll man da jetzt rechtssicher abgrenzen? Ebenfalls ist das bei Beibehaltung der Ausnahmeklausel für Inhalte von kindlich aussehenden Erwachsenen etwas widersprüchlich – Bild v. einer Erwachsener Darstellerin legal, aber mit Einverständnis generiertes Bild der gleichen Person = KiPo.
In der letzten mir bekannten Entwurfsfassung der CSA-VO stand dieses Verbot unter “ realistischen Inhalte“, so dass nur „realistisches Kindesmissbrauchsmaterial“ erfasst wäre.
Hallo, betrifft das Verbot denn auch Schere und Kleber? Jeder Gewalttäter kann sich ne Bunte und nen Playboy kaufen und damit Schindluder treiben! Warum dulden wir diese Perversion in den Schlafzimmern unserer Mitbürger?! Dies ist ein Aufruf zur totalen Überwachung im Namen des Feminismus!
Das Verbot betrifft hauptsächlich Anbieter von KI, also das Deployment und Verfügbar halten solcher Modelle. Einen Anbieter kann man schon so regulieren. Du sprichst hier eher von Menschen die sowas im Privaten produzieren und da kann man faktisch nicht wirklich etwas tun, da man zur Durchsetzung alle Bürger überwachen müsste.
und wenn diese Überwachung dann installiert ist, klemmen die Täter einfach den PC an dem die Deepfakes generiert werden einfach vom Internet ab und niemand wird die je finden.
Naja, was braucht man denn dann technisch so zur Durchsetzung?
Client side scanning zum Erkennen.
Authentication und Authorization um von der dargestellten Person erlaubte Bearbeitung eben zu erlauben.
Starke Krypto zur Dokumentation dieser Erlaubnis, gebunden an starke Identifikation.
Der Traum von Adobe, Meta, OpenAI und anderen auf dem Silbertablett.
Und natürlich Blockade von alternativer non-compliant Software auf dem Rechner.
Ehrlich gesagt, es gibt Deepfakes, die massiven Schaden bei Opfern anrichten. Das ist inakzeptabel.
Aber es gibt das Recht am eigenen Bild. Das KunstUrhG ist eine Strafvorschrift! Es mag sein, dass man das KunstUrhG modernisieren könnte. Doch es gibt ein klares Gesetzt, das nicht einvernehmliche Deepfakes verbietet.
Das Gesetz ist sogar so klug, Missbrauch zu Werbe- oder Geschäftszwecken zu verbieten. Damit könnten KI-Betreiber haften. Ohne Frage muss Opfern bei der Durchsetzung ihrer Persönlichkeitsrechte geholfen werden. Doch welche Sau wird hier wieder durch das Dorf getrieben? Wo also irre ich hier?
A) Mit dem alten Gesetz?
B) Mit dem neuen Gesetz?
Betroffene:
– Welche Mittel habe ich? Auch bzgl. Eskalation und Wiederholung, plus gegenüber wem.
– Wie weit muss ich mich wem gegenüber für ein Verfahren exponieren?
– Wer hat welche Beweislast?
Kleines Problem: Ich las Verbot Gesichter anderer Leute zu nutzen. (o.ä.)
Ein Komplettes Verbot ist natürlich recht mächtig, allerdings auch recht holzig.