Was ist das für ein Grauen, wenn jemand sexualisierte Deepfakes, die vermeintlich dich zeigen, an Männer in deinem Umfeld schickt? Wie schlimm muss es sein, wenn diese Videos und Bilder auf Pornoplattformen landen? Was sagt es über unsere Gesellschaft aus, wenn es nicht verboten ist, solche Aufnahmen herzustellen und zu teilen?
Seit die Geschichte im Spiegel über Collien Fernandes erschien, herrscht große Fassungslosigkeit. Obwohl schon seit Jahren bekannt ist, dass solche Deepfakes von Fernandes im Umlauf sind. Und dass solche Bildern auch von sehr vielen anderen kursieren, vor allem von Frauen und Mädchen.
Doch Fernandes schafft, was sonst nur den allerwenigsten Betroffenen dieser Grausamkeiten gelingt: Ihr wird zugehört. Sie spricht offen von Panikattacken, von Scham, dem Gefühl von Wertlosigkeit. Und von einer „virtuellen Vergewaltigung“.
Die Hölle sind die Anderen
Zu dem Grauen, das Fernandes‘ Geschichte offenbart, gesellte sich in den vergangenen Tagen ein weiteres: das über die Reaktionen. Diese findet man nicht nur in den Abgründen der rechten Höllenmaschine, zu der die Plattform X wurde. Sie stehen auch in den Kommentaren unter den Beiträgen, die wir in den vergangenen Tagen veröffentlicht haben.
„Wenn sexuelle Deepfakes ohne Einverständnis verbreitet werden und daraus eine psychische Schädigung der betroffenen Person entsteht, sollte dies strafbar sein“, schreibt da jemand. Für die „reine Herstellung ohne Verbreitungsabsicht“ sehe man diese Notwendigkeit aber nicht. Das schade schließlich niemandem.
Es ist nicht der einzige Kommentar dieser Art. Viele weitere, darunter auch weitaus derbere, haben wir gar nicht erst freigeschaltet. Der Tenor ist bei allen der gleiche. Überspitzt lässt er sich so zusammenfassen: Was soll so schlimm daran sein, wenn ich in meiner Freizeit einen Deepfake-Porno für mein eigenes Vergnügen bastele? Das steht mir doch wohl zu – Zustimmung hin oder her.
Wenn man den Kommentatoren diese kleine Freude nehmen würde, geht der Gedanke weiter, könne man ja gleich anfangen, Fantasien zu verbieten. Tatütata, ruf doch die Gedankenpolizei.
Alles netzpolitisch Relevante
Drei Mal pro Woche als Newsletter in deiner Inbox.
Checkst du?
Tatsächlich hat das Bundesjustizministerium einen Gesetzentwurf vorgelegt, der zwar schon länger in Arbeit war, nun aber im Eiltempo abgestimmt werden soll. Dieses Gesetz gegen digitale Gewalt soll bereits das Erstellen von sexualisierten Deepfakes unter Strafe stellen. Immer unter der Voraussetzung, dass dies ohne die Zustimmung der gezeigten Personen erfolgt.
Mal ganz abgesehen davon, ob es eine gute Idee ist, so etwas über das Strafrecht regeln zu wollen – es gibt berechtigte Zweifel daran –, wird derzeit vor allem eines deutlich: Genau diese „Freiheit“ wollen sich viele nicht nehmen lassen.
Ich saß in den vergangenen Tagen oft fassungslos vor dem Computer, wenn ich diese Kommentare in meiner Inbox las. Minutenlang nicht mal in der Lage, auf Löschen zu drücken. Mit jeder Nachricht offenbarten die Kommentierenden ja auch etwas über sich selbst. Und diese Selbstoffenbarungen waren für mich wie der Blick in einen sehr tiefen Abgrund.
Merken sie denn nicht, wie empathielos und surreal ihre Haltung wirkt? Insbesondere für all jene, die weiter unten im patriarchalen Machtgefüge stehen?
In den vergangenen Tagen zeigten sehr viele Medienbeiträge doch vor allem eines deutlich: Digitale Gewalt ist echte Gewalt. Das Leid und die Folgen, die solche Handlungen für die Betroffenen haben, liegen gerade so deutlich auf dem Tisch wie selten zuvor.
Wer darf was mit wem?
Es ist mehr als ausreichend dokumentiert, dass die Vorstellung falsch ist, mit sexualisierten Deepfakes keinen Schaden zu verursachen. Die psychischen und körperlichen Folgen für die Betroffenen, die Panik, der Stress, die Angst – sie sind real. Ja, sie sind ähnlich wie bei anderen Gewalterfahrungen, der Körper unterscheidet da nicht.
Wer das ignoriert, gibt viel über das eigene Innenleben preis. Diese Haltung zeigt zugleich, was das eigentliche Problem ist: Es gibt Menschen, die offenbar glauben, es stünde ihnen zu, Gewalt auszuüben.
Wir sind communityfinanziert
Unterstütze auch Du unsere Arbeit mit einer Spende.
Sie gehen davon aus, dass es ihr gutes Recht ist, das Aussehen von Frauen und Mädchen nicht nur zu bewerten und zu kommentieren, wie es in unserer Gesellschaft noch immer üblich ist. Sondern dass sie deren Körper darüber hinaus ungefragt zu ihrem Vergnügen verwenden dürfen. Ganz nach dem Motto: Das ist im Patriarchat normal, das haben wir so gelernt.
Sie rechtfertigen sich dann etwa damit, dass es wohl kaum ein Unterschied mache, ob sie sich etwas in ihrem Kopf ausmalten oder ob sie auf einen Knopf drücken würden, um diese Fantasien zu visualisieren.
Aber sexualisierte Bilder entstehen gegen den Willen der Betroffenen. Allein diese Vorstellung, dass Menschen sexualisierte Deepfakes nach Belieben herstellen können, kann für Betroffene beschämend und demütigend sein. Die Verletzung ist noch größer, wenn die Bilder an andere Personen oder gar an die Öffentlichkeit gelangen und sich unkontrolliert weiterverbreiten.
Es geht um Macht
In der aktuellen Debatte muss sich endlich eine Erkenntnis durchsetzen, zu der Feministinnen schon in ihren Analysen zu #metoo und anderen Formen von Machtmissbrauch gelangt sind. Eine Erkenntnis, die immer noch als eine Art Geheimwissen gehandelt wird:
Sexualisierte Gewalt – analog oder in Form von digitalen Deepfakes – hat nichts mit Sex zu tun. Sondern sie handelt von Macht. Eine Person übt sie über eine andere Person aus, etwa indem sie ihr Gesicht ungefragt auf den Körper einer Pornodarstellerin montiert. Die im Übrigen auch nicht gefragt wurde.
Wenn Menschen also bezweifeln, ob digitale Gewalt wirklich so schlimm sei; ob der Schaden, der von Deepfakes ausgeht, wirklich echt sei; oder ob es strafbar sein sollte, ein sexualisiertes Bild ohne die Zustimmung der gezeigten Person zu generieren oder zu teilen – dann streiten wir um Macht. Wer hat sie? Wem steht sie zu? Wer soll sie abgeben?
Ein Blick in die Kommentarspalte zeigt, wie lang die Strecke ist, die wir in diesem Kampf noch vor uns haben.
Hallo Chris, bitte sei dir bewusst dass all das Deepfake erstellen prinzipiell gar keinen Menschen braucht sondern vollautomatisch von Bots erledigt werden kann, so wie Spam, Fishing, etc. Wenn man sich auf den Standpunkt stellt dass mit einem Deepfake das Lebensglück erlischt dann ist zu vermuten das Ende ist nah. Egal was ins Strafgesetzbuch geschrieben wird, das Problem wird strukturell nicht mehr verschwinden. Das dürfte unmöglich sein.
Ausgerechnet hier als erstes mansplainend um die Ecke zu kommen, wow. Du willst allen Ernstes einer netzpolitik.org-Redakteurin das Internet erklären? Ist nicht nötig, wirklich.
@Axel: Es ist ebenso möglich, mit vollautomatischen Bots auf allen frei verfügbaren Plattformen billigste, obszöne Witze über alle Menschen names Axel zu machen (Nanu, die Rechtschreibkorrektur wollte grad Axelschweiss schreiben?).
Macht das die Sache jetzt besser?
Ach? Und Bots entstehen aus dem Nichts? So ganz ohne Menschen?
@Anne Unabhängig davon, wie wertvoll man Axels Beitrag einschätzt, finde ich Begriffe wie „mansplaining“ (oder auch „alter weißer Mann“, „Boomer“) kontraproduktiv. Zwar stelle auch ich fest, dass es viele Männer gibt, die versuchen, Frauen die Welt zu erklären. Allerdings hat ein solcher Begriff das Potential, ALLE Männer zu verunglimpfen. Gruppenbezogene Aussagen sind meistens schwierig – tatsächlich ist es doch gerade das Ziel, gruppenbezogene Ansichten über Frauen zu bekämpfen. Wenn man auch Menschen außerhalb der eigenen Bubble erreichen will, sollte man vielleicht nicht mit den gleichen Waffen zurückschlagen.
Es gibt bestimmt andere Wege, das unerwünschte Verhalten zu beschreiben – wie wäre es zum Beispiel mit dem Begriff „Erklärbär“? (Sorry, liebe Bären…)
Ich denke, gruppenbezogene Aussagen können schon sinnvoll sein. Nämlich immer dann, wenn es um die Beschreibung von Systemen und Strukturen von Gruppen geht. So wie es beim mansplaining der Fall ist. Mit der Verwendung des „Erklärbär“ geht die entscheidende, in diesem Fall die geschlechtsbezogene Ebene, ja komplett verloren.
Das geht dann schon in die Richtung „Es ist gerechterweise sowohl den Reichen als auch den Armen verboten, unter Brücken zu schlafen“. Die gruppenbezogene Aussage stellt ja gerade die Ungleichkeit zwischen den Gruppen heraus! Das auf die indivduelle Ebene zu verschieben ignoriert nicht nur die tatsächliche gruppenbezogene Dynamik, es trägt auch dazu bei, diese zu erhalten.
@Minusch Für systematische Betrachtungen eignen sich Statistiken. Daraus kann man eine Aussage ableiten wie „Männer sind öfter gewalttätig“. Ich versteh dann auch wenn Frauen im Alltag Männer erstmal pauschal als gefährlich betrachten, einfach aus Selbstschutz. Aber wenn wir auch im Diskurs plumpe Verkürzungen wie „Männergewalt“ benutzen, tun wir damit einer erheblichen Anzahl von Menschen Unrecht.
Entweder Axels Kommentar war unnötig, weil er Chris das Offensichtliche erklärt hat, oder er war es nicht. Zu sagen, dein Kommentar war unnötig, weil du ein Mann bist, passt für mich einfach nicht in eine sachliche Diskussion.
Ich habe mir jetzt ein Profilbild angeschaut, meine Augen geschlossen und zu einem fiktiven Szenario – das diese Person abbildet – masturbiert. Erkläre mir bitte, wo genau der Unterschied zu einem privat hergestelltem Deepfake liegt.
Das Ding liegt auf einem Server, auf einer Festplatte oder auf beidem.
Die Möglichkeit der Weiterverbreitung wohnt der Datei bereits inne. Ich behaupte, dass der größte Teil der Internetnutzer nicht die technischen Kenntnisse hat, eine ungewollte Verbreitung sicher ausschließen zu können. Ich behaupte ferner, dass ein großer Teil der Internetnutzer auch gar nicht die persönliche Integrität hat, einer Verbreitung dauerhaft und situationsunabhängig zu widerstehen. Kurzum: Die eigene Hirnschale hat Mann noch etwas besser im Griff als den Computer.
Und Sophismen ganz beiseite: Es passiert einfach viel zu vielen Frauen tagtäglich.
Ich verstehe schon, wenn man mit Freiheit, Privatsphäre usw. argumentiert. Den Gedanken an Festplattendurchsuchungen finde ich auch nicht lustig. Aber man darf dabei den Eingriff in die Privatsphäre der abgebildeten Person nicht wegwischen. Genau DAS machen aber die Kommentare, um die der Artikel sich dreht.
Sobald so ein Ding erstellt wird, muss ich um die Verbreitung fürchten. Egal ob die Furcht sich letztlich realiert oder nicht. Darin steckt der gewaltvolle Aspekt.
Sorry aber mit dieser Argumentation muss man auch Selbstgespräche verbieten, da mittlerweile in vielen Geräten einfach so ein Mikrofon steckt. Wenn also jemand sexuelle Fantasien über mich zuhause im Privaten herunterrattert kann das gegen seinen Willen aufgezeichnet werden:
Gebe ich ihm jetzt die Schuld dafür? Es liegt keine Verbreitungsabsicht vor, also ist diese Schuldumkehr völlig absurd. Damit kann man auch gleich Pornos und Drogen verbieten, da diese auch abhanden kommen können.
„Für die „reine Herstellung ohne Verbreitungsabsicht“ sehe man diese Notwendigkeit aber nicht. Das schade schließlich niemandem.“
Welches Strafrechtsgut soll denn verletzt sein durch die reine Herstellung (auf eigenem Rechner – mit einen Onlinedienst mag es anders aussehen), ohne dass das Ergebnis anderen zugänglich wird? Das Recht am eigenen Bilde greift eben erst bei einer Veröffentlichung/Verbreitung, das Persönlichkeitsrecht im Übrigen und die sexuelle Selbstbestimmung sind in diesem Fall mit einem fiktiven Generat (also ohne wirklichen Einblick in die Intimsphäre) aus meiner Sicht auch nicht betroffen.
Vernünftig erscheint mir hingegen der Wunsch, angemessene Straftatbestände gegen die Verbreitung von Deepfakes oder Aufnahmen in der Sauna einzuführen.
„Wenn man den Kommentatoren diese kleine Freude nehmen würde, geht der Gedanke weiter, könne man ja gleich anfangen, Fantasien zu verbieten. Tatütata, ruf doch die Gedankenpolizei.“
Bei einzelnen – meines Erachtens überschießenden – Forderungen nach Strafbarkeit habe ich tatsächlich den Verdacht, dass sie eigentlich in bemerkenswerter Rückschrittlichkeit auf eine moralistische Regulierung der Gedanken abzielen: Da man die Männer, die sexuelle Gedanken meist über Frauen ggf. auch ohne deren Zustimmung haben, ja nicht direkt dafür strafen kann, nimmt man stattdessen eben all das in den Blick, was als Ausdruck dieser Gedanken oder Hilfsmittel dafür angesehen werden kann.
Ja, bin ehrlich gesagt von der Redaktion enttäuscht, denn die reine Herstellung im Privaten verletzt meiner Meinung nach keine Rechte der Person. Ich denke das wird deutlich, wenn man weiter denkt als reine sexuelle Darstellungen (wenn es niemand mitbekommt – da Privat – weshalb begrenzt man es dann auf bestimmte Formen von Inhalten?).
Wenn man nicht weiter denkt als an sexuelle Darstellungen, dann wird es blöderweise nicht so deutlich. Und bei der ganzen Diskussion geht es um sexuelle Darstellungen.
Was soll die Ablenkung?
Es geht bei dem Gesetz nicht nur um sexuelle Darstellungen. Der Fokus darauf zeigt nur das es eine klassische Moralpanik ist. Die schlimmsten Deepfakes sind politische, welche ganze Kriege auslösen können nicht ob Peter nackt dargestellt wird.
Absoluter Witz das ganze hier.
„Sexualisierte Gewalt – analog oder in Form von digitalen Deepfakes – hat nichts mit Sex zu tun. Sondern sie handelt von Macht. Eine Person übt sie über eine andere Person aus, etwa indem sie ihr Gesicht ungefragt auf den Körper einer Pornodarstellerin montiert. Die im Übrigen auch nicht gefragt wurde.“
Ich zitiere das ganz, weil es den Nagel auf den Kopf trifft. Absolut korrekt! Was ich jedoch über den Rest des Artikels nicht unbedingt sagen kann. Zunächst, es ist gut und wichtig, den Sachverhalt so darzustellen, auch wenn ich vielleicht eine andere Meinung habe. Es ist wichtig, die Opferperspektive klar zu machen. Vielleicht wichtiger, als meine Meinung (selbst wenn die korrekt wäre).
Dennoch, wo ich anderer Meinung bin ist genau da, wo das gar nicht so passiert. Deep Fakes = digitale Vergewaltigung ist einfach nicht korrekt. Wir sollten zwischen pubertierenden Jugendlichen, Spinnern, Künstlern und Vergewaltigern und vielen anderen Gruppen und Motivationen unterscheiden.
Für mich ist klar, wenn auf dem Fake eine konkrete Person identifizierbar ist oder ein Bild ungefragt verwendet wird, so ist das no go. Gut, Dummheit schützt vor Strafe nicht! Aber es gibt eine Verhältnismäßigkeit.
Es braucht eine Auseinandersetzung mit dem Thema. Es braucht das Thema an Schulen. Verbieten und vergessen ist einfach indiskutabel. Und es braucht eine Verantwortung der KI-Anbieter, auch wenn eine KI da einfach nicht in der Lage ist, Entscheidungen zu treffen. Das ist aber das Problem der Anbieter und nicht meines.
Übrigens, aus Post auf eine Vorliebe oder Persönlichkeit zu schließen ist schon ganz schön dreist und übergriffig. Von mir aus kann openAI samt der meisten Anbieter einfach zugemacht werden, inkl. der Pornoseiten und vieler sozialer Netzwerke. Nur, „von mir aus“ trifft nicht für alle zu. „Alle“ haben auch Rechte. Über deren Motivation zu spekulieren, steht mir nicht zu.
Du schreibst richtigerweise „Es ist wichtig, die Opferperspektive klar zu machen. Vielleicht wichtiger, als meine Meinung.“, um dann doch die Perspektive von Fernandes wegzuwischen: „Deep Fakes = digitale Vergewaltigung ist einfach nicht korrekt“ obwohl sich Fernandes durch die mutmaßlichen Taten von Ulmen als „virtuell vergewaltigt“ empfand.
An der Stelle, die Du zitierst, heißt es sehr konkret „sexuelle Gewalt in Form von Deepfakes“.
Ansonsten spricht der Artikel fast durchgängig von „sexualisierten“ Deepfakes. Ich kann nirgendwo eine Textstelle finden, wo jegliche Deepfakes mit Vergewaltigung gleichgesetzt würden.
Also was genau soll der Einwurf?
Das Problem ist, dass hier eine Sau durch das Dorf getrieben wird und damit den Opfern keinen Gefallen getan wird. Die Diskussion hier zeigt, dass die Begriffe jetzt schon durcheinander gehen.
Noch einmal: Für mich ist klar, wenn auf dem Fake eine konkrete Person identifizierbar ist oder ein Bild ungefragt verwendet wird, so ist das no go. Da steht nicht, dass dies im stillen Kämmerchen okay wäre. Da steht nichts von Freiwilligkeit, um nicht noch ein Fass aufzumachen.
Ich würde, gerade weil Deep Fakes massives Leid provozieren können, rational vorgehen. Das erste, was man tun kann, ist die Betreiber in die Pflicht zu nehmen. Es gibt ein Persönlichkeitsrecht, es gibt Jugendschutz und das Recht am eigenen Bild, inkl Strafbestand. Wie wäre es mit Schadensersatzklagen? Wie wäre es, wenn sich Staatsanwälte darum kümmern müssen? Wie wäre es damit, Opfer ernstzunehmen und aktiv zu unterstützen? Doch die Behörden haben einfach nicht die Ahnung, während Politiker reden und Gesetze verschärfen, ohne dass sich was ändert. Es ist nicht einmal Geld für Frauenhäuser da.
Wir diskutieren über Vorratsdatenspeicherung, „Kreuzigungen“ der Täter und meinen „Merken sie denn nicht, wie empathielos und surreal ihre Haltung wirkt?“. Dann definiere bitte „ihre“! Vorwürfe sollten konkret sein.
Wer ist das? Warum geschieht das? Was tun die? Gibt es überhaupt „die“? Die Einsicht, die Sicht der Opfer klarzustellen ist schon man ein Anfang (und peinlich, dass es notwendig ist. Danke Chris!). Doch dann muss aus Einsicht Konsequenzen gezogen werden: da ist was falsch in unserer Gesellschaft. Was tun wir dagegen? … (Sorry, wird zu lang, aber die Brechstange ist der falsche Weg)
Ich sehe vor allem, das man im Zuge dieser extrem unappetitlichen Familienstreiterei Klarnamenpflicht und IP-Adressenspeicherpflicht durchdrücken will.
Das die Persönlichkeitsrechte anderer geachtet werden müssen, steht ausser Frage aber auch auf einem anderen Blatt.
Zumal ja in den nächsten Jahren mit CDU AfD Koalitionen zu rechnen ist und damit so eine Gesetzesänderung extrem schlecht für alle Linken wird.
Siehe die aktuelle Diskussion zur Zivilgesellschaft.
Genauso sehe ich das auch. Und deshalb ist die Richtung der aktuellen Debatte in meinen Augen brandgefährlich.
Wenn man gegen das Gesetz ist, dass da gerade debattiert wird, heißt das eben NICHT ZWANGSLÄUFIG, dass man einer von denen ist, die (sexualisierte) Deepfakes von anderen erstellen und verbreiten wollen.
Sondern es ist die Sorge über die Auswüchse, die dieses Gesetz vermutlich treiben wird.
Es wird im Zuge dieses Gesetzes ja jetzt schon VDS gefordert und wer weiß auf was für dumme Ideen die Politiker da noch kommen werden.
Es heißt nicht umsonst „Wo ein Trog steht…“
Irgendwie fühle ich mich bei der ganzen Debatte an die Chatkontrolle erinnert.
Da wurde auch permanent versucht, das Bild zu verbreiten, dass jeder der gegen Chatkontrolle ist, gegen Kinderschutz ist, um damit Kritiker zu diffarmieren.
Gefühlt dasselbe passiert gerade in der aktuellen Debatte.
Und dennoch ist dieser Versuch bei dem Thema genau dieselbe Lüge wie er bei der Chatkontrolle war.
Ich sehe vor allem, dass in Fragen von sexueller Gewalt, egal ob online oder offline, die alten extrem unappetitlichen Muster der Verharmlosung greifen.
Da wird sexuelle Gewalt, die Collien Fernandes erfährt, schnurps die wurps zur Familienstreiterei.
Digga! Familienstreit ist, wenn ich das Monopoly-Brett vom Tisch haue.
Selbstverständlich ist es kacke, wenn die Gespenster der Klarnamenpflicht und der Speicherung von IP-Adressen wieder aus der Mottenkiste gezaubert werden (in der sie ja, um mal ganz ehrlich zu sein, nie verschwunden waren).
Wenn ich von Friedrich Schutz verlange, aber von Stefanie eine dreimonatige IP-Adressenspeicherung bekomme und von Donald Sanktionen für HateAid –
ja schön blöde, dann hätte ich lieber mal die Klappe gehalten und die andere Wange hingehalten.
„Familienstreiterei“ ist aus folgenden zwei Gründen ein irreführender und verharmlosender Begriff.
1. Fernandes weist seit Jahren auf die darunterliegende strukturelle Problematik hin.
2. „Familienstreiterei“ impliziert es läge an beiden und weil es in der Familie passiert sei, wäre es ja nicht so schlimm. Tatsächlich hat jedoch ein Partner auf krasse Weise die Rechte des anderen Partners verletzt und dass die beiden seit vielen Jahren eine Partnerschaft haben und ein gemeinsames Kind, macht das Ganze aufgrund des massiven Vertrauensbruchs nur noch schlimmer.
Ich habe hier auf Netzpolitik schon mehr als einen Beitrag gelesen, wo es darum geht, das es zwingend notwendig ist Anonymität im Internet sicherzustellen, damit Transpersonen, Schwule, Lesben, diverse Minderheiten und politische Aktivisten nicht durch Offenlegung ihrer Identität an Leib und Leben gefährdet werden. Eine Aussage, die ich vollumfänglich teile.
Es soll mir mal einer erklären, wie das mit einer Verschärfung der Kontrolle des Internets, Zwecks Verfolgung von Persönlichkeitrechtsverletzern vereinbar sein soll. Da besteht ein nicht lösbarer Zielkonflikt.
Entweder das Eine oder das Andere. Es ist doch irgendwie eigenartig, das die CDU schon ein passendes Gesetz fertig aus der Schublade ziehen konnte.
Also nicht wundern, wenn dann plötzlich der eine oder andere Aktivist Briefe von der Staatsanwaltschaft bekommt, den Arbeitsplatz verliert oder ein Mobb vor der Tür steht (es sollte sich inzwischen rumgesprochen haben das solche Datensammlungen doch recht oft unautorisiert den Weg nach draußen finden), weil dem die Meinung oder Orientierung des Betreffenden nicht passt.
Und generell, auch im vorliegenden Fall gilt, warten wir doch erstmal ab, was die Ermittlungen der spanischen und der deutschen Staatsanwaltschaft ergeben.
Man stelle sich vor, Opa Heiner macht in seinem Kellerchen ein Deepfake von seinem Enkel Heimo. Und zufällig geraten diese Deepfakes aus dem Kellerchen ins Internet. Vielleicht hat der Opa Heiner das einem Vereinskumpel gezeigt, total harmlos … denkt sich der Opa, ich hab doch nur ein bissl herumfantasiert, ist doch nicht schlimm.
Kein halbwegs vernunftsbegabter Mensch würde da sagen: Ja, der Opa Heiner hat doch nur ein bissl mit der KI rum gespielt und halt ein paar Gewaltfantasien von seinem Enkel Heimo digital umgesetzt. Der Aufschrei wäre bis in alle anderen Kellerchen zu hören und wir hätten diese Diskussion schon lange nicht mehr. Wir hätten längst, wie in Spanien, gesetzliche Regelwerke und so schnell könnte Opa Heiner nicht schauen, hätte er ein echtes Problem.
Ein Kommentator schrieb hier: „Wir sollten zwischen pubertierenden Jugendlichen, Spinnern, Künstlern und Vergewaltigern und vielen anderen Gruppen und Motivationen unterscheiden.“
Für das Vergewaltigungsopfer macht es keinen Unterschied, von wem es in welcher Form vergewaltigt wurde.
Natürlich macht es das!
Solche beschriebenen fantasien passieren mit Sicherheit ständig. Waren es früher in den 70er die „FKK“ Heftchen, gab es später Manga oder auch entsprechendes Spielzeug für Menschen mit derartigen Neigungen. Diese Menschen existieren und man muss sie davon abhalten sich an echten Menschen zu vergreifen. Wenn man ihnen aber jede Fantasie nimmt, wird es sicher nicht weniger Opfer geben.
Ich kenne nicht die Gesetzteslage in Spanien, aber ist dort wirklich nicht erlaubt im „Keller“ KI Filme zu erstellen?
Ich glaube auch das der Eindruck vermittelt wurde, es wäre total einfach so was zu machen. Aber neben der komplexität eines Prompt für einen Film, steht auch der Anbieter dahinter. Es gibt keine KI, die völlig ohne Einschränkungen Inhalte produziert. (Da sind z.b. auch die Musikrechteinhaber gerade massiv am kämpfen)
Solche Einschränkungen gibt es auch z.b. für 3D Drucker, damit man keine Waffen drucken kann ohne das in den USA das waffenrecht verschärft wurde. Daher sollte es kein Problem sein die KI Produktion entsprechend zu ändern, ohne die Meinungsfreiheit einzuschränken.
Das ist korrekt, es macht keinen Unterschied. Genau deshalb forder ich, dass dieses Thema z.B in die Schulen kommt. Deep Fakes sind „nur“ die Spitze des Eisbergs. Es reicht nicht, „den Schuldigen“, das Internet gefunden zu haben und das Thema ist damit abgeschlossen. Wenn wir nicht an die Ursachen gehen, die Abläufe verstehen, objektiv handeln, dann war Feminismus für die Katz.
Die diskutierten Kommentare, ebenso wie einige hier drunter, zeigen vor allem die Armseligkeit des juridischen Bewusstseins: „Der Staat kann es mir nicht effektiv verbieten, also hat mir da niemand reinzureden.“ Wie abgestumpft muss man sein, um nicht begreifen zu wollen, wie kaputt eine solche Objektifizierung anderer Menschen durch Deepfakes ist? Ganz unabhängig davon, was der Staat da macht, verdient die – auch „rein private“ – Anfertigung und Verwendung von sexualisierten Deepfakes nichts weniger als soziale Ächtung und Ausgrenzung.
Ein anderes Thema: Ich halte die Trennung „sexualisierte Gewalt hat nichts mit Sex zu tun. Sondern sie handelt von Macht“ für verkürzt. Es gibt nicht einfach auf einer Seite den guten, unschuldigen Sex und auf der anderen Seite die sexlose Gewalt. Wenn sich das (auch sexuelle) Begehren vieler Männer über Eigentums- und Verfügungsansprüche konstituiert, muss das auch klar so benannt und problematisiert werden.
Das BVerfG erwartet von Gesetzen das diese das gewünschte Ziel „irgendwie“ erreichen können. Das ist beim Verbot der Herstellung unmöglich. Masturbation gehörr zum absolut geschützten Kernbereich und um zu wissen, ob jemand so etwas herstellt braucht es eine Massenüberwachung die tief in diesen Kernbereich eindringt. Im Gegensatz zu anderen Formen der Gewalt ist hier nämlich weder eine Besitzverschaffung, oder Herstellung im sozialen Gefilde nötig. Damit gibt es auch keinen Sozialbezug.
Ich hoffe das dieses Gesetz von Betroffenen angegriffen wird.
Das interessante finde ich ja das mittlerweile im Raum steht das es nie Deepfakes gegeben habe, sondern es sich um Darsteller handelte, die Fernandez nur ähnlich ausgesehen haben
Super Beispiel gegen so ein gesetzgeberischen Schnellschuss. Krass das ihr hier so Vollgas gegeben habt. Wirkt das im Nachgang nicht peinlich?
https://www.zeit.de/gesellschaft/zeitgeschehen/2026-03/ulmen-fernandes-vorwuerfe-sexualisierte-gewalt-klarstellung-anwalt
(1/4) Ich weiß, es ist ein Kommentar und nicht repräsentativ. Ungeachtet dessen hätte ich hier eine differenziertere Meinung zu dem Vorhaben erwartet, nicht mehr nur das Verbreiten von „KI“-Deepfakes unter Strafe zu stellen, wo eindeutig eine Persönlichkeitsrechtsverletzung gegeben ist, sondern schon das bloße Anfertigen, auch für den reinen Eigengebrauch, oder gar die Tools, die so etwas rein theoretisch können, ohne dass es tatsächlich zu einer reellen Rechtsgutsverletzung kommen muss, was nicht nur juristisch höchst problematisch, sondern auch technisch kaum möglich ist.
Ich habe noch nie ein „KI-Deepfake angefertigt, ich gucke nicht mal echte Pornos an, weil ich mich als jemand, dem Privatsphäre sehr wichtig ist, persönlich nicht wohl damit fühle, Menschen dabei zuzusehen, wie sie sich dermaßen vor der digitalen Öffentlichkeit entblößen, auch einvernehmlich (was oft genug zweifelhaft ist). Und trotzdem finde ich, dass jeder für sich, in seinem Schlafzimmer, so perversen Fantasien frönen darf, wie er will, solange dabei kein anderer Mensch zu Schaden kommt. Man muss es nicht gutheißen, aber man muss es aushalten – das zeichnet eine freiheitlich-demokratische Gesellschaft aus. Ein Deepfake allein dafür anzufertigen und es nicht weiterzugeben hat die gleiche Außenwirkung auf die Betroffenen und Dritte wie die bloßen Gedanken im Kopf – keine. Bzw. wenn das schon ausreicht, bei den Betroffenen psychische Schäden zu bewirken (worüber sie ja nur spekulieren können, solange es nicht öffentlich geworden ist), dann müsste das auch schon dadurch geschehen, dass sich jemand sexualisierte Fantasien von ihnen hat (wovon sie ebenfalls nichts wissen können, solange er das nicht irgendwie nach außen kommuniziert hat). Das „Gedankenpolizei“–Argument ist also juristisch betrachtet nicht von der Hand zu weisen.
Dateien sind keine Gedanken.
Dateien können heute weitergegeben werden. Oder in einer Woche. Oder in 50 Jahren. Und nicht nur freiwillig, sondern auch unfreiwillig.
Die Gleichsetzung verharmlost.
Das gesprochene Wort kann auch weitergegeben werden indem es zufällig aufgezeichnet wird (woraus dann eine Datei wird). Also sollte man auch Selbstgespräche im Privaten verbieten, wenn sie sexuelle Fantasien von Dritten beinhaltet? Bei der ganzen Technik die mittlerweile Mikrofone hat (selbst LED-Lampen) ist das also nicht unwahrscheinlich.
Falls du das Beispiel nicht passend findest: man kann auch Bilder generieren ohne das diese als Datei gespeichert werden, sondern sich immer als flüchtige Daten im RAM aufhalten.
(2/4) Ein technisches Verbot wäre gleich gar nicht zielführend, weil prinzipiell jede generative „KI“ dazu in der Lage ist, sexualisierte Deepfakes anzufertigen – außer es handelt sich um ein abgeschottetes, proprietäres, rein cloud-basiertes System. Damit würde man alle lokalen, selbst gehosteten Modelle killen und sich einmal mehr Big Tech ausliefern. Überdies geht das Anfertigen von Deepfakes auch ohne „KI“, es ist lediglich schwieriger und dauert länger. Sollen Photoshop, GIMP und Co. deshalb gleich auch auf die Verbotsliste? Wohl eher nicht.
Es ist auch nicht das erste Mal, dass nicht erst die tatsächliche Schadhandlung unter Strafe gestellt wird, sondern schon die „Vorstufe“ davon, etwas „Vergleichbares“ oder das Werkzeug, weil man den Handelnden pauschal die Absicht einer Verletzung von Rechtsgütern Dritter unterstellt. Ich verweise auf das Hackertoolverbot, bei dem von vornherein klar war, dass es nicht hilft, aber umso mehr Schaden anrichtet, was sich ja auch längst bewahrheitet hat. Oder schauen wir aufs Urheberrecht: Nicht nur das Verbreiten der Raupkopie ist strafbar, sondern schon das bloße Aushebeln des Kopierschutzes, auch rein für den Eigenbedarf, selbst wenn diese „Schwarzkopie“ nie das eigene Netzwerk verlässt und man lediglich aus gutem Grund verhindern will, dass der Rechteinhaber das, was man gekauft und bezahlt hat, willkürlich aus der Ferne wieder zurücknehmen bzw. unbrauchbar machen kann. Hat sich in der NP-Redaktion jemals irgendwer argumenativ auf die Seite der Contentindustrie geschlagen, die diese Paragraphen ins UrhG lobbyiert hat und ihre Schutzrechte mittlerweile regelmäßig missbraucht?
(3/4) Weiteres Beispiel, das näher am Thema ist: Kinderpornografie, wo in Deutschland neben „KI“-generierten, real wirkenden Darstellungen auch eindeutig fiktionale Werke strafbar sind, wie sie in Fernost in großem Umfang legal produziert werden – Herstellung, Verbreitung und Besitz. Auch dies ist juristisch nicht unumstritten, eben weil diese hier im Unterschied zu echten Aufnahmen kein reales Geschehen zeigen und es damit keine Missbrauchsopfer gibt. Dass jedes fiktionale oder „KI“-generierte Werk möglicherweise sogar zu weniger Verbreitung und Konsum echter Aufnahmen führen könnte, spielt dabei auch eine Rolle.
Tut mir leid, da ist mir die besonnenere Einschätzung eines Konstantin Grubwinkler um Einiges sympathischer, der zur Zurückhaltung mahnt, auf seine eigenen Erfahrungen mit der Verteidigung Angeklagter in Vergewaltigungsfällen verweist (mit dem klaren Hinweis, dass diese rein subjektiv und keine empirischen Daten seien), die überdies bereits bestehenden rechtlichen Möglichkeiten aufzeigt, und zu Recht warnt, dass Strafrechtsverschärfungen in solchen Situationen immer schnell beschlossen werden, aber so gut wie nie welche zurückgenommen werden, wenn sie sich als nicht zielführend oder sogar als kontraproduktiv erwiesen haben. Auch teile ich seine Auffassung, dass Begriffe wie „digitale Vergewaltigung“ die reellen Unterschiede zwischen virtuellen und physischen Übergriffen vernachlässigen und Letztere damit indirekt „runterspielen“.
(4/4) Was mich an dem Kommentar am meisten ärgert: Sehr viele Formulierungen lesen sich so, als ergäben sie mit ausgetauschten Subjekten und Objekten einen mustergültigen Rundumschlag z. B. pro Chatkontrolle. Aus Sicht deren Befürworter verteidigen die Kritiker auch alle bloß „ihr Recht, unerkannt Missbrauchsaufnahmen zu verbreiten“, sind empathielos, haben kein Bewusstsein für digitale Gewalt etc.. Nun kann ich mir durchaus vorstellen, dass viele Einsendungen, welche die Autorin bzw. die Redaktion so zu lesen bekommt, weitaus feindseliger und mit klar frauenverachtendem Unterton formuliert sind. Dass sie sich hat zu einer Antwort wie dieser hinreißen lassen, finde ich dennoch unglücklich. Ihr könnt nicht im Namen der „guten Sache“ Verbote und Strafrechtsverschärfungen fordern, an deren Wirkung oder Verhältnismäßigkeit es durchaus berechtigte Zweifel gibt, und dann so tun, als sei nichts gewesen.
Als Mann mag ich naturgemäß überproportional weniger von sexualisierter Gewalt betroffen sein als die meisten Frauen und werde daher auch das, was sie durchmachen, nie wirklich nachvollziehen können, aber von Gewalt, auch digitaler, bin ich genauso betroffen. (Überdies ist es in unserer Gesellschaft genauso immer noch üblich, dass auch Mädchen und Frauen das Aussehen von Jungen und Männern bewerten und kommentieren – und das mitunter verletzender, als frau bereit ist, zu reflektieren –, aber nur die umgekehrte Konstellation wird hier als Problem dargestellt.) Trotzdem bin ich deshalb nicht mit Maßnahmen einverstanden, welche die verfassungsmäßigen Kriterien an die Verhältnismäßigkeit nicht erfüllen und damit nicht in einen freiheitlich-demokratischen Rechtsstaat passen – selbst wenn sie prinzipiell geeignet wären, diese Gewalt zu bekämpfen.
Ich schätze deine Kommentare sehr aber die Realität ist leider seit einiger Zeit eine andere. Es braucht für Strafgesetze – so zumindest der Trend – keine Rechtsgutverletzungen mehr. Bist du dir sicher das deine Worte in der Politik auf Verständnis stoßen würde, wenn diese Menschen entgegen sämtlicher Sachverständigen bereits reine Fantasien im Privaten unter Strafe stellen (§184l StGB)? Dort ging es noch nicht einmal um reale Menschen.
Persönlich nehme ich diese Debatte daher durchaus anders wahr, denn die Existenz des o. G. Paragraphen zeigt das Hauptargument v. „Persönlichkeitsrechtsverletzungen“ für Verbote keine Rolle spielen muss. Mit so einer Präzedenz kann man fast alles verbieten.
Der Artikel selbst verlinkt hinsichtlich der „berechtigten Zweifel“ doch auf LTO. An welcher Stelle fordert der Text Strafrechtsverschärfungen?
Es geht von Anfang bis Ende ausschließlich um die Toxizität der Kommentare, die bei der Debatte, „ob [!] es strafbar sein sollte“, an die Oberfläche gespült werden.
Hanswilhelm Haefs sagte, dass es nicht möglich sei, die Würde eines Menschen zu beschädigen, ohne Schaden an der eigenen zu nehmen.
Leider ist diese Erkenntnis wenig verbreitet.
Das allein würde schon reichen, um einzusehen, dass auch das einverständnislose „private“ Erstellen sexualisierter oder anders diskriminierender Deepfakes eine Entwürdigung darstellt.
Wenn ein Wesen das nicht einsieht, muss es ihm halt verboten werden.
Mir scheint allerdings, dass noch ein weiter Weg vor uns liegt, wenn ich sehe, dass ganz selbstverständlich Männer mit „Herr“ und Frauen mit „Frau“ angesprochen werden.
Alltäglicher Sexismus, unbedarft weitergetragen.
Da ich über niemanden herrsche, möchte ich auch nicht so angesprochen werden.
Die Reaktionen darauf – vor allem aus der öffentlichen Verwaltung – drücken manchmal Perpetierungen genau der beschrieben Machtansprüche aus.
Dieser Gedankengang fuehrt dann direkt zum Szenario von „Brave New World“. Da wollen halt nur sehr wenige hin…
Möchtest du der Regierung so viel Macht geben das sie bis in dein tiefstes eindringen können?
Ich höre mittlerweile schon Stimmen, die ein Verbot von Gedanken fordern, da auch Fantasien im Kopf meist ohne Einverständnis der Betroffenen passieren.
Gedanken kann man mittlerweile „lesen“ und visualisieren. Wieso sollte man also nicht auf das Generieren davon unterbinden? Es geht hier nicht darum sowas zu verteidigen, sondern gewisse Grenzen zu setzen, denn der Weg zum Gedankenverbot ist nicht (mehr) weit.
https://www.forbes.com/councils/forbesbusinesscouncil/2026/03/23/the-brain-is-the-next-platform-but-many-executives-arent-ready/
Was mich an der Debatte am Meisten stört: vor lauter digitalisierter Gewalt ist die ganz reale sexuelle Gewalt, die tagtäglich Menschen, zu 98% Frauen, erleben, fast vergessen.
Allein in Berlin sind pro Jahr fast 43.000 Frauen Opfer gewalttätiger Übergriffe, das sind 118 am Tag. Trotzdem werden die Mittel für Schutzprojekte, so Frauenhäuser gekürzt und Schutzsuchende müssen abgewiesen werden.
Ginge es hier nicht um Prominente, sondern um irgendeine Betroffene, die Opfer eines realen oder digitalen Übergriffes geworden wäre, kaum jemand hätte ein Haar gekrümt. Allein das ist auch ein Zeichen gesellschaftlicher Realität.
Was uns zum unappetitlichen Punkt führt: wie oft bei solchen „Promis“ muss sich das „Grauen, das Fernandes‘ Geschichte offenbart“ erst noch wirklich untermauert werden. Bisher sind es Anschuldigungen.
Es wäre nicht das erste Mal, das am Ende hier kein neuer Fall Weinstein oder Epstein steht, sondern ein möglicherweise ein absurder Ehekrieg, wie im Fall Johnny Depp gegen Amber Hart. Wo beide wegen schweren Missbrauchsvorwürfen verurteilt wurden.
Die Debatte über das ganze und die Forderung auch nur das private Anfertigen von (sexualisierten) Deepfakes unter Strafe zu stellen ist erstmal eine Sache. Eine ganz andere Sache ist aber, die Frage nach der Umsetzung davon und den sich daraus ergebenden Konsequenzen.
Gerade bei lokalen LLMs. Wie soll das funktionieren ohne entweder
a) lokale LLMs zu verbieten oder
b) den In- und Output der lokalen LLMs auch zentral zu überwachen, so wie es bei den großen Anbietern der Fall ist, womit sich der Sinn lokaler LLMs im Grunde erübrigt hätte oder
c) als Input zwar noch Multimodalität zuzulassen, aber als Output nur Text?
Ob jetzt sexualisiert oder nicht – letztlich kann aus jedem öffentlich geteilten audiovisuellen Inhalt ein Deepfake werden.
Die Forderung Mord unter Strafe zu stellen ist erstmal eine Sache. Eine ganz andere Sache ist aber, die Frage nach der Umsetzung davon und den sich daraus ergebenden Konsequenzen.
Gerade bei Haushaltswaren. Wie soll das funktionieren ohne
a) Küchenmesser und
b) Wäscheleinen und
c) Müllsäcke zu verbeiten?
Ob jetzt scharfkantig oder nicht – letztlich kann aus jedem möglichen Gegenstand eine Mordwaffe werden.
Das Beispiel trifft im Grunde genau die selbe Problematik.
Wenn wir alles verbieten, womit theoretisch Böses begangen werden KANN, müssten wir gefühlt wieder in Höhlen leben…
Nachtrag:
Das einzige was es ohne massive Zensur sämtlicher KI-Tools oder einem Verbot von KI-Toos, die audiovisuelle Inhalte erzeugen können, letztendlich bewirken kann, ist Abschreckung vor einer möglichen Strafe. Mehr aber auch nicht.
Nichts anderes ist es in Ihrem Beispiel mit den Haushaltswaren.
Naja, ein Vergleich wäre das Waffengesetz.
Beispiel:
– Allgemeine 3D-Modellierungssoftware keine Waffe.
– Deepfakegenerator Waffe.
Passt natürlich nicht ganz, denn was stimmte jemals schon an „Gesetze im Digitalen wie im Analogen“. Die Frage, was wir eigentlich wollen, soll möglichst gar nicht erst diskutiert werden.
Gewisse Fantasien werden ja schon selbst in absoluter Privatheit bestraft, also ist der Zug schon lange abgefahren. Wo wart ihr da? Warum ausgerechnet bei der Verletzung von Persönlichkeitsrechten, wo es um reale Menschen und Schicksale geht so ein Aufstand gemacht wird verstehe ich nicht. Plötzlich kommen die Verteidiger der Gedankenverbote gekrochen. Kannste nicht ernst nehmen.
Viele Innenpolitiker werden am Ende dieser Sache dastehen und sich fragen, warum sie bei der Durchsetzung von generalpräventiven Maßnahmen nicht schon viel früher auf die Kampagnenfähigkeit des Netzfeminismus gesetzt haben. Hätten die schon eher verstanden, dass es so einfach ist, die zivilgesellschaftliche Opposition gegen staatliche Übergriffigkeit zu spalten, hätten wir wohl schon seit #aufschrei die VDS…
Ich stelle ab sofort alle meine Spenden an Euch ein. War eine gute Zeit, aber der Umgang mit dieser Thematik ist einfach nur erschreckend und Eurer Historie unwürdig. Dieser Artikel ist mit Abstand der schlechteste den ich hier seit langem gelesen habe. Ja, ja wir alten Hasen werden durch neue Spender sowieso ersetzt.
Hier auch nochmal eine Kritik:
https://www.lto.de/recht/meinung/m/reform-des-sexualstrafrechts-gesetzentwurf-deepfakes-falscher-ansatz-fernandes-ulmen-debatte-kommentar
Geht’s konkreter mit der Kritik?
Ansonsten würde ich als (fake!) Ex-Internettroll auf
„Ja, ja wir alten Hasen werden durch neue Spender sowieso ersetzt.“
Antworten: „Nein, nein, ihr werdet durch sexualisierte Deepfakes ersetzt. Was kost‘ die Welt?“
Ich würde bzgl. des Ansatzes einen Schritt weiterdenken: KI-Systeme ersetzen bereits in ruinöser Weise Gedanken und Gedankenprozesse. Das kann z.T. in der Theorie behoben werden, allerdings müssen wir feststellen, dass das Bildungssystem im Wesentlichen konsistent nicht liefert. Die Gesetzgebung diesbezüglich auch nicht. Nicht nur in diesem Land. Ein Kantersieg der kommunistischen Techbrazzos. Was nun folgt ist, dass Menschen beginnen, diese Systeme in der Arbeit nutzen zu müssen. Wollen sicherlich, was auch immer, aber vor allem müssen. Wenn also KI integraler Teil des Gedankenprozesses und der Vorstellung selbst wird, kann man dann Deepfakes überhaupt noch verbieten?
Die andere Frage ist, ob man dann noch Menschen braucht, immerhin denkt es sich dann ja quasi von selbst…