Deepfakes in SpanienGefälschte Nacktbilder von Mädchen sorgen für Aufschrei

In Spanien berichten zahlreiche Mädchen, dass KI-generierte Nacktfotos von ihnen in der Schule zirkulieren. Der Fall wird jetzt zum nationalen Skandal – weil die Mütter der Betroffenen sich organisiert haben, um gegen die verantwortlichen Mitschüler vorzugehen.

Frau mit dunkler Brille und langen dunklen Haaren schaut jemanden an, der nicht im Bild ist
Miriam Al Adib und die Mütter der betroffenen Mädchen von Almendralejo gehen an die Öffentlichkeit. – Alle Rechte vorbehalten Screenshot TV Extremadura

Nacktbilder, die von Telefon zu Telefon geschickt werden. Mehr als 20 Mädchen, die betroffen sind, die jüngste erst elf Jahre alt. In Spanien sorgt dieser Fall aus dem kleinen Ort Almendralejo mit seinen 30.000 Einwohnern derzeit für einen nationalen Skandal. Am Montag war die Mutter eines der betroffenen Mädchen – die Gynäkologin Miriam Al Adib – mit dem Fall an die Öffentlichkeit gegangen. Ihr Instagram-Kanal hat mehr als 130.000 Follower, das Video wurde hundertausendfach gesehen. Innerhalb weniger Tagen ist der Fall zu einem nationalen Eklat geworden. Die spanische Datenschutzbehörde hat sich eingeschaltet, ebenso die konservative Vorsitzende der Regionalregierung, sogar die spanische Justizministerin hat sich geäußert.

Von Tag zu Tag melden sich seitdem weitere Betroffene, derzeit sind es laut El Pais 22 Mädchen im Alter zwischen elf und 17 Jahren, deren Eltern Anzeige erstattet haben. Die örtliche Polizei hat inzwischen zehn Tatverdächtige identifiziert, teilte sie gestern mit. Es sind Mitschüler und Bekannte der Mädchen, alle selbst noch minderjährig. Nun diskutiert das Land, welche Strafen ihnen drohen und ob das Justizsystem überhaupt für einen solchen Fall gerüstet sei.

Bekannte Gewalt, ungekannte Aufmerksamkeit

Denn die Bilder, die die Jugendlichen laut Berichten in WhatsApp-Gruppen untereinander geteilt hatten, sind Fälschungen. Erstellt haben die Täter sie mit einer Webseite, die offen im Internet zugänglich ist – das Logo sei auf einigen der Bilder zu sehen gewesen, schreibt die spanische Zeitung El País. Sie mussten dazu lediglich Fotos der Mädchen hochladen, auf denen diese bekleidet sind. Wenige Sekunden später produziert die Seite ein manipuliertes Bild, auf dem es wirkt als seien die Mädchen nackt.

Deepnudes werden solche Bilder genannt, eine Wortschöpfung aus Deepfake und dem englischen Wort für Nacktbild. Im Internet gibt es zahlreiche Seiten und Apps, mit denen sie sich kostenlos erstellen lassen. In eigens dafür eingerichteten Foren diskutieren Nutzer, wie man die besten Ergebnisse erzielt. Die Bilder sehen inzwischen oft täuschend echt aus. „Würde ich nicht den Körper meiner Tochter kennen“, sagte auch Miriam Al Adib, „dieses Foto wirkte echt.“

Ihr Partner, der Vater des 14-Jährigen Mädchens, berichtet gegenüber der Online-Zeitung El Español, dass die Bilder im Ort bereits seit Juni zirkulierten – die betroffenen Mädchen hätten sich jedoch aus Angst nicht gemeldet. Miriam Al Adib und andere Mütter haben das jetzt geändert. Das macht den Fall auch über Spanien hinaus bemerkenswert, weil es oft an Gegenwehr, Solidarität und Öffentlichkeit fehlt.

Deepfakes vor allem pornografisch

Das Phänomen der gefälschten Nacktbilder ist nicht neu. Die dahinter stehende Technologie hat in den vergangenen Jahren allerdings rasante Sprünge gemacht. Brauchte man vor einigen Jahren noch viel Rechenleistung und einiges technisches Können, um glaubhafte Ergebnisse zu erzielen, bieten heute zahllose dubiose Anbieter im Netz ihre Dienste an – ein Klick und ein paar Euro genügen.

Seitdem betreffen sexualisierte Deepfakes nicht nur Schauspielerinnen und Politikerinnen, sondern auch ganz normale Privatpersonen. Eine Analyse aus dem Jahr 2019 kam damals schon zu dem Ergebnis, dass mehr als 95 Prozent der existierenden Deepfakes nicht-einvernehmliche Pornografie sei. Laut einer Studie aus Großbritannien, Australien und Neuseeland waren bei etwa jedem dritten Fall die Bilder digital manipuliert worden.

Meist verschleiern die Anbieter, wer hinter den Diensten steckt. So auch im Fall der Seite, die in Almendralejo anscheinend den jugendlichen Tätern gute Dienste leistete. Die Domain ist in den USA registriert, ihre Identität halten die Betreiber versteckt. Ein lapidarer Satz steht auf ihrer Webseite: „We do not take any responsibility for images created using the website.“ Verantwortlich für die Bilder seien lediglich diejenigen, die sie erstellen.

Ein Update zu digitaler Gewalt

„Habt keine Angst, schämt euch nicht“

Fachleute nennen solche Bilder bildbasierte Gewalt. Denn neben „Spaß“ geben viele Täter an, dass sie mit den Bildern Frauen und Mädchen beschämen wollten. Betroffen sind überwiegend Mädchen und Frauen oder queere Personen. Bislang waren sie mit der Scham und Demütigung weitgehend allein. In Deutschland sind erst vereinzelt Fälle bekannt geworden – etwa von Influencer:innen. Studien gibt es hierzulande nicht, das kritisierte kürzlich der Deutsche Juristinnenbund in einem Positionspapier. Betroffene berichten, Strafverfolgungsbehörden wüssten oft nicht mit den Fällen umzugehen, Täter werden nur selten ermittelt und müssen selten Konsequenzen fürchten.

Auch deswegen lässt der Fall aus Spanien aufhorchen. Die Mütter der Mädchen haben es geschafft die Fälle binnen weniger Tage auf die nationale Ebene zu bringen. Medien berichten in Dauerschleife. Die nationale Datenschutzaufsicht hat sich eingeschaltet. Sie weist nicht nur auf Wege hin, wie Betroffene die Bilder melden können, um sie aus dem Internet entfernen zu lassen. Sie macht auch klar, dass hohe Strafen drohen – selbst im Fall von minderjährigen Tätern. Sind sie zwischen 14 und 18 Jahre alt, würden ihre Eltern belangt werden, erklärte die Behördenleiterin Mar España.

Das zehn Minuten lange Video von Miriam Al Adib hat mutmaßlich für ein Momentum gesorgt, das es unmöglich gemacht hat, die Fälle klein zu halten. Vor allem hat sie die Schuldlogik ausgehebelt: Nicht die betroffenen Mädchen sollten sich schämen, sagte sie, sondern die Täter. „Mädchen, habt keine Angst, solche Taten anzuprangern, sagt es euren Müttern“, hatte sie am Montag im Begleittext zu ihrem Video geschrieben. Und in einem späteren Post: „Habt keine Angst, schämt euch nicht, fühlt euch nicht schuldig. Wir unterstützen euch als ganze Gesellschaft, bedingungslos.“

Großer Abschreckungseffekt

Auf Fernsehaufnahmen aus dem Ort ist zu sehen, wie die Mütter interviews geben, sich untereinander austauschen. Die Ermittlung gegen die Jugendlichen ist weiterhin offen, sagt die Polizei.

Während erwachsenen Täter:innen für die Verbreitung so genannter Kinderpornografie in Spanien bis zu fünf Jahre Gefängnis drohen, wird für die zwischen zwölf und vierzehn Jahre alten Täter das Jugendstrafrecht gelten. Der Abschreckungseffekt aber dürfte riesig sein, denn die Jugendlichen werden womöglich der Schule verwiesen, in Erziehungsmaßnahmen gesteckt und ihre Eltern werden hohe Geldstrafen zahlen müssen. Dazu kommt, dass das ganze Land nun über sie spricht – und sich mit den Mädchen solidarisiert. Das macht den Fall jetzt schon einzigartig.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

18 Ergänzungen

  1. Vielleicht ist es ja an der Zeit, Nacktheit als Normalzustand zu akzeptieren. Da war die DDR schon weiter.

    Nur so können wir den Pseudo-Moralaposteln den Wind aus den Segeln nehmen. Wer sich nicht zurückhalten kann, ist schuld. Nicht Menschen die irgendwie aussehen, egal wie sie aussehen.

    1. Vielleicht sollte jeder Person selbst entscheiden, ob und wie sie im Internet dargestellt werden will.

      Es geht hier ja nicht um Nacktheit, sondern um Gewalt gegen Minderjährige – wie es im Artikel ja deutlich angesprochen wird.

      1. Ja, schoen waers. Ist aber nicht moeglich und fuehrt wieder zu ueberzogenen Ueberwachungsgesetzen.
        Man braucht einfach MEHR von den Deepfakes, dann ist das irgendwann so fad, dass jeder nur noch mit den Schultern zuckt und keiner sich angegriffen fuehlt.

      2. Es gibt einen großen Unterschied zwischen Nacktheit am FKK Strand zum Beispiel, und pornographischen Fotos die gegen den eigenen Willen hergestellt und dann im Internet verbreitet werden.

        Man muss sich nur mal vorstellen, täglich in die Schule oder auf Arbeit zu kommen, wo sich die Mitschüler/ Kollegen über pornografische Fotos oder sogar Videos von einem amüsieren.

        Das ist nicht nur ein kleiner Spaß, sondern gehört eindeutig in die Kategorie sexualisierte Gewalt und sollte ordentlich bestraft werden.

  2. Mir fällt es ehrlich gesagt schwer solche Täter zu verstehen. Natürlich ist es für Menschen, welche sich bereits vorher an Erpressungen beteiligten, sehr lukrativ die Technologie so zu missbrauchen. Anderen widerum mag es erst dazu verleiten solche Taten zu begehen, da es noch nie so einfach war.

    Auch wenn es sich nicht um reale Abbildungen handelt, so wurde hier eine reale Person als Vorlage genommen, um ihr eben bewusst zu Schaden. Die spanische Justiz kennt hier lediglich bei rein fiktiven, welche auch als solche erkennbar sind, eine Ausnahme.

    Das fällt ganz klar nicht da rein und sollte bestraft werden. Wie man das Problem aber dauerhaft und präventiv lösen will ist mir nicht bekannt.

  3. Bitte das Gendern hier nicht vergessen. Es könnten auch Täterinnen dahinter stecken. Dieses „Mädchen gut, Jungs böse“ weckt schlechte Erinnerungen an die Schulzeit und ist naiv af. Die schlimmsten Mobber bei uns waren weiblich, nur so als Beispiel. Warum sollten solche Unmenschen nicht auch ihren Mitschülerinnen schaden wollen?

    1. Theoretisch ja, In diesem Fall sind aber bislang ausschließlich Jungen ermittelt worden. Das Gendern wäre in diesem Zusammenhang also schlicht falsch, das generische Maskulinum ausnahmsweise richtig.

      1. Aber es koennte ja sein dass sich diese #jungen# als Frau fuehlen. Also Gendern waehre schon wichtig hier. Selbst wenn es in diesem fall nur jungen waren. Es waehre auch moeglich das Frauen deapfakes erstellen.

      2. Hoffen wir, dass aus der Konstellation dieser Fälle möglichst wenig Vorurteile generalisiert werden.

        Es gibt sicher auch Fälle in denen die Opfer nicht weiblich und/oder die Täter nicht männlich sind. Diese werden bei diesem Eklat nur wohl nicht sichtbar werden.

        Das maskulinum ist nicht generisch, wenn explizit ausschließlich männliche Personen gemeint sind.

    2. Schon bezeichnend, wie hier knallhart von Tätern gesprochen wird und man es gutheißt, daß sie an den Pranger kommen! Wir reden hier von 12- bis 14-jährigen Jungs. Das sind auch Kinder! Aber gut, man kann ihnen schon mal das ganze Leben versauen und die Familien zum Umzug zwingen wegen einer jugendlichen Dummheit!

      Überrascht es irgendjemand, daß Jungs in dem Alter das spannend finden? Ist davon auszugehen, daß sie charakterstarke Persönlichkeiten sind, die das in vollem Bewußtsein und um zu Schaden getan haben? Wohl eher nicht! Es werden also weitere Opfer produziert, weitere Kinder/ Jugendliche traumatisiert und geschädigt. Glückwunsch!

      Das eigentliche Problem sind Eltern, die ihren Kindern nicht die nötigen Werte vermitteln und sie völlig unkontrolliert in einer Erwachsenenwelt (das Internet) spielen lassen!

      „Der Abschreckungseffekt aber dürfte riesig sein, denn die Jugendlichen werden womöglich der Schule verwiesen, in Erziehungsmaßnahmen gesteckt und ihre Eltern werden hohe Geldstrafen zahlen müssen. Dazu kommt, dass das ganze Land nun über sie spricht…“

      PS: In der vor digitalen Zeit gab es das auch schon, nur eben nicht so technisch ausgefeilt: Eindeutige Zeichnungen an Klowänden mit Namen beschriftet: „Martina hat dicke Dinger“, „Das ist Frau Bauer“, „Annett bläst jeden hinter der Turnhalle“. Pubertärer Müll halt.
      Wenn ihr schon denkt es wäre sinnvoll, Zehnjährige mit Handys auszustatten, dann kommt wenigstens eurer Kontroll und Aufsichtspflicht als Eltern nach!

  4. Erinnert mich ein wenig an eine Situation, die mir in der Oberstufe damals passiert war: Habe ein gephotoshoptes Bild unter die Nase bekommen, wo auf einem pornographischen Bild mit zwei Männern mein Gesicht und die unseres Mathelehrers waren. Und der Täter hatte keine Hemmungen, mir das selber zu zeigen…

    Konnte aber eigentlich garnicht lange verärgert sein, sondern dann nur den Kopf darüber schütteln, wie jemand für so’n dämliches Bild so viel Zeit aufwenden kann. Und war erstaunt, dass jemand auf so eine pubertäre Idee noch in der Oberstufe kommen kann. Vermutlich, war da der Grund, dass er selber keine Anerkennung, auch nicht von seinen Eltern, bekam und dann nicht damit umgehen konnte, dass andere aber Anerkennung bekommen. Das war dann aber auch die letzte (aber nicht einzige) Situation, in der ich dann noch Mobbing in der Schule erfahren hatte.

    Mag mir aber nicht vorstellen, wie das ist, wenn solche gefakten Bilder tagtäglich kursieren – das muss doch ein Gefühl der Ohnmacht auslösen. Das ist eine dauerhafte psychische Belastung, starkes Mobbing. Und das dann evtl. in einem Alter, wo man eh erst selber mit seinem neuen Körper erstmal klarkommen muss. Und evtl. ist bei Mädchen in der Regel bei sowas das negative Gefühl und die Gesamtsituation dann noch schlimmer? (aber kann den Teil schwierig selber beurteilen)

  5. Ach ja, und an diese Arte-Doku aus diesem Jahr musste ich auch noch denken, die einige krasse Mobbing Fälle in Spanien, aber auch die Gesamtsituation/-problematik sehr gut beleuchtet (hoffe das passt hier noch thematisch drunter? Ist nicht ganz einfach, die Doku. Aber denke es ist trotzdem sehr wichtig zu dem Thema aufzuklären und zu informieren): „Der Horror im Klassenzimmer | ARTE Re:“ -> https://www.youtube.com/watch?v=IrtFLMObQww

  6. Auf der anderen Seite erlaubt die Technologie jetzt „plausible deniability“. Jede/r kann sich jetzt hinstellen und erst mal behaupten, da hat jemand Deepnudes erzeugen lassen.

    Ich finde die Reaktion der Gesellschaft auf jeden Fall gut. Sich vor die Opfer stellen und ermutigen was zu sagen. Das wäre in sooooo viel mehr Gesellschaftlichen Bereichen notwendig.

    1. Man sollte die Technologie noch breiter ausrollen:
      – Fotokabinen, wo man auswählen kann, wie man gedeepfaked werden will
      – Apps die das direkt als Filter ermöglichen
      – Einfach überall!!!

      Erst dann interessiert das niemanden mehr. Wenn man das herauszögert, verlängert man nur das leiden der jetzt noch (zu) wenigen Opfer. Die Omnipräsenz der Technologie ist unvermeidbar. Man muss dafür sorgen, dass sie sich schnell abnutzt.

    2. Selbst wenn die gesamte Gesellschaft glaubt, die Bilder sehen fake, die betroffene Person leidet leider weiter an der Wahrheit. Es dürfte auch nichts daran ändern wie schnell und weit sich die Bilder verbreiten. Im schlimmsten Fall verbreiten sie sich weiter: „Sind ja fake und tun niemandem weh“.

  7. Das wahre Dilemma ist, niemand kann verhindern, wenn normale oder sogar heimlich aufgenommene Bilder für Nackt-Deepfakes verwendet werden und plötzlich in privaten Chatgruppen oder den sogenannten sozialen Medien zirkulieren. Es ist auch schwer zu ertragen, wie letztes Jahr in Freudenberg/Siegen, Minderjährige ein anderes minderjähriges Mädchen ermordeten und strafunmündig geblieben sind.

    Es gibt diese Grenzbereiche, wo ein Staat oder ein Gesetz nichts erreichen können wird.

  8. Könnte einen positiven Effekt haben. Das Internet vergisst nicht könnte so dem Internet ist ja sowieso nicht zu glauben, ist ja alles KI, werden. Dann wäre sogar eine Racheporn zahnlos.

    Ich denke ich würde den Zustand bevorzugen.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.