Schlagwort: deepfakes

Verschiedene Metallteile auf einem Haufen, z. B. Zahnräder

Deepfake-Verbot, Online-Alterskontrollen und Registermodernisierung haben eines gemeinsam: Es fehlt der Blick aufs Ganze. Eine Kolumne und ein Appell für einen differenzierteren und systemischen Blick auf Probleme und vermeintliche Lösungen.

Mann im Anzug bekommt Mikto vors Gesicht gehalten

Ein neues Tool von OpenAI soll erkennen können, ob ein Bild echt ist oder mit dem Bildgenerator DALL-E erstellt wurde. Etwas ähnliches hat das gehypte Unternehmen bereits für seine KI-generierten Texte versprochen – und ist daran gescheitert.

Angeblich virtuelle Influencer:innen wollen Menschen mit sexy Videos auf Bezahlseiten locken. Virtuell ist aber offenbar nur das Gesicht, wie die Recherche eines US-Mediums zeigt – die Grundlage sind reale Aufnahmen von Models, die einem solchen Gesichtertausch nicht zugestimmt haben.

Marco Buschmann und eine WOW-Sprechblase

Die EU hat sich jüngst auf eine KI-Verordnung geeinigt, inklusive Kennzeichnungspflichten für Deepfakes. Offenbar haben das Dutzende deutsche Nachrichtenmedien nicht mitbekommen, denn sie verkaufen das Thema gerade als „Forderung“ des Justizministers. Ein Facepalm.

Illustration zeigt einen Wächter, der neben einem Bildschirm steht

Für drei Pornoplattformen gelten künftig ähnlich strikte Auflagen in der EU wie für Facebook, TikTok oder Google. Sie müssen etwa Straftaten melden und öffentlich über ihre Maßnahmen Bericht erstatten. Das neue Gesetz soll Grundrechte schützen – könnte Nutzer:innen aber in einem Punkt auch massiv schaden. Der Überblick.

Deepfakes, zu Geld gemachte Desinformation und groß angelegte Manipulationskampagnen im Netz: Mit einem Maßnahmenbündel bereitet sich die EU-Kommission auf das Superwahljahr 2024 vor. Ob sich sehr große Online-Dienste wie X daran halten werden, bleibt vorerst offen.

Eine weiße Wand, an der zahlreiche Werkzeuge hängen

Eine Studie der Mozilla Foundation geht der Frage nach, wie sich KI-generierte Inhalte kennzeichnen lassen. Eine einfache Lösung sehen die Forschenden nicht. Vielmehr brauche es einen breiten Lösungsansatz.

Twitter und Microsoft stehen in der Kritik: Über Musks Plattform gingen gefälschte Nacktbilder von Taylor Swift viral, die offenbar mit einem Microsoft-Dienst erstellt worden waren. Verantwortung wollen die Konzerne aber nicht übernehmen. Ein Kommentar.

Mann mit Brille in dunklem Anzug am Rednerpult

Es begann als ambitioniertes Vorhaben der EU-Kommission gegen sexualisierte Gewalt. Bei den heutigen Trilog-Verhandlungen droht jedoch ein Debakel. Ausgerechnet Deutschland blockiert eine europaweite Regelung gegen Vergewaltigung. Und der Rat möchte den besseren Schutz vor bildbasierter Gewalt und Deepfakes verwässern.

Die Bundesregierung hat das Deepfake-Video vom Zentrum für Politische Schönheit jetzt auch auf YouTube löschen lassen. Sie beruft sich dabei auf das dafür eigentlich nicht vorgesehene Urheberrecht. Die Künstler sprechen von Zensur und kündigen rechtliche Schritte gegen die Bundesregierung an.

Frau mit dunkler Brille und langen dunklen Haaren schaut jemanden an, der nicht im Bild ist

In Spanien berichten zahlreiche Mädchen, dass KI-generierte Nacktfotos von ihnen in der Schule zirkulieren. Der Fall wird jetzt zum nationalen Skandal – weil die Mütter der Betroffenen sich organisiert haben, um gegen die verantwortlichen Mitschüler vorzugehen.

Illustration einer Frau mit Handy, umgeben von Sprechblasen, ich interpretiere ihren Gesichtsausdruck als besorgt

Die EU will Betroffene von digitaler und häuslicher Gewalt stärken – etwa mit einem Verbot bildbasierter Gewalt und mehr Hilfsangeboten. Zwist gibt es bei der Definition vor Vergewaltigung und der Kriminalisierung von Sexarbeit.

Software erkennt biometrische Merkmale von Gesichtern, HateAid warnt vor Deepfake-Pornos

Mit wenigen Klicks lassen sich beliebige Gesichter in Pornos montieren. Im September zeigte eine Recherche von netzpolitik.org und dem SPIEGEL: Auch populäre Smartphone-Apps machen solche Deepfake-Pornos möglich. Jetzt gibt es eine Petition zum Schutz von Betroffenen.

Gesichter tauschen mit populären Smartphone-Apps

Ein Foto genügt, um ein fremdes Gesicht per Deepfake in einen Porno zu montieren. Unsere Recherche mit dem SPIEGEL zeigt: Auch mit populären Smartphone-Apps lassen sich innerhalb von Sekunden sexualisierte Deepfakes erstellen. Passende Videovorlagen finden Nutzer:innen direkt in den Apps.

PimEyes-Besitzer Giorgo Gobronidze vor einem Hintergrund mit Werkzeugen, unten Leiste von PimEyes.com

„Wir sind nur ein Werkzeuglieferant“, sagt der neue Besitzer der Gesichtersuchmaschine PimEyes, die sich auch für Stalking missbrauchen lässt. Die Verantwortung liege bei den Nutzer:innen. Eine bequeme Position, vor allem für ihn selbst.

Eine EU-Flagge; eine Person, die gestresst ihre Hände vor der Stirn faltet.

Die EU-Kommission hat eine Richtlinie zu Gewalt gegen Frauen und häuslicher Gewalt vorgeschlagen. In dem ambitionierten Vorhaben stecken unter anderem Regulierungen für ohne Einverständnis geteilte Nacktfotos, Deepfakes und Stalkerware.

Mit der europäischen Internetregulierung geht es voran: Abgeordnete im EU-Parlament wollen das Datensammeln für Online-Werbung einschränken. In ihrem Entwurf für das Digitale-Dienste-Gesetz legen sie neue Maßnahmen zum Schutz der Privatsphäre fest – ein echtes Verbot personalisierter Werbung wagen sie aber nicht.

Warum Assistenzwanzen weiblich sind, die Netzkünstlerin Cornelia Sollfrank gerne trollen würde, Facebook unser Hirn verändert, das NetzDG nur wenig bewirkt, das schweizerische E-Voting-System Scytel fragwürdig ist und Google Nutzern bessere Kontaktmöglichkeiten bieten muss. Als Bonus gibts ein verblüffendes Deepfake-Video. Die interessantesten Reste des Tages.

Wissenschaftler haben in den USA herausgefunden, dass die meisten Falschnachrichten von älteren Menschen geteilt werden. Sogenannte Deepfakes bringen neue Herausforderungen. Der Generalanwalt beim EuGH macht Vorschläge zum Recht auf Vergessen. Und sonst gibt es überall Sturmhauben! Die interessantesten Reste des Tages.

deepfakes

Degitalisierung: Systemisch achtloses Vorgehen

OpenAI: Neues Werkzeug soll KI-generierte Bilder erkennen

Deepfakes: Influencer:innen montieren fremde Gesichter auf echte Frauenkörper

Kennzeichnung für KI-Bilder: Buschmann „fordert“, was längst beschlossen wurde

Digitale-Dienste-Gesetz: Was die neuen EU-Regeln für Pornoplattformen bedeuten

EU-Empfehlungen gegen Wahlmanipulation: Wenn ein Deepfake-Video Quatsch im Wahlkampf erzählt

Mozilla-Studie: Werkzeuge gegen die Deepfake-Flut

Sexualisierte Bilderfälschungen: Die Deepfake-Flut

Richtlinie zu Gewalt gegen Frauen: Warum Deutschland kein EU-Gesetz gegen Vergewaltigung will

Aktionskunst: Bundesregierung nutzt Zensurheberrecht gegen unerwünschtes Kanzler-Video

Deepfakes in Spanien: Gefälschte Nacktbilder von Mädchen sorgen für Aufschrei

Gesetz zu Gewalt gegen Frauen: EU-Rat gegen einheitlichen Schutz vor Vergewaltigung

Face Swap: Petition gegen Deepfake-Pornos gestartet

Millionenfach installierte Apps: Porno-Deepfakes per Knopfdruck

Kommentar zu PimEyes: Stalking by Design

Gewalt gegen Frauen: EU-Kommission will bildbasierte Gewalt und Cyberstalking unter Strafe stellen

Dark Patterns: EU-Abgeordnete wollen Manipulationstechniken im Netz verbieten

Was vom Tage übrig blieb: Digitale Dienstmägde, Technofeminismus und Facebook-Frei

Was vom Tage übrig blieb: Senioren, Sturmhauben & Deepfakes