Gegen DeepfakesUS-Kongress verabschiedet Take It Down Act

Ein US-Gesetz gegen sexualisierte Deepfakes ist beinahe endgültig unter Dach und Fach. Kritiker:innen fürchten um die Meinungsfreiheit im Internet.

Haben sich üblicherweise nicht viel zu sagen – außer, es geht um bildbasierte Gewalt im Netz: Die Senator:innen Ted Cruz (links im Bild) und Amy Klobuchar (rechts). – Alle Rechte vorbehalten IMAGO / Newscom World

Mit dem Take It Down Act erhalten die USA ein Gesetz, das sich gegen die nicht-einvernehmliche Verbreitung sexualisierter Bilder im Netz richtet. Am Montag hat das Repräsentantenhaus den Entwurf mit nur zwei Gegenstimmen angenommen, der Senat hat ihn bereits im Februar einstimmig beschlossen. Die noch fehlende Unterschrift des Präsidenten Donald Trump gilt als sicher, seine Zustimmung hatte er mehrfach signalisiert.

Neben „authentischen“ Aufnahmen erfasst das Gesetz auch Computer-generierte Bilder, die etwa mit Hilfe sogenannter Künstlicher Intelligenz erstellt wurden. Auch die Drohung, solche Deepfakes ins Netz zu stellen, steht künftig unter Strafe. Online-Dienste müssen die Bilder binnen zwei Tagen entfernen, wenn sie davon Kenntnis erlangen. Sonst können sie von der Handelsbehörde Federal Trade Commission (FTC) wegen unfairer Geschäftspraktiken zur Verantwortung gezogen werden.

Bildbasierte Gewalt nimmt zu

In den vergangenen Jahren wurde bildbasierte, sexualisierte Gewalt zunehmend zum Problem, betroffen sind vor allem Frauen. Mit weithin verfügbaren Tools lassen sich mit wenigen Klicks beliebige Gesichter auf beliebige Körper in beliebigen Videoclips einfügen.

Indes muss es sich gar nicht um manipulierte Videos oder Bilder handeln, um den Betroffenen das Leben zur Hölle zu machen: Ohne Einverständnis veröffentlichte Sexvideos aus Beziehungen sind schon lange keine Einzelfälle mehr, manchen Studien zufolge soll inzwischen jede fünfte Frau im Alter zwischen 18 und 45 Jahren einschlägige Erfahrungen gemacht haben.

Banner mit Text: Koalitionsvertrag so: Überwachung und Rückschritt Ich so: Spende an netzpolitik.org

Entsprechend genießt der Take It Down Act für US-Verhältnisse bemerkenswert breite Unterstützung. Eingebracht hatten ihn im Vorjahr der ultrakonservative Senator Ted Cruz aus Texas gemeinsam mit seiner liberalen Kollegin Amy Klobuchar aus Minnesota. Abseits des Kongresses hatte unter anderem die Präsidentengattin Melania Trump dafür geworben und nicht zuletzt ihr Ehemann: Der hatte im März bei einer Rede vor Abgeordneten in Aussicht gestellt, von dem Gesetz profitieren zu wollen: „Niemand wird online schlechter behandelt als ich. Niemand“, sagte Trump.

Schwammige Formulierungen

Genau das bereitet Kritiker:innen Sorgen: Zum einen sei im Gesetz nicht ausreichend definiert, was unter „intimen oder sexualisierten Inhalten“ zu verstehen sei, kritisiert die Digital-NGO Electronic Frontier Foundation (EFF). Dies sei geradezu eine Einladung zum Missbrauch. Zudem entstehe für die Online-Anbieter der Anreiz, im Zweifel lieber zu viel als zu wenig zu löschen – sogenanntes Overblocking, potenziell verschärft durch automatisierte Uploadfilter, so die Grundrechteorganisation.

Ähnlich argumentiert auch das Center for Democracy & Technology (CDT) und fürchtet zudem um Ende-zu-Ende-Verschlüsselung. Zwar sei etwa E-Mail von dem Gesetz nicht erfasst, dafür aber Messenger oder Cloud-Dienste. Das könnte die Anbieter auf Kollisionskurs mit den gesetzlichen Vorgaben bringen: Auf der einen Seite müssten sie dafür sorgen, dass einschlägige Inhalte von ihren Diensten verschwinden, auf der anderen Seite könnten sie in die Inhalte technisch bedingt gar nicht hineinschauen. Auch könnte die politische Einflussnahme auf die FTC-Aufsicht zum Problem werden, warnt die NGO Public Knowledge.

Zugleich hat das Gesetz, neben fast allen Abgeordneten, auch einige prominente Fürsprecher:innen aus der Zivilgesellschaft: „Ich bin froh, dass wir endlich etwas erreichen konnten und hoffe, dass dies erst der Anfang ist“, sagte etwa der Jurist Tim Wu, der unter anderem das Konzept der Netzneutralität prägte. Auch die linke Kartellrechtsexpertin Zephyr Teachout begrüßte das Gesetz und zeigte sich zuversichtlich, dass es rechtlichen Auseinandersetzungen standhalten werde. Mit an Bord sind zudem praktisch alle betroffenen Anbieter, darunter Meta, Google und X, sowie zahlreiche Opferorganisationen oder das Electronic Privacy Information Center (EPIC).

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

1 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.