Take It Down Act: Wie ein US-Gesetz gegen sexualisierte Deepfakes zum Zensurinstrument werden könnte

Der Take It Down Act ist ein US-Gesetzentwurf, der es rechtswidrig machen würde, nicht-einvernehmliche sexualisierte Bilder wissentlich zu veröffentlichen oder damit zu drohen. Dazu zählen laut dem Text auch „digitale Fälschungen“, die mit KI-Technologien erstellt worden, also sexualisierte Deepfakes.

Für diese Art von Bildern etabliert der Entwurf ein „Notice and Takedown“-Verfahren: Betroffene sollen die Inhalte melden können. Anbieter von Webseiten und Online-Plattformen hätten danach maximal 48 Stunden Zeit, um die Inhalte zu löschen, auch weitere Kopien des Bildes – sonst würden sie sich strafbar machen. Die Federal Trade Commission, die für den Verbraucherschutz zuständig ist, soll die Regeln durchsetzen.

Doch zivilgesellschaftliche Organisation warnen vor dem Entwurf und fürchten, es könnte vor allem zum Zensurinstrument für die Mächtigsten verkommen. Unter dem Deckmantel von Gewaltschutz würden einflussreiche Menschen hier die rechtlichen Voraussetzungen bekommen, um jede missliebige Darstellung in Zukunft leichter löschen zu lassen. netzpolitik.org beantwortet die wichtigsten Fragen zum Entwurf.

Wie definiert der Text nicht-einvernehmliche, sexualisierte Deepfakes?

Im Wortlaut steht im Entwurf, der Begriff „digitale Fälschung“ bezeichne „jede intime visuelle Darstellung einer identifizierbaren Person, die durch den Einsatz von Software, maschinellem Lernen, künstlicher Intelligenz oder anderen computergenerierten oder technologischen Mitteln erstellt wurde.“ Dazu zählen laut Entwurf auch Manipulationen von echten Aufnahmen. Die Messlatte dafür, wann eine digitale Fälschung vom Gesetz erfasst ist: „Wenn sie als Ganzes von einer vernünftigen Person betrachtet von einer authentischen visuellen Darstellung der Person nicht zu unterscheiden ist“.

Welche Apps und Plattformen wären betroffen?

Das Gesetz soll für alle Anbieter gelten, die vorwiegend nutzergenerierte Inhalte zeigen, egal ob Webseite oder App. Explizit davon ausgenommen sind Internet-Zugangsanbieter und E-Mail-Dienste, nicht aber etwa Messenger.

Zivilgesellschaftliche Organisationen fürchten deswegen ein Desaster für die Anbieter von verschlüsselter Kommunikation ­– wie WhatsApp oder Signal. Sie könnten durch das Gesetz womöglich gezwungen werden, die Verschlüsselung zu brechen, um auf ihren Plattformen nach solchen Bildern suchen zu können. In verschlüsselten Nachrichten ist das unmöglich.

Was ist der aktuelle Stand?

Der republikanische Senator Ted Cruz und die Demokratin Amy Klobuchar haben den Entwurf im vergangenen Jahr gemeinsam eingebracht. Im Februar ging er durch den Senat. Nun fehlt noch die Zustimmung des US-Repräsentantenhauses.

Dazu haben mehrere Abgeordnete, ebenfalls parteiübergreifend, im Januar einen entsprechenden Entwurf ins Unterhaus eingebracht. Zugleich steigert das Weiße Haus, das den Gesetzesentwurf unterstützt, den Druck auf das Parlament: Letzte Woche stellte sich etwa Präsidentengattin Melania Trump hinter den Ansatz. Ranghohe republikanische Abgeordnete signalisieren, den Entwurf möglichst rasch behandeln zu wollen. Das Gesetz soll in den kommenden Wochen zur Top-Priorität werden, sagte der zuständige Ausschussvorsitzende im Repräsentantenhaus, Brett Guthrie.

Warum warnen Bürgerrechtsorganisationen vor den Plänen?

Zivilgesellschaftliche Organisationen wie die Electronic Frontier Foundation (EFF) warnen vor dem Gesetz. Das Anliegen, Betroffene von Gewalt zu schützen sei wichtig, schreiben sie, aber der Text sei so schwammig formuliert, dass am Ende nicht nur nicht-einvernehmliche, sexualisierte Deepfakes damit gemeint wären – sondern jede Art von unliebsamer Darstellung. Mächtige könnten das Gesetz dazu missbrauchen, um jede Art von Material löschen zu lassen, auch solches, das in den USA legal und sogar als freie Meinungsäußerung geschützt ist. Eine Inhaltemoderation ganz im eigenen Sinne.

In seiner Rede vor dem Kongress vergangene Woche hat Donald Trump bereits genau dies in Aussicht gestellt. „Sobald das Gesetz das Repräsentantenhaus passiert hat, freue ich mich darauf, es zu unterzeichnen“, sagte er vor den Abgeordneten und kündigte an, das Gesetz auch für sich selbst zu verwenden. „Denn niemand wird online schlechter behandelt als ich, niemand.“

Ein Gesetz, das Betroffene von bildbasierter sexualisierter Gewalt rechtlich besser stellen sollte, indem es Plattformen dazu verpflichtet, solches Material zu löschen, könnte dann zu einem Werkzeug werden, um Kritiker:innen zum Schweigen zu bringen.

Wie könnten Trump und Co. das Gesetz für ihre Zwecke missbrauchen?

Der EFF führt als Beispiel das Deepfake an, das vergangene Woche im Ministerium für Wohnungsbau auf internen Monitoren zu sehen war und Donald Trump zeigt, wie er die Füße von Elon Musk küsst. Die Bilder verbreiteten sich später auch über soziale Medien.

Auch hier sei eine „identifizierbare Person“ zu sehen, die ein „sexuell eindeutiges Verhalten“ zeigt, argumentiert die EFF – womit das Bild vom geplanten Gesetz erfasst wäre. Die Organisation fürchtet zudem, dass Mächtige in Zukunft jede Art von Inhalt als nicht-einvernehmliches Bild im Sinne des Gesetzes melden könnten. Welche Plattform hätte dann die Chuzpe, sich zu widersetzen?

Anders als etwa der Digital Millenium Copyrights Act, der eine Notice-and-Takedown-Verfahren für Urheberrechtsverletzungen etabliert, sieht der Take It Down Act keinerlei Schutzmechanismen oder Strafen für Falschmeldungen vor.

Wie würden Plattformen das Gesetz umsetzen?

Vermutlich würden Plattformen auf automatisiere Moderation setzen, um einer mögliche Fülle an Löschaufforderungen binnen der Frist von 48 Stunden entsprechen zu können. Organisationen warnen, dass es dadurch zu weiteren automatisierten Fehlentscheidungen kommen könnte.

Diese sind heute schon ein bekanntes Problem. Das Gesetz würde zusätzliche Anreize für die Plattformen bieten, im Zweifel lieber mehr als weniger zu löschen. Sie sind im Entwurf explizit vor jeder Haftung geschützt, sollte sich herausstellen, dass ein von ihnen gelöschter Inhalt legal war – solange sie dabei nach bestem Wissen gehandelt haben.

Würde das Gesetz auch für Betroffene in Deutschland gelten?

Der Kreis der möglichen Betroffenen ist im Entwurf nicht eingeschränkt. Es würde also mutmaßlich für alle Nutzer:innen der Plattformen gelten, die vom Gesetz erfasst sind – von Facebook, WhatsApp und Instagram bis zu Discord und Reddit.

Wie ist der aktuelle Rechtslage für Betroffene in Deutschland?

Die EU hat vor kurzem eine Richtlinie zur Bekämpfung von Gewalt gegen Frauen beschlossen. Demnach müssen Mitgliedsstaaten – darunter Deutschland – in Zukunft auch die Verbreitung nicht-einvernehmlicher, sexualisierter Deepfakes ausdrücklich unter Strafe stellen. Für die Umsetzung haben die Mitgliedsstaaten drei Jahre Zeit, die neuen Regeln dürften also erst ab 2027 greifen.

Bis dahin müssen sich Betroffene in Deutschland auf andere Gesetze berufen – und stehen dabei vor einem Flickenteppich. Denn aktuell steht das Teilen intimer Bilder ohne Zustimmung der gezeigten Personen nicht ausdrücklich im deutschen Strafgesetzbuch. In Frage kommen etwa zivilrechtliches Vorgehen wegen der Verletzung von Persönlichkeitsrechten oder das Kunsturhebergesetz, wie der deutsche Juristinnenbund ausführt. Die Beratungsorganisation HateAid sieht gerade bei herabwürdigenden Deepfakes auch eine strafrechtliche Handhabe, etwa wegen Beleidigung oder Verleumdung.

Ein weiteres EU-Gesetz, der Digital Services Act, verpflichtet Plattformen außerdem dazu, solche strafbaren Inhalte zu löschen, wenn Nutzer:innen sie melden. Löschen die Anbieter nicht, können Nutzer:innen klagen oder sich bei einer zuständigen Stelle im eigenen Land beschweren. In Deutschland ist das die Bundesnetzagentur.