DeepfakesPanik, Pop und Propaganda

In sozialen Medien kursieren unzählige Deepfakes. Viele manipulierte Inhalte bewegen sich auf dem schmalen Grat zwischen flacher Unterhaltung, Satire und politischem Aktivismus. Plattformen und Gesetzgeber arbeiten an Richtlinien und Verboten – mit zweifelhafter Wirkung.

Mensch steht vor einer riesigen Wand von Monitoren, Ansicht von hinten.
Mehr Misstrauen und Medienkompetenz sind dringend gefragt. – Public Domain Generiert von Vincent Först mit Midjourney

Auf TikTok wünscht sich Alice Weidel nichts lieber als einen Köftespieß. Kanzler Olaf Scholz ist Bodybuilder und tanzt zu Popmusik. Markus Söder erteilt Karl Lauterbach mit einem Schlagersong endgültig „Bayern Verbot“.

Dabei handelt es sich um Deepfakes. Das sind mit sogenannter künstlicher Intelligenz manipulierte Medien wie Bilder, Audios oder Videos. Für die Herstellung von Deepfakes gibt es ein breites Angebot relativ einfach zu bedienender Programme.

Was früher Satirezeitschriften wie der Titanic mit ihren berüchtigten Titelbildern vorbehalten war und guter Skills in Photoshop bedurfte, kann heute jede:r in wenigen Minuten selber machen: Mit Deepfakes die mächtigsten Politiker:innen des Landes vorführen. Das ermöglicht eine niedrigschwellige politische Partizipation auf sozialen Medien durch die Nutzer:innen – und birgt dennoch Gefahren.

Verschiedene Ziele und Formen

Deepfakes haben im Netz unterschiedliche Ausprägungen. Sie verbreiten sich in Foren und sozialen Medien als Memes, dienen ihren Ersteller:innen als Instrumente für Satire, Propaganda, Desinformation oder sind digitale Gewalt, insbesondere gegen Frauen.

Schwerwiegende Deepfakes mit dem Ziel der politischen Täuschung sind bisher von Nutzer:innen und Journalist:innen relativ schnell entlarvt worden. Plattformen wie YouTube oder Instagram haben die Videos daraufhin entfernt.

Zu Beginn des russisch-ukrainischen Krieges kursierte auf YouTube und Instagram kurzzeitig ein Deepfake-Video des ukrainischen Präsidenten. Darin rief ein vermeintlich realer Volodymyr Selenskyj die Ukrainer:innen zur Kapitulation auf. Der echte Selenskyj konterte die Fälschung nach wenigen Minuten mit einem authentischen Video.

Ein weiterer Deepfake zeigte einen französischen Autohändler, der berichtete, dass Olena Zelenska, Selenskyjs Ehefrau, ein Luxusauto im Wert von knapp fünf Millionen Euro von ihm gekauft hatte. Laut dem Nachrichtensender CNN war der Deepfake Teil einer russischen Desinformationskampagne.

Dagegen ist die Masse an Deepfakes aus der deutschen Politik leicht als Fälschung zu identifizieren. Auch Künstler:innen und Content Creator:innen nutzen hierzulande die Technologie, um gesellschaftliche Debatten anzustoßen und Aufmerksamkeit zu generieren.

Einen realistischen Deepfake von Olaf Scholz, der darin ein Verbot der AfD forderte, hatte das Landgericht Berlin Anfang dieses Jahres verboten. Prinzipiell gehen Gesetzgeber und Plattformen verstärkt gegen Deepfakes vor.

Regulierung von „realistisch“ wirkenden Deepfakes

Kürzlich hat der Bundesrat ein neues Gesetz gegen Deepfakes vorgelegt, das ihre Verbreitung unter Strafe stellen soll. TikTok „ermutigt“ seine Creator:innen in den Community-Richtlinien, KI-generierte Inhalte zu kennzeichnen. Auf YouTube müssen alle „manipulierten oder synthetischen“ Inhalte, „die realistisch wirken“, gekennzeichnet werden.

Facebook und Instagram verpassen KI-generierten Inhalten das Label „KI-Info“, insofern die Plattform-internen Systeme die Nutzung von KI erkennen. Die Creator:innen sind auch verpflichtet, Inhalte als KI-generiert zu kennzeichnen, wenn sie „fotorealistisches Video- oder realistisch klingendes Audiomaterial enthalten, das digital erstellt oder bearbeitet wurde – einschließlich mit KI“.

Die offiziellen Richtlinien der Plattformen lassen anscheinend einen gewissen Spielraum. Von Olaf Scholz existieren etliche Deepfakes, die sich mitunter seit Monaten auf TikTok befinden und ohne Kennzeichnung auskommen. Dabei garantiert auch eine Kennzeichnung nicht, dass alle Zuschauer:innen den Unterschied zwischen Realität und Fake erkennen.

Deepfake-Bilder der Festnahme von Donald Trump
Der Journalist Elliot Higgins produzierte Deepfake-Bilder einer fiktiven Festnahme von Donald Trump, um die Wirkmacht von solchen Bildern zu zeigen. - Alle Rechte vorbehalten Elliot Higgins

Wann ist ein Deepfake politisch?

Zwar hat TikTok bereits die Funktionen für Accounts von politischen Akteuren wie Regierungen, Politiker:innen und Parteien eingeschränkt. Deepfakes und Memes werden jedoch meist von privaten Accounts hochgeladen und verbreitet.

Ein ungekennzeichneter Deepfake mit dem Titel „Alice Weidel spricht arabisch“ hat rund eine Million Aufrufe. Die Mehrheit der Kommentare zeigen Gutgläubigkeit und Sympathie der Zuschauer:innen gegenüber Weidel: „Sie ist hallt [sic] gebildet und kennt bestimmt noch mehr Sprachen“, „Die neue Bundeskanzlerin halt“ oder „Super Aussprache 💙💙💙“.

Selbst wenn Deepfakes durch Wasserzeichen und Hashtags gekennzeichnet sind, scheinen die Fälschungen vielen Nutzer:innen nicht aufzufallen. Auch sehen die Fans von Alice Weidel im Deepfake womöglich gar keinen Widerspruch mit ihrer eigenen Realität. Für sie sind die manipulierten Videos lediglich Meinungsverstärker.

In der Politisierung des Contents sehen die Plattformen wohl eine Gefahr für ihre Geschäftsmodelle. TikTok, Instagram und Threads haben angekündigt, ihre Algorithmen zu verändern und wollen weniger politische Inhalte anzeigen.

Was dabei als „politisch“ gelten soll, ist bisher noch unklar. Die Deepfakes von Weidel, Söder und Co. wirken im Vergleich mit den gefälschten Selenskyj-Videos eher harmlos. Dennoch steckt mehr als nur flaches Entertainment hinter den Deepfakes.

Traditionelle rechte Propagandataktik

In einem Interview mit Michael Lewis von Bloomberg sagte Steve Bannon, Donald Trumps ehemaliger Chefberater und Medienmanager: “The real opposition is the media. And the way to deal with them is to flood the zone with shit”. Laut Jonathan Rauch, Buchautor und Journalist, gehe es dabei nicht um politische Überzeugung, sondern um politische Verwirrung.

Deepfakes sind ein ausgezeichnetes Instrument, um Verwirrung zu stiften – ein klassisches Mittel rechter Propagandataktik und bezeichnend für den Politikstil von Trump und anderer rechter Populist:innen.

Gradmesser für politische Stimmung

Mit wenigen Klicks fällt auf, dass im Feed auf TikTok Deepfakes dominieren, die Politiker:innen der Grünen, insbesondere Annalena Baerbock, Ricarda Lang und Robert Habeck sowie SPD-Kanzler Olaf Scholz zu ihrem Nachteil remixen.

Darüber hinaus zeigt eine aktuelle Studie, inwiefern der Algorithmus von TikTok AfD-nahe Inhalte bevorzugt. Die Ampelparteien kommen also auf ganzer Linie sehr schlecht weg. Dabei böten AfD-Politiker:innen wie Maximilian Krah mit seinem gewohnt schlecht sitzenden Anzug und der charakteristischen 10-Euro-Frisur eigentlich ausgezeichnete Vorlagen für Meme- und Deepfakemacher:innen.

Solange es keinen kreativen Gegenpol zur TikTok-Dominanz rechter Inhalte gibt, heißt es wohl weiterhin: The left can’t meme. Dabei gibt es guten Grund, sich von TikTok fernzuhalten. Das Unternehmen steht nicht nur wegen fehlendem Datenschutz in der Kritik.

Keine Panik

Raushalten scheint leider keine Alternative zu sein. Aus Angst vor der Übermacht der AfD rüsten die Altparteien nun auch bei TikTok auf. An Deepfakes und Memes traut sich das „teambundeskanzler“ noch nicht heran.

Falls die politischen Akteure die auf sozialen Medien geführte Schlammschlacht, die allzu häufig unter der Gürtellinie ausgetragen wird, gleichermaßen brutal gestalten, könnte sich der Netzdiskurs in Deutschland einem amerikanisch-inhaltsfeindlichen Modell annähern. Das dürfte ganz im Sinne Steve Bannons sein.

Letztendlich lassen sich auch die politischen Deepfakes in ästhetische Kategorien einordnen. Als kreatives Satire-Tool können sie mitunter witzige, durchdachte und dennoch politisch spitze Inhalte vermitteln. Das beweist der Instagram-Kanal „Schlantologie“, der laut Kanalinfo „KI-Satire aus eigenem Anbau“ betreibt.

Deepfakes sind ähnlich wie Memes ein effizientes Kommunikationsmittel auf sozialen Medien und fungieren als Sprachrohr für politischen Aktivismus.

Misstrauen in soziale Medien ist nötig

Nun dienen soziale Medien seit jeher den kommerziellen Interessen von Unternehmen mehr als dem Gemeinwohl der Gesellschaft. Ihre Architektur bestimmt maßgeblich, was die Nutzer:innen sehen. Solange Klicks für Geld und Reichweite sorgen, sind polarisierende Inhalte im Vorteil.

Noch lohnen sich performativer Rassismus und hochemotionaler Content, ob Deepfake oder Meme. Dafür bilden die sozialen Medien glücklicherweise nur einen Teil des gesamtgesellschaftlichen Diskurses ab.

Für manche Bereiche wie der bildbasierten sexualisierten Gewalt durch Deepfakes wird es intelligente Regulierung brauchen, die auch die Profiteure in der Tech-Industrie in die Pflicht nimmt. Doch bei künstlerischen und aktivistischen Deepfakes könnte eine voreilige Regulierung wie zuletzt im Bundesrat mehr schaden als helfen.

Denn schon vor der Verbreitung von Deepfakes war eine grundlegende Skepsis gegenüber Inhalten im Internet angebracht. Im besten Fall sind die Nutzer:innen durch die Deepfakes zukünftig noch stärker gezwungen, ihren Blick für Fälschungen zu schärfen. Und eigentlich ist es auch gar nicht so schwer: Oft hilft eine kurze Internetsuche beim Enttarnen von Desinformation.

Grundlegend braucht es von der Grundschule an mehr Vermittlung von Medienkompetenz statt Panik und voreiliger Verbote, welche die Nutzung ganzer Technologien unter Strafe stellen.

Wer ernsthaft glaubt, dass Alice Weidel im Bundestag ihre Reden auf Russisch oder Arabisch hält, kann auch mit anderen Mitteln als Deepfakes hinter das Licht geführt werden.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

7 Ergänzungen

  1. > Grundlegend braucht es von der Grundschule an mehr Vermittlung von Medienkompetenz

    welche entlang der kognitiven Entwicklung des Kindes altersgerecht vermittelt werden sollte. Mithin stellt sich die Frage, inwieweit sog. Smartphones an der Grundschule dem Kindeswohl überhaupt förderlich sein können.

  2. > mit seinem gewohnt schlecht sitzenden Anzug und der charakteristischen 10-Euro-Frisur

    So wird „street credibility“ bei der Zielgruppe hergestellt.

  3. > An Deepfakes und Memes traut sich das „teambundeskanzler“ noch nicht heran.

    Würde der Autor dies dem „teambundeskanzler“ empfehlen?
    Welche Wirkungen würden Sie auf Rezipientenseite antizipieren?
    „Noch nicht“? Glauben Sie an eine „Erscheinung“ in ferner Zukunft?

    1. Würde der Autor dies dem „teambundeskanzler“ empfehlen?
      – Eher nicht. @connectcdu hat das auf Instagram versucht und ist dabei recht kläglich gescheitert. Die inoffiziellen, parteinahen Meme-Kanäle machen das besser. Mehr dazu hier: https://netzpolitik.org/2021/wahlkampf-aus-meme-wird-meinung. In den USA arbeiten die Parteien mit etablierten Influencerinnen und Influencern zusammen. Effizienter als Eigenwerbung auf TikTok, aber natürlich auch fragwürdig als Methode.

      Welche Wirkungen würden Sie auf Rezipientenseite antizipieren?
      – Kommt auf die Zielgruppe und Intention an. Für einige ist das wahrscheinlich erst einmal lockeres Entertainment, wenn sie beispielsweise Olaf Scholz beim Stepptanz sehen.

      „Noch nicht“? Glauben Sie an eine „Erscheinung“ in ferner Zukunft?
      – Ich befürchte, auch hier sind die USA wie so häufig Vorreiter. Wahlkampf mit Memes und Deepfakes ist dort ja bereits ganz oben angekommen. Siehe Donald Trump und Donald Trump Jr. Inhalte bleiben auf der Strecke, auch weil die Plattformen „Inhaltslosigkeit“ belohnen. Das kann zum Verlustgeschäft für alle beteiligten Parteien werden.

  4. Wieso auf solche Phänomene immer mit verboten reagiert wird ist mie ein Rätsel.

    Das einzige was das bewirkt ist das diese Inhalte natürlich weiterexistieren nur diesmal offiziell „verboten“ sind. Damit erspart sich die Bundesregierung eine Auseinandersetzung, denn sie sind ja nicht erlaubt. Studien können nicht stattfinden, da Angst vor Strafverfolgung etc. Das Thema rückt einfach in den Schatten, ist aber noch genau so stark da.

    Medienkompetenz und Bildung statt „Wahrheitsministerien“ und verboten.

    1. Verbot ergibt Sinn, wenn es kommerziellen Einfluss hat. Z.B. Tracking von Menschen.

      Es kann nicht durch ein Verbot verhindert werden, aber wer es macht, ist danach dann tot (kommerziell zunächst). Dadurch ergibt sich dann eine Statistik, die die Größenordnung der Sache widerzugeben imstande sein könnte, oder auch nicht. So könnte man das wohl sagen. Also je nach dem…

    2. Studien können stattfinden, wenn das Gesetz so geschnitzt wird. Der kommerzielle Hebel ist in der Breite durchaus wirksam, da Sanktionen bis zu Marktausschluss drohen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.