Kennzeichnung für KI-BilderBuschmann „fordert“, was längst beschlossen wurde

Die EU hat sich jüngst auf eine KI-Verordnung geeinigt, inklusive Kennzeichnungspflichten für Deepfakes. Offenbar haben das Dutzende deutsche Nachrichtenmedien nicht mitbekommen, denn sie verkaufen das Thema gerade als „Forderung“ des Justizministers. Ein Facepalm.

Marco Buschmann und eine WOW-Sprechblase
Kreativ. – Buschmann: IMAGO / dts nachrichtenagentur; Sprechblase: Flaticon.com / Iconriver; Montage: netzpolitik.org

Liebes Publikum, geneigte Leser*innen, hiermit fordere ich feierlich die diesjährige Durchführung einer Fußball-EM in Deutschland sowie Landtagswahlen in Brandenburg, Thüringen und Sachsen. Na, was sagt ihr zu meiner kreativen Idee?

Wie bitte? Das passiert sowieso und ich habe darauf keinen Einfluss mehr?!

So ähnlich verhält es sich mit einem Zitat von Justizminister Marco Buschmann (FDP) aus einem Interview mit dem Redaktionsnetzwerk Deutschland (RND). Buschmann hat darin am 2. April eine Kennzeichnungspflicht für KI-Erzeugnisse erwähnt. Die Deutsche Presse-Agentur hat das als „Forderung“ eingeordnet und per Agenturmeldung verbreitet. Dazu muss man wissen: Sehr viele traditionellen Zeitungen, Online-Medien und Rundfunkhäuser sind Kund*innen der dpa und übernehmen deren Meldungen oft ohne gründlichen Faktencheck.

Seitdem rollt also die Nachrichtenwelle durch Deutschland, von ZDF über Deutschlandfunk bis hin zu den Oldenburger Nachrichten. In einem Videobeitrag von rbb24 in der ARD-Mediathek sagt die Sprecherin: „Bundesjustizminister Marco Buschmann sieht im Bereich KI eine Gesetzeslücke“.

Allerdings ist die Erzählung von der Gesetzeslücke daneben und die Einordnung des Buschmann-Zitats als „Forderung“ grob irreführend. Denn die genannte Kennzeichnungspflicht ist längst beschlossene Sache und wird ohnehin kommen.

Viel Luft um nichts

Im Winter hat sich die Europäische Union auf eine KI-Verordnung geeinigt, auch bekannt als AI Act. Öffentlich ist inzwischen der Kompromisstext, der nach dem Trilog mit Parlament, Rat und Kommission entstanden ist. Die Kennzeichnungspflicht steht in Artikel 52, Absatz 3. Dort heißt es, frei aus dem Englischen übersetzt:

Anbieter von KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die einen Deepfake darstellen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

In den Erwägungsgründen liefert die Verordnung noch eine englischsprachige Erklärung, was genau mit Deepfake gemeint ist, nämlich:

Audio- oder Videoinhalte, die bestehenden Personen, Orten oder Ereignissen deutlich ähneln und die einer Person fälschlicherweise als authentisch erscheinen würden.

Als EU-Mitgliedstaat hat Deutschland die KI-Verordnung selbstverständlich mitverhandelt und sie auch mitbeschlossen. Die offenbar von der dpa stammende Formulierung: „Nun bringt der Justizminister eine Kennzeichnungspflicht ins Spiel“ ist deshalb Käse. Treffender wäre gewesen: Der Justizminister spricht sich für die Umsetzung der Kennzeichnungspflicht aus. Es ist ein anschauliches Beispiel dafür, was passieren kann, wenn deutsche Nachrichtenmedien EU-Gesetzgebung nicht ausreichend auf dem Schirm haben.

Zumindest das Fachmedium „Tagesspiegel Background“ hat’s gemerkt und beim Justizministerium nachgehakt. Und das Ministerium stellte klar: Es stimmt, die KI-Verordnung sehe eine Kennzeichnungspflicht nach den Vorstellungen des Bundesjustizministers vor. Tja, viel Luft um nichts also, eine Nachrichtenmeldung ohne Nachrichtenwert.

Für den Justizminister bedeutet dieses redaktionelle Missgeschick jedoch ein Gratis-Ticket – für eine fulminante Fahrt im Nachrichten-Karussell. Buschmann darf einmal die große Runde durch deutsche Nachrichtenmedien drehen, und zwar mit einer Zitatmeldung, die ihn als Ideengeber und Macher beim Hype-Thema KI darstellt. Sicher nicht übel für die eigene Bekanntheit.

Wen sollen Deepfake-Label aufhalten?

Ein Fortschritt im Kampf gegen Propaganda, Desinformation und Hetze ist das jedoch nicht. Falls man eine KI-Kennzeichnungspflicht für besonders dringlich hielte, könnte man ja fordern, so etwas schon vorher auf nationaler Ebene einzuführen. Denn bis alle Regeln der KI-Verordnung greifen, gibt es eine Übergangsfrist von zwei Jahren. So genau hat aber offenbar niemand nachgefragt.

Ich erwarte derweil eher wenig von einer Verpflichtung, realistische Deepfakes zu kennzeichnen. Wer sein redaktionelles Handwerk ernst nimmt, darf sein Publikum sowieso nicht in die Irre führen und muss täuschend echte Deepfakes kenntlich machen – sofern man es für nötig hält, sie überhaupt zu veröffentlichen. Das ist journalistische Sorgfaltspflicht.

Wer wiederum gezielt Desinformation und Propaganda in Umlauf bringen möchte, dürfte beim Gedanken an verpflichtende Deepfake-Label nur müde lächeln. Immerhin stören sich die Akteur*innen auch nicht daran, dass sie systematisch Persönlichkeitsrechte oder Sorgfaltspflichten verletzen, Verleumdung oder Volksverhetzung verbreiten.

Mit Wasserzeichen gegen die babylonische Verwirrung

Schon klar, man muss es Menschen nicht extra einfach machen, einen Tagesschau-Sprecher zu faken, um falsche Nachrichten zu verkünden. Andererseits wird es auch in Zukunft für etwas pfiffigere Nutzer*innen kein Problem sein, jegliche Kennzeichen technisch zu umgehen oder zu entfernen. Das für Desinformation und Verschwörungserzählungen empfängliche Publikum dürfte vor allem von der Suggestivkraft eines Fakes eingenommen sein, unabhängig davon, ob da noch eine Kennzeichnung steht.

Ich finde, das beste Mittel gegen die Beeinflussung der Öffentlichkeit durch manipulative Deepfakes sind nach wie vor seriöse Nachrichtenmedien, auf die man sich verlassen kann. So viele Menschen wie möglich sollten wissen: Egal, was für krasses Zeug mir in Messenger-Gruppen und sozialen Medien begegnet – bei seriösen Nachrichtenmedien kann ich mich immer verlässlich darüber informieren, was da draußen gerade wirklich passiert.

Leider haben viele Leute kein Vertrauen in seriöse Nachrichtenmedien. Umso wichtiger ist es, dass Journalist*innen sich alle Mühe geben, möglichst viele gute Gründe für Vertrauen zu liefern. Dazu gehört sicher auch, dass Medienhäuser ihren Angestellten genug Zeit für Recherche einräumen. Leider muss man sagen: Die jüngste Meldung über einen Minister, der „fordert“, was 27 EU-Mitgliedstaaten nach jahrelangen Verhandlungen schon eingetütet haben – die ist dafür kein gutes Beispiel.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

12 Ergänzungen

  1. Bei radioeins klang das heute eher so, dass der AI-Act der EU eigentlich nachgebessert werden müsste, hinsichtlich Bildern, die (auch) mit KI erstellt wurden (weil es da zu schwammig, bzw. nicht geregelt ist, falls es nicht gerade ein krasser deep-fake ist)
    https://www.radioeins.de/programm/sendungen/mofr1013/online_onair/kennezichnungspflicht-von-ki-bildern.html
    => Also vielleicht muss man in Zukunft eher Fakten-Photos, – die gar nicht bearbeitet wurden – , als solche kennzeichnen : )

    1. Danke für den Link, liebe Irene, ein hörenswerter Beitrag! Wobei ich die wohlwollende Deutung, dass er bestimmt etwas Neues damit gemeint hat, so nicht teile. Aus dem RND-Interview lese ich nicht raus, dass die Forderung darüber hinausginge, Inhalte zu kennzeichnen, die „einer Person fälschlicherweise authentisch vorkommen könnten“, wie es auch im AI Act heißt. Buschmann spricht selbst z.B. ausdrücklich vom Missbrauch des Gefühls von Authentizität sowie von der Abbildung der Wirklichkeit. Deshalb gehe ich nicht davon aus, dass er in diesem Kontext sowas vor Augen hatte wie KI-generierte Kinderbuch-Illustrationen oder so. 🤔 Spannend wird auf jeden Fall die Frage, wie genau diese Kennzeichnungspflicht umgesetzt wird.

      1. Kriminelle oder andere Menschen mit bösen Intentionen werden diese Kennzeichnungen ganz einfach entfernen und dadurch ihren Inhalten noch viel mehr vertrauen zusprechen. Da Menschen dann einfach lernen werden „keine Kennzeichnung, also echt!“. Sehr gefährlich und dämlich diese Idee.

        1. Das wird auch aus Versehen passieren, alleine schon in der „Startphase“, in der sich zwölf Dickschiffe nicht auf einen Standard für den Bürger einigen können bzw. wollen, wie viele Jahrzehnte das auch immer diesmal dauern soll.

          Menschen ohne Intentionen bearbeiten was, und schon sind Metadaten weg, oder das Wasserzeichen ist nicht mehr wirksam. Ist halt ein Problem mit nicht sichtbarem Wasserzeichen, und dann noch die Idee, dass ich aus so einem Werk ja ein eigenes machen kann, wenn ich genügend ändere. Nun ist genügend ein großes entropisches Fragezeichen. Da bin ich auch noch mal gespannt, bei wieviel Prozent die Forschung da gerade noch mal so ist.

  2. Meinem Verständnis nach richtet sich die Verpflichtung im AI Act allein an „Anbieter von KI Systemen“ selbst. Das heißt, wenn ich als Nicht-Anbieter eines solchen Systems mir bei einem Anbieter Bilder generieren lasse und diese für meine Zwecke verwende, müsste ich nach dem AI Act nicht kennzeichnen. Und die wenigstens Redaktionen, Unternehmen etc. betreiben eigene KI Systeme. Deshalb dürfte der Anwendungsbereich der Kennzeichnungspflicht im AI Act äußerst beschränkt sein. Oder übersehe ich hier was?

  3. Unabhängig davon, was Herr Buschmann sagte oder meinte: Bisher ist er mir eher als Maulheld denn als Tatmensch aufgefallen. Er scheint sich gerne zu allerlei Themen zu äußern und diese dann unbearbeitet zu den Akten zu legen.

    Beispiel: Hackertoolverbot (siehe https://blog.fefe.de/?ts=9b9f9176).

    1. > … eher als Maulheld denn als Tatmensch aufgefallen.

      Das verkennt völlig was die FDP derzeit politisch sehr aktiv tut: FDP Minister handeln stets proaktiv mit nachhaltiger Wirkung. Sie tun dies mit akribischer Effizienz und machen wirklich alles, was in ihrer Macht steht um jetzt notwendige Investitionen oder Projekte völlig zu verhindern oder solange zu verzögern, das in dieser Legislatur nichts mehr „passiert“.

      Das ist ganz im Sinne des Spruchs von Mathias Döpfner „FDP stärken!“ , um die 3er-Koalition von innen unwirksam zu machen, und damit den Boden für eine „konservative Revolution“ zu bereiten.

    2. „Auf Krawall gebürstet“ – eine Analyse von Lissy Kaufmann, ARD-Hauptstadtstudio.

      Zum „Trio Infernale“ (Lindner, Wissing, Dürr) schreibt sie: „Flankiert wurde Lindner dabei von FDP-Verkehrsminister Volker Wissing, der betonte, dass er – ja, wirklich – noch immer absolut gegen ein Tempolimit sei. Und von Fraktionschef Christian Dürr, der klarmachte, dass der Sozialstaat nicht weiterwachsen dürfe.“

      https://www.tagesschau.de/inland/fdp-strategie-100.html

      Ich denke, die FDP hat nichts mehr zu verlieren. Die Verantwortung und Verpflichtung, für Land und Leute eine gute Politik zu machen, war vielleicht bei dieser Partei ohnehin nie besonders gut ausgeprägt, aber jetzt im politischen Endstadium haben sie sich auch davon befreit, und schädigen lustvoll Staat und Gesellschaft.

  4. Es braucht bald nicht mal mehr Riesenplayer, lediglich die Trainingsdaten verbleiben etwas unhandlich.

    Was liest man da alles, Träumen, Verdauungssystem (Real Life Needs), Reflektion (Iteration), 100000x, … einiges davon wird in der Realität ankommen ;).

  5. Diese Ignoranz von EU-Gesetzgebung ist in Deutschland ein Klassiker, obwohl das bei Digitalthemen auch dank euch wirklich besser geworden ist. Mein Lieblingsbeispiel ist immer noch der damalige Justizminister Heiko Maas, der ein deutsches Gesetz gegen Menschenhandel („human trafficking“) derbe abfeierte und auch genauso durch das deutsche Medienkarussel ging. Es war aber in der Tat eine deutlich verspätete deutsche Umsetzung einer EU-Richtlinie…

  6. Erscheint mir sehr UNDANKBAR gegenüber der FDP, was hier so gepostet wird,
    da ich zu faul bin alle guten Datenschutz-Initiativen der FDP hier zu herauszusammeln,

    nur die von heute: https://www.heise.de/news/Kabinett-einigt-sich-auf-Quick-Freeze-9680309.html
    und meine absolute Lieblings-Nachricht: https://www.heise.de/news/Trojaner-Wie-die-Ampel-beim-Schwachstellenmanagement-die-Kurve-kriegen-will-9670572.html

    Ihr müsst auch mal loben, wenn den Daten-/Privatsphäre-schützenden Politikern nicht der Tank leer laufen soll, also die Energie zum Handeln. Findet Ihr nicht?

    1. „jemand-von-Bü90-Grüne“ klingt halt schon arg nach false-flag.

      Und sich auf „eigene Faulheit“ zu berufen, ist so gar nicht das Selbstverständnis von Grünen.
      Lern erst mal richtig trollen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.