Kampf gegen Desinformation: Mit KI und Crowdsourcing gegen Fake News

Ob Coronapandemie, Donald Trump oder der jüngste russische Angriffskrieg auf die Ukraine: Desinformation spielt immer wieder eine tragende und problematische Rolle in öffentlichen Debatten. Geknackt hat diese harte Nuss aber bislang noch niemand so recht. Nun versucht sich das Forschungsprojekt noFake an einem neuen Ansatz: Mit Hilfe Künstlicher Intelligenz (KI) und Crowdsourcing will das Projekt effektiver gegen Desinformation auf digitalen Plattformen vorgehen.

Koordiniert von der Ruhr-Universität Bochum (RUB), wollen die Technische Universität Dortmund gemeinsam mit dem Recherchezentrum CORRECTIV ein KI-basiertes Assistenzsystem entwicklen. Dieses Assistenzsystem soll freiwillige Crowdworker im Faktencheck-Prozess unterstützen, Menschen sollen dabei stets das letzte Wort haben. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Projekt vollständig mit 1,33 Mio. Euro. Das Ministerium sieht in der Verbreitung von Desinformation eine Gefahr für die Gesellschaft und die Demokratie.

Die KI-basierten Werkzeuge sollen dann „zeitaufwendige und sich wiederholende Arbeitsschritte automatisiert erledigen“, so die noFake-Projektpartner der RUB und von CORRECTIV gegenüber netzpolitik.org: „Dazu gehören beispielsweise die Erkennung von bereits geprüften Behauptungen, automatisiertes Finden und Sortieren relevanter Quellen sowie die visuelle Darstellung von metadatenbasierten Desinformationsindikatoren“. Durch die Arbeitsteilung von Menschen und KI würden mühsame und monotone Arbeitsschritte für die Freiwilligen wegfallen.

Engagierte Bürger*innen werden zu Crowdworkern

noFake stützt sich auf das Zusammenspiel von „Crowdwork“ und KI. Freiwillige Bürger*innen sollen im Zuge des Projektes geschult werden, damit sie nach professionellen, journalistischen Standards die Faktenchecks durchführen können. Mittels digitaler Fortbildungen werden die Freiwilligen dann über Massive-Open-Online-Courseware unterrichtet, um professionell Desinformation aufzudecken.

Das letzte Wort im Prozess um Desinformation behalten bei noFake also die User*innen selbst: „Die Entscheidung über Fakt oder Desinformation belassen wir aber immer bei den menschlichen Nutzern und Nutzerinnen. Wichtig ist dafür besonders, dass unsere KI-Methoden transparent und ihre Entscheidungen gut nachvollziehbar sind“, erläutert Dorothea Kolossa von der Ruhr-Universität Bochum in der Pressemitteilung von CORRECTIV.

Einsatz von KI gegen Desinformation bisher ohne große Erfolge

Bislang waren Versuche KI-basierter Aufdeckung von Desinformation wenig erfolgreich. Laut den noFake-Projektpartnern der RUB und von CORRECTIV liegen die Vorteile des aktuellen Forschungsprojektes aber in dem Zusammenspiel von Menschen und KI:

Erfahrungen von Faktenprüfern und -prüferinnen mit den bisher verfügbaren KI-basierten Ansätzen zeigen, dass KI-Methoden Falschmeldungen von Fakten alleine nicht zuverlässig unterscheiden können. Gleichzeitig suchen Faktencheck-Organisationen wie CORRECTIV nach neuen Möglichkeiten, um der wachsenden Anzahl von Desinformationen zu begegnen. Daher verfolgt noFake das Konzept, die Kompetenzen von Mensch und Maschine zu verzahnen. In dem Projekt betrachten wir KI-basierte Verfahren nicht als vollständig autonom agierende Black-Box-Systeme, die am Ende die Entscheidung treffen.

Falschinformationen weiter auf dem Vormarsch

Nicht erst seit der Corona-Pandemie stehen die Problematiken rund um Desinformation immer wieder im Mittelpunkt von Politik, Medien und Zivilgesellschaft. Aber auch in Bezug auf den russischen Angriffskrieg auf die Ukraine zeigt sich die Relevanz von Faktenchecks. Die EU plant schon länger selbst gegen Desinformation im Netz vorzugehen. Bislang basiert der Verhaltenskodex der EU gegen Desinformation auf Freiwilligkeit der Plattformen selbst. Aktuell plant die EU Sanktionen gegen die Urheber von Desinformationen einzuführen.