Kampf gegen DesinformationMit KI und Crowdsourcing gegen Fake News

Das Projekt noFake will Künstliche Intelligenz und Crowdwork verbinden. Wissenschaftler*innen der Ruhr-Universität Bochum und der Technischen Universität Dortmund sowie das Recherchezentrum CORRECTIV wollen damit effektiver gegen Desinformation im Netz vorgehen.

Ein Laptop steht auf einem Schreibtisch. Auf dem Laptop steht groß Fake News. Im Hintergrund ist unscharf ein Bücherregal, eine Schreibtischlampe und eine Pflanze zu sehen
Das Forschungsprojekt noFake will mit Hilfe von KI und Crowdwork gegen Falschinformation im Netz vorgehen. – Vereinfachte Pixabay Lizenz pixel2013

Ob Coronapandemie, Donald Trump oder der jüngste russische Angriffskrieg auf die Ukraine: Desinformation spielt immer wieder eine tragende und problematische Rolle in öffentlichen Debatten. Geknackt hat diese harte Nuss aber bislang noch niemand so recht. Nun versucht sich das Forschungsprojekt noFake an einem neuen Ansatz: Mit Hilfe Künstlicher Intelligenz (KI) und Crowdsourcing will das Projekt effektiver gegen Desinformation auf digitalen Plattformen vorgehen.

Koordiniert von der Ruhr-Universität Bochum (RUB), wollen die Technische Universität Dortmund gemeinsam mit dem Recherchezentrum CORRECTIV ein KI-basiertes Assistenzsystem entwicklen. Dieses Assistenzsystem soll freiwillige Crowdworker im Faktencheck-Prozess unterstützen, Menschen sollen dabei stets das letzte Wort haben. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Projekt vollständig mit 1,33 Mio. Euro. Das Ministerium sieht in der Verbreitung von Desinformation eine Gefahr für die Gesellschaft und die Demokratie.

Die KI-basierten Werkzeuge sollen dann „zeitaufwendige und sich wiederholende Arbeitsschritte automatisiert erledigen“, so die noFake-Projektpartner der RUB und von CORRECTIV gegenüber netzpolitik.org: „Dazu gehören beispielsweise die Erkennung von bereits geprüften Behauptungen, automatisiertes Finden und Sortieren relevanter Quellen sowie die visuelle Darstellung von metadatenbasierten Desinformationsindikatoren“. Durch die Arbeitsteilung von Menschen und KI würden mühsame und monotone Arbeitsschritte für die Freiwilligen wegfallen.

Engagierte Bürger*innen werden zu Crowdworkern

noFake stützt sich auf das Zusammenspiel von „Crowdwork“ und KI. Freiwillige Bürger*innen sollen im Zuge des Projektes geschult werden, damit sie nach professionellen, journalistischen Standards die Faktenchecks durchführen können. Mittels digitaler Fortbildungen werden die Freiwilligen dann über Massive-Open-Online-Courseware unterrichtet, um professionell Desinformation aufzudecken.

Das letzte Wort im Prozess um Desinformation behalten bei noFake also die User*innen selbst: „Die Entscheidung über Fakt oder Desinformation belassen wir aber immer bei den menschlichen Nutzern und Nutzerinnen. Wichtig ist dafür besonders, dass unsere KI-Methoden transparent und ihre Entscheidungen gut nachvollziehbar sind“, erläutert Dorothea Kolossa von der Ruhr-Universität Bochum in der Pressemitteilung von CORRECTIV.

Einsatz von KI gegen Desinformation bisher ohne große Erfolge

Bislang waren Versuche KI-basierter Aufdeckung von Desinformation wenig erfolgreich. Laut den noFake-Projektpartnern der RUB und von CORRECTIV liegen die Vorteile des aktuellen Forschungsprojektes aber in dem Zusammenspiel von Menschen und KI:

Erfahrungen von Faktenprüfern und -prüferinnen mit den bisher verfügbaren KI-basierten Ansätzen zeigen, dass KI-Methoden Falschmeldungen von Fakten alleine nicht zuverlässig unterscheiden können. Gleichzeitig suchen Faktencheck-Organisationen wie CORRECTIV nach neuen Möglichkeiten, um der wachsenden Anzahl von Desinformationen zu begegnen. Daher verfolgt noFake das Konzept, die Kompetenzen von Mensch und Maschine zu verzahnen. In dem Projekt betrachten wir KI-basierte Verfahren nicht als vollständig autonom agierende Black-Box-Systeme, die am Ende die Entscheidung treffen.

Falschinformationen weiter auf dem Vormarsch

Nicht erst seit der Corona-Pandemie stehen die Problematiken rund um Desinformation immer wieder im Mittelpunkt von Politik, Medien und Zivilgesellschaft. Aber auch in Bezug auf den russischen Angriffskrieg auf die Ukraine zeigt sich die Relevanz von Faktenchecks. Die EU plant schon länger selbst gegen Desinformation im Netz vorzugehen. Bislang basiert der Verhaltenskodex der EU gegen Desinformation auf Freiwilligkeit der Plattformen selbst. Aktuell plant die EU Sanktionen gegen die Urheber von Desinformationen einzuführen.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

Eine Ergänzung

  1. Das artet meiner Meinung nach immer mehr in die unheilvolle mittelalterliche Inquisiton gegen Ketzerei aus, an dem sich jetzt auch noch jeder beteiligen darf. Da sitzen sie dann die kleinen Inquisiteure an ihren Bildschirmen und scannen das Netz auf der Suche nach wer wann was geschrieben hat und wie gemeint haben könnte. Und dann erfolgt eine Lösch- und Wiederherstellungsorgie im Kampf um die Deutungshoheit, wie man sie seit Jahren schon von Wikipediea kennt. Das nimmt neurotische Züge an. 20220310-17:59

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.