FaktencheckEin Chat-Bot soll bei WhatsApp Falschnachrichten aufdecken

Im Kampf gegen Desinformation in verschlüsselten Gruppenchats soll ein Chat-Bot Nachrichten auf WhatsApp nach ihrem Wahrheitsgehalt überprüfen. Nutzer:innen können dem Bot Links, Texte oder Bilder zur Überprüfung schicken – in unserem Test funktioniert das allerdings nicht so gut.

Fünf kleine bunte Spielzeugroboter stehen nebeneinander.
Ob der neue Chat-Bot auch so süß aussieht?(Symbolbild) Gemeinfrei-ähnlich freigegeben durch unsplash.com / Bearbeitung: netzpolitik.org / Eric Krull

Vor der Bundestagswahl am 26. September steigt die Sorge um politische Desinformation im Netz. Die Nachrichtenagentur Agence France-Press (AFP) stellt nun in Kooperation mit Facebook einen deutschsprachigen Chat-Bot für WhatsApp bereit, der Chat-Nachrichten nach Falschnachrichten untersuchen soll. Hierfür können Nutzer:innen einfach eine Nachricht an die Nummer 0172/2524054 schicken.

Die AFP arbeitet seit September 2020 mit Facebook an einem gemeinsamen Faktencheck im deutschsprachigen Raum, heißt es in der Pressemitteilung. Ein Redakteur betreut den neu eingerichteten Chat-Bot auf WhatsApp. Der Bot überprüfe die Anfrage auf mögliche Falschinformationen und sende eine entsprechende Antwort zurück. Dafür verwende das neue Programm Künstliche Intelligenz und lerne mit jeder Anfrage dazu. 

Wir haben den Bot getestet. Entgegen unseren Vorstellungen konnten wir nicht einfach eine Frage oder Nachricht posten. Stattdessen leitet der Chat-Bot anhand von Auswahloptionen durch den Anfragen-Prozess. So führt etwa die Zahl 9 zu den Datenschutzerklärungen und die Zahl 2 zu den neuen AFP-Faktenchecks. Diese beziehen sich allerdings nicht auf Falschinformationen, die der Bot auf WhatsApp überprüft hat, sondern auf Behauptungen, die auf Facebook kursierten. 

Der Screenshot stellt den ersten Schritt des Anfragen-Prozesses auf WhatsApp dar.

Tippt man die Zahl 1, erscheint eine neue Nachricht des Bots, die dazu auffordert, eine Frage zu stellen oder unglaubwürdige Nachrichten, Fotos und Videos zu teilen. Auf unsere Fragen, etwa ob die Bundesregierung die Antifa bezahle, bekamen wir keine inhaltliche Antwort. Stattdessen schickte der Bot einen Hinweis, dass er die Anfrage erhalten habe und diese so schnell wie möglich bearbeite. Außerdem erreichte uns immer wieder die Nachricht, dass eine Anfrage bearbeitet wird, obwohl wir gar keine gestellt hatten.

Drei Stunden später warteten wir immer noch auf eine Antwort des Bots. Der angekündigte Chat-Bot, der schnell und zielsicher antworten solle, ist für uns damit zum jetzigen Zeitpunkt eher eine Enttäuschung. 

Gruppenchats als Quelle für Desinformation

Messenger und private Gruppenchats sind für die politische Meinungsbildung wichtiger denn je, es ist ein Trend, der sich seit Jahren fortsetzt. Der AFP-Global News Leiter Phil Chetwynd erklärt: „Gerade im Wahljahr ist es wichtig, dass Falschinformationen aus privaten Gruppen auf Whatsapp sichtbarer werden.“ 

Seit der Corona-Pandemie kursieren vermehrt Verschwörungserzählungen im Netz. Auch netzpolitik.org setzte sich intensiv mit dem Phänomen der Verschwörungsideologien auseinander und wie die sogenannte Querdenken-Bewegung ihre Falschinformationen im Internet verbreitet.

Das Thema Desinformation war in Deutschland in der Vergangenheit vor allem im Umfeld des politischen Rechtsradikalismus aufgefallen. Aus einer Studie der Stiftung Neue Verantwortung (SNV) geht hervor, dass zur Bundestagswahl 2017 insbesondere die AfD Falschinformationen für ihre rechtspopulistische bis rechtsextreme Inhalte verbreitete.

Kampfbegriff „Dark Social“

In der Debatte um Desinformation in Messengern taucht immer wieder der Begriff „Dark Social“ auf. Damit sind neben dem E-Mailverkehr vor allem private Gruppenchats in Instant-Messengern wie Signal, Threema oder WhatsApp gemeint. Weil die Bedeutung dieser Kanäle zunimmt, entstehen auch ganz eigene gesellschaftliche Probleme dieser Kommunikation außerhalb der klassischen Öffentlichkeit.

Grundsätzlich schwingt beim Begriff des „Dark Social“ immer mit, dass man Licht in diese Form der Kommunikation bringen müsse. Dabei handelt es sich letztlich nur um geschützte, private und verschlüsselte Kommunikation zwischen Individuen.

Der Chat-Bot auf WhatsApp soll der Verbreitung von Desinformation in privaten Chats entgegenwirken und eine Antwort auf eines der Probleme von privater Gruppenkommunikation geben. Max Biederbeck, Ressortleiter bei der AFP für den deutschsprachigen Faktencheck, sieht darin einen großen Vorteil für einen sicheren Wahlkampf im Netz. Er sagt: 

Bei der vergangenen Bundestagswahl fürchteten Expertinnen und Experten noch den Einfluss von unkontrollierbaren ‘Dark Social’-Kanälen auf den Wahlkampf. Wir geben Usern ein ideales Instrument gegen Falschinformationen an die Hand, die sich bisher ungehindert auf Whatsapp ausbreiten konnten.

Würde der Chat-Bot von AFP und WhatsApp gut funktionieren, wäre er tatsächlich ein Anlaufpunkt für Menschen, die eine Information aus einem Chat individuell überprüfen lassen wollen – ohne dass man in die Infrastruktur der verschlüsselten privaten Kommunikation grundlegend eingreift. Gleichzeitig entsteht bei AFP eine Datenbank mit Falschinformationen und es wird überprüfbarer, welche im Umlauf sind.

Update 25.8.2021, 18:21

Nach fünf Stunden bekommen wir eine Nachricht des Bots zugesendet, aus der hervorgeht, dass der Bot die Anfrage vorerst nur an das Team des AFP Faktenchecks weitervermittle. Der Social Bot könne erst dann antworten, wenn er vorher schon eine passende Vorlage erhalten habe. Bis dahin würden weiterhin Menschen recherchieren. Die Nachricht stellt außerdem klar, dass aufgrund der vielen Anfragen die Antwort erstmal dauern könne und „Pauschal-Anfragen“ sich nicht wirklich faktenchecken lassen würden. 

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.