Reconquista Internet: Neue Studie zeigt Wirksamkeit von Gegenrede im Netz

Eine neue Studie deutet darauf hin, dass organisierte Gegenrede tatsächlich ein wirksames Mittel gegen Hass im Netz sein könnte. Wissenschaftler:innen aus dem Umfeld des Santa Fe Institute haben untersucht, wie sich Gegenrede in den sozialen Medien auf Hassrede auswirkt. Grundlage für die Erkennung von Hassrede und Gegenrede waren deutschsprachige Tweets aus den Netzwerken der rechten Trollarmee Reconquista Germanica sowie deren Gegenentwurf Reconquista Internet, der von Fernsehmoderator Jan Böhmermann initiiert wurde.

„Die Studie belegt erstmals empirisch, was wir mit ‚Reconquista Internet‘ praktisch erfahren haben: Wer organisierten Hass, rassistische Hetze oder die cleveren Diskursverschiebungskampagnen rechtsextremistischer Netzwerke im Internet erfolgreich bekämpfen will, muss wissen, wie diese verdeckten Manipulationsnetzwerke arbeiten, sie analysieren und gegen sie aktiv werden“, sagt Böhmermann netzpolitik.org.

Wirksamkeit von Gegenrede war bislang kaum erforscht

Der Informatiker Keyan Ghazi-Zahedi hat während seiner Zeit am Max-Planck-Institut in Leipzig an der Studie gearbeitet, gemeinsam mit vier Kolleg:innen aus den USA – unter ihnen auch eine Soziologin und sogar ein Epidemienforscher. Am Santa Fe Institute in New Mexico, an dem Wissenschaftler:innen aus unterschiedlichen Disziplinen zusammenkommen und vor allem sogenannte komplexe Systeme erkunden. „Unsere zentrale Frage war: Bringt Gegenrede im Internet etwas?“, sagt Ghazi-Zahedi.

Bis zu der Studie, die seit Anfang Juni als Preprint vorliegt, war dies kaum erforscht. Es habe hierzu schlichtweg keine groß angelegten Untersuchungen gegeben, schreiben die Forschenden.

Hassrede kann ein Algorithmus noch vergleichsweise leicht erkennen, womöglich schon anhand des verwendeten Schimpfwortvokabulars. Doch bei Gegenrede ist dies deutlich schwieriger. Die Datensätze, um eine KI wirksam trainieren zu können, hätten gefehlt. Dieses Problem wollen die Wissenschaftler:innen nun gelöst haben.

Fündig geworden sind sie dabei in Deutschland. „Neben organisierten rechten Troll-Gruppen gab es hier erstmals eine organisierte Gegenrede-Gruppe“, so Ghazi-Zahedi. Dies ermöglichte es den Wissenschaftler:innen, die Wechselbeziehung zwischen Hass- und Gegenrede zu erforschen.

Der rechte Mob bläst zum Trollsturm

Die Geschichte dieser der Studie zufolge einzigartigen Situation geht zurück bis in die Zeit vor der Bundestagswahl 2017. Damals bildete sich über den Chatanbieter Discord das rechte Netzwerk Reconquista Germanica. Angeführt von einem Mann, der sich Nikolai Alexander nannte und als „Oberbefehlshaber“ inszeniert hatte, organisierten Rechtsextremist:innen hier über Monate hinweg sogenannte Trollstürme.

In konzertierten Aktionen fluteten sie die sozialen Medien mit zum Teil menschenverachtender Propaganda, posteten massenhaft Kommentare voller Hass unter den YouTube-Videos politisch Andersdenkender. Einige Hashtags brachten sie in die Trending Topics auf Twitter, mitunter kaperten sie bereits bestehende mit ihren eigenen rassistischen Botschaften.

Auch der Verfassungsschutz beschäftigte sich mit dem Netzwerk. Zeitweise verkehrten mindestens 300 Nutzer:innen auf dem Discord-Server, insgesamt sollen es mehrere Tausend gewesen sein. Weil Manipulation von Anfang an ein Teil der Strategie war, ist unklar, wie groß Reconquista Germanica wirklich war. Indem sie Sockenpuppen-Konten einsetzten, wollten die Rechtsextremist:innen gezielt den Anschein erwecken, die Gruppe sei viel größer als sie es war. Mehrfach löschte Discord ihren Server.

Die Zivilgesellschaft schlägt zurück

Im April 2018 rief der Fernsehmoderator Jan Böhmermann in seiner Sendung dann zu einer Art Gegenbewegung auf. Im „Neo Magazin Royale“ forderte er seine Zuschauer:innen dazu auf, dem neuen Discord-Server Reconquista Internet beizutreten. Genau wie Reconquista Germanica systematisch Hassrede verbreitet hatte, sollte sich dort nun der Widerstand bilden – in Form von organisierter Gegenrede in den sozialen Medien und zivilgesellschaftlichem Engagement.

„Hass, Hetze und Diskursmanipulation sind die wichtigste und erfolgreichste Strategie rechtsradikaler Verfassungsfeinde“, sagt Böhmermann. „Ihre extremistischen Netzwerke im Internet sind gegenwärtig die größte Gefahr für unser friedliches Zusammenleben und die freiheitlich-demokratische Grundordnung – auch für unser nicht-digitales, echtes Leben.“

Schon nach wenigen Wochen tummelten sich bei Reconquista Internet mehr als 60.000 Mitglieder. Sie tauschten Hass-Postings aus und unterstützten die Betroffenen, indem sie ihnen öffentlich beisprangen.

„Wir wollten von Anfang an Vernunft ins Internet bringen und den Diskurs zivilisieren“, sagt Lorenz Schmidt. „Wenn Unrecht passiert, ist es wichtig, dass man einschreitet und etwas sagt.“ Lorenz Schmidt ist Teil eines nach eigenen Angaben etwa zehnköpfigen Kernteams und Administrator des Discord-Servers. Er heißt eigentlich anders, sein Name ist der Redaktion bekannt. Zu seinem Schutz schreiben wir ihn nicht.

„Gerade zu Beginn haben wir versucht, die Leute zu motivieren“, sagt Schmidt. Inzwischen hat das Engagement von Reconquista Internet in den sozialen Medien ihm zufolge jedoch nachgelassen, viele der Mitglieder sind nicht mehr auf dem Discord-Server aktiv. Stattdessen hätten sich einige kleinere Gruppierungen gefunden, die sich verselbstständig hätten, spezialisiert etwa auf Gegenrede auf Facebook, Twitter oder YouTube. „Reconquista Internet war der Funken, der diese Leute aktiviert hat“, sagt Schmidt.

Wie Reconquista Germanica hat auch Reconquista Internet Spuren im Netz hinterlassen. Den Wissenschaftler:innen hinter der neuen Studie ist es nun offenbar gelungen, diese zu erfassen und auszuwerten. Mehr als neun Millionen Tweets haben sie hierfür gesammelt.

Zwei Datensätze, um die KI-Erkennung zu trainieren

Etwa die Hälfte davon stammte von Konten, die im Zusammenhang standen mit der rechten Trollarmee Reconquista Germanica. Um sie zu erkennen, hielten die Forschenden Ausschau nach bestimmten Kennzeichen, zum Beispiel dem Emoji eines roten Kreuzchens, mit dem sich viele Rechte auf Twitter selbst markiert hatten.

Die übrigen Tweets stammten den Wissenschaftler:innen zufolge aus dem Umfeld von Reconquista Internet. Um die Konten dahinter zu identifizieren, analysierten sie das Netzwerk von rund hundert Nutzer:innen, deren Mitgliedschaft bei Reconquista Internet bekannt war. Die Funde filterten sie anschließend unter anderem nach für die Gruppe typischen Merkmalen in der Selbstbeschreibung auf Twitter.

Mit den beiden Datensätzen trainierten die Forschenden den Machine-Learning-Algorithmus ihres Erkennungssystems.

Was ist Hassrede? Was ist Gegenrede?

Nun mussten sie Wege finden, in der Vielzahl von Tweets Hass- und Gegenrede zu identifizieren.

Deshalb legten die Wissenschaftler:innen eine sogenannte Vertrauensschwelle fest: Nur wenn ihr System sozusagen überzeugt war, einen Tweet mittels einer sprachlichen Analyse als Hass- oder Gegenrede erkannt zu haben, sollte es diesen auch als solchen klassifizieren. Obwohl sich dies bei Gegenrede als deutlich schwerer herausgestellt habe, sagt Ghazi-Zahedi: „Unser KI-System hat gelernt, was typische Aussagen von Hass-Accounts oder von Gegenrede-Accounts sind.“

Um die antrainierten Fähigkeiten ihres KI-Systems zu überprüfen, rekrutierten die Forschenden über die Crowdworking-Plattform Mechanical Turk schließlich 55 Menschen. Mithilfe eines Tests des Goethe-Instituts stellten sie sicher, dass diese die deutsche Sprache gut genug verstanden.

Dann bewerteten die Testpersonen insgesamt 5.000 zufällig aus den Datensätzen ausgewählte Tweets, nach einer Skala von eins („mit hoher Wahrscheinlichkeit Gegenrede“) bis fünf („mit hoher Wahrscheinlichkeit Hassrede“). Neutrale Inhalte lagen in der Mitte der Skala.

Die Ergebnisse waren vielversprechend: Bei Hassrede stimmten die Bewertungen der Testpersonen den Forschenden zufolge nahezu perfekt mit denen der KI überein. Auch bei Gegenrede sei diese Übereinstimmung sehr stark gewesen. „Das zeigt, dass Gegenrede allgemein von Menschen und KI schwerer zu identifizieren ist. Wir glauben, dass könnte daran liegen, dass Gegenrede vielfältiger ist“, so Ghazi-Zahedi.

Mit dem Algorithmus 200.000 Konversationen untersucht

Als nächstes untersuchten die Wissenschaftler:innen, wie sich Hassrede und Gegenrede mit der Zeit verändert hatten. Hierzu erstellten sie einen dritten Datensatz und sammelten etwa 200.000 Konversationen aus den Jahren 2013 bis 2018, die unter den Tweets großer Konten entstanden waren, wie der Tagesschau, der Journalistin Nicole Diekmann oder der Grünen-Politikerin Katrin Göring-Eckardt. Allesamt waren sie bekannt dafür, Ziel von Hassrede geworden zu sein.

Anhand der Bewertungen, die das KI-System den einzelnen Antworten gegeben hatte, errechneten sie das Verhältnis von Hass-, Gegen- und neutraler Rede.

Die Ergebnisse zeigten, dass das Verhältnis von Gegenrede im April und Mai 2018 deutlich zunahm – also in der Zeit, in der Reconquista Internet gegründet worden war. Im Juli 2018 lag der Anteil von Gegenrede schließlich sogar über dem von Hassrede. „Wir können nicht sagen, dass das Erscheinen von Reconquista Internet das ausgelöst hat, weil wir keine Kausalität bewiesen haben“, sagt Keyan Ghazi-Zahedi.

Zugleich stellten die Forschenden fest, dass sowohl Hass- als auch Gegenrede im Juli 2018 im Durchschnitt weniger stark ausgeprägt waren. Dies deute darauf hin, dass organisierte Gegenrede tatsächlich helfen kann, den polarisierten und hasserfüllten Diskurs im Netz auszugleichen.

Gegenrede führt zu zivilisiertem Diskurs

Die Studie geht auch der Frage nach, welchen Einfluss die Frequenz von Hass- oder Gegenrede auf den späteren Verlauf von Twitter-Konversationen haben. Hierzu untersuchten die Wissenschaftler:innen Twitter-Konversationen, in denen sie jeweils mehr als zehn Tweets mit Hass- und Gegenrede identifiziert hatten.

„Wir sehen, dass Hass mit dem Auftreten von Gegenrede abgenommen hat. Da gibt es einen Zusammenhang“, so Ghazi-Zahedi. Ihre Ergebnisse deuten darauf hin, dass auf Gegenrede häufiger neutrale Rede folgt als auf Hassrede. „Gegenrede ist anscheinend effektiver darin einen zivilisierten Diskurs herbeizuführen, wenn sie organisiert ist.“

Ghazi-Zahedi und seine Kolleg:innen hoffen nun, dass ihre Forschung dazu beitragen wird, die Dynamik hinter Hass- und Gegenrede besser zu verstehen. Womöglich könnte dann sogar die Zivilgesellschaft in den stark polarisierten USA vom Erfolg von Reconquista Internet lernen.

Neue Strategien für die Gegenrede im Netz

Den Wissenschaftler:innen liegen Datensätze vor, die Rückschlüsse darauf zulassen, welche Strategien gegen den Hass im Netz wann erfolgversprechend sind. So ließe sich wohl eine Art Leitfaden entwickeln. „Man könnte zum Beispiel zeigen, wann es Sinn ergibt, einzeln und mit Fakten zu argumentieren oder wann man besser zu zehnt dagegenhält und die Konfrontation sucht“, sagt Ghazi-Zahedi.

Auch ohne eine solche empirische Basis hat Reconquista Internet hierzu bereits Kenntnisse gesammelt. Lorenz Schmidt zufolge beschäftigte sich die Gruppe intensiv mit Argumentationsmustern und Manövern, um Hass im Netz zu begegnen. „Wichtig ist glaube ich, dass jeder erstmal nur das macht, was er sich selbst zutraut“, so Schmidt. „Es gibt natürlich auch Beiträge, bei denen ich empfehlen würde, sie dem Rechtsstaat zu überlassen und anzuzeigen.“

Aus diesem Grund konzentriert sich das ehrenamtliche Team hinter Reconquista Internet heute auf das Projekt „Hass melden“ – eine Plattform, über man strafrechtlich relevante Internetbeiträge zur Anzeige bringen kann. „Laute Gegenrede, Deplatforming in Kooperation mit den sozialen Netzwerken und die Zusammenarbeit mit Staatsanwaltschaft, Polizei und anderen zuständigen Behörden funktionieren“, sagt Jan Böhmermann. Bei Reconquista Internet ist er schon seit dem Sommer 2018 nicht mehr selbst aktiv, seine Rolle hat sich zu der eines Schirmherrn gewandelt.

Der Einfluss, den rechter Hass auf die Gesellschaft hat, ist indes nicht weniger gefährlich geworden. Eine Befragung des Meinungsforschungsinstituts YouGov in Hessen ergab, dass Hassrede im Netz das Meinungsbild verzerren kann, indem sie viele Menschen davon abhält, ihre politische Meinung zu äußern. Extreme Ansichten des rechten Rands wirken verbreiteter als sie es tatsächlich sind, wenn sie unwidersprochen stehen bleiben.

Die neue Studie aus den USA hat nun offenbar die Wirksamkeit eines Gegengifts nachgewiesen.