Reconquista Internet

Neue Studie zeigt Wirksamkeit von Gegenrede im Netz

Forschende haben an einem Institut in den USA erstmals in großem Umfang untersucht, wie sich Gegenrede im Netz auf Hassrede auswirkt. Dazu trainierten sie zuerst anhand von Reconquista Germanica und Reconquista Internet einen Algorithmus – und erforschten mit diesem, wie Gegenrede den Diskurs verändert.

Wissenschaftler:innen haben die Wechselbeziehung von Gegen- und Hassrede erforscht. (Symbolbild)
Wissenschaftler:innen haben die Wechselbeziehung von Gegen- und Hassrede erforscht. (Symbolbild) Gemeinfrei-ähnlich freigegeben durch unsplash.com Amanda Lins, Ana Flávia | Bearbeitung: netzpolitik.org

Eine neue Studie deutet darauf hin, dass organisierte Gegenrede tatsächlich ein wirksames Mittel gegen Hass im Netz sein könnte. Wissenschaftler:innen aus dem Umfeld des Santa Fe Institute haben untersucht, wie sich Gegenrede in den sozialen Medien auf Hassrede auswirkt. Grundlage für die Erkennung von Hassrede und Gegenrede waren deutschsprachige Tweets aus den Netzwerken der rechten Trollarmee Reconquista Germanica sowie deren Gegenentwurf Reconquista Internet, der von Fernsehmoderator Jan Böhmermann initiiert wurde.

„Die Studie belegt erstmals empirisch, was wir mit ‚Reconquista Internet‘ praktisch erfahren haben: Wer organisierten Hass, rassistische Hetze oder die cleveren Diskursverschiebungskampagnen rechtsextremistischer Netzwerke im Internet erfolgreich bekämpfen will, muss wissen, wie diese verdeckten Manipulationsnetzwerke arbeiten, sie analysieren und gegen sie aktiv werden“, sagt Böhmermann netzpolitik.org.

Wirksamkeit von Gegenrede war bislang kaum erforscht

Der Informatiker Keyan Ghazi-Zahedi hat während seiner Zeit am Max-Planck-Institut in Leipzig an der Studie gearbeitet, gemeinsam mit vier Kolleg:innen aus den USA – unter ihnen auch eine Soziologin und sogar ein Epidemienforscher. Am Santa Fe Institute in New Mexico, an dem Wissenschaftler:innen aus unterschiedlichen Disziplinen zusammenkommen und vor allem sogenannte komplexe Systeme erkunden. „Unsere zentrale Frage war: Bringt Gegenrede im Internet etwas?“, sagt Ghazi-Zahedi.

Bis zu der Studie, die seit Anfang Juni als Preprint vorliegt, war dies kaum erforscht. Es habe hierzu schlichtweg keine groß angelegten Untersuchungen gegeben, schreiben die Forschenden.

Hassrede kann ein Algorithmus noch vergleichsweise leicht erkennen, womöglich schon anhand des verwendeten Schimpfwortvokabulars. Doch bei Gegenrede ist dies deutlich schwieriger. Die Datensätze, um eine KI wirksam trainieren zu können, hätten gefehlt. Dieses Problem wollen die Wissenschaftler:innen nun gelöst haben.

Fündig geworden sind sie dabei in Deutschland. „Neben organisierten rechten Troll-Gruppen gab es hier erstmals eine organisierte Gegenrede-Gruppe“, so Ghazi-Zahedi. Dies ermöglichte es den Wissenschaftler:innen, die Wechselbeziehung zwischen Hass- und Gegenrede zu erforschen.

Der rechte Mob bläst zum Trollsturm

Die Geschichte dieser der Studie zufolge einzigartigen Situation geht zurück bis in die Zeit vor der Bundestagswahl 2017. Damals bildete sich über den Chatanbieter Discord das rechte Netzwerk Reconquista Germanica. Angeführt von einem Mann, der sich Nikolai Alexander nannte und als „Oberbefehlshaber“ inszeniert hatte, organisierten Rechtsextremist:innen hier über Monate hinweg sogenannte Trollstürme.

In konzertierten Aktionen fluteten sie die sozialen Medien mit zum Teil menschenverachtender Propaganda, posteten massenhaft Kommentare voller Hass unter den YouTube-Videos politisch Andersdenkender. Einige Hashtags brachten sie in die Trending Topics auf Twitter, mitunter kaperten sie bereits bestehende mit ihren eigenen rassistischen Botschaften.

Reconquista Germanica ruft zu einer Kampagne gegen deinen ARD-Film auf (Februar 2018).
Reconquista Germanica ruft zu einer Kampagne gegen einen ARD-Film auf (Februar 2018). Alle Rechte vorbehalten Screenshot Daniel Laufer

Auch der Verfassungsschutz beschäftigte sich mit dem Netzwerk. Zeitweise verkehrten mindestens 300 Nutzer:innen auf dem Discord-Server, insgesamt sollen es mehrere Tausend gewesen sein. Weil Manipulation von Anfang an ein Teil der Strategie war, ist unklar, wie groß Reconquista Germanica wirklich war. Indem sie Sockenpuppen-Konten einsetzten, wollten die Rechtsextremist:innen gezielt den Anschein erwecken, die Gruppe sei viel größer als sie es war. Mehrfach löschte Discord ihren Server.

Die Zivilgesellschaft schlägt zurück

Im April 2018 rief der Fernsehmoderator Jan Böhmermann in seiner Sendung dann zu einer Art Gegenbewegung auf. Im „Neo Magazin Royale“ forderte er seine Zuschauer:innen dazu auf, dem neuen Discord-Server Reconquista Internet beizutreten. Genau wie Reconquista Germanica systematisch Hassrede verbreitet hatte, sollte sich dort nun der Widerstand bilden – in Form von organisierter Gegenrede in den sozialen Medien und zivilgesellschaftlichem Engagement.

Jan Böhmermann verkündet im Neo Magazin Royale den Start von Reconquista Internet (April 2018).
Jan Böhmermann verkündet im Neo Magazin Royale den Start von Reconquista Internet (April 2018). Alle Rechte vorbehalten Screenshot/ZDF

„Hass, Hetze und Diskursmanipulation sind die wichtigste und erfolgreichste Strategie rechtsradikaler Verfassungsfeinde“, sagt Böhmermann. „Ihre extremistischen Netzwerke im Internet sind gegenwärtig die größte Gefahr für unser friedliches Zusammenleben und die freiheitlich-demokratische Grundordnung – auch für unser nicht-digitales, echtes Leben.“

Schon nach wenigen Wochen tummelten sich bei Reconquista Internet mehr als 60.000 Mitglieder. Sie tauschten Hass-Postings aus und unterstützten die Betroffenen, indem sie ihnen öffentlich beisprangen.

„Wir wollten von Anfang an Vernunft ins Internet bringen und den Diskurs zivilisieren“, sagt Lorenz Schmidt. „Wenn Unrecht passiert, ist es wichtig, dass man einschreitet und etwas sagt.“ Lorenz Schmidt ist Teil eines nach eigenen Angaben etwa zehnköpfigen Kernteams und Administrator des Discord-Servers. Er heißt eigentlich anders, sein Name ist der Redaktion bekannt. Zu seinem Schutz schreiben wir ihn nicht.

„Gerade zu Beginn haben wir versucht, die Leute zu motivieren“, sagt Schmidt. Inzwischen hat das Engagement von Reconquista Internet in den sozialen Medien ihm zufolge jedoch nachgelassen, viele der Mitglieder sind nicht mehr auf dem Discord-Server aktiv. Stattdessen hätten sich einige kleinere Gruppierungen gefunden, die sich verselbstständig hätten, spezialisiert etwa auf Gegenrede auf Facebook, Twitter oder YouTube. „Reconquista Internet war der Funken, der diese Leute aktiviert hat“, sagt Schmidt.

Wie Reconquista Germanica hat auch Reconquista Internet Spuren im Netz hinterlassen. Den Wissenschaftler:innen hinter der neuen Studie ist es nun offenbar gelungen, diese zu erfassen und auszuwerten. Mehr als neun Millionen Tweets haben sie hierfür gesammelt.

Zwei Datensätze, um die KI-Erkennung zu trainieren

Etwa die Hälfte davon stammte von Konten, die im Zusammenhang standen mit der rechten Trollarmee Reconquista Germanica. Um sie zu erkennen, hielten die Forschenden Ausschau nach bestimmten Kennzeichen, zum Beispiel dem Emoji eines roten Kreuzchens, mit dem sich viele Rechte auf Twitter selbst markiert hatten.

Die übrigen Tweets stammten den Wissenschaftler:innen zufolge aus dem Umfeld von Reconquista Internet. Um die Konten dahinter zu identifizieren, analysierten sie das Netzwerk von rund hundert Nutzer:innen, deren Mitgliedschaft bei Reconquista Internet bekannt war. Die Funde filterten sie anschließend unter anderem nach für die Gruppe typischen Merkmalen in der Selbstbeschreibung auf Twitter.

Mit den beiden Datensätzen trainierten die Forschenden den Machine-Learning-Algorithmus ihres Erkennungssystems.

Was ist Hassrede? Was ist Gegenrede?

Nun mussten sie Wege finden, in der Vielzahl von Tweets Hass- und Gegenrede zu identifizieren.

Deshalb legten die Wissenschaftler:innen eine sogenannte Vertrauensschwelle fest: Nur wenn ihr System sozusagen überzeugt war, einen Tweet mittels einer sprachlichen Analyse als Hass- oder Gegenrede erkannt zu haben, sollte es diesen auch als solchen klassifizieren. Obwohl sich dies bei Gegenrede als deutlich schwerer herausgestellt habe, sagt Ghazi-Zahedi: „Unser KI-System hat gelernt, was typische Aussagen von Hass-Accounts oder von Gegenrede-Accounts sind.“

Um die antrainierten Fähigkeiten ihres KI-Systems zu überprüfen, rekrutierten die Forschenden über die Crowdworking-Plattform Mechanical Turk schließlich 55 Menschen. Mithilfe eines Tests des Goethe-Instituts stellten sie sicher, dass diese die deutsche Sprache gut genug verstanden.

Dann bewerteten die Testpersonen insgesamt 5.000 zufällig aus den Datensätzen ausgewählte Tweets, nach einer Skala von eins („mit hoher Wahrscheinlichkeit Gegenrede“) bis fünf („mit hoher Wahrscheinlichkeit Hassrede“). Neutrale Inhalte lagen in der Mitte der Skala.

Die Ergebnisse waren vielversprechend: Bei Hassrede stimmten die Bewertungen der Testpersonen den Forschenden zufolge nahezu perfekt mit denen der KI überein. Auch bei Gegenrede sei diese Übereinstimmung sehr stark gewesen. „Das zeigt, dass Gegenrede allgemein von Menschen und KI schwerer zu identifizieren ist. Wir glauben, dass könnte daran liegen, dass Gegenrede vielfältiger ist“, so Ghazi-Zahedi.

Mit dem Algorithmus 200.000 Konversationen untersucht

Als nächstes untersuchten die Wissenschaftler:innen, wie sich Hassrede und Gegenrede mit der Zeit verändert hatten. Hierzu erstellten sie einen dritten Datensatz und sammelten etwa 200.000 Konversationen aus den Jahren 2013 bis 2018, die unter den Tweets großer Konten entstanden waren, wie der Tagesschau, der Journalistin Nicole Diekmann oder der Grünen-Politikerin Katrin Göring-Eckardt. Allesamt waren sie bekannt dafür, Ziel von Hassrede geworden zu sein.

Die Wissenschaftler:innen ist es gelungen, Tweets innerhalb von Konversationen nach Hassrede (rot), Gegenrede (blau) und neutraler Rede (weiß) filtern.
Die Wissenschaftler:innen ist es gelungen, Tweets innerhalb von Konversationen nach Hassrede (rot), Gegenrede (blau) und neutraler Rede (weiß) filtern. Alle Rechte vorbehalten arXiv:2006.01974

Anhand der Bewertungen, die das KI-System den einzelnen Antworten gegeben hatte, errechneten sie das Verhältnis von Hass-, Gegen- und neutraler Rede.

In dem Zeitraum, als Reconquista Internet aktiv wurde, veränderten sich die Anteile von Hass- und Gegenrede.
In dem Zeitraum, als Reconquista Internet aktiv wurde, veränderten sich die Anteile von Hass- und Gegenrede. Alle Rechte vorbehalten arXiv:2006.01974

Die Ergebnisse zeigten, dass das Verhältnis von Gegenrede im April und Mai 2018 deutlich zunahm – also in der Zeit, in der Reconquista Internet gegründet worden war. Im Juli 2018 lag der Anteil von Gegenrede schließlich sogar über dem von Hassrede. „Wir können nicht sagen, dass das Erscheinen von Reconquista Internet das ausgelöst hat, weil wir keine Kausalität bewiesen haben“, sagt Keyan Ghazi-Zahedi.

Mit der Zunahme von Gegenrede wurde Hassrede weniger stark ausgeprägt.
Mit der Zunahme von Gegenrede wurde Hassrede weniger stark ausgeprägt. Alle Rechte vorbehalten arXiv:2006.01974

Zugleich stellten die Forschenden fest, dass sowohl Hass- als auch Gegenrede im Juli 2018 im Durchschnitt weniger stark ausgeprägt waren. Dies deute darauf hin, dass organisierte Gegenrede tatsächlich helfen kann, den polarisierten und hasserfüllten Diskurs im Netz auszugleichen.

Gegenrede führt zu zivilisiertem Diskurs

Die Studie geht auch der Frage nach, welchen Einfluss die Frequenz von Hass- oder Gegenrede auf den späteren Verlauf von Twitter-Konversationen haben. Hierzu untersuchten die Wissenschaftler:innen Twitter-Konversationen, in denen sie jeweils mehr als zehn Tweets mit Hass- und Gegenrede identifiziert hatten.

„Wir sehen, dass Hass mit dem Auftreten von Gegenrede abgenommen hat. Da gibt es einen Zusammenhang“, so Ghazi-Zahedi. Ihre Ergebnisse deuten darauf hin, dass auf Gegenrede häufiger neutrale Rede folgt als auf Hassrede. „Gegenrede ist anscheinend effektiver darin einen zivilisierten Diskurs herbeizuführen, wenn sie organisiert ist.“

Ghazi-Zahedi und seine Kolleg:innen hoffen nun, dass ihre Forschung dazu beitragen wird, die Dynamik hinter Hass- und Gegenrede besser zu verstehen. Womöglich könnte dann sogar die Zivilgesellschaft in den stark polarisierten USA vom Erfolg von Reconquista Internet lernen.

Neue Strategien für die Gegenrede im Netz

Den Wissenschaftler:innen liegen Datensätze vor, die Rückschlüsse darauf zulassen, welche Strategien gegen den Hass im Netz wann erfolgversprechend sind. So ließe sich wohl eine Art Leitfaden entwickeln. „Man könnte zum Beispiel zeigen, wann es Sinn ergibt, einzeln und mit Fakten zu argumentieren oder wann man besser zu zehnt dagegenhält und die Konfrontation sucht“, sagt Ghazi-Zahedi.

Auch ohne eine solche empirische Basis hat Reconquista Internet hierzu bereits Kenntnisse gesammelt. Lorenz Schmidt zufolge beschäftigte sich die Gruppe intensiv mit Argumentationsmustern und Manövern, um Hass im Netz zu begegnen. „Wichtig ist glaube ich, dass jeder erstmal nur das macht, was er sich selbst zutraut“, so Schmidt. „Es gibt natürlich auch Beiträge, bei denen ich empfehlen würde, sie dem Rechtsstaat zu überlassen und anzuzeigen.“

Aus diesem Grund konzentriert sich das ehrenamtliche Team hinter Reconquista Internet heute auf das Projekt „Hass melden“ – eine Plattform, über man strafrechtlich relevante Internetbeiträge zur Anzeige bringen kann. „Laute Gegenrede, Deplatforming in Kooperation mit den sozialen Netzwerken und die Zusammenarbeit mit Staatsanwaltschaft, Polizei und anderen zuständigen Behörden funktionieren“, sagt Jan Böhmermann. Bei Reconquista Internet ist er schon seit dem Sommer 2018 nicht mehr selbst aktiv, seine Rolle hat sich zu der eines Schirmherrn gewandelt.

Der Einfluss, den rechter Hass auf die Gesellschaft hat, ist indes nicht weniger gefährlich geworden. Eine Befragung des Meinungsforschungsinstituts YouGov in Hessen ergab, dass Hassrede im Netz das Meinungsbild verzerren kann, indem sie viele Menschen davon abhält, ihre politische Meinung zu äußern. Extreme Ansichten des rechten Rands wirken verbreiteter als sie es tatsächlich sind, wenn sie unwidersprochen stehen bleiben.

Die neue Studie aus den USA hat nun offenbar die Wirksamkeit eines Gegengifts nachgewiesen.

8 Ergänzungen
  1. Vielen Dank für den Artikel und die Bestätigung, dass Gegenrede sehr sinnvoll ist, auch wenn es manchmal scheint, als kämpfe man gegen Windmühlen.

    Ergänzend hätte ich zwei Veröffentlichungen:

    1. Eine Studie der Heinrich-Heine-Universität Düsseldorf (2019). Eine Erkenntnis der Wissenschaftler um Prof. Ziegele war, dass respektvolle Kommentare, eine respektvolle Anschlussdiskussion fördern.

    https://diid.hhu.de/wp-content/uploads/2019/04/DIID-Precis_Ziegele_V3.pdf

    2. Die Veröffentlichung von #ichbinhier und dem ISD London (2018). Wir kamen zu dem Ergebnis, dass nur 5% der Accounts für 50% der Likes für Hasskommentare zuständig sind. Auch da hatte Reconquista Germanica die Finger im Spiel (wobei sich die Zeiträume hier mit der Studie aus den USA überschneiden werden).

    https://www.isdglobal.org/wp-content/uploads/2018/07/ISD_Ich_Bin_Hier_2.pdf

    Es lohnt hat sich also, den Mund aufzumachen. Vor allem für die still Mitlesenden.

  2. Ja, seht interessant. Insbesondere wirksame Methoden und Anleitungen sollten bekannter gemacht werden (diese großen Kampagnen und/oder regelmässige Teilnahme sind nicht so meins).

    Durchaus von „Reconquista Internet“ beeinflusst habe ich auf einer Nachbarschaftsplattform gute Erfahrungen zu frühen Corona-Beiträgen („nur eine Grippe“, „komisch, dass diese Pandemie vorhergesehen wurde“, „nur mal nachdenken“) machen können – mitfühlend, sachlich, konkret, habe auch mal eine Person direkt angeschrieben. Auf dieser Nachbarschaftsplattform kann man gut sehen, wie Gesprächsverläufe gut oder weniger gut verlaufen können, da sie irgendwo zwischen unüberschaubarer Online-Plattform und realer Nachbarschaft angesiedelt sind.

  3. Ich habe die Erfahrung gemacht, dass deren Foren sehr streng moderiert sind. Das heißt dass Gegenrede gar nicht erst eingestellt wird, egal wie sachlich sie formuliert ist.
    Kann mir jemand auch nur eine einzige kontroverse Debatte bei Tichy oder Broder zeigen? Eben. Und das liegt eben _nicht_nur_ daran, dass links-grün versiffte Zecken wie ich es nicht versuchen würden. Sie zensieren halt einfach weg was ihnen nicht passt, fahren aber koordinierte Verbalatacken auf liberalen Foren wo sie dann innerhalb von Minuten die gefühlte Lufthoheit erobern. Dabei dienen grade die reichweitenstarken Broder und Tichy häufig als Pointer. Es erweist sich als gute, alte Kriegstaktik, den Kampf auf dem Boden des Feindes auszutragen und die eigenen Gefilde frei von Konflikten zu halten.

    1. Hallo Andreas,
      Du hast Recht, die Gegenrede dringt nicht zu den Plattformen durch, auf denen sich die rechten Trolle organisieren.
      Sinnvollerweise erfolgt die Gegenrede dort, wo die rechten Trolle versuchen mit ihrem Unflat die zivile, nicht-rechte Kommunikation zu ersticken, wo sie – wie Du schreibst – die Lufthoheit erobern wollen, im Interesse der ansonsten lesenden und nicht-kommentierenden Mehrheit.

  4. Oppositionelle Gruppen wegen anderer Meinung zu manipulieren, zeugt aber
    ebenfalls nicht von einem besonders ausgeprägten Sinn für Demokratie, oder ?
    Diskurs wäre angesagt und diesen weiter zu verweigern,
    kann und wird zum Rohrkrepierer werden !
    Nur gemeinsam werden wir diese Rezession und damit das Leid der Arbeitenden
    schnell überwinden.
    Die Bevölkerung weiter in Freund und Feind zu spalten ,
    ist gelinde gesagt kontraproduktiv !

  5. Ehrlich gesagt habe ich etwas Bauchschmerzen mit der Platform „Hass melden“.
    Was wäre, wenn jeder z.B. in den Görlitzer Park geht und dort Straftaten (oder vermeintliche) nach Jedermannsrecht verfolgt?

    Ich finde, das alles sollte Sache der Behörden bleiben.

    1. @ Frank
      Da gibt es aber schon einen Unterschied:
      Ich hoffe, ich liege richtig, wenn ich das jetzt so sage: Eine Hassrede – auf welcher Platform auch immer – darf ich melden, muss es aber nicht. Hier ist möglicherweise die oben beschriebene offensive Gegenrede oder neutrale Rede wirkungsvoller.
      Wenn ich aber bei einer beobachtete Straftat, z. B. einen körperlicher Angriff, nichts unternehme (Jedermann-Festnahme oder Benachrichtigen der Polizei/Rettungseinsatz), mache ich mich selbst strafbar. Siehe: https://de.wikipedia.org/wiki/Festnahme#Jedermann-Festnahme
      Eine solche Situation ist mit den im Artikel beschriebenen Untersuchungen und Ergebnissen sicher nicht vergleichbar.
      Die von dir erwähnten „Bauchschmerzen“ kann ich aber gut nachvollziehen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.