Verschwörungsmythos

Facebook verbietet QAnon

Facebook und Instagram sollen künftig sämtliche Seiten und Gruppen löschen, die in Verbindung stehen mit der QAnon-Bewegung. Vieles spricht dafür, dass der Konzern die Verbreitung dieses Verschwörungsglaubens maßgeblich begünstigt hatte. Nun zieht er die Notbremse.

Warten auf Q
Seinen Ursprung hat QAnon in den dunkelsten Ecken des Internets – verbreitet wurden die kruden Botschaften jedoch in den sozialen Medien wie Facebook und Instagram. (Symbolbild) CC-BY 2.0 Marc Nozell | Bearbeitung: netzpolitik.org

Facebook unternimmt einen erneuten Anlauf, um die Flut von Verschwörungserzählungen auf seinen Plattformen aufzuhalten. Bereits zum dritten Mal in sieben Wochen verschärft der Konzern nach eigenen Angaben seine Maßnahmen. Sie richten sich vor allem an QAnon-Gläubige sowie an das, was Facebook als „militarisierte soziale Bewegungen“ bezeichnet.

„Ab heute werden wir sämtliche Facebook-Seiten, -Gruppen und Instagram-Konten löschen, die für QAnon stehen – auch, wenn sie keine gewalttbezogenen Inhalte enthalten“, heißt es in einer Pressemitteilung vom Dienstag. QAnon ist eine Art Superverschwörungsmythos aus den USA, der von einem vermeintlichen Staat im Staat handelt, Insider:innen beim Militärgeheimdienst und sinistren Ritualen, angeblich verübt von den „Mächtigen“ des Landes, zumeist Widersachern von US-Präsident Donald Trump.

Die Bewegung kreist um die Beiträge einer unbekannten Person oder Gruppe, die diese im Netz unter dem Pseudonym Q veröffentlicht. Die Texte sind kryptisch, durchzogen von Vorhersagen mit dem Wahrheitsgehalt eines Horoskops. Anhänger:innen sezieren die Botschaften als wären sie Teil eines großen Spiels. Nur dass irgendwann – an einem Tag der „Großen Erweckung“ – alle Feinde von Trump tatsächlich ausgeschaltet sein sollen.

Die amerikanische Politik hat die Gefahr erkannt, die von alldem ausgeht. Erst kürzlich bezeichnete FBI-Direktor Christopher Wray QAnon bei einer Kongressanhörung als „eine Art komplexen Satz von Verschwörungstheorien“. In einigen Fällen hätten diese womöglich bereits zu Gewalttaten geführt. Vergangene Woche dann verurteilte das Repräsentantenhaus den Verschwörungsmythos per Resolution.

Wachstum trotz Löschungen

Facebook ist mit seinen Maßnahmen nicht alleine. Auch Twitter hatte im Sommer mitgeteilt, die Reichweite von rund 150.000 einschlägigen Konten beschränkt und rund 7.000 mit Bezug zu QAnon gänzlich gelöscht zu haben. Dass Facebook nun noch drastischere Schritte ankündigt, dürfte mit der anstehenden Wahl Anfang November zu tun haben und dem damit verbundenen Kampf gegen Desinformation. Eine Rolle spielt offensichtlich auch, dass die bisherigen Bemühungen nicht den erhofften Effekt haben.

Der Konzern hatte im August zunächst angekündigt, Inhalte zu QAnon oder „militarisierten sozialen Bewegungen“ zu entfernen, wenn sie Gewalt befürworteten. Mehr als 1500 Facebook-Seiten und -Gruppen, die sich QAnon zuordnen ließen, seien im ersten Monat gelöscht worden, teilte der Konzern nun mit. Zudem habe er mehr als 6500 Facebook-Seiten und -Gruppen entfernt, die mehr als 300 „militarisierten sozialen Bewegungen“ angehört hätten.

Der Beschreibung nach könnten darunter zum Beispiel die rechtsextremistischen Boogaloo Bois fallen, halb Mensch, halb Meme. Sie stehen im Verdacht, Proteste gegen staatliche Corona-Maßnahmen und Polizeigewalt in den USA unterwandert und gezielt Gewaltausbrüche herbeigeführt zu haben.

Ein Bericht der New York Times weckte Zweifel an der Wirksamkeit von Facebooks bisherigen Schritten. Die Zeitung hatte die Entwicklung von 100 QAnon-Gruppen beobachtet. Ihrer Auswertung zufolge sind diese im Monat nach der Ankündigung im Schnitt um insgesamt 13.600 Follower:innen pro Woche gewachsen.

Im September justierte Facebook nach eigenen Angaben nach und begann damit, Inhalte bestimmter Facebook-Seiten und -Gruppen erst weiter unten im Newsfeed auszuspielen – also in der Ansicht, die Nutzer:innen als erstes sehen, wenn sie das soziale Netzwerk aufrufen.

Facebook nennt keine Zahlen zu Instagram

Der Konzern will auch schon bei Instagram gegen Verschwörungserzählungen vorgegangen sein. Auffällig jedoch: Im Gegensatz zu den Löschungen bei Facebook nennt er hierfür keine Zahlen. Seine Maßnahmen bei Instagram konzentrierten sich offenbar im Wesentlichen auf Beiträge, die im Zusammenhang stehen mit angeblichen Entführungen von Kindern. Diese spielen eine zentrale Rolle beim Glauben der QAnon-Bewegung.

Es könnte sein, dass Facebook gar nicht in der Lage ist, QAnon-Inhalte bei Instagram effektiv zu erkennen. Solche Probleme zumindest scheint es im Hinblick auf rechtsextremistische Inhalte aus Deutschland zu geben, wie das Recherchezentrum Correctiv berichtet, das gerade die rechten Ecken der Plattform ausleuchtet, unter anderem mithilfe einer großangelegten Datenauswertung.

Dem Bericht zufolge hatte Instagrams Algorithmus unter anderem zugelassen, dass Nutzer:innen Hakenkreuze posteten. Correctiv zitierte auch Gregor Hochmuth, der Instagram mitentwickelt hat und inzwischen ausgestiegen ist: „Wie soll man auf dem Schirm haben, was alles Problematisches auf einer Plattform mit zwei Milliarden Nutzern passiert?“

Facebook schlug Nutzer:innen radikale Gruppen vor

Dass der Konzern noch immer keine Antwort auf solche Fragen gefunden zu haben scheint, entbindet ihn nicht von seiner gesellschaftlichen Verantwortung. Denn Facebook weiß seit Jahren, dass es eine tragende Rolle bei der Radikalisierung von Nutzer:innen spielt. Bereits 2016 legte die interne Präsentation einer Soziologin dar, dass in mehr als jeder dritten großen deutschen Facebook-Gruppe zum Thema Politik extremistische Inhalte verbreitet wurden, wie das Wall Street Journal berichtete. Darunter waren demnach rassistische Beiträge und Verschwörungserzählungen.

Die Präsentation wies zudem auf ein weiteres, beunruhigendes Phänomen hin: 64 Prozent aller Beitritte zu extremistischen Facebook-Gruppen waren laut der Forscherin durch Facebooks eigene Empfehlungsalgorithmen erfolgt. Die Plattform hatte Nutzer:innen zur Radikalisierung geeignete Gruppen aktiv vorgeschlagen.

Der Politikwissenschaftler Brian Schaffner von der Tufts Universität im US-Bundesstaat Massachusetts hat den Verschwörungsglauben von Amerikaner:innen untersucht. Seine kürzlich veröffentlichte Studie kommt zum Schluss, dass Social-Media-Plattformen wie Facebook und Twitter zu den Hauptquellen zählen, durch die Menschen von QAnon erfahren. Im Schnitt gaben rund zehn Prozent der Befragten Social-Media-Nutzer:innen an, auf den Plattformen mindestens einmal täglich Informationen zu QAnon zu sehen.

Für den US-amerikanischen Verschwörungserzählungs-Forscher Mike Rothschild steht außer Frage, dass Facebook an der weiten Verbreitung von QAnon erheblichen Anteil hat. Denn seine Ursprünge hat der Mythos eigentlich in Imageboards wie 4chan und 8chan, das heute 8kun heißt, also in Nischen.

„QAnon fand man zunächst in den schlimmsten Ecken des Internets. Aber dann stieß die Generation der Baby-Boomer darauf und teilte diese Inhalte auf Facebook“, sagte Rothschild bereits im Mai gegenüber netzpolitik.org. Dem Forscher zufolge wurden in den großen QAnon-Gruppen auch Verschwörungserzählungen zum Coronavirus gestreut.

Auch die „Corona Rebellen“ wurden gelöscht

Im Umkehrschluss scheint der Widerstand gegen staatliche Schutzmaßnahmen während der Pandemie nun Menschen mit dem Glauben an QAnon infiziert zu haben, die anfänglich vielleicht nur beim Busfahren keine Maske tragen wollten. Etliche QAnon-Gläubige haben sich unter das Protestvolk gemischt, auch bei den beiden Großdemonstrationen in Berlin im August.

Gegen die „Anti-Corona-Bewegung“ geht Facebook mittlerweile vor. Im September löschte die Plattform eine der größten einschlägigen deutschen Gruppen. Die „Corona Rebellen“ hatten rund 80.000 Mitglieder, geteilt worden waren dem Blog Ruhrbarone zufolge unter anderem Verschwörungserzählungen und Umsturzfantasien.

In seiner Pressemitteilung legt Facebook Wert darauf, zu betonen, dass die Umsetzung der neuen Richtlinie Tage und Wochen dauern würde. Dafür spricht auch ein Video, das die amerikanische Reporterin Jesselyn Cook am Dienstagabend twitterte. Es zeigt, wie Instagram Nutzer:innen auch weiterhin zahlreich Profile mit eindeutigem Bezug zu QAnon vorschlägt.

17

Teile dieser Bewegung beklagen dennoch bereits Zensur, Q selbst sucht offenbar nach einem Ausweg. Schon vor Wochen forderte die unbekannte Person oder Gruppe Verschwörungsgläubige dazu auf, künftig auf Referenzen zu QAnon zu verzichten. Ein Verhalten, das typisch ist für Verschwörungsideolog:innen, die auch ihren Antisemitismus häufig hinter Codes und Chiffren verstecken.

In den sozialen Medien tarnen Anhänger:innen den Mythos nun zum Beispiel mit Rechenspielchen. Statt von Q ist die Rede von „15+2“ oder „18-1“. Warum? Weil Q der 17. Buchstabe des Alphabets ist.

Wie gut sind Algorithmen eigentlich im Rätselraten?

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

7 Ergänzungen
  1. Warum seid ihr generell gegen Zensur, außer wenn es um politisch unliebsame Meinungen geht. Verschwörungstheorien sind von der Meinungsfreiheit gedeckt.
    Der Artikel spricht sich quasi positiv für Zensur aus. Sowas hätte ich von Netzpolitik nicht erwartet.

    Auch unliebsame Meinungen müssen wir alle ertragen…

    1. Nein, müssen wir nicht! Oder hat der geneigte Leser/die geneigte Leserin „M“ Belege für die von QAnon verbreitete Behauptung, nach der eine wie auch immer geartete „Elite“ in geheimen Folterkellern Kindern Blut entnimmt, um sich damit zu verjüngen? Um nur ein Beispiel zu nennen.

      Was allerdings irgendwann zu der Frage führt, ob (der Glaube an) Dummheit unbedingt eine „Meinung“ darstellt, zumal Dummheiten auch dazu führen (können), dass Unbeteiligten Schaden zugefügt wird, was im Falle QAnon bereits der Fall war. Und zu der wiederholt aufgestellten Frage, ob überhaupt von „Zensur“ gesprochen werden kann, wenn eine Plattform, mit deren Bedingungen man sich ausdrücklich einverstanden erklären muss, bevor man sie nutzt, Inhalte oder Gruppen löscht, die eben diesen Bedingungen nicht entsprechen!

  2. Die Rechten und Qanons mögen zwar sehr unsymphatische Spinner sein. Dennoch ist der Einstieg in die Zensur gemacht. Heute trifft es diese Gruppen, morgen vielleicht dann schon welche welche sich für Linke Themen oder Whistleblower einsetzen. Denn das was als „Radikal“ gilt wandelt sich ja beständig.

    Diese Mechanismen die hier im Kampf gegen Rechts etabliert werden, werden am Ende dann auch Linke und Progressive Kräfte im Internet zum Verstummen bringen. Wartet es ab.

  3. Als Netzpolitik an den Start ging, hat man sich noch für Demokratie und Meinungsfreiheit stark gemacht. Lange ists her. Mittlerweile jubelt man, wenn Facebook nach Lust und Laune alles zensiert, was nicht bei drei auf den Bäumen ist. Meinung ist Meinung, ob sie euch schmeckt oder nicht. Und lieber hab ich auch mal ein paar falsche Nachrichten dabei, als nur noch solche, die der Staat vorzensiert hat.

    Schämt euch, dass ihr euch hier auf die Seite der Zensoren schlagt. Ihr habt die Werte, wofür ich euch sogar lange finanziell unterstützt habt, komplett pervertiert! Pfui!

  4. Und was nutzt es, wenn man bei den „Großen“ etwas beanstandet, was sie nicht eben auf dem Schirm haben? Nichts.
    Seite 3 Jahren geistert ein Bild durch FB, welches einen Karton eines bekannten (TK) Pizza Herstellers zeigt. „Die ofenfrische“ mit einem Bild von „Anne Frank“ darauf.
    Ich kann es beanstanden wie ich will, FB juckt es nicht. Es kommt immer wieder.
    Absolut geschmacklos. Rücksichtslos und ignorant.

  5. Vielen Dank netzpolitik.org für diesen Beitrag und auch der möglichkeit diese neue Ideologie in den Kommentaren beobachten zu können.

    Ich finde es gut dass solche Gruppen gelöscht werden. Es hat meines Erachtens nichts mit Zensur zu tun wenn in diesen Gruppen quasi gewaltbereite Menschen angestachelt werden und so quasi rekrutiert werden.

    Ich hoffe, Youtube und Telegramm ziehen nach. Denn liest man sich die Inhalte der Kommentare unter solchen Videos, oder die Nachrichten in solchen Gruppen durch, wird einem Bange.

    Das Internet ist eine großartige Sache, doch mit all der Entwicklung kommt das menschliche gehirn offenbar nicht mehr zurecht. Einer denkt quer und verbreitet es an der „richtigen“ Stelle im Netz und Schwupp gibts ne neue Religion, neue Partei, neue Verschwörungstheorie oder was noch alles möglich ist. Sagt man sich dagegen aus ist man ein Schlafschaf, ein Diener des Systems oder noch Schlimmer, einer von der Lügenpresse.

    Ein Hoch auf das Hirn das in einigen Menschen noch arbeitet und in der Lage ist Fiktion und Realität auseinander zu halten.

    Einst glaubten Menschen in Deutschland Bielefeld sei nicht echt. Das Thema füllte Foren, ließ sie aufeinander losgehen. Dieser Test zur Verbreitung von Verschwörungstheorien war so erfolgreich dass es sich lange gehalten hat. Alles Mist? Alles ausgedacht? Schalten Sie bitte wieder Ihre Köpfe ein. QAnon instrumentalisiert Sie, benutzt Sie. Wer dahinter steckt? Ganz kluge Köpfe die wissen wie man Menschen mit Angst und Ohnmacht manipuliert bis sie das machen, wofür sie selbst nicht bereit sind. Man sucht einen „Dummen“ der dann eben mit der Waffe in ein Pizzageschäft rennt um Kinder aus einem nicht existenten Keller zu retten.

    Wachen Sie auf! Glauben Sie nicht jeden Mist den Ihnen das Internet erzählt und dann weiterträgt und weiter und weiter und weiter.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.