Desinformation auf FacebookErst handeln, wenn es zu spät ist

Manipulationskampagnen auf Facebook verzerren die öffentliche Meinung und können politische Entscheidungen beeinflussen. In vielen Weltregionen handle Facebook aber nicht schnell genug, wirft nun eine Ex-Mitarbeiterin und Whistleblowerin dem Unternehmen vor.

Gegen Manipulationskampagnen auf Facebook vorzugehen ist zermürbend, vor allem wenn Facebook eigene Prioritäten setzt (Symbolbild). Vereinfachte Pixabay Lizenz Free-Photos

Fake-Likes, Hetze, Desinformation: Facebook steht regelmäßig in der Kritik, nicht genug gegen die missbräuchliche Verwendung der Plattform zu tun. Selbst Enthüllungen innerhalb des Unternehmens, die eine verdeckte politische Einflussnahme über Facebook beweisen, ignoriert das soziale Netzwerk immer wieder, so lange es geht. Sophie Zhang, die zweieinhalb Jahre für Facebook arbeitete und „koordiniertes nicht-authentisches Verhalten“ unterbinden sollte, hat jetzt dem Guardian von ihren Erfahrungen bei Facebook berichtet.

Zhang entdeckte unter anderem in Honduras und Aserbaidschan Aktivitäten, mit denen demokratiefeindliche Regierungen versuchten, ihre Macht zu sichern und ihre Bevölkerung zu manipulieren. Sie meldete die Vorgänge, sprach mit Vorgesetzten und dem Facebook-internen „Threat Intelligence Team“. Trotzdem passierte monate-, in manchen Fällen jahrelang nichts.

Ihr wurde mitgeteilt, ohne Druck von außen stünden diese Länder nicht im Fokus des Unternehmens, im Unterschied zu Ländern wie den USA, Taiwan oder Polen. Die Eindämmung von Manipulationskampagnen in den USA und Westeuropa sei wichtiger, sagte ihr der Vizepräsident für Integrität, Guy Rosen. Diese Priorisierung sei „richtig“, soll Rosen gesagt haben.

Im September 2020 wurde Zhang wegen schlechter Leistung gefeuert. Die von ihr aufgedeckten Netzwerke und Aktivitäten, mit denen in Ländern des Globalen Südens Menschen politisch beeinflusst wurden, liefen indes ungestört weiter. Die Unterbesetzung und Untätigkeit Facebooks beschäftigt sie noch heute, wie sie dem Guardian erzählt: „Ich habe immer noch Schlafstörungen. Manchmal war es einfach zu überwältigend und frustrierend. Offen gesagt hätte ich niemals so viel Verantwortung tragen und Macht haben sollen.“ Gegenüber dem Guardian wies Facebook die Vorwürfe zurück.

Verschiedene Strategien nicht-authentischen Verhaltens

Was genau unter „Coordinated Inauthentic Behaviour“ (CIP) fällt, ist nur lose definiert. In seinen Gemeinschaftsstandards nennt Facebook zuvorderst Fake-Profile, aber auch die Verwendung von „Seiten, Gruppen oder Veranstaltungen“, um Nutzende zu täuschen, gehören dazu. Täuschungen umfassen mit diesen Identitäten abgesetzte Kommentare und Likes, vorgeschobene Seiteninhalte oder Inhalte, die auf falschen Tatsachen beruhen.

Eine besonders beliebte Form von „Fake-Engagement“, für die es laut Zhang keine ausreichende Regelung bei Facebook gibt, ist der meinungsverzerrende Einsatz von Facebook-„Seiten“. So darf zwar jeder Mensch nur einen einzigen Account anlegen und nutzen. Diese Einschränkung gilt jedoch nicht für den Betrieb von „Seiten“, wie sie etwa Caféhäuser oder Nachrichtenorganisationen anbieten. Mit Hilfe dieses Schlupflochs kann sich ein einziger individueller Account hinter beliebig vielen Fake-„Seiten“ verstecken und darüber Kommentare, Likes und sonstiges Engagement hinterlassen.

Zhang bemerkte diese Form der Manipulation in exzessivem Ausmaß etwa bei der umstrittenen Wiederwahl des Präsidenten von Honduras, Juan Orlando Hernández. Damals betrieb einer der Administrierenden der Facebook-„Seite“ von Hernández hunderte andere „Seiten“, die wie ganz normale Benutzendenkonten aussahen, also Namen, Profilbilder und Berufsbezeichnungen enthielten. Mit diesen Profilen wurden hunderttausende Fake-Likes auf Hernándezs offizieller Seite hinterlassen, um ihn populärer erscheinen zu lassen und ihm womöglich mehr Reichweite zu verschaffen.

Inzwischen hat Facebook diese Seiten entfernt, aber erst nach einem mühsamen Kampf. Er dauerte ein Jahr, Zhang musste immer wieder insistieren, bis in Honduras 181 Konten und 1.488 Seiten gelöscht wurden. Der Direktor für Globale Bedrohungen bei Facebook, David Agranovich, bedankte sich offiziell für Zhangs Arbeit. Inoffiziell teilte er ihr mit, dass ihr Engagement dazu geführt hätte, einen Präzedenzfall zu schaffen. Profilähnliche Seiten zählten ab da offiziell zu nicht-authentischem Verhalten.

Gegenüber netzpolitik.org teilte ein Facebook-Sprecher mit, dass es unterschiedliche Integritätschecks für Facebook-„Seiten“ gäbe, damit diese nicht für Spam oder ähnliches verwendet würden. Menschen könnten ihre Profile verlieren, sollte ihre „Seite“ in Spam oder Belästigungen verwickelt sein.

Bloß keine schlechte Publicity

Dem Guardian gegenüber berichtete Zhang, dass der Präzedenzfall wenig geändert hätte. Sie deckte immer mehr verdächtige Netzwerke auf, unter anderem in Mexiko, Argentinien, Italien, Afghanistan, Südkorea, Tunesien, der Türkei und vielen weiteren Ländern. In Albanien wurde ein politischer Führer von solchen Netzwerken unterstützt. Die meisten der von ihr gemeldeten Fälle sollen von der Threat Intelligence Agency nicht weiter untersucht worden sein, obwohl sie die Richtlinien von Facebook verletzten.

So auch im Falle des autoritären Aserbaidschans, wo dieselbe Taktik wie in Honduras angewendet wurde. Dort wurde jedoch weniger demokratisches Engagement vorgetäuscht, sondern „Seiten“ dazu benutzt, um massenhaft Regimekritiker zu verunglimpfen. 2019 produzierten diese Seiten 2,1 Millionen Beiträge, in denen Oppositionelle und unabhängige Medien beschimpft und der autokratische Präsident und seine Regierungspartei YAP gelobt wurden. Zhang meldete die Fälle und musste feststellen, dass niemand für das Land zuständig war.

Für Aserbaidschan gab es kein eigenes Team, das Land fiel weder in den Zuständigkeitsbereich Nahost noch in den für Osteuropa. Zuständig war eigentlich das Türkei-Team, doch dort war niemand ausreichend mit der ehemaligen Sowjetrepublik und ihren sprachlichen Nuancen vertraut. Um einschätzen zu können, ob die Posts gegen die Richtlinien verstießen, mussten die Mitarbeitenden Posts mit Google übersetzen. Zhang musste immer wieder insistieren und den Fall in verschiedenen internen Gruppen vorbringen, bis er Beachtung fand. Erst im Dezember wurde ein Team damit beauftragt, die Belästigungskampagnen genauer zu untersuchen, die Arbeit startete im Januar 2020.

Anfang Februar stellte die Untersuchungsgruppe fest, dass die Kampagnen eindeutig mit der Regierungspartei YAP verbunden waren. Einen Monat später wurde das Prioritätslevel der Eskalation ohne Begründung von „hoch“ wieder auf „niedrig“ heruntergestuft. Trotz der Beweise, dass eine nicht-demokratische Partei ihre Bevölkerung über Facebook beeinflusste, wurde der Fall abgetan. Zhang setzte sich erneut dafür ein, unter anderem nach Meldungen über gewaltvolles Vorgehen gegenüber Journalist*innen in Aserbaidschan. Nach ihrer Kündigung im Oktober 2020 wurden 589 Facebook-Konten, 7.665 Seiten und 437 Instagram-Konten gelöscht, die mit der YAP in Verbindung standen.

In einem ausführlichen Abschiedsstatement an ihre Kolleg*innen, das von Buzzfeed News veröffentlicht wurde, schrieb Zhang: „Wir hielten es nicht für wichtig genug, um sie zu stoppen. Ich weiß, dass ich nun Blut an meinen Händen kleben habe.“

Facebook widerspricht der Darstellung von Sophie Zhang in einer Mail an netzpolitik.org „fundamental“. Laut dem Pressesprecher würden die Teams global arbeiten, da es sich um globale Probleme handele, einer Priorisierung widerspricht das Unternehmen jedoch. Zur Größe der Teams gab es keine Auskunft. Laut dem Pressesprecher gehe Facebook aggressiv gegen Missbrauch überall in der Welt vor. Er nennt unterschiedliche Länder wie Moldavien, Mexiko und Pakistan, die einzelnen Sperrungen veröffentlicht Facebook auch auf einer eigenen Webseite mit Beschreibungen der eingesetzten Taktiken.

Es geht auch anders

Dass Facebook auch schnell handeln kann, insbesondere wenn Medien-Skandale drohen, zeigt Zhang an anderen Beispielen. Bei den britischen Parlamentswahlen wurden konstant Aktivitäten überwacht und bei Bedarf gestoppt. Zwei Tage vor den schwedischen Parlamentswahlen änderte Guy Rosen kurzerhand die Facebook-Richtlinien, obwohl es sich in dem Fall nicht mal um vorgetäuschtes Verhalten, sondern um echte Personen handelte, die sich organisiert hatten.

Die anstehenden deutschen Wahlen sind laut dem Sprecher eine Top-Priorität Facebooks. Das Unternehmen habe seit letztem Herbst ein Team erstellt, das unterschiedliche Methoden verwenden werde, um fragwürdige Inhalte früh genug zu erkennen. Parallel dazu wolle man ein System aufbauen, um intern Inhalte zu flaggen, die viral gehen könnten. Diese sollen dann näher überprüft werden. Bereits jetzt hätten sie eine kleine Einsatzzentrale in Baden-Württemberg und Rheinland-Pfalz in Betrieb genommen und sich mit dem Bundesamt für Sicherheit und Informationstechnik zu Wahlbeeinflussung ausgetauscht. Es geht ja, zumindest auf dem Papier – wenn man nur will.

#1MillionForDigitalRights

Wir brauchen eine Million Euro für ein Jahr netzpolitik.org. Eine Million für ein ganzes Jahr kritischen und unabhängigen Journalismus: Denkanstöße, Berichte aus Brüssel, Analysen, Meldungen, Kommentare, Aufklärung, investigative Recherchen und Leaks. Wir machen Druck für Grund- und Freiheitsrechte in der digitalen Welt. Bis wir unser Spendenziel erreichen, fehlt noch sehr viel Geld. Deswegen:

Hier klicken und sofort spenden!

Hier klicken und sofort spenden!

2 Ergänzungen

  1. Es ist ja nicht so, dass die Plattform Facebook nur der wie auch immer gearteten Selbstdarstellung von Benutzern dient. Seit es Facebook Inc. gibt, ging und geht es noch immer um Profit. Längst sind die Taschen prall gefüllt, und Facebook hat sich als global Player etabliert. Fast ist es so, dass wirtschaftlicher Erfolg nicht mehr primär dazu dient, sich die Taschen voll zu stopfen. Jetzt geht es um die Verteidigung und Ausweitung politischer Macht, die Facebook Inc. erlangt hat.

    Facebook nimmt es zwar widerwillig auf sich, teure interne Überwachungsstrukturen zu betreiben, aber dies tut man selbstverständlich nur dort, wo das öffentliche Geheul am lautesten ist und Herrn Zuckerberg am meisten auf die Nerven geht. Insofern verhält sich Facebook wirtschaftlich optimiert, ansonsten aber weitgehendst moralfrei.

    Am genannten Beispiel Aserbaidschan kann man leicht erkennen, wie sich Facebook und das System Aliyev (aka. Alijew, und neuerdings sogar auf der deutschsprachigen Wikipedia nur erschwert auffindbar, weil Əliyev geschrieben) zum gegenseitigen Wohl befruchten. Herr Zuckerberg hat es ganz sicherlich nicht mehr nötig, mit goldenen Uhren beschenkt und mit Kaviar abgefüttert zu werden. Es geht im Teilhabe. Teilhabe an Macht und darum, den Fuß in der Tür zu haben für den Fall, dass der Geschäftsfreund doch mal ordentlich ins Straucheln kommt.

    Das alles mag man nur bemerkenswert finden oder auch nicht. Möglich gemacht wird es aber letztlich durch ein Heer ermüdeter Ignoranten, die man fast nach Belieben durch die Dörfer treiben kann.

    Was also wollen wir beklagen? Dass sich Facebook innerhalb eines kaum reglementierten Rahmen so bewegt, dass es der Firma und seinem Herrn zur ultimativen Freude gereicht?

    Wie naiv wollen wir bleiben? Reicht es, uns lediglich über Facebook et al. zu empören? Das System Alijew ist längst in unsere Gesellschaft eingesickert, wie das System Facebook auch.

    Wer unbedingt schnell reich werden will, der kann sich an den talentierten Herrn Honorarkonsul Hauser wenden: http://www.facebook.com/Konsulat.Aserbaidschan/
    Man kann aber auch versuchen, ihn zu nerven und staunen lernen, welcher abgebrühten Rhetorik man begegnen kann.

    Viel Freude mit http://www.stuttgart-aserbaidschan.de

    Da werden Sie gehelft (sic!).

    1. Die Rolle des früheren Staatssekretärs Otto Hauser wird in der aktuellen SWR-Dokumentation beleuchtet. Der Esslinger war unter Helmut Kohl Regierungssprecher und ist mittlerweile Honorarkonsul von Aserbaidschan. Nach Recherchen des SWR spielte Hauser auch eine Rolle, als die Menschenrechtsaktivistin Leyla Yunus aus Aserbaidschan im Jahr 2013 einen Preis der Stadt Esslingen bekommen sollte.

      Die Fernseh-Dokumentation „Die Aserbaidschan-Connection und der Südwesten“ läuft am 8.7.2021 um 21 Uhr im SWR Fernsehen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.