NATO-Analyse: Schwarzmarkt für gekaufte Likes brummt

Es ist immer noch sehr einfach, manipulierte Interaktionen auf sozialen Medien zu kaufen. Dieses Fazit zieht ein NATO-nahes Forschungszentrum aus einer am heutigen Mittwoch veröffentlichten Analyse. Untersucht wurden Facebook, Instagram, Twitter, YouTube, TikTok und die russischen Facebook-Alternative VKontakte.

Nach wie vor verticken Like-Händler:innen im Internet für wenige Euro Kommentare, Follower:innen, Likes und Views. Interessierte können sich damit auf allen gängigen Social-Media-Plattformen den Anschein von Popularität kaufen. Dahinter steckt ein Wettrüsten zwischen Plattformen und Like-Händler:innen. Während Plattformen solche Manipulation offiziell verbieten, nutzen Like-Händler:innen für ihr Geschäft Schlupflöcher.

Einen Einblick in dieses Wettrüsten liefert nun das NATO Stratcom COE. Die Abkürzung steht für Strategic Communications Centre of Excellence. Das Zentrum ist nach eigenen Angaben nicht Teil der NATO-Kommandostruktur und keiner anderen NATO-Einheit unterstellt.

Tausende Likes gekauft

Grundlage der Analyse war eine Stichprobe. Die Forschenden haben für insgesamt 279 Euro manipulierte Interaktionen in sozialen Medien gekauft. Dafür haben sie gerundet 1.400 Kommentare bekommen, 14.0000 Likes, 93.000 Views und 5.800 Shares. Dann haben sie geschaut, woher diese gekauften Interaktionen stammen. So konnten sie rund 9.800 verdächtige Accounts ausmachen. Die Forschenden haben unter anderem beobachtet, ob und wie schnell die Plattformen die gekauften Interaktionen wieder entfernen.

Ergebnis: Wer in diesem Umfang Interaktionen kauft, darf sie wohl eine Weile behalten. Die überwiegende Mehrheit von 92 Prozent der gekauften Interaktionen sei nach vier Wochen noch da gewesen, wie die Forschenden berichten. Praktisch bedeute das, wer etwa 1.000 Likes für eine:n Politiker:in oder ein Restaurant kaufe, habe nach einem Monat noch 920 Likes übrig.

Eine Stichprobe von jeweils 50 bis 150 Accounts haben die Forschenden aktiv bei den Plattformen gemeldet. Damit wollten sie überprüfen, ob die Accounts zumindest nach einem ausdrücklichen Hinweis auf Manipulation gelöscht werden. In den ersten zehn Tagen seien je nach Plattform aber nur bis zu zehn Prozent der gemeldeten Accounts gelöscht worden – also sehr wenig.

NATO-nahe Forschende befürchten politische Einflussnahme

Eine ähnliche Analyse hatte das Forschungszentrum bereits für das Jahr 2020 gemacht. Die neuen Beobachtungen würden sich nicht dramatisch von den alten unterscheiden, heißt es. Aber Manipulation auf sozialen Medien sei im Durchschnitt schneller und günstiger geworden.

Das Fazit der Forschenden: Bei den Social-Media-Unternehmen gebe es eine „anhaltende Unfähigkeit, Manipulationen zu bekämpfen“. Sie sehen darin eine mögliche, politische Gefahr. Diese Gefahr bleibt aber eher theoretisch, wie aus der Analyse hervorgeht. Die gekauften Interaktionen würden „in erster Linie zu kommerziellen Zwecken genutzt“. Auf allen Plattformen beobachtet habe man, dass damit die Sichtbarkeit von Influencer:innen und Promis erhöht werde, von Online-Spielen, Krypto- und Finanzprodukten.

Politisch eher brisant waren den Forschenden zufolge Desinformation über die Corona-Pandemie und Inhalte zur Parlamentswahl in Russland. Bei diesen Inhalten habe man Aktivitäten der verdächtigen Accounts beobachten können. Verdächtige Accounts hätten auch beispielsweise mit den Online-Auftritten eines saudi-arabischen Regierungsbeamten oder eines türkischen Bürgermeisters interagiert.

Solche Beobachtungen sind mit Vorsicht zu genießen: Von außen lässt sich nicht feststellen, ob eine Person solche Interaktionen für sich selbst gekauft hat. Außerdem können Anbieter von Fake-Accounts zunächst ohne Gegenleistung einigen bekannten Persönlichkeiten folgen, damit ihre Fake-Accounts weniger verdächtig aussehen. Dennoch: Soziale Medien seien ein „stark umkämpftes Informationsumfeld“, schreiben die Forschenden. Die NATO müsse ihre Strategien und Fähigkeiten verfeinern.

Analyse blendet wichtigen Knackpunkt aus

Einen Skandal kann die Analyse also nicht aufdecken. Bereits im Jahr 2019 hat der Autor dieses Textes für das VICE-Magazin untersucht, wie Like-Händler:innen weltweit soziale Medien manipulieren und ihre Spuren verwischen. Die Recherche zeichnete nach, wie ein globales Netzwerk durch manipulierte Interaktionen Geld verdient. Bevor Schwärme aus Accounts aber automatisch Likes verteilen können, braucht es viel Handarbeit. Eine Gefahr für die politische Meinungsbildung ließ sich im Zuge der Recherchen allenfalls theoretisch beschreiben.

Die Forschenden des Stratcom COE bezeichnen ihr eigenes Experiment jedenfalls als „bahnbrechend“. Der Titel ihrer Analyse verspricht viel. Demnach habe man untersucht, wie Social-Media-Unternehmen „Manipulation auf Plattformen bekämpfen“. Allerdings müsste das NATO-nahe Forschungszentrum wohl rhetorisch etwas abrüsten, um die eigenen Ergebnisse korrekt einzuordnen. Die Stichprobe hat zunächst nur ermittelt, wie Plattformen auf gekaufte Interaktionen reagieren. Das ist nur eine von vielen Zutaten, die Manipulationskampagnen im Netz ausmachen.

Nicht untersucht wurde etwa der Aufbau realer Influencer:innen, der Einsatz von Werbeanzeigen, vermeintlichen Nachrichtenportalen und Memes sowie hyperaktive Communitys, die sich gezielt zu Hass- und Hashtagskampagnen verabreden. Allein auf Grundlage dieser Stichproben lässt sich kaum ableiten, was Plattformen tatsächlich möglicher Einflussnahme entgegensetzen – und was nicht. Die Forschenden schlussfolgern zwar: „Die Anbieter:innen von Manipulationsdiensten gewinnen nach wie vor das digitale Wettrüsten.“ Dabei wird aber ein wichtiger Knackpunkt ausgeblendet: Wie effektiv können gekaufte Interaktionen überhaupt problematische Inhalte nach oben in die Trends und Newsfeeds katapultieren?

Manipulation in kleinen Dosen

Das öffentliche Meinungsbild wird nicht verzerrt, solange sich automatisierte Accounts nur gegenseitig liken und teilen – ohne, dass Menschen das sehen. Statt zu löschen können Social-Media-Plattformen auf solche Manipulation auch mit algorithmischer Abstrafung reagieren. Das ginge beispielsweise, indem die Reichweite verdächtiger Posts eingeschränkt wird. Diesen Aspekt hat das Forschungszentrum nicht untersucht.

NATO-Zentrum will mit Facebook-Daten forschen dürfen

Im Jahr 2019 konnten die VICE-Recherchen die andere Seite des Wettrüstens zumindest etwas beleuchten. In teils geschlossenen Foren arbeiten sich Like-Händler:innen kontinuierlich daran ab, unter dem Radar von Plattformen wie Instagram zu bleiben. Sie passen das Verhalten ihrer teils automatisiert gesteuerten Accounts immer wieder an. In Online-Shops werben sie damit, dass ihre manipulierten Likes und Follower:innen besonders schwer zu entlarven seien.

Aus den VICE-Recherchen geht hervor: Wer eine große und wirksame Kampagne plant, kann sich kaum auf gekaufte Interaktionen verlassen und muss sie sehr vorsichtig dosieren. Insofern dürfte ihre Bedeutung nicht überschätzt werden. Dazu passt eine Relativierung im Bericht des Forschungszentrums: Demnach hätten Plattformen den Forschenden mitgeteilt, das größere Eingriffe erkannt und bestraft würden; kleinere nicht.

Ranking der Plattformen: Wer löscht am meisten?

Ein spannendes Detail der Analyse ist ein direkter Vergleich der Plattformen. Wer schlägt sich am besten im Kampf gegen gekaufte Interaktionen? Darauf kann die Stichprobe zumindest ein Schlaglicht werfen. Untersucht wurde diese Frage in gleich mehreren Kategorien.

So habe Twitter nach vier Wochen von allen untersuchten Plattformen die meisten gekauften Interaktionen entfernt – übrig waren laut Analyse rund 83 Prozent. An zweiter Stelle kommt TikTok. Die Plattform habe sich im Vergleich zum Vorjahr deutlich verbessert und 85 Prozent der gekauften Interaktionen online gelassen. Es folgen YouTube, Instagram, Facebook und VKontakte.

Weiterhin untersucht wurde etwa, wie teuer die gekauften Interaktionen waren. Instagram sei demnach die am billigsten zu manipulierende Plattform, Twitter die teuerste. Generell habe Twitter mit Blick auf die untersuchten Aspekte die Nase vorn, heißt es in der Analyse. Eine besondere Erwähnung bekam TikTok. Die Plattform habe sich am meisten verbessert, schreiben die Forschenden. Das sei „eine deutliche Erinnerung daran, dass Social-Media-Unternehmen mehr tun können“.

Forschende sehen Regierungen in der Pflicht

Warum gehen die Plattformen nicht härter gegen manipulierte Interaktionen vor? Zumindest einen möglichen Grund nennen die Forschenden in ihrer Analyse: Auch gekaufte Klicks brächten Werbeeinnahmen. Diese Vermutung hatte die gemeinsame Pressestelle von Facebook und Instagram bereits 2019 gegenüber VICE verneint: Betrügerische Aktivitäten seien für alle schlecht, man habe ein großes Interesse, das zu verhindern.

Das Forschungszentrum fordert umfassende Konsequenzen von Politik und Unternehmen. Dienstleister wie PayPal, Visa und Mastercard sollten etwa Zahlungen für Like-Händler:innen einstellen. Regierungen sollten eine unabhängige Aufsicht für Social-Media-Plattformen einrichten. Sie sollten den Druck auf Plattformen erhöhen, Manipulation zu bekämpfen.

Unerwähnt bleibt an dieser Stelle der Analyse, dass das strengere Vorgehen gegen manipulierte Interaktionen auch eine Kehrseite hat. Besonders empfindliche Systeme können zu Overblocking führen. Alltägliche Klicks könnten mit Aktivitäten von Bots verwechselt werden. Es braucht eine Balance, damit auch gewöhnliche Nutzer:innen weiterhin an einer Plattform teilhaben können – ohne ständig CAPTCHAs zu lösen oder gar einen Ausweis vorlegen zu müssen.

Wie viel Spielraum Plattformen im Kampf gegen manipulierte Interaktionen wirklich haben, ließe sich wohl am besten durch gezieltere, unabhängige Forschung ermitteln. Dafür bräuchte es Zugang zu bislang internen Daten. Ein solcher Zugang ist zumindest im neuen Digitale-Dienste-Gesetz geplant, auf das sich die EU vergangene Woche geeinigt hat. Unabhängig davon lobbyieren auch Forschende des Stratcom COE dafür, vermehrt mit Daten der Plattformen forschen zu dürfen.