InhaltemoderationSoziale Medien als Handlanger autoritärer Staaten

Große soziale Netze wie Facebook, Twitter und Youtube sind auch in autoritären Staaten aktiv. Dabei beugen sie sich immer wieder fragwürdigen Löschanordnungen und verletzen damit die Menschenrechte. Eine Studie fordert nun eine politische Lösung des Problems.

Russland zählt zu den Spitzenreitern bei der Zensur, ob On- oder Offline. Im Bild das Vorgehen der Polizei gegen eine Demonstration gegen ein Zensurgesetz im Jahr 2016. – Alle Rechte vorbehalten IMAGO / ITAR-TASS

Das Image des Internets als Befreiungsmedium ohne Wenn und Aber ist schon seit einiger Zeit angeschlagen. Besonders problematisch wird es aber, wenn sich Betreiber großer sozialer Medien zu Komplizen autoritärer Staaten machen. Die deutsche Politik sollte sich deshalb inter­natio­nal dafür einsetzen, die Anbieter zu regelmäßigen Menschenrechtsanalysen zu verpflichten, fordert eine Studie der Stiftung Wissenschaft und Politik (SWP).

Nicht alle autoritär geführten Staaten verbieten soziale Medien, zwingen aber die Betreiber der derzeit meist aus den USA stammenden Angebote, repressive staatliche Vorgaben umzusetzen. So ordnete etwa die Regierung Saudi-Arabiens den Videodienst Snapchat an, den Nachrichten­anbieter Al Jazeera von seiner „Discover“-Seite zu nehmen. Facebook wiederum sperrte auf Zuruf die Facebook-Seite einer kurdischen Miliz für türkische Nutzer:innen. Auf soziale Medien beschränkt sich das Problem freilich nicht: So verschwand etwa in Russland eine App des Oppositionellen Alexei Nawalny nach einer Aufforderung der russischen Regierung aus den App Stores von Apple und Google.

Geschäft geht meist vor

Nun könnten sich die Anbieter natürlich unter Protest aus solchen Märkten zurückziehen, vollziehen diesen Schritt allerdings nur in Ausnahmefällen. „Die Bevölkerungen auch autoritärer Staa­ten sind für sie zunächst eine attraktive Ziel­gruppe“, schreiben die beiden Autor:innen Paula Köhler und Daniel Voelsen in der SWP-Studie. Nicht ohne Ironie sei es, „dass Kon­zerne wie Facebook und Google in den USA und Europa auf liberale bis libertäre Rheto­rik zurückgreifen, um sich staatlicher Regu­lierung entgegenzustellen, gleichzeitig aber in vielen Fällen vergleichsweise geräuscharm den Begehren autoritärer Regierungen nachkommen.“ Wenn sich ihnen doch mal eine Begründung entlocken lasse, dann weisen sie etwa darauf hin, dass ein völliger Rückzug womöglich schwer­wiegender für die Bevölkerung wäre, als Anordnungen einer autoritären Regierung zu entsprechen.

Um das Ausmaß des Problems besser einschätzen zu können, werteten die beiden Forscher:innen die inzwischen regelmäßig erscheinenden Transparenzreports der drei großen Anbieter Facebook, Twitter und Youtube aus. Eine Analyse gestalte sich zwar schwierig, weil die Unternehmen ihre Auskünfte unter­schiedlich strukturierten, räumen die Autor:innen ein. Aber es lasse sich etwa aus den Berichten von Youtube herauslesen, dass sich autoritäre Staa­ten sehr viel häufiger als Demokratien auf die „nationale Sicherheit“ oder „Kritik an der Regierung“ beziehen, um unliebsame Inhalte entfernen zu lassen. In demokratischen Staaten haben Löschersuche von Regierungen eher Urheberrechtsverletzungen und Tatbestände wie Verleumdung im Blick.

Aufschlussreich ist auch das Bild der besonders löschwütigen Staaten zwischen 2014 und 2020. Unter den autoritären Staaten stechen Russland und die Türkei hervor, während Indien, Japan, Frankreich und Mexiko zu den Demokratien zählen, die die meisten Anfragen zur Entfer­nung von Inhalten stellten. Dabei würden vor allem Indien und Mexiko auffallen. Diese gelten zwar gemeinhin als demokratische Staaten, doch geraten deren demokratische Institutionen zunehmend unter Druck.

Eine Statistik besonders löschferudiger Staaten. Unter autoritären Systemen sticht Russland hervor, während Indien die meisten Löschanfragen unter demokratischen Staaten stellt.
Staaten mit den meisten Löschanfragen an Betreiber sozialer Medien, 2014-2020, unterteilt in autoritäre und demokratische Staaten. - Alle Rechte vorbehalten Stiftung Wissenschaft und Politik

Frühwarnsystem statt kurz­fristigen Aktivismus

„Im Falle offenkundiger Menschenrechtsverletzungen sind die Unternehmen keineswegs mit einer kom­plexen Abwägung konfrontiert“, heißt es in der Studie. Vielmehr sei im Grunde klar, dass die Anbieter keinen An­for­de­rungen Folge leisten dürfen, die im Wider­spruch zu den Menschenrechten stehen. „Ansonsten droht ihnen, zu Kom­plizen auto­ritärer Herrscher zu werden“, so die Autor:innen. Die Anbieter sollten sich diesen Anforderungen wider­setzen und not­falls in Kauf nehmen, dafür den Zugang zu den entsprechenden Märkten zu verlieren.

Doch letztlich bleibe es die Entscheidung der jeweiligen Unternehmen, wie sie mit diesem Spannungsfeld umgehen – schon allein, weil es keine globale Institution gibt, die verbindliche Leitlinien vorgeben könnte. Einen Zwischenschritt zu einer politischen Lösung könnten indes „strik­tere Vorgaben für regelmäßige Human Rights Impact Assessments darstellen“, schreiben die Autor:innen. Solche Menschenrechtsanalysen müssten sich systematisch mit dem Handeln der Betrei­ber sozialer Medien in autoritären Kontexten auseinandersetzen.

Darauf aufbauend könnten dann Taten folgen, etwa eine Entwicklung frühzeitiger Krisenprotokolle für Länder, die zunehmend autoritär werden. Dies könnte den kurz­fristigen Aktivismus der Plattformen in eine Art digitales Frühwarn­system verwandeln: So ließe sich fest­stellen, wenn in einem Land die Regierungs­anfragen zur Entfernung von Inhalten zu­nehmen. „Eine solche politische Dynamik könnte auf diese Weise rechtzeitig wahrge­nommen und entsprechende Gegenmaßnahmen eingeleitet werden, bevor sich eine Krise zuspitzt.“

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

6 Ergänzungen

  1. „Geschäft geht meist vor“
    Das ist schon länger so, und war bei Konzernen anderer Art auch schon IMMER so.

    Aus der Geschichte lernen… war auch schon immer so.

    Und so wie es aussieht, wird es wohl wieder passieren…

    1. naja, Konzerne gibt es noch nicht sooo lange. Also „schon immer“ ist da Fehlanzeige.

      Und „aus der Geschichte lernen“ – Deutsche haben NICHTS aus ihrer eigenen Geschichte gelernt.
      „nie wieder“ ist die größe Lüge des Landes, Nazis waren nie wirklich weg und seit 2016 sind Nazis auch wieder salonfähig.

      1. Größere und kleinere Unternehmer gab es immer schon :).

        Das Hauptproblem der NAZIs sind aber die Finanzierer und industriellen Unterstützer (bzw. wer auch immer dann mit Macht auf den Plan tritt). Das ist der Teil an dem „nie wieder“ scheitert. Dass reaktionäres, nationalistisches und faschistisches Hand in Hand gehen ist nichts neues und stellt „einfach nur“ eine Standardschwachstelle der Menschheit dar. Diese nicht zu kitten, stellt eine abenteuerliche Fehleinschätzung dar (siehe überall inkl. USA).

  2. Das kurioseste ist natürlich, dass China circa 1400 Anfragen an Youtube gesendet hat, obwohl Youtube in China seit 2009 komplett blockiert wird.
    Man muss auch anmerken: Vietnam und Thailand scheinen im Vergleich zu Frankreich geradezu zurückhaltend zu agieren.

  3. Um es vorweg zu sagen: Ich schätze die Arbeit von SWP-Berlin im Allgemeinen doch sehr, aber die hier gezeigte Infografik verursachte mir mindestens eine halbe Umdrehung des Magens.

    Es geht um die Kategorisierung „Demokratien“. Im Artikel hier wird darauf hingewiesen, dass Mexiko und Indien zwar gemeinhin als demokratische Staaten „gelten“, doch geraten deren demokratische Institutionen zunehmend unter Druck. Bei Brasilien ist es aber auch nicht viel anders.

    SWP-Berlin ist doch sonst nicht bekannt für unterkomplexe Darstellungen, also sehe ich mich dort mal um und finde:

    „Daten für den Regimetyp entnommen aus: Christian Bjørn­skov / Martin Rode, Regime Types and Regime Change: A New Dataset, v.3.2. Weitere Informationen zur Datenanalyse können unter https://bit.ly/SWP22AP02FG08 abgerufen werden.“

    Das kann man zwar so machen, aber schon allein der Grund, dass diese Erläuterung notwendig ist, macht deutlich dass diese Demokratie-Einteilung nur nach „Wahldemokratien“ nicht haltbar ist. Im Grunde offenbart das ein zu einfaches Studiendesign. Eine fundierte Aussagekraft der Studie im Hinblick auf gefährdete Demokratien wäre mehr als wünschenswert gewesen.

    Man möge bei SWP-Berlin bitte zur Kenntnis nehmen, dass nicht jeder Leser sich die Mühe macht, seine kognitiven Dissonanzen selbst aufzuarbeiten. Was hängen bleibt ist der Eindruck, dass SWP-Berlin Länder wie Mexiko, Indien und Brasilien als vollwertige Demokratien hinstellt. Das kann man doch nicht ernsthaft wollen, oder? Ein Verweis auf ein zusätzliches Paper schafft da wenig Abhilfe.

    Wer aus anderer Quelle einen schnellen Länder-Überblick haben möchte, kann sich noch das zu Gemüte führen:
    https://en.wikipedia.org/wiki/Democracy_Index

    Gibt es auch auf der deutschen Wikipedia, ist dort aber nicht aktuell und weniger detailliert.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.