Facebooks Verfassungsgericht

Kluge Köpfe ersetzen keine Demokratie

Facebook besetzt sein neues Gremium für den Schutz der freien Meinungsäußerung mit Prominenten und juristischem Sachverstand. Dennoch fehlt es an demokratischer Legitimität. Ein Kommentar.

Göttin Justitia
Justitia, die römische Göttin der Gerechtigkeit, in der Darstellung des niederländischen Malers Pieter Gaal. Entblößte weibliche Brüste löscht Facebook zumeist. – Gemeinfrei Rijksmuseum

Alan Rusbridger ist ein kluger Mann. Der frühere Journalist hat als Chefredakteur den britischen „Guardian“ von einem netten, wenig gelesenen Intellektuellenblatt zur wichtigsten englischsprachigen Nachrichtenquelle im Internet gemacht. Unter Rusbridger veröffentlichte der „Guardian“ weltbewegende Geschichten, nicht zuletzt war es das erste Medium, das über die NSA-Enthüllungen Edward Snowdens berichtete.

Rusbridger ist einer von mehreren prominenten Namen in Facebooks neuem „Oversight Board“, einem  Aufsichtsgremium, das die freie Meinungsfreiheit bei heiklen Moderationsentscheidungen auf Facebook und Instagram schützen soll. Die dänische Ex-Premierministerin Helle Thorning-Schmidt ist dabei, ebenso die jemenitische Friedensnobelpreisträgerin Tawakkol Karman.

Facebook kündigte am Mittwoch die ersten 20 Mitglieder des neuen Boards an, viele davon sind Jura-Professorinnen und Juristen. Weitere 20 Mitglieder sollen noch dazukommen. Der Konzern verspricht eine Zusammensetzung aus Mitgliedern aus allen Weltregionen, wenn auch mit nordamerikanischen Überhang. Unterstützt durch ein 130-Millionen-Dollar-Budget handelt es sich wohl um das fachlich beste Gremium, das für Geld zu haben ist.

Rusbridger betont, er habe sich nach reiflicher Überlegung entschieden, Teil des Boards zu werden. Dieses stelle eine bessere Alternative zu staatlichen Eingriffen dar. „Staatliche Regulierung der Meinungsfreiheit ist fast immer problematisch“, schreibt der Ex-Chefredakteur, der einem College an der Universität Oxford vorsteht. „Die derzeitigen Regime in Ungarn, Russland, Polen, Pakistan, Brasilien oder der Türkei – um nur einige zu nennen – würden Facebook liebend gerne ‚regulieren‘. Wir können ahnen, was dabei verloren gehen würde.“

Die Ankündigung bedeutet einen Richtungswechsel für Rusbridger, der noch vor zwei Jahren bei einem Journalismuskongress die Vertreter:innen des Konzerns als „Grinsegesichter“ verhöhnte.

„Entscheidungen transparent und verbindlich“

Angekündigt hatte Facebook die Schaffung das Oversight Board bereits im November 2018. Gründer Mark Zuckerberg schrieb damals in einem Facebookpost von einem „unabhängigen Gremium, dessen Entscheidungen transparent und verbindlich sein werden.“ Also eine Art Verfassungsgericht, das viele der tückischen Fragen grundsätzlich entscheiden soll, die Facebooks Moderator:innen täglich im Sekundentakt lösen müssen.

Mark Zuckerberg
Mark Zuckerberg bei seiner Anhörung im EU-Parlament - Alle Rechte vorbehalten European Union 2018 - Source : EP

Facebook beschäftigt global mehr als 15.000 Menschen, um die Einhaltung seiner Regeln zu überwachen. Vielfach handelt es sich um schlecht bezahlte Beschäftigte von externen Firmen in Ländern des globalen Südens, etwa auf den Philippinen. Sie müssen hunderte Entscheidungen pro Tag treffen, etwa über die Löschung von haarsträubenden Inhalten, bis hin zu Enthauptungsvideos, alles binnen von Minuten.

Nutzende können nun bald gegen Entscheidungen des Konzern Berufung einlegen, etwa wenn ihre Posts gelöscht oder ihre Konto gesperrt wird. Auch Facebook selbst kann Fälle an das Board schicken. Das Gremium kann dann entscheiden, ob es sich der Fälle annimmt. Gegenstand der Entscheidungen ist die Auslegung von Facebooks Gemeinschaftsstandards – also das, was bei Facebook erlaubt ist und was nicht.

Nippel verboten

Facebooks Regeln decken sich vielfach mit gesetzlichen Vorgaben, etwa sind Hassrede und Hetze gegen Minderheiten verboten. Einige Bestimmungen sind hingegen eher als Rücksichtnahme auf prüdere Sitten in Teilen der USA zu werten, etwa das Verbot, Brustwarzen von Frauen zu zeigen.

Facebook passt seine Regeln immer wieder an. Im Winter 2018 verbot Facebook unter Eindruck eines neues US-Gesetzes gegen Menschenhandel jede Form der „sexuellen Anbahnung“. Zuletzt irrlichterte der Konzern um seine eigene Entscheidung, Äußerungen von wichtigen politischen Figuren wie dem US-Präsidenten Donald Trump auch dann nicht zu löschen, wenn sie offenkundig falsch oder irreführend sind.

Ein Beispiel für die Entscheidungen, die sich bei der Moderation von Inhalten stellen, lieferte Facebook am selben Tag, an dem es die Mitglieder des Oversight Board ankündigte. Das soziale Netzwerk teilte die Entfernung von Gruppen, Seiten und Konten mit, die die QAnon-Verschwörungstheorie verbreiteten.

Als Begründung nennt Facebook deren „koordiniertes unauthentisches Verhalten“ – dabei handelt es sich um eine sprachliche Formel, mit der der Konzern Fake-Konten mit problematischen Inhalten identifiziert. In der Vergangenheit waren das häufig angebliche Desinformationskampagnen von Staaten. Was aber QAnon von anderen toxischen Verschwörungstheorien trennt, die weiter auf Facebook kursieren, etwa denen der Reichsbürger, das muss der Konzern noch klären.

Was heißt hier verbindlich?

Kritiker:innen weisen von Beginn an auf die Schwächen des Gremiums hin. Eine Schlüsselfrage ist seine Unabhängigkeit. In der Charta des Oversight Board heißt es, das Gremium werde unabhängige Entscheidungen treffen, der Konzern verpflichtet sich dazu, sich an diese zu halten. Die Mitglieder sollen zudem von Facebook alle nötigen Informationen erhalten, um die Entscheidung treffen zu können.

Facebook schränkt das Board an entscheidenden Stellen ein. In Artikel 4 der Charta zur Umsetzung von Entscheidungen heißt es, Facebook werde diese prompt umsetzen, es sei denn, die Umsetzung könnte gegen Gesetze verstoßen. Das gibt dem Konzern Spielraum bei der Interpretation der Vielzahl an Rechtsnormen, denen Inhalte auf Facebook in verschiedenen Jurisdiktionen der Welt unterliegen.

Bedeutend ist auch die Einschränkung, die die Charta bei identischen Inhalten macht – also bei der Frage, inwiefern Entscheidungen einen Präzedenzfalles schaffen. In der Charta heißt es dazu, Facebook „wird Maßnahmen ergreifen, indem es analysiert, ob es technisch und operativ machbar ist, die Entscheidung des Gremiums auch auf diesen Inhalt anzuwenden“. Das gibt Facebook ausreichend Manövrierraum, um unliebsame Entscheidungen im Zweifel umzubiegen.

Fragezeichen gibt es auch bei der Praxistauglichkeit des Gremiums. Seine nuancierten Entscheidungen seien häufig zu kompliziert für den Alltag der zehntausenden Content-Moderatoren bei Facebook, sagt der frühere Facebook-Sicherheitschef Alex Stamos. „Nun, ich liebe Juraprofessoren. […] Einige meiner besten Freunde sind Juraprofessoren. Aber ich weiß wirklich nicht, wie sie sich an die Realitäten großflächiger Inhaltemoderation anpassen werden“, unkte Stamos auf Twitter.

Komplexe Urteile würden vermutlich häufig „an der harten Brandung der Realität zerschellen“, glaubt der frühere Facebook-Mitarbeiter. Denn Abwägungen über freie Rede würden in der Praxis „von Maschinen getroffen werden, die von Menschen überwacht werden, die 30-60 Sekunden Urteilsvermögen auf einen ‚Fall‘ anwenden können, und nicht Wochen wie ein Richter.“

Ähnliche Kritik übt auch der deutsche Jurist Quirin Weinzierl. Es sei unklar, ob und wie weit das neue Gremium gegen automatisierte Moderationsentscheidungen vorgehen könne, argumentierte Weinzierl in einem bereits im September 2019 erschienenen Beitrag für den Verfassungsblog. Facebook könne selbst Auskünfte über seine Moderationsalgorithmen jederzeit als technisch nicht machbar ablehnen.

Nur Teil der Lösung

Der UN-Sonderberichterstatter für freie Meinungsäußerung, David Kaye, wirft eine noch grundsätzlichere Frage auf: Soll ein Social-Media-Konzern überhaupt Kontrolle über Fragen der freien Meinungsäußerung besitzen? Kaye betont, Facebooks Selbst-Regulierung könne nur Teil der Lösung sein, nicht die Lösung an sich.

Tatsächlich füllt Facebook mit seinem Gremium eine Leerstelle auf, die demokratisch legitimierte Staaten im Umgang mit sozialen Medien als Foren der freien Meinungsäußerung gelassen haben. Was im Netz gesagt werden darf, ist klar: Es gelten die selben Regeln off- wie online, das betonen europäische Politiker:innen seit Jahren. Immer wieder gab es Versuche, die Durchsetzung dieser Regeln zu erwirken, etwa durch das deutsche NetzDG, das nur zwei Jahre nach Inkrafttreten schon wieder überarbeitet wird.

Offen bleibt aber die Frage: Wie läuft der Entscheidungsprozess darüber ab, die Moderation der Diskussion? Hierbei überlassen bisherige Regulierungsversuche das Feld großteils den Plattformen. Klar, es mag eingeworfen werden, dass Facebook eine private Plattform ist. Doch mit weltweit drei Milliarden Nutzenden von Facebook, Instagram und WhatsApp bildet die Plattform längst einen öffentlichen Raum, in dem Meinungsfreiheit und andere Grundrechte geschützt werden müssen.

Gremien wie Facebooks neues Verfassungsgericht, wie transparent es auch sein mag, fehlen die demokratische Legitimation, die echte Gerichte von Rechtsstaaten haben. Die Entscheidung, was legitime Rede ist und was nicht, sollte letztlich von Leuten getroffen werden, die nach rechtsstaatlichen und demokratischen Prinzipien ausgewählt wurden, in einem ebenso abgelaufenen Prozess. Und nicht in einem selbstgeschaffenen Tribunal von Facebooks Gnaden, auch wenn noch so viele schlaue Jurist:innen daran teilnehmen.

Einen gesetzlichen Rahmen für die Inhaltemoderation auf Plattformen könnte ein neues EU-Gesetz schaffen, der Digital Services Act, den die Kommission Ende diesen Jahres vorlegen will. Noch ist allerdings unklar, ob er tatsächlich solche Regeln beinhalten wird. Auch dürfte es bis zu seiner Umsetzung noch Jahre dauern. Bis dahin muss Facebooks globale Nutzer:innenschaft mit Rusbridger, Thorning-Schmidt und Co. Vorlieb nehmen.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

9 Ergänzungen
  1. „Alan Rusbridger ist ein kluger Mann.“ Gewiss, das war er. Aber Klugheit hält nicht ewig und ist von Weisheit noch weit entfernt. Als einen klugen Mann bezeichnet man einen, der weitsichtig genug ist und sich der Konsequenzen eigenen Handelns bewußt ist.
    Eine solche Weitsichtigkeit stellte Rusbridger eindrucksvoll unter Beweis, als er im Keller des Guardian auf Weisung und Aufsicht des britischen Geheimdienstes die Festplatten mit den Snowden-Leaks zerstörte. Er hat sich nicht widersetzt und einer breiten Öffentlichkeit gezeigt, wie man Festplatten so zuverlässig zerstört, dass der Geheimdienst mit der Arbeit zufrieden sein kann. So richtig journalistisch Aufmüpfig war der Guardian ’nach Snowden‘ nicht mehr, so zumindest mein Eindruck.

    Ein kluger Mann baut vor. Will meinen, er sichert die Zukunft. Seine eigene, versteht sich. Das Rentnerdasein wird auch immer teurer. Ein Zuckerberg hilft gegen Unterzuckerung.

    Eine Portion klüger in diesem Sinne ist sicherlich Zuckerberg. Er hält sich Hofschranzen, die ihm mit Ansehen aushelfen, das er selbst nicht generieren kann.
    Etwa so, wie es Joe Kaeser mit Lisa Neubauer versucht hat. Doch die war mehr als nur klug.

  2. „Gremien wie Facebooks neues Verfassungsgericht, wie transparent es auch sein mag, fehlen die demokratische Legitimation, die echte Gerichte von Rechtsstaaten haben.“

    Gerichte haben fast nie demokratische Legitimation. Selbst Schöffengerichte entsprechen in keiner Weise den Grundprinzipien demokratischer Repräsentation.

    Wie politisiert die Richterwahl in Deutschland teilweise ist, kann man hier nachlesen:
    https://de.wikipedia.org/wiki/Richterwahlausschuss

    1. Über die demokratietheoretische Verankerung von Gerichtsbarkeit lässt sich sicherlich trefflich streiten, allerdings belegt ja gerade der verlinkte Wikipedia-Eintrag, dass es einen gesetzlich verankerten Modus zur Auswahl von Richter:innen gibt und der von der Justiz selbst und demokratisch legitimierten Organen kontrolliert wird. Insofern würde ich widersprechen, dass Gerichte keine demokratische Legitimation besitzen.

      1. Nach diesem Maßstab wäre die Richterwahl in Polen in besonderem Maße demokratisch legitimiert.

        Nein, Demokratie gibt es in den meisten Staaten bei der Richterwahl nicht, und viele betrachten das als Vorteil.

        1. „Nach diesem Maßstab wäre die Richterwahl in Polen in besonderem Maße demokratisch legitimiert.“

          Ja. Vielleicht nicht in besonderem Maße, aber eine demokratische Legitimität hat die Richterwahl in Polen natürlich auch, genauso wie hier. Dass es da nicht gut läuft, was Gewaltenteilung angeht, heißt nicht, dass es nicht von den Polen so gewählt ist. Ob es gut läuft, hängt eben von der Gesellschaft ab.

          Man kann sich jetzt darauf steif machen, dass die Richterwahl „demokratischer“ wäre, wenn die Richter direkt vom Volk gewählt werden würden. Kann man bei allen Entscheidungen machen, die nicht per Volksabstimmung getroffen werden. Ist bei manchen auch absolut angebracht, aber bei vielen eben nicht praxistauglich. Bei der Richterwahl jetzt finde ich, dass du Recht hast, dass das transparenter laufen sollte. Aber die Bezeichnung als „nicht demokratisch“ ist bescheuert.

          1. @ tmp

            Der entscheidende Maßstab, den wir an Gerichte anlegen, ist die Frage, ob sie unabhängig sind – nicht, ob sie demokratisch legitimiert sind. Wenn ein Polizist einen Einbrecher schnappt, stellt niemand die Frage, ob der Polizist hierzu demokratisch legitimiert ist. Natürlich kann man argumentieren, dass alle Abläufe in einer Demokratie demokratisch legitimiert sind, die entsprechend den gesetzlichen Vorgaben geschehen. Aber das ist letztlich banal.

            Es gibt zur Unabhängigkeit der Gerichte eine lebhafte Debatte innerhalb des Justizsystems und darüber hinaus. Allgemein wünscht man sich mehr Unabhängigkeit und weniger Politisierung. Vielleicht wäre das auch mal ein spannendes Thema für Netzpolitik.org.

          2. Das Polizistenbeispiel schiebt uns aber auf die Ebene einzelner Handlungen.

            Die demokratische Legetimation der Polizei hängt mit Kompetenzverteilung Land-Bund, Gesetzen zur Kontrolle, und internen Kontrollmechanismen zusammen, die alle auf Basis demokratisch legetimierter Gesetzgebung zustandegekommen sind. Im Prinzip kann bei gegebenen Voraussetzungen auch jeder bei der Polizei zu gewisser Laufbahn kommen. Witzigerweise wird der Aspekt dort gebrochen, wo es politisch wird, und Leute eingesetzt werden :p.

            Das Problem was ich sehe ist, wenn Überprüfung und Kontrolle (systematisch) versagen, wenn z.B. Gesetzgebung gegen Demokratie funktioniert, und ein ganz großer Punkt, wenn Gesetzgebung und Richtlinien und letztlich dann das konkrete Wirken zugunsten nicht demokratischer Entitäten funktionieren.

            Im Grunde eigentlich Aufgabe der Verfassung und „des Klägers“, aber in der Realität zeigt sich da schon eine mehr als beginnende Schieflage. Hier hätte ich mir mehr Mechanismen gewünscht, die der ERhaltung von Demokratie dienen.

          3. Du solltest nicht „wir“ schreiben, wenn Du „ich“ meinst.

            Ob die Aktion eines Polizisten demokratisch legitimiert ist, fragen eine Menge Leute, immer wieder, zum Glueck.

            Dass alle gesetzkonformen Ablaeufe demokratisch legitimiert sind ist nicht banal sondern grundlegend fuer einen demokratischen Staat, es setzt eine hinreichend funktionierende Demokratie, Gesetzgebung und Gesetzueberpruefung voraus.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.