In der vergangenen Woche hat Mark Zuckerberg seinen Visionen zur Gestaltung der globalen Gesellschaft in einem recht länglichen Post Ausdruck verliehen, der international als „Facebook Manifest“ diskutiert wird (spannende Einschätzungen finden sich etwa bei The Atlantic und Bloomberg und Techcrunch).
Ausgangspunkt ist die Rolle der Facebook-Plattform in der Bildung einer globalen Gesellschaft. Diese hätte zwar die Möglichkeit, Wohlstand, Freiheit und Frieden voranzubringen und den Herausforderungen von Terrorismus, Klimawandel und Epidemien zu trotzen. Die Existenz von Globalisierungsverlierern und Bewegungen, die der globalen Gemeinschaft entgegenstehen, brächten allerdings die Frage hervor, wie man eine globale Gesellschaft gestaltet, die für alle Menschen funktioniert, und was Facebook dazu beitragen kann.
Die Frage ist im Angesicht von Brexit und Trump natürlich wesentlich. Zuckerberg beantwortet sie mit der Ausdehnung der Funktionen der Plattform: Bislang hätte sich das Unternehmen auf die Verbindung von Freunden und Familien fokussiert, nun wolle sie globale Gemeinschaften selbst unterstützen, dabei v. a. Isolation und gesellschaftliche Fragmentierung bekämpfen. Nun soll an dieser Stelle nicht in Frage gestellt werden, ob die Plattform tatsächlich der sozialen Vernetzung von Menschen untereinander dient oder nicht vielmehr der kapitalistischen Vernetzung der Menschen mit Facebook, dazu ausführlich Aral Balkan. Vielmehr sollen die Kernpunkte des emotionalen und sehr unübersichtlichen Vorschlags vorgestellt und eingeordnet werden, denn er erinnert doch sehr an die Strategie von Donald Trump: Nimm bekannte Probleme, trenne sie von ihrem ursächlichen Kontext und stelle ihnen Lösungen gegenüber, die das Problem verschärfen. Überholte Visionen und Narrative werden von Zuckerberg mit radikalen Innovationen verbunden, die zwar keinen Bezug zu den Problemen haben, aber den Grundfesten liberaler Demokratien zuwider laufen – der Versuch einer Annäherung.
Was tun gegen soziale Spaltung? Mehr Plattform
Zunächst einmal gehe es um die Unterstützung von sozialen Gemeinschaften im Allgemeinen („Supportive Community“): Traditionelle, v. a. lokale Gemeinschaften wie Kirchen, Sportvereine und Gewerkschaften hätten an Bedeutung verloren – mit negativen Auswirkungen auf die soziale Einbindung von Menschen, die etwa Zugehörigkeit, Hoffnung und Orientierung vermittelt, sowie auf die Interessenvermittlung in Demokratien, in denen die unterschiedlichen Gemeinschaften ein wichtiges Bindeglied zwischen dem Einzelnen und der Regierung darstellten. Der daraus resultierenden Hoffnungslosigkeit vieler Individuen sei zu begegnen: durch mehr Werbung für individuell geeignete Interessengruppen seitens Facebook, die Unterstützung ihrer Führungsfiguren sowie die Möglichkeit von hierarchischen Gruppenarchitekturen, z. B. gebildet aus Schulklasse und Schule.
Ob dem Verlust realer Bezugsgruppen und politischer Interessenvertretung durch die Erweiterung digitaler Interessengruppen wirkungsvoll begegnet werden kann, ist fraglich. Aber sinnvoll ist die Strategie mit Sicherheit für Facebook, das 2016 erhebliche Einbußen in Bezug auf seine Nutzeraktivität verzeichnen musste. Doch dieser Vorschlag ist nur ein Einstieg.
Wie tun für die Sicherheit der Gesellschaft? Staaten und Gewaltenteilung abschaffen
Soziale Gemeinschaft soll Sicherheit geben, Schäden verhindern und bei Krisen wie Terrorismus, Naturkatastrophen oder Epidemien Hilfe und Unterstützung bieten. Dem aus dem Nationalstaat bekannten Konzept möchte Zuckerberg unter dem Stichwort „Safe Community“ eine durch künstliche Intelligenz unterstützte Infrastruktur zur Verfügung stellen, die etwa die vorausschauende Identifikation von Selbstmord, Krankheit oder Kriminalität ermöglicht. Darüber hinaus sei die Weiterentwicklung von Infrastrukturen wie dem Safety Check denkbar, die es Personen im Falle von Krisen erlaubt, den Netzwerken Auskunft über das individuelle Wohlergehen zu geben, Ressourcen wie Unterkunft, Verpflegung und Spenden zu verteilen, ja selbst Organspenden zu organisieren.
Zuckerbergs Problem liegt hier im noch unzureichenden Entwicklungsstand der Technologien. Aus demokratischer Perspektive irritiert die völlige Infragestellung nationaler Souveränität und liberaler Gewaltenteilung: Völlig ungefragt und in keiner Weise legitimiert übernimmt Facebook mit dem Safety Check bereits jetzt Funktionen lokaler Polizeibehörden. Doch wer ist eigentlich für Fehlfunktionen verantwortlich, wie sie wie beim jüngsten Anschlag in Berlin auf dem Breitscheidplatz auftraten? Und wer möchte die Analyse, Prävention und Reaktion im Kontext gesellschaftlicher Risiken in den Händen eines intransparenten Medienunternehmens wissen, das bislang nicht einmal Ministern Ansprechpartner bot? Und wer möchte die bereits im Kontext legitimierter Sicherheitsbehörden bislang ungelösten Probleme des Einsatzes künstlicher Intelligenz etwa bei der Kriminalitätsprävention dubiosen weißen Geschäftsmännern aus der Filterbubble „Silicon Valley“ überantworten?
Was tun gegen Fake News und Echokammern bei Facebook? Mehr Babel
Bekanntermaßen sind unsere gesellschaftlichen Diskurse aktuell durch Facebooks Echokammern und seine Verbreitung von Fake News gestört, die die Generierung gemeinsamer Ideen und die Entwicklung eines gemeinsamen Verständnisses behindern. Auch Mark Zuckerberg betrachtet das Problem als wesentlich. Unter dem Stichwort „Informed Community“ warnt er allerdings vor hastigen Mitteln: Ziel sei es, die Komplexität von Realität abzubilden. Die Gegenüberstellung von Perspektiven erhöhe die Polarisierung von Weltbildern. Demgegenüber biete die Verortung und Darstellung einzelner Perspektiven auf einem Meinungsspektrum eine bessere Möglichkeit, Menschen Orientierung über ihre eigene Position zu vermitteln sowie Quellen zu identifizieren und zu stärken, die eine Vielfalt von Perspektiven liefern.
Der Vorschlag ist einerseits höchst spannend, markiert er doch einen Politikwandel in Bezug auf die Verantwortung des Unternehmens als Medienplattform. Auch die Ablehnung von Zensur ist sympathisch. Allerdings bleibt ein entscheidendes Problem: Kämen die Vorschläge zur Einordnung von Inhalten in einer Art Weltbilder-Matrix aus den Händen einer transparenten, dem Gemeinwohl verpflichteten Institution, könnten sie wohl Wesentliches leisten zur politischen Bildung und Medienkompetenz. Doch Facebook trug bislang eindeutig zur Verstärkung von Echokammern und zur Verbreitung von Fake News bei, ein Aspekt, den Zuckerberg vollständig verschweigt. Die systematische und intransparente Reduktion der Varianz von Inhalten im Newsfeed, kombiniert mit manipulativem Targeting der Nutzer, verschärfte die Polarisierung der Diskursräume entscheidend. Unter Fortführung dieser Methoden brächte die Zuordnung und Bewertung von Inhalten und Quellen auf einer Meinungsskala vor allem eins: die Möglichkeit einer noch weitaus granulareren Beeinflussung der Nutzer, auf Basis eines personalisierten Bewusstseins-Managements (Perception Management) unter Beteiligung seiner Nutzer (Crowdsourcing der Bewertung).
Was tun für den Zusammenhalt der Gesellschaft? Gemeinsame Werte abschaffen
Die zukünftige Gesellschaft könne nur dann gemeinschaftliche Werte reflektieren, wenn wir uns in gesellschaftlichen Prozessen und freiwilligen Regulierungs-Arrangements engagierten. Dazu müssten zwei Arten von Infrastrukturen aufgebaut werden: Zum einen ginge es um Technologien, die existierende politische Prozesse etwa bei der Partizipation (z. B. Austausch mit Repräsentanten), Organisation (z. B. Demonstrationen) und Wahlen selbst (z. B. Registrierung) stärken („Civically Engaged Community“).
Andererseits sollten neue Technologien aufgebaut werden, die Partizipation in Entscheidungen ermöglichen, die eine globale Reichweite haben: Unter dem Stichwort „Inclusive Community“ diskutiert Zuckerberg neuartige Prozesse der Willensbildung. Dabei nimmt die Frage nach den gemeinschaftlichen Werten, Community Standards, eine besondere Stellung ein. Da kulturelle Normen weltweit von einem Wandel sowie von einer hohen Vielfalt geprägt seien und auch einzelne Menschen sehr unterschiedlich auf Inhalte reagierten, sei ein global einheitlicher Wertekanon kaum denkbar. Daher müsse man zu lokalen Governance-Formen übergehen: Denkbar sei etwa ein System, in dem Nutzer dazu beitragen können, Community Standards zu setzen. Jede Person soll so wenig verstörende Inhalte wie möglich sehen und durch Einstellung entsprechender Settings selbst entscheiden können, wo ihre Grenzlinie etwa gegenüber Nacktheit oder Gewalt liegt. Personen, die keine Einstellungen treffen, sollten der Mehrheit der Einstellungen in ihrer Region unterliegen. Einstellungen könnten jederzeit verändert werden. Gelöscht würden lediglich solche Inhalte, die verstörender sind als es die liberalsten Einstellungen erlaubten. Das System sollte durch künstliche Intelligenz unterstützt und trainiert werden.
Der Vorschlag zur Personalisierung von Filtern besticht auf den ersten Eindruck durch die Stärkung der Nutzer-Autonomie in der Entscheidung darüber, welche Inhalte individuell angezeigt und herausgefiltert werden. Allerdings steht er nicht nur konträr zu den Vorstellungen etwa der deutschen Regierung, die im Kontext der Löschung von Hatespeech eindeutige Standards in der Content-Regulierung fordert, oder der demokratischen Tradition, Gemeinschaftsstandards in demokratischen Prozessen rechtlich bindend festzulegen (Grundgesetz). Sozialwissenschaftler gingen bislang davon aus, dass funktionierende Gemeinschaften auf einem gemeinsamen Wertekanon bzw. sozialen Normen basieren – eine Annahme, die sich auch bei der Entwicklung und Erprobung alternativer Social Media Designs bewährte. Was passiert, wenn diese normative Maßgabe aufgegeben wird? Da Zuckerberg entgegen seinen Eingangsfloskeln zur Stärkung einer zivil engagierten, globalen Gemeinschaft nicht davon ausgeht, dass es möglich ist, global einheitliche Werte zu entwickeln – bedeutet dann der Vorschlag nicht vielmehr die endgültige Eliminierung der psycho-sozialen Grundlagen von Gemeinschaft, eine Preisgabe der Zivilgesellschaft an vollständig intransparente Echokammern, offen für jede Manipulation? Bedeutet der Vorschlag dann nicht vielmehr, dass jedes Individuum völlig unterschiedliche Bilder und Weltsichten zu sehen bekommt und den Bezug zu den Weltbildern seiner Nachbarn endgültig verliert? Und ist es tatsächlich wünschenswert, die Redaktion unserer Normen und Nachrichten dem nicht nur intransparenten, sondern ob seines Datenanalysepotentials wohl mächtigsten Unternehmen zu überlassen?
Die digitale Gesellschaft gestalten: Checks & Balances für Facebook
Zuckerbergs Aufschlag zur Gestaltung einer digitalen Gesellschaft, die für alle funktioniert, zur Rolle und Weiterentwicklung sozialer Netzwerke zum Wohle der globalen Gesellschaft, ist ob der Herausforderungen unserer Zeit visionär. Allerdings: Seine konkreten Vorschläge laufen aktuell den Zielen zuwider, und der potentiellen Übernahme von Verantwortung für Sicherheit, Gesellschaftsdiskurs und politischer Partizipation steht keine entsprechende Öffnung des Unternehmens gegenüber – eine solche wäre allerdings Voraussetzung für eine Weiterentwicklung der Plattform. Wenn Facebook eine tragende Rolle in der positiven Gestaltung einer globalen Gesellschaft einnehmen möchte, wären zunächst Checks & Balances gefragt, v. a. eine Transparenz im Kontext von Meinungsmanipulation (Newsfeed) und beim Targeting und außerdem natürlich: ein Gespräch mit der Gesellschaft, wohin die Reise gehen soll – wie die Infrastruktur kontrolliert werden kann, welchen Zwecken sie dienen soll und welche Tools der Verwirklichung der Ziele gerecht werden.