danah boyd ist Medienwissenschaftlerin und Sozialforscherin, seit 2013 ist sie Präsidentin des Data & Society Research Institute in New York. Dieser Beitrag erschien zunächst auf English auf Backchannel. Übersetzung von Elka Sloan. Alle Rechte vorbehalten.
Es frustriert mich immer mehr (und nicht selten macht es mich wütend), wie über den Umgang mit sogenannten Fake News berichtet wird. Mein Ärger wird immer größer, weil abzusehen ist, wie all die guten Absichten nach hinten losgehen. Ich verstehe durchaus, dass es Leute gibt, die jetzt eingreifen möchten — da hat sich viel Energie angesammelt, und das ganze Thema hat ja auch beträchtliche Konsequenzen für die Demokratie und die Gesellschaft. Aber was da zurzeit um uns herum passiert, ist nicht wirklich neu. Es ist Teil einer langen und komplizierten Geschichte. Es macht deutlich, dass die sozialen, wirtschaftlichen, kulturellen, technischen und politischen Entwicklungen nicht mit simplen Lösungen beantwortet werden können. Es mag sich gut anfühlen, provisorische Lösungen einzusetzen, aber ich befürchte, dass dieser Ansatz von den tieferliegenden Problemen ablenkt, die immer größer werden.
Schauen wir uns doch mal an, was die Befürworter von schnellen Lösungen zu sagen haben: Man müsse Facebook und Google nur dazu zwingen, das Problem zu lösen, indem man dort „Fake News“ erkennt und ihre Verbreitung verhindert. Ich verstehe ja, dass es frustrierend ist, wie die Technologie-Unternehmen gesellschaftliche Entwicklungen abbilden und verstärken können. Regulierungen oder andere Druckmittel, ein Allheilmittel zu erfinden, werden nicht funktionieren. Aus meiner Sicht macht dieser Ansatz drei unterschiedlich schwere Probleme sichtbar:
- Es gibt keine gemeinsame Definition von „Fake News“, obwohl schon unglaubliche Mengen von Text mit Definitionsversuchen verschwendet worden sind.
- Niemand scheint zu verstehen, wie sich das Problem entwickelt, wie sich Manipulation entwickelt oder wie die vorgeschlagenen Ansätze von jenen missbraucht werden können, mit denen man alles andere als einer Meinung ist.
- Keine wie auch immer geartete „Lösung“ geht die eigentlichen Faktoren an, die den Kultur- und Informationskriegen in den USA zugrunde liegen.
Was sind „Fake News?“
Ich werde hier keine endgültige Definition von „Fake News“ liefern, aber ich möchte die mitschwingenden Faktoren beleuchten. In den Diskursen muss „Fake News“ als Sammelbegriff für eine Vielzahl von Phänomenen herhalten: Für jede Form von problematischen Inhalten, seien sie offenkundig oder nur versehentlich unzutreffend, für anzügliche oder angstschürende Überschriften, für hasserfüllte oder hetzerische Rhetorik in Blogs, für Propaganda jeglicher Art (sei es aus staatlichen oder sonstigen Interessen). Im Lauf meiner Tätigkeit habe ich die Entwicklung solcher schwammiger Begriffe miterlebt (unter anderem Bullying, Online Community und Social Networks), die für alle möglichen politischen und wirtschaftlichen Zwecke eingesetzt wurden. Dabei habe ich immer wieder festgestellt, dass alle Diskussionen um die Gefahren von XYZ nichts als Theater sind, wenn es keine präzisen Definitionen oder klar eingegrenzte Probleme gibt.
Im Großen und Ganzen beobachte ich, dass „Fake News“ als Framing für lang-bestehende Agenden und Ziele verwendet wird. Das trifft auf Forscher zu, die seit langem die Macht von Konzernen kritisieren und es trifft auf konservative Vordenker zu, die das Etikett jetzt mit Gusto den von ihnen immer schon verachteten Mainstream-Medien aufdrücken. Dutzende von Meetings werden zum Thema „Fake News“ abgehalten, da alle händeringend nach einer Lösung suchen. Unterdessen verlangen Experten und Vertreter aller denkbaren Richtungen von Firmen, das Problem zu lösen, ohne überhaupt zu versuchen, das Problem zu definieren. Einige konzentrieren sich dezidiert auf Korrektheit und Wahrheit, während andere sich mehr damit beschäftigen, wie verschiedenen Inhalte genutzt werden, um kulturelle Rahmenbedingungen zu schaffen.
Gleichzeitig wird in den Plattform-Unternehmen um durchgängig anwendbare Richtlinien für die dort publizierten Inhalte gerungen. Es erstaunt mich immer wieder, wie inkonsequent sich die Leute darüber äußern, was denn nun unter dem Sammelbegriff „Fake News“ verhindert werden sollte und was nicht – und ich rede hauptsächlich mit Experten.
Es nutzt auch nichts, den Prozess zu öffnen. Wenn die Nutzer aufgefordert werden, „Fake News“ zu melden, dann hagelt es Meldungen von Männerrechtlern, die feministische Blogposts zum Thema Patriarchat als „Fake“ bezeichnen. Teenager und Trolle lassen so gut wie nichts einfach stehen.
Dritte zu beauftragen ist auch nicht viel besser. Die Experten sind sich nicht einmal darüber einig, wer denn nun eine Hassgruppe ist und wer sein Recht auf freie Meinungsäußerung in Anspruch nimmt. Es reicht schon, Leute zu fragen, wie sie dazu stehen, Boulevard-Journalismus oder Breitbart zu blockieren, und die Konflikte werden sofort deutlich.
In der „Fake News“-Debatte geht es meistens um weit verbreitete und schlichtweg schwachsinnige Inhalte. Die fragwürdigsten und heimtückischsten Inhalte im Netz sind aber nicht so leicht zu erkennen. Sie werden nicht so weit verbreitet, und sie werden nicht von denen verbreitet, die sie in Frage stellen. Es sind subtile, faktisch korrekte Texte, die aber in ihrer Darstellungsweise und Gestaltung darauf ausgerichtet sind, ihren Lesern gefährliche Rückschlüsse zu suggerieren, die im Text selbst nicht ausgesprochen werden. So funktioniert wirksame Provokation: Sie zwingt ihre Ideen nicht auf, sondern regt Leser dazu an, die Zusammenhänge selbst zu erschließen. Diese Art Inhalte sind viel mächtiger als Meldungen über UFO-Landungen in Arizona.
Wir halten uns viel zu viel mit kommerziellen Inhalten auf (oft wird das mehr von denen geteilt, die sich darüber aufregen, als von denen, die sie glauben), während zahllose Akteure an manipulativen Inhalten arbeiten, die wesentlich schwerer zu entlarven sind. Sie hacken die Aufmerksamkeitsökonomie und versuchen es wieder und wieder, sobald Leute versuchen, ihre Versuche zu blockieren. Deshalb wirken Meme wie ein Zauber: Einzelne Formulierungen und logische Verknüpfungen werden in Gang gesetzt und durch Bezüge zu Memen aktiviert. Das macht es immer schwieriger, sie zu stoppen.
Ein zusätzliches Problem besteht darin, dass problematische Inhalte immer häufiger nicht mehr text‑, sondern bildbasiert sind. Das macht es noch schwieriger, sie zu verstehen und ihnen beizukommen, denn sie nutzen dabei die unterschiedlichsten kulturellen Bezüge und Symbole. Manche werden sie als ironisch oder kritisch verstehen, andere sehen sie als Konkretisierung und Bekräftigung von Ideen. Recherchieren Sie einmal, wie die Swastika in Cartoons als politisches Statement herhalten muss. Wie Sie das jeweils auffassen, hängt davon ab, was die Swastika für Sie bedeutet.
Problematischer Lösungszwang
Der Druck auf die Unternehmen hat zugenommen, endlich etwas tun – irgendetwas. Dennoch frustriert es mich ohne Ende, dass trotzdem immer noch keine soliden Vorschläge dafür auf dem Tisch liegen, welche Inhalte mit welchem Vorgehen entfernt werden sollten. Es geht immer nur darum, dass „sie“ das machen sollen. Verstehen Sie mich nicht falsch — es gibt etliche einfache Mechanismen, Geldquellen abzuschneiden (allerdings waren andere Anzeigen-Netzwerke schnell zur Stelle, als Google für etliche Seiten die Adsense-Funktionen abgeschaltet hat). Ich bin dafür, dass das Clickbait-Prinzip bekämpft wird, bei dem Links weitergeleitet werden, ohne dass ein Mensch irgendwas liest – dadurch werden Nutzer gezwungen, ihren Kopf zu gebrauchen, bevor sie nur aufgrund einer Überschrift irgendwas weiterverbreiten. Aber unterm Strich sind das Rundungsfehler im Ökosystem, obwohl anscheinend der Eindruck einstanden ist, es sei damit schon viel gewonnen.
Vor zehn Jahren war ich als Ethnografin bei Blogger tätig. Ich habe viel Zeit damit verbracht, mich durch Kundenbeschwerden zu wühlen. Ich habe mir zufällige Blog-Posts und die dazu gehörenden Kommentare angeschaut und kleinere Tools entwickelt, die uns Einblicke in die sich gerade herausbildende Blogosphäre eröffnet haben und mit denen wir problematische Inhalte angehen konnten. Wie bei meiner vorherigen Tätigkeit zum Usenet und später beim Mapping von Twitter-Praktiken war ich auch diesmal verblüfft über den grenzenlosen Einfallsreichtum der Nutzer, die in der Lage waren alles, unsere gut konstruierten Werkzeuge zu umgehen. Ein Beispiel dafür ist die Verbreitung des Themas „Pro-ana“, nachdem wir versucht hatten, Anorexie-verherrlichende Inhalte zu blockieren. Als AOL und andere Dienste alle Bezüge zum Begriff Anorexie blockiert hatten, sind diejenigen, die Anorexie als Lifestyle begriffen, dazu übergegangen, kryptisch von ihrer Freundin Ana zu erzählen und so die Zensur zu umgehen. Blockaden gegen bestimmte Sprachelemente führen nicht selten zu kreativen Umgehungsstrategien.
Diese Entwicklungen sind schon alt. Man denke an die Kämpfe zwischen Spammern und Unternehmen bei E‑Mails und an die vielen Versuche, Spam zu bekämpfen. (Die meisten Verfechter des Dezentralisierungsprinzips werden das nicht gerne hören, aber die Zentralisierung von E‑Mail bei Google war wahrscheinlich effektiver als jede andere Aktion.) Search Engine Optimization (SEO) ist auch so ein Schlachtfeld, auf dem das Ökosystem permanent unter Beschuss steht. (Es wird die meisten Überwachungsgegner irritieren, dass vor allem personalisierte Algorithmen die Wirksamkeit von Massen-Targeting-Aktionen gebremst haben.)
Ein Grund, warum Google und Facebook derzeit im Mittelpunkt der „Fake News“-Debatte stehen, ist, dass diese beiden Unternehmen in bestimmten Teilen der Gesellschaft quasi ein Monopol auf die existierenden Online-Informationsflüsse haben. Weil zentralisierte Systeme in der Lage waren, Spam und SEO-Inhalte einzudämmen, scheint der Schluss nahezuliegen, dass sie auch in der Lage sein müssten, „Fake News“ Einhalt zu gebieten. Abgesehen davon, dass die meisten Menschen die im Jahr 2016 vorgeschlagenen „Personalisierunglösungen“ auch schon abgelehnt haben, wenn in früheren Jahren problematische Inhalte thematisiert wurden.
Leider ist das „Fake News“-Problem ein ganz anderes als Spam oder SEO. Zunächst ist die Motivation bei den vielen unterschiedlichen Gruppen, die Inhalte manipulieren wollen, sehr undurchsichtig. Ginge es nur um Geld, wäre die Debatte eine vollkommen andere. Aber selbst da, wo es nur um Geld geht, schaue man sich nur einmal an, wie zeitgemäßes Produktmarketing funktioniert.
Selbst wenn es nur darum ginge, die ungeheuerlichsten Lügen zu Profitzwecken oder arglistige Täuschungen einzudämmen, wäre diese Debatte nicht einfacher oder schneller. Wir alle vergessen, das es bei Spam und SEO Jahre gedauert hat, um den derzeitigen Status Quo zu erreichen (der immer noch nicht perfekt ist, aber immerhin können sich Gmail-Nutzer und fortgeschrittene Suchmaschinen-Nutzer in den USA relativ unbehelligt bewegen). Es handelt sich um ein internationales Problem ohne guten Regulierungsprozess oder sonstige vernünftige Ansätze, mit denen festgestellt werden könnte, was echt ist und was nicht. Wir spielen alle „Whac-a-Mole“ um hohe Einsätze.
Versuchen Sie mal, funktionierende Richtlinien für den Umgang Inhalten zu formulieren. Und dann überlegen Sie mal, wie viele vollkommen akzeptable Praktiken Sie durch diese Richtlinien eliminiert würden. Und dann denken Sie darüber nach, an welchen Stellen Ihre Gegner Ihre Richtlinien umgehen würden. Genau das war meine Aufgabe bei Blogger und LiveJournal, und ich möchte darauf hinweisen, dass ich mich nur ungern daran erinnere, wie viele Bilder ich mir ansehen musste, bei denen es keineswegs einfach war zu entscheiden, ob es sich um Pornografie oder um eine stillende Mutter handelte.
Ich will es den Unternehmen auch nicht allzu leicht machen, denn sie tragen ja eine Verantwortung in diesem Ökosystem. Aber sie werden nicht das Allheilmittel erfinden, dass von ihnen verlangt wird. Ich denke, die meisten Kritiker dieser Unternehmen sind naiv, wenn sie glauben, dass das Problem einfach so gelöst werden kann.
Unter die Oberfläche schauen
Zu viele Menschen scheinen zu glauben, man könne robuste Programme schreiben, mit denen klar definiert werden kann, was problematische Inhalte sind – das wird dann implementiert und damit ist schwuppdiwupp das Problem gelöst. Dabei weiß jeder, der einmal versucht hat, Hass und Intoleranz zu bekämpfen, dass diese schnellen Lösungen nicht funktionieren. Man kann damit Dinge für eine Weile unsichtbar machen, aber der Hass wird sich immer weiter fortpflanzen, wenn die Probleme nicht an der Wurzel gelöst werden. Wir müssen uns alle – Unternehmen eingeschlossen – darauf konzentrieren, die zu Grunde liegenden Dynamiken zu verstehen, die durch die Technologie widergespiegelt und verstärkt werden.
Akademiker und Journalisten habe viele kluge Dinge über die Schnittmengen aus Intoleranz und Ängsten, Ungleichheit, Instabilität und so weiter geschrieben. Zusammengefasst sagen sie, wir haben ein kulturelles Problem, das durch ein Auseinanderklaffen von Werten, Beziehungen und Sozialgefügen geprägt wird. Unsere Medien, unsere Mechanismen und unsere Politik werden von den unterschiedlichsten Akteuren eingesetzt, um die Gesellschaft zu polarisieren. Sie setzen die Systeme für ihre persönlichen, kommerziellen oder ideologischen Ziele ein. Manchmal tun sie es nur aus Spaß. Manchmal sind die dahinterliegenden Ziele sehr beunruhigend.
Die meisten Techies haben sich irgendwann einmal vorgestellt, dass ihre Tools dazu dienen sollten Abgründe zu überbrücken – aber das ist nicht passiert. Aber es geht nicht nur um Technik. Die Ideale des Journalismus kommen in der gegenwärtigen Gemengelage überhaupt nicht vor. Verdammt nochmal, nicht einmal die Ideale des Marktkapitalismus kommen in dieser vollkommen korrumpierten Gemengelage vor, wenn die Finanzwirtschaft sämtliche Geschäfte (und auch sonst alles) aus Gier manipulieren kann.
Zur allgemeinen Herausforderung gehört auch, dass wir alle zusammen in einem riesigen, völlig vermurksten System gefangen sind. Natürlich gibt es einzelne Akteure, die besonders gierig oder bösartig sind, aber die Banalität des Bösen ist überall. Wie können wir unsere kollektive Wut, unsere Frustration und unsere Energie in eine Richtung lenken, die über oberflächlichen Aktionismus hinausgeht? Wie kommen wir über unseren Wunsch hinaus, die Diskrepanzen zu überwinden, unsere soziale Infrastruktur wieder aufzubauen und soziale Spaltung zu überbrücken? Und vor allem: Wie stellen wir uns der Polarisierung entgegen, ohne sie zu verstärken?
Ich glaube, wir müssen ganz klare Prioritäten bei der Weiterentwicklung unserer Systeme setzen: soziale, technische, wirtschaftliche und politische Strukturen aufbauen, die erlauben, unterschiedliche Standpunkte zu verstehen, anzuerkennen und zu überbrücken. In der Vergangenheit ging man beim Entwurf von Medien und Technologien davon aus, dass diese Kulturarbeit sich schon von selber leisten würde, wenn erst einmal alle den Zugang zu Informationen haben. Wir wissen jetzt, dass das nicht geschehen ist. Also machen wir es uns zum Ziel, bei allem was wir tun und warten wir ab, was dabei herauskommt, wenn wir das priorisieren. Man stelle sich vor, Venture-Kapitalisten und andere Finanziers verlangten nach Produkten und Interventionen, die den Zweck haben, soziale Spaltungen zu überwinden. Wie können wir über den jetzigen Moment hinausdenken und eine zukunftsfähige soziale Infrastruktur aufbauen? Ich bin mir nicht sicher, ob wir den Willen dazu haben, aber das ist Teil des Problems.
Das Thema „Fake News“ hat einige knifflige Probleme sichtbar gemacht, auf sozialer und auf kultureller Ebene. Sie zwingen uns, darüber nachzudenken, wie Menschen Wissen und Ideen entwickeln, wie sie miteinander kommunizieren und Gesellschaften aufbauen. Sie sind auch furchtbar chaotisch und zeigen uns, wo die Spaltungen und Brüche in unseren Ansichten und Einstellungen sind. Und das heißt, es ist technisch nicht so einfach, Lösungen zu bauen oder zu implementieren. Wenn wir technische Lösungen für komplexe sozio-technische Probleme suchen, können wir uns nicht einfach aus der Verantwortung stehlen und ein paar Unternehmen beauftragen, die Brüche in der Gesellschaft zu kitten, die sie sichtbar gemacht und verstärkt haben. Wir müssen zusammenarbeiten und Bündnisse mit Gruppen eingehen, die nicht unsere politischen und sozialen Vorstellungen teilen, um die Probleme anzugehen, die wir gemeinsam sehen. Die Alternative wäre ein kultureller Krieg, in dem die Unternehmen als Vermittler und Schiedsrichter fungieren. Und das klingt nach einer schrecklichen Idee.
