Warum der bisherige Kampf gegen #hatespeech und #fakenews auf Facebook irreführend ist – und welche Alternativen sich bieten

Seit Monaten beschäftigt sich die deutsche Öffentlichkeit nun mit Löschforderungen gegenüber Facebook. Ziel ist die zügige Entfernung unliebsamer Inhalte aus dem wohl bekanntesten sozialen Netzwerk – in Form der ineffizienten und intransparenten industriellen Selbstregulierung. Während die Diskussion zunächst um das Löschen von Hatespeech kreiste, hat sich die Diskussion im Zuge der US-Wahl im Dezember 2016 auf das Löschen so genannter Fake News ausgeweitet.

Zahlreiche Artikel widmeten sich in der Folge den Unklarheiten der rechtlichen Eingrenzung der zur Debatte stehenden Inhalte, den Gefahren einer privatisierten Rechtsdurchsetzung oder der fehlenden Bereitschaft seitens Facebook, auf die Probleme zu reagieren. Im Zuge der Radikalisierung der deutschen Gesellschaft, der Debatte um eine Beeinflussung der US-Wahl durch Fake News sowie der anstehenden Bundestagswahl erhärten sich nun fast täglich unausgegorene Forderungen nach Zensur – und riskieren damit weitaus mehr als die kommende Wahl.

Wie Facebook das Problem von Hatespeech und Fake News verstärkt

Die Bildung so genannter Echokammern im Netz ist breit diskutiert worden, allerdings zumeist in Bezug auf den Anteil der Nutzer an ihrer Herstellung (Nachrichtenselektion, Likes, etc.). Vernach­lässigt wurde die Manipulation der Diskurse durch Facebook selbst, die über eine Verstärkung be­liebter („relevanter“) Inhalte weit hinaus geht. Einer in Expertenkreisen breit diskutierten Studie zufolge ist von einer systematischen und äußerst intransparenten Reduktion der Vielfältig­keit der den Nutzern im Newsfeed angezeigten Inhalte auszugehen, sowohl in Bezug auf die Anzeige als solches (5–8%) wie auch ihre Plazierung im Feed (Anteil offen). Beides beeinflusst die „natürliche Selektion“ der Nutzer (6–17%) elementar.

Eine solche Förderung divergenter Diskursräume erinnert an den Turmbau zu Babel: Durch die Förderung divergenter Diskursräume (unterschiedliche Sprachen) verliert sich die gesellschaftliche Kooperation (der Turmbau) in Unverständnis und Verwirrung. Sie bereitet den Boden für die Verstärkung extremer Weltsichten, Hatespeech und Fake News, lernen doch Algorithmen und Menschen durch Wiederholung. Sie behindert den gesellschaftlichen Diskurs – und das in Zeiten eines disruptiven, technologisch-ökonomischen Wandels, der innovative Adaption und Politikgestaltung so dringend macht.

Darüber hinaus hat die jüngste US-Wahl deutlich gezeigt, dass sich über Facebook mit umfangreichen, zunehmend verknüpften Datensätzen nicht nur eine äußerst genaue Wählermanipulation austesten, sondern offenbar auch machen lässt: Der weithin diskutierte Magazin-Artikel „Ich habe nur gezeigt, dass es die Bombe gibt“ beschrieb anschaulich, wie Facebook mittels der Erstellung von Psychogrammen, auf Grundlage psychologischer Forschung, unheimlich genaue Wähleranalysen erstellen und – über das gezielte, so genannte Micro-Targeting, das heißt personalisierte Werbung – Wählermanipulation betreiben konnte. Informationen über zusätzlich zu den eigenen Daten erworbene Datenbanken bleiben aktuell unklar.

Damit muss die Frage erneut gestellt werden: Ist Facebook, ein Unternehmen, das auf vielfältige und intransparente Weise gesellschaftliche Diskurse und Wahlen beeinflusst, der richtige Adressat für die Entscheidung über die Einschränkung von Grundrechten wie der Meinungsfreiheit? Bir­gt ein solches Vorgehen nicht viel eher die Gefahr, die Plattform in ihrem intransparenten Treiben zu bestärken, das bereits jetzt der Gesellschaft zum Schaden gereicht? Stärkt die Übertragung von Rechtsdurchsetzungskompetenzen nicht vielmehr ein Monopol, das bereits jetzt weitere Geschäftsbereiche erobert, im Zweifelsfall auch durch Irreführung der Europäischen Kommission? Gibt es Alternativen dazu?

Checks & Balances: Regulierungsalternativen

Um der allgemeinen, intransparenten Manipulation des gesellschaftlichen Diskurses, der Polarisierung der Wählerschaft, entgegen zu wirken, ist eine Transparenz über Algorithmen gefordert, welche den Newsfeed bestimmen. Ebenfalls zu erörtern wäre die Frage: Ist eine Beschränkung der Beeinflussung der Newsfeeds durch Werbung denkbar, gehen doch viele Nutzer von einer Objektivität „ihrer“ Nachrichten aus?

Die Gefahr der Manipulation von Wahlen durch Micro-Targeting rückt den Datenschutz ins Zentrum der Betrachtung: Das im Vergleich zu den USA hohe Datenschutzniveau in Deutschland bietet aktuell einen gewissen Schutz vor vergleichbaren Wahlkampfstrategien (siehe auch: Markus Beckedahl zu Big Data im Wahlkampf im Morgenmagazin). Dieses ist allerdings in Gefahr, nicht nur durch die jüngsten Äußerungen Angela Merkels zum Thema, sondern vor allem durch den vom Innenministerium vorgelegten Gesetzes-Entwurf zur nationalen Umsetzung der EU-Datenschutz-Grundverordnung (DSAnpUG-EU).

Darin sollen Kernprinzipien wie die Zweckbindung und ein Verbot der Profilbildung individueller Personen verwässert werden. Dass der entsprechende Entwurf ausgerechnet von dem (Innen-)Ministerium kommt, welches die Gefahren einer möglichen Wahlmanipulation derzeit am lautesten thematisiert, hinterlässt die Frage: Fehlt es hier an Hintergrundwissen oder dient die Politisierung von Fake News nicht ganz anderen Interessen?

Eine Möglichkeit, das konkrete Vorgehen gegen Hatespeech und Fake News auf rechtsstaatlich verantwortliche Füße zu stellen, bestünde in einer Kombination von Maßnahmen, basierend auf einem externen, transparenten Monitoring, wie es beispielsweise vom iHub-Projekt in Kenia entwickelt wurde. Die mittlerweile mit Automatisierung und maschinellem Ler­nen kombinierten Monitoring­-Technologien sollten vor allem eine rechtzeitige Intervention bei Gewalt im Kontext nationaler Wahlen ermöglichen. Aktuell testen Nachbarstaaten das Erfolgsmodell, die nächsten Evaluationen stehen noch in diesem Monat an.

Ein solches Monitoring könnte zunächst Aufschluss geben zum Aufkommen strafbarer Inhalte – und ob entsprechende Maßnahmen zu seiner Reduktion beitragen. Einsichten in die Dynamik der Verbreitung von Hatespeech oder Fake News – beispielsweise über Verursacher, Adressaten, Knotenpunkte etc. – ermöglichten in Ko­operation mit Strafverfolgungsbehörden eine strategische Ahndung: Durch die Berücksichtigung des Einflusses der Speaker könnte die Überforderung der Behörden in der Verfolgung strafba­rer Inhalte begrenzt, die abschreckende Wirkung entsprechender Urteile maximiert werden. Eine Kooperation mit Polizei und Sicherheitskräften erlaubte unter Umständen sogar eine rechtzeitige Intervention bei Gewalt. In Verbindung mit einer Prüfung entsprechender Hatespeech­-/Fake-News-Meldungen könnte das Monitoring darüber hinaus den Umgang mit Löschforderungen gegenüber den Plattformen transparenter gestalten, der Ge­fahr des übermäßigen Löschens von Inhalten durch voraus eilenden Gehorsam (zum Beispiel in Folge mögli­cher Haftung oder Bußgelder) begegnen.

Allerdings ist die Transparenz und Unabhängigkeit des Monitorings von entscheidender Bedeu­tung. Sie unterscheidete die Maßnahme beispielsweise von den prominent kritisierten Plänen der Massendatenauswertung von Internetinhalten durch das Bundesamt für Verfassungsschutz (BfV). Dies berücksichtigt, könnte es vor allem belastbaren Boden in die Debatte bringen. Denn eins ist Fakt: Der Politisierung „unliebsamer Inhalte“ gegenüber stehen bislang äußerst wenige Erkenntnisse über deren tatsächliches Aufkommen oder Erfolge ihrer Bekämpfung: Die „Löschquote“ der von Nutzern gemeldeter Inhalte kennzeichnet weder die korrekte Bearbeitung gemeldeter, potentiell strafbarer Inhalte noch Erfolge der Maßnahme als solcher.

Exkurs: Checks & Balances – Die Bekämpfung von Fake News in den USA

Dem US-Wahldebakel folgte bekanntermaßen auch in den USA eine heftige Debatte um den Einfluss von über Facebook verbreiteten Fake News. Einer kurzen Diskussion verschiedenster Reaktionsmöglichkeiten (zum Beispiel hier und hier) folgte schnell ein Maßnahmen­bündel seitens Facebook, bei dem Nutzer zunächst Fake News melden können, die daraufhin von einer unabhängigen Institution geprüft werden. Sollte sich der Verdacht einer Falschmeldung be­wahrheiten, werde die Meldung entsprechend markiert (mit Links zu Erläuterungen). Seine Weiterverbreitung werde durch Rückfragen und ein Downgrading im Newsfeed behindert. Zu­dem sollen finanzielle Anreize zur Verbreitung von Fake News eingedämmt werden. Die Prü­fungsinstitutionen arbeiten finanziell unabhängig.

Einerseits mangelt es der Maßnahme an Transparenz bei den Einschränkungen der Verbrei­tung (Newsfeed, Werbung), die nicht zuletzt Vergleiche mit China hervorruft. Andererseits stellt die externe Prüfung markierter Inhalte einen Fortschritt hinsichtlich der Trans­parenz von Eingriffen in die Meinungsfreiheit (Verfahren) dar, betont die Bedeutung unab­hängiger, transparenter Checks & Balances und markiert einen eindeutigen Wandel in der amerikanischen Regulierungsdebatte.

*Update 15.01.17/ 21:00: Die hier vorgenommene Einschätzung gilt natürlich auch für vergleichbare Ansätze in Deutschland, wie sie am 15.01.17 bekannt wurden.*

Design-Innovationen: Der konstruktive digitale Diskurs

Neben der Bekämpfung der Verbreitung von Hatespeech und Falschmeldungen im Netz stellt sich die Frage: Wie finden wir zurück zu einem konstruktiven Diskurs? Oder: Wie kommen wir zu kon­struktiven Ergebnissen, wenn alle am digitalen Diskurs teilhaben dürfen?

Denn Fakt ist: Klimawandel, Migrationsströme und der technisch-ökonomische Wandel – allesamt Themen, die sich vortrefflich für populistische Hetze instrumentalisieren lassen – werden dauerhafte Probleme bleiben, denen unsere Gesellschaft konstruktiv begegnen muss. Wir müssen reden, wie jüngst der Physiker Stephen Hawkings erinnerte (unsere Übersetzung): „Dies ist die gefährlichste Zeit für unseren Planeten. Wir können nicht weiterhin [soziale und ökonomische] Ungleichheiten ignorieren, da wir die technischen Mittel haben, um unseren Planeten zu zerstören, aber nicht die Mittel, um ihm zu entfliehen.“

In diesem Kontext bieten neuere, technische Design­-Ansätze wertvolle Beiträge. Sie eint zunächst die Definition einer positiven Vision von Community (Welchem Zweck soll der Austausch auf der Plattform die­nen, warum sollen Menschen miteinander kommunizieren?), wie sie beispielsweise Katherine Maher, Geschäftsführerin der Wikimedia Foundation, jüngst formuliert hat, sowie klarer Regeln des Diskurses. Zugrunde liegen Studien der Bedürfnisse und Dynamiken der unterschiedlichen Online­-Communi­ties wie sie etwa das Coral Project (Kooperation zwischen Mozilla, der New York Times und der Washington Post) oder Caroline Sinders (BuzzFeed/ IBM Watson) durchführten.

Daraus abgeleitet ergibt sich etwa die Möglichkeit einer fundierte Argumente und Speaker unter­stützenden, transparenten Kommentar­-/ Diskursmoderation. Oder etwa die Gestaltung individuel­ler Diskursräume durch eine Ausdifferenzierung der Privatheitseinstellungen im Kontext konkreter Inhalte. Hierzu zählen etwa das Muten („Stummschalten“) einzelner Hashtags oder Gespräche, wie Twitter sie jüngst integrierte. Sie erlauben dem Nutzer, sich selbst virulenten Diskussionen zu entziehen, ohne die Plattform verlassen zu müssen. Anwendungsbeispiele für Facebook zielen unter anderem auf differenziertere Einstellungen der Kommentare, die einzelne Nutzer schützt und Bewusstsein über die Öffentlichkeit von Kommentaren schafft (technisch unterstützte Medienkompetenz).

Die neue Plattform Imzy aus dem Twitter/Reddit-­Umfeld integriert gleich verschiedene Ansätze: Sie verbindet umfangreiche Editierfunktionen, eine anwendungsfreundliche Kommentarmoderation so­wie ausdifferenzierte Privatheitseinstellungen miteinander. „It’s like Reddit, Without the Trolls“, titelte Bloomberg über eine wirkliche Facebook­-Alternative, die der Notwendigkeit eines konstruktiven Diskurses und den Funktionen sozialer Netzwerke (Ausbreitung und Virulenz) gerecht wird.

Inwiefern diese Design­-Ansätze zum Tragen kommen können, hängt sicher einerseits ab von regulativen Spielräumen (Haftung oder Bußgelder schaden Facebook­-Konkurrenten) sowie der Einbindung durch große Plattformen. Völlig unklar bleibt an dieser Stelle, warum Twitter seinen aktuell positiven Zugang zu Design­-Optionen im Kampf gegen Hatespeech und Belästigung nicht entsprechend kommuniziert.

Wie können Journalisten zur Debatte beitragen?

Neben den regulativen und technischen Ansätzen hat die amerikanische Diskussion zuletzt spannende Beiträge hervor gebracht, wie Journalisten auf das durch Hatespeech und Fake News hervorgebrachte Babel reagieren können bzw. was sie dazu beitragen können, dass ihre Beiträge wieder mehr Gewicht haben im gesellschaftlichen Diskurs. Hervorzuheben sind hier beispielsweise die Beiträge:

• Columbia Journalism Review: Was können deutsche Medien von Trump lernen?
• Quartz: Wenn Du die Demokratie retten willst, dann lerne zu denken wie ein Wissenschaftler!
• NiemanLab zum Rollenwandel demokratischer Journalisten

Wertvolle Hintergründe lieferten auch die IP mit dem Beitrag „Wie kann die Ausbreitung der Methode Trump verhindert werden?“ oder das Ethical Journalism Network mit einer Übersicht zu den Hatespeech und Fake News Debatten weltweit.

Beeindruckende Beispiele der jüngeren amerikanischen „Medienexperimente“ kombinierten häufig eine Hinwendung zur Wissenschaft mit einer Hinwendung zur jeweiligen Community. Hightlights waren beispielsweise der TeenVogue-Artikel „Donald Trump Is Gaslighting America“ beziehungsweise ein zugehöriges Video, in dem weibliche Teenager, kurz und bündig, unter Berücksichtigung wissenschaftlicher Konzepte die Manipulation Trumps an ihren Mitbrüdern und ‑schwestern erklärten oder als Fotostrecke vor Augen hielten. Oder aber der multimediale Blogbeitrag „The Grafitti Kids Who Sparked The Syrian War“, der mithilfe der Verknüpfung der persönlichen Geschichte von jugendlichen Sprayern in Syrien mit der Entwicklung des Bürgerkriegs, seinen historischen Wurzeln und den internationalen Verflechtungen den gesamten Problemkomplex neuartig verständlich und überprüfbar machte.

Da davon auszugehen ist, dass respektvoller, attraktiver Journalismus eine Vorbildwirkung entfalten kann, die dem Lügenpresse-Narrativ und auch dem Hatespeech- beziehungsweise Fake News-Problem entgegen wirkt, sei zuletzt auf die Neujahrs-Empfehlungen des Columbia Journalism Reviews für Führungsfiguren in Presse und Öffentlichkeit verwiesen: Sie enthalten eine ganze Reihe an strategischen Hinweisen zum Umgangs mit Fake News, dem Medien- und Methodenwandel, dem Umgang mit Wistleblowern und mit der eigenen Redaktion.

Ausblick: Warum politische Schnellschüsse zurückzuweisen sind

Dem Hatespeech- oder Fake-News-Problem gegenüber – hingewiesen sei an dieser Stelle auch noch einmal auf die Einschätzungen der Debatte aus China – stehen zahlreiche regulative, technische oder journalistische Ansätze, den Problemen effektiv und im Rahmen des Rechtsstaats zu begegnen.

Es bleibt unklar, warum stattdessen auf intransparente Zensurmaßnahmen durch große Social-Media-Plattformen zurück gegriffen werden soll, die eine gezielte Strafverfolgung behindern, die weitere Manipulation des gesellschaftlichen Diskurses und kommender Wahlen ermöglichen und die drohen, ein bereits jetzt intransparent und manipulativ agierendes Medienunternehmen, Facebook, zu stärken. Lassen sich die Rechtsdurchsetzung im Bereich von Grundrechten und der Gesellschaftsdiskurs in Demokratien tatsächlich einfach problemlos an private Akteure auslagern? Und wenn ja, auf wessen Kosten?

Verdeckt der Diskurs nicht weitaus größere Probleme, zum Beispiel die EU-Richtlinie zur Terrorismusbekämpfung, die im Januar nach quasi fehlender gesellschaftlicher Diskussion über ihren Nutzen und ihre Risiken endgültig verabschiedet werden soll? Die neben Zensur und Netzsperren, der Schwächung von Verschlüsselung, der Stärkung von Überwachungsinstrumenten und der Kriminalisierung von Hacking vor allem eins enthält: Definitionen, die beispielsweise das Selbststudium oder bestimmte Ausbildungen in einen Kontext mit Terrorismus setzen können (S. 20)? Müssen wir den USA die Fehler des Terror-Diskurses nachmachen oder können wir nicht vielmehr, wie oben erörtert, von ihren positiven Seiten lernen, dem Recht auf Meinungsfreiheit, dem kreativen Umgang mit Technologie und der Fähigkeit zur Kurskorrektur?