Öffentlichkeit

Warum der bisherige Kampf gegen #hatespeech und #fakenews auf Facebook irreführend ist – und welche Alternativen sich bieten

Die Debatte um Fake News und Hatespeech droht, in der falschen Spur stecken zu bleiben. Dabei liegen Vorschläge vor, die der digitalen Radikalisierung konstruktiv begegnen und das Feld nicht intransparenten Unternehmen wie Facebook überlassen.

Der Kampf gegen Hatespeech und Fakenews: Ein Drahtseilakt. Balance

Seit Monaten beschäftigt sich die deutsche Öffentlichkeit nun mit Löschforderungen gegenüber Facebook. Ziel ist die zügige Entfernung unliebsamer Inhalte aus dem wohl bekanntesten sozialen Netzwerk – in Form der ineffizienten und intransparenten industriellen Selbstregulierung. Während die Diskussion zunächst um das Löschen von Hatespeech kreiste, hat sich die Diskussion im Zuge der US-Wahl im Dezember 2016 auf das Löschen so genannter Fake News ausgeweitet.

Wir finanzieren uns fast vollständig aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Zahlreiche Artikel widmeten sich in der Folge den Unklarheiten der rechtlichen Eingrenzung der zur Debatte stehenden Inhalte, den Gefahren einer privatisierten Rechtsdurchsetzung oder der fehlenden Bereitschaft seitens Facebook, auf die Probleme zu reagieren. Im Zuge der Radikalisierung der deutschen Gesellschaft, der Debatte um eine Beeinflussung der US-Wahl durch Fake News sowie der anstehenden Bundestagswahl erhärten sich nun fast täglich unausgegorene Forderungen nach Zensur – und riskieren damit weitaus mehr als die kommende Wahl.

Wie Facebook das Problem von Hatespeech und Fake News verstärkt

Die Bildung so genannter Echokammern im Netz ist breit diskutiert worden, allerdings zumeist in Bezug auf den Anteil der Nutzer an ihrer Herstellung (Nachrichtenselektion, Likes, etc.). Vernach­lässigt wurde die Manipulation der Diskurse durch Facebook selbst, die über eine Verstärkung be­liebter („relevanter“) Inhalte weit hinaus geht. Einer in Expertenkreisen breit diskutierten Studie zufolge ist von einer systematischen und äußerst intransparenten Reduktion der Vielfältig­keit der den Nutzern im Newsfeed angezeigten Inhalte auszugehen, sowohl in Bezug auf die Anzeige als solches (5-8%) wie auch ihre Plazierung im Feed (Anteil offen). Beides beeinflusst die „natürliche Selektion“ der Nutzer (6-17%) elementar.

Eine solche Förderung divergenter Diskursräume erinnert an den Turmbau zu Babel: Durch die Förderung divergenter Diskursräume (unterschiedliche Sprachen) verliert sich die gesellschaftliche Kooperation (der Turmbau) in Unverständnis und Verwirrung. Sie bereitet den Boden für die Verstärkung extremer Weltsichten, Hatespeech und Fake News, lernen doch Algorithmen und Menschen durch Wiederholung. Sie behindert den gesellschaftlichen Diskurs – und das in Zeiten eines disruptiven, technologisch-ökonomischen Wandels, der innovative Adaption und Politikgestaltung so dringend macht.

Darüber hinaus hat die jüngste US-Wahl deutlich gezeigt, dass sich über Facebook mit umfangreichen, zunehmend verknüpften Datensätzen nicht nur eine äußerst genaue Wählermanipulation austesten, sondern offenbar auch machen lässt: Der weithin diskutierte Magazin-Artikel „Ich habe nur gezeigt, dass es die Bombe gibt“ beschrieb anschaulich, wie Facebook mittels der Erstellung von Psychogrammen, auf Grundlage psychologischer Forschung, unheimlich genaue Wähleranalysen erstellen und – über das gezielte, so genannte Micro-Targeting, das heißt personalisierte Werbung – Wählermanipulation betreiben konnte. Informationen über zusätzlich zu den eigenen Daten erworbene Datenbanken bleiben aktuell unklar.

Damit muss die Frage erneut gestellt werden: Ist Facebook, ein Unternehmen, das auf vielfältige und intransparente Weise gesellschaftliche Diskurse und Wahlen beeinflusst, der richtige Adressat für die Entscheidung über die Einschränkung von Grundrechten wie der Meinungsfreiheit? Bir­gt ein solches Vorgehen nicht viel eher die Gefahr, die Plattform in ihrem intransparenten Treiben zu bestärken, das bereits jetzt der Gesellschaft zum Schaden gereicht? Stärkt die Übertragung von Rechtsdurchsetzungskompetenzen nicht vielmehr ein Monopol, das bereits jetzt weitere Geschäftsbereiche erobert, im Zweifelsfall auch durch Irreführung der Europäischen Kommission? Gibt es Alternativen dazu?

Facebook: Ein Turmbau zu Babel? CC BY-NC-SA 2.0, via flickr/ Trebor Scholz
Facebook: Ein Turmbau zu Babel? CC BY-NC-SA 2.0, via flickr/ Trebor Scholz CC-BY-NC-SA 2.0 Trebor Scholz

Checks & Balances: Regulierungsalternativen

Um der allgemeinen, intransparenten Manipulation des gesellschaftlichen Diskurses, der Polarisierung der Wählerschaft, entgegen zu wirken, ist eine Transparenz über Algorithmen gefordert, welche den Newsfeed bestimmen. Ebenfalls zu erörtern wäre die Frage: Ist eine Beschränkung der Beeinflussung der Newsfeeds durch Werbung denkbar, gehen doch viele Nutzer von einer Objektivität „ihrer“ Nachrichten aus?

Die Gefahr der Manipulation von Wahlen durch Micro-Targeting rückt den Datenschutz ins Zentrum der Betrachtung: Das im Vergleich zu den USA hohe Datenschutzniveau in Deutschland bietet aktuell einen gewissen Schutz vor vergleichbaren Wahlkampfstrategien (siehe auch: Markus Beckedahl zu Big Data im Wahlkampf im Morgenmagazin). Dieses ist allerdings in Gefahr, nicht nur durch die jüngsten Äußerungen Angela Merkels zum Thema, sondern vor allem durch den vom Innenministerium vorgelegten Gesetzes-Entwurf zur nationalen Umsetzung der EU-Datenschutz-Grundverordnung (DSAnpUG-EU).

Darin sollen Kernprinzipien wie die Zweckbindung und ein Verbot der Profilbildung individueller Personen verwässert werden. Dass der entsprechende Entwurf ausgerechnet von dem (Innen-)Ministerium kommt, welches die Gefahren einer möglichen Wahlmanipulation derzeit am lautesten thematisiert, hinterlässt die Frage: Fehlt es hier an Hintergrundwissen oder dient die Politisierung von Fake News nicht ganz anderen Interessen?

Eine Möglichkeit, das konkrete Vorgehen gegen Hatespeech und Fake News auf rechtsstaatlich verantwortliche Füße zu stellen, bestünde in einer Kombination von Maßnahmen, basierend auf einem externen, transparenten Monitoring, wie es beispielsweise vom iHub-Projekt in Kenia entwickelt wurde. Die mittlerweile mit Automatisierung und maschinellem Ler­nen kombinierten Monitoring­-Technologien sollten vor allem eine rechtzeitige Intervention bei Gewalt im Kontext nationaler Wahlen ermöglichen. Aktuell testen Nachbarstaaten das Erfolgsmodell, die nächsten Evaluationen stehen noch in diesem Monat an.

Ein solches Monitoring könnte zunächst Aufschluss geben zum Aufkommen strafbarer Inhalte – und ob entsprechende Maßnahmen zu seiner Reduktion beitragen. Einsichten in die Dynamik der Verbreitung von Hatespeech oder Fake News – beispielsweise über Verursacher, Adressaten, Knotenpunkte etc. – ermöglichten in Ko­operation mit Strafverfolgungsbehörden eine strategische Ahndung: Durch die Berücksichtigung des Einflusses der Speaker könnte die Überforderung der Behörden in der Verfolgung strafba­rer Inhalte begrenzt, die abschreckende Wirkung entsprechender Urteile maximiert werden. Eine Kooperation mit Polizei und Sicherheitskräften erlaubte unter Umständen sogar eine rechtzeitige Intervention bei Gewalt. In Verbindung mit einer Prüfung entsprechender Hatespeech­-/Fake-News-Meldungen könnte das Monitoring darüber hinaus den Umgang mit Löschforderungen gegenüber den Plattformen transparenter gestalten, der Ge­fahr des übermäßigen Löschens von Inhalten durch voraus eilenden Gehorsam (zum Beispiel in Folge mögli­cher Haftung oder Bußgelder) begegnen.

Allerdings ist die Transparenz und Unabhängigkeit des Monitorings von entscheidender Bedeu­tung. Sie unterscheidete die Maßnahme beispielsweise von den prominent kritisierten Plänen der Massendatenauswertung von Internetinhalten durch das Bundesamt für Verfassungsschutz (BfV). Dies berücksichtigt, könnte es vor allem belastbaren Boden in die Debatte bringen. Denn eins ist Fakt: Der Politisierung „unliebsamer Inhalte“ gegenüber stehen bislang äußerst wenige Erkenntnisse über deren tatsächliches Aufkommen oder Erfolge ihrer Bekämpfung: Die „Löschquote“ der von Nutzern gemeldeter Inhalte kennzeichnet weder die korrekte Bearbeitung gemeldeter, potentiell strafbarer Inhalte noch Erfolge der Maßnahme als solcher.

Der Kampf gegen Hatespeech und Fake News: Nicht ob, sondern wie! balance_asymmetry/ CC BY-NC-SA 2.0, via flickr/ William Cromar
Der Kampf gegen Hatespeech und Fake News: Nicht ob, sondern wie!
balance_asymmetry/ CC BY-NC-SA 2.0, via flickr/William Cromar

Exkurs: Checks & Balances – Die Bekämpfung von Fake News in den USA

Dem US-Wahldebakel folgte bekanntermaßen auch in den USA eine heftige Debatte um den Einfluss von über Facebook verbreiteten Fake News. Einer kurzen Diskussion verschiedenster Reaktionsmöglichkeiten (zum Beispiel hier und hier) folgte schnell ein Maßnahmen­bündel seitens Facebook, bei dem Nutzer zunächst Fake News melden können, die daraufhin von einer unabhängigen Institution geprüft werden. Sollte sich der Verdacht einer Falschmeldung be­wahrheiten, werde die Meldung entsprechend markiert (mit Links zu Erläuterungen). Seine Weiterverbreitung werde durch Rückfragen und ein Downgrading im Newsfeed behindert. Zu­dem sollen finanzielle Anreize zur Verbreitung von Fake News eingedämmt werden. Die Prü­fungsinstitutionen arbeiten finanziell unabhängig.

Einerseits mangelt es der Maßnahme an Transparenz bei den Einschränkungen der Verbrei­tung (Newsfeed, Werbung), die nicht zuletzt Vergleiche mit China hervorruft. Andererseits stellt die externe Prüfung markierter Inhalte einen Fortschritt hinsichtlich der Trans­parenz von Eingriffen in die Meinungsfreiheit (Verfahren) dar, betont die Bedeutung unab­hängiger, transparenter Checks & Balances und markiert einen eindeutigen Wandel in der amerikanischen Regulierungsdebatte.

*Update 15.01.17/ 21:00: Die hier vorgenommene Einschätzung gilt natürlich auch für vergleichbare Ansätze in Deutschland, wie sie am 15.01.17 bekannt wurden.*

Design-Innovationen: Der konstruktive digitale Diskurs

Neben der Bekämpfung der Verbreitung von Hatespeech und Falschmeldungen im Netz stellt sich die Frage: Wie finden wir zurück zu einem konstruktiven Diskurs? Oder: Wie kommen wir zu kon­struktiven Ergebnissen, wenn alle am digitalen Diskurs teilhaben dürfen?

Denn Fakt ist: Klimawandel, Migrationsströme und der technisch-ökonomische Wandel – allesamt Themen, die sich vortrefflich für populistische Hetze instrumentalisieren lassen – werden dauerhafte Probleme bleiben, denen unsere Gesellschaft konstruktiv begegnen muss. Wir müssen reden, wie jüngst der Physiker Stephen Hawkings erinnerte (unsere Übersetzung): „Dies ist die gefährlichste Zeit für unseren Planeten. Wir können nicht weiterhin [soziale und ökonomische] Ungleichheiten ignorieren, da wir die technischen Mittel haben, um unseren Planeten zu zerstören, aber nicht die Mittel, um ihm zu entfliehen.“

In diesem Kontext bieten neuere, technische Design­-Ansätze wertvolle Beiträge. Sie eint zunächst die Definition einer positiven Vision von Community (Welchem Zweck soll der Austausch auf der Plattform die­nen, warum sollen Menschen miteinander kommunizieren?), wie sie beispielsweise Katherine Maher, Geschäftsführerin der Wikimedia Foundation, jüngst formuliert hat, sowie klarer Regeln des Diskurses. Zugrunde liegen Studien der Bedürfnisse und Dynamiken der unterschiedlichen Online­-Communi­ties wie sie etwa das Coral Project (Kooperation zwischen Mozilla, der New York Times und der Washington Post) oder Caroline Sinders (BuzzFeed/ IBM Watson) durchführten.

Daraus abgeleitet ergibt sich etwa die Möglichkeit einer fundierte Argumente und Speaker unter­stützenden, transparenten Kommentar­-/ Diskursmoderation. Oder etwa die Gestaltung individuel­ler Diskursräume durch eine Ausdifferenzierung der Privatheitseinstellungen im Kontext konkreter Inhalte. Hierzu zählen etwa das Muten („Stummschalten“) einzelner Hashtags oder Gespräche, wie Twitter sie jüngst integrierte. Sie erlauben dem Nutzer, sich selbst virulenten Diskussionen zu entziehen, ohne die Plattform verlassen zu müssen. Anwendungsbeispiele für Facebook zielen unter anderem auf differenziertere Einstellungen der Kommentare, die einzelne Nutzer schützt und Bewusstsein über die Öffentlichkeit von Kommentaren schafft (technisch unterstützte Medienkompetenz).

Die neue Plattform Imzy aus dem Twitter/Reddit-­Umfeld integriert gleich verschiedene Ansätze: Sie verbindet umfangreiche Editierfunktionen, eine anwendungsfreundliche Kommentarmoderation so­wie ausdifferenzierte Privatheitseinstellungen miteinander. „It’s like Reddit, Without the Trolls“, titelte Bloomberg über eine wirkliche Facebook­-Alternative, die der Notwendigkeit eines konstruktiven Diskurses und den Funktionen sozialer Netzwerke (Ausbreitung und Virulenz) gerecht wird.

Inwiefern diese Design­-Ansätze zum Tragen kommen können, hängt sicher einerseits ab von regulativen Spielräumen (Haftung oder Bußgelder schaden Facebook­-Konkurrenten) sowie der Einbindung durch große Plattformen. Völlig unklar bleibt an dieser Stelle, warum Twitter seinen aktuell positiven Zugang zu Design­-Optionen im Kampf gegen Hatespeech und Belästigung nicht entsprechend kommuniziert.

Labyrith. CC0 Public Domain, via pixabay.
Hass und Lügen: Wege aus dem Labyrinth. CC0 Public Domain, via pixabay.

Wie können Journalisten zur Debatte beitragen?

Neben den regulativen und technischen Ansätzen hat die amerikanische Diskussion zuletzt spannende Beiträge hervor gebracht, wie Journalisten auf das durch Hatespeech und Fake News hervorgebrachte Babel reagieren können bzw. was sie dazu beitragen können, dass ihre Beiträge wieder mehr Gewicht haben im gesellschaftlichen Diskurs. Hervorzuheben sind hier beispielsweise die Beiträge:

Wertvolle Hintergründe lieferten auch die IP mit dem Beitrag „Wie kann die Ausbreitung der Methode Trump verhindert werden?“ oder das Ethical Journalism Network mit einer Übersicht zu den Hatespeech und Fake News Debatten weltweit.

Beeindruckende Beispiele der jüngeren amerikanischen „Medienexperimente“ kombinierten häufig eine Hinwendung zur Wissenschaft mit einer Hinwendung zur jeweiligen Community. Hightlights waren beispielsweise der TeenVogue-Artikel „Donald Trump Is Gaslighting America“ beziehungsweise ein zugehöriges Video, in dem weibliche Teenager, kurz und bündig, unter Berücksichtigung wissenschaftlicher Konzepte die Manipulation Trumps an ihren Mitbrüdern und -schwestern erklärten oder als Fotostrecke vor Augen hielten. Oder aber der multimediale Blogbeitrag „The Grafitti Kids Who Sparked The Syrian War“, der mithilfe der Verknüpfung der persönlichen Geschichte von jugendlichen Sprayern in Syrien mit der Entwicklung des Bürgerkriegs, seinen historischen Wurzeln und den internationalen Verflechtungen den gesamten Problemkomplex neuartig verständlich und überprüfbar machte.

Da davon auszugehen ist, dass respektvoller, attraktiver Journalismus eine Vorbildwirkung entfalten kann, die dem Lügenpresse-Narrativ und auch dem Hatespeech- beziehungsweise Fake News-Problem entgegen wirkt, sei zuletzt auf die Neujahrs-Empfehlungen des Columbia Journalism Reviews für Führungsfiguren in Presse und Öffentlichkeit verwiesen: Sie enthalten eine ganze Reihe an strategischen Hinweisen zum Umgangs mit Fake News, dem Medien- und Methodenwandel, dem Umgang mit Wistleblowern und mit der eigenen Redaktion.

Ausblick: Warum politische Schnellschüsse zurückzuweisen sind

Dem Hatespeech- oder Fake-News-Problem gegenüber – hingewiesen sei an dieser Stelle auch noch einmal auf die Einschätzungen der Debatte aus China – stehen zahlreiche regulative, technische oder journalistische Ansätze, den Problemen effektiv und im Rahmen des Rechtsstaats zu begegnen.

Es bleibt unklar, warum stattdessen auf intransparente Zensurmaßnahmen durch große Social-Media-Plattformen zurück gegriffen werden soll, die eine gezielte Strafverfolgung behindern, die weitere Manipulation des gesellschaftlichen Diskurses und kommender Wahlen ermöglichen und die drohen, ein bereits jetzt intransparent und manipulativ agierendes Medienunternehmen, Facebook, zu stärken. Lassen sich die Rechtsdurchsetzung im Bereich von Grundrechten und der Gesellschaftsdiskurs in Demokratien tatsächlich einfach problemlos an private Akteure auslagern? Und wenn ja, auf wessen Kosten?

Verdeckt der Diskurs nicht weitaus größere Probleme, zum Beispiel die EU-Richtlinie zur Terrorismusbekämpfung, die im Januar nach quasi fehlender gesellschaftlicher Diskussion über ihren Nutzen und ihre Risiken endgültig verabschiedet werden soll? Die neben Zensur und Netzsperren, der Schwächung von Verschlüsselung, der Stärkung von Überwachungsinstrumenten und der Kriminalisierung von Hacking vor allem eins enthält: Definitionen, die beispielsweise das Selbststudium oder bestimmte Ausbildungen in einen Kontext mit Terrorismus setzen können (S. 20)? Müssen wir den USA die Fehler des Terror-Diskurses nachmachen oder können wir nicht vielmehr, wie oben erörtert, von ihren positiven Seiten lernen, dem Recht auf Meinungsfreiheit, dem kreativen Umgang mit Technologie und der Fähigkeit zur Kurskorrektur?

Im Fokus: Schutz der Vielfalt und Demokratie. CC BY-NC-ND 2.0, via flickr/Rajesh Pamnani
Im Fokus: Schutz der Vielfalt und Demokratie. CC BY-NC-ND 2.0, via flickr/Rajesh Pamnani

Weitersagen und Unterstützen. Danke!
39 Kommentare
  1. Interessanter Artikel mit guten Ideen. Allerdings scheint es die Grundannahme zu geben, dass Journalismus, Politik und Justiz der westlichen Demokratien in der Regel OK sind. Fake News, das sind die anderen.

    Lügengeschichten in sozialen Netzwerken rund um „Migrationsströme“ sind doch aber nicht das Hauptproblem. Sondern die Tatsche, dass Millionen Menschen aufgrund westlicher Kriegspolitik flüchten mussten. Und das war nur möglich, durch tägliche „Fake News“, Propaganda und Gehirnwäsche in den westlichen Medien.

    Es ist traurig, aber auch faszinierend zu sehen, dass soviele Aufklärer den Elefanten im Porzellanladen nicht sehen können oder wollen.

    > Es bleibt unklar, warum stattdessen auf intransparente
    > Zensurmaßnahmen durch große Social-Media-Plattformen
    > zurück gegriffen werden soll, die eine gezielte
    > Strafverfolgung behindern

    weil es offensichtlich nicht darum geht, kleine ausländerfeindliche Lügner zu bändigen. Sondern das zunehmende Bewusstsein über die Realität zu bekämpfen. Die Aufklärung durch Alternativmedien, die das Internet möglich gemacht hat, wird für die Eliten offenbar zunehmend ein Problem.

    Strafverfolgung soll behindert werden. Aber da geht es eher gegen Obama, Hollande, Merkel und der Machtstruktur darüber. ARD und ZDF könnte man auch noch nennen.

  2. 1. Rezitationspflicht + bessere Strukturierung von Artikeln
    2. Quartz Ansatz nett, Quellenangaben immer
    3. Kenntlichmachungen und Archivieren aller Artikeländerungen
    4. Formalisierte Sprache ist besser geeignet; Wortdeutungen; genannt Neusprech sind strikt abzulehnen (zB hatespeech)
    5. leider wollen Leser ihr Weltbild bestätigt haben ?
    6. Archivierung von Artikeln anbieten für Zahlende
    -> Neutralitätsanspruch würde generell helfen, eine semantische Wortanalyse hilft hierbei
    -> Auf Grund von Inhaltsform Internet ist dies eine natürliche Entwicklung:
    – wenig Geschehen
    – kaum grafische/mathematische Ausarbeitung(Statistiken teuer)
    – Journalismus soll inhaltliche einordnen, das kostet aber Zeit
    – einfacher ist eigene Meinung dazuschreiben + Redaktionsdruck kommt dazu
    – Art von Plattformversuch (Querverlinkungen unterbleiben) wegen Werbeeinnahmen

    1. Journalisten werden sich langfristig lediglich auf
      1. Propaganda/Werbung und 2. Datenanalyse
      beschränken, da wegen der fortschreitenden Informationsanalysemethoden
      die Informationseinteilung von Algorithmen wesentlich billiger ist.
      Validitätsanalysen wären daher wünschenswert, ob die Aussage der betreffenden Person überhaupt korrekt ist, dies ist jedoch auf Grund von Neusprech/Unterschlagung von Daten leider nicht möglich(Annahmen fehlen)

    2. Lieber Leser,
      danke für die vielen Hinweise! Ein ganz kurzer Hinweis meinerseits bzgl. der Rezitationspflicht + „2. Quartz Ansatz nett, Quellenangaben immer“: Wenn man (auf die hier blau) markierten Textabschnitte klickt (z.B. bei „Quartz: Wenn Du die Demokratie retten willst, dann lerne zu denken wie ein Wissenschaftler!), gelangt man direkt zur Originalquelle.
      Viele Grüße,
      Julia

    1. Äh, die Verwendung und Nicht-Verwendung von Begriffen (politische Korrektheit genannt) hat sich als ineffektives Mittel rausgestellt. Es ist ein Katz- und Maus-Spiel, dass sich liberale und konservative bieten. Konservative haben ja auch ihre politisch korrekte Sprache (siehe Sascha Lobo Kolumne), wenn sie von „-kritisch“ oder „Multikulti“ usw. sprechen. Auch unter Konservativen darf man bestimmte Begriffe nicht verwenden.

      Rational-Wiki macht einmal den Unterschied beider Coloure klar:
      http://rationalwiki.org/wiki/Conservative_correctness

      Anti-Trollerei-Technologien hingegen, wie sie Julia beschreibt, haben heutzutage viel größeren Einfluß auf das Verhalten von Leuten und größere Effekte. Mit PC hat noch keiner eine Wahl gewonnen, aber verloren. Es zeigt sich hier das Ungleichgewicht zwischen informationstechnologischen Systemen (Meme-Filter) und von Menschen geschaffenen Instrumenten (Sprache). In auf Aufmerksamkeitsdiebstahl spezialisierte Systeme wie sozialen Netzen, in die wir unsere politischen Debatten ausgesourct haben, hat es die provozierende politisch korrekte Sprache der Konservativen allerdings wesentlich leichter.

      1. Ich bezweifle stark, dass sich mit „Anti-Trollerei-Technologien“ Filter-Bubbles reduzieren lassen, die Idee entbehrt nicht einer gewissen Ironie… :)

          1. Bei Nanny Bots frage ich mich immer wie man mit scikit-learn zwischen Hatespeech und Gerechterzornspeech unterscheiden will. :)

            Und ich weiss nicht, ob ich in einer Unaufgeregtheits-Filterbubble leben möchte…

  3. Was wir hier beobachten können ist die Demokratisierung von Propaganda-Techniken. Dummerweise nutzten das die neuen Rechten und nicht die Liberalen und Linken. Nicht zuletzt aus ethischen Beweggründen. Soziale Medien sind eine disruptive Technologie, die unsere Gesellschaft und den öffentlichen Diskurs total verändert haben. Eine kleine Gruppe von jungen Aktivisten, die in diese sozialen Netze hineingeboren wurden und mit dem Spiel der Aufmerksamkeitsökonomie groß geworden sind, als Fußsoldaten und alten Politstrategen und Ideologen als deren Generäle hat es geschafft, diese neue Waffe effektiv einzusetzen. Trump ist die Folge. Und das Establishment ist aus mir unverständlichen Gründen total geschockt, denn die haben ja jahrelang gesehen was vor sich ging.

    Soziale Medien haben Schwachunkte, die der Artikel auch angesprochen hat, und diese Schwachpunkte haben die Betreiber beständig in den letzten 10 Jahren für jeden Kenner der Materie äußerst sichtbar gefördert. Denn die Förderung virulenter Inhalte ist essentieller Bestandteil der Geschäftsmodelle dieser Unternehmen, und diese Schwachpunkte sind hackbar, wie 4chan schon vor 10 Jahren bewiesen hat. Was der NP.org-Artikel jetzt fordert ist die Erhöhung der Resilienz dieser Systeme. Eine vollkommen natürliche und nachvollziehbare Reaktion auf so eine Bedrohung.

    Meine Befürchtung ist aber, dass hier liberale Kräfte an der Enticklung von Herrschaftsinstrumenten zur Abwehr von sozialen Umbrüchen (Monitoring gegen Straßenproteste, Filtern virulenter, sprich revolutionärer Inhalte) mithelfen, und dass diese Abwehrinstrumente dann aber von der Alt-Right-Bewegung, die jetzt an die Macht kommt aufgegriffen wird. Die Instrumente muss man doch einmal von den Inhalten, die mit ihnen transportiert werden trennen! Dreht doch einfach mal die Vorzeichen um, schaut in andere Länder!

    Leute, ihr schaufelt euer eigenes Grab, wenn ihr nicht ganz genau aufpasst, was ihr da für Gegenmaßnahmen in die Hand nehmt und etabliert. Dabei sollte man als Aktivist als allererstes einmal lernen, wie man selbst Memes nutzt, um zu erfahren, wie ermächtigend und demokratisch sie eigentlich sind. Und ja, es sind Waffen, dessen sollte man sich im Klaren sein. Und wichtig ist, wirklich nur die Abwehrmechanismen helfen mitzuentwickeln, die Meinungsfreiheit fördern, Meinungspluralismus und sachliche Diskussion fördern. Die Grenze zu erkennen ist äußerst schwierig, aber es besteht die Gefahr, dass man sich in dir Richtung von China (soziale Kontrolle) oder Russland (totale Realitätsauflösung) bewegt und dass dann gerade die an der Macht sind, die man eigentlich bekämpfen wollte.

    Am Ende werden sowohl Memes (Russland) als duch die Abwehrmechanismen (China) doch wieder zu Herrschaftsinstrumente. Interessant ist, wie schnell das alles geht. Und dass das alles parallel abläuft, wir Gesellschaften haben, in denen diese Dinge unterschiedlich schnell vonstatten gehen und die sich auf unterschiedlichen Entwickungstufen befinden.

    Aber Trump ist jetzt erstmal vier Jahre im Amt, Kongress und Senat sind in fester Hand der GOP. Russland hat in Sachen Realitätsverzerrung einen unheimlichen Know-How-Vorsprung. Ich habe den Eindruck, die einzigen die total abgehängt sind im Moment seid ihr, die Vertreter der demokratischen Zivilgesellschaft. Und ihr verlasst euch auf die Hilfe der Industrie, die diese Schachtel der Pandorra einst geöffnet hat und ein überlebenswichtiges Interesse daran hat sie nicht zu regulieren… na dann gute Nacht.

    1. Ja, zum Glück nutzen das nur die Rechten und nicht die Linken und Liberalen.
      Man stelle sich mal vor: Linke und Liberale hätten die Fake-News in die Welt gesetzt das jedes Jahr auf dem Müchner Oktoberfest 200 Frauen von weissen, deutschen Männern vergewaltigt werden…

      Zum Glück haben auch Linke und Liberale nicht mit billigen Populismus versucht ihre Ziele durchzusetzen. CETA, TTIP – man stelle sich mal den Schaden vor wenn man dagegen mit billigen Antikapitalismus (Chlorhühnern und bösen Konzernen) dagegen Stimmung gemacht hat.

      Oder das gute Stuttgart 21. Seit dem Bau der S-Bahnen 1970ff ist der Talkessel von Tunneln durchzogen ohne das dadurch die Mineralquellen ungenießbar geworden sind, und das Stück Park das geopfert wird war vor allem für die Stricher am Planetarium, die Drogendealer am Busbahnhof und die Obdachlosen am Landespavillion bekannt.
      Zum Glück haben Linke und Liberale es vermieden das Horrorbild eines katastrophalen Tunneleinsturzes oder der Opferung von schönen Bäumen an die Wand zu malen um mit dieser Realtiätsverzerrung die moralische Überlegenheit zu erzielen.

  4. Wenn man den Nachrichten der sagen wir mal Lückenpresse glauben könnte wären all diese Fakes oder Hates von vorn herein zum Scheitern verurteilt. Das Problem ist die zweifelhafte Qualität der offiziellen Nachrichten. Die können zensieren oder löschen, das ändert nichts an der mangelhaften Qualität ihrer Aussagen. Fakt ist, dass diese Bundesregierung eher vor den Richter als in ein hohes Amt gehört.

  5. Meiner Meinung nach werden hier völlig falsche Probleme diskutiert. Man gucke sich doch einmal an, wie Trump die US-Wahl gewonnen hat und wo. Nämlich mit dem mit Abstand schlechtesten Ergebnis eines 2-way-race in der Geschichte und durch eine hauchdünne Mehrheit in den klassischen Industrie-Staaten. Sein Gesabbel über die Mauer zu Mexiko war dagegen bedeutungslos; im Gegenteil: In ALLEN Staaten an der mexikanischen Grenze hat er (zum Teil massiv) verloren. Dazu passt auch seine jetzige Rhetorik zur Autoindustrie – DAS ist nämlich das eigentliche Thema. Dem Gegenüber war eine Gegenkandidatin, die zwar Ahnung hat (was auch Trump-Wähler anerkennen), aber für wenig mehr als „weiter wie bisher“ stehen.

    Auch die AfD bei uns faselt zwar die braune Grütze, erreicht damit aber nichts – der Anschlag in Berlin war in den Umfragen wirkungslos. Gewählt werden die für „gegen die da oben!“.

  6. Ich finde es gerade sehr spannend! Die Diskussion und Auseinandersetzung ist gut, geht sie doch dem jahrzehntelangen Geflecht aus Propaganda und Einflussnahme endlich auf den Grund – auch wenn mir die Rolle der dpa als bisheriges Quasi-Wahrheitsministerium immer noch zu wenig transparent ist und zu wenig disktutiert wird.

    Dass die jetzt eingeschlage Richtung aber absurd ist, zeigt z.B. die Meldung „Weihnachten wird die Geburt von Gottes Sohn gefeiert“, die eigentlich in mehrerer Hinsicht als Fakenews dunkelrot triggert. Aber wird man die meldenden Zeitungen abwerten? Natuerlich nicht. Es bleibt eine Propagandschlacht.

    Deswegen bin ich froh, dass hier im Artikel laut Alternativen zu den erstgenannten nicht zielfuehrenden Massnahmen aufgezeigt werden. Danke.

  7. Hinter diesen fake news werden oft genug pubertierende Jugendliche in ihren Filterblasen stecken. Diese Filterblasen sind oft genug geschlossene Gesellschaften. Aber die sind aus ihren Filterblasen nicht einmal auf die Straße zu bringen. Man sieht sowas auch auf anderen Seiten. Die Nachrichten, die dort verbreitet werden, dürften nebensächlicher Unsinn sein. Insofern halte ich die gesamte Diskussion der Regierung über Hasssprache und Falschnachrichten für einen Zensurversuch und Propaganda zur Ablenkung von wirklich bestehenden Problemen.

    Es gibt in Deutschland echte Hassprediger und die heißen nicht Trump, gegen die wird nichts getan. Die muss man aber nicht irgendwo im Netz suchen, die sind viel realer.

  8. Die Frage ob der Staat sich in mehr oder wenigen privaten Dingen einmischen darf, ist genau die Frage die nicht beantwortet wird, bzw. irgendwie scheint es momentan als selbstverständlich, dass es sein soll.

    Aber das bringt genau das zweite Problem auf den Tisch, das „allgemeingültige Narrativ“.

    Auch die Autorin geht davon aus, dass es explizite Wahrheiten gibt, denen nicht widersprochen werden darf.

    Sei es das Thema Klimawandel, das sicher nicht so einseitig ist, wie es sich viele Menschen vorstellen, aber auch was hier als „Migrationsströme“ bezeichnet wird. Da scheint es Wahrheiten zu geben und auf der anderen Seite „Hetze“. Aber genau diese Unfähigkeit in der Öffentlichkeit offen Themen zu debattieren ist das was viele Menschen als einschränkend empfinden.

    Ich bin kein Anhänger des Begriffs „Lügenpresse“ oder des bescheuerten Spruchs, es gäbe „Tabuthemen“, aber ich sehe in den grossen Medien eine Unfähigkeit Meinungen offen und breit zu zulassen.

    Heute morgen war das ZDF mal wieder ein hervorragendes Beispiel. Im Moma wurde ausdauernd und mit vielen Gesprächspartnern über das Trumpinterview gesprochen. Es ging zu 100% nur um Sachen, die negativ ausgelegt werden können. Zu 100%!
    Aber das er in dem Interview auch statt Obamacare eine allgemeine Krankenversicherung in Aussicht gestellt hat wurde nicht erwähnt. Warum nicht? Weil es nicht in das Narrativ paßte Negativ über Trump berichten zu müssen. Das ist keine Berichterstattung, das ist Meinungsmache oder Propaganda.

    So geht das bei jedem „grossen“ Thema. Es wird eine Seite bis zum kotzen ausgeschlachtet und als Wahrheit verkauft und jeder andere Blickwinkel wird diffamiert, verleugnet oder ignoriert.

    Die Fakedebatt klingt danach, als ob im Augenblick die Politik im Bündnis mit den grossen Medien einen grossen Plan aushecken, mit dem sie in Zukunft Meinungen manipulieren wollen. Das ist ähnlich wie in Russland, zumindest kann ich den Unterschied nicht erkennen, dort glauben die staatlichen Journalisten auch, dass sie die Wahrheit verkünden.

    Meiner Meinung können Journalisten zu einer offener Debatte beitragen, in dem auch Ansichten die sie nicht selber teilen verbreitet würden.

    Eine Bekannte arbeitet beim ZDF, wenn die mich fragt was ich denke was sie machen sollten, um die Vorwürfe der „Lügenpresse“ entgegen zu treten, dann sage ich immer: gebt denen Sendezeit, 1 Stunde „AFD Nachrichten“ die Woche.

    Das war das erfolgreiche Konzept der 70er/80er. Minderheiten eine Stimme geben und ihnen Plattformen bieten. Auch wenn es weh tut. Aber dann müssen diese Leute akzeptieren, dass sie z.b. mit Grünen oder auch Flüchtlingen in einem Aufsichtsrat sitzen und evtl. kooperieren müssen, aber sie fühlen sich als Teil des Ganzen.

    Jetzt fühlen sich viele Millionen Menschen nicht zugehörig, weil „ihr“ Journalisten andere Meinungen habt als sie.

    1. @Struppi:

      Zunächst einmal: Sowas ähnliches gibt es schon. Die Sender sind zur Wahl verpflichtet, Wahlwerbespots aller Parteien zu senden. Das muss reichen. Denn: Wo soll das denn enden? Wenn wir „AfD-Nachrichten“ zulassen, warum dann nicht auch „KPD-Nachrichten“? Oder „PBC-Nachrichten“? Wir würden von sich widersprechenden offenen Propaganda-„Nachrichten“ auf dem Niveau „Sophie Scholl würde AfD wählen!“ (wie gerade erst über Facebook verbreitet) überschwemmt werden. Das ist keine Lösung.

      Interessant ist auch, dass hier eine Stimme für „Minderheiten“ gefordert wird und man Bezug auf eine Partei (AfD) nimmt, die Minderheiten (Muslime, Migranten, Asylbewerber, Hartz-IV-Empfänger) gern mal aufs Korn nimmt.

      1. Nur anscheint kommt der angebliche AfD Posting mit „Sophie Scholl“ nicht von der AfD. Im Moment wird alles versucht den politischen Gegner zu diskreditieren.
        Letztendlich bleibt die Frage, wer entscheidet was wahr od. falsch ist. Was heute als Falschmeldung abgestempelt wird, kann sich morgen als Wahrheit herausstellen. Und dann? Wie oft wurde durch noch nicht gesicherte Informationen ein Stein ins Rollen gebracht. Geht dies dann noch? Ich bezweifle es.

  9. @Julia Krüger
    |
    Gleich am Anfang desd Artikel springt mir dieser Satz ins Auge.
    |
    Im Zuge der Radikalisierung der deutschen Gesellschaft,
    |
    Woran machen sie das fest?

  10. Letztendlich hat Facebook ein generelles SPAM Problem. Wir stehen mit Sozialen Netzwerken dort, wo Suchmaschinen Ende der 90er standen. Alles voller Müll, entweder um Leute mit zweifelhaften Mitteln auf die eigenen Inhalte aufmerksam zu machen oder um Werbegelder zu kassieren. Facebook muss reagieren. Warum? Weil Facebook sich aus Werbung finanziert und Unternehmen keine Werbung auf digitalen Müllhalden schalten wollen. Letztendlich betrifft das ja nicht nur Falschmeldungen, es hat ja schon viel früher angefangen mit wie „12 Gründe warum du eine Zwiebel als Haustier halten solltest, Nr.10 treibt dir die Tränen in die Auge“.

  11. Ich benutze kein Facebook und kein Twitter. Auch keine Dienste von Google.
    Mir sind diese Unternehmen einfach zu gefährlich. Da wird eine Macht angesammelt, die niemals in die Hände einzelner (Unternehmen) gelangen dürfte.

  12. Eine der Grundannahmen des Artikels, dass Trump über gezielte Facebookwerbung die Wahl gewonnen haben soll, scheint mir auf tönernen Füßen zu stehen. Wie groß ist denn die Überschneidung von Facebooknutzern und Wahlberechtigten?

    Ich nutze selbst kein Facebook, aber bekommt da jeder politische Artikel in seine Timeline? Sind da nicht vor allem Leute unterwegs, die einerseits v.a. mit Freunden kommunizieren, andererseits ihren Hobbies (Sportclubs, Musikstil, Diäten, Katzenbilder, Kochrezepte, Autos, …) und drittens reiner Unterhaltung (Musikclips, Cartoons, Witze, Sprüche, (Monday, endlich Wochenende, Kaffee). So kenne ich das von Google+. Wie offen sind die für politische Botschaften und Nachrichten?

    Und dass man die Leute gezielt angesprochen hat heißt noch nicht, dass man sie auch überzeugt hat.

    Ansonsten möchte ich mich den Klagen über die Monokultur in den Fernsehnachrichten anschließen. Ich bin selbst kein Nachrichtenjunkie und informiere mich gar nicht sonderlich breit und vielfältig, aber obwohl ich hauptsächlich trumpkritische, eher linke Quellen konsultiere, (darunter Nachdenkseiten, Rubin Report) meine ich ein differenzierteres Bild von Trump zu haben als die Journalisten des Fernsehens, die dafür bezahlt werden, sich anständig zu informieren.

    Zum Klimawandel sehe ich keine relevante Alternative, was die Gründe für Sorgen betrifft. Es wird aber erstaunlich wenig über nötige Gegenmaßnahmen diskutiert. Alle paar Jahre gibt es eine Klimakonferenz, dann redet man gerne über Amis, die viel verschwenderischer sind (Klimaanlagen) und Chinesen, die in der Summe viel mehr sind – und die Gegenposition ist, dass wir als Vorbild vorausgehen sollen. Was aber getan werden soll, außer Klimaziele zu definieren, dazu findet kaum eine Diskussion statt.

    Und eine Fokussierung auf nur wenige Themen meine ich festzustellen. Monatelang ging es nur um Griechenland, dann die Flüchtlingskrise, um Silvester/Köln, Terror.

    Es scheint eine große Koalition auch in den Redaktionen zu geben, wo man sich auf einen Mittelweg geeinigt hat. Kontroversen werden selten zugelassen. Entsprechend wird zum NSA-Skandal nicht nachgehakt. Der NSU-Prozess plätschert dahin, im Spätprogramm sind dann kritische Fragen möglich.

    Die Millionen Internetpostings kann niemand kontrollieren. Man kann hoffen, dass die User sich bald an wiederkehrenden Troll- und Krawallmustern langweilen und der Ton in der Fläche vernünftiger wird. Bei länger existierenden Foren meine ich solche Konsolidierungsprozesse beobachtet zu haben.

    Faktenchecks halte ich für kaum durchführbar. Postings, die viral werden, haben ihren Peak in den ersten 1-2 Stunden. In 24 Stunden können die sich also leicht 12 mal potenziert haben. Ich weiss aber nicht, wie lange sich solche Postings durch die Plattformen fortpflanzen – aber viele Themen sind ja tagespolitisch interessant und nach ein paar Tagen schon Schnee von gestern – andere Themen sind freilich auch langlebig. Lassen die sich denn dann auch verfolgen oder werden sie unterwegs zu oft modifiziert, so dass man nach 2-3 Hops wieder eine neue Prüfung bräuchte?

    Ich meine die Leute müssen selbst lernen, Trash als Trash zu erkennen und zweitens miteinander Kontroversen zu diskutieren, ohne den anderen niederzubrüllen. Am berüchtigten Stammtisch klappt das ja auch mehr oder weniger.

  13. Fake-News sind gefährlich.
    Z.B. die Fake-News das ein ägyptischer Asylbewerber mit tunesischer Staatsbürgerschaft und 14 Identitäten von einem V-Mann des Verfassungsschutzes NRW nach Berlin gefahren wurde obwohl die Inlandsgeheimdienste von NRW und Berlin und die zuständigen Behörden von kriminellen und möglichen terroristischen Aktivitäten gewusst haben und das dieser Mann einen polnischen LKW Fahrer mit einer illegalen Waffe getötet hat um dessen LKW für einen Anschlag auf einen Weihnachtsmarkt zu verwenden.

    Solche Fake News sorgen dafür das die Wähler AfD wählen, gut das Correctiv solche News in Zukunft genau prüft und als unglaubwürdig markiert. Was für eine schöne neue Welt !
    http://gutenberg.spiegel.de/buch/christian-morgenstern-gedichte-325/32

  14. Fake-News und Hatespech?
    Miniwahr ich hör dir trapsen …
    und jeder der den Blödsinn kolportiert,
    ist Sargträger einer pluralistischen offenen Gesellschaft.
    Unabhängig ob man es „gut meint“ oder nicht.

    Die einzige vernüftige Reaktion ist laut aufzulachen, gefolgt von einem „I call bullshit…“ und „… and you an idiot.“.

    Man lässt sich doch die Welt nicht als Scheibe verkaufen, oder?

  15. tl;dr

    Es sollte zur Kenntnis genommen werden, dass der Rassismus-Begriff und die Auseinandersetzung mit der NS-Geschichte in den Begriffen „Hate Speech“ und „Fake News“ eincontainert wird. Also „Hate Speech“ und „Fake News“ anstatt „Rassismus/Antisemitismus“ und „Auschwitzlügen“.

    1. Horst Kevin
      Jetzt bringen Sie mir mein Weltbild ins Wanken,die Bundesregierung schien mir bisher so glaubwürdig,der Verfassungsschutz so grundehrlich,der BND so vertrauenseinflößend,der Schäuble so korrekt,der DE Maiziere so aufrichtig,niemals hegte ich Unbehagen,denn ich habe ja nichts zu verbergen.
      Jetzt überkommen mich so leise Zweifel,an deren Integrität,mich dünkt, Sie sind ein Gefährder ,für Anhänger naiver Weltbilder,meines bekommt auch schon langsam Risse :)

    2. http://www.nbcnews.com/meet-the-press/wh-spokesman-gave-alternative-facts-inauguration-crowd-n710466?cid=sm_fb_msnbc

      Das dort sind keine pubertierenden Jugendlichen, sondern Menschen in Positionen, die vor nicht all zu langer Zeit noch so etwas wie Vorbildfunktion hatten. Dort verwendet man also nun „alternative Fakten“.

      Wie stellt man jetzt einen Löschantrag für das Weiße Haus? Hat jemand einen Wiki-Link?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.