Öffentlichkeit

Warum wir die panische Bot-Debatte beenden sollten

Niemand weiß genau, was ein Social Bot ist, wie man ihn erkennt und welche Auswirkungen er auf die Öffentlichkeit hat. Dennoch fordert die CDU jetzt eine schnelle Regulierung. Das ist gleich auf mehreren Ebenen falsch – und gefährlich, weil Grundrechte dabei unter die Räder kommen könnten. Ein Kommentar.

Wir wissen nicht, von was wir reden, wie wir es erkennen, welchen Einfluss es hat – aber wir müssen das regulieren. Irgendwie. Hart. Und vor allem ganz ganz schnell. (Symbolbild) CC-BY-NC-SA 2.0 Trevor Pritchard

Die Bots sind wieder los. Mittlerweile reicht ja eine umstrittene, aber weit rezipierte Studie einer CDU-nahen Firma, damit nun auf höchster Ebene über Regulierung von Social Bots diskutiert wird. Da ist es auch vollkommen egal, dass Experten und Wissenschaftler die Studie scharf kritisieren, weil die Firma Botswatch die Methodik zum Geschäftsgeheimnis deklariert hat. Der CDU-Fraktionsvorsitzende Ralph Brinkhaus fordert nun prominent in der FAS ein Gesetz gegen die angebliche Manipulation durch Bots. Aber bitte noch vor dem Superwahljahr 2019. Angestoßen ist damit eine so unsinnige wie gefährliche Debatte, an deren Ende mal wieder digitale Grundrechte geschliffen werden könnten.

Dabei sind wir uns ja alle einig, dass wir keine Öffentlichkeit haben wollen, in der finanziell gut ausgestattete und technisch versierte Player mit automatisierten Postings, Retweets und Likes Themen setzen oder verstärken können. Das ist richtig und wichtig. Aber dann können wir doch nicht nach dem Motto vorgehen: Wir wissen nicht, von was wir reden, wie wir es erkennen, welchen Einfluss es hat – aber wir müssen es regulieren. Hart. Irgendwie. Und vor allem ganz ganz schnell.

Es fängt damit an, dass über ganz verschiedene Phänomene diskutiert wird: Reden wir eigentlich über Künstliche Intelligenz, über automatisierte Accounts, über Chat-Bots in der Kundenbetreuung, über Fake-Follower, über nervige Trolle mit dutzenden Accounts, über Fake-Accounts von Menschen und Institutionen oder über unerwünschte außenpolitische Einmischung im Sinne eines Informationskrieges?

Selbst wenn wir nur über automatisierte Accounts sprechen, bleibt das Thema schwierig. Es gibt bislang noch keine valide bekannte Methode, Bots in sozialen Netzwerken maschinell und vor allem eindeutig zu erkennen. Am ehesten schaffen das gerade die großen Plattformen: Wir können beobachten, dass Twitter und Facebook heute deutlich stärker gegen Bots und Fake-Accounts vorgehen als noch vor zwei Jahren.

Bots sind keine Eier, wo man die Herkunft draufstempeln kann

Aber selbst wenn wir Bots einfach erkennen könnten, dann wissen wir immer noch nicht, ob und welchen Einfluss Bots tatsächlich auf die Öffentlichkeit haben. Im großen Werkzeugkasten von Online-Kampagnen und Propaganda erscheint der Social Bot derzeit eher als banaler Holzhammer, mit dem man ein bisschen auf Postings und Hashtags einknüppeln kann, um diese zu verstärken. Ob diese maschinelle Verstärkung aber überhaupt bei Otto Normalsurfer ankommt, ist schon fraglich. Viel spannender in Sachen Verstärkung sind die Auswahlkriterien, die bestimmen, was Menschen zum Beispiel auf Facebook im Newsfeed sehen.

In der neuerlichen Debatte wird nun der Ruf nach einer Kennzeichnungspflicht von Bots laut. Die Grünen hatten eine solche schon vor zwei Jahren gefordert, jetzt will das auch die CDU. Kennzeichnungspflicht, das klingt gut: nach Kontrolle, regionalen Eiern und Bio-Siegel. Eine solche Kennzeichnung mag für den Chat-Bot im Kundenservice von Unternehmen umsetzbar und sinnvoll sein, bei der Manipulation öffentlicher Meinung hilft das Konzept nicht weiter. Denn wer Bots im Sinne einer geheimen, strategischen Beeinflussung des Diskurses einsetzen will, der wird dies auch in Zukunft verdeckt tun. Und dann bringt die Einführung einer Kennzeichnungspflicht nur die paradoxe Situation mit sich, dass den ungekennzeichneten Bots mehr Glauben geschenkt wird, weil ja laut Gesetz die bösen Bots alle der Kennzeichnungspflicht unterliegen – und mit einem Roboter-Icon markiert sind.

Die Bot-Debatte als Einfallstor für die Klarnamenpflicht

Wir sollten das Thema der Bots auf dem Schirm behalten, weiter beobachten und handeln, wenn es angebracht ist. Und wir müssen natürlich schauen, wie sich demokratische Meinungsbildung unter den Voraussetzungen großer marktdominanter Plattformen verläuft und in welche Richtung sie sich entwickelt. Die ganze Debatte jetzt führt nur dazu, dass Innenpolitiker und Hardliner aller Couleur hervorkommen und ihre langersehnte Klarnamenpflicht wieder auf die Agenda setzen. Denn das ist ja die umgekehrte Kennzeichnungspflicht: Kann ich Bots nicht erkennen, kennzeichne ich eben alle echten Personen. Mit all den bekannten negativen Folgen für Meinungsfreiheit.

Was die Fans einer Klarnamenpflicht – mal abgesehen von den grundrechtlichen Implikationen – immer komplett vergessen: Auch dieses Instrument schützt nicht vor Verbreitung von Falschnachrichten und Meinungsmanipulation. Eine Recherche von Buzzfeed zeigt, dass eine rechtsradikale Influencerin wie Erika Steinbach einige der prominentesten Falschnachrichten des Jahres teilte. Dabei ist die Frau schon heute  gekennzeichnet und für echt befunden – mit dem blauen Verifizierungshaken auf Twitter.

18 Ergänzungen
  1. mal im ernst: als das thema vor in etwa 4/5 jahren virulent wurde und ich es auf meinem blog thematisierte, haben alle abgewunken und mich für paranoid erklärt, als ob der gute onkel waldi sowas nie und nimmer auch hier tun würde.

    https://hinterwaldwelt.blogspot.com/2014/05/die-schafe-auf-der-weide.html

    und jetzt? statt das thema ernsthaft und auch mal in der rückschau, wer hier für wen den nützlichen idioten spielte (mir fällt da zb. telepolis spontan ein), wird wieder abgewunken?

    na klasse.

    niemand ist hier „panisch“, abeer eine diskussion in den blogs, die sich ernsthaft mit dem thema auseinandersetzen würde, fände ich schon angebracht. diese abwiegelei läßt mich fragen, wer von den alphabloggern sein zubrot aus st.petersburg bekommt.

    1. Ich habe das Thema in seinen unterschiedlichen Formen beleuchtet und in mehreren Artikeln betont, dass es nicht nur um „Social Bots“, sondern auch um koordinierte Trolle und Fake-Accounts/Fake-Influencer geht. Ich weiß jetzt nicht, warum ich dafür Geld aus St. Petersburg bekommen sollte.

    2. Ist ja echt merkwürdig, dass Sie direkt als paranoid abgestempelt wirst, wenn Sie Gegenstimmen zu Ihrer Argumentation direkt als von Russland bezahlte Trolls abstempeln. Kann mir da echt keinen Reim drauf machen.

  2. To bot, or not to bot, that is the question:
    Whether ‚tis nobler for the ai to suffer
    The slings and arrows of outrageous social media,
    Or to take apis against a Sea of spam,
    And by filtering end them: to shutdown, to hibernate
    No more;

  3. Das Problem liegt auch auf Seiten des Rezipienten. Er muss die Schlüssigkeitsprüfung machen, er muss hinterfragen, ob eine Information von mehreren Seiten bestätigt ist, welche Beweismittel evtl. sonst noch vorliegen Er kann auch sehen, ob die Argumentation logisch und auch sonst methodisch einwandfrei ist. O sie z.B. eher einem der üblichen Narrativen entspricht, bei denen das Argument gar nicht formuliert, sondern lediglich ein Meinungsbild (eine Geschichte) wiedergegeben wird, die einer bestimmten politischen Betrachtungsweise zuzuordnen ist.

    Und ja, die Quelle spielt auch eine Rolle. Mit seinem öffentlichen Auftritt schafft man Vertrauen – oder verspielt es. Selbst hier, wo viele mit Fake-Namen unterwegs sind, kann man den Namen oft einen bestimmten Background, bestimmte Argumentationsstile und eine politische Ausrichtung zuordnen und damit eine gewisse Quellenverifzierung vornehmen.

    Leider geht – wie ich hier neulich mal dargelegt habe – bei den Recipienten genau diese Fähgikeit zunehmend verloren. Ich meine die Fähigkeit, einen Diskurs zu führen. Ein Argument herzuleiten, zu begründen und dabei Gegenansichten aufzugreifen und ggf. Zu widerlegen. Und genau da liegt das Problem der Bots. Wer nur Drei-Wort-Sätze kann oder in seinem Narrativ gefangen ist, der kann natürlich auch nicht ansatzweise erkennen, ob eine Nachricht Fake ist, ein Argument von einem Bot, einem Troll oder sonstigen fragwürdigen Quelle stammt.

    1. „…bei denen das Argument gar nicht formuliert, sondern lediglich ein Meinungsbild (eine Geschichte) wiedergegeben wird“

      Nennt man das nicht einen Kommentar? In Kontrast zur Nachricht?

      Nicht alles, was in Form von Buchstaben herumgeistert ist gleich eine Tatsachenbehauptung.
      Und in unserer Rechtsordnung sind halt auch idiotische Meinungen mehr oder minder frei.

      1. Moin Grauhut,

        Bist Du nicht gerade dabei, meine Aussage in Teile zu zerlegen und gegen das vereinzelte Satzelement zu argumentieren ohne den ganzen Satz zu berücksichtigen? Ich will nämlich gar keine Meinung verbieten und bestreite auch gar nicht, dass auch idiotische Meinungen frei sind, sondern will zeigen, wie man Tatsachenbehauptungen, Meinungen, Argumente analysieren und auf ihre Glaubhaftigkeit beurteilen kann.

        Ich spreche von einem Narrativ, nicht von einem Kommentar. Der Kommentar setzt sich mit einer Faktenlage auseinander und bewertet sie. Dem kann man sich anschließen oder widersprechen. Das Narrativ ist eine etablierte Sprechweise, die einen Sachverhalt als gegeben unterstellt und ihn gleichzeitig mit Emotionen und Werten verknüpft. Dieses Konglomerat von Vorwissen, Meinung und Gefühl ist einem Diskurs nicht zugänglich.

        Bsp: „Umverteilung von unten nach oben“ sagt nur jemand , der politisch einer bestimmten Gruppe zuzuordnen ist, die von der Formulierung ein einheitliches Verständnis hat uns dessen Inhalt ablehnt. Andere würden den Begriff nicht verwenden, weil sie entweder nicht nachvollziehen können, was damit gemeint ist, oder die Tatsache als solche bestreiten oder die darin liegende Wertung für falsch halten.

        Dieses Narrativ beinhaltet kein Argument, dass in der politischen Argumentation genutzt werden könnte, sondern ist ein Etikett für das Meinungsbild seines Verwenders. Will ich mit Andersdenkenden diskutieren, muss ich mich von solchen Narrativen lösen und Argumente vortragen ohne eine Bias mitzutransportieren. Bots z.B. Sind oft auf solche Narrative ausgerichtet.

        Meine Message ist: Wenn ich Texte auf verschiedene Arten analysiere, kann ich ihre Relevanz beurteilen und damit viele Quatschnachrichten als Fake, Nonsense, Unwahr entlarven – oder umgekehrt feststellen, dass es von einem Menschen logisch nachvollziehbar gedacht und vorgetragen worden ist.

        1. „Bots z.B. Sind oft auf solche Narrative ausgerichtet.“

          Ok, Du glaubst also an das Narrativ vom wirkenden Social Media Bot und daß diese archetypische Narrative verbreiten, richtig? Oder hast Du die erforscht und kannst Beispiele liefern?

          Ich halte diesen Typ Bot eher für eine urbane Legende aus dem Internetdorf, das V-Wort lasse ich jetzt mal aus.

          Dann löse dich jetzt mal von diesem Narrativ und trage mir als Andersdenkendem mal Argumente und Belege vor, die die Existenz solcher Bots beweisen, ohne dabei ein Bias mitzutransportieren.

          Du hast meine Aufmerksamkeit.

          1. Textanalyse:
            zum wiederholten Male greift Grauhut einen Schnipsel aus einer Argumentationskette heraus und verliert dabei die ursprüngliche Gesamtmessage aus den Augen. Zur Erwiderung zieht er Worte wie Textbausteine aus dem Vortext und bildet daraus neue Sätze, verknüpft mit anderen Textbausteinen, die in dem Kontext so nicht verständlich sind, um dem Gespräch eine andere Richtung zu geben.

            Schlussfolgerung:
            Ich diskutiere auch mit Bots – aber nur, solange das zielführend ist. ; -))

          2. Ich bin eine biologische Intelligenz, lenk nicht ab, komm zur Sache! :)

            Ich habe Dich nur dazu aufgefordert ein Narrativ, das Du hier verbreitest, die Geschichte vom bösen Bot-Wolf, argumentativ ohne Bias zu vertreten, so wie Du es angesagt hast. Deine Antwort bisher war ein halber ad hominem. Komm, das kannst Du besser!

            „Will ich mit Andersdenkenden diskutieren, muss ich mich von solchen Narrativen lösen und Argumente vortragen ohne eine Bias mitzutransportieren. Bots z.B. Sind oft auf solche Narrative ausgerichtet.“

            Hic rhodos, hic salta! Verargumentiere mir das Narrativ vom bösen, wirkmächtigen, Wahlen beeinflussenden SocialBot ohne Bias, ich bin der Andersdenkende, von dem Du schriebst. ;)

            Und Prof. Florian Gallwitz würde sich sicher auch über Bot-Fakten freuen, der sucht welche:
            https://twitter.com/FlorianGallwitz/status/1075068811949297666

  4. Das lustige an der Bot-Debatte ist, dass sich die ganzen Täter nicht angesprochen fühlen.

    Siehe z.B. die Artikel auf Heise und Telepolis, während im Forum Rötzis Rotfärbebots den Ramsch der Disinfoagenten raufvoten.

  5. Die Panik kann man auf alle Fälle beenden. Aber warum denn gleich die Debatte? Die dürfte schon noch interessanter werden.
    Mit dem Signalwort „Bots“, denke ich, packt die CDU-Politik nicht zufällig ein Thema auf den Tisch, das demnächst zentral wird, nämlich den Einfluss von „ausländischen Kräften“ und unsigniertem Kapital auf die EU-Wahl.
    Natürlich spielen da auch Automatisierungen eine Rolle – wie groß und bedeutend die ist, ist nicht bezifferbar, aber nur deswegen ja noch nicht unwichtig. Wenn einem z.B. auf Youtube bei jeder Gelegenheit politische Nischenmeinungen als relevante Inhalte vor Augen gebracht werden, dann hat das vielleicht auch etwas mit organisierter Manipulation zu tun?
    Bots, vermute ich, ist nur die Chiffre, die sich am leichtesten in den Medien kommunizieren lässt (lange Zeit war es „Hatespeech“). Tatsächlich geht es um die Manipulateure der politischen Öffentlichkeit. Denn hinter jedem Bot und jedem automatisierten Feed steht ja letztlich ein Mensch bzw. eine Organisation, eine Absicht, eine Methode.
    Dass die gesamte Rechte mit Systematik und Hemmungslosigkeit, was Lüge und Betrug betrifft, Öffentlichkeit zerstört und Irrationalität anheizt, ist inzwischen Alltagserfahrung. Jetzt sind die Spitzenkandidaten für die EU-Wahl aufgestellt – man kann sich am kleinen Finger ausrechnen, dass die „Antieuropäer“ jetzt anfangen, ihre Kriegsführung zu planen. Wer hat denn da Lust, ähnlich wie bei der Trump-Wahl oder dem Brexit, sich naiv von den Lügenkanonen der Rechten zerschießen zu lassen?
    Ich rechne mit einem „evolving topic“ und einem Ping-Pong-Spiel mit den maßgeblichen Manipulationsplattformen bis in den März hinein. Tatsächlich ist die „panische Debatte“ die derzeit spannendste netzpolitische Frage, nämlich wie wir im Netz frei bleiben und gleichzeitig den organisierten Manipulateuren die Wirksamkeit entziehen können.

    1. „Bots, vermute ich, ist nur die Chiffre, die sich am leichtesten in den Medien kommunizieren lässt (lange Zeit war es „Hatespeech“). Tatsächlich geht es um die Manipulateure der politischen Öffentlichkeit. Denn hinter jedem Bot und jedem automatisierten Feed steht ja letztlich ein Mensch bzw. eine Organisation, eine Absicht, eine Methode.“

      Korrekt. Manipulateure ist ein hässliches Wort, wir alle wirken mit unseren Meinungsäußerungen, egal auf welchem Kanal, an sozialen Prozessen mit, die auch politischer Natur sein können. Und in den Internet-Echokammern bilden sich jetzt halt konkurrierende Narrative und Diskurse. Wir sind heute keine Gesellschaft mehr, die man über Bild, FAZ und Spiegel steuern könnte, drei Hinterzimmergespräche genügen nicht mehr, um den Diskurs zu lenken. Das ist das eigentliche Neuland, das die etablierte Politik und andere fürchten.

      Und mit den gelben Westen greift das gerade in die analoge Welt über. Nächste Eskalationsstufe.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.