Öffentlichkeit

Thesenpapier attestiert Social Bots weitreichendes Gefahrenpotential

Bisher fehlt den Diskussionen um Social Bots die wissenschaftliche Grundlage. Ein Thesenpapier des Büros für Technikfolgen-Abschätzung könnte die Debatte nun auf eine wissenschaftliche Grundlage stellen.

Social Bots birgen ein großes Gefahrenpotential.
Foto: CC BY-NC 2.0 via flickr/Daniel Bagel

Es ist Woche der Social Bots im Bundestag. Nach dem öffentlichen Fachgespräch des Ausschusses Digitale Agenda am Mittwoch, lud gestern der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung 20 Experten ein. In einem zweieinhalbstündigen Fachgespräch wurden die Zwischenergebnisse einer Studie, die sich mit Einfluss und Wirksamkeit von Social Bots beschäftigt, diskutiert. Die Studie wird vom Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag in Kooperation mit der VDI/VDE Innovation + Technik GmbH durchgeführt. Sie stellt Zwischenergebnisse in Form von neun Thesen vor.


netzpolitik.org - ermöglicht durch Dich.

Die Studie baut auf zwei Säulen auf: Neben einer Text- und Quellenanalyse wissenschaftlicher Veröffentlichungen zum Thema wurden 25 Experteninterviews durchgeführt. Die großen Internetkonzerne Facebook, Twitter, Amazon und Microsoft lehnten allerdings eine Beteiligung an der Studie ab.

Social Bots werden im Thesenpapier als „Computerprogramme, die eine menschliche Identität vortäuschen und zu manipulativen Zwecken eingesetzt werden, indem sie wie Menschen im Internet kommunizieren“ definiert. Diese Social Bots unterscheidet die Studie explizit von „unterstützenden Bots“ (Chat Bots oder digitalen Assistenten) sowie von Spam-Mails. Die Studie legt damit einen Fokus auf Bots, hinter denen das Motiv der politischen Einflussnahme steht. Die Versuche Konsumentenverhalten durch Bots zu beeinflussen, werden vom Thesenpapier nur am Rande behandelt.

Empirische Grundlage bleibt dünn

Auch wenn das vorgestellte Thesenpapier nur einen Zwischenstand präsentiert, ist doch bemerkenswert wie allgemein und vage die Thesen bleiben. Auf die mangelnde empirische Grundlage der Debatte um Social Bots hatten wir schon an anderer Stelle hingewiesen. Eine „begrenzte Anzahl prominenter Beispiele der Einflussnahme“ müsse herhalten um den Wirkungsraum einzuschätzen, sagt dann auch die Studie. Dieser sei bei Twitter größer als bei Facebook. Das Ausmaß der Einflussnahme sei jedoch „kaum belegt“. Erschwerend komme hinzu, dass das systematische Aufdecken und Erkennen von Bots immer dem Bestreben der Entwickler, eine menschliche Identität vorzutäuschen, nachstehe.

Klimavergiftung öffentlicher Diskurse

Doch trotz der schwachen empirischen Grundlage schreibt die Studie dem Phänomen ein großes Gefahrenpotential zu. Durch Ausnutzen des Menschen als Schwachstelle, sei die IT-Sicherheit gefährdet. Denn dieser werde beispielsweise vermehrt und glaubhafter mit Links zu schädlichen Internetseiten konfrontiert. Da Benutzer sozialer Plattformen das Vertrauen in diese verlieren könnten und in Folge dieses Vertrauensverlustes der Wert von Werbung sinke, sei langfristig sogar das Geschäftsmodell großer Plattformen gefährdet.

Besonders im gesellschaftlichen Kontext zeichnet die Studie ein breites Gefahrenszenario. Die befragten Experten bewerten das Gefahrenpotential von Social Bots unterschiedlich. Sie seien in der Lage durch die Manipulation von Trends die Relevanz von Themen aufzuwerten. Des Weiteren könne die massenweise Verbreitung von Fake-News zu Desinformation und Klimavergiftungen öffentlicher Diskurse führen. Unter „bestimmten Vorraussetzungen“ (wie beispielsweise anstehenden Wahlen) sollen Social Bots in der Lage sein, den Ausgang politischer Entscheidungsprozesse zu beeinflussen. Im Extremfall bergen sie sogar „das Potential, das Vertrauen in die Demokratie zu unterlaufen.“

Social Bots würden als technisches Propagandamittel und Treiber in der Debatte um das „postfaktische Zeitalter“ fungieren. Durch sie sei das Unterscheiden von Lüge und Wahrheit zunehmend schwieriger, bis letztendlich die Lüge gesellschaftlich akzeptiert würde.

„Second Internet“ und andere Lösungsansätze

Eine mögliche Folge der Social Bots sei laut eines Teils der befragten Experten die Schaffung eines kostenpflichtigen und parallelen Internets „von und für Eliten.“ Dieses „Second Internet“ sei frei von den genannten Problemen, während man das „normale“ Internet „Werbung, Hatespeech, Shitstorms und eben auch Social Bots“ überlassen würde. Wie diese Trennung vollzogen werden soll und wie Social Bots aus diesem Second Internet ferngehalten werden sollen erklärt das Thesenpapier jedoch nicht. Als weitere Lösungsansätze für die beschriebenen Probleme wurden von den befragten Experten Ausweiszwang für Bots oder die Prüfung der Sozialverträglichkeit für Bots genannt. Neben rechtlichen Fragestellungen, stelle sich hier auch die Frage der Umsetzbarkeit.

Das Thesenpapier vermag, neben dem Eingeständnis eine schwache Grundlage für seine Forschung zu haben, durch das Aufzeigen eines weitreichenden Gefahrenpotentials zu überraschen. Ob die Studie in ihrem weiteren Verlauf Antworten auf die Umsetzbarkeit der angedeuteten Lösungsansätze liefern kann, bleibt abzuwarten. Eine fundierte Grundlage für eine Debatte über den Umgang mit Social Bots liefert die Studie bisher nicht.

Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag ist eine selbstständige wissenschaftliche Einrichtung und wird vom Karlsruher Institut für Technologie betrieben. Es konzipiert Forschungsprojekte und führt diese für den Deutschen Bundestag durch. Sein Steuerungsgremium ist hierbei der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung. Seit Oktober 2016 läuft die Studie zur gesellschaftlichen und politischen Relevanz des Themas Social Bots.

Weitersagen und Unterstützen. Danke!
11 Kommentare
  1. „Ausweiszwang für Bots“? Hört sich diskriminierend an ;-)

    > Im Extremfall bergen sie sogar „das Potential,
    > das Vertrauen in die Demokratie zu unterlaufen.

    das schaffen die hiesigen Medien schon alleine. Dafür braucht man keine Bots.

    > bis letztendlich die Lüge gesellschaftlich akzeptiert würde

    auch Millionen Bots werden das wohl nicht erreichen. Da benötigt man den Vertrauensvorschuss, den sich z.B. ARD/ZDF aufgebaut haben. Deshalb sind ja viele nicht in der Lage, dass enorme Ausmaß an täglicher Propaganda und Fremdbestimmtheit dort zu erkennen. Obwohl es offensichtlich ist.

    1. Sie meinen, weil es für SIE oofensichtlich ERSCHEINT…

      Oder wollen Sie die Gelegenheit nutzen und ganz im Sinne der Diskussion einmal „Beweise“ für Ihre These (bewusst in Abgrenzung zum Begriff der Theorie verwendet) vorbringen..?

      1. Ist ja eigentlich keine These, sondern die tausendfach belegte Realität. Internet sei Dank gibt es viele, die bewusste Falschinformationen durch die „Qualitätspresse“ dokumentieren. Häufig nachvollziehbar. Von Blogs wie Propagandaschau bis hin zu Telepolis. Fake-News fängt auf dem Sofa an und ist vor allem dort sehr wirksam.

  2. Ich glaube nicht, dass Bots was mit der Unzufriedenheit mit den politischen Verhältnissen zu tun haben. Aber das ist die Ursache für die Umwälzungen. Sowohl in den USA, als auch in Europa. In Deutschland 3 Fakten, ganz ohne Bot:
    1. „Rettungen“, das sind strenggenommen Insolvenzverschleppungen.
    Lösung wäre ein Trennbankensystem.
    2. Atomausstieg, „grüne Energie“ und Klimawandel, da tendiere ich zu Trump.
    Wer sagt denn, dass es sich nicht um Änderungen wegen der (völlig normalen) Polwanderung/-verschiebung handelt? Wie sollte man das messen/berechnen können?
    3. Flüchtlinge. Auch da tendiere ich zu Trump.
    BIP-Steigerung durch Staatskonsum durch Hochfahren der Asylindustrie. 22 Mrd. € in einem Jahr, das ist eine Menge Holz. Dann noch die Steigerungen der Rüstungsausgaben und damit war das reale BIP-Wachstum 2016 in D Null. Siechtum.
    Aber das sind Dinge, die jeder für sich selbst bewerten kann und sollte. Dazu bedarf es keiner Bots. Meine Wahlentscheidung würde kein Bot beeinflussen.

    In den USA gibt es 42 Mio. Essenmarkenempfänger. Vor Obama 28 Mio. Die müssen Arbeit suchen, sonst werden sie keine Snappies. Aus der Statistik fallen weitere 50 Mio. „Entmutigte“. Das ist die Katastrophe, aus der Trump seine Wähler schöpfte. Das sieht sogar in Europa etwas besser aus, aber nicht viel.

    1. @Michael

      1. Bankenrettungen – spielen sicher eine Rolle. Es ist schwer vermittelbar wenn Leute, die mutwillig und aus reiner Gier die Weltwirtschaft an den Rand des Abgrunds manövriert haben von Steuergeldern aufgefangen werden und der Staat anschließend kein Geld mehr für Bildung und Soziales hat.
      2. Wer behauptet, dass des Klimawandels Mensch gemacht ist?
      Die große Mehrheit der Wissenschaftler die seine Ursachen erforschen. Die liegen also alle falsch und Herr Trump und seine Milliardärskumpel, die zufällig großes persönliches Interesse an einem Weiterlaufen der fossilen Brennstoffe haben raten richtig?
      Warum?
      Und selbst wenn wir nur zu einem Teil verantwortlich wären (was unwahrscheinlich ist) und durch Energiesparen und das Umsteigen auf Erneuerbare Energien nebenbei deutlich weniger Luft und Wasser verschmutzen als mit Erdöl und zusätzlich noch die Abhängigkeit von diesem endlichen Rohstoff verringern, was wäre daran eigentlich so schlimm?
      3. Hier wiederholst du leider nur die Argumente der Hetz-Industrie, rund um Kopp Verlag, Afd und diversen Hasspredigern auf YouTube, die gutes Geld damit verdienen, eine Verschwörung zu zeichnen, in der die „Fremden“ von finsteren Mächten geholt werden
      um die Deutschen zu vernichten. Dafür gibt es keinerlei Belege. Belegt ist hingegen, dass in Syrien
      ein fürchterlicher Krieg herrscht und Millionen auf der Flucht sind.
      Die wenigsten davon landen in Deutschland, die meisten in Ländern die deutlich ärmer sind.
      https://www.weforum.org/agenda/2016/07/richest-countries-fewest-refugees-oxfam/
      Ich finde gut, dass du dich kritisch mit der politischen Lage auseinander setzt, aber vielleicht solltest du dir mal ein paar neutralere Quellen zu diesen Themen anschauen.
      Wo du sicher recht hast: Bots sind bestimmt nicht der Grund für die hohe Unzufriedenheit.

    2. Was die Armut angeht:
      Die USA haben mit unter 5% mit die niedrigste Arbeitslosenquote der Welt.
      Die Leute sind arm obwohl sie einen, oft sogar mehrere Jobs haben. Und woran liegt das?
      Das liegt daran, dass sie so beschissen bezahlt werden.
      Und warum werden sie so beschissen bezahlt?
      Aus zwei Gründen:
      1. Weil die konsequente neoliberale Politik der letzten 30 Jahre alle Arten von Arbeitnehmerschutz und Vertretungen zerstört hat.
      2. Weil die Einkommen der reichsten 2% der Amerikaner sich in dieser Zeit vervielfacht haben. Und wo soll dieses Geld herkommen, wenn nicht von den durch Lohndumping umverteilten Einkommen der Unter und Mittelschicht.
      Und wer sind diese 2% die sich die Taschen voll gestopft haben und das auch noch in Zukunft tun möchten?
      Trump und seine Kollegen, denen er jetzt die Posten zuschanzt.
      Diese Leute haben als allerletztes die Interessen der Armen im Sinn.
      Alleine die Abschaffung von Obamacare wird die Ärmsten am härtesten Treffen.
      Amerika steht eine soziale Kälte bevor, wie sie die Welt noch nicht erlebt hat.

    3. Polwanderung – wie sollte man das messen/berechnen können?

      Nun, wenn man es nicht messen und berechnen könnte – woher sollte man dann davon wissen? Mit verteilten Magneten, auch bekannt als Kompass, sollte sich eine Polwanderung messen lassen, glauben Sie nicht?

  3. @Michael

    1. Bankenrettungen – spielen sicher eine Rolle. Es ist schwer vermittelbar wenn Leute, die mutwillig und aus reiner Gier die Weltwirtschaft an den Rand des Abgrunds manövriert haben von Steuergeldern aufgefangen werden und der Staat anschließend kein Geld mehr für Bildung und Soziales hat.
    2. Wer behauptet, dass des Klimawandels Mensch gemacht ist?
    Die große Mehrheit der Wissenschaftler die seine Ursachen erforschen. Die liegen also alle falsch und Herr Trump und seine Milliardärskumpel, die zufällig großes persönliches Interesse an einem Weiterlaufen der fossilen Brennstoffe haben raten richtig?
    Warum?
    Und selbst wenn wir nur zu einem Teil verantwortlich wären (was unwahrscheinlich ist) und durch Energiesparen und das Umsteigen auf Erneuerbare Energien nebenbei deutlich weniger Luft und Wasser verschmutzen als mit Erdöl und zusätzlich noch die Abhängigkeit von diesem endlichen Rohstoff verringern, was wäre daran eigentlich so schlimm?
    3. Hier wiederholst du leider nur die Argumente der Hetz-Industrie, rund um Kopp Verlag, Afd und diversen Hasspredigern auf YouTube, die gutes Geld damit verdienen, eine Verschwörung zu zeichnen, in der die „Fremden“ von finsteren Mächten geholt werden
    um die Deutschen zu vernichten. Dafür gibt es keinerlei Belege. Belegt ist hingegen, dass in Syrien
    ein fürchterlicher Krieg herrscht und Millionen auf der Flucht sind.
    Die wenigsten davon landen in Deutschland, die meisten in Ländern die deutlich ärmer sind.
    https://www.weforum.org/agenda/2016/07/richest-countries-fewest-refugees-oxfam/
    Ich finde gut, dass du dich kritisch mit der politischen Lage auseinander setzt, aber vielleicht solltest du dir mal ein paar neutralere Quellen zu diesen Themen anschauen.
    Wo du sicher recht hast: Bots sind bestimmt nicht der Grund für die hohe Unzufriedenheit.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.