Es ist Woche der Social Bots im Bundestag. Nach dem öffentlichen Fachgespräch des Ausschusses Digitale Agenda am Mittwoch, lud gestern der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung 20 Experten ein. In einem zweieinhalbstündigen Fachgespräch wurden die Zwischenergebnisse einer Studie, die sich mit Einfluss und Wirksamkeit von Social Bots beschäftigt, diskutiert. Die Studie wird vom Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag in Kooperation mit der VDI/VDE Innovation + Technik GmbH durchgeführt. Sie stellt Zwischenergebnisse in Form von neun Thesen vor.
Die Studie baut auf zwei Säulen auf: Neben einer Text- und Quellenanalyse wissenschaftlicher Veröffentlichungen zum Thema wurden 25 Experteninterviews durchgeführt. Die großen Internetkonzerne Facebook, Twitter, Amazon und Microsoft lehnten allerdings eine Beteiligung an der Studie ab.
Social Bots werden im Thesenpapier als „Computerprogramme, die eine menschliche Identität vortäuschen und zu manipulativen Zwecken eingesetzt werden, indem sie wie Menschen im Internet kommunizieren“ definiert. Diese Social Bots unterscheidet die Studie explizit von „unterstützenden Bots“ (Chat Bots oder digitalen Assistenten) sowie von Spam-Mails. Die Studie legt damit einen Fokus auf Bots, hinter denen das Motiv der politischen Einflussnahme steht. Die Versuche Konsumentenverhalten durch Bots zu beeinflussen, werden vom Thesenpapier nur am Rande behandelt.
Empirische Grundlage bleibt dünn
Auch wenn das vorgestellte Thesenpapier nur einen Zwischenstand präsentiert, ist doch bemerkenswert wie allgemein und vage die Thesen bleiben. Auf die mangelnde empirische Grundlage der Debatte um Social Bots hatten wir schon an anderer Stelle hingewiesen. Eine „begrenzte Anzahl prominenter Beispiele der Einflussnahme“ müsse herhalten um den Wirkungsraum einzuschätzen, sagt dann auch die Studie. Dieser sei bei Twitter größer als bei Facebook. Das Ausmaß der Einflussnahme sei jedoch „kaum belegt“. Erschwerend komme hinzu, dass das systematische Aufdecken und Erkennen von Bots immer dem Bestreben der Entwickler, eine menschliche Identität vorzutäuschen, nachstehe.
Klimavergiftung öffentlicher Diskurse
Doch trotz der schwachen empirischen Grundlage schreibt die Studie dem Phänomen ein großes Gefahrenpotential zu. Durch Ausnutzen des Menschen als Schwachstelle, sei die IT-Sicherheit gefährdet. Denn dieser werde beispielsweise vermehrt und glaubhafter mit Links zu schädlichen Internetseiten konfrontiert. Da Benutzer sozialer Plattformen das Vertrauen in diese verlieren könnten und in Folge dieses Vertrauensverlustes der Wert von Werbung sinke, sei langfristig sogar das Geschäftsmodell großer Plattformen gefährdet.
Besonders im gesellschaftlichen Kontext zeichnet die Studie ein breites Gefahrenszenario. Die befragten Experten bewerten das Gefahrenpotential von Social Bots unterschiedlich. Sie seien in der Lage durch die Manipulation von Trends die Relevanz von Themen aufzuwerten. Des Weiteren könne die massenweise Verbreitung von Fake-News zu Desinformation und Klimavergiftungen öffentlicher Diskurse führen. Unter „bestimmten Vorraussetzungen“ (wie beispielsweise anstehenden Wahlen) sollen Social Bots in der Lage sein, den Ausgang politischer Entscheidungsprozesse zu beeinflussen. Im Extremfall bergen sie sogar „das Potential, das Vertrauen in die Demokratie zu unterlaufen.“
Social Bots würden als technisches Propagandamittel und Treiber in der Debatte um das „postfaktische Zeitalter“ fungieren. Durch sie sei das Unterscheiden von Lüge und Wahrheit zunehmend schwieriger, bis letztendlich die Lüge gesellschaftlich akzeptiert würde.
„Second Internet“ und andere Lösungsansätze
Eine mögliche Folge der Social Bots sei laut eines Teils der befragten Experten die Schaffung eines kostenpflichtigen und parallelen Internets „von und für Eliten.“ Dieses „Second Internet“ sei frei von den genannten Problemen, während man das „normale“ Internet „Werbung, Hatespeech, Shitstorms und eben auch Social Bots“ überlassen würde. Wie diese Trennung vollzogen werden soll und wie Social Bots aus diesem Second Internet ferngehalten werden sollen erklärt das Thesenpapier jedoch nicht. Als weitere Lösungsansätze für die beschriebenen Probleme wurden von den befragten Experten Ausweiszwang für Bots oder die Prüfung der Sozialverträglichkeit für Bots genannt. Neben rechtlichen Fragestellungen, stelle sich hier auch die Frage der Umsetzbarkeit.
Das Thesenpapier vermag, neben dem Eingeständnis eine schwache Grundlage für seine Forschung zu haben, durch das Aufzeigen eines weitreichenden Gefahrenpotentials zu überraschen. Ob die Studie in ihrem weiteren Verlauf Antworten auf die Umsetzbarkeit der angedeuteten Lösungsansätze liefern kann, bleibt abzuwarten. Eine fundierte Grundlage für eine Debatte über den Umgang mit Social Bots liefert die Studie bisher nicht.
Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag ist eine selbstständige wissenschaftliche Einrichtung und wird vom Karlsruher Institut für Technologie betrieben. Es konzipiert Forschungsprojekte und führt diese für den Deutschen Bundestag durch. Sein Steuerungsgremium ist hierbei der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung. Seit Oktober 2016 läuft die Studie zur gesellschaftlichen und politischen Relevanz des Themas Social Bots.