Mad Max und die DSGVO: Die Auswirkungen dystopischer Science Fiction auf netzpolitische Debatten

Auf unserer vergangenen fünften „Das ist Netzpolitik!“-Konferenz hat der Schriftsteller Tom Hillenbrand eine Keynote mit dem Titel „Mad Max und die DSGVO: Die Auswirkungen dystopischer Science Fiction auf netzpolitische Debatten“ gehalten. Mit seiner freundlichen Genehmigung dokumentieren wir das Redemanuskript. Der Vortrag ist auch in verschiedenen Audio- und Videoversionen verfügbar bei media.ccc.de verfügbar und steht auf Youtube. Wir empfehlen seine Bücher Drohnenland und Hologrammatica. Er ist@tomhillenbrand auf Twitter.

Einleitung: Wie wird die Zukunft?

Einen schönen guten Morgen. Dieser Vortrag hat einen etwas seltsamen Titel. Was er bedeuten soll, wird hoffentlich im Laufe der nächsten zwanzig Minuten klar. Mein Vortrag beschäftigt sich mit der Frage was Science Fiction zu netzpolitischen Debatten, zur Netzpolitik im Allgemeinen beitragen kann und welche Auswirkung Science Fiction-Literatur und Science Fiction-Filme auf die Netzpolitik haben.

Warum stellt sich die Frage überhaupt?

Sie stellt sich, weil Netzpolitik, mehr als alle anderen Politikfelder, mit der Zukunft zu tun hat. Der Umgang mit persönlichen Daten oder staatliche Überwachung sind zu einem nicht unerheblichen Teil technische Fragen und damit fast automatisch Fragen, die zukünftige Technologien betreffen. Gleichzeitig ziehen sich politische Prozesse über sehr lange Zeit hin. Wir haben das zuletzt bei der Datenschutzgrundverordnung (DSGVO) gesehen. Der erste Vorschlag der Kommission für die neue Verordnung kam Anfang 2012, es hat also gut sechs Jahre gedauert bis das Gesetz in Kraft trat. Als die Kommission also ihr erstes Papier geschrieben hat, gab es weder Snapchat noch Tinder.

Angesichts der Rasanz technologischer Entwicklung machen Netzpolitiker noch mehr als Politiker in anderen Politikfeldern Gesetze für eine ungewisse Zukunft. Folglich fragen sich Netzpolitiker noch mehr als andere Menschen: Wie wird die Zukunft?

Diese Frage lässt sich kurz und bündig beantworten. Die Zukunft wird fürchterlich, entsetzlich, grauenvoll.

Dystopie Galore!

Das zumindest könnte man annehmen, wenn man sich anschaut, was in der Populärkultur im Science Fiction-Bereich so die Bestseller der letzten Jahre gewesen sind: Mad Max: Fury Road, Handmaid’s Tale, Black Mirror, Hunger Games, Man in the High Castle, Blade Runner 2049, Automata, Transcendence, Snowpiercer, Book of Eli, Rain, Extinct uvm.

Das sind alles Dystopien. Es geht um Auslöschung der menschlichen Spezies, globale Seuchen, durchgedrehte Roboter, entfesselte Künstliche Intelligenzen (KIs), Überwachungsstaaten, totalitäre Systeme.

Dieses Filmplakat fasst es zusammen: „The future is fucking awful“.

Man könnte also meinen, wir gingen düsteren Zeiten entgegen. Vielleicht tun wir das auch. Aber es lohnt für einen Moment innezuhalten und darüber zu sprechen, wie es eigentlich passieren konnte, dass, wenn wir über die Zukunft reden oder nachdenken, die Dystopie anscheinend das Default Setting geworden ist.

Es gibt darauf eine literaturwissenschaftliche Antwort. Wenn man sich das Genre der Science Fiction und dessen Wandel über die Jahrzehnte anschaut, kann man Phasen identifizieren, in denen bestimmte Themen en vogue waren.

Bis in die Zwanzigerjahre gab es in der Science Fiction kaum dystopische Weltentwürfe, sondern im Gegenteil meist positiv gestimmte, und utopische. Das war damals wie heute eine Zeit der rasanten technologischen Entwicklung. Aber anders als heute ging man davon aus, dass Technologie alles besser machen würde.

Aber dann kommen verschiedene Entwicklungen, die alles andere als positiv sind – der Totalitarismus der jungen Sowjetunion, der Faschismus in Italien und Deutschland und natürlich die Wirtschaftskrise, die Great Depression. Und plötzlich erscheinen Bücher wie „ Schöne neue Welt“, „1984“ oder auch „La Fin Du Monde“. Der Literaturwissenschaftler konstatiert: Das sind eben alles Rückwirkungen der realen Welt auf die Autoren und ihre Werke. Genauso kann man zeigen, dass es in der Science Fiction der fünfziger Jahre sehr oft darum geht, dass irgendwelche Invasoren aus dem All hinabkommen und die Menschheit unterjochen – und natürlich sind auch das Einflüsse des kalten Krieges – die Angst, dass der Russe kommt.

In den achtziger Jahren haben wir dann die Phase des Cyberpunk, Science Fiction unter dem Eindruck des aufkommenden Informationszeitalters, da kommen dann William Gibsons Neuromancer oder Ridley Scott’s Bladerunner – urbane Wüsten und Cyberspace.

Und aktuell geht es zum einen um die Versklavung oder Knechtung der Menschheit durch Technologie und Überwachung. Zum anderen treten ökologische Aspekte immer mehr in den Vordergrund und es werden Szenarien einer Zukunft durchgespielt, die für Menschen nicht mehr bewohnbar ist, weil zu heiß oder zu verstrahlt oder zu giftig.

Der Science Fiction-Autor Kim Stanley Robinson sagt „Science fiction represents how people in the present feel about the future.“

Und wenn das stimmt, dann ist unser Gefühl, dann sind unsere Vibes momentan offensichtlich nicht so wahnsinnig gut.

Science Fiction als Prognoseinstrument

Aber heißt das jetzt wirklich, dass Netzpolitiker sich auf eine entsetzliche Zukunft vorbereiten müssen? Kann schon sein. Aber wenn der Grund dafür ist, dass ihr zu viel Netflix geguckt habt, dann macht ihr vermutlich was falsch.

Ich habe ja vorhin gesagt, Netzpolitik sei notwendigerweise eine in der Zukunft verankerte Politik. Und natürlich sucht deshalb jeder, der in diesem Bereich tätig ist, händeringend nach einem Prognoseinstrument. Sucht nach einer Kristallkugel, die ihm vielleicht einen Hinweis darauf gibt, ob wir in zehn Jahren noch Mobiltelefone verwenden.

Kein Mensch weiß es. Und ich würde behaupten, wer es schon gar nicht weiß, das sind SF-Autoren. Das Track Record der Science Fiction, wenn es darum geht, konkrete technologische Entwicklungen vorherzusagen, ist nämlich eher durchwachsen.

Ein paar Beispiele:

Hoverboard. Das muss ich vermutlich nicht weiter erklären. Nach wie vor eine der größten Enttäuschungen meines Lebens, dass es dieses bereits für 2015 angekündigte Produkt immer noch nicht gibt.

Und das hier ist aus der Comicversion von „Neuromancer“. Der Hacker Case wird von einer KI angerufen. Und als er nicht rangeht, klingeln alle diese Münzfernsprecher. Handys gibt es in dieser Zukunft nämlich nicht.

Dann wäre da diese berühmte Eröffnungsszene von Blade Runner. Los Angeles im Jahr 2019.

Es sind ja nicht nur einzelne Technologien, sondern ganze Zukünfte, die wir inzwischen ad acta legen können: 29.8.1997 (Skynet-Atomschlag), 2000 (Judge Dredd), 2001 (Odyssee). All diese schlimmen Zukünfte haben wir schon überlebt.

Jedem, der nun auf uns Schriftsteller zeigt und sagt: „Eure Vorhersagen taugen ja nichts, dem möchte ich stellvertretend für alle Science Fiction-Autoren erwidern: Wir wollen ja auch gar keine Vorhersagen treffen. Das ist, glaube ich, ein enormes Missverständnis. SF hat überhaupt nicht die Intention, eine Zukunft zu entwerfen, die realistisch ist oder die mit hoher Wahrscheinlichkeit eintreffen wird.

Die kürzlich verstorbene Science Fiction-Autorin Ursula Le Guin hat einmal gesagt, sie schreibe Science Fiction deshalb, weil in der Zukunft theoretisch alles passieren könne und einem niemand zu widersprechen vermag: „Die Zukunft ist ein sicheres, steriles Laboratorium in dem man Ideen ausprobieren kann.“

Und nichts anderes sind auch all diese dystopischen Szenarien, das muss man sich, glaube ich, immer wieder klarmachen. Ein Grund dass Autoren in den letzten Jahren so viele dystopische Szenarien verfasst haben ist sicherlich, dass da gesellschaftlich und technologisch ein paar Sachen in der Luft liegen. Aber ein weiterer ist schlichtweg, das Dystopien unterhaltsamer als Utopien sind. Und dass es eine Hollywood-Logik gibt, es die gemerkt haben, dass dieses Subgenre gerade gut funktioniert, und deshalb gibt es so viel davon.

Ist damit die Dystopie als als Inspiration für die Netzpolitik wertlos? Das ist sie nicht, denn wir wollen ja tatsächlich nicht in einer Dystopie enden. Wir wollen keine Welt, in der der Staat jedem Bürger mithilfe von Big Data ein Sozialrating zuweist; wir wollen keine Datenhändler, die sich irgendwelchen Despoten andienen und für sie unsere Demokratien manipulieren und wir wollen auch keine Sicherheitsbehörden, die jeden von uns lückenlos überwachen.

Natürlich macht es Sinn diese ganzen technologischen Risiken und ihre Auswirkungen durchzuexerzieren im Sinne des Ideen-Laboratoriums von Ursula LeGuin.

Aber in dieser intellektuellen Übung liegt, finde ich, auch eine große Gefahr. Ich habe vorhin gesagt, Netzpolitik muss die Zukunft gestalten. Aber ist es nicht vielleicht auch genau andersrum? Gestaltet vielleicht die Zukunft die Netzpolitik?

Rückwirkungen

Ich meine natürlich die Zukunftsszenarien der Science Fiction. Ich bin überzeugt davon, dass diese Szenarien auch wenn sie fiktional sind, häufig viel stärker auf die Gesellschaft und auf die Politik rückwirken als uns vielleicht bewusst sind.

Zunächst in der Weise, dass Entscheidungsträger natürlich auch SF konsumieren und davon beeinflusst werden. Drei prominente Politiker, die alle nachweislich SF gelesen haben: Winston Churchill, Ronald Reagan und Barack Obama. Churchill hat sogar den Begriff „A Gathering Storm“, den er verwendete, um vor den Nazis zu warnen aus einem Roman geklaut und zwar aus „Krieg der Welten“ von H.G. Wells.

Fiktionale Zukünfte entfalten ihre Rückwirkung aber in noch viel stärkerem Ausmaß durch eindringliche Bilder oder Konzeptionen die sich in der Populärkultur festsetzen. Da entstehen quasi Meme, die es uns mitunter fast unmöglich machen, über bestimmte Technologien zu diskutieren ohne dabei sofort Assoziationen aus der Science Fiction heraufzubeschwören.

Eines der frappierendsten Beispiele der vergangenen Jahren ist das hier.

Es scheint fast unmöglich zu sein, einen Artikel über die Risiken der KI zu publizieren ohne ihn mit einem Bild des T-1000 zu illustrieren. Und das ist natürlich völliger Schwachsinn. Selbst wenn man der Meinung ist, dass eines Tages die Singularität kommt und dass sie das Ende der menschlichen Zivilisation bedeuten könnte, so sind die Probleme, die wir mit KI kriegen werden ja vermutlich zunächst völlig andere.

Wir werden komplexe KI-gesteuerte Systeme haben, die vielleicht nicht richtig funktionieren und deshalb Ressourcen spektakulär falsch einsetzen; wir werden kriminelle Hacker haben, die KI verwenden um scheinbar bestens gesicherte Datenbanken leerzumachen; wir werden ruchlose Firmen wie Cambridge Analytica haben, die KI nutzen, um Wähler und Verbraucher in bisher nicht vorstellbarer Weise zu analysieren und zu manipulieren. Das sind alles wichtige Probleme der KI. Aber es ist eben nicht die Robo-Apokalypse.

Und ich habe den Eindruck, dass wir uns da inzwischen ein wenig festgefahren haben. KI ist immer gleich Skynet; Überwachungskameras sind zwingend Big Brother. Drohnen sind immer „Death from Above“. Genauso wie man von Groupthink spricht oder auch von Pressthink als einer sehr verengten Sicht auf die Dinge, die dann möglicherweise zu irrationalen oder disfunktionalen Entscheidungsfindungen führt, könnte man sich mal überlegen ob man nicht auch von Dystothink sprechen könnte.

Denn wenn wir glauben, dass die Zukunft düster und schrecklich also eben dystopisch wird, dann richten wir unser Verhalten nach dieser Erwartung aus und machen entsprechende Politik. Wenn ich davon überzeugt bin, das KI zwangsläufig zur Apokalypse führt, muss ich alles daran setzen sie zu verbieten oder sie mindestens prohibitiv regulieren.

Auch wenn es eine interessante intellektuelle Übung ist, den größtmöglichen Fuckup anzunehmen um Risiken zu identifizieren, so wäre es gleichzeitig notwendig, sich mehr Gedanken über positive Szenarien zu machen.

Nehmen wir noch mal das Beispiel KI. Natürlich gibt es eine Zukunft, in der wenige mächtige Konzerne oder Regierungen diese Technologie für ihre Zwecke einsetzen und nicht zum Wohle der Menschheit. Aber es gibt auch eine Zukunft, in der jeder von uns einen sehr cleveren KI-Assistenten hat, dem er zum Beispiel sagen kann: „Ich möchte bitte, dass du alle Unternehmen, mit denen ich in den vergangenen fünf Jahren in einer Geschäftsbeziehung stand, anschreibst und bei denen erfragst, welche Daten die über mich haben. Und dann möchte ich, dass Du jedem dieser Unternehmen, bei dem ich nicht für mindestens 200 € eingekauft habe im letzten Jahr, sagst, dass die alle meine Daten löschen und das schriftlich bestätigen müssen. Und für den Fall dass sie das nicht umgehend tun, drohst Du als Follow-up mit dem Anwalt.

Auc im Falle der Überwachung gibt es nicht nur eine Zukunft, in der NSA und FSB Videos und Satellitenaufnahmen automatisiert auswerten und von jeder Bürgerin einen perfektes Bewegungsprofil und erstellen können und außerdem mit 95 % Sicherheit wissen, wo sie sich in einer Woche zu einer bestimmten Zeit aufhalten wird. Sondern es gibt auch eine Zukunft, in der Aktivisten unglaubliche Macht besitzen, weil sie Unmengen von Fotos und Videodateien automatisiert auswerten und damit zweifelsfrei dokumentieren können, wann und wo die Polizei ihre Kompetenzen überschritten hat, wo ein Unternehmen die Umweltauflagen verletzt oder wo die Stadtverwaltung sich nicht um Schlaglöcher auf den Straßen kümmert.

Auch diese Zukünfte gibt es und wir müssen sie viel mehr durchspielen, wir müssen sie denken, ansonsten wird unser Handeln nicht aktiv und kreativ sein, sondern defensiv und ideenlos — dann machen wir uns nur noch Gedanken darüber, was am Besten alles verboten gehört.

Wie kommt man da jetzt raus, aus diesem Dysto-Loch? Vielleicht, indem man positivere Science Fiction liest. Die „Culture“-Romane von Iain Banks beispielsweise beschreiben eine Zukunft, in der die Menschheit ihre Probleme — Krankheit, Armut, Krieg, Umweltverschmutzung — im Wesentlichen gelöst hat. „2312“ von Kim Stanley Robertson beschreibt auf realistische und fundierte Weise, wie eine Menschheit aussehen könnte, die binnen der kommende drei Jahrhunderte das Sonnensystem erobert. „Almathea“ von Neal Stephenson beschreibt zwar den Untergang der Erde, aber auch deren anschließende Wiedergeburt.

Das ist Science Fiction zum Staunen, große Weltenentwürfe die jedoch nicht weniger Spaß machen als ein Bladerunner-Szenario. Und diese Art von Zukünften verändern Buch für Buch und Film für Film unseren vielleicht zu düsteren Blick auf die Zukunft. Denn wenn wir es wollen, kann die Zukunft richtig gut werden.

Vielen Dank.

Hier gibt es den Vortrag außerdem als Audio-Datei (mp3):

Alle Aufzeichnungen unserer Konferenz.