Interview zu Technikängsten: Ein kritischer Blick kann zu mehr Sorgfalt führen

Christian Vater war im Sonderforschungsbereich „Materiale Textkulturen“ der Deutschen Forschungsgemeinschaft tätig und arbeitete in verschiedenen Start-Ups als wissenschaftlicher Referent. Er ist Wissenschaftlicher Mitarbeiter am KIT – Institut für Technikzukünfte (itz) – Department für Geschichte, HEiKA-Projekt „Autonome Systeme im Spannungsfeld von Recht, Ethik, Technik und Kultur“. Eine kürzere Fassung des Interviews erschien zuerst beim Goethe-Institut unter der Lizenz CC BY-SA 3.0.

Für den Technikphilosophen Christian Vater stellt der Computer als Universalwerkzeug eine disruptive Technologie dar, die dementsprechende Reaktionen von Panik bis Euphorie auslöst. In Deutschland ließe sich dabei aber keine besonders starke Angstreaktion feststellen, vielmehr attestiert er den Deutschen einen aufgeklärteren Umgang mit gewissen Technologien, der besonders durch gesellschaftliche Akteure wie den Chaos Computer Club geschult wurde. Auch Hindernisse für deutsche Start-Ups sieht er eher in Infrastruktur und Finanzierung.

Arne Cypionka: Wir wollen heute über Technikangst sprechen, auch darüber, ob es sich dabei um eine typisch „deutsche Angst“ handelt. Wie können wir uns diesem Begriff nähern? Lässt sich dieses Phänomen Ihrer Meinung nach über die gesamte Menschheitsgeschichte belegen oder kommt es zu Brüchen, beispielsweise durch bestimmte Technologien?

Christian Vater: Ich bin ja theoretischer Philosoph und kümmere mich um Wissenschaftstheorie und Wissenschaftsgeschichte. Da haben wir natürlich Schnittmengen mit der Technikgeschichte, aber gehen oft auch ein bisschen anders an die Sache heran. Zur Technikangst ist erst vor wenigen Monaten ein Beitrag von Martina Heßler und Bettina Hitzer in der Technikgeschichte erschienen, genau zum Thema Technikangst. Das Vorwort ist wundervoll lesbar und dort werden verschiedene Schwierigkeiten gesammelt, die man aus technikhistorischer Sicht hat, sich mit Fragen aus diesem Feld zu beschäftigen.

Angst ist als Kategorie nicht unbedingt Teil des Raums, den ich als theoretischer Philosoph untersuchen kann. Dementsprechend würde ich für meine eigene Arbeit eher den Begriff der Sorge vorziehen. Sorge ist ein Begriff, der irgendwo aus dem Grenzbereich der praktischen Philosophie, der politischen Philosophie und der Anthropologie kommt, den wir zum Beispiel in Harry Frankfurts „On Caring“ finden.

Sorge ist ein Modus des Umgangs mit der Welt ist und zum Umgang mit der Welt gehört auch ein Umgang mit den Werkzeugen und die Frage, wie ich mit der Welt umgehe, wenn ich Werkzeuge verwende. In die Klasse der Werkzeuge gehören natürlich auch Rechenmaschinen, Kommunikationsgerät, mediale Vervielfältigungsapparate und – natürlich – die universelle Rechenmaschine Computer, die alles gleichzeitig ist.

Dementsprechend kann man schwer in der Gegenwart über Sorge der Welt gegenüber oder anderen Menschen gegenüber nachdenken, ohne über Computer nachzudenken. Wenn man über Computer nachdenkt, ist es nicht mehr weit zu Spezialfragen wie der nach künstlicher Intelligenz.

Arne Cypionka: Könnte die universelle Rechenmaschine Computer also in besonderem Maße zu Technikangst führen?

Christian Vater: Seitdem wir Geschichte schreiben, finden wir Geschichten über neue Techniken und Technologien. Diese Geschichten sind immer sehr einschneidend und haben mit großen Hoffnungen, aber auch mit großen Ängsten zu tun. Sie können alle Formen annehmen, die wir an Literatur kennen. Es gibt großartige Versuche, Zäsuren zu markieren, entlang dessen, was wir aus heutiger Perspektive „Einführung disruptiver Technologien“ nennen.

Der Buchdruck wäre ein Kandidat für tiefgreifende Veränderungen durch disruptive Technologien, die Dampfmaschine ein anderer. Wenn ich mir die Geschichte dieser disruptiven Technologien anschaue, komme ich nicht umhin zu sagen: Ja, verkoppelte, verbundene Rechenmaschinen, die universell mit allen uns bekannten und verwendeten Medien umgehen können und die wir kooperativ nutzen – global – sind wohl eine disruptive Technologie.

Also erwarte ich zurzeit Mythenbildung und Angstgeschichten, sowohl was Erzählung über Ängste angeht, als auch was die Formulierung von Hoffnung angeht: „AI wird unseren Planeten erfolgreicher durch die Klimakatastrophe steuern können als jeder Mensch; künstliche Intelligenz wird selbstständig werden und uns alle vom Planeten tilgen.“

Wenn wir in das Regal mit Science-Fiction-Literatur schauen oder in die Cinethek, dann ist das alles schon da und auch nicht seit gestern, sondern mindestens seit der Romantik mit Frankenstein und auf jeden Fall in der Frühgeschichte des Kinos mit Metropolis. Hier kommt der Begriff der Sorge ins Spiel. Ich kann den Modus der Sorge verwenden, um mir die Technologie genau anzugucken, vielleicht in aufklärerischer Absicht, und versuchen, besser zu verstehen, wie diese Technologie auf Menschen wirkt.

Arne Cypionka: Nimmt die Computertechnologie aber nicht sogar unter diesen disruptiven Technologien eine Sonderstellung ein, wenn man an künstliche Intelligenz denkt – Maschinen, die sich potenziell selbst weiterentwickeln können?

Christian Vater: Sind Rechenmaschinen denkbar, die mehr sind als Werkzeuge des Menschen? Sind Rechenmaschinen denkbar, die durch einen Konstruktionstrick, durch einen Zufall wie einen Blitzschlag oder durch exponentielle Entwicklung nicht mehr unter unseren Maschinenbegriff fallen?

Meine Antwort darauf ist gleichzeitig spektakulär und auch nicht: Natürlich sind solche Maschinen denkbar.

Maschinen, die sich eigenständig rekonfigurieren können, umgeben uns bereits. Dieses Verfahren nennen wir maschinelles Lernen und es ist im Detail unspektakulär. Es ist gleichzeitig eine beeindruckende Technik, von der unsere Vorfahren vor 80 Jahren noch nicht geglaubt hätten, dass es so etwas gibt. Hat es dazu geführt, dass wir es plötzlich mit erwachten, intelligenten anthropomorphen Androiden zu tun haben? Nein!

Wir haben einfach Geräte, neben die wir keine Hilfskraft stellen müssen, die ständig alles umstöpselt und wir haben Geräte, die zum Beispiel Messreihen durchführen können, ohne dass ein Experte daneben steht und immer wieder am Rad dreht, weil die Geräte das Rad selbst drehen können. Unsere Technik ist adaptiv geworden. Nicht mehr, und nicht weniger.

Arne Cypionka: Dennoch entwickeln sich diese Maschinen zunehmend zu Blackboxen, bei denen nicht nur für den Laien nicht mehr nachvollziehbar ist, was im Inneren passiert. Stellt der Einsatz von solchen Technologien nicht potentiell eine Art gesellschaftlichen Kontrollverlust dar? Ich denke hier zum Beispiel an Predictive Policing, wo Algorithmen auf einer Datengrundlage zukünftige Verbrechen vorhersagen sollen und präventive Polizeieinsätze rechtfertigen.

Christian Vater: Predictive Policing ist mir als weiterer Versuch bekannt, Prognosewerkzeuge zu bauen, die stark datengestützt sind. Dahinter stecken zum einen Modelle, wie Verbrechen funktioniert, wie Menschen Verbrechen begehen; zum anderen demografische Annahmen, in welchem Viertel Personen wohnen, die bestimmte Verbrechen auf welche Art und Weise begehen.

Diese Annahmen sind immer mit der Suche nach Merkmalen verbunden, die den Konstrukteuren dieser Maschinen dabei helfen sollen, eben diese Annahmen zu treffen und zu begründen. Das heißt, hinter einem Apparat für Predictive Policing stecken sehr viele Annahmen, die man auflisten und Stück für Stück, zum Beispiel unter Zuhilfenahme soziologischer Werkzeuge, prüfen kann, wenn man sie transparent vorgelegt bekommt.

Das ist allerdings sehr viel Arbeit und die Frage ist, ob eine Behörde oder eine Firma, die Maschinen oder Apparate dieser Art entwickelt, Interesse daran hat, auch noch Arbeit in die Überprüfung der eigenen Grundannahmen zu stecken. Wenn nicht, wäre das eine Aufgabe für die interessierte akademische Öffentlichkeit.

Hierin besteht vielleicht eine Besonderheit in Deutschland. Im Gegensatz zu fast allen anderen Ländern der Welt haben wir die Möglichkeit, Vereine zu gründen. Das ist ein Artefakt unserer Institutionsgeschichte. Vereinsgründung ermöglicht es, eine Institution zu schaffen, die sich mit fast beliebigen Fragen beschäftigt. Eine dieser Fragen ist die nach dem Nutzen und dem Übel der Rechenmaschinen. Wir haben in Deutschland einen solchen Verein: den Chaos Computer Club. Dieser Verein wird inzwischen auch bei den Bundestagsanhörungen angehört.

Sie haben mich danach gefragt, ob ich bestimmte nationale Eigenarten sehe. Es fällt mir sehr schwer, sie im Großen zu sehen, denn unseren Ideenhorizont teilen wir mindestens mit der westlichen Welt. Wir alle haben Descartes gelesen und Hobbes und Kant. Wir zitieren Platon und Aristoteles und wir teilen Homer, Shakespeare und Goethe. Ob wir hier in Deutschland in einer anderen Welt leben, was zum Beispiel Ängste angeht, das halte ich für eine schwierige und voraussetzungsreiche Frage.

Was wir uns aber anschauen können ist, ob Deutschland als Staatswesen anders funktioniert. Ein Unterschied sind Vereine und wir haben einen auffällig aktiven und sehr ernst genommenen Verein, der sich mit diesen Fragen beschäftigt.

Arne Cypionka: Das heißt, durch Vereine wie den Chaos Computer Club gibt es in Deutschland, vielleicht stärker als in anderen Ländern, eine aufgeklärte Öffentlichkeit sowie eine stärkere Beteiligung der Bürgerinnen und Bürger in politischen Gremien bei Fragen der Informationstechnologie?

Christian Vater: Aber auch durch die Einrichtung von Hackerspaces, die ja nichts damit zu tun haben, dass man in das BTX-Netz einsteigt, um der Sparkasse Pfennigbeträge zu klauen, sondern die etwas damit zu tun haben, dass Spitzentechnologie der Gegenwart über private oder öffentliche Förderung oder Sponsoring beschafft wird und für alle interessierten Laien zur Verfügung steht, zum Beispiel mit Virtueller Realität, Drohnen oder mit 3D-Druck…

Arne Cypionka: Sehen Sie neben der aufklärerischen Arbeit des Chaos Computer Club noch andere Gründe für einen besonderen Umgang mit Technologie in Deutschland? Hat die oft unterstellte Ablehnung insbesondere digitaler Technologien vielleicht historische Ursprünge?

Christian Vater: Hier haben wir es vielleicht mit einem Zielkonflikt zu tun. Es gibt nur begrenzte Kapazitäten für Forschung und Entwicklung. In Deutschland lag der Schwerpunkt aus ganz verschiedenen Gründen nicht auf der Entwicklung von programmierbaren, elektrischen Rechenmaschinen. Vielleicht lag es daran, dass man der Meinung war, dass mit Kant die Logik zu Ende gedacht war und die Leibniz-Rechenmaschine das Maximum ist, was man im Prinzip aus den Versuchen herausholen kann, Logik zu mechanisierten.

Vielleicht lag es daran, dass man Ressourcen eher in die Atomforschung steckte, um die Unabhängigkeit der Energiegewinnung für die heimische Industrie und die heimischen Städte zu gewährleisten. Oder es lag daran, dass der Schwerpunkt im Maschinenbau lag, zum Beispiel in der Flugzeugforschung und in der Automobilentwicklung.

Diese beiden Beispiele sind übrigens auch hochkomplexe Technologien – vor denen wir auch in Deutschland nie Angst hatten.

Arne Cypionka: Als Garant für innovative Technologieentwicklung gelten heute Start-Up-Unternehmen. Sie selbst waren als wissenschaftlicher Referent zu künstlichen Intelligenzen in verschiedenen Start-Ups tätig. Was genau muss man sich darunter vorstellen?

Christian Vater: Spaß und Abenteuer. Und viel Arbeit, auch am Wochenende und an Feiertagen. Die Gelegenheit, sich als theoretischer Philosoph den Arbeitsalltag in einem entwicklungsgetriebenen Forschungsunternehmen anzuschauen, ist ein großes Privileg. Ich war auch eingestellt, um mit den einzelnen Entwicklungsteams mitzuarbeiten und sie zu begleiten, die konkreten Fortschritte zubeobachten um dann zu gucken, ob das konkret Gebaute, das Erhoffte und das, was andere publiziert haben, zusammenpasst.

Arne Cypionka: Im Vergleich mit dem Silicon Valley wirkt die deutsche Start-Up-Szene vorsichtiger und weniger chaotisch. Auch ein Mentalitätsunterschied zu den Vereinigten Staaten?

Christian Vater: Das sage ich nicht als Wissenschaftler, sondern als jemand, der da dringesteckt hat: Sie können über die Funktionsweisen der amerikanischen Startup-Szene sehr viel in der in der Autobiographie „Chaos Monkeys: Obscene Fortune and Random Failure in Silicon Valley“ des US-amerikanischen Start-Up-Gründers Antonio García Martínez nachlesen. Er war einer der ersten Leute, die im Silicon Valley dieses Spiel mitgespielt haben und seine Biografie ist lesenswert.

Ich kann Ihnen sagen, dass es so in Deutschland nicht funktioniert. Ich denke, es hat viel damit zu tun, dass bei uns die Finanzierungsstrukturen anders sind. Typischerweise ist es so, dass es in Deutschland nicht besonders viele Hedgefonds gibt, die sich auf Seed-Investment spezialisiert haben. Die wissen, wenn sie zehn kleine Start-Ups finanzieren und sie die Regeln der Finanzierung betrachten, dass nach drei Jahren eines dieser Start-Ups so viel Gewinn abwerfen wird, dass alle anderen Investitionen sich damit amortisieren.

Das haben wir in Deutschland nicht. Was wir in Deutschland haben, sind Sparkassen und Volksbanken, die typischerweise die ersten Investoren für ein neues Geschäft sind. Ich bin ein ganz großer Freund von Sparkassen und Volksbanken. Da sie aber mehr oder minder das Geld der Gemeinschaft verwalten, sind sie vorsichtige Geschäftspartner, die weniger leicht in Projekte investieren.

Das mag sich ändern, zum Beispiel dadurch, dass Universitäten diese Lücke identifiziert haben und jetzt selber Investment betreiben, das nennt sich Inkubator und ist so etwas wie eine universitätsinterne Förderung der ersten Phase, von der Idee zum Planen. Die Förderung ist da ganz niedrigschwellig: Sie brauchen einen Raum, sie brauchen eine Internetleitung, sie brauchen ein Postfach. Das zu bekommen ist erst mal gar nicht so einfach, wenn sie kein Geld haben.

Und es gibt zunehmend als Erweiterung der Hackerspaces, darüber haben wir vorhin schon geredet, so etwas wie spezielle Coworking-Spaces. Ein Beispiel dafür ist in Darmstadt entstanden, das Lab3 und der Hub31 drumherum, wundervoll. Da steht also das Equipment der Hackerspaces und daneben gibt es genau für diese erste Phase Büroräume. Und sie haben noch den Vorteil, dass sie mit diesen Geräten arbeiten können, zum Beispiel mit 3D-Druckern für Metall, was ihnen das Prototyping erheblich vereinfacht.

Das entsteht gerade, es gibt also Strukturunterschiede.

Arne Cypionka: Sie führen diese Unterschiede also eher auf Infrastruktur und Finanzierung zurück. Wäre es angemessener, von Skepsis gegenüber neuer Technologie statt von Technikangst zu sprechen und kann dieser kritische Blick unter Umständen vielleicht sogar als Vorteil betrachtet werden?

Christian Vater: Ich würde sagen ja und es wäre schön, wenn es ihn gäbe. Es ist aber auch wichtig festzuhalten, dass ein kritischer Blick kein destruktiver Blick und auch nicht pessimistisch sein muss. Er kann auch in Sorge zur Sorgfalt führen und muss nicht in Angst vor einer unbestimmten Zukunft münden.

Ein kritischer Blick ist auch nicht notwendig Auslöser der Maschinenstürmerei. Auslöser der Maschinenstürmerei sind meinen historischen Studien gemäß üblicherweise sozialökonomische Konflikte entlang von Veränderungen. Ich komme aus dem kleinen Städtchen Hannoversch Münden, wo Fulda und Werra zusammenfließen. Dieses Städtchen kontrollierte den Weserhandel über Jahrhunderte, die Flößer auf der Weser kamen aus Münden. Das erste Dampfschiff auf deutschem Boden, vielleicht sogar der Weltgeschichte, konstruiert von Denis Papin, ist bis nach Münden gefahren und wurde dort von den Flößern zerlegt – und zwar am Samstag, den 24. September 1707.

Bis heute haben wir im Rathaus ein großes Historiengemälde, was die glorreichen Flößer der Vergangenheit feiert. Aber da ging es nicht um die Angst vor einer Dampfmaschine. Da ging es um Durchfahrtsrechte und darum, dass die Flößer weiter flößen wollten.