„Mein Algorithmus und ich“Kehlmanns Reise zu den Technologiegöttern

Daniel Kehlmann pilgerte in das Silicon Valley, um die Zukunft der Menschheit zu suchen. Ethische Fragen stellte sich der Schriftsteller dabei offenbar nicht. Eine Rezension.

Daniel Kehlmann und der Algorithmus
Daniel Kehlmann lässt mal den Roboter für sich schreiben. CC-BY-SA 2.0 Heinrich-Böll-Stiftung

Es ist der Sommer 2019, und statt Covid liegt nasse Meerluft über der Terrasse in Dänemark. Dort zoffen sich zwei Schriftsteller. „Du bist ein Transhumanist!“, das wirft Christian Kracht, Deutschlands größter Popliterat, der eigentlich Schweizer ist, seinem Kollegen Daniel Kehlmann entgegen, der ebenfalls nicht ganz Deutscher ist, aber zumindest kein Popliterat.

Transhumanismus, das ist der Glaube, dass die Menschen aussterben und durch Computer ersetzt werden, erklärt Kracht. „Transhumanismus ist abscheulich.“ Das ist für einen, der mal Barbourjacken das Wort redete, eine erstaunlich moralische Haltung. Kehlmann gesteht zwar ein, über die Überlegenheit „siliziumbasierter Intelligenz“ nachgedacht zu haben, kneift sich dann aber mit der Behauptung aus der Debatte, dabei bloß gescherzt zu haben.

Der Begegnung folgt, Krachts Warnung zum Trotz, eine Pilgerfahrt Kehlmanns an den Ort, an dem der Glaube an die menschheitstranszendierende Kraft der Künstlichen Intelligenz seine tiefsten Wurzeln gegraben hat, dem Silicon Valley. Nacherzählt wird Kehlmanns Reise zu den Technologiegöttern in dem schmalen Büchlein „Mein Algorithmus und ich“, das bei Klett-Cotta erschienen ist. Es ist, wenn man so will, Kehlmanns Antwort auf Hape Kerkelings „Ich bin dann mal weg“.

Apple Park in Cupertino
Landeplatz für die Götter: Das HQ von Apple im Silicon Valley - Gemeinfrei-ähnlich freigegeben durch unsplash.com Carles Rabada

Gleich zu Beginn gesteht Kehlmann, 46 Jahre und Autor mehrerer Bestseller, seine technologische Naivität ein. Künstliche Intelligenz habe er sich als eine Art anthropomorphes Wesen vorgestellt, als C3PO aus Star Wars oder den Roboter Nummer 5 aus dem gleichnamigen 80er-Jahre-Film, also als Entitäten mit einem eigenen Bewusstsein.

Wo war Kehlmann bloß seit 2011?

Das mag für einen gewissen magischen Technologieglauben sprechen, der etwas naiv wirkt, wirklich problematisch ist aber seine Apologie des homo siliconvallensis. Er könne nicht umhin, die Menschen aus der dortigen Tech-Szene, die er kennengelernt habe, sympathisch zu finden, sagt Kehlmann. Sie seien nicht nur „klug und geistig frei wie offen“, sondern „voll Sorge und Verständnis“ über den Schaden, den ihre Dienste und ihre Konzerne anrichten, und „erfüllt von der festen Absicht, etwas gegen diese Problemen zu unternehmen“.

Diese Ansicht wirft Fragen auf. Zum Beispiel die, wo Kehlmann das letzte Jahrzehnt verbracht hat. Zwar benennt der Schriftsteller die Rolle sozialer Netzwerke bei der Wahl von Trump, der sich ungehindert in Präsidentenamt lügen und hetzen durfte. Unerwähnt bleibt, dass die Plattformen lange so gut wie jede Verantwortung für gefährliche Falschbehauptungen von sich wiesen, ja das Facebook selbst Holocaust-Leugnung erst seit einigen Monaten konsequent löscht. Es ist gerade dieses Taubstellen, mit dem Facebook in Myanmar sogar einen Genozid befeuerte.

Nicht wahrhaben will Kehlmann offenbar auch, dass die „klugen und geistig frei wie offenen“ Leute von den Konzernen im Silicon Valley die Komplizen der US-Geheimdienste bei der Massenüberwachung sind, dass sie Drecksarbeiten für das US-Militär erledigen und nebenbei ihre Beschäftigten ebenso ausbeuten, wie es die alten Industriekonzerne taten, seien es Content-Moderatorinnen von Facebook auf den Philippinen oder das Lagerhauspersonal von Amazon in Deutschland. Von der „festen Absicht, etwas gegen diese Probleme zu unternehmen“, ist da wenig zu bemerken.

Wie literarisch produktiv ein schonungsloser Blick auf Skrupellosigkeit, Hybris und Misogynie der Technologiekonzerne sein kann, verrät Anna Wieners „Uncanny Valley“. Ihre dezent anonymisierten Memoiren schildern eine Innensicht aus den Techfirmen, die dem Intelligenzkult und der vermeintlichen Meritokratie der Konzerne die Maske abzieht. Zum Vorschein kommen ehrgeizige junge Männer, die ihre Imperien durch Eliten-Netzwerke und dreiste Landnahme schaffen. Vielleicht hätte Kehlmann mal genauer hingucken müssen.

„Aber ist das nicht etwas… ? Ich meine, Reddit?“

Aber zurück zu Kehlmanns Reise. Ganz der bourgeoise Ästhet, widmet sich der Schriftsteller in seinem Bändchen vordringlich der Frage, ob ein Computer bereits heute mit ihm gleichziehen kann. Eine Cloudfirma, die namentlich nicht genannt wird und zu deren kalifornischem Hauptquartier er pilgert, überlässt ihm den Zugang zu einer Software namens CTRL, der literarisch anmutende Text fabrizieren soll.

Dabei stützt sich CTRL auf Korpora von Bibliotheken, aber auch auf Texte der Viralitätsschleuder Reddit. Die Beliebigkeit dieser Quellenwahl nach dem Motto von Balu dem Bären – „wenn etwas appetitlich ist / dann nimm‘ es dir, egal von welchem Ort“ – macht sogar Kehlmann baff.

„Reddit?“, fragte ich etwas erstaunt „Aber ist das nicht etwas… ? Ich meine, Reddit?“

Davon nicht abgeschreckt, experimentiert der Schriftsteller munter drauflos, in der Manier jugendlicher Schreibexperimente. Aufs Geratewohl entwirft Kehlmann dabei je ein, zwei Sätze und lässt CTRL die nächsten beisteuern. Der Autor behauptet, er habe nichts nachträglich lektoriert, aber dennoch wirkten manche der entstandenen Texte wie „ein Zeichen echter Inspiration“. Hier eine Kostprobe:

I was looking for an appartment. It didn’t go well. The first thing he said to me was, »Hey man, you have a nice ass and you’re not afraid of anything.« »That is true«, I said, »but what about the appartment.» He told me, your don’t need it. It’s just a place to live. And that’s what it is. »Yes man, I said, »but you need a place to live! If you don’t have that you live on the street.« This guy has been living in my apartment since last year. And I have been asking him, why do you live in my apartment, who are you?

Schon der erste kursivgeschriebene Satz, den CTRL produziert, lässt erkennen, dass Konsistenz nicht die Sache des Algorithmus ist. Von einer Art innerem ADHS angetrieben, reiht die Software Dinge aneinander, die zwar klangvoll sein mögen, aber kaum inneren Zusammenhang haben. Zu allem Überfluss schafft CTRL nie mehr als zwei oder drei Absätze, bevor der Text in sinnlose Wortwiederholungen ausfasert.

Noch am ehesten verwendbar ist das für Gedichte, wie Kehlmann bemerkt. Dort reichen einige lichte Momente von CTRL, um etwas zu schaffen, das emotional Resonanz erzeugt:

The snow has fallen

And the wind blows

I am a little boy

Who lives in a house

Kehlmann nennt zwar den Namen der Softwarefirma nicht, die hinter CTRL steht, er beschreibt aber den Kontakt mit ihrem Schöpfer Bryan McCann. Während der Schriftsteller in dem Buch betont, die Ergebnisse seiner Experimente nicht lektoriert zu haben, lässt die Ankündigung einer Veranstaltung mit Kehlmann und McCann das doch anders klingen:

While CTRL generated suggestions based on internalized statistical patterns of language use, Kehlmann deftly wove those suggestions together, at times cutting them, diverting them, or subverting them, in order to „test the extent to which words could fit with one another.“ [Hervorhebungen von netzpolitik.org]

Hat Kehlmann also doch an den Texten geschraubt, um die Ergebnisse der Software interessanter zu machen? Als Werbung für McCann und seine Firma mag das Buch durchaus wirken, auch wenn Kehlmann betont, das Experiment habe sein Ziel nicht erreicht.

Auf die Frage, ob er mit CTRL ins Auge der Zukunft geblickt hat, will der Schriftsteller von seinem magischen Technikglauben nicht ganz ablassen. Es sei „schon etwas Zauberisches an diesem Schauspiel, und zwar jedes Mal“, schreibt Kehlmann. Dennoch begreift er, dass eine Künstliche Intelligenz mit einem Bewusstsein, die von innerer Logik geleitet ist statt von cleverer Nutzung von Statistik, noch in weiter Ferne liegt.

Auch wenn sein Zugang letztlich vor kindlicher Technikgläubigkeit strotzt, so scheint es, also ob Kehlmann damit eine Einsicht erlangt hat, die vielen in der teils hysterischen KI-Debatte noch fehlt: Nämlich dass das, was maschinelles Lernen und Algorithmen heute zustande bringen können, von einer Intelligenz im eigentlichen Sinne noch meilenweit entfernt ist.

Hinweis: Daniel Kehlmann, „Mein Algorithmus und ich“, Klett-Cotta, 1. Aufl. 2021, 64 Seiten, Klappenbroschur, ISBN: 978-3-608-98480-4

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

Durch klicken des Links wird unser Spenden-Widget geladen. Dabei werden Daten an unseren Spendendienstleister twingle gesendet. Weitere Infos findest Du in unserer Datenschutzerklärung.

6 Ergänzungen

  1. „der ebenfalls nicht ganz Deutscher ist“ – kurz mal überlegen, ob ihr hier das Deutschsein als Kriterium etablieren wollt? Danke für’s Löschen.

    1. Der Autor der Rezension ist übrigens auch nicht ganz Deutscher. Etwas weniger verkniffen liest sich das schon anders, oder?

  2. Viel Verständnis sollte man Herrn Kehlmann sicher nicht entgegenbringen. Allerdings ist dieser Artikel missleitend, da er das Sprachmodell CTRL als nicht erklärtes, abstruses Misterium darstellt.

    Als Forscher bin ich da sehr überrascht. CTRL ist öffentlich einsehbar und nutzbar und von der Forschungsabteilung der Firma Salesforce produziert. Eine kurze Recherche und ein Blick auf die „Model Card“ listet für jeden Laien auf, welchen Nutzen und welche Aussagekraft das Modell hat.

    Verborgen bleibt in dieser Hinsicht wenig

    Link: https://github.com/salesforce/ctrl/blob/master/ModelCard.pdf

    1. Mit Verlaub, ich habe CTRL nicht als „abstruses Mysterium“ dargestellt. Im Gegenteil, es gibt einen klaren Verweis auf die Korpora, aus denen die Software sich speist. Und ohnedies bespreche ich weniger die Software an sich, sondern vielmehr den Umgang damit durch Herrn Kehlmann.

  3. Das Problem jeder Positiven Utopie war doch schon immer das sie irgendwann an den Untiefen der Menschlichen Realität zerschellt ist. Und daran das es mehr Menschen; und damit Realitäten; als Utopien gibt die sie alle „gut“ finden. Ich hab früher auch gehofft das Evidenzbasierte Entscheidungslogik eine Technokratie-diktatur vermeiden könne und allen Menschen ein besseres Leben ermöglichen würde….

    Doch dann kam’t IHR (Alle Menschen der Erde ODER deren Entscheider) und habt DAS (Aktuelles Bild der Lage) daraus gemacht. Jetzt hab ich auch kein Rezept mehr. Aber DAS mit einer Technisch erschaffenen Singularität zu lösen halte ich nicht für eine Lösung. Es ist eher teil des Problems geworden.

    Was ich eigentlich sagen wollte. Nett das es noch Naive Utopisten wie Herrn Kehlmann gibt, aber wenn die Faszination nachläßt bleibt nix übrig was der Menschheit ein Überleben jenseits des Business-Horizontes ermöglichte. Kenne ich schon. Ging mir auch so. Nicht das es wichtig wäre – aber man müßte erst die Menschen ändern um die Welt zu ändern. Aber das wollen m.E. genau die nicht die in Wirtschaft und Politik das sagen haben. So What? Die Welt geht an ihren selbstgeschaffenen Götzen zugrunde! Mal sehen ob Herr Kehlmann das auch irgendwann begreift.

    1. Naja, die Utopieversion ist ja nicht immer herstellbar, wenn „funktionieren“ Teil sein soll.

      Was Technokratie betrifft… ist China nicht das einzige Land, welches das mal (fast) probiert hat? Das wurde dann in der Schärfe wieder ad acta gelegt, allerdings ohne wissenschaftlichen Rat komplett bei Seite zu räumen, wobei andere Fragestellungen sicherlich offen bleiben. „Der Westen“ hat einfach den Sprung in Demokratieformen gemacht, aber bei weitem keine Technokratie versucht. Vielleicht ja auch zum Glück, denn plump gesagt, je dümmer die Leute insgesamt doch noch sind, desto schlimmer wird auch eine (vermeintliche) Technokratie, auch weil der wissenschaftliche Stand immer Irrtum und Unwissen beinhaltet – wenn dann ein „Ideal“ genommen wird, dass den wissenschaftlichen Stand z.B. in Psychologie nicht beinhaltet, sind wir schon vom Start ab ad absurdum. Also die idee dass Ideologie keine Rolle spielt, klingt einerseits gut, wenn man mein zu verstehen, welche Probleme damit vermieden werden sollen, bedarf aber vermutlich der Klärung durch Psychologie, Soziologie, Philosophie, (Physik) etc. wer nicht alles was dazu sagen kann. Mit Irrtum und Unwissen vorangehen zu können erfordert wohl ein Maß an Technik bzw. Algorithmik, und das könnte der Hauptgrund für eine Technokratie sein, solche Methoden für die planetarische Gesellschaft herauszuarbeiten und zu verstehen. Hat man allerdings solche Fähigkeiten und Methodik entwickelt, funktioniert die vielleicht auch mit Formen von Demokratien, die ähnlicher zu den heutigen sind, oder eben mit Technokratie, wenn man es andersherum gemacht hat, bzw. mit einer nahezu beliebigen Mischung. Im Grunde ist das wie mit dem Kaptialismus, den man durch geregeltere Formen zu zähmen sucht. Im Grunde sucht man nach den Regeln wie man was machen kann – natürlich sieht das auf der einen Seite schon eher so aus, dass man nach einem Modus Operandi sucht, unter dem das Volk möglichst gezähmt ist. Hier fehlt noch jede Menge Balance.

      Ich denke schon, dass es völlig unabdingbar ist, ein gewisses Maß an „Technokratie“ einfließen zu lassen, was unweigerlich die westlichen Demokratiesysteme ändern wird. Ohne das wird die Menschheit sonst bald bzw. irgendwann ohne wirkliche (Entscheidungs-) Not weg sein, bzw. mit anderen Start- bzw. Endbedingungen nahe Null unterwegs sein, was im Grunde das gleiche ist. Einen zersägten Genpool braucht kaum jemand im Universum, außer vielleicht zu wissenschaftlichen Zwecken – sinnvolle und skalierende Gesellschaftsformen und Wissen dazu sind dahingegen wirklich etwas wert :).

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.