Joseph Weizenbaum zum 100.: „Please go on“ – Joes Computer spricht Englisch

Einhundert Jahre wäre Joseph Weizenbaum dieser Tage geworden. Die von ihm so geschmähten KI-Systeme sind längst in der Lage, eine Laudatio zu schreiben und zu halten – vielleicht keine richtig gute, aber eben eine, die rechtzeitig der Redaktion zugeschickt wird. Die Grundzüge der KI sind seit 70 Jahren gelegt, literarisch noch viel länger, und auch die Informatik hat bereits eine beachtliche Ideengeschichte vorzuweisen.

Der Wandel der Maschinen

Ich möchte von meiner ersten Interaktionserfahrung mit den Computern sprechen, das war die IBM 026, ein Gerät um Lochkarten zu drucken. Für alle Leserinnen und Leser, die nicht alt genug sind, möchte ich kurz die Interaktion beschreiben.

Man saß an der Maschine und tippte sein Programm in einer Tastatur ein – denken Sie sich hier bitte eher eine Schreibmaschine und nicht so etwas flaches –, wickelte die Lochkarte um einen Zylinder, legte leere Lochkarten in den großen Kasten und das war’s; und am nächsten Tag konnte man in einem anderen Kasten den Ausdruck finden. Wenn Sie einen Fehler gemacht haben, konnten Sie am nächsten Tag richtig gutes Schreibpapier einsammeln und eine Rüge für die Verschwendung gleich mit. So lernten wir auf dem harten Weg, korrekt zu programmieren.

Diese Art der Ein- und Ausgabe, also Lochkarten über Nacht Ausdrucke fertigen lassen, sollte sich ändern als IBM ihre berühmte Familie 360 vorstellte. Es gibt tolle Werbebilder der IBM System/360 Modelle 30 und 40, rote Frontpanele, durch ein Nikon Fisheye fotografiert. Diese Bilder waren auch wichtig, denn niemand würde sonst wissen, wie diese Dinger aussehen, da sie immer im Keller hinter verschlossenen Türen standen. Wir Studenten hegten ja den Verdacht, dass der Inner Circle dort die Bierkästen lagerte, aber natürlich war es vor allem der hohe Preis, der die Maschine so versteckte.

Delusional Thinking: Die Unterhaltung mit einer „Künstlichen Intelligenz“

Zu eben dieser Zeit, 1966, da kam dieser „brilliant young scientist“ vom MIT – wobei, dies sagte man zu jedem, der es geschafft hatte, dort in die Ränge eines Promovierten zu kommen – und das war Joseph Weizenbaum. Er war zu dieser Zeit nicht mehr ganz so jung, aber er hatte eine verrückte Idee für eine Interaktion an einer Maschine, die eigentlich für das Project MAC gedacht war. Bereits in Stanford hatte er mit dem Psychologen Kenneth Mark Colby dessen Chatterbots um ein Programm erweitert, das in diesem Kreis natürlich wohlbekannt ist: ELIZA. Es erlaubte eine direkte „Unterhaltung“ mit dem Computer. Weizenbaum faszinierte diese direkte Interaktion, die Simulation einer psychotherapeutischen Sitzung war aufgrund der Beschränkung der Software schlichtweg notwendig. Colby fand den anderen Aspekt interessanter, er entwickelte danach PARRY, ein Computerchatterbot, der einen Patienten mit Schizophrenie imitieren und sich danach auf ELIZAs Couch legen sollte. Sein Ziel war die Entwicklung einer hochautomatisierten oder zumindest computergestützten Therapie.

Während Colby Phantasien von telefonisch vermittelter psychologischer Beratung in dicken Büchern weiterspann, erkannte Weizenbaum schnell die Beschränkungen solcher Ansätze, er konnte nicht glauben, dass man Menschen mit psychischen Problemen helfen würde, indem man sie systematisch anlügt. Denn am anderen Ende des Terminals „ist doch niemand“, es gebe ja kein Ich, wenn ELIZA schreibt: „Ich verstehe“ oder eben auffordert: „please go on“.

Weizenbaum wurde an der Ostküste von dem kalifornischen Trauma befreit und entwickelte sich zu einem scharfen Kritiker solcher Systeme, die eine Präsenz vorgaukeln. Aber: Der Deckel der Büchse der AI war geöffnet und die damit verbundenen, übertriebenen Erwartungen an diese Technik. Seitdem ist AI (oder deutsch KI) ein fester Begriff für nur bedingt verstandene Analysen (menschlich-)sprachlichen Verhaltens – und vieler anderer programmierter „intelligenter“ Aktionsweisen.

In seinem Hauptwerk beschreibt er, wie schockiert er darüber war, dass eine kurze Interaktion mit einem geschickt geschriebenen Computerprogramm ausreichte, um ein powerful delusional thinking hervorzurufen. Zehn Jahre nachdem er ein lächerliches, kurzes Programm geschrieben hatte, das die Karikatur einer Unterhaltung zeigen sollte, schreibt er in Computer Power and Human Reason: „Diese Reaktionen auf ELIZA haben mir deutlicher als alles andere bis dahin Erlebte gezeigt, welch enorm übertriebenen Eigenschaften selbst ein gebildetes Publikum einer Technologie zuschreiben kann oder sogar will, von der es nichts versteht.“

Die Ignoranz der Informatik

Diese Zuschreibungen kommen in Wellen immer wieder, in den 1980er-Jahren waren es die sogenannten Expertensysteme, die für Begeisterung und Bestürzung sorgten. Die Idee dahinter war, dass die Arbeitsweise eines Experten genau beobachtet und in Regeln umgewandelt wurden. Diese Regeln wurden dann in Prolog oder anderen entsprechenden Programmiersprachen verwendet und sollten Experten quasi überflüssig machen. Doch warum funktionierte das nicht?

Diese Expertensysteme waren nicht in der Lage, den Kontext zu integrieren, allein schon, weil er viel zu groß war und zu viele Regeln umfassen würde, wenn er denn überhaupt in Regeln zu fassen ist. Es waren nicht nur die fehlenden Daten oder Speichersysteme, sondern auch die Ignoranz der Informatik: Es braucht Jahrzehnte der Forschung und Praxis, damit ein Experte auch zu so einem solchen wird. Menschliche Fähigkeiten, wie die Möglichkeit, die eigene Perspektive zu wechseln oder Empathie mit seinem Gegenüber zu empfinden, kann man einem Computersystem zumindest regelbasiert nicht beibringen.

An dieser Stelle kann ich ja auch mein persönliches Schockerlebnis beschreiben. Es war in einem Aufzug nach einer großen Tagung in Cambridge, wo ein Maschinenbauer aus Braunschweig in Bezug auf AI zu mir sagte: Ist das nicht toll? Man muss in Zukunft nicht mehr programmieren! Ich war, ehrlich gesagt, geplättet, weil meinem Verständnis nach Programmieren eben nur zu einem relativ kleinen Teil darin besteht, ein paar Zeilen untereinander zu schreiben. Außerdem ist AI doch auch programmiert. Dann wurde mir aber klar, was das grundlegende Problem war, das auch Joseph Weizenbaum so sagte: Der Computer hat das geringste Verständnis, er wird das berechnen, das in seinen Registern zur Berechnung ansteht durch die Programmierung. Er tut, was man ihm sagt, nicht das, was man meint.

„Do what I mean“: Das ultimative Interface

Vor langer Zeit habe ich mal einen frechen Satz geschrieben über das „endgültige Interface“, das wir als Zunft eigentlich mit allem Streben erschaffen sollten, es handelt nach der Maxime: „Do what I mean“. Der Rechner soll eben gefälligst nicht das tun, was ich angewiesen habe, sondern was ich gemeint habe!

Die literarische Quelle ist bei Dr. Erika Fuchs zu finden in einem Comic, wo die Neffen von Donald Duck diesen zur Verzweiflung trieben und er herumschreit: „Ihr sollt nicht tun, was ich sage, sondern tun, was ich meine!“. Die Kinder sind dann natürlich überfordert, denn was will Donald eigentlich, wie kann man das herausfinden?

Wer hätte gedacht, dass große Firmen eben genau das herausfinden wollen, dieses ultimative Interface zu erschaffen. Mit einem Amazon Echo stellt man sich einen Lautsprecher mit sieben Mikrofonen ins Wohnzimmer und bestellt nun nebenbei aus der Produktpalette von Amazon. „Tu was ich meine“ wird für das Unternehmen zu einem lukrativen „Tu, was du denkst, was ich meine“ – meist eine Kaufaufforderung.

Das Gerät führt also nicht aus, was der User will, sondern was die Hersteller der Geräte wollen, „do what they will“. Das erinnert an die Geschichte mit dem Wunschbrunnen, wo zuerst eine Schulung im korrekten Wünschen durchgeführt werden muss, damit keine falschen Wünsche gestellt werden können. Wenn im Metaverse oder einer anderen Version der Realität aus dem Silicon Valley ein falscher Wunsch tatsächlich gestellt wurde, dann kann man nur positiv oder gar nicht reagieren.

Große Firmen in Kalifornien möchten die Deutungshoheit über Ihre Meinung haben. Es gibt dort nur einen Daumen nach oben, ich kann bei Inhalten nicht sagen, dass ich das furchtbar finde, sondern nur: „I like“ oder eben ein freundliches Weitergehen. Ich darf also nicht sagen, dass ich etwas nicht mag, interessante Interpretation von Kommunikation.

Ich werde im Digitalen nur gehört, wenn es den Interessen großer Firmen dient, das ist nicht das, was die Menschen wollen. Wobei, ein paar Menschen wollen das schon, diejenigen, die davon natürlich profitieren. Die Dienste der großen Firmen fordern mit immer besserer Überwachungstechnik auf, immer mehr von uns preiszugeben, und wenn es den Wunsch nicht gibt, dann spucken sie ein ELIZA-artiges „Please go on“ aus, das wird dann einfach übergangen.

Mit Eigensinn und Witz

Diese für Mensch und Planeten ungesunde Beziehung, die für Weizenbaum geradezu pathologisch ist, kann jedoch mit Eigensinn und Witz durchbrochen werden. Ein äußerst elegantes Beispiel dafür habe ich 2007 im Berliner Technikmuseum miterlebt. Eine große Gruppe von Physikern, die gerade entdeckt hatten, dass physikalische Prozesse nicht nur mit Differentialgleichungen beschrieben werden können, sondern auch mit Programmen und Automaten modellierbar sind, hatten Professor Weizenbaum zum Vortrag gebeten. Aufgefordert zur fast euphorisch aufgeworfenen Frage „Ist das Universum ein Computer?“ Stellung zu nehmen, gab ihnen Joe eine Antwort aus zwei Worten, nämlich: „So what?“

Dieser Text des Informatikers Wolfgang Coy stammt aus der FIfF-Kommunikation 4/2022, die in Kürze erscheint. Wir danken für freundliche Genehmigung, den Beitrag auf netzpolitik.org vorab veröffentlichen zu dürfen.