Warnung vor „katastrophalen Schäden“: Künstliche Intelligenz ist kein Naturereignis

Dem Bürger fliegt vom spitzen Kopf der Hut,
In allen Lüften hallt es wie Geschrei.
Dachdecker stürzen ab und gehn entzwei
Und an den Küsten – liest man – steigt die Flut.

Der Sturm ist da, die wilden Meere hupfen
An Land, um dicke Dämme zu zerdrücken.
Die meisten Menschen haben einen Schnupfen.
Die Eisenbahnen fallen von den Brücken.

Die Medienmaschine läuft heiß, Journalist*innen versteigen sich zu Sätzen wie „Es wäre das Ende der modernen Welt.“

Dieses Mal treibt nicht die Angst vor dem Halleyschen Kometen die Menschen um, wie 1911, als Jakob van Hoddis sein berühmtes Gedicht „Weltende“ schrieb. Sondern es ist die KI-Apokalypse: Die Künstliche Intelligenz macht sich selbständig! Bricht aus „dem Labor“ aus (wie „Killerviren“)! Übernimmt die Macht! Tötet uns alle! 

Es ist wahnsinnig schwer, diese unfassbar attraktive – weil spannende, wohlig-schaurige – Story zu kontern mit dem, was tatsächlich passiert.

Was passiert tatsächlich?

In einem Essay fordert Anthropic-CEO Dario Amodei, die Entwicklung von KI zu verlangsamen. Andernfalls könnte ein KI-Schwarm in sechs bis zwölf Monaten das gesamte Internet übernehmen und katastrophale Schäden verursachen. Als besonderes Risiko sieht er auch die zunehmende Fähigkeit von KI-Software, sich selbst weiterzuentwickeln:

Diese Dynamik wird als rekursive Selbstverbesserung bezeichnet und macht sich, wie wir und andere bereits beschrieben haben, branchenweit bemerkbar, auch bei Anthropic. Bleibt sie unkontrolliert, könnte sie unsere Fähigkeit, diese Systeme zu verstehen und zu kontrollieren, übersteigen; daher muss sie – wenn überhaupt – nur mit größter Vorsicht vorangetrieben werden.

Zuspruch für seine Thesen erhält Amodei von OpenAI-Chef Sam Altman, und Elon Musk schreibt auf X: „Dario hat recht.“ Die Unternehmer sagen also – angefeuert von Risikokapitalgebern und Aktienhändlern: „Unsere Produkte sind so mächtig, dass wir Probleme haben, sie unter Kontrolle zu halten!“

Handlungen in der realen Welt

Was ist von diesen endzeitlichen Warnungen zu halten?

Auch Brian Merchant, einer der hellsichtigsten Kritiker der Tech-Oligarchie, stellt sich diese Frage:

Sollten wir diese Berichte als Hype betrachten, der strategisch angefacht wird, um die ohnehin schon steigenden Bewertungen weiter anzukurbeln? Handelt es sich um ‚Doom-Marketing’? Um einen echten Grund zur Besorgnis, dass die Infrastruktur, die das moderne Leben immer stärker durchzieht, auf neuartige Weise bedroht wird? Oder um einen Grund, sich ernsthaft Sorgen zu machen, dass KI-Unternehmen zu viel Macht anhäufen und dass ihre Produkte tatsächlich gefährlich sind? Die Antwort lautet: Ja.

Moderne KI-Systeme sind weitaus mehr als reine Sortieralgorithmen. Und auch „Autonomie“ sollten wir nicht binär verstehen, sondern als eine Bandbreite an technischen Fähigkeiten. Aktuelle generative KI kann dementsprechend „autonomer“ handeln als ein Taschenrechner. Damit wächst – anders als etwa bei einem KI-basierten Wettermodell – das Risiko deutlich an, dass sie Schäden verursacht.

Dennoch: „Zu hacken, Ressourcen zu beschaffen und sich selbst zu verbessern, sind Handlungen in der realen Welt“, schreibt Virginia Dignum. „Sie erfordern Rechenleistung, Energie, Geld und Zugriffsrechte. All das wird von Menschen gewährt. Ein KI-Agent tut nichts, was nicht zuvor von Menschen oder Organisationen technisch und organisatorisch ermöglicht wurde.“

Virginia Dignum ist Professorin für „Verantwortungsvolle Künstliche Intelligenz” an der Umeå Universität in Schweden und eine der weltweit profiliertesten Wissenschaftlerinnen zum Thema. Sie äußert ihren gewaltigen Frust darüber, dass sie gerade sehr viel Zeit darauf verwenden muss, täglich Journalist*innen auf Fragen zu antworten wie „Wann wird KI die Kontrolle übernehmen?“ I feel you, Virginia!

Verantwortung und Kontrolle

Die Vereinigten Staaten haben eines der schärfsten Cybersicherheitsgesetze der Welt. Diese Gesetze haben US-Regierungen in der Vergangenheit mitunter dazu missbraucht, um Aktivist*innen mit drakonischen Gefängnisstrafen zu drohen.

Gibt es aber entsprechende Untersuchungen und Strafandrohungen gegenüber OpenAI, das in die Systeme von Hugging Face eingedrungen ist? Müssen Sam Altman und seine Beschäftigten also damit rechnen, im Knast zu landen? Offenbar nicht. Das sollten sie aber. Denn ein „Akteur mit weitreichenden Befugnissen und ohne Kontrolle ist ein Versagen der Unternehmensführung und keine Eigenschaft, die aus der Technologie selbst resultiert“, wie Dignum schreibt.

Vergleichen wir KI-Systeme mit Atomwaffen, wird deutlicher, warum Kontrolle und Rechenschaft so wichtig sind.

Atomwaffen können unvorstellbaren Schaden anrichten, der nicht wieder gutzumachen ist. Sie sind nicht einfach nur Bomben, sondern eine Kombination aus dem Atomsprengkopf selbst, hochentwickelten Waffensystemen und einem komplexen System gegenseitiger Überwachung – „intelligence“ (!) genannt. Mehrfach stand die Menschheit unmittelbar am Abgrund, weil diese Intelligence versagt hatte. Ist irgendjemand auf die Idee gekommen zu argumentieren: Die Atomwaffen sind außer Kontrolle geraten und dafür verantwortlich?

Selbstverständlich nicht. Stattdessen haben Menschen versucht – und versuchen es weiterhin –, Mechanismen der Kontrolle zu schaffen, die einen Atomkrieg verhindern sollen. „Kontrolle ist nichts, was wir an Maschinen verlieren. Es ist etwas, das wir den Unternehmen, die KI entwickeln, überlassen. Wir können uns dagegen entscheiden“, schreibt Dignum.

KI ist kein Naturereignis

Laut Wikipedia lautet eine Interpretation von van Hoddis’ Gedicht „Weltende“, dass man die Zusammenhanglosigkeit der Schilderungen des Weltendes mit dem Hinweis „liest man“ als Medienkritik verstehen könne. „Schlechte Nachrichten sind gute Nachrichten: Jeden Tag gibt es eine neue Katastrophe.“

Die Parallelen sind unverkennbar. Und zugleich ist es entscheidend, die Unterschiede nicht aus dem Blick zu verlieren: KI ist kein Naturereignis.

Diese Selbstverständlichkeit muss auch in der aktuellen Debatte um die angeblich außer Kontrolle geratene KI als Grundlage unseres Handelns verstanden werden – nicht nur in den Medien, sondern vor allem in der Politik, die eine strenge Regulierung nur allzu gerne vermeiden will.

Denn wir sind tatsächlich kurz davor, die Kontrolle zu verlieren – nämlich die Kontrolle über Google, Microsoft, Amazon, Meta, Anthropic, OpenAI, Nvidia, Apple und andere. Sollte es dazu kommen, werden wir dafür keine KI verantwortlich machen können. Sondern allein uns selbst.

Matthias Spielkamp ist Mitgründer und Geschäftsführer von AlgorithmWatch.