Too big to fail: Verantwortungslose KI-Panik

Sie dringen eigenständig in Websites von Regierungen ein, hacken fremde Unternehmen oder tragen dazu bei, dass Schulkinder bei Bombenangriffen zerfetzt werden. Selbst den Chefs der großen KI-Anbieter wie OpenAI oder Anthropic sind ihre eigenen Produkte nicht mehr ganz geheuer. Erst letzte Woche warnten sie erneut vor den Gefahren der Technik, diesmal vor dem UN-Sicherheitsrat, und riefen zu internationaler Kooperation auf, um sie einzuhegen.

Wir sollten sie langsam ernst, aber nicht beim Wort nehmen. Ob die KI-Apokalypse wirklich unmittelbar bevorsteht, wie manche von ihnen behaupten, sei dahingestellt. Zum größten anzunehmenden Unfall muss es aber gar nicht kommen, um sich das zerstörerische Potenzial von KI – und vor allem der KI-Unternehmen selbst – klar vor Augen zu führen.

Ohne Rücksicht auf persönliche Daten, Urheberrecht oder die Menschen, die plötzlich neben Rechenzentren leben sollen, haben diese Firmen praktisch das ganze digitalisierte Wissen der Menschheit aufgesaugt. Das verpacken sie in kommerzielle Geschäftsmodelle und verkaufen uns diese „Intelligenz“ wieder zurück. Es sei womöglich der „größte Diebstahl von Arbeitskraft in der Geschichte der Menschheit“, schrieb ein Microsoft-Manager in einem internen Memo, das bei einem Gerichtsverfahren ans Licht kam.

Mit atemberaubender Geschwindigkeit haben sich diese Firmen in wenigen Jahren tief in unsere Gesellschaften eingeschrieben und schreiben munter weiter. Oft genug spornen sie dabei führende Politiker:innen an, vom US-Präsidenten Trump über den britischen Ex-Premier Starmer bis hin zur EU-Kommissionspräsidentin von der Leyen. Man will ja nicht den Anschluss verpassen, selbst wenn man sich dabei zum Papagei der Tech-Bosse macht.

Eine Wette ohne uns

Es ist eine gigantische Wette auf künftige Märkte, Geschäftsmodelle und Einnahmen, die diese Firmen eingehen. Dabei ist alles andere als gesichert, dass ihre Geschäftsmodelle überhaupt tragen. Allein die geplanten Ausgaben für den Bau von Rechenzentren in den USA würden im Schnitt 3,6 Prozent des US-Bruttoinlandsprodukts entsprechen, schätzt eine aktuelle Studie. Noch nie zuvor sei die US-Wirtschaft so stark vom Ausbau einer einzelnen Branche abhängig gewesen, warnt das Wall Street Journal.

Inzwischen ziehen etwa ehemalige Chefs der US-Notenbank Parallelen zur letzten Finanzkrise. Ungenügend regulierte Banken brachten damals mit hochriskanten Geschäftsmodellen das internationale Finanzsystem an den Rand des Abgrunds. Gerettet wurden sie, die zu groß und zu wichtig geworden waren, schließlich mit Steuergeld. Auf den Kosten ist der Rest der Gesellschaft sitzen geblieben.

Too big to fail: Das scheint zu einem der Mottos zu zählen, mit denen die heutigen Tech-Oligarchen ihre Pfründe sichern wollen. Verantwortung wollen sie indes nicht übernehmen. So stellte etwa jüngst Palantir-Chef Alex Karp in den Raum, dass eine Vergesellschaftung von KI-Firmen der aus seiner Sicht richtige Ansatz wäre.

Angesichts der sich häufenden KI-Schreckensmeldungen bliebe sonst nichts übrig, denn „wenn man sie nicht verstaatlicht, wird jeder einzelne meiner Kunden klagen“, sagte Karp. Dieses Risiko ist offenbar demokratischen Staaten zumutbar, privaten Wirtschaftsunternehmen jedoch nicht. Dass sie ihre Profite derweil für sich behalten wollen, versteht sich von selbst.

Verwässerte EU-Regeln

In ihrer Rede zur Lage der Europäischen Union wies die CDU-Politikerin Ursula von der Leyen kürzlich auf die Gefahren selbstlernender KI-Modelle hin, um im gleichen Atemzug die KI-Verordnung (AI Act) als „wichtigen Schritt hin zu einem Sicherheitsnetz“ zu loben. Was sie dabei unter den Tisch fallen ließ: Erst im Mai hat die EU ebenjenes KI-Gesetz verwässert und ausgerechnet Auflagen für hochriskante KI-Anwendungen begrenzt. Ebenfalls nicht erwähnt hat die Kommissionspräsidentin, dass die Kommission im Vorjahr ihren Vorschlag einer eigenen KI-Produkthaftungsrichtlinie zurückgezogen hat.

Der Gesetzentwurf lag seit dem Jahr 2022 auf dem Tisch, konnte sich letztlich jedoch nicht gegen zwei ungefähr zeitgleich verhandelte Vorschläge behaupten: den AI Act sowie eine aktualisierte, allgemeinere Produkthaftungsrichtlinie. Eigentlich sollten die drei Gesetze zusammen wirken und sich gegenseitig ergänzen.

So enthält der AI Act Regeln für KI-Hersteller und ‑Anbieter, die je nach Risiko des geplanten KI-Produkts unterschiedlich streng ausfallen, geschädigten Nutzer:innen jedoch keine Rechtsmittel in die Hand geben. KI-spezifische Haftungsfragen sollte die eigene Richtlinie abdecken, sie ging dann später aber in der allgemeinen EU-Richtlinie auf. Zwar wurde diese unter anderem um durch Software verschuldete Schäden erweitert, enthält aber immer noch Lücken – und harrt obendrein weiterhin ihrer EU-weiten Umsetzung, etwa in Deutschland.

Dass dieser Rahmen nicht ausreicht, um wildgewordene KI-Tools einzufangen oder, besser noch, dafür zu sorgen, dass sie gar nicht erst echten Schaden verursachen, hat nicht zuletzt der IT-Sicherheitsvorfall rund um OpenAI und Hugging Face im Sommer offengelegt: Damals brachen von OpenAI entwickelte KI-Agenten in einer Testphase aus einer unzureichend abgeschotteten Umgebung aus und griffen eigenständig die Infrastruktur des Unternehmens Hugging Face an. Da es sich um kein auf dem Markt verfügbares Produkt handelte, ist bis heute selbst unter Fachleuten umstritten, ob die EU-Regeln solche Vorfälle überhaupt erfasst hätten. Im Zweifel eher nicht.

Haftungsrisiko schafft Vorsicht

Derzeit scheinen sich auf EU-Ebene zwei Antworten auf dieses Problem herauszubilden. Da wären zum einen Vorschläge zu internationaler Kooperation, die sich etwa nach dem Vorbild der Internationalen Atomenergiebehörde institutionalisieren ließe. Dies hatte schon vor Jahren OpenAI-Chef Altman gefordert, auch Digitalminister Wildberger (CDU) und wohl auch seine Parteikollegin von der Leyen wären mit an Bord.

Zum anderen brodelt es im EU-Parlament. Dort hat sich jüngst eine Gruppe von Abgeordneten gebildet, die die KI-Produkthaftungsrichtlinie wiederbeleben will. Gesetze vorschlagen kann das Parlament zwar nicht, politischen Druck aufbauen indes schon. Ob der ausreichen wird, um den Deregulierungskurs der EU-Kommission zu korrigieren, bleibt vorerst offen.

Beide Ansätze stimmen nicht unbedingt hoffnungsvoll: Es könnten Jahre ins Land ziehen, bis ein Kompromiss gefunden wird, mit dem alle zufrieden sind. Eine Erfolgsgarantie gibt es dabei nicht. Widerstand gegen zu strenge Auflagen dürfte sowohl aus den USA als auch aus China kommen, die sich aus strategischen Gründen kaum reinreden lassen wollen.

Unserer Gesellschaft droht im schlimmsten Fall, gleich zwei Mal überfahren zu werden: Von einer verfrüht ausgerollten Technik, die ohne Leitplanken nichts im Massenmarkt verloren hat. Und von einer wirtschaftsfreundlichen Politik, die es in der Hand hatte, rechtzeitig einzuschreiten. Wenn sie nicht im letzten Moment der Mut verlassen hätte.

Regulierung zu demokratischen Bedingungen

Noch ist es nicht zu spät. Wie die KI-Bosse selbst fordern, müssen sie und ihre Unternehmen endlich Verantwortung übernehmen – allerdings nicht zu ihren Bedingungen. Sie müssen haftbar werden für all die Schäden, die ihre Produkte anrichten, ganz ohne Singularität. Wer erwarten muss, in Grund und Boden verklagt zu werden, wird es sich zwei Mal überlegen, ein halbgares und potenziell gefährliches Produkt auf die Welt loszulassen.

Dafür muss die EU eine schärfere Regulierung auf den Weg bringen, die das auch leisten kann. Der gegenwärtige Zustand, der vor Hiobsbotschaften und Warnungen vor Hiobsbotschaften überquillt, während Teile der Politik immer noch naiv einem fragwürdigen Innovationsversprechen hinterherrennen, muss ein Ende finden. Es braucht klare Kante und echte Regeln, damit die Milliardenkonzerne in Haftung genommen werden – und nicht später die Gesellschaft auf dem Scherbenhaufen sitzen bleibt. Denn das ist verantwortungslos.