RüstungRegierung hält Kosten für Kampfjet-KI geheim

Deutschland entwickelt zusammen mit Frankreich und Spanien gerade einen neuen Kampfjet. Der soll auch Künstliche Intelligenz benutzen, im August wurde dazu ein Vertrag unterzeichnet. Was darin steht oder um wie viel Geld es geht, will die zuständige Behörde lieber nicht sagen.

Ein Eurofighter der Bundeswehr beim Abheben.
FCAS soll den hier abgebildeten Eurofighter Typhoon ersetzen. CC-BY-SA 2.0 Alan Wilson

Das Future Combat Air System – FCAS – ist ein gewaltiges Rüstungsprojekt, mit dem Frankreich, Deutschland und Spanien ihre Luftwaffen grundlegend modernisieren wollen. Kernstück des Projekts ist ein Kampfjet der nächsten Generation, aber das geplante System geht darüber hinaus: Die Pilot:innen sollen über eine „Combat Cloud“ mit unbemannten Drohnen vernetzt sein. Dabei soll, im Jahr 2023 wenig überraschend, auch Künstliche Intelligenz eine Rolle spielen.

Was diese Künstliche Intelligenz einmal können soll? Welche Ressourcen sie haben wird? Wie sie gebaut wird oder, ganz banal, wie teuer sie momentan schon ist oder wie teuer sie noch werden soll? Diese Fragen wollten uns weder das deutsche Verteidigungsministerium noch die beteiligten Unternehmen beantworten. Eine von uns eingereichte Anfrage nach dem Informationsfreiheitsgesetz hat die zuständige Behörde abgelehnt.

Drei beteiligte Unternehmen

Aber zuerst ein wenig Hintergrund: Bevor Künstliche Intelligenz eingesetzt werden kann, muss sie entwickelt werden, und dafür braucht es eine Entwicklungsumgebung. Am 7. August hat das Beschaffungsamt der Bundeswehr einen Vertrag unterzeichnet, und zwar für die Entwicklung dieser Entwicklungsumgebung – es werden also momentan die Werkzeuge gebaut, mit denen später einmal die KI gebaut werden soll. Auf Bundesseite ist für den Vertrag das Beschaffungsamt der Bundeswehr zuständig. Auf der anderen Seite steht das HIS-Konsortium, das aus drei Unternehmen besteht: Rohde & Schwarz, IBM Deutschland und Helsing, ein deutsch-britisches KI-Start-up mit Sitz in München.

Zwei dieser drei Unternehmen sind alteingesessen, das dritte dagegen ganz frisch: Helsing wurde erst vor zwei Jahren gegründet, diesen September bewerteten Investor:innen das Unternehmen aber bereits mit 1,8 Milliarden Euro. Es wurde damit zum ersten sogenannten „Unicorn“ im europäischen Verteidigungsbereich. Der FCAS-Vertrag ist auch nicht der erste große Vertrag, der an Helsing ging: Das Unternehmen soll auch den aktuellen Kampfjet der deutschen Luftwaffe, den Eurofighter Typhoon, mit KI-Fähigkeiten ausstatten. Der Jet soll dann Daten aus verschiedenen Sensoren sammeln und auswerten können.

Keine genauen Infos im Haushalt

Wir haben bei den beteiligten Unternehmen und dem Bundesverteidigungsministerium angefragt, ob sie uns mehr Details zu dem Vertrag nennen können. Die Antwort darauf war ein eindeutiges Nein. Man habe untereinander abgestimmt, über eine Pressemitteilung hinaus nicht über den Vertrag zu kommunizieren.

Nun kann man sich über Geld, dass die Bundesregierung – oder hier das Beschaffungsamt im Auftrag des Verteidigungsministeriums – ausgibt, noch an einer anderen Stelle informieren: im Bundeshaushalt. Im Haushalt für 2023, um den es nach dem Urteil des Bundesverfassungsgerichts im November noch einmal so viel Aufregung gab, taucht FCAS zwei Mal auf: Das Verteidigungsministerium hatte für die Entwicklung des Kampfjet-Kernstücks, dem Next Generation Weapon System, 462 Millionen Euro vorgesehen. Im 100-Milliarden-Sondervermögen für die Bundeswehr waren 478 Millionen Euro für das Projekt eingeplant.

Wofür genau diese Mittel verwendet werden sollten, steht in den Plänen nicht. Sollte es über die allgemeine Auflistung hinaus weitere Erläuterungen geben, dann wären diese als geheime Verschlusssache eingestuft, heißt es auf unsere Anfrage vom Bundestag. Einzelne Verträge würden dem Bundestag vorgelegt, wenn sie über 25 Millionen Euro wert sind. Das sei in dieser Legislaturperiode bei FCAS schon mehrere Male passiert, dabei sei es um vorbereitende Studien gegangen. Diese „25-Millionen-Vorlagen“ seien aber ebenfalls eingestuft und könnten nicht herausgegeben werden.

IFG-Anfrage abgelehnt

Der Einsatz von KI im Militär ist ein brenzliges Thema. Das haben anscheinend auch Airbus und ein Fraunhofer-Institut erkannt, die gemeinsam technologische Grundlagen für FCAS entwickelt haben. Sie haben vor einigen Jahren die „Arbeitsgemeinschaft Technikverantwortung“ gegründet, die die Entwicklung des Systems begleiten und beraten soll. Beteiligt sind dabei Vertreter:innen aus der Industrie und Militär, aber auch Forschende zu Geschichte, Politik und Ethik. Mit konkreten Aufträgen hätte das Gremium aber nichts zu tun, sagte ein Mitglied auf Anfrage von netzpolitik.org – also auch keine weiteren Details zum KI-Vertrag.

Damit blieb noch ein Weg übrig, potenziell mehr über den Vertrag zu erfahren: Eine Anfrage per Informationsfreiheitsgesetz. Die haben wir im September an das Beschaffungsamt geschickt, im Oktober kam die Ablehnung zurück. Das Amt hat ganz korrekt das HIS-Konsortium in ein Drittbeteiligungsverfahren eingebunden und meldet, die beteiligten Unternehmen hätten darin ausdrücklich keine Einwilligung zur Veröffentlichung erteilt. Interessant hier: Das Beschaffungsamt erwähnt nur noch zwei Unternehmen, nämlich Helsing und Rohde & Schwarz. IBM Deutschland wurde anscheinend nicht miteinbezogen.

Das Konsortium habe sein „erhebliches Interesse“ an der Geheimhaltung des Vertrags bereits während der Verhandlungen bekundet, heißt es im Schreiben der Behörde. „Dieser Geheimhaltungswille spiegelt sich auch in der Tatsache wider, dass sich die Parteien vertraglich dazu verpflichtet haben, den gesamten Vertrag, einschließlich der Anlagen, vertraulich zu halten.“ Dieser Einschätzung stimme man zu, es bestehe ein berechtigtes und schutzwürdiges Interesse. Die detaillierten im Vertrag enthaltenen Informationen könnten die Wettbewerbsposition der Unternehmen nachteilig beeinflussen. Wir haben gegen diese Entscheidung Widerspruch eingelegt, auch den hat das Beschaffungsamt bereits abgelehnt.

16 Ergänzungen

  1. Ob dem Informationsbedürfnis hiermit zumindest teilweise abgeholfen werden kann:

    1. Aviation Week (2022): Program Dossier: Future Combat Air System
    https://aviationweek.com/defense-space/program-dossier-future-combat-air-system

    2. Reuters (2022): France, Germany, Spain agree on moving on with FCAS warplane development
    https://www.reuters.com/business/autos-transportation/france-germany-spain-agree-next-phase-fighter-jet-development-source-2022-11-18/

  2. Das wird gut! Quasi wie in Hollywood: „Wenn ihre Einheit noch mehr Flugzeuge verliert, müssen wir die KI ranlassen!“

    1. Im Luftkampf einer autonomen Drohne gegen einen bemannten Kampfjet hat letzterer keine Chance, bei einem Mehrfachen an Kosten und Groessenordnungen laengeren Beschaffungszeitraeumen (primaer des Piloten).

      Gleichzeitig stellen solche Drohnen „nur“ die logische Weiterentwicklung moderner Lenkflugkoerper dar, mit denen bemannte Kampfjets zZt bewaffnet sind.

      Alles nicht so revolutionaer, wenn man es nicht in die Erfolglosigkeit ueberengineered.

      1. > Im Luftkampf einer autonomen Drohne gegen einen bemannten Kampfjet hat letzterer keine Chance, …

        Eine dahingerotzte Behauptung, ohne Argument oder zitierfähiger Quelle.

        1. Die US Navy hat das schon vor Jahren im Simulator durchgespielt. Die ziehen schlicht wesentlich hoehere Beschleunigungen und haben ein in mehrfacher Hinsicht groesseres Gesichtsfeld. Da oben ist einfach sehr viel freier Raum.

          Mustererkennung und Extrapolation ist genau der „KI“_Teil, dazu kommt jetzt Koordinierung. Das grosse Problem ist Freund/Feind Erkennung und komplexere Missionsentscheidungen, und dafuer hat man die Besatzung im Jet.

          Bei der Navy haben sich auch die Flugzeugtraeger gegen die Schlachtschiffe durchgesetzt, und werden gegen Lenkwaffen verlieren.

          1. > Bei der Navy haben sich auch die Flugzeugtraeger gegen die Schlachtschiffe durchgesetzt, und werden gegen Lenkwaffen verlieren.

            Und wieder eine dahingerotzte Behauptung, ohne Argument oder zitierfähiger Quelle.

          2. Vorsicht mit Extrapolation!

            Allerlei Abwehr existiert und wird weiter beforscht. Große Plattformen können Laser u.ä. in Mengen tragen. Das ist noch nicht ganz vorbei. Schlachtschiffe haben nur mehr und größere Kanonen, keinen Vorteil in sich. Flugzeugträger (-Verbände) bieten eine Flugzeugplattform für Düsenjäger. Könnte man locker mit Tankflugzeugen machen, würde man das bereits mit bemannten Flugzeugen so durchführen. Unbemannt wird der Träger vielleicht etwas kleiner, zunächst.

            Vielleicht sind große Flugzeuge bald Geschichte, noch vor dem Träger. Loitering-AA wird klein und fies… Dennoch sind wiederbetankbare Bomber eher billiger als fliegende Bomben.

            Braucht man keine Landebahn mehr, kommt vielleicht der ubootbasierte Träger wieder…

            Frage ist, wie billig Flugzeugträgerabschießen wird – China, Russland, USA OK, aber dann weiter… Und dann kommt die Frage nach der Reaktion einer Nuklearmacht. Im Moment sind so viele entsetzt über Gaza, demnächst vielleicht doch wieder „normal“?

          3. Einfach WW2 im Pazifik nachlesen und die heutigen Flotten angucken.

            Alle derzeitig gegen Träger einsetzbare Waffen sind Lenkwaffen. Zur Überwindung des Abwehrschirms entweder durch schwer auszumachende Einheiten nahe herangebracht, in ausreichender Menge auf Abstand gestartet oder extrem schnell. Moderne Torpedos sind Lenkwaffen. Alle Luft-Schiff, Land-Schiff oder Schiff-Schiff Raketen oder Marschflugkörper sind Lenkwaffen. Selbst teilballistische Mittelstreckenraketen mit Nuklearbestückung sind endphasengelenkt.

            Sind NP solche Kommentare nicht langsam peinlich?

          4. „Einfach WW2 im Pazifik nachlesen und die heutigen Flotten angucken.“
            Ok.

            „Alle derzeitig gegen Träger einsetzbare Waffen sind Lenkwaffen.“
            Rammen ergibt auch nicht so viel Sinn.

            „Sind NP solche Kommentare nicht langsam peinlich?“
            Wenn sie hier nicht aus unerfindlichen Gründen selbstreferentiell vorgehen, bitte zitieren. Hier sind bisher ca. 3-5 Anonymous Instanzen am Werk (oder 2 mit 1 Troll).

          5. „Frage ist, wie billig Flugzeugträgerabschießen wird“

            Was genau ist die benötigte Technologie?
            Uneducated guess:
            – Lenkwaffe nah genug ranbringen. Ab da ist die Technologie in der Lenkwaffe.
            – Evasiv, schnell, irgendwie nicht treffbar.
            – Präzise genug oder groß genug für einen Impact. Dabei Geschwindigkeit des FLugzeugträgerverbandes bedenken.
            – Genügend Reichweite oder Stealth Platform, um nah genug ranzukommen.
            – Typisch: Einige dutzend Kilometer, wenn nicht Hunderte. Daher: Lokalisation eines Flugzeugträgerverbandes. Dabei niedrige Latenz wegen Geschwindigkeit (sonst würde nicht mal ein Nuklearsprengkopf wirken).
            – Resilienz gegen elektronische Kampfführung.
            – Nicht zu früh auf dem Radar sein.
            – (Position auf die entfernung überhaupt genau genug anfliegen können.)

            Manches ist heutzutage leichter als anderes. Manches sieht eher nach Satellitennetzwerken aus, a) eigene Position, also nach Gusto Macht Nr. 1-4, die solche haben, und b) Schiffsdetektion +- in Echtzeit, wie viele auch immer das im Moment können. Nun könnte man extrapolieren :‘), welche Gegenmaßnahmen hier passieren könnten, sollten sich genügend solcher Geschosse auf den Weg machen. Dann noch die Ermittelung des Ursprunges, und die Reaktion einer Nuklearmacht darauf. China gewinnt nichts damit, sich einen Vernichtungsschlag einzuhandeln, nur um einen Flugzeugträger abzuschießen. Verbündete? Die Intel bereitstellen? Legetimes Gegenschlagsziel werden…

            Ja, irgendwie Uboote mit Torpedos, da wird schon was wachsen…

  3. Statt besser dafür zu sorgen, das jedwedes Kriegsgerät gar nicht nötig ist, rüstet man lieber auf und züchtet sich sehenden Auges seine eigenen T-800. Dabei sollte doch erst kürzlich Sars Cov 2 gezeigt haben, das zu viel Vertrauen auf Technologie nur in den Untergang führt.

  4. Nochmal zur Absurdität von dem Hollywoodstatement: Ja, es hat KI (allein) in einem einfachen Szenario gegen Menschen gewonnen.

    Doch gibt es noch Begrenzungsfaktoren:
    A) Regulatorisch, Zielbenennung. Wir sehen wohl in der Ukraine und Umgebung demnächst den Abschied solcher Konzepte, d.h. Freigabe nach ungefährer Position. Denke auch an zivile Gefährte, die sicherlich kaum Schutz haben werden, vor allem nicht bei „Defekten jeglicher Sorte“.
    B) A) aus einem anderen Winkel: Mensch ist zu schlecht bei der Zielauswahl. Vergleiche Gaza (Wirklich? Denn Vorauswahl und Prüfung könnten schnell gehen, siehe P=NP?). Egal ob Mensch im Flugzeug, oder im Lagezentrum, käme vielleicht die Situation mit dem Knopf für volle Autonomie, bei zu vielen Abschüssen. Es wird „schnelles (Selbst-) Lernen“ geben, eine Frage der Zeit, wenn man an anti-KI optimierte Angriffe denkt.
    C) Statt Flugzeug-KI, wäre es nicht einfacher, Raketen und Abwehr mit noch besserer, weil leichter zu trainierender KI auszurüsten? Ich sehe das nicht als trivial vorbei an, wobei in der zeitlichen Folge temporär eine Technologie bzw. Plattformsorte ins Hintertreffen geraten könnte. Werden Raketen so gut, dass Flugzeuge nichts mehr bringen, dann gibt es eben kompakte Raketenvehikel. Was folgt dann? Ist die Zeit der Bomber dann vorüber? Raketen würden billiger, Budgets bereinigt etc.
    D) Autonome Zielauswahl wegen elektronischer Kriegsführung?

    KI-AA-Kanonen mit günstigerer Munition oder Laser für langsam fliegende Drohnen? Für ein „Reagenzglas“ wie Gaza kann ich mir auch vorstellen, dass irgendwann fenstergenau im Sekundenmaßstab zurückgetroffen werden kann, Billigrakete mit KI. Zunächst bleibt das Gros weiterhin Extrapolation.

    1. „Zunächst bleibt das Gros weiterhin Extrapolation.“

      Auch weil viele der Konzepte derzeit nicht (Zivilisten-) sicher erstellt werden können.
      Aber am Rande der Dinge kann es natürlich plötzlich opportun werden, wenn man große Feindgebiete mit wenig Notwendigkeit zur Differenzierung hat. D.h. der autonome Modus wird bereits als Option eingebaut. Sicherlich Russland, bei aufstrebenden Herstellern von anderswo, bestimmt auch (bald?) in der Ukraine, bzw. für sie…

    2. „Billigrakete mit KI“

      So billig muss es nicht sein, wenn es um Präzision geht. Es kann passieren, dass wir zwar durchaus sehr billig zu produzierende Waffen erhalten, die letztlich aber sehr teuer in der Entwicklung und KI-Training sind, die Daten nicht trivial zu bekommen sind. KI im Fertigungsprozess auch denkbar. Also dann teure und komplexe Maschinen zum Bau von sehr präzisen Rakten, z.T. KI jew. um weniger präzise Teile und Maschinen nutzen zu können.

      Dafür ergeben sich Endprodukte, die trotz relativ günstiger Komponenten mit etwas größeren Abweichungen, nominell schlechterer Sensorik, u.ä., in der Lage sind, (autonom-ish) präzise zu treffen, und bis dahin noch allerlei Kunsstücke zu vollbringen. Einerseits. Andererseits kann KI auch Fully-Low-Budget-Veranstaltungen aufpeppen, die Frage ist halt wie weit. Hier ist zu bedenken, dass z.B. Iran eine Waffe mit KI entwickeln könnte, und sie dann leicht baubar macht, für Situationen in denen Präzision und eine gewisse Kontrolle über die Nutzer interessant sind. Armenien hätte irgendwas schnell gebrauchen können. Ich nehme an, dass die „low-budget-ad-hoc-kill-zone“ schon noch Realität werden wird. Günstige RPG-Köpfe mit groben Augen und Features kommen sicher. Ähnliche Story bzgl. Training. Usw. usf.

      Lange Rede kurzer Sinn. Es können da schon große initiale Hürden sein, die für manche Waffensorten wiederum einen Seniorpartner nötig machen, wenn man selbst keiner ist. Gleichzeitig gibt es für Terroristen oft weniger Klippen zu umschiffen, von Wegen wen sie treffen sollen oder dürfen, was bei Plattformen mit ballistischer Munition relevant sein dürfte, weniger bei Raketen.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.