UN-Konferenz zu autonomen Waffen: Maschine am Abzug

In Genf diskutieren Staaten über die UN-Waffenkonvention. Es geht um die vielleicht letzte Chance, automatisiertes Töten zu verbieten.

  • Gastbeitrag
Gastbeitrag von Lena Rohrbach
Drohnen, Raketen und ein Flugzeug mit punktförmig markierten Zielen. Weiße Flächen vor Aquarell-Hintergrund in rot-violett.
Die Auswahl von Zielen wird immer weiter automatisiert. – CC-BY 4.0: Kathryn Conrad / betterimagesofai.org

KI trägt schon jetzt dazu bei, dass Menschen getötet werden, und schlägt vor, welche Menschen das sein sollten. Ob sie tödliche Angriffe künftig auch autonom beschließen und, integriert in einem Waffensystem, ausführen darf – darauf hat entscheidenden Einfluss, was diese Woche in Genf passiert.

Dort findet vom 16. bis zum 20. November die siebte Überprüfungskonferenz der UN-Waffenkonvention (CCW) statt. Seit bereits über einem Jahrzehnt diskutiert eine „Group of Governmental Experts“ unter dem Dach der Konvention über eine mögliche Regulierung autonomer Waffensysteme.

Die Repräsentant*innen der Vertragsstaaten, zu denen auch Deutschland gehört, verabschiedeten im September ihren Bericht an die Konferenz. Sein Herzstück ist „ein Set von Elementen eines Instruments, ohne dessen Natur vorwegzunehmen“. Der umständliche Wortlaut verweist auf den zentralen Konflikt: Sollen am Ende verbindliche Regulierungen entstehen oder lediglich unverbindliche Standards?

Es verletzt die Würde des Menschen, wenn eine Maschine seinen Tod beschließt

Entscheidungen der 128 CCW-Vertragsstaaten werden im Konsens getroffen, doch insbesondere die USA und Russland lehnen jede Regulierung ab, die über geltendes Völkerrecht hinausgeht. In der letzten Runde der Textverhandlungen über das „Set von Elementen“ griffen ihre Delegierten mit der diplomatischen Kettensäge selbst Formulierungen an, die seit Jahren Konsens zu sein schienen.

Gegen Ausweiskontrollen im Netz.

Wir kämpfen für ein offenes Internet. Mit deiner Unterstützung.

Jetzt spenden

Ein Verweis auf ethische Standards wurde entfernt, obwohl ein zentrales Argument gegen tödliche autonome Waffen darin besteht, dass es die Würde des Menschen verletzt, die Entscheidung über sein Leben an eine Maschine zu delegieren. Auch der explizite Verweis auf Menschenrechte und die Anforderung, dass ein Mensch KI-generierte Ziele prüfen muss, wurden gestrichen.

Selbst Überlegungen für die Anwendung bereits geltenden Völkerrechts wurden verwässert oder entfernt. Das betrifft etwa die Frage, wann ein autonomes Waffensystem – zum Beispiel nach einem Softwareupdate – erneut auf seine Vereinbarkeit mit dem Völkerrecht geprüft werden muss. Solche Prüfungen neuer Waffen schreibt Art. 36 des Zusatzprotokolls I zu den Genfer Abkommen vor. Wer sich hierüber nicht verständigen will, hat selbst die Einhaltung geltenden Rechts aufgegeben.

Die Zeit läuft ab

Jahre unverbindlicher Gespräche haben die USA, Russland, China oder Israel nicht dazu gebracht, ein internationales Verbot autonomen Tötens zu unterstützen. Wenn die Staaten, die sich für ein Verbot aussprechen, nicht diese Woche aus Gesprächen echte Verhandlungen machen und das Ziel einer Regulierung offen ausgeben, läuft womöglich die Zeit ab.

Entwicklung und Einsatz autonomer Waffensysteme schreiten rasant voran. Und während einige autonome Systeme in risikoarmen Szenarien eingesetzt werden und dabei auch zum Schutz von Zivilist*innen beitragen können – etwa bei der Raketenabwehr –, gehen andere Verwendungen mit erheblichen oder sogar unvertretbaren Risiken einher. Das gilt insbesondere, wenn Waffensysteme autonom Menschen als Ziele auswählen und angreifen, und wenn sie nicht hinreichend verstanden, vorhergesehen oder kontrolliert werden können.

Für die internationale Stabilität besteht die Gefahr technologiegetriebener Eskalationsspiralen („Hyper Wars“), denn mit der zunehmenden Automatisierung militärischer Entscheidungsprozesse drohen immer schnellere Reaktionsketten. Die Verkürzung der sogenannten “Kill Chain”, des Weges zwischen Zielauswahl und Angriff, um der gegnerischen Konfliktpartei voraus zu sein, ist ausdrückliches Ziel der Automatisierung.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Stirb oder leb: Entscheidung in 20 Sekunden

Zugleich sollen durch automatisierte Entscheidungsprozesse Datenmengen bewältigt werden, an denen Menschen scheitern würden. Es gibt daher einen grundsätzlichen Konflikt zwischen dem Ziel, aus großen Datenmengen in kürzester Zeit Entscheidungen abzuleiten, und dem Bekenntnis zu menschlicher Kontrolle. Dazu kommt: Wo Menschen noch Kontrolle ausüben, greift der „Automation Bias“, also das gut erforschte übermäßige Vertrauen in die Ausgaben automatisierter Systeme. Dieser Effekt wird unter Zeitdruck weiter verstärkt. So sollen IDF-Angehörige nur 20 Sekunden für die Überprüfung menschlicher Ziele in Gaza aufgewendet haben, die die KI „Lavender“ generierte. Dabei sei regelmäßig nur geprüft worden, ob die Person männlich sei. Der Einsatz von KI zur Zielgenerierung zeigt also bereits heute die Gefahren für den Schutz von Zivilist*innen.

Wo Systeme auf maschinellem Lernen basieren, entstehen außerdem erhebliche Diskriminierungs-Risiken. Frauen und People of Color werden durch Gesichtserkennung, die zur Zielerkennung eingesetzt werden kann, schlechter erkannt als Männer und weiße Personen. Sie könnten häufiger fälschlich zum Ziel werden. Schwarze Menschen wurden in Studien von Systemen zur Emotionserkennung als aggressiver eingeschätzt als weiße Menschen. Die Einstufung von Emotionen und Intentionen ist etwa für die völkerrechtlich relevante Frage notwendig, ob eine Person angreifen oder sich ergeben möchte.

Für die nun beginnende Konferenz liegt ein vielversprechender Vorschlag auf dem Tisch: Der peruanische Vorsitz des zuständigen Ausschusses hat angeregt, bis 2028 ein neues Protokoll zur UN-Waffenkonvention zu entwerfen. Mehr als 70 Vertragsstaaten sprechen sich inzwischen für eine verbindliche Regulierung aus. Deutschland unterstützt dieses Ziel seit Beginn der Debatte grundsätzlich, hat sich bislang jedoch selten als treibende Kraft positioniert. Diese Woche hat die Bundesregierung noch Zeit, um sich aktiv hinter ein Verhandlungsmandat für ein rechtsverbindliches Instrument zu stellen. Nach mehr als zehn Jahren Gesprächen ist die Zeit für weitere unverbindliche Debatten dann wohl abgelaufen.

Lena Rohrbach ist Referentin für Menschenrechte im digitalen Zeitalter und Rüstungsexporte bei Amnesty International. Amnesty International ist Mitglied der Kampagne „Stop Killer Robots“, einem internationalen Bündnis von über 300 Organisationen, das sich für eine Regulierung autonomer Waffensysteme einsetzt.

Über die Autor:innen

  • Gastbeitrag
    Gastbeitrag, Lena Rohrbach

    Gastbeiträge sind Beiträge von Personen, die nicht zur netzpolitik.org-Redaktion gehören. Manchmal treten wir an Autor:innen und Verlage heran, um sie nach Gastbeiträgen zu fragen, manchmal treten die Autor:innen an uns heran. Gastbeiträge geben nicht unbedingt die Meinung der Redaktion wieder.


Veröffentlicht

Kategorie

Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.

Schreibe eine Ergänzung!

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert