Öffentlichkeit

Bewaffnete Drohnen: Bald entscheiden autonome Tötungsmaschinen über Leben und Tod

Drohne RQ-4, „Stolz der Bundeswehr“. Bild: Jim Gordon. Quelle: Wikimedia Commons. Lizenz: CC BY 2.0.
Drohne RQ-4, „Stolz der Bundeswehr“. Bild: Jim Gordon. Quelle: Wikimedia Commons. Lizenz: CC BY 2.0.

Weltweit werden immer mehr unbemannte Luftfahrzeuge entwickelt und eingesetzt, über 50 Staaten bauen daran. Treibende Kräfte sind vor allem Dienste und Militärs, die Drohnen zur Überwachung und zum Töten einsetzen. Die fliegenden Tötungsmaschinen werden dabei immer autonomer – und werden irgendwann selbst über Leben und Tod entscheiden.


Netzpolitik.org ist unabhängig, werbefrei und fast vollständig durch unsere Leserinnen und Leser finanziert.

Vorreiter beim Einsatz von Drohnen sind die USA. Das Bureau of Investigative Journalism listet in seinem Special Report Covert War on Terror 346 Einsätze allein in Pakistan auf, mit mindestens 2.500 Toten. Was sich unter der Präsidentschaft von George Bush entwickelte, wurde von Barack Obama massiv ausgebaut. Kein anderer amerikanischer Präsident hat so viele Menschen ohne Gerichtsverfahren exekutieren lassen wie der regierende Friedensnobelpreisträger.

Das großangelegte Forschungsprojekt Living Under Drones kam jetzt zu dem Schluss, dass diese extra-legalen Tötungen nicht nur viele Zivilisten hinrichten, sondern die terroristische Gefahr sogar vergrößern statt verringern:

  • While civilian casualties are rarely acknowledged by the US government, there is significant evidence that US drone strikes have injured and killed civilians.
  • US drone strike policies cause considerable and under-accounted-for harm to the daily lives of ordinary civilians, beyond death and physical injury.
  • Publicly available evidence that the strikes have made the US safer overall is ambiguous at best.
  • Current US targeted killings and drone strike practices undermine respect for the rule of law and international legal protections and may set dangerous precedents.

Doch auch Deutschland besitzt Drohnen und ist stolz darauf. Andreas Kopietz beschreibt unter dem Titel Luftkrieg in Schönefeld den Wandel der Internationalen Luft- und Raumfahrtausstellung (ILA) zu einer der größten Rüstungsmessen Europas:

Überhaupt spielen Drohnen in diesem Jahr eine große Rolle. Der Stolz der Bundeswehr ist ihre nagelneue Euro Hawk, die nonstop von Berlin nach Tokio und zurück fliegen könnte. Das Erzeugnis von Northrop Grumman wurde von EADS mit deutscher Spionagetechnik ausgestattet und kann sogar Fernsehsendungen mitschneiden und SMS absaugen. Und natürlich hat die Bundeswehr als größter Einzelaussteller einen blauen Container aufgebaut, um darin für eine spannende Karriere zu werben.

Doch Drohnen können ja nicht nur abhören, sondern auch töten. So fordert unser Verteidigungsminister De Maizière bewaffnete Drohnen für die Bundeswehr:

Flugzeuge dürfen Waffen tragen. Warum also sollen unbemannte Flugsysteme das nicht dürfen? Das erschließt sich mir nicht.

Warum dieser Vergleich mit den (ach so harmlosen) bemannten bewaffneten Flugzeugen viel zu kurz greift, zeigt der Softwareentwickler und Schriftsteller Daniel Suarez in seinem aktuellen Buch Kill Decision (Amazon Affiliate: Buch, E-Book):

It’s no secret that America relies on remotely piloted drones to target adversaries overseas. But fifty other nations are developing drones of their own, and the next generation will be much scarier: autonomous machines that acquire and destroy targets without direct human intervention.

Frank Rieger vom Chaos Computer Club hat das Thema im FAZ Feuilleton zusammengefasst: Das Gesicht unserer Gegner von morgen:

Menschen am Boden werden schon heute aus der Luft mit Raketen angegriffen, nur weil ihre typischen Bewegungsmuster, die ebenfalls von Drohnen erfasst und gegen in Datenbanken gespeicherte Aufzeichnungen abgeglichen werden, den vermuteten Bewegungen von Aufständischen entsprechen. Ob es sich dabei um Ziegenhirten, Schmuggler oder feindliche Soldaten handelt, ist für fliegende Kampfroboter nicht zu erkennen. Heute geschehen solche automatischen Analysen in den Steuerzentralen und Lagezentren, unter der Aufsicht von Menschen. Zukünftig soll dies an Bord der Drohne geschehen, um Zeit, Personal und Übertragungskapazität zu sparen.

Dazu hat Frank gleich noch ein Interview mit Daniel Suarez gemacht: Schwärme von Tötungsmaschinen:

Das schiere Volumen an Videodaten von Drohneneinsätzen, die über moderne militärische Netzwerke übermittelt werden, übersteigt heute schon die Fähigkeit von Menschen, alles zu überblicken. Die amerikanische Drohnenflotte flog im Jahr 2004 Einsätze mit einer Gesamtdauer von 71 Stunden. Die Zahl stieg auf 25 000 Stunden im Jahr 2009 und, nach Schätzungen des Pentagon, auf 300 000 Stunden im Jahr 2011. Außerdem werden Drohnen mit immer mehr Augen ausgerüstet. Das Gorgon-Stare- und das Argus-Projekt könnten jede Drohne mit bis zu 65 unabhängig voneinander operierenden Kameras ausrüsten, die eine Überwachung riesiger Flächen ermöglichten – aber auch noch mehr Bilder lieferten, die ausgewertet werden müssten. So werden denn schließlich Drohnen den Menschen sagen, worauf sie achten sollen, und nicht umgekehrt.

Schöne neue Welt. Damit wir das wenigstens noch ein bisschen zügeln können, wirbt Suarez für die Diskussionsvorschläge des International Committee for Robot Arms Control:

  • [Military robotics] potential to lower the threshold of armed conflict;
  • The prohibition of the development, deployment and use of armed autonomous unmanned systems; machines should not be allowed to make the decision to kill people;
  • Limitations on the range and weapons carried by “man in the loop” unmanned systems and on their deployment in postures threatening to other states;
  • A ban on arming unmanned systems with nuclear weapons;
  • The prohibition of the development, deployment and use of robot space weapons.

Weitersagen und Unterstützen. Danke!
33 Kommentare
  1. Tja, da sind wir beim Problem der (nicht nur deutschen) Diskussion: Bewaffnete Drohnen werden mit autonomen Robotern gleichgesetzt. Autonome Systeme sind in der Tat das absehbare Problem – das hat aber nicht in erster Linie mit Drohnen zu tun, auch wenn die Diskussion so geführt wird. Ein autonomes Artillerie- oder Raketensystem, das seine Geschosse über zig oder hunderte Kilometer ohne menschliche Entscheidung abfeuert, ist genau so problematisch. Die deutsche Diskussion verkürzt das auf ferngesteuerte Flugmaschinen. Und das finde ich ein bisschen wenig.

  2. … noch was: Die Überschrift „Bald entscheiden autonome Tötungsmaschinen über Leben und Tod“ finde ich übrigens im Text so nicht belegt, außer als Warnung. Aber bestimmt gibt’s einen Beleg für diese harte Prognose?

      1. „Der Stolz der Bundeswehr ist ihre nagelneue Euro Hawk“

        https://de.wikipedia.org/wiki/Euro_Hawk -> Northrop Grumman RQ-4

        Northrop Grumman RQ-4 Global Hawk ist eine Drohne, die von Northrop Grumman’s Ryan Aeronautical Center, San Diego, Kalifornien produziert wird. […] In Deutschland wird sie als Unbemanntes Luftfahrzeug (engl. UAS=unmanned aircraft system) klassifiziert und unter dem Namen Euro Hawk eingesetzt werden.

      1. .. und mit komplett anderer Sensorik, weil nicht für optische, sondern Signal-Aufklärung ausgelegt… aber egal.

        (BTW, auch hier noch mal die Frage: Kommentare sehe ich nur auf Safari, auf Firefox auf dem Mac werden mir gar keine angezeigt?)

      2. Klar, die werden alle individuell bestückt.

        Mal den Browser-Cache löschen. Manchmal kann auch unserer hängen, aber nicht, wenn’s im anderen Browser geht :)

  3. cite=“Flugzeuge dürfen Waffen tragen. Warum also sollen unbemannte Flugsysteme das nicht dürfen?“
    Das Hemmnis zum Einsatzes von Drohnen (zur Überwachung und/oder zur Tötung) ist unter Kosten- und Aufwandsabwägung als weit geringer anzusehen. Den Bedrohungs-, Einschüchterungs- und Unterdrückungschrakter von wenig oder nicht (oder nicht legal~?) abwehrbaren Überwachungs- oder/und Waffensystemen nehme ich als gesetzt und nicht in Zweifel zu stellen.
    Außerhalb einer grundsätzlichen moralischen Abwägung, bedeutet das Vorhalten von Waffensystemen, deren Einsatz die Hemmschwelle zu ihrer Nutzung weit herabsenkt, die Willenserklärung zur weitläufigen Verwendung.

    1. Ein kleines Beispiel:

      Eine Heron 1 (unbewaffnet) fliegt über ein afghanisches Dorf und würde mehrere Männer beobachten, wie sie ausserhalb des Dorfes auf der „Hauptstraße“ etwas verbuddeln. Bei nähreren Hinsehen stellt man fest das es sich um ein IED handeln muss. Der zuständige Kommandeur würde, weil Gefahr im verzug und nach abwägung der verhältnismäßigkeit der Mittel, einen Artillerieschlag auf die entsprechenden Koordinaten befehlen.

      Wo ist da der unterschied zur bewaffneten Drohnen??
      Auf den Knöpfen, den der Geschützkommandant oder Munitionskanonier 1 drücken würden, steht auch „Feuern“. Also auch töten per „Knopfdruck“ was bei der Drohnendebatte so oft kritisiert wird. Und diese würden ihr Ziel auch nur in Form von Koordinaten sehen, was ja auch bei Drohnen als Hemmschwellen herabsetzung angeführt wird.

      Oder noch anders: Statt einer Drohne würde ein Spähwagen FENNEK den Artillerieschlag koordinieren.
      Den würde man auch nicht, sowie eine Drohne, unmmittelbar erkennen wenn er in „Stellung“ ist.

      Das Szenario ist das selbe. Auch bei diesen Szenarien kommt der Tod plötzlich und von oben.

      Es wird immer nur gebetsmühlenartig Behauptet bewaffnete Drohnen seien phöse phöse phöse. Mit Begründungen wie der Taktik der Amerikaner in Pakistan oder einer zunehmenden Automatisierung.

      Das ist aber beides nicht der Fall bei dem deutschen vorhaben der Drohnen beschaffung. Es wird an der eigentlichen Diskussion vorbei diskutiert. Wobei ich sagen muss das ich froh bin, dass überhaupt diskutiert wird.

    1. Den Unterschied merkst du gleich, wenn dir in deinem Dorf, in dem garantiert noch nie ein feindlicher Soldat war, dir und deinen Kindern so ein Ding aus heiterem Himmel ohne jegliche Vorwarnung und ohne jede Gefahr für den Angreifer feige die Birne weg bläst.

    2. Nun mal zuerst, „autonome“ Dronen gibt es noch nicht. Autonome Dronen oder eben Roboter würde voraussetzten das ich ein KI habe welche selbständig Entscheidungen trifft und diese auch umsetzt.. Nun kann man argumentieren das die Aktuellen System dies doch tun wurden, dem ist aber nicht so. In allen aktuellen Systemen werden „nur“ (und das ist schon eine große Ingenieurs-Leistung) primitivere aufgaben wie Fluglagenkontrolle, Wegpunktnavigation oder Hindernisvermeidung eingesetzt.

      Zum Hintergrund: in der Robotik wird gern ein Sinn-Bild benutzt um die aktuellen technischen Probleme zu veranschaulichen, die sogenannte Sens-Plan-Act Schleife/loop. Ein autonomes System muss seine Umwelt in allen wichtigen Parametern Wahrnehmen (Sens). Auf Basis dieser Informationen muss ein Plan oder Vergleichbare Paradigmen abgeleitet werden (Plan) welche dann selbständig ausgeführt werden und in der die Ausführung ungewiss oder mehre Ergebnisszustände annehmen kann (Act). Diese Schritte wieder holen sich. Dass Problem ist nun das sobald einer dieser drei Schritten nicht funktioniert oder fehlerhaft ist das System versagt und damit unbrauchbar ist. Und das ist der Heutige zustand aller Robotik System dieser Welt.

      Entweder sie beherrschen in ihrer kleinen Labor Welt die Kunst der Wahrnehmung (also der sensorischen Erfassung und anschließender Datenaufbereitung zu Sinnhaften internen Darstellungen der Welt), dann können sie auch Sinnhafte Pläne und Ausführungen machen oder Sie ignorieren weite Teile der Wahrnehmung und können keine Pläne erstellen geschweige mit der Vielzahl von möglichen Ausführungs-Ergebnissen umgehen.

      Um aber zur Frage zurück zukommen Mienen, Streubomben etc. nehmen Ihre Umgebung sehr reduziert wahr, Druck von oben, Metall oben oder änderung der Temperatur. Ihr Plan ist immer der selbe (Boom) und ihre Ausführung hat keine alternativen Ergebnisse. Sie sind daher nicht im eigentlichen Sinne Autonome Systeme sondern stumpfe und brutale Werkzeuge.

    3. @Prometheus

      Nein die Technik (Algorihmen) sind da schon viel weiter in der Analyse und Real Live Auswertung der Bilder , sie schlagen Teilweise heute schon die Ziele vor oder melden beste Schußpositionen.
      Je mehr dies der Rechner übernimmt umso mehr wird der Pilot in seinen freien Handlungsraum Eingeschränkt und zum bloßen Drücken des Abschußknopfes gebraucht mit der Frage in wie weit er sich noch gegen die “ Entscheidungen“ des Computers stellt?
      Kann er denn zb. noch mit einer modernen Gesichtserkennung oder Verhaltensanalyse mithalten oder wird er nicht eher im Zweifel doch mehr der Technik vertrauen wie wir auch unseren Rechnern vertrauen?
      Zudem kommt hinzu das Kollateralschäden immer weniger Beachtung oder Konsequenzen haben.

      1. Das ist nur halb wahr. Ja diese Algorithmen gibt es und sind auch in Benutzung (stellen somit die Sens ebene da). Die Nachfrage beim Operator ist aber eben dem Fehlenden Vertrauen und der fehlenden Zuverlässigkeit des Gesamtsystems geschuldet. Der Plan, wenn man so will, die Bombe zu schmeißen muss eben noch Validiert werden. Warum? Eben weil es Lücken in der perception (sens) under der Planung gibt. Wenn diese Immer fehlerfrei wären dann würde diese Nachfrage auch nicht mehr nötig sein, weil eben das reine Aktivieren des Roboters ja bereits eine Zustimmung zu allen seinen Taten darstellen würde.

        Ich arbeite aktuell in einem der größten deutschen Forschungseinrichtungen an der weiter Entwicklung von Rettungsrobotern für Rettungsdienste. Und da arbeiten wir eben unter anderem an der Mensch Maschinen Interaktion, was alles mit vertrauen und Transparenz zu tun hat. Daher kann ich die militärischen Dronen sehr gut einschätzen. Ja es gibt viel, aber nichts was genutzt wird ist „autonom“. Sie beziehen alle mindestens die Bestätigung für den Plan vom Menschen.

      2. Nun, ich arbeite auch im Bereich Mensch-Maschine, allerdings im Kfz-Bereich und kann nur sagen, die Technik ist schon sehr weit. Und während im Bereich Auto die (noch) nicht erreichbare Null-Fehler-Toleranz und der Durchschnittsfahrzeuglenker einen umfassenden Einsatz verhindert ist zu vermuten, dass diese im Bereich Militär nicht so eng gesehen wird, Stichwort Kollateralschaden. Ändert aber alles nichts daran, dass das feige Tötungsmaschinen sind, die verboten gehören, ob autonom oder vom Mensch vom sicheren Standort aus mit Joystick gesteuert. Wer den Unterschied zu einem bemannten Flugzeug nicht versteht, hat nichts verstanden.

      3. @marc Ich stimme dir Vollumfänglich zu, die Dinger gehören geächtet. Aber das ist eben eine Gesellschaftliche und Moralische Bewertung. Bezüglich der Null-Fehler-Grenze kann ich nur berichten das ihr im KFZ Bereich weiter seid als die militärische Technologie, (Siehe die Arbeiten von Sebastian Trun bei Google). Aber die Idee das eine Abweichung von Null-Fehler-Tolleranz beim Militär akzeptiert wird ist falsch. Es ist sogar anders herum. Militärisches denken erlaubt kein Versagen der eigenen Technik. Sie muss Fehler-Frei arbeiten. Das ist auch ein Grund für die extrem hohen ausgaben für komplexe Maschinen wie Kampfjets und co. . Man kann es aber auch so sehen, Fehler werden nicht akzeptiert weil sie Unterumständen zu Verlust des Materials (mehre Millionen Euro pro Fall), Verlust der Einsatz-Fähigkeit (mehre Monate/Jahre Lieferzeiten) und Geheimnissen führen kann.

      4. Ich denke bei der „Null-Fehler-Grenze“ bezieht sich allein auf die technischen Funktionen des Fluggerätes und seiner Steuerung aber weniger bei der eindeutigen „Zielerkennung“ oder Vernichtung.
        Zudem macht sich kaum einer ernsthafte Gedanken um eine zukünftige Drohnenabwehr denn was nützt ein Waffensystem ohne Abwehrmöglichkeit?
        Die hier Vorgestellten RQ-4 ect mögen ja in Gegenen wie Pakistan funktionieren aber kaum in Ländern mit einer moderner Flugabwehr oder Luftwaffe.
        Dies bedeutet zukünftig sicher eine weitere Miniaturisierung um unterhalb des Radar oder Aufmerksamkeitsschwelle zu bleiben.
        Hier liegen noch viel größere Gafahren, denn sollte dann im „Ernstfall“ oder Vorbeugend alles Verdächtig sein und Geschossen werden was sich am Himmel zb. über bestimmte sensible Gebieten bewegt , also die Vogelfreien Innenstädte sind dann wohl keine SF mehr?
        Zudem sehe ich durchaus Tendenzen für eine weitere Ausweitung des „Drohnenprinzips“ auf andere zivile Bereiche.
        Es ist durchaus vorstellbar das in einige Jahren nicht wie von Google vorgestellt der Individualverkehr wohl aber Fernlastverkehr oder anderer Frachtverkehr großteil „Fahrerlos“ berieben wird.
        Die „Fahrer“ von LKW dann in einem Großraumbüro sitzten eventuell sogar in einem anderen (Billiglohn) Land.

  4. Es wird doch erst richtig Interessannt wenn Drohnen oder Roboter , Drohnen bekämpfen , also ein Roboterkrieg den Menschen kaum noch Steuern können.
    Zudem sollten sich die vermeindich technisch Überlegenen Staaten nicht zu Sicher sein darauf (dauerhaft) ein Monopol zu Besitzen, Drohnen sind Billiger als Kampfjets und die Technik längst nicht so High Tech wie immer dargestellt.
    Was bedeutet das diese für viele Staaten interessant werden welche sich keine große Luftwaffe leisten können bzw wollen oder im Exremfall auch für Terroristen.
    Der große Aufschrei wird kommen wenn die erste „feindliche“ Drohne über der EU oder USA gesichtet wird.

    1. Viel schlimmer ist die Gefahr das wir in 10-20 Jahren massenhaft größere Zugvögel ( Kraniche , Störche) Abschießen könnten in der Annahme es wären feindliche Drohnen.

  5. Bin ich hier beim PM-Magazin gelandet? Die locker-flockige Vermischung von Fakten (Drohneneinsaätze in Pakistan) und (höflich gesagt) Zukunftsvisionen klingt auf jeden Fall arg danach…

  6. Luftkrieg war schon immer „sauberer“ in der Sache. Wenn du ein Dorf bombardiert hast, nun ja, das ist halt so. Wenn eine Gruppe von Soldaten eingerückt ist und die Zivilisten massakriert hat, dann ist das auf einer anderen Ebene. Das Ergebnis ist natürlich in beiden Fällen das gleiche.

    Dronen machen das amerikanische Töten im Krieg jetzt noch feiger. Ohne persönliches Risiko lenkt man eine Tötungsmachine am anderen Ende der Welt aus seiner Kaserne.

    In vielen Staaten Europas sind die Wunden aus dem letzten großen Krieg immer noch unverheilt. Die Begeisterung für Vernichtungszüge gegen Personen ist doch sehr begrenzt. Wäre schön wenn man mehr tapfere Ameisen des Aufbaus besserer Verhältnisse als Drohnen des Todes hätte.

    1. Ich sehe in dieser Technologie sogar eine größe Dedrohung als mit Atomwaffen.
      Die große Frage wird sein in wieweit Staaten ihre Bürger noch Schützen werden können wenn wie heute schon üblich mächtige Politker oder sogar Firmen statt einer Justiz über Leben und Tod auf der ganzen Welt ohne Konsequenzen entscheiden können?
      Es ist ein Werkzeug der ständigen und permanenten Bedrohung und es kann zukünftig jeden Treffen vom Politiker , Aktivisten bis zum Wissenschaftler, es ist leicht jemanden zum „Terroristen“ zu Erklären wie zb. Umweltaktivisten oder Tierschützer in den USA.
      Auch für Europa ist die Gefahr groß, hier ist zwar die Begeisterung für Kriege gering , aber der Drohnen- Roboterkrieg ohne eigene Opfer könnte durchaus mehr Akzeptanz finden.
      Wenn wir jetzt nicht anfangen den Drohnen oder Roboterkrieg Weltweit mittels UNO streng zu Regeln und zu Limitieren wie zb. bei den Atomwaffen, werden wir in einigen Jahren wenn die Technologie und Miniaturisierung sich weiterentwickeln ein Chaos auf der Welt haben.

      Deutschland sollte bewaffente Drohnen ablehnen bis der Einsatz und die Technologie weltweit verbindlich Geregelt wird.

  7. Soweit ich mich erinnere hat Daniel Suarez in seinem letzen Google talk auch von vollautomatisierten Sniper Rifles gesprochen, da ist also nicht nur die Bedrohung aus der Luft…
    Diese Rifles sind bereits bspw. in Israel im Einsatz, jedoch:
    das Einschalten ist noch nicht geschehen. Anscheinend gibt es noch Probleme mit der…hmm, UN oder wie das heisst…was die sich aber auch immer so haben müssen…
    Suarez Buch Kill Decision ist mir bei der Überschrift des Artikels sofort eingefallen. Das Buch ist wirklich lesenswert, der Inhalt ist gut recherchiert und überlegt, das durchgeknallte near-future Szenario machbar.
    Der Schreibstil ist zwar echt schwach (so billig wie Dan Brown), aber das kann man verschmerzen.

  8. Das Problem ist: Drohnen sind vergleichsweise billig. Modellbaukram. Als modellbauer könnte ich für rund 200€ ohne weiteres eine drohne mit ca 1,5m spannweite bauen die mit ne kilogramm sprengstoff aufsteigt und mit rund 100 sachen gps gesteuert 20 minuten lang, laso 30km weit fliegt und in irgend einen vorgegebenen punkt brettert. Das ist alles übliche modellbautechnik. das ding könnte auch an 5 punkten 200g handgranaten abwerfen und zurückkommen, auch die größe und nutzlast lässt sich mit besseren oder schlechteren akkus und motoren relativ linear skalieren.
    ich habe keinen zweifel dass sowas in ein paar jahren zu den üblichen angriffen im asymetrischen krieg werden wird, die technik ist da, ist billig und die verbreitung unkontrollierbar.

    Auch im mittlerwiele seltenen klassischen interstaaten-konflikten dürften die drohnen irgendwann hauptsächlich mit dem abschiessen und stören feindlicher drohnen beschäftigt sein, die rüstungsspirale dreht sich halt immer weiter.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.