Frage: Vorbemerkung der Fragesteller
Der Einsatz teilautonomer und autonomer Waffensysteme (AWS), die durch die Verwendung von Künstlicher Intelligenz (KI) verschiedene Prozesse der Kriegsführung automatisieren und so teilweise oder vollständig dem Mitwirken von Menschen entziehen, ist in den globalen Konflikten längst zur Realität geworden. Weitverbreitet sind AWS in Form von Drohnen, die automatisch starten, landen und fliegen, aber auch Ziele verfolgen oder Zieltypen durch KI-basierte Sensorentechnik automatisch identifizieren können, doch werden KI-basierte autonome Komponenten auch in einer Vielzahl anderer Waffensysteme verbaut. So weisen Raketenabwehrsysteme wie das von der Bundeswehr genutzte „Patriot“-System aus US-amerikanischer Produktion in Detektion und Abschuss von Flugkörpern ein hohes Maß an Autonomie auf. Das israelische Militär setzt unbemannte teilautonome Panzerfahrzeuge vom Typ „Jaguar“ zur Patrouille und auch für Kampfhandlungen im Gebiet um den Gazastreifen ein (https://www.military.com/daily-news/2021/09/13/israeli-firm-unv eils-armed-robot-patrol-volatile-borders.html).
Im gegenwärtigen Krieg in der Ukraine soll das ukrainische Militär erstmals Anfang Mai teilautonome „Switchblade“-Drohnen aus US-Produktion gegen russische Truppen eingesetzt haben. Auch in der Ukraine sind Angriffe Russlands mit teilautonomen Kamikazedrohnen vom Typ KUB-BLA dokumentiert (https://soldat-und-technik.de/2022/05/bewaffnung/31586/loitering-munition-ukraine/). Aus anderen Kriegen mehren sich Berichte, die auch einen vollautonomen Kampfeinsatz von AWS dokumentieren oder dies nahelegen. So haben 2020 im innerlybischen Krieg laut einem UN-Bericht türkische „Kargu-2“- Kampfdrohnen der international anerkannten Regierung Libyens autonom einen Militärkonvoi und auf dem Rückzug befindliche gegnerische Truppen angegriffen (https://documents-dds-ny.un.org/doc/UNDOC/GEN/N21/037/72/P DF/N2103772.pdf). Im Krieg um Bergkarabach 2020 hat der Einsatz von bewaffneten Drohnen und „lauernder Munition“ (engl. „loitering munition“) enorm an Bedeutung gewonnen. Laut einem Gutachten der Wissenschaftlichen Dienste (WD) des Deutschen Bundestages wurde im Bergkarabach-Krieg die „schon lange als autonomes Waffensystem bekannt[e]“ Kamikazedrohne „Harpy“ aus israelischer Produktion vom aserbaidschanischen Militär eingesetzt (WD 2 – 3000 – 113/20, „Zum Drohneneinsatz im Krieg um Bergkarabach im Jahre 2020“). Genaue Angaben zu menschlichen Opferzahlen in-
folge von Angriffen durch autonom abgefeuerte Waffen, sind bislang nicht zweifelsfrei dokumentiert.
Bei den Vereinten Nationen gibt es seit 2013 vermehrt Bemühungen, AWS zu ächten oder zumindest deren Einsatzmöglichkeiten stark zu beschränken, bis heute jedoch vergeblich. So scheiterten Ende letzten Jahres Bestrebungen der UN-Waffenkonvention, die Nutzung von AWS völkerrechtlich zu verbieten, an den Vetos der USA, Russlands, Großbritanniens und weiterer Staaten (https://www.cnbc.com/2021/12/22/un-talks-to-ban-slaughterbots-collapsed-h eres-why-that-matters.html). In der Bevölkerung herrscht eine hohe Ablehnung des Einsatzes letaler AWS vor. In einer Ipsos-Studie von 2019, in der 18 795 Personen in 26 Ländern befragt wurden, sprachen sich 61 Prozent der Befragten gegen den Einsatz tödlicher AWS aus. Allen voran werden ethische Aspekte als Gründe genannt. In Deutschland ist die Ablehnung mit 72 Prozent überdurchschnittlich hoch; am höchsten ist sie in der Türkei mit 78 Prozent (https://www.ipsos.com/en-us/news-polls/human-rights-watch-six-in-ten-oppo se-autonomous-weapons). Die Haltung der Bundesregierung zu AWS scheint nach Ansicht der Fragestellenden ambivalent. In den Koalitionsverträgen der vergangenen Regierungen wird deutlich vermittelt, autonome Waffensysteme ablehnen zu wollen. 2017 wollte die damalige Bundesregierung AWS noch „weltweit ächten“. Und auch die jetzige Bundesregierung erklärt im aktuell gültigen Koalitionsvertrag zwischen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP, „letale autonome Waffensysteme“ abzulehnen und eine internationale Ächtung aktiv vorantreiben zu wollen. Dabei ist zu beachten, dass sich im Koalitionsvertrag nur auf jene Waffensysteme bezogen wird, welche „vollständig der Verfügung des Menschen entzogen sind“, was einen großen Interpretationsspielraum zulässt, weil es Auslegungssache ist, ab welchem Grad ein System als „vollständig“ autonom zu kategorisieren ist. In der Antwort auf die Schriftliche Frage 32 auf Bundestagsdrucksache 20/2254 vom 17. Juni 2022 äußerte die Bundesregierung, dass man „weiter aktive Anstrengungen zur internationalen Ächtung von letalen autonomen Waffensystemen“ unternehmen werde, jedoch wieder unter der Bezugnahme lediglich auf jene Waffensysteme, „die vollständig der menschlichen Kontrolle entzogen sind“. Auf dem Expertentreffen der UN Convention on Conventional Weapons (CCW) im März 2022 in Genf verweigerte Deutschland die Unterzeichnung eines Dokuments, welches vorsieht, „autonome Waffensysteme zu verbieten, die nicht ausreichend berechenbar oder kontrollierbar sind, um die gesetzlichen Anforderungen zu erfüllen“ (https://www.eda.admin.ch/eda/en/fdfa/foreign-policy/securit y-policy/disarmament-non-proliferation/klassische-waffen.html).
Ein großes Hindernis, AWS zu ächten, ist der hohe Einfluss von Wirtschaftsinteressen in den zumeist westlichen Staaten. Die großen Tech-Unternehmen, die im Bereich der KI-Forschung arbeiten, sind in wirtschaftlich starken Ländern ansässig. So verwundert es nach Ansicht der Fragestellenden nicht, dass sich Länder wie die USA, Russland, Großbritannien, Israel und Indien gegen ein Verbot autonomer Waffensysteme einsetzen und die Befürworter eines Verbots von AWS überwiegend in den Ländern des Globalen Südens zu verorten sind. Der wirtschaftliche Einfluss bezüglich Forschung und Entwicklung von Rüstungsgütern wurde bereits im Jahr 2006 in einem Bericht der European Defence Agency zu militärstrategischen Szenarien skizziert: „Die Verbreitung von Technologie und Wissen vollzieht sich jenseits der Kontrolle durch Regierungen und wird vollständig vom kommerziellen Sektor beherrscht.“ (https://www.consilium.europa.eu/ueDocs/cms_Data/docs/pressDat a/en/esdp/91136.pdf).
In Deutschland werben Rüstungsfirmen wie Rheinmetall mit Nachdruck für den Einsatz von autonomen und unbemannten Militärfahrzeugen. In einer Pressemitteilung bewirbt Rheinmetall das System der Reihe „Mission Master“, autonome, unbemannte Panzerfahrzeuge, die nach Bedarf mit ebenfalls teilautonom operierenden Kamikazedrohnen vom Typ WARMATE ausgestattet werden können, aufgrund der „hochpräzisen Schlagkraft“ und vermeintlich geringer Kollateralschäden: „Being able to observe hidden targets and conduct precise identification before initiating a surgical strike with minimal collateral damage is a real tactical advantage on today's battlefield.“ Das System ist mit
mehreren WARMATE-Kamikazedrohnen ausgestattet, um „chirurgische Schwarmangriffe“ durchzuführen (https://www.rheinmetall-defence.com/de/rh einmetall_defence/public_relations/news/archiv/2019/aktuellesdetailansicht_ 9_21248.php).
Eine klare Abgrenzung zwischen teilautonomen Waffensystemen und solchen, die vollständig der menschlichen Kontrolle entzogen sind, ist nicht gegeben. Bereits heute sind teilautonome Waffensysteme im Einsatz, die Daten zur Aufklärung liefern und feindliche Kombattanten identifizieren. Die Wissenschaftlichen Dienste des Deutschen Bundestages zitieren einen Bericht des Büros für Technikfolgenabschätzung beim Deutschen Bundestag vom Oktober 2020: „Zur Entscheidung, ob eine Person bzw. ein Objekt ein legitimes militärisches Ziel darstellt, reicht dessen bloße Identifizierung bei Weitem nicht aus. Hierfür ist ein umfassenderes Lagebild erforderlich sowie die Einschätzung von Verhaltensweisen und letzten Endes der Intentionen des Gegners. Beispielsweise ist schwer vorstellbar, auf welche Weise sich ein verwundeter Soldat einem AWS ergeben könnte.“ (WD 2 – 3000 – 113/20, „Zum Drohneneinsatz im Krieg um Bergkarabach im Jahre 2020“). Insbesondere bei hochmodernen, hochkomplexen Waffensystemen kann die Unterscheidung in autonom und teilautonom nicht trennscharf erfolgen, weil bereits einzelne Komponenten eines militärischen Systems vollständig autonom agieren können, während andere weiterhin menschlicher Kontrolle unterliegen. Dies zeigt sich etwa beim gegenwärtig von Deutschland, Frankreich und Spanien entwickelten „Future Combat Air System“ (FCAS). Dieses neuartige Waffensystem – ein Verbund aus Kampfflugzeugen, Drohnenschwärmen, Kampfschiffen und Satelliten, in dem Einheiten der Luftwaffe, des Heeres und der Marine vernetzt sind, die wiederum autonom agieren können – stellt die Einteilung von Kampfsystemen, die sich vollständig oder teilweise der menschlichen Kontrolle entziehen, infrage.
Nach Ansicht der Fragestellenden ist die Verwendung autonomer Waffensysteme aus ethischen und völkerrechtlichen Beweggründen abzulehnen und völkerrechtlich zu ächten.
Antwort: Vorbemerkung der Bundesregierung
Für die Beantwortung der vorliegenden Anfrage benutzt die Bundesregierung die in den Antworten zu den Fragen 1, 3, 10, 12, 16, 22 bis 24 verwendeten Begriffe in folgendem Verständnis:
Vollautonome Waffensysteme:
Vollautonome Waffensysteme (sogenannte „letale autonome Waffensysteme/LAWS“) sind vollständig der menschlichen Verfügungsgewalt entzogen. Sie unterliegen keinem Rahmen menschlicher Kontrolle.
Waffensysteme mit autonomen Funktionen:
Waffensysteme mit autonomen Funktionen können einzelne Funktionen ohne menschliches Zutun durchführen. Autonome Funktionen basieren auf künstlicher Intelligenz und anderen Technologien, die dem System das Lernen oder Optimieren von Vorgängen zur Auftragserfüllung ermöglichen.
Waffensysteme mit autonomen Funktionen unterliegen stets einem Rahmen menschlicher Kontrolle.
(Teil-)Automatisierte Waffensysteme:
(Teil-)Automatisierte Waffensysteme führen nur bestimmte Aufgaben eigenständig nach festem vorgegebenem Muster aus. Sie arbeiten regelbasierte Wenn-Dann-Operationen ab und verhalten sich somit deterministisch. Sie unterliegen stets einem Rahmen menschlicher Kontrolle.