2016D17221

INBRENG VERSLAG VAN EEN SCHRIFTELIJK OVERLEG
Binnen de vaste commissie voor Buitenlandse Zaken bestond bij enkele
fracties de behoefte de Minister van Buitenlandse Zaken en de Minister
van Defensie enkele vragen en opmerkingen voor te leggen inzake de
kabinetsreactie d.d. 4 maart 2016 op het advies «Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» van de
Adviesraad Internationale Vraagstukken (AIV) en de Commissie van
Advies inzake Volkenrechtelijke Vraagstukken (CAVV) (Kamerstuk 34 300 X
en V, nr. 88).
De voorzitter van de commissie,
Eijsink
De griffier van de commissie,
Van Toor

nds-tk-2016D17221

1

Algemeen
De leden van de VVD-fractie hebben met belangstelling kennisgenomen
van het AIV/CAVV-advies en de kabinetsreactie daarop. De leden van de
VVD-fractie hebben hierover nog enkele vragen en opmerkingen.
De leden van de PvdA-fractie danken de AIV en de CAVV voor hun
adviesrapport over autonome wapensystemen (ook wel «killer robots»
genoemd) en het kabinet voor de reactie hierop. Zij onderkennen het
belang om de technologische ontwikkeling van dergelijke wapensystemen
en van de toepassing hiervan in gewapende conflicten nauwgezet te
volgen. Naar aanleiding van het advies en de kabinetsreactie hebben de
genoemde leden een aantal vragen en opmerkingen.
De leden van de SP-fractie hebben kennis genomen van de reactie van de
Ministers van Buitenlandse Zaken en van Defensie op het rapport van de
AIV en CAVV over autonome wapensystemen, die binnen de NGO-wereld
ook wel bekend staan als Killer Robots. Ook hebben de SP-leden kennis
genomen van de stevige kritiek vanuit NGO’s en wetenschappers op
autonome wapensystemen. De SP-leden hebben hier nog een aantal
vragen en opmerkingen over.
De leden van de D66-fractie hebben met belangstelling kennis genomen
van het Rapport van de Adviesraad Internationale Vraagstukken (AIV) en
de Commissie van Advies Inzake Volkenrechtelijke Vraagstukken (CAVV)
«Autonome wapensystemen: de noodzaak van betekenisvolle menselijke
controle» vastgesteld op 12 oktober 2015 en de reactie van het kabinet
hierop van 4 maart 2016. Graag willen de leden hier de regering nog
enkele vragen over stellen.
De leden van de fractie van GroenLinks maken zich zorgen over de
beleidsreactie over autonome wapensystemen. Tegelijk waarderen de
leden het feit dat Nederland de discussie aangaat in internationale fora en
consensus zoekt over de definitie van betekenisvolle menselijke controle.
Wat GroenLinks betreft zet de regering hier ten onrechte in voor wapens
met controle «in the wider loop», terwijl zij zou moeten pleiten voor
minimaal controle «on the loop.» GroenLinks is dan ook van mening dat
er een verbod moet komen op autonome wapens.
Definitie: autonomie en betekenisvolle menselijke controle, en
toekomstige inzet van autonome wapensystemen onder menselijke controle
De AIV/CAVV is van mening dat tijdens de komende bijeenkomsten van de
Convention on Certain Conventional Weapons (CCW) zo snel als mogelijk
overeenstemming moet worden bereikt over de definitie van een
autonoom wapen en het concept van betekenisvolle menselijke controle.
De Ministers schrijven in hun reactie dat de instelling van een Governmental Group of Experts nog niet op voldoende steun kon rekenen binnen
de CCW. Nederland zal deelnamen aan de Expert Meeting in april 2016. De
leden van de VVD-fractie vragen of de Ministers bereid zijn de Kamer te
berichten over de uitkomsten van die meeting? En welke inzet is het
kabinet van plan te plegen om ook binnen de NAVO tot afspraken te
komen op dit thema?
De AIV/CAVV adviseert dat altijd sprake moet zijn van betekenisvolle
menselijke controle wanneer de Nederlandse krijgsmacht in de toekomst
overgaat tot de aanschaf en inzet van autonome wapensystemen. De
Ministers schrijven dat in de actualisering van de Strategische Kennis en
Innovatieagenda (SKIA) van Defensie aandacht zal worden besteed aan

2

autonome systemen en de relatie mens-machine. Kunnen de Ministers dit
nader toelichten? Bestaan hierover al ideeën en zo ja, welke? In hoeverre
wordt daarbij samengewerkt met en gekeken naar andere landen, zo
vragen de leden van de VVD-fractie.
De leden van de PvdA-fractie hebben kennisgenomen van het concept van
«betekenisvolle menselijke controle» dat volgens de AIV/CAVV cruciaal is
in de discussie over autonome wapensystemen. Zij constateren dat het
kabinet dit concept overneemt. De genoemde leden vragen zich echter af
in hoeverre dit concept daadwerkelijk kan leiden tot een aanscherping van
het debat: betekent «autonoom» immers niet simpelweg zonder betekenisvolle menselijke controle? En zou de discussie niet eerder moeten gaan
over de menselijke controle waarop? Nu bestaan er immers ook reeds
wapensystemen waarbij de doelenselectie al (deels) plaatsvindt op basis
van niet-menselijke, geautomatiseerde wijze?
De leden van de PvdA-fractie constateren, mede op basis van een
vergadering met experts en een gesprek met de redacteuren van het
AIV/CAVV-rapport, dat een eenduidige internationale definitie van
autonome wapensystemen nog altijd ontbreekt. Datzelfde geldt voor het
concept van betekenisvolle menselijke controle. Zoals ook opgenomen in
de kabinetsreactie heeft de adviescommissie de volgende werkdefinitie
opgesteld: Een wapen dat zelfstandig doelen, die voldoen aan voorgeprogrammeerde kernmerken, selecteert en aanvalt, nadat mensen hebben
besloten het wapen in te zetten en waarbij een mens niet meer kan
ingrijpen om de aanval te stoppen». Waaruit blijkt dat, ofschoon mensen
niet meer kunnen ingrijpen na inzet van het wapen, mensen wel een
nadrukkelijke rol spelen bij het programmeren van de kenmerken van aan
te vallen doelen en bij de beslissing over de inzet van het wapen. Mensen
bevinden zich hiermee in de zogenoemde wider loop van de besluitvorming. De adviescommissie stelt tevens dat als de inzet van een
autonoom wapensysteem volgens het hiervoor beschreven proces
verloopt, er sprake is van betekenisvolle menselijke controle met de
opmerking dat dit concept internationaal steeds meer draagvlak krijgt als
onderscheidend criterium tussen aanvaardbare en onaanvaardbare (inzet
van) autonome wapensystemen. Het kabinet ondersteunt de voorgestelde
definitie van de AIV/CAVV van een autonoom wapensysteem met inbegrip
van het concept van betekenisvolle menselijke controle. In hoeverre gaat
het kabinet zich in internationaal verband inzetten voor het formuleren
van een internationaal geaccepteerde definitie zoals hierboven
omschreven? In hoeverre verschilt deze definitie van een autonoom
wapensysteem van de definitie die andere landen hanteren? Zit daarbij
nog verschil tussen de gehanteerde definitie die onze Europese partners
hanteren en de VS?
De AIV/CAVV halen in hun advies als het gaat om betekenisvolle menselijke controle vaak het concept van the wider loop aan. Daarmee wordt
een extra categorie gecreëerd die extra ruimte creëert tussen de drie
categorieën die doorgaans worden gehanteerd (in the loop, on the loop
en out of the loop). Ziet het kabinet, met de gehoorde experts, hierin geen
risico dat voor een (te) ruime definitie wordt gekozen? Is menselijke
controle in the wider loop werkelijk voldoende, of is een directere invloed
van de mens noodzakelijk om onwenselijke situaties te voorkomen? Graag
zien de leden van de PvdA-fractie een reflectie van de Ministers hierop.
In de inleiding van de brief van de Ministers staat dat het kabinet de
zienswijze van de AIV en CAVV onderschrijft dat betekenisvolle menselijke
controle noodzakelijk is bij de inzet van autonome wapensystemen. De
leden van de SP-fractie delen de opvatting dat betekenisvolle menselijke
controle noodzakelijk is, maar zij hebben grote zorgen over de gebruikte

3

definitie. Is het juist dat volgens de opvatting van de Ministers geen
controle meer over autonome wapensystemen hoeft te zijn wanneer
eenmaal tot inzet wordt overgegaan? Klopt het dat menselijke controle
zich kan beperken tot voorgeprogrammeerde kenmerken van doelen
waarna het proces van selecteren en uitschakelen autonoom kan
plaatsvinden? Anders geformuleerd, is het juist dat als een mens invloed
heeft op de programmering, de doelselectie en wanneer het wapen
geactiveerd wordt, er sprake is van betekenisvolle menselijke controle? Zo
nee, wat is dan de precieze opvatting?
Kan, zo vragen de leden van de SP-fractie, gesteld worden dat de
opvatting van het kabinet ruimte laat om de beslissing om te doden aan
een machine over te laten? Achten de Ministers dit een wenselijke
situatie? Is het niet waarschijnlijk dat tijdens een aanval met een wapen
dat voor een langere tijd in de lucht kan zijn de kans aanwezig is dat
veranderingen optreden die van invloed zijn op het resultaat van de
missie en het daarom wenselijk en noodzakelijk kan zijn om een missie af
te breken? Is er in dergelijke gevallen geen sprake van het ontbreken van
betekenisvolle menselijke controle? Kunnen de Ministers aangeven waar
de grens ligt tussen betekenisvolle menselijke controle en de afwezigheid
hiervan bij de inzet van autonome wapens, eventueel aan de hand van
een voorbeeld?
De leden van de SP-fractie vragen de Ministers of zij het eens zijn met
NGO’s en wetenschappers die stellen dat het cruciaal is dat er te allen
tijde menselijke controle is op het moment van selectie en aanval? Zo nee,
waarom niet?
Delen de Ministers de vrees van de leden van de SP-fractie dat autonome
wapensystemen de drempel voor de inzet van geweld verder zullen
verlagen, aangezien het gevaar voor de eigen militairen wordt uitgesloten? Kunnen de Ministers autonome wapens die beschikken over
voldoende betekenisvolle menselijke controle noemen die thans in
ontwikkeling of reeds op de markt zijn?
De leden van de D66-fractie onderschrijven, net als het rapport en het
kabinet, de noodzaak van betekenisvolle menselijke controle bij de inzet
van autonome wapensystemen. De genoemde leden constateren dat het
kabinet het voldoende vindt als mensen in de zogenaamde «wider loop»
van de besluitvorming zitten. De leden hebben kennis genomen van de
kritiek van organisatie PAX, die stelt dat deze definitie van menselijke
controle te breed is geformuleerd omdat in snel veranderende oorlogssituaties voorgeprogrammeerde parameters en criteria snel achterhaald
kunnen raken. Dit kan leiden tot onnodige risico’s voor de burgerbevolking en burgerdoelen. Wat is de reactie van het kabinet op deze kritiek?
Wat betreft de wensbaarheid van autonome wapensystemen hebben de
leden van de D66-fractie ook nog vragen. Het AIV/CAVV-rapport stelt dat
autonome wapensystemen in de nabije toekomst niet in staat zullen zijn
de eisen van onderscheid en proportionaliteit en het treffen van voorzorgmaatregelen zelf te beoordelen, wanneer zij worden ingezet. Tevens
beschouwen verschillende mensenrechtenorganisatie deze brede definitie
van betekenisvolle menselijk controle als onwenselijk (Human Rights
Watch, 2016: «Killer Robots and the Concept of Meaningful Human
Control»; PAX, 2016: «Killer robots: het kabinet ziet het probleem niet...»
Daarom vragen de leden het kabinet waarom zij besluitvorming in de
«wider loop» als voldoende waarborg voor verantwoordelijk inzet
beschouwen? Waarom heeft het kabinet voor deze definitie gekozen
terwijl de discussie omtrent de definitie van betekenisvolle menselijke
controle binnen de The Convention of Certain Conventional Weapons

4

(CCW) nog gaande is, waarmee de mogelijkheid bestaat internationaal
een meer beperkte definitie gangbaar te maken? Graag ontvangen de
genoemde leden een uitgebreide toelichting op dit dilemma en de
gemaakte keuze van het kabinet.
De leden van de D66-fractie merken op dat bij de planning en voorbereiding van militaire operaties altijd het risico bestaat dat er gebruik wordt
gemaakt van onvolledige en/of foutieve inlichtingen. Tevens constateren
deze leden dat volgens de huidige gehanteerde definitie van betekenisvolle menselijke controle het mogelijk is dat wapensystemen na inzet niet
meer onderhevig zijn aan direct menselijke ingrijpen. De genoemde leden
willen graag weten of het kabinet van mening is dat er tijdens de inzet van
autonome wapensystemen nog altijd de mogelijkheid moet zijn voor
menselijk ingrijpen? Zo ja, is het kabinet dan ook van mening dat deze
waarborg moet worden meegenomen in de artikel 36-procedure en de
«rules of engagement» van autonome wapensystemen? Zo nee, waarom
niet?
De leden van de D66-fractie constateren dat het kabinet de aanbeveling
van de adviesraden wat betreft het ontwerpen (aanbeveling 7) en testen
van autonome wapensystemen (aanbeveling 8) ziet als ondersteuning van
staand beleid. De genoemde leden vragen het kabinet toe te lichten wat
het kabinet momenteel onderneemt wat betreft de mogelijke inzet van
autonome wapensystemen door de Nederlandse krijgsmacht. Heeft het
kabinet plannen om deel te nemen aan de ontwikkeling en/of het
aanschaffen van autonome wapensystemen? Zal het kabinet in de
ontwerp- en testfase extra eisen stellen aan autonome wapensystemen, in
vergelijking met conventionele wapensystemen? Zo ja, welke? Zo nee,
waarom niet?
De leden van de fractie van GroenLinks vragen of het kabinet erkent dat
een grote mate van autonomie binnen de gehanteerde definitie valt,
groter dan bijvoorbeeld wordt geadviseerd door het internationale Rode
Kruis? Kan het kabinet zich voorstellen dat wapens worden ingezet die
meerdere malen aanvallen zonder dat er betekenisvolle menselijke
controle is? Zou het kabinet het wenselijk vinden als wapens volgens
vooraf ingesteld targeting-proces een oorlog uitvechten en dat daarna de
evaluatie volgt?
De leden van de fractie van GroenLinks vragen of het kabinet afdoende
rekening houdt met de mogelijkheid dat de ontwikkeling en inzet van
autonome wapens in een stroomversnelling komt? Houdt het kabinet
afdoende rekening met de mogelijkheid dat de mate van autonomie wordt
vergroot? Heeft het kabinet kennis genomen van de mening van diverse
deskundigen die deze ontwikkelingen signaleren?
De leden van de fractie van GroenLinks zijn zeer bezorgd over de
impliciete keuze van het kabinet om autonome wapens in de toekomst
deel uit te laten maken van de Nederlandse krijgsmacht. Zij vragen het
kabinet om voor de daadwerkelijke aanschaf hiervan eerst nog een
principieel debat hierover te voeren met de Kamer.
Internationaal rechtelijke aspecten en juridische aansprakelijkheid
De leden van de SP-fractie vragen de Ministers nader in te gaan op de
wapenreviews die in het kader van de Geneefse Conventies plaatsvinden.
Deze leden juichen het toe dat Nederland hier wat autonome wapens
betreft grote waarde aan hecht, maar is het niet juist dat veel andere
landen nooit gebruik maken van dergelijke wapenreviews? Welk beeld

5

hebben de Ministers hiervan? Zijn er mogelijkheden deze reviews te
verbeteren en wordt daar op aangedrongen, eventueel door de reviews
internationaal te maken? En is het juist dat inmiddels verboden wapens,
zoals landmijnen en clusterbommen, eerder positief door dergelijke
nationale reviews kwamen? Zo ja, hoe is dit mogelijk en wat zegt dit over
de betrouwbaarheid van deze wapenreviews?
Hoe, zo vragen de leden van de SP-fractie, beoordelen de Ministers het
gegeven dat andere wapens, zoals mijnen en biologische en chemische
wapens, eerder al verboden werden vanwege onder andere het gebrek
aan betekenisvolle menselijke controle?
De leden van de SP-fractie vragen de Ministers ook in te gaan op de
aansprakelijkheid bij de inzet van autonome wapens. Delen de Ministers
de zorgen van NGO’s en juridische experts dat er problemen kunnen
ontstaan met betrekking tot de aansprakelijkheid bij de inzet van
autonome wapens in het geval het selecteren van de precieze doelen en
het vuren niet direct door een mens wordt uitgevoerd? Hoe verhoudt de
aansprakelijkheid van dergelijke aanvallen door autonome wapens zich tot
de aansprakelijkheid zoals die nu geregeld is bij bijvoorbeeld de inzet van
Amerikaanse drones in Jemen en Pakistan, waar, ondanks hoge dodentallen onder burgers, slachtoffers nauwelijks mogelijkheden hebben om
hun recht te halen?
De leden van de D66-fractie stellen vast dat het kabinet het huidige
raamwerk van het humanitair oorlogsrecht en de universele rechten van
de mensen geschikt acht om de inzet van autonome wapensystemen te
toetsen. Evenzo stelt het kabinet dat de verantwoordelijkheid bij het de
inzet van autonome wapensystemen door de bevelvoeringlijn verschuift
naar de commandant die tot inzet van het wapensysteem besluit. De
leden van de D66-fractie willen graag weten of het kabinet van mening is
dat het huidige juridische raamwerk genoeg aanknopingspunten biedt in
situaties die in de huidige praktijk nog niet spelen en waar het vraagstuk
van verantwoordelijkheid diffuus is. Dat kan bijvoorbeeld het geval zijn
wanneer er sprake is oorlogsmisdaden als gevolg van technische
storingen of programmeerfouten. Is het kabinet van mening dat voor deze
mogelijkheden extra juridische waarborgen moeten worden ingesteld? Zo
nee, waarom niet? Zo ja, welke waarborgen dan en hoe wil het kabinet dat
realiseren?
De leden van de fractie van GroenLinks vragen of het kabinet inziet dat
naarmate de autonomie groter wordt het moeilijker wordt om de
aansprakelijke mensen aan te wijzen? Ziet het kabinet de mogelijkheid dat
wapens doorvechten terwijl de verantwoordelijke mensen hier niet meer
achter staan of niet meer verantwoordelijk kunnen worden gesteld?
Ethische beginselen
De leden van de D66-fractie willen nog ingaan op het ethische dilemma
van autonome wapensystemen. Het bevreemdt de genoemde leden dat
de regering in de kabinetsreactie op het rapport van de AIV/CAVV zich niet
expliciet uitspreekt over de ethische dimensie van het gebruik van
autonome wapensystemen. Is het kabinet van mening dat het ethisch te
rechtvaardigen is dat mensen worden gedood zonder directe tussenkomst
van een ander mens? De genoemde leden ontvangen graag een uitgebreide toelichting in het antwoord op deze vraag.

6

Volgens de leden van de fractie van GroenLinks worden de ethische
bezwaren onderbelicht. Ziet het kabinet het probleem dat het instellen van
een targeting-proces het geweld dermate op afstand zet dat ethische
overwegingen minder aandacht krijgen?
Volledig autonome wapensystemen
De leden van de SP-fractie vragen de Ministers om nader toe te lichten
waarom er geen rem op de huidige ontwikkeling naar steeds verdergaande autonomie in wapensystemen gezet hoeft te worden? Wordt zo
niet bewust het risico genomen dat over enkele jaren de technologie
reeds zo ver ontwikkeld is dat zij mogelijk niet meer in overeenstemming
is met vereisten van de artikel 36-procedures, maar dan moeilijk of niet
meer gestopt kan worden? De leden van de SP-fractie hebben begrip voor
de NGO’s, wetenschappers en anderen die oproepen tot een verbod op de
productie en het gebruik van volledig autonome wapens? Zijn de
Ministers bereid hun standpunt in deze te herzien en dergelijke oproepen
alsnog te steunen?
Het kabinet acht volledig autonome wapens op voorhand onwenselijk. De
leden van de fractie van GroenLinks vragen of het kabinet bereid is om
stappen te nemen om de ontwikkeling van volledig autonome wapens te
verbieden?
Moratorium
De leden van de PvdA-fractie hebben kennis genomen van de opvatting
van de AIV/CAVV en het kabinet dat een moratorium onhaalbaar en
onwenselijk is en zien de argumenten die daarvoor zijn. Het kabinet acht
het van belang dit vraagstuk te blijven volgen en gezien de snelle
technologische ontwikkelingen dit advies conform de aanbeveling over
vijf jaar opnieuw tegen het licht houden. Ontwikkelingen kunnen echter
sneller gaan dan vooraf verwacht, hoe kan men voorkomen dat – mochten
de ontwikkelingen in een stroomversnelling raken – vijf jaar te lang blijkt
te zijn om de bruikbaarheid van dit advies opnieuw tegen het licht te
houden om dit zoveel eerder te doen als nodig mocht blijken? Wat is
onder andere hierbij de rol van Nederlandse R&D (afdelingen van)
instituten, waaronder TNO, die zich bezig houden met technologische
ontwikkelingen? Wat zijn de ontwikkelingen die binnen het European
Defence Agency gaande zijn en die betrekking hebben op autonome
wapensystemen?
De leden van de PvdA-fractie hebben voorts begrepen dat in het kader van
Verdrag inzake het verbod of de beperking van het gebruik van bepaalde
conventionele wapens wel gesproken wordt over de (potentiële) ontwikkeling van autonome wapensystemen. Zij hebben goede kennis genomen
van het feit dat Nederland in dit gremium een actieve rol vervuld. Kunnen
de Ministers aangeven wat de kernvragen zijn die in dit forum besproken
worden, welke positie Nederland hierin inneemt en welke resultaten
Nederland hoopt te bereiken? In hoeverre zou een separate conventie
over (een verbod op) autonome wapensystemen volgens het kabinet
helpen om die resultaten beter of spoediger te bereiken? Op welke wijze is
er op basis van artikel 36 (wapen reviews) van het Verdrag reeds ervaring
opgedaan met het testen van zogenaamde «killer robots»?
De leden van de PvdA-fractie horen graag van de Minister hoe wordt
aangekeken tegen de recente publicatie van het Rode Kruis (ICRC) onder
de titel «Views of the International Committee of the Red Cross on
autonomous weapon systems» (https://www.icrc.org/en/document/viewsicrc-autonomous-weapon-system). Hierin wordt een reflectie gegeven op

7

de ontwikkelingen rondom autonome wapensystemen in het algemeen en
in de laatste paragraaf drie benaderingen benoemd die de internationale
gemeenschap zou kunnen kiezen: a) versterking van nationale mechanisme voor de toepassing van internationaal humanitair recht,
b) scherpere definities van wapensystemen waarin grenzen worden
gesteld aan wat juridisch en ethisch toelaatbaar is en c) parameters
ontwikkelen voor menselijke controle en specifieke grenzen stellen aan de
autonomie van wapensystemen. Graag zouden de leden van de
PvdA-fractie ook hierop een reflectie van de Ministers zien.
De leden van de D66-fractie hebben nog enkele vragen over een eventueel
moratorium op autonome wapens De Speciaal Rapporteur van de VN
Mensenrechtenraad heeft opgeroepen tot een (voorlopig) moratorium.
Ook is er nog geen internationaal geaccepteerde definitie van betekenisvolle menselijk controle. De genoemde leden vragen het kabinet toe te
lichten of het kabinet het eens is met de Rapporteur dat een dergelijk
moratorium wenselijk is? Waarom spreekt het kabinet zich hier in de
reactie op het rapport niet expliciet over uit? Het kabinet geeft aan de visie
op dit onderwerp over vijf jaar opnieuw te evalueren. De genoemde leden
vragen het kabinet toe te lichten aan de hand van welke criteria deze
nieuwe evaluatie zal plaatsvinden? Mensenrechtenorganisaties stellen dat
het kabinet de snelheid van de ontwikkelingen op het gebied van
autonome wapensystemen onderschat. De leden van de fractie van D66
vragen het kabinet daarom of het bereid is deze evaluatie eerder plaats te
laten vinden? Zo nee, waarom niet? Zo ja, op welke termijn?
In de ogen van de GroenLinks-fractie zou de haalbaarheid niet bepalend
moeten zijn voor de wenselijkheid van een moratorium op autonome
wapens. Het kabinet acht een moratorium niet haalbaar om diverse
redenen, zoals het voorhanden zijn van de benodigde technologie en
onderdelen voor civiele doeleinden. Is de regering het met de leden van
de fractie van GroenLinks eens dat deze overwegingen ook spelen bij het
verbod op chemische wapens?

8