Tweede Kamer der Staten-Generaal

2

Vergaderjaar 2022–2023

33 694

Internationale Veiligheidsstrategie

Nr. 65

VERSLAG VAN EEN COMMISSIEDEBAT
Vastgesteld 20 oktober 2022
De vaste commissie voor Defensie en de vaste commissie voor Buitenlandse Zaken hebben op 5 oktober 2022 overleg gevoerd met de heer
Hoekstra, Minister van Buitenlandse Zaken, en mevrouw Ollongren,
Minister van Defensie, over:
– de brief van de Minister van Buitenlandse Zaken d.d. 17 juni
2022 inzake kabinetsreactie op het AIV/CAVV-advies Autonome wapensystemen. Het belang van reguleren en investeren
(Kamerstuk 35 925 X, nr. 90);
– de brief van de Minister van Buitenlandse Zaken d.d. 8 juli
2022 inzake stand van zaken uitvoering van de motie van het
lid Koopmans c.s. over beheersing van de productie, plaatsing,
verspreiding en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk 33 694, nr. 43) (Kamerstuk 33 694,
nr. 64).
Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk
verslag uit.
De voorzitter van de vaste commissie voor Defensie,
De Roon
De voorzitter van de vaste commissie voor Buitenlandse Zaken,
Rudmer Heerema
De griffier van de vaste commissie voor Defensie,
De Lange

kst-33694-65
ISSN 0921 - 7371
’s-Gravenhage 2022

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

1

Voorzitter: Valstar
Griffier: De Lange
Aanwezig zijn vier leden der Kamer, te weten: Belhaj, Boswijk, Jasper van
Dijk en Valstar,
en de heer Hoekstra, Minister van Buitenlandse Zaken, en mevrouw
Ollongren, Minister van Defensie.
Aanvang 16.00 uur.
De voorzitter:
Ik open deze vergadering en heet u allen van harte welkom bij het
commissiedebat Autonome wapens. Ik verkeer in de bijzondere hoedanigheid dat ik twee griffiers aan mijn zijde heb. Normaal gesproken is dat
er één. Ik heet de heer Maduro, plaatsvervangend Griffier van de Staten
van Curaçao, welkom. Hij is hier om te kijken hoe wij het doen. Wij doen
het natuurlijk altijd heel netjes in de Tweede Kamer. Ik kijk dus naar mijn
collega-Kamerleden met de verwachting om dat vandaag ook weer te
doen. Wij hebben officieel vier minuten spreektijd, maar vandaag ben ik
coulant. We zijn namelijk in een klein gezelschap. Ik ben bereid om daar
één minuut aan toe te voegen. Ik heb begrepen dat mevrouw Belhaj daar
in ieder geval gebruik van gaat maken.
Ik zou dan eigenlijk willen voorstellen om de heer Van Dijk als eerste het
woord te geven.
De heer Jasper van Dijk (SP):
Dank u wel, voorzitter. Bij hoge uitzondering spreek ik mijn inbreng ook uit
namens de Partij van de Arbeid. U bent dus gewaarschuwd. Ik had een
spreektekst klaar, maar ik heb hem helemaal moeten verbouwen toen ik
dit ging doen.
Voorzitter. We spreken over autonome wapens. Laten we allereerst
vaststellen dat dat natuurlijk enorm tot de verbeelding spreekt. Ik zie
allerlei films voorbijkomen zoals Terminator en vele andere die daarna zijn
gekomen. Als je spreekt over autonome wapens, wapens die zonder
mensen bediend kunnen worden, dan denk je aan sciencefiction et cetera.
Dat is de ene kant van het verhaal. De andere kant van het verhaal is dat
het natuurlijk reden tot zorg geeft, en reden tot regulering. Het is daarom
heel goed dat we hier vanmiddag over spreken.
Er staat een prachtige opinie in de Volkskrant vandaag, van Daan Kayser
en Jip van Dort. Ik citeer: «De trend is duidelijk: legers passen almaar
meer autonomie toe in wapensystemen. Een nieuw, angstaanjagend
tijdperk – waarbij we het selecteren en aanvallen van doelen overlaten aan
sensoren en algoritmen, zonder menselijke tussenkomst – staat voor de
deur. We moeten haast maken grenzen te stellen en zaken goed te regelen
nu het nog kan.» Dat is de strekking van hun artikel en ik sluit me daar
volledig bij aan. Ik vraag aan de regering om daarop te reageren.
Een heel belangrijk punt daaromtrent is dat er eigenlijk een verdrag
gemaakt zou moeten worden, een internationaal verdrag waarin je regels
vaststelt rondom het gebruik van dit soort wapens. Daarin zou eigenlijk
het verbod op volledig autonome wapens moeten staan. De regulering
van gedeeltelijk autonome wapens zou daarin ook geregeld moeten
worden. Ik vraag de regering of ze dat met mij eens is. Je zou dat met een
groep van landen kunnen bepleiten, bijvoorbeeld België, Zwitserland,
Brazilië en Mexico. Zij delen dit standpunt.
Je zou dat dan kunnen doen in de Conventie over bepaalde conventionele
wapens, de zogenaamde CCW. Het zou heel mooi zijn als dat lukt, maar
dat kan heel gemakkelijk gevetood worden. Dat zeggen de auteurs in het
opiniestuk terecht. Een land als Rusland zou zomaar kunnen zeggen: «Wij
hebben helemaal geen behoefte aan regulering van autonome wapens.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

2

Dat gaat dus niet gebeuren.» Ik zou de regering willen vragen of ze het
met mij eens is dat het heel zonde zou zijn als daarmee regulering wordt
stopgezet. Zou je dan niet een initiatief buiten de zogenaamde CCW om
moeten nemen? Graag een reactie.
Voorzitter. Het Rode Kruis roept ook op tot een verdrag. Zij wijzen terecht
op ethische redenen, namelijk dat mensen geen doelwit mogen zijn van
autonome wapens. Nederland moet op z’n minst terughoudend en
zorgvuldig zijn bij investeringen in autonome wapensystemen. Ik vraag of
de regering dat standpunt deelt.
De SP heeft de afgelopen jaren al meerdere malen debatten over de
deelname van de Nederlandse luchtmacht, in de vorm van F-16’s en de
Reaperdrone, aangegrepen om te spreken over het verschijnsel «langeafstandsoorlog». Ik wijs u ook op het boek «Hawija: De verwoestende
werkelijkheid van onze langeafstandsoorlog tegen IS». Het is geschreven
door onze oud-beleidsmedewerker Jip van Dort. Hij is thans werkzaam bij
PAX. Het is een uitstekend boek. Ik kan het de Minister van harte aanbevelen. Van Dort beschrijft ook dat proces van de langeafstandsoorlog. Het
heeft natuurlijk ongekende voordelen; dat snap ik direct. Je bent natuurlijk
zelf in grote veiligheid op het moment dat je vanaf je thuisbasis een
wapen, een drone, kan besturen. Aan de andere kant brengt het ook
nieuwe risico’s met zich mee. Ziet de regering die nieuwe risico’s ook? Het
wordt afstandelijk oorlog voeren. U kent de buitengerechtelijke executies
zoals die door de Verenigde Staten, maar ook door Israël, worden
uitgevoerd met behulp van drones. Hoe kijkt de regering daarnaar? Ziet ze
de risico’s, namelijk het gebrek aan democratische controle en de lagere
drempel om geweld te gebruiken?
Voorzitter. De kern van mijn pleidooi is dus: ga aan de slag met juridische
kaders; ga aan de slag met een internationaal verdrag.
Tot slot zou ik nog het volgende willen vragen. Is er wellicht een kans om
dit onderwerp, autonome wapens, toe te voegen aan de agenda van de
conferentie over kunstmatige intelligentie die Nederland in februari
volgend jaar organiseert? En kunnen we dan aan de slag gaan met een
mooi verdrag?
Dank u wel.
De voorzitter:
Dank u wel, meneer Van Dijk. Ik geef het woord aan mevrouw Belhaj.
Mevrouw Belhaj (D66):
Voorzitter, dank. Fijn om weer op bezoek te mogen zijn bij de commissie
Defensie en bezig te mogen zijn met de inhoud daarvan. En wat voor een
inhoud! Op 4 juni 2021 brachten we als D66 de initiatiefnota Autonome
wapensystemen uit, ondanks dat de AIV nog moet komen met z’n advies.
Twee jaar daarvoor waren we daar eigenlijk al mee aan de slag gegaan.
De urgentie is er dus zeker. Ik ben heel blij dat we daar vandaag verder
over kunnen spreken.
We spreken op dit moment veel over wapensystemen, door de Russische
aanvalsoorlog in Oekraïne. Nederland draagt daar ook aan bij, bijvoorbeeld met de pantserhouwitsers, ons zwaarste artilleriesysteem. Terwijl de
Oekraïners vechten tegen een monsterlijk regime en voor onze vrijheid en
waarden, voltrekt zich op de achtergrond een stille revolutie: de derde
revolutie in oorlogsvoering. De mens krijgt daarbij steeds minder
zeggenschap over de inzet van wapens en over het gebruik van geweld.
Wat D66 betreft maken de oorlog in Oekraïne, de Russische agressie en de
snel verslechterende geopolitieke situatie in de wereld de nood van actie
op wapenbeheersing alleen maar urgenter. Een zwerm van twintig drones
die doelen identificeren, selecteren, eropaf vliegen met 70 kilometer per
uur en ontploffen, is niet langer sciencefiction. Dit gebeurt al. Na het
verschijnen van het AIV-rapport sloot het kabinet zich op vele punten aan
bij de beslispunten van mijn initiatiefnota die we vorig jaar bespraken.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

3

Grote winstpunten zijn dat het kabinet zich gaat inspannen voor een
verbod op volledig autonome wapens en een concretisering van regels
voor de inzet op gedeeltelijk autonome wapens. Het kabinet gaat de door
de AIV/CAVV opgestelde criteria hanteren voor het inkleden van betekenisvolle, menselijke controle in het doelontwikkelingsproces. Dat zijn
mooie ambities en mooie woorden. Als Rotterdammer zeg ik: nu nog de
daden. Daarom heb ik een aantal aansporingen, opmerkingen en vragen.
Voorzitter. Ik vind het een mooie stap dat Nederland volledig autonome
wapensystemen globaal wil verbieden. Nu is het wel zo – dat gaf mijn
collega Van Dijk al aan – dat de internationale gemeenschap al jaren
wacht op de CCW, de Convention on Certain Conventional Weapons,
maar daar gebeurt niets. Er worden geen knopen doorgehakt en dat gaat
binnenkort ook niet gebeuren. De tijd tikt echter door. Die tijd hebben we
helemaal niet. En dat terwijl de industrie jaren geleden zelf al riep:
reguleer ons, alsjeblieft, want dit gaat helemaal fout! Daarom stelt D66 dat
Nederland een parallel proces moet starten met welwillende landen om zo
snel mogelijk tot een verdrag te komen. We zien dat Nederland daar vaker
heel succesvol in is geweest. Mijn vraag aan de Minister van Buitenlandse
Zaken is of hij bereid is om dit te initiëren. Ik heb hem daar ook uitspraken
over horen doen. Ik hoop echt dat hij vandaag zegt dat hij persoonlijk
gemotiveerd is om hier de lead in te nemen. Dit gaat namelijk echt over
iets. Dit gaat niet alleen over een mogelijke prijs voor wereldvrede. Dit
gaat gewoon over honderdduizenden mensenlevens die gevaar lopen als
we niet optreden.
Ik las dat de Minister van BZ binnenkort, in samenwerking met de Minister
van Defensie, een conferentie over kunstmatige intelligentie organiseert.
Autonome wapens staan echter niet geagendeerd. Is deze conferentie niet
bij uitstek hét moment voor deze Minister om grote stappen te zetten
richting een verdrag? D66 drukt de Minister op het hart: laat deze kans niet
liggen.
Voorzitter. Het kabinet vindt het belangrijk om betekenisvolle menselijke
controle te houden bij de inzet van autonome wapens. Dat klinkt goed. Het
klinkt ook alsof Nederland dat al kan. Zoals het AIV-rapport ons leert, is er
helemaal geen consensus over betekenisvolle menselijke controle, laat
staan dat onze militairen, militaire protocollen en autonome systemen al
volledig zijn afgestemd op de inkleding van dit concept. Op dit moment
lijkt het nog een beetje nattevingerwerk. Is de Minister het met ons eens
dat autonome gewapende systemen pas ingezet kunnen worden als
betekenisvolle menselijke controle is uitgewerkt en geïmplementeerd in
de defensieorganisatie?
Voorzitter. Het derde punt dat ik wil aanstippen, is investeren. Zowel
Nederland als de NAVO willen een technological edge behouden in
hoogtechnologische oorlogsvoering. Het budget gaat flink omhoog.
Tegelijkertijd is dat dan ook het moment om vooruit te denken en
verantwoordelijkheid te nemen. Zorg ervoor dat de principes van
betekenisvolle menselijke controle direct in het ontwikkelingsproces van
nieuwe autonome systemen worden meegenomen. Geef de industrie
duidelijke richtlijnen en kaders voor de ontwikkeling van autonomie in
nieuwe wapensystemen. Doen we dat niet, dan ontwikkelen we vormen
van kunstmatige intelligentie die we niet kunnen controleren, robots die
zelf besluiten wanneer ze geweld inzetten. Dat moeten we koste wat het
kost zien te voorkomen. Is het kabinet dit met D66 eens? Zo ja, hoe gaat
het dit doen, zowel voor de Nederlandse industrie als in NAVO-verband?
Voorzitter, concluderend. De geopolitieke realiteit maakt niet dat we
minder moeten normeren. Het maakt dat we juist meer moeten doen om
de internationale rechtsorde in stand te houden, ook wat het beperken en
beheersen van dit soort wapens betreft. Nederland heeft daar een
verantwoordelijkheid in. Ik doe vandaag ook een expliciet appel op de
verantwoordelijkheid van deze Ministers. Ik vraag hun niet te onder-

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

4

schatten welke mogelijkheden ze hebben om van betekenis te zijn als het
gaat om deze nieuwe vormen van oorlogsvoering.
Dank u wel.
De voorzitter:
Dank. Dan geef ik het woord aan de heer Boswijk.
De heer Boswijk (CDA):
Dank u wel, voorzitter. Oorlogsvoering is sinds haar uitvinding aan
verandering onderhevig, dus dat er nieuwe wapensystemen bij komen, is
niet iets nieuws. Maar de snelheid waarop veranderingen nu plaatsvinden, is wel nieuw. In Oekraïne zien we vandaag de dag hoe consumentendrones door middel van crowdfunding worden gefinancierd en na
kleine aanpassingen worden gebruikt om Russische loopgraven te
bombarderen, waarbij deze zelfde acties worden gefilmd en via
livestreams worden uitgezonden, waarna men vervolgens met nieuwe
crowdfundingsacties nieuwe drones kan kopen.
Daarbij zien we nog een verandering. De wereldgeschiedenis toont aan
dat het land dat vooroploopt op technologisch gebied vaak ook als
winnaar uit de oorlog komt. Echter, doordat de drempel voor hoogtechnologische technologie nu wordt verlaagd, neemt het gevaar op diverse
dreigingen toe. Terwijl kortgeleden statelijke actoren nog een grote
voorsprong hadden op technologische gebieden, zien we nu dat
non-statelijke actoren zoals drugsbendes en terroristische organisaties
steeds meer over vergelijkbare technieken of vergelijkbare alternatieven
beschikken. Dat is een enorm groot risico.
De AIV en de CAVV hebben een uitstekend advies uitgebracht, waarvoor
dank. Kunstmatige intelligentie gaat een steeds grotere rol spelen, in de
economie, in de samenleving en op het slagveld. China heeft de ambitie
om wereldleider te worden op het gebied van kunstmatige intelligentie.
De ontwikkelingen gaan razendsnel, vooral binnen het civiele domein. Het
vereist ambitie en investeringen, maar het roept ook vragen en dilemma’s
op. Hoe gaan we om met China? Hoe voorkomen we dat China civiel- en
militair-technologisch het Westen voorbijstreeft? Hoe moet het militaire
domein omgaan met de ontwikkeling van kunstmatige intelligentie in
vooral het civiele domein en het grijze gebied tussen civiel en militair,
zoals hybride oorlogsvoering, en met het vervagende onderscheid tussen
in- en externe veiligheid en cyber?
De keuze om autonome wapensystemen wel of niet in te zetten is een
dilemma, zoals vaak het geval is bij ethische kwesties. Het kan misschien
heel ethisch verantwoord zijn om autonome wapens af te zweren, maar
hoe ethisch is het om een land kwetsbaar te maken als andere landen wel
investeren in autonome wapens? Hoe ethisch is het als we militairen het
strijdtoneel op sturen als ook autonome systemen het zouden kunnen
doen? Wat het CDA betreft moet dit een afweging zijn in NAVO-verband,
omdat we niet willen dat wij ons als westerse landen misschien op
achterstand zetten ten opzichte van landen als China, Rusland, NoordKorea en Iran.
De voorzitter:
Dat lijkt me een mooi moment voor mevrouw Belhaj om te interrumperen.
Mevrouw Belhaj (D66):
Ik hoor heel goed wat de heer Boswijk zegt. Hij vertegenwoordigt
daarmee denk ik ook een bepaalde stroming die zegt: pas op, als die
anderen het hebben en wij niet, zijn we misschien de grootste sukkels die
er rondlopen. In de formele terminologie heet dat natuurlijk een wapenwedloop. Er zijn genoeg voorbeelden waaruit is gebleken dat je, als je wel
vooroploopt maar er ook naar streeft om verdragen te realiseren, in staat
bent om andere mensen – andere landen, waar dus mensen achter zitten –

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

5

te verleiden om mee te doen. Ik merk zelf dat je uiteindelijk een keuze
moet maken voor de beste route om dit te stoppen, de route waar je het
meest in gelooft of waarop je het meest vertrouwt. Mijn vraag is: heeft de
heer Boswijk daar ook over nagedacht? Wat hoopt hij of gelooft hij? Want
uiteindelijk moet je gewoon een keuze maken. Ik snap het dilemma. En je
moet natuurlijk helemaal niets van D66, maar ik stel me voor dat u een
keuze kúnt maken.
De voorzitter:
Dit was een prachtig à-deux’tje, waarbij jullie elkaar goed in de ogen
keken, dus ik ben benieuwd naar de reactie van de heer Boswijk.
De heer Boswijk (CDA):
D66 legt altijd wel een beetje zijn wil op aan een ander. Dat mag ik wel
tegen Salima zeggen.
Mevrouw Belhaj (D66):
Zeker, maar hij komt dan wel terug, hè.
De heer Boswijk (CDA):
Ik zeg niet dat we niet een verdrag moeten sluiten. Ik schets alleen het
dilemma. We hebben in het verleden natuurlijk vaker verdragen gesloten,
bijvoorbeeld over clusterbommen en mijnen. Denk ook aan het
INF-verdrag, dat uiteindelijk is gesneuveld omdat een van de landen zich
er niet aan hield. Dan vraag ik me wel het volgende af. Als dat moment
opeens daar is – sommige partijen blijken toch niet zo betrouwbaar te zijn
als wij zelf denken dat wij zijn – dan is het wel een heel gevaarlijk dilemma
waar je mee speelt. Als het moment opeens daar is, het verdrag eenzijdig
wordt opgezegd en wij roomser zijn dan de paus, dan kunnen de
gevolgen desastreus zijn, zeker met autonome wapensystemen, meer nog
dan met mijnen of clusterbommen. Dat is het dilemma waarmee ik
worstel. Als je normerend bent op een domein, wat Europa voor de
mobiele telefoon was, dan bepaal je de standaard. Alleen, ik moet
bekennen dat ik mij heel erg afvraag of wij op dit gebied normgevend zijn.
Ik denk namelijk van niet. Ik denk dat China inmiddels normgevend is. Dat
is de situatie op dit moment, of we dat nou leuk vinden of niet. Ik zeg er
meteen bij dat ik niet op voorhand tegen een verdrag ben, maar ik vind
wel dat we dit binnen NAVO-verband moeten doen en niet als Nederland
alleen.
Mevrouw Belhaj (D66):
Dat biedt perspectief, want Nederland zit in de NAVO. Je kunt dus ook
zeggen: wat als Nederland in NAVO-verband via deze Minister de
conferentie aangrijpt om daar wel de lead in te nemen? Dan heb je die
zekerheid ook en kom je uiteindelijk ook goed terecht. Mijn vraag is dus of
dat interessant is.
U zegt: de Chinezen zijn al verder. Normeren betekent ook dat je op je
eigen manier de situatie creëert waarin jij weer dominant kunt zijn. Je
kunt het gevecht aangaan met de Chinezen over welke normen zij
hanteren en de wijze waarop, maar dat ga je altijd verliezen. Je kunt het
alleen winnen als je blijft bij je eigen normen en daar zo veel mogelijk
landen in organiseert. Wat vindt u van dat idee, vraag ik vrijblijvend als
D66’er.
De heer Boswijk (CDA):
Het is natuurlijk mooi als je een verdrag hebt. Dan ben je misschien
normgevend op papier, maar uiteindelijk kun je in de praktijk buitengewoon kwetsbaar zijn – denk bijvoorbeeld aan China – als het een keer
escaleert of uit de hand loopt. Dat is mijn angst. Maar nogmaals, ik gooi
de deur niet meteen dicht. Ik schets alleen het dilemma. Ik zal verderop in

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

6

mijn bijdrage laten zien dat je misschien wel onderscheid kunt maken
tussen bepaalde autonome systemen. Misschien heb je het dan niet over
alle autonome wapens, maar maak je daar toch een onderscheid in.
De heer Jasper van Dijk (SP):
Mag ik de heer Boswijk zo begrijpen dat hij zegt: autonome wapens zijn
echt riskant; daar zou je goede regels voor moeten maken? Maar er is nu
het gevaar dat andere landen dat aan hun laars lappen, dus hij is wat
geduldig. Ik ben het toch wel zeer eens met mevrouw Belhaj. Het is toch
aan beschaafde landen, om het zo maar te zeggen, om een norm te stellen
en te zeggen: deze wapens vinden wij zo pervers dat wij afspraken willen
maken om die te verbieden? Dat hebben we gedaan met clusterwapens,
landmijnen en kernwapens. U wilt die verdragen toch ook niet opzeggen
als iemand anders in de wereld zegt: ik wil ze wel gebruiken?
De heer Boswijk (CDA):
Nee. Ik ga nu eigenlijk alvast verder met mijn bijdrage. Het beeld dat wij
van autonome wapens hebben, is dat van een soort halve terminator. Als
jij die de grens over stuurt en Rusland dat richting Oekraïne zou doen, dan
hebben we daar allemaal een hele stevige mening over. Maar ik vind het
anders als ik bijvoorbeeld naar Israël kijk. Collega Belhaj noemde net het
voorbeeld van de zwerm drones. Zulk soort aanvallen kun je als mens
eigenlijk niet meer afslaan. Dan is het aantal doelen te groot, en de
snelheid ook. Dan heb je hulp nodig van autonome wapens om die
drones, die grote hoeveelheid drones, te kunnen onderscheppen. Wat
betreft luchtverdediging op vaste plekken of op schepen kan ik mij prima
voorstellen dat je zegt: daar staan wij wel bepaalde typen autonome
wapens toe. Ik heb altijd een beetje een hekel aan het verschil tussen
defensieve en offensieve wapens, want het is maar hoe je ze inzet. Maar ik
begrijp dat je van wapens die je wat mobieler kan verrijden of
verplaatsen, zegt: daar moeten we toch andere afspraken over maken. Ik
kan mij zomaar voorstellen dat je daar ook nog een knip in kunt gaan
maken.
De heer Jasper van Dijk (SP):
Maar begrijp ik u dan goed dat u zegt: ja, het zou heel goed zijn als
afspraken op papier worden gezet over het gebruik van deze wapens? Het
Rode Kruis zegt bijvoorbeeld: ze mogen nooit op menselijke doelen
ingezet worden. Dat zou je ook als regel kunnen stellen. Zouden we daar
dan niet een poging toe moeten doen? Ik bedoel dat Nederland met
andere welwillende landen, zoals Brazilië, Mexico, België en Zwitserland,
zegt: wij willen graag het initiatief nemen om goede afspraken te maken
over deze wapens, die echt van deze tijd zijn.
De heer Boswijk (CDA):
Ik vind het goed dat we hier een debat over voeren, want het is echt een
duidelijk dilemma wat betreft pragmatisme en principes. Waar leg je de
balans? Ik vind het goed dat er een conferentie komt. Ik ben daar helemaal
geen tegenstander van. Maar ik plaats daar de volgende kanttekening bij.
Niks ten nadele van bijvoorbeeld Zwitserland, maar ik zie dat niet als een
land dat op het wereldtoneel ... Het is sowieso geen NAVO-partner, dus ik
hecht daar iets minder waarde aan. Als wij een stap zetten, een definitieve
stap, of een handtekening onder een verdrag zetten, dan kan dat wat mij
betreft alleen in NAVO-verband. Wij gaan binnen de NAVO het gesprek
voeren. Nogmaals, ik hou een slag om de arm wat betreft met name
defensieve autonome wapens. Ik vind het goed dat we daar het gesprek
over voeren, maar ik wil echt nog steeds mijn handen vrijhouden. Ik vind
dat we dit in NAVO-verband moeten doen. We moeten niet uiteindelijk
zeggen: we hebben een conferentie georganiseerd; de NAVO vond het
niks, maar Nederland vindt het geweldig.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

7

De voorzitter:
Dank. U vervolgt uw betoog, meneer Boswijk.
De heer Boswijk (CDA):
Voorzitter. Regulering is nodig. Dat bepleiten AIV en CAVV. Waar Minister
Kamp nog terughoudend was, zal het kabinet zich in internationaal
verband inspannen voor een verbod en een concretisering van de regels
die van toepassing zijn op het inzetten van autonome wapensystemen.
Nederland pakt daarin een actieve rol. Wij vinden het goed dat we de
dialoog voeren en dat het gesprek loopt, maar wij vinden het echt van
belang dat we dit binnen NAVO-verband doen en dat wij als Nederland
niet opeens voorop gaan lopen en de rest van de NAVO afhaakt.
Dat is mijn betoog, voorzitter. Mijn collega’s hebben alles al gevraagd.
De voorzitter:
Hartstikke goed. Dank u wel. Dan ga ik kortstondig het voorzitterschap
overdragen aan collega Van Dijk, zodat ik mijn betoog kan afdraaien.
Voorzitter: Jasper van Dijk
De voorzitter:
Daarmee geef ik het woord aan de heer Valstar van de VVD.
De heer Valstar (VVD):
Dank, waarde voorzitter. Dank aan de collega’s van D66, die dit debat
hebben aangevraagd. Het voelt tegelijkertijd wel wat surreëel om vandaag
de dag te spreken over autonome wapens, terwijl de nucleaire dreiging
aan de oostgrens met de dag toeneemt. Over nucleaire wapens heeft de
wereld in het verleden geprobeerd afspraken te maken, die later overigens
met een pennenstreek van tafel werden geveegd door militaire grootmachten zoals de VS en Rusland.
Laat ik mij vandaag beperken tot de autonome wapens. Wat de VVD
betreft dient Nederland het oorlogsrecht te volgen en waar nodig de
ontwikkeling te stimuleren. Zo zijn semiautonome wapens in sommige
gevallen noodzakelijk voor effectieve verdediging van ons land. Waar het
om veiligheid van onszelf en onze bondgenoten gaat, dient reguleren en
stimuleren op een verstandige wijze te gebeuren. Zo zouden wij terughoudend moeten zijn met het creëren van wet- en regelgeving die niet
breed gedragen wordt door onze bondgenoten en die niet op een
verifieerbare wijze geldt voor mogelijke tegenstanders. Dit komt ook
overeen met hoe wij bijvoorbeeld aankijken tegen nucleaire ontwapening.
Voorzitter. Ik kom op de internationale samenwerking. Ik wil het kabinet
vragen wat er is gebeurd met de motie-Van Wijngaarden die wij eind
vorig jaar aannamen. Ik zie in de kabinetsreactie op het AIV-advies weinig
terug van de gevraagde nauwe samenwerking met de NAVO-partners. Ik
wil weten hoe het kabinetsstandpunt zich verhoudt tot dat van andere
NAVO-landen. Ik wil ook de toezegging dat Nederland geen standpunten
gaat innemen in internationale gremia, met name rond de CCW, die niet
breed gedragen zijn binnen de NAVO. Dat is niet in de laatste plaats
omdat de CCW nu vooral gaat om beperkte categorieën van duidelijk te
identificeren wapens, terwijl autonomie en kunstmatige intelligente een
veel breder gebruik hebben, ook dual-use. Graag een reactie van het
kabinet.
Daarnaast wil ik graag duidelijkheid over hoeveel licht er zit tussen
enerzijds het kabinetsstandpunt dat er voor een verbod vooral bestaande
rechtsregels geconcretiseerd moeten worden en anderzijds het standpunt
van enkele ngo’s en een coalitie van enkele tientallen landen die zich al
hebben uitgesproken voor een verbod. Bij die laatste groep zitten
overigens bar weinig NAVO- of EU-partners, dus ik wil van het kabinet de
toezegging dat het zich niet uitspreekt voor een verbod voordat er nader

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

8

overleg met de Kamer heeft plaatsgevonden en voordat duidelijk is welke
wapensystemen of ontwikkelingen, zoals verdediging tegen hypersone
raketten en in de toekomst wellicht ook andere wapensystemen, zoals
verdediging van onderzee-infrastructuur via onderwaterdrones, onder een
dergelijk verbod zouden kunnen gaan vallen. Het kan niet zo zijn dat wij
vanuit vermeende morele superioriteit bepaalde wapens gaan verbieden
en dan bijvoorbeeld wel van de Amerikanen verwachten dat zij ons met
die wapens tegen de Russen of Chinezen gaan beschermen. Graag een
reactie van het kabinet.
Tot slot, voorzitter. Ik wil het belang benadrukken van verificatie, want het
heeft weinig zin om onszelf allerlei beperkingen op te leggen als we niet
weten of anderen zich daar ook aan gaan houden. Daarom wil ik de
toezegging van het kabinet dat de regels verdergaan dan een verduidelijking van de bestaande regels ter voorkoming van de ontwikkeling,
gereedheid en inzet van wapens die naar hun aard niet kunnen voldoen
aan humanitair oorlogsrecht. Binnen de afspraken moet worden voorzien
in verificatiemechanismes, waar ook mogelijke tegenstanders zich aan
onderwerpen. Graag een reactie van het kabinet.
Daarmee ben ik aan het einde gekomen van mijn betoog.
Mevrouw Belhaj (D66):
Voordat ik naar dit debat ging, dacht ik: honing, honing. Ik bedoel
daarmee dat ik niet zozeer mensen wil overtuigen, maar ze wel wil
verleiden om een stap verder te zetten. Ik begrijp de voorzichtigheid van
zowel het CDA als de VVD. Ik snap dat ideologisch gezien ook, maar bij de
heer Valstar proef ik zo veel voorzichtigheid dat ik denk: wil de VVD dit
überhaupt wel? Laat ik het anders formuleren: is er, los van alle mitsen en
maren, wel de wens om iets te doen? Is die wens er überhaupt? Laat ik het
zo formuleren.
De heer Valstar (VVD):
Dat zit ’m in de geschiedenis en in alle lessen die we uit de geschiedenis,
ook de recente geschiedenis, kunnen trekken. Ik heb het dan bijvoorbeeld
over de nucleaire wapenwedloop die momenteel aan de gang is. Ik vind
dat we niet te naïef kunnen zijn op dat vlak. Er zijn momenteel landen op
de wereld die hun handtekening niet hebben gezet onder de CCW. Een
opvallend voorbeeld is China. Dat heeft wel zijn handtekening eronder
gezet, maar het heeft er ook bij gezet dat dat alleen geldt voor het gebruik
ervan. Ja, dank je de koekoek! Dan kunnen zij natuurlijk van alles gaan
ontwerpen en moeten wij het gebruik daarvan in de praktijk afwachten. Ik
vind niet dat we zo naïef kunnen zijn en dat we daarop vooruit kunnen
gaan lopen.
Mevrouw Belhaj (D66):
Ik vind het altijd naïef als je niet uitgaat van de situatie die je zelf kunt
creëren om hele erge dingen te voorkomen. Clustermunitie is ook een
prachtig voorbeeld. Daarover zeggen we ook met elkaar: we gaan er
gewoon voor; we gaan alles op alles zetten om andere landen hiervan te
overtuigen. We hebben uiteindelijk heel veel mogelijkheden om landen te
dwingen om zulke wapens niet te produceren of te gebruiken. Onze
buitenlandwoordvoerders doen niet anders dan allerlei instrumenten
bespreken, zoals persoonlijke sancties, bredere sancties en het niet sluiten
of anders sluiten van handelsakkoorden. Je hebt een veel groter instrumentarium om grote landen op hun knieën te brengen dan alleen te
zeggen: als zij zich er niet aan houden, doen wij het ook niet. Of heeft u er
geen vertrouwen in dat andere instrumenten ook heel functioneel kunnen
zijn?

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

9

De heer Valstar (VVD):
Ik gaf net al aan dat ik vind dat we daar niet naïef in moeten zijn. Ik hoorde
u net zeggen dat we met elkaar hebben afgesproken dat we geen
clustermunitie of nucleaire wapens meer zullen produceren, maar volgens
mij hebben we die nooit geproduceerd. We produceren momenteel ook
nog geen autonome wapens. Ik vind het prima als de NAVO in gezamenlijkheid besluit om daar regels over af te spreken, maar dan moet ook de
NAVO bij zichzelf te rade gaan en zich afvragen of ze dat wil in de huidige
tijdsgeest. We kunnen als NAVO wel met elkaar besluiten om allerlei
regels af te spreken over autonome wapens, maar als we vervolgens links
en rechts worden ingehaald door onze vijanden, dan is dat niet de
toekomst die ik wil meemaken.
Mevrouw Belhaj (D66):
Voorzitter, ik begrijp dat u wilt dat ik het voorzitterschap even overneem.
Voor de duidelijkheid: we hebben het over volledig autonome wapensystemen, want semiautonome wapensystemen worden wel geproduceerd in
Nederland en daar zijn we ook heel trots op. Ik noem de Goalkeeper. Het
gaat hier over volledig autonoom. Ik hoor de heer Valstar «zeker» zeggen.
Ik begrijp dat de heer Van Dijk het voorzitterschap aan mij wil overdragen
en ervan uitgaat dat hij dan ook het woord krijgt.
De voorzitter:
Ik wil inderdaad graag een vraag stellen, als u dat goedvindt.
Voorzitter: Belhaj
De heer Jasper van Dijk (SP):
Hoe kijkt de heer Valstar naar het oorlogsrecht en naar de twee adviescommissies die zeggen dat volledig autonome wapens niet in overeenstemming zijn met het oorlogsrecht? Volgens mij is de VVD ook een
staatsrechtelijke partij, die aan dat soort zaken waarde hecht. We zijn geen
Rusland, we zijn geen Poetin en we zijn geen China. Hoe gaat u zich
onderscheiden?
De heer Valstar (VVD):
Als de heer Van Dijk goed naar mijn betoog had geluisterd, dan had hij
een van mijn eerste zinnen gehoord, namelijk dat de VVD van mening is
dat Nederland het oorlogsrecht dient te volgen. Maar tegelijkertijd moeten
we ook de ontwikkelingen nauwgezet volgen. We moeten niet naïever zijn
dan landen als China en Rusland. Ik heb ook het voorbeeld aangehaald
van de nucleaire oorlog ... Nou, laat ik nog niet spreken van een nucleaire
oorlog. Maar de nucleaire dreiging neemt wel met de dag toe. Dus ja, het
oorlogsrecht is leidend, maar we moeten tegelijkertijd ook oog hebben
voor de realiteit.
De heer Jasper van Dijk (SP):
Maar dat gaat natuurlijk niet samen. Als het oorlogsrecht leidend is in het
debat van vandaag, zou u moeten zeggen: volledig autonome wapens
zouden verboden moeten worden en daarover zouden we een verdrag
moeten maken. Dan zou u ons moeten steunen.
De heer Valstar (VVD):
Ja, in een ideale wereld, waar er overal ter wereld vrede is en waar geen
nucleaire wapens, geen clustermunitie en geen autonome wapens zijn.
Dat zou fantastisch zijn. Waar kan ik mijn handtekening zetten? Maar dat is
momenteel niet de wereld waarin we leven.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

10

De heer Jasper van Dijk (SP):
Ik zeg helemaal niet dat we in een ideale wereld leven. Dat komt ooit nog
weleens. Maar we hebben toch een verdrag over clusterwapens, over
landmijnen en over kernwapens? Er zijn inderdaad landen die zich daar
niet altijd aan houden, maar waar staat de VVD? Staat u voor het
oorlogsrecht of zegt u: nee, dat hoeft niet, want andere landen doen dat
ook niet?
De voorzitter:
Tot slot, meneer Valstar.
De heer Valstar (VVD):
Ik sta zeker voor het oorlogsrecht. Ik begrijp niet zo goed wat ik nog een
keer moet herhalen uit mijn vorige betoog. De realiteit is momenteel
anders. De nucleaire dreiging neemt toe, dus de NAVO heeft niet de luxe
om zich volledig terug te trekken in haar schulp en hier eigenstandig
afspraken over te maken, terwijl de rest van de wereld ons links en rechts
inhaalt.
De voorzitter:
Ik proef hoop. Ik geef het voorzitterschap terug aan de heer Valstar.
Tenminste, als hij klaar was met zijn betoog.
Voorzitter: Valstar
De voorzitter:
Dank. Daarmee komt een einde aan de eerste termijn van de zijde van de
Tweede Kamer. Ik kijk even naar mijn rechterzijde. Hoeveel tijd denken de
bewindslieden nodig te hebben? Of hebben zij geen tijd nodig en kunnen
zij gelijk door?
Minister Hoekstra:
Bij voorkeur doen we altijd dat laatste, maar omdat er ook nog mensen
naar beneden moeten lopen, doe ik het verzoek om een kwartiertje te
schorsen.
De voorzitter:
Ik gun u bij dezen een kwartier de tijd. We komen terug om 16.45 uur.
De vergadering wordt van 16.32 uur tot 16.44 uur geschorst.
De voorzitter:
Ik zou het woord aan de Minister van Buitenlandse Zaken willen geven
voor de beantwoording van het kabinet in eerste termijn.
Minister Hoekstra:
Voorzitter, veel dank. Het is staatsrechtelijk niet aan mij om mensen hier
welkom te heten, maar ik zou toch willen zeggen dat ik het bijzonder vind
dat de heer Maduro hier bij ons is, niet alleen omdat dat de sterke band
tussen de verschillende onderdelen van het Koninkrijk laat zien, maar ook
omdat iedereen die de geschiedenis van Curaçao en Nederland een beetje
kent, en die ook de geschiedenis van het verzet kent, niet anders kan dan
deze naam met het grootst mogelijke respect uitspreken. Ik ben verguld
dat hij hier bij ons is.
Voorzitter. Ik wil de leden van de Kamer – dat doe ik ten volle ook mede
namens de Minister van Defensie – bedanken voor de gelegenheid om
juist over dit onderwerp van gedachten te wisselen. Ik realiseer me zeer
dat er allerlei onderwerpen zijn die zich politiek nog meer lenen voor de
actualiteit, voor de korte termijn en voor andere dingen die in de politiek
nou eenmaal van belang zijn. Maar dit gaat niet over een kleinigheid. Dit

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

11

gaat over een groot en potentieel zeer ontwrichtend onderwerp dat nog
heel erg lang bij ons zal blijven, is mijn inschatting. Dat rechtvaardigt de
aandacht vanuit de Kamer en het kabinet. Het is ook vergeven van
dilemma’s; volgens mij zeiden vrijwel alle woordvoerders dat ook. Ik ga
de vragen uiteraard beantwoorden, maar ik zal bij een aantal onderwerpen ook gewoon aangeven dat het een dilemma is waaraan we in de
toekomst nog werk zullen hebben. Ik zal me met name op het internationaalpolitieke richten. De Minister van Defensie zal zich vanzelfsprekend
vooral richten op wat bij haar portefeuille hoort. We denken dat we
daarmee het hele veld kaal kunnen grazen. Lukt dat niet, dan doen we dat
alsnog in tweede termijn.
Voorzitter. Ik begin met het namens het kabinet uitspreken van een
dilemma. Dat dilemma is ook onderkend en ligt eigenlijk ten grondslag
aan deze discussie, namelijk: wat waar is voor technologie, is nog veel
meer waar voor dit type technologie in het militaire domein. Ik ben nog
steeds een beetje onder de indruk van wat ik bij de Radboud Universiteit
eerder deze week allemaal heb gehoord over artificial intelligence in het
militaire domein. Ja, de technologie biedt ons, de mensheid, enorme
mogelijkheden, maar van oudsher horen bij vernieuwing en technologische mogelijkheden ook altijd risico’s. Net als bij eerdere dossiers op
het gebied van wapens gelden die risico’s en potentiële ontwrichting hier
ook. Ik moet er wel aan toevoegen dat er nog heel veel onduidelijk is, ook
voor de experts. Er kwamen een aantal voorbeelden langs, bijvoorbeeld
van onderwaterdrones. Gevraagd werd hoe dit er in de toekomst uit zal
zien. Ik zou de volgende stelling wel aandurven: meer nog dan op
sommige van die eerdere dossiers, zoals het nucleaire dossier, is het op
dit moment best moeilijk te voorspellen hoe dit precies gaat eindigen en
welke varianten we hierbij allemaal te zien krijgen. Dat is dus een enorm
dilemma.
Een volgende vraag van een deel van de leden was wat je dan moet doen.
Moet je dan helemaal kiezen voor de kant van het verbod? Of moet je alles
maar op zijn beloop laten omdat je er toch geen invloed op hebt? Volgens
mij zou het en-en moeten zijn. Het moet realistisch zijn over de wereld
waarin wij leven. We moeten accepteren dat de wereld niet is zoals we
zouden willen dat die is. We moeten dus accepteren dat de wereld is zoals
we die aantreffen. De wereld is een onveilige plaats. Er wordt gedreigd,
ook met de meest afschrikwekkende wapens, en een heleboel landen op
de wereld zien er geen been in om ook hierin een verdere voorsprong te
nemen. Reken maar dat ze dan de bereidheid zullen hebben om daar in
ieder geval mee te dreigen en mogelijk ook om dat in te zetten. Daar moet
je gewoon realistisch over zijn. Dat bepaalt ook in belangrijke mate de
koers van het kabinet. Ik kom zo meteen nog terug op een aantal
specifieke vragen.
De andere kant is ook waar. Als je dit ziet als een potentieel belangrijke
bedreiging, als iets wat heel ontwrichtend is, dan ben je het ook aan je
stand verplicht om daar werk van te maken. Vervolgens is natuurlijk de
vraag hoe je dat op een effectieve manier doet. Dat was ook een volgende
vraag van een aantal leden. Het kabinet is van mening dat dat met afstand
het meest effectief kan met gelijkgezinde landen, juist in VN/CCWverband. Waarom? Omdat, hoe moeilijk ook, dat uiteindelijk toch de plek
is waar je het eens zou moeten worden. Je kan daar een theologische
discussie over voeren. Ben je voor of tegen een verbod? Je zou graag
willen dat hier uiteindelijk regulering op plaatsvindt en dat er een verbod
is op totaal autonome wapens die ingaan tegen het internationaal recht.
Daarbij moet je overigens wel aantekenen – daar moet je ook reëel in
zijn – dat dat alleen maar zin heeft als vrijwel alles en iedereen op de
wereld dat wil onderschrijven en als je dat bovendien niet alleen op de
tekentafel hebt gerealiseerd, maar het ook in de praktijk verifieerbaar en
nakoombaar is. Dat ben ik met sommige van de woordvoerders eens. Dat
wordt natuurlijk snel ingewikkeld. Dat betekent dat je een heel palet aan

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

12

uitdagingen hebt. Maar ik ben het wel zeer eens met degenen die zeiden
– dat zei volgens mij bijna iedereen – dat het feit dat het moeilijk is, je niet
van de plicht ontslaat om ermee te beginnen en om het wel degelijk te
proberen. Daar ben ik het zeer mee eens.
Mevrouw Belhaj (D66):
Ik voer niet vaak een debat met Minister Hoekstra, dus ik merk dat ik heel
erg moet opletten op wat de Minister zegt. Ik was in de veronderstelling
– misschien kan hij dat bevestigen – dat het kabinet zich gaat inspannen
voor een verbod op volledig autonome wapens en voor een concretisering van de regels voor de inzet van gedeeltelijk autonome wapens. Dat
is natuurlijk wat anders dan de vraag over het hoe en over wat het meest
effectief is. De Minister verandert hier toch niet het standpunt van het
kabinet?
Minister Hoekstra:
Nee. Overigens hebben ook de leden die vaak met mij in gesprek zijn, dat
gevoel. Laat hierover dus geen enkel misverstand bestaan. Dat is
vanzelfsprekend niet zo, maar ik vind wel dat we alle onderdelen van het
dilemma in alle eerlijkheid moeten benoemen. Dat moet u mij vergeven.
Tegen degenen die zich zien als de realistische school zeg ik: ik ga toch
aan de andere kant hangen; het is wel degelijk nodig om te proberen om
hier voortgang op te maken. En aan degenen die zeggen «laten we
alsjeblieft voor een verbod gaan, ook al is het met een klein gremium», zal
ik uitleggen waarom ik denk dat dat niet effectief is. Ik wil het hele palet
aan dilemma’s schetsen. Waarom? Omdat het niet goed voorstelbaar is
dat je tot overeenstemming komt in de VN als een aantal lidstaten daar
niet aan mee wil doen of als je geen afspraken maakt over hoe je het in de
praktijk gaat controleren.
Mevrouw Belhaj (D66):
Ik ben altijd gevoelig voor dilemma’s, maar op een gegeven moment
moet je uit je twijfelmodus komen, omdat de urgentie al jarenlang evident
is. De Minister zegt: wat is effectief? De CCW heeft aangetoond niet
effectief te kunnen zijn. Op een gegeven moment moet je het afwegen.
Stel dat je nog niks had geprobeerd. Dan had ik de Minister helemaal
gelijk gegeven en gezegd: «Bewandel die route. Dat is heel logisch.
Probeer eruit te komen.» Maar we zijn inmiddels jaren verder en het gaat
gewoon door, dus waar baseert de Minister zijn uitspraak op dat we nog
op zoek moeten naar een effectieve manier? Deze manier is niet effectief
gebleken. Als je zegt dat je je ervoor gaat inzetten – dat is iets anders dan
proberen, want proberen is eigenlijk niks – dan is het toch een logische
route om dat samen met de NAVO-landen te doen en om daar als
Nederland in voorop te lopen? Daarom deed ik een persoonlijk appel aan
u. Dat kunt u toch gewoon doen?
Minister Hoekstra:
Er zijn een paar nuances. Je probeert nooit iets zonder inspanning, dus
Nederland spant zich daar vanzelfsprekend voor in. Ik ben het er ook
helemaal mee eens dat dit geen makkelijke wedstrijd is. Het is niet
makkelijk om dit binnen VN-verband voor elkaar te krijgen, maar ik ben
het zeer eens met iedereen die zegt: dit is potentieel zo ontwrichtend dat
je het toch moet proberen. Het kabinet, de Minister van Defensie en ik in
het bijzonder, heeft de verplichting om dat te proberen. Maar ik wil ook
realistisch zijn over wat wij op dit moment aan respons hebben gekregen.
Het klinkt misschien paradoxaal, maar het zou kunnen dat de verschrikkingen van de afgelopen maanden een impuls geven aan de internationale gemeenschap om wél dit type gesprek aan te gaan. We zien nu
allemaal dat veel van de dreigingen uit het verleden niet meer tot het
verleden behoren.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

13

De voorzitter:
Een laatste interruptie op dit punt van mevrouw Belhaj.
Mevrouw Belhaj (D66):
Ik zie dit niet echt als een interruptie, want ik vroeg: loop nou voorop
binnen NAVO-verband. U heeft het over de VN, maar ik heb het over de
NAVO. Dat is een beetje de consensus in deze Kamer. Daar kan iedereen
zich in vinden. Vooroplopen betekent: een conferentie organiseren, landen
verleiden, proberen om een of twee landen in je kamp te krijgen en
wheelen en dealen op andere onderdelen. Dat hoor ik niet, maar dat is wel
mijn vraag. Wilt u alstublieft binnen NAVO-verband actiegericht te werk
gaan om te proberen om die landen te overtuigen?
Minister Hoekstra:
Maar het onderscheid is, als ik heel eerlijk ben, bijna theoretisch, omdat
het in belangrijke mate om dezelfde landen gaat. Want met wie trekken we
in de VN het meeste op? Met Frankrijk, met Duitsland, met Spanje, en ik
meen met Finland. En dat probleem is, als het om de NAVO gaat,
binnenkort hopelijk ook opgelost. Ik ben het hierover graag eens met
mevrouw Belhaj. Als er een misverstand is over de behoefte van het
kabinet om zich hiervoor in te spannen, dan zou ik dat misverstand echt
willen wegnemen. Ik, het ministerie, de Minister van Defensie, wij
allemaal zijn zeer, zeer doordrongen van de noodzaak om hier wat aan te
doen, hoewel het zeer ingewikkeld is. Dat bleek ook deze week weer, maar
ook toen we er in de afgelopen weken en maanden met elkaar over
hebben gesproken. Ik vind het echter ook mijn taak om hier in de Kamer te
schetsen wat ik denk dat realistisch is. Ik kom zo meteen nog op die
conferentie, maar luisterend naar de Kamer dacht ik bijna dat het idee zou
bestaan dat Nederland het op die conferentie in februari wel half zal
hebben opgelost. We gaan niet een heel klein beetje, niet een ietsiepietsie
daarbij in de buurt komen. Dat is de realiteit. Ik vind het ook mijn taak om
dat te schetsen, hoezeer ik het ook eens ben met de grondhouding van
mevrouw Belhaj.
De heer Jasper van Dijk (SP):
Ik probeer wel te begrijpen welke inspanning de Minister precies gaat
leveren. Hij zegt: proberen is inspannen. Daar ben ik het mee eens. Waar
kunnen we de Minister op afrekenen? Dat is eigenlijk mijn vraag. Gaat hij
binnen of buiten die CCW een poging doen om tot afspraken te komen?
Op welke termijn kunnen we iets van hem horen?
Minister Hoekstra:
Ik vind het een levensgevaarlijke vraag. Dat is ook echt aan de heer Van
Dijk, want daar heeft hij mijn inschatting niet voor nodig. We hebben
natuurlijk niet voor niks gezegd: laten we een conferentie organiseren
over AI in the military, kunstmatige intelligentie in het militaire domein.
Dat leefde al breder in het ministerie voordat ik begon, is mijn sterke
indruk. Waarom? Het is niet exact hetzelfde als dit, maar het heeft heel
veel met elkaar te maken. Er is een belangrijke overlap. Natuurlijk hebben
we ook het gesprek met elkaar gehad over de vraag of mensen hier
überhaupt nog in geïnteresseerd zijn, gegeven de oorlog in Oekraïne.
Onze gedachte is dat we dit onderwerp, juist nu we ons weer bewust zijn
van de verschrikkingen van oorlog en ook van nucleaire dreigementen,
wel bij de hoorns moeten pakken. Daarom gaan we die conferentie
organiseren. Daarom ga ik ook door met dit thema. Ook als ik het niet zou
beloven, gaat de Kamer mij er ongetwijfeld bij herhaling op bevragen. Zo
ken ik de Kamer ook. Ik zal het ook onderdeel maken van veel van de
gesprekken die ik voer, én – niet «maar» – ik wil realistisch zijn over het
enthousiasme, of het gebrek daaraan, bij veel gesprekspartners.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

14

De voorzitter:
Een verzoek om geen levensgevaarlijke vragen meer te stellen, want
dan ...
De heer Jasper van Dijk (SP):
Als de Minister nou toezegt dat hij zich hard gaat maken voor zo’n mooi
verdrag, ga ik geen gevaarlijke vragen meer stellen. Het is mij niet
helemaal duidelijk of dit hieruit blijkt. Ik zit er echt even op te broeden:
moeten we hier een motie over indienen, of kan de Minister mij geruststellen en zeggen dat hij zich echt tot het uiterste gaat inspannen om tot
goede afspraken te komen?
Minister Hoekstra:
Moties zijn überhaupt zelden nodig, maar helemaal niet om de Minister
van Defensie en mij nog tot meer enthousiasme aan te sporen. Maar dat
is aan de heer Van Dijk. Laat ik echt één ding zeggen: ik zei net niet
toevallig dat wij het belangrijk vinden dat wij dit debat hebben. Hoeveel
internationale conferenties organiseer je in een jaar? Dit jaar doen we er
één, en ik denk dat we er volgend jaar ook één doen. Die doen we over dit
onderwerp. Die doen we over dit onderwerp, omdat we ons daar grote
zorgen over maken, omdat het onder de radar zit, maar potentieel heel
grote gevolgen heeft voor de vrede en veiligheid in de wereld, en omdat
we daar als Nederland ook een leidende rol in willen spelen. Anders
organiseer je het niet, of organiseer je het over wat anders. Dus ik hoop
ook echt dat daar het commitment van het kabinet uit spreekt. We zullen
dat uiteraard in bilaterale gesprekken en andere gremia onder de
aandacht blijven brengen.
De voorzitter:
De Minister vervolgt zijn betoog.
Minister Hoekstra:
Voorzitter, ik heb wel de interrupties gebruikt om nog een aantal andere
vragen te beantwoorden. De vraag van de heer Boswijk en de heer Valstar
over de NAVO en die groep landen heb ik net beantwoord. Ik had daar
overigens nog Noorwegen, Zweden en Italië aan moeten toevoegen, zie ik
hier. Dat sluit ook weer aan bij het betoog van mevrouw Belhaj over de
overlap tussen NAVO en VN.
Hoe kijken we dan naar zo’n verbod en naar regulering? Ik zei net al dat
het dan gaat om volledig autonome wapens die ook in strijd zijn met het
internationale recht. Zoals ik het begrijp, gaat het ook om systemen waar
geen menselijk oordeelsvermogen meer aan te pas komt. Daarom heb je
hier ook experts bij nodig. Er zijn heel veel discussies tussen experts over
de vraag op welk moment in de keten dat er zou moeten zijn. Bij welke
casuïstiek moet het aan de voorkant, waar moet het vlak voor een echte
gevechtshandeling, waar moet het beide? Ik zou van die casuïstiek weg
willen blijven, maar ik vind wel dat we dit gesprek echt met meer experts,
ethici en anderen, te voeren hebben. Er is nog heel veel wat we niet
precies weten. Dit is in veel opzichten gewoon terra incognita.
Voorzitter. De heer Van Dijk zei nog dat een mens nooit het doelwit mag
zijn. Volgens mij ligt het net anders. We moeten ook hier aansluiten bij het
oorlogsrecht. Daarin is specifiek het onderscheid tussen combattanten en
niet-combattanten geregeld. Het gaat ook over proportionaliteit. Ik vind
dat we daarbij moeten aansluiten. Dat lijkt mij de meest logische weg.
De heer Boswijk onderschreef nog het grote belang van in breder verband
optrekken. Ik hoop dat ik voldoende aannemelijk heb gemaakt dat dit ook
precies is wat we willen doen. Ik ben het ook zeer eens met de nadruk die
hij en de heer Valstar legden bij de noodzaak om je te verdedigen.
Analogieën gaan altijd mank. Maar neem toch even het nucleaire domein.
Het kabinet is zeer voorstander van een kernwapenvrije wereld. Maar stel

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

15

nou eens dat de NAVO geen kernwapens had gehad en andere partijen
wel. Had dat dan geleid tot militaire chantage? Ja, ik denk dat we allemaal
bijna zeker weten wat daarop het antwoord was geweest. Die kant zit er
dus ook aan.
De heer Valstar vroeg nog hoe het kabinet kijkt naar de stellingname van
ngo’s. Wij waarderen zeer de waardevolle bijdrage van PAX, het Rode
Kruis en anderen. We willen uiteindelijk ook hetzelfde doel bereiken. Ik
heb net al iets gezegd over een verbod, maar dat geldt ook voor afspraken
en regulering. Wij kiezen wel een andere weg, want wij kiezen nadrukkelijk
voor de weg via CCW en VN, om de redenen die ik net uiteen heb gezet.
Ben ik het met mevrouw Belhaj eens dat de oorlog de nood voor actie
alleen maar urgenter maakt? Ja, daar ben ik het zeer mee eens. Nu gaat
het er weer heel nadrukkelijk over. We zien nu hoe verschrikkelijk een
oorlog is. Ik kijk even de tafel rond: zeker onze generatie zou dat bijna
vergeten. Maar dat is wat je hoort van mensen die het wel hebben
meegemaakt, of het nou civilisten of militairen zijn. Zij weten altijd weer
uit te leggen hoe verschrikkelijk het is voor degenen die het meemaken. Ik
heb er natuurlijk geen enkele garantie voor, maar ik zou hopen dat het
inspireert tot afspraken. Het motiveert ons in ieder geval om dat te doen.
Dan een vraag van mevrouw Belhaj en de heer Van Dijk: hoe kan je dit
nou wel of niet vervlechten in de conferentie? Het zijn namelijk dingen die
erg op elkaar lijken en tegelijkertijd voor een deel ook weer anders zijn. Er
werd mij nog even ingefluisterd dat hier ook op andere plekken al over
geconfereerd wordt. Laat ik het als volgt formuleren. Ik heb een positieve
grondhouding, maar ik wil even kijken naar het hoe, ook omdat zo’n
conferentie, zeker als we die uiteindelijk voor politici zouden gaan
organiseren, meestal maar een dag is. Ik wil er dus nog even naar kijken
hoe we er precies vorm aan zullen geven, wat wel en niet kan en hoe je
het op een verstandige manier doet. Ik snap heel goed dat er een link
gelegd wordt. Ik zal ook zorgen dat de Kamer bijtijds geïnformeerd wordt
over die conferentie, over wat we van plan zijn, over hoe we dat willen
aanpakken en over wat we hopen te bereiken. Ik zeg het nogmaals:
overigens zonder enigszins de illusie te hebben dat die conferentie alleen
een doorbraak zal zijn. Het is wel een nadrukkelijk signaal van Nederland
dat wij dit belangrijk vinden en het op de agenda willen houden. Hopelijk
kunnen we er een paar vervolgstappen over afspreken.
Mevrouw Belhaj (D66):
Een kleine praktische vraag, voorzitter.
De voorzitter:
Een praktische vraag van mevrouw Belhaj.
Mevrouw Belhaj (D66):
Een toezegging of belofte aan de Kamer wordt niet opgeschreven als er
geen datum aan verbonden is. Ik heb het niet verzonnen, maar het is wel
zo. Ik kan zeggen dat ik u gewoon op uw woord geloof, maar als u een
willekeurige datum roept, vergeten we het niet. Ik kan me dat overigens
niet voorstellen, maar toch.
De voorzitter:
De Minister kan allicht de datum van de conferentie noemen.
Minister Hoekstra:
Ja, zeker. De conferentie is medio februari. Het is de dag voor de
Münchner Sicherheitskonferenz. Dat betekent dat het mij redelijk lijkt dat
ik bij wijze van spreken zes weken van tevoren nog een keer aan de Kamer
laat weten hoe en wat. Dan heeft men ook nog gelegenheid mij daarover
te tuchtigen, zou dat niet bevallen.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

16

De voorzitter:
Wij gaan hier een mooie toezegging uit extraheren.
Minister Hoekstra:
Ik moet wel wennen aan dat mooie goudgerande zinnetje van mevrouw
Belhaj over dat D66 nooit iemand iets zou willen opleggen, want tot nu
toe voelt het toch anders. Minister Ollongren en ik zijn het merkwaardig
vaak eens, maar zouden we het ooit nog oneens geraken, dan ga ik dat
zinnetje onmiddellijk van stal halen.
De voorzitter:
De ervaring van de heer Boswijk en ondergetekende is soms anders.
Vervolgt u uw betoog.
Minister Hoekstra:
Ik heb een heleboel vragen behandeld. We waren gebleven bij het
gebruiken van de conferentie. Het punt over een zelfstandig verbodsverdrag hebben we denk ik voldoende besproken, ook gegeven de
risico’s. De vraag van de heer Boswijk over de NAVO hebben we
beantwoord.
Voorzitter. Dan ben ik, denk ik, een heel eind. Ik kijk nog even wat ik hier
heb. Misschien nog het volgende. Ik heb mevrouw Belhaj zo begrepen dat
zij nu vast nog breder wil horen waar die conferentie over gaat. Daar gaat
het thans over de bredere risico’s en kansen van AI op het militaire
terrein. Ook hier ligt weer een kans, maar er zijn ook grote risico’s. Die
dialoog kan bouwstenen opleveren. Ik zorg dat uiterlijk zes weken van
tevoren duidelijkheid is over wat we precies op die conferentie gaan
bespreken.
De voorzitter:
Dank. Ik begrijp dat u nog meer heeft?
Minister Hoekstra:
Ik ben er volgens mij doorheen, voorzitter. Dank u wel.
De voorzitter:
Uitstekend. Dan geef ik het woord aan de Minister van Defensie.
Minister Ollongren:
Dank u wel, voorzitter. Ook ik wil graag de Kamer en de commissie
bedanken voor het agenderen van dit belangrijke onderwerp. Ik denk dat
het heel goed is dat we, zoals collega Hoekstra net zei, daarbij stilstaan.
Juist ook in de hectiek van het hier en nu, de geopolitieke ontwikkelingen
en de machtsverhoudingen die zo aan het veranderen zijn. Die hebben
ons zo met de neus op de feiten gedrukt dat we ook onszelf daaraan
moeten aanpassen. Nederland en Europa moeten zich echt toerusten op
die nieuwe werkelijkheid.
Ik vind het ook mooi, als ik dat mag zeggen, dat mevrouw Belhaj haar
oude portefeuille heeft opgepakt, of beter gezegd: die heeft ze denk ik
nooit losgelaten. De rest van de portefeuille is, geloof ik, naar een collega
gegaan, maar ze is in ons midden omdat het haar aan het hart gaat. Dat
weten we, omdat ze ook een initiatiefnota hierover had ingediend,
waarover inderdaad al in de demissionaire periode, meen ik, met mijn
voorganger is gesproken.
Waardering dus voor alle aanwezigen en ook niet-aanwezigen, want de
heer Van Dijk heeft zijn inbreng ook namens de Partij van de Arbeid
gehouden. Ik heb echt niets kunnen ontwaren in zijn inbreng wat een
enorme afzwakking was ten opzichte van hoe ik hem normaal gesproken
hoor. Blijkbaar zitten de SP en de Partij van de Arbeid op dit punt dus

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

17

redelijk op één lijn. Ik dacht even dat het slechts het pacifistisch deel van
de Partij van de Arbeid was, maar volgens mij is dat goed gelukt.
Voorzitter. Ik zei al dat het een belangrijk onderwerp is. Ik ga dingen
zeggen die u ook hebt gezegd. Ik wil toch even gemarkeerd hebben dat we
zien dat de overzichtelijkheid van de marine, de luchtmacht en de
landmacht niet meer bestaat. Dat zien we ook in de oorlog die nu gaande
is en in alle dreigingen die we in de wereld op ons af zien komen. Die
oorlog is ook hybride. Die wordt ook in het cyberdomein gevoerd en
speelt zich ook af in de ruimte. We hebben al langer te maken met
desinformatie. De wijze van ontwikkeling van conflicten en ook van oorlog
is gewoon anders. Wetenschap en technologie kunnen steeds meer het
verschil maken, ook tussen winnen en verliezen.
Bovendien schrijden de wetenschap, de techniek en de wetenschappelijke
en technologische inzichten ook voort. Dat gebeurt gewoon, of wij het
willen of niet. We moeten dus heel goed weten wat de ontwikkelingen zijn
en wat andere landen, statelijke actoren, daarmee kunnen doen. Het gaat
dan met name om de landen die wij assertief noemen en die zich soms
agressief ontpoppen. Daartegen moeten we ons tenslotte verdedigen. We
moeten dus heel goed weten wat er gebeurt. Een van de investeringen die
het Ministerie van Defensie gaat doen, is de volgende. We innoveren en
investeren op het gebied van technologische kennis en zorgen dat wij ook
als technologisch hoogwaardige organisatie die kennis in huis hebben,
zodat we kunnen inspelen op die ontwikkelingen. Als je niet weet wat er
gebeurt, dan kun je er ook niet op inspelen. Ik loop even een aantal
punten langs.
De heer Van Dijk had het over de langeafstandsoorlog. Hij noemde een
aantal wapensystemen die helemaal niet in het autonome veld vallen,
zoals de F-16 en de Reaper. Dat zijn geen autonome en ook geen
semiautonome systemen; ze worden gewoon door de mens bestuurd, in
het geval van de Reaper op afstand. Hij noemde het als een risico, omdat
het dan makkelijker zou zijn om oorlog te voeren. Ik wil dit één keer
zeggen: we hebben natuurlijk geen andere ethische of juridische kaders
voor langeafstandsoorlogvoering. Dat valt onder precies dezelfde ethische
en juridische kaders en waarborgen. Dat is echt niet anders dan de
systemen die een wat kortere dracht en een wat directere impact hebben.
Het is natuurlijk wel een goed voorbeeld van het volgende. Als zo’n
systeem wordt ingezet, gaat dat met een hele hoge snelheid. De verdediging daartegen kan eigenlijk alleen maar semiautonoom, want het gaat
sneller dan een mens kan handelen. Dat wilde ik nog zeggen in reactie op
de opmerking van de heer Van Dijk.
Er was net een discussie tussen de woordvoerders over voor- en nadelen.
Het moet altijd binnen de kaders van het internationaal recht – ik sluit wat
dat betreft aan bij uw collega – maar daarbinnen moeten we heel goed
kijken wat tegenstanders aan het doen zijn zodat we hen vóór kunnen zijn,
zowel qua kennis als qua systemen. Daar hebben we dan inderdaad soms
gedeeltelijk autonome systemen voor nodig, nu al. Tegen bijvoorbeeld die
hypersone raketten kun je je alleen op die manier verdedigen. Ik denk ook
dat nieuwe technologieën in robotica, sensoren, kwantumtechnologie en
artificial intelligence ook een bepaald deel van wat je militair moet doen,
veiliger en ook wel makkelijker maken. Inderdaad kan artificial intelligence
soms ook helpen door het letterlijk beter en veiliger te maken, omdat je
preciezer kunt worden. Tegelijkertijd brengt het ook gewoon risico’s met
zich mee. Dat moeten we ook onder ogen zien. Er zijn disruptieve
technologieën. Er zijn autonome wapensystemen denkbaar – ze zijn er
misschien nog niet maar ze zijn heel goed denkbaar – die grote risico’s
met zich meebrengen, bijvoorbeeld omdat systemen ook kunnen worden
gehackt en dus toch iets anders gaan doen dan misschien de bedoeling
was of omdat ze technisch kunnen falen. In theorie kun je inderdaad
uitdenken dat systemen zelfdenkend worden en niet meer onder controle
van de mens staan, en daarmee zelf kunnen gaan beslissen over het te

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

18

kiezen doel en dan ook de keuze maken of het doel wel of niet moet
worden aangevallen. Dan heb je het echt over autonome systemen.
Technologisch is dat er nog niet op die manier, maar we weten wel dat
eraan wordt gewerkt en dat het kan. Dat is die kennisontwikkeling, waarin
we echt goed moeten meegaan. Dit soort risico’s en dit soort zorgen
moeten we goed in kaart brengen. We zien die urgentie. Daarom hebben
we in de kabinetsreactie ook gemarkeerd dat wij vinden dat er een
betekenisvolle menselijke controle moet zijn. Dat is het uitgangspunt van
het kabinetsstandpunt.
De voorzitter:
Er is een interruptie van de heer Van Dijk namens de Socialistische Partij.
De heer Jasper van Dijk (SP):
Daar ben ik het dus volledig mee eens. Is dat voor de Minister een
aanmoediging of een aansporing om te zeggen dat er afspraken moeten
worden gemaakt over dat soort wapensystemen en dat we volledige
autonome wapens niet moeten accepteren, omdat ze in strijd zijn met het
oorlogsrecht?
De voorzitter:
Ik meen dat die vraag ook aan de Minister van Buitenlandse Zaken is
gesteld, maar ik geef u nog één kans om de vraag aan de Minister van
Defensie te stellen. Zij gaat er heel kort op antwoorden.
Minister Ollongren:
Heel spontaan wilde ik inderdaad reageren, maar volgens mij heeft
collega Hoekstra die vraag zonet beantwoord. Daar sluit ik me volledig bij
aan.
De voorzitter:
Dat is duidelijk. De heer Van Dijk, tot slot.
De heer Jasper van Dijk (SP):
Mijn vervolgvraag is of de Minister het advies van de AIRCW kent. Die
commissie zegt dat autonome wapens geen onderscheid kunnen maken
tussen burgers en militairen of tussen militairen en uitgeschakelde
militairen. Is dat niet ook een reden om hier goede regels voor te maken?
Minister Ollongren:
Dat is een eigen commissie van Defensie, die heel goed naar dat soort
dingen kijkt. Zij heeft inderdaad ook een aantal te onderscheiden
systemen geschetst en heeft ook de risico’s bij die systemen geschetst. Ik
wil wel zeggen dat Nederland eigenlijk geen systemen of wapens heeft
die vallen onder de definitie «autonome systemen». Een definitie is altijd
lastig. Dat is ook een van de internationale discussies: welke definitie
moet je nu hanteren? Maar autonome, zelfdenkende systemen gaan veel
verder dan systemen die wel automatisch zijn en waarover we wel
beschikken. De Goalkeeper is zo’n systeem. De Patriot is een verdedigend
systeem dat snel moet kunnen reageren. Maar daar is altijd menselijke
controle over, ook bij de Goalkeeper. Je bepaalt waar je hem op richt, je
bepaalt of hij automatisch mag reageren en je kunt hem ook weer
stoppen. Onze eigen commissie waarschuwt daar ook voor. Welke
spanningen kunnen er ontstaan? Aan welke keuzes moet altijd een
menselijke handeling te pas komen? Nogmaals, we hebben dat soort
systemen niet, maar die vragen kunnen wel aan de orde zijn bij deze
systemen. We moeten dat goed in beeld hebben, samen met die
commissie, de AIV en andere deskundigen.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

19

De voorzitter:
De Minister vervolgt haar betoog.
Minister Ollongren:
Ja. Ik denk dat collega Hoekstra al voldoende heeft gezegd over het
Volkskrantstuk.
Dan ga ik naar een aantal vragen, waarvan de meeste zijn gesteld door de
heer Boswijk en mevrouw Belhaj, over de afweging tussen pragmatisme
en principes. In de adviezen die we hebben, bijvoorbeeld van de AIV, staat
dat we moeten investeren in kennis en in het reguleren; op dat punt
verwijs ik naar het antwoord van de heer Hoekstra. Om het werkbaar te
laten zijn voor Defensie en voor de bondgenoten en partners waarmee we
samenwerken, is duidelijk dat het oorlogsrecht de grens is. Het moet dan
een zo breed mogelijk gedragen verbod zijn. Dan wordt het natuurlijk
werkbaar. Dat is dus een van de belangrijke doelen die we moeten
hebben: dat daar veel landen bij aangesloten zijn. Ook moeten we
duidelijkheid hebben dat bepaalde wapensystemen waarover we nu al
beschikken, niet onder die definitie kunnen vallen. Ik noemde de Patriot al,
omdat ik denk dat u het met me eens bent dat dat een belangrijk
verdedigend systeem is dat we moeten kunnen blijven inzetten. Daar
moeten we dus goed naar blijven kijken. Er wordt natuurlijk ook heel veel
onderzoek naar gedaan. Er zit misschien ook nog een grijs gebied tussen
civiel en militair. Dat hebben we in beeld en daar wordt door deskundige
mensen en instellingen goed naar gekeken.
Mevrouw Belhaj vroeg naar de menselijke controle. Daar heb ik eigenlijk
al op geantwoord. Iets dieper gaat de vraag wanneer er dan eigenlijk
menselijke controle is in de toepassing van de systemen. Ik denk dat je
daar al bij de ontwikkeling rekening mee moet houden. In de fase van
R&D, dus voor de aankoop van een systeem, moet menselijke controle al
het uitgangspunt zijn. Bij de aanschaf van een nieuw wapensysteem moet
dat ook getoetst worden aan het internationaal recht. Daarna zou het pas
kunnen worden goedgekeurd voor inzet door de krijgsmacht. Je moet
natuurlijk ook je eigen mensen daar goed in meenemen. Training en
opleiding van militairen bij het gebruik van dat soort systemen is dus een
belangrijk element.
De voorzitter:
Ik hoor aan mijn linkerzijde dat er een interruptie is van mevrouw Belhaj.
Mevrouw Belhaj (D66):
Ik ben vergeten om iets in de eerste termijn te vragen en zie nu een
bruggetje om die vraag alsnog te stellen. In de tussentijd, waarin er nog
veel onduidelijkheid is, gebeurt er natuurlijk een hoop. Mijn vraag is of het
mogelijk is om de controlerende taak van de Kamer goed te waarborgen.
Is het mogelijk om bij artikel 100-procedures apart aandacht te besteden
aan het gebruik of niet-gebruik van autonome wapensystemen bij
militaire missies? Het kan ook zijn dat we in een gezamenlijke missie zitten
waarin we zelf nog niets doen, maar de ander wel. Het lijkt me goed dat
we dat opnemen, zodat het inzichtelijk is. Daarmee ben je transparant,
maar je voorkomt ook dat er later discussie over komt. Ik zie nu al
aankomen dat als het misgaat, de Kamer zal zeggen: waarom wisten we
het niet? Is het mogelijk dat hiernaar gekeken wordt?
De voorzitter:
Mag ik, alvorens de Minister deze vraag beantwoordt, de suggestie doen
om deze vraag ook mee te nemen in het commissiedebat Evaluatie
missies, dat wij volgens mij nog hebben? Dat wil ik in ieder geval ter
overweging meegeven. Dan heeft de Kamer wat uitgebreider de tijd om
daar ook zelf over na te denken.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

20

Mevrouw Belhaj (D66):
Nou, voorzitter, ik ga over mijn eigen vragen.
De voorzitter:
Daar gaat u zeker over. Dit was slechts een suggestie mijnerzijds.
Mevrouw Belhaj (D66):
Dat is superlief, maar dit is onderdeel van mijn initiatiefnota van anderhalf
jaar geleden. Daar stond dit ook in. Ik snap het, maar tegelijkertijd wil ik
voorkomen dat er weer een nieuwe discussie wordt gestart terwijl ik toch
wel vind dat ik weet waar ik het over heb. Daarom stel ik juist op dit
moment de vraag om daar wel over na te denken en om de Kamer te
informeren hoe dit op een goede wijze kan worden geïmplementeerd.
De voorzitter:
Discussies in de Tweede Kamer willen we niet hebben. Mevrouw
Ollongren, de Minister van Defensie.
Minister Ollongren:
Ik zal daar heel goed naar kijken, overigens met een welwillende grondhouding, want ik denk dat het altijd verstandig is om bij artikel 100brieven de Kamer zo volledig mogelijk te informeren. Een vraag die we
natuurlijk wel aan de voorkant moeten beantwoorden, is die naar de
definitiekwestie. Zoals ik net al betoogde, leidt de definitie van autonome
wapensystemen zoals wij die hebben gehanteerd, ook in onze kabinetsreactie, ertoe dat we vinden dat er een verbod op moet komen. Die zullen
we dus zelf ook niet inzetten, want die hebben we niet. Maar daar moet
dus nog wel een hele discussie over worden gevoerd. We moeten het
eens worden over die definitie. Er is nog geen internationaal verbod. Ik
snap dat u wil weten hoe we samenwerken met bondgenoten met wie wij
samen missies doen. Hoe werken die precies? Het is nu nog te vroeg om
toe te zeggen dat we dat in de volle breedte op deze manier kunnen doen,
maar we gaan er wel met een positieve grondhouding naar kijken.
Wellicht dat we daar in een volgend debat, zoals de voorzitter zei, een keer
op kunnen terugkomen.
Mevrouw Belhaj (D66):
Ik snap de verwarring, want ik zei het zelf ook weer fout. Als je het woord
«autonoom» gebruikt, ben je niet secuur. Dit gaat dus niet over de
volledig autonome systemen. Maar zelfs binnen die gedeeltelijk autonome
wapensystemen kun je dingen zo schuiven dat je heel erg in de buurt
komt van volledig autonoom. Als je de menselijke controle altijd wilt
behouden en je dat knopje niet aanzet dat er altijd menselijke controle
moet plaatsvinden – los van dat de definitie nog geformuleerd moet
worden – dan kan het een keer misgaan, zelfs in de huidige situatie.
Vandaar dat ik vroeg om daar goed naar te kijken. Met alle missies en
oorlogen moeten we goed bekijken of we dit niet ook kunnen doen bij
semiautonome wapens.
Minister Ollongren:
Ik ben wel heel blij dat dit misverstand is opgehelderd. We hebben het
over semiautonome wapensystemen. In de gradatie van wapensystemen
gaat het om systemen waarvan we denken dat we ze in de toekomst
nodig zouden kunnen hebben en kunnen inzetten. In reactie op de vraag
van mevrouw Belhaj om dat in de artikel 100-brieven wat explicieter te
maken, zeg ik dat ik daar welwillend naar wil kijken. Ik kan me die
informatiebehoefte van de Kamer goed voorstellen. Wij willen de Kamer
altijd volledig informeren. Maar het vergt nog wel even wat uitzoekwerk.
Het is dus geen toezegging dat we dit nu direct gaan toepassen.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

21

Mevrouw Belhaj (D66):
Het is dus wel een toezegging dat ernaar gekeken zal worden en dat erop
teruggekomen wordt. Als u er een willekeurige datum aan verbindt, wordt
het ook opgeschreven.
De voorzitter:
Wacht even. Sorry, even tussendoor. Ik hoorde de Minister volgens mij
aangeven dat het geen toezegging was en ik hoorde mevrouw Belhaj
zeggen dat het wel een toezegging was. Ik hoorde de Minister ook heel
duidelijk zeggen dat ze hier nog naar moet kijken en dat ze er op een later
moment op zou moeten terugkomen. Is het een tussenweg dat daar in het
debat dat ik net aanstipte, opnieuw op terug wordt gekomen? Ik meen dat
dat ergens in november plaatsvindt.
Mevrouw Belhaj (D66):
De toezegging van de Minister is niet: dat gaan we doen. De toezegging is:
we gaan ernaar kijken. Ik wil graag een datum hebben wanneer we er een
eerste check op kunnen hebben. Dat mag van mij ook over zes maanden
zijn. Dan horen wij over zes maanden misschien: we hebben ernaar
gekeken, maar we zijn nog geen stap verder. Het liefst hoor ik natuurlijk:
we zijn een enorme stap verder. Als ik er geen datum aan verbind, dan
verdwijnt het weer. Dat is de vraag.
De voorzitter:
Oké, helder. Volgens mij zijn we eruit. Dan ga ik het kabinet nog iets meer
tijd geven om daar helemaal uit te komen. Ik heb één toezegging
geregistreerd. Dat is de brief die wij begin januari ontvangen. Allicht is er
de mogelijkheid om in die brief hierop terug te komen. Mogelijk wenst het
kabinet langer de tijd te hebben.
Minister Ollongren:
Great minds think alike.
De voorzitter:
Uitstekend.
Minister Ollongren:
Collega Hoekstra stelde het net voor en u zegt het ook. Laten we het zo
doen.
De voorzitter:
Het is genoteerd. De Minister vervolgt haar betoog.
Minister Ollongren:
Voorzitter. De heer Boswijk was goed in het benoemen van mogelijkheden
die het biedt. Hij gaf het belang aan van snelheid en een bepaalde mate
van gedeeltelijke autonomie om je überhaupt te kunnen verdedigen. Het
is menselijkerwijs soms niet mogelijk, omdat de tijd gewoon te kort is
voor een reactie. Dat zien we bij die hypersone en ballistische raketten.
Een andere kant die aandacht verdient, zijn de kansen die worden
geboden. Denk aan zeemijnenbestrijding. Een mijn is een behoorlijk
autonoom ding. Hij denkt helemaal niet na, maar hij doet wel iets zonder
dat er een mens aan te pas komt. Als je dat kunt bestrijden met een
semiautomatisch systeem, heeft dat grote voordelen. Ik denk aan
onderwatersystemen, boten, gevechtsvoertuigen, logistieke robots. Een
heel andere toepassing, die ook militair is, is die van chirurgische robots
die gewonde militairen kunnen helpen. Er zijn dus heel veel toepassingen
waarvan we denk ik allemaal zeggen: dat is heel goed, daar moeten we
vooral mee verdergaan. Ik zie tal van mogelijkheden. De heer Boswijk

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

22

noemde de luchtverdediging. Dat is inderdaad een heel goed voorbeeld,
maar er zijn er dus meer.
Dan de industrie. Als je tot internationale afspraken komt, geeft dat
natuurlijk sowieso duidelijke kaders voor de industrie, maar het
uitgangspunt is nu al, bij de gezamenlijke R&D die we bijvoorbeeld doen
in NAVO-verband, dat menselijke controle gegarandeerd moet zijn. Dat is
dus al de huidige praktijk. De bestaande financieringsinstrumenten stellen
dit ook als voorwaarde als je die toepast. We hebben zelf ook gezegd dat
we het inrichten van de juiste randvoorwaarden voor de inzet van
datascience en artificial intelligence echt centraal stellen in onze eigen
aanpak en in onze eigen strategie en notities daarover. Nationaal werken
we ook samen met de kennisinstellingen die hier heel veel verstand van
hebben, namelijk TNO, NLR en MARIN. Die hebben samen een onderzoeksprogramma naar onderwerpen als mens-machinetiming, transparantie, uitlegbaarheid en maatschappelijke acceptatie van artificial
intelligence. Er is dus eigenlijk al een hele set vanwaaruit er verder
gewerkt kan worden.
Voorzitter. Ik kijk nog heel even in mijn aantekeningen of ik een vraag niet
heb beantwoord die wel gesteld is, maar ik heb de indruk dat ik hiermee
alle vragen heb beantwoord.
De voorzitter:
Helder. Dan dank ik u voor deze beantwoording en kijk ik of er aan mijn
linkerzijde behoefte is aan een tweede termijn. Er is een hele korte
behoefte bij de heer Van Dijk, zie ik, dus ik geef hem als eerste het woord.
De heer Jasper van Dijk (SP):
Voorzitter. Dank voor de antwoorden. Ik zou niettemin wel een tweeminutendebat aan willen vragen, om de regering nog een steuntje in de rug te
geven op dit dossier.
Ik zou de regering ook willen vragen om nog te reageren op wat in het
artikel van PAX staat. Het Rode Kruis geeft aan dat de mens geen doelwit
mag zijn van autonome wapens. Het oorlogsrecht zegt dat burgers nooit
doelwit mogen zijn bij oorlogshandelingen. En de eigen adviescommissie
van Defensie zegt nota bene dat autonome wapens geen onderscheid
kunnen maken tussen burgers en militairen. Dat moet u toch aansporen
om daarop een wat steviger reactie te geven? Mag ik die aan u vragen?
De voorzitter:
Dank. Mevrouw Belhaj.
Mevrouw Belhaj (D66):
Voorzitter. Ik dank de beide bewindspersonen voor de beantwoording. Ik
heb nog twee dingen op te merken. Er wordt vaak gezegd dat we
manieren moeten vinden om om te gaan met technologische ontwikkelingen. Het interessante is dat Europa in de negentiende eeuw met de
opkomst van de drukkunst en allerlei transportmogelijkheden ontzettend
werd overvallen door het zwart anarchisme, en allerlei securityorganisaties eigenlijk achter de feiten aanliepen. En in de twintigste en de
eenentwintigste eeuw was er technologie zoals internet, wat we een
interessante ontwikkeling vonden maar waarbij we in zekere zin eigenlijk
ook te laat hebben gehandeld. Dat was vanuit eenzelfde soort gedachte:
het biedt kansen, maar hoe kunnen we voorkomen dat het als wapen
wordt gebruikt? Datzelfde gevoel heb ik nu. Dat heeft er niet alleen mee te
maken dat ik een ongeduldig mens ben, maar er is genoeg. Er liggen
genoeg verzoeken van organisaties, bedrijven, ngo’s en landen die dit
heel graag willen. Er zijn knappe koppen bij TNO, Defensie en Buitenlandse Zaken. Er ligt zo veel, dus laten we alsjeblieft niet te lang wachten
met het maken van een keuze. Die keuze zal wellicht nooit helemaal

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

23

perfect zijn, maar we kunnen beter een keuze maken en een route in gang
helpen dan wachten totdat we overvallen worden.
Voorzitter. Ik rond af. Er zat hier zonet een schoolklas op de publieke
tribune.
De voorzitter:
Die gelijk ook weer vertrokken is.
Mevrouw Belhaj (D66):
Die zijn inderdaad gelijk weer vertrokken. Ik had ze graag willen vertellen
dat waar wij hier mee bezig zijn, over hun toekomst gaat. Ik meen dat
oprecht. Ik hoop van harte dat we op dit onderwerp niet te veel politiek en
traag handelen. Ik snap diplomatie en ik snap het belang van verbinden. Ik
zie alle inzet, maar dit gaat echt ergens over. Ik hoop van harte dat we
over tien jaar terugkijken op dit moment en op verschillende andere
momenten, en dan weten dat deze Minister en de andere Ministers die
erbij betrokken waren het lef hebben gehad om leiderschap te tonen,
zodat deze kinderen over tien jaar niet in een wereld leven waarin wij zelf
ook niet willen leven. Dit is mijn persoonlijke appel: loop de wedstrijd om
hem te winnen en niet om te zeggen dat er zo veel barrières zijn.
De voorzitter:
Dank. De heer Boswijk.
De heer Boswijk (CDA):
Voorzitter. De vloek van onze mensheid is dat het lijntje tussen
vooruitgang en verderf altijd heel dun is. Ik snap het appel van mevrouw
Belhaj. Ik moet alleen tijdens dit debat vaak terugdenken aan een brief die
mijn overgrootopa schreef in 1914 of 1915, toen de Eerste Wereldoorlog
net was uitgebroken. Hij zag in de vliegtuigen het einde van de wereld,
want in de Bijbel staat dat er aan het einde van de tijd wordt gevochten in
de lucht. Ik ben heel erg blij dat we niet naar mijn opa hebben geluisterd,
want dan hadden de verkeerde landen vliegtuigen gehad en de westerse
wereld niet. Dat is dan weer een andere inkleuring, namelijk dat we altijd
nuchter en realistisch na moeten denken. Ik doe daarmee niet af aan de
zorgen van collega Belhaj, maar dat is altijd het spanningsveld waar je in
zoekt. Uit de antwoorden van de Ministers haal ik dat daar wel serieus
naar wordt gekeken en dat die belangenafweging ook zorgvuldig wordt
gedaan.
De voorzitter:
Dank. Dan wil ik het voorzitterschap zeer kortstondig aan de heer Van Dijk
geven.
Voorzitter: Jasper van Dijk
De voorzitter:
En ik geef het woord aan u, meneer Valstar.
De heer Valstar (VVD):
Dank, voorzitter. In navolging van mevrouw Belhaj wil ik eigenlijk ook het
CLAS aanhalen. Waar mevrouw Belhaj vooral de uitdaging ziet om vrede
te stichten over tien jaar, omdat wij dan afspraken over autonome of
semiautonome wapens hebben gemaakt, wil ik dat we deze generatie niet
uit naïviteit ... Ik vind dat we hen moeten beschermen tegen vijandelijke
mogendheden. Ik zou de Minister van Buitenlandse Zaken willen vragen
hoe hij kijkt naar bijvoorbeeld een land als China dat wel een handtekening onder de CCW heeft gezet, maar daar wel de kanttekening bij heeft
gemaakt dat het alleen een handtekening zet voor het gebruik van de
desbetreffende wapens. Nogmaals, en ik heb dit in de eerste termijn ook

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

24

al een paar keer gezegd: ik vind dat wij ons in het huidige tijdsgewricht
geen naïviteit kunnen veroorloven en ik vind ook dat Nederland, toch niet
de grootste speler op het militaire wereldtoneel, niet ernstig voorop hoeft
te lopen op dit vlak.
Dank.
De voorzitter:
En daarmee bent u weer voorzitter.
Voorzitter: Valstar
De voorzitter:
Dank. Dan kijk ik naar mijn rechterzijde. Kunnen we direct overgaan tot de
beantwoording? Dat is het geval. Dan geef ik de Minister van Buitenlandse
Zaken het woord.
Minister Hoekstra:
Voorzitter, dank. Ik ben het zeer eens met de bespiegeling en de verwijzing
naar de schoolklas van mevrouw Belhaj en van uzelf. Ik ben het er
overigens ook mee eens dat het voor beide pilaren geldt. Dat is precies
wat het kabinet heeft proberen aan te geven. We zijn gevoelig voor de
argumentatie langs beide lijnen.
In reactie op uw vraag ten aanzien van China zou ik willen verwijzen naar
wat ik daar eerder over heb gezegd. Het wordt natuurlijk de kunst om het
ten eerste niet alleen eens te worden met een grote groep landen, ook
met landen die nu nog helemaal niet geporteerd zijn van zo’n VN-route,
en om dat ten tweede ook expliciet te maken. Naar mijn overtuiging is het
dan ook noodzakelijk dat je afspraken maakt over de handhaving, want
anders heb je niks. Dan koop je wel een goed gevoel op de ene as, maar
ben je naïef op de tweede, en je wilt op allebei zaken kunnen doen. Dat
zou ik nog willen zeggen over China.
De heer Van Dijk had geen vraag, maar wil de beraadslaging graag
voortzetten. Dat laat ik aan hem. Ik had gehoopt dat we de Kamer van
voldoende antwoorden hadden voorzien, maar dat is uiteraard aan hem.
De voorzitter:
Ik kijk even naar de heer Van Dijk of hij ingaat op deze uitnodiging om af
te zien van het tweeminutendebat.
De heer Jasper van Dijk (SP):
Nee, ik heb ook geen nieuwe standpunten gehoord.
De voorzitter:
Waarvan akte. Dan geef ik het woord aan de Minister van Defensie.
Minister Ollongren:
Dan ga ik toch nog een poging doen, want ik had natuurlijk dezelfde hoop.
Misschien kan ik in aanvulling op wat ik net heb gezegd en in reactie op
het stuk van PAX, dat de heer Van Dijk aanhaalt, zeggen dat burgers op
grond van het humanitair oorlogsrecht bescherming genieten. Dat is
belangrijk. Burgers, personen die niets met het gevecht te maken hebben,
moeten beschermd worden. De gedeeltelijk autonome wapensystemen
waar Nederland in de toekomst mogelijk over beschikt, zijn er om dat te
doen in oorlogssituaties, op grond van hoe wij zelf natuurlijk wel
gebonden zijn aan het humanitaire oorlogsrecht. Daarvoor moeten ze
worden ingezet. Daar zijn wel mensen bij betrokken, maar niet burgers en
mensen die dus niks met het militaire deel te maken hebben. U weet dat ik
mij ervoor inzet om zo veel mogelijk te voorkomen dat er ongewild toch
burgerslachtoffers vallen. Dat betekent dus dat dit bij het nadenken over
nieuwe wapensystemen, ook semiautonome wapensystemen, zorgvuldig

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

25

moet worden getoetst aan internationaal recht en dus aan de toetssteen
van betekenisvolle, menselijke controle. Ik schetste dat net al in antwoord
op vragen van mevrouw Belhaj. Dat zou mijn reactie zijn op de vragen van
de heer Van Dijk en op het stuk van PAX.
Ik wil er nog aan toevoegen dat het niet investeren in dat soort technologische ontwikkelingen juist een risico is voor de veiligheid. Ons veiligheidsbelang is dat we mensen en burgers kunnen beschermen in
Nederland en in de NAVO, met onze bondgenoten, en daar in de wereld
waar wij op grond van eigen keuzes en op onze eigen juridische basis
ervoor kiezen om mensen te beschermen. We moeten ons er wel bewust
van zijn dat die technologie voortschrijdt, ook zonder ons. We moeten het
niet per se allemaal willen toepassen, maar we moeten het wel begrijpen.
We moeten ons wel kunnen verdedigen en ook mensen kunnen verdedigen. Dus we doen dat terwijl we ons bewust zijn van de risico’s op een,
in mijn ogen, verantwoorde manier.
De heer Van Dijk vroeg naar onze eigen adviescommissie. Ten eerste is
het goed dat we een kritische adviescommissie hebben, maar het advies
waar hij naar verwijst, is een zogenaamd kaderstellend advies inzake
loitering munitions. Dat is een heel specifiek type wapens. Dat zijn wapens
die in staat zijn om boven een gebied aanwezig te zijn om een heel
specifiek doel aan te vallen of juist niet, als het doel daar bijvoorbeeld niet
blijkt te zijn. Daarin is de gedachte meegegeven dat je drie types hebt. Je
hebt wapens die pas overgaan tot de aanval na opdracht van een mens.
Je hebt wapens die zelfstandig een doel selecteren en aanvallen volgens
de wijze waarop ze zijn voorgeprogrammeerd, volgens een voorgeprogrammeerde parameter. Mogelijkerwijs kan een mens de aanval dan nog
stoppen als je het toch anders wilt zien. En je hebt wapens die zelfstandig
een doel selecteren en aanvallen aan de hand van voorgeprogrammeerde
parameters. Dat zijn allemaal stappen in het type loitering munitions,
zoals dat heet, die je je zou kunnen voorstellen. De adviescommissie heeft
daarbij meegegeven dat type één op minder grote bezwaren stuit dan
type twee en drie, vanuit juridisch en ethisch oogpunt. Het is heel nuttig
dat dat advies er ligt, want dan kunnen we daar rekening mee houden en
het meewegen.
Voorzitter. Voor het overige heb ik goed geluisterd. En ik denk dat de opa
van de heer Boswijk inmiddels hetzelfde vindt. Dank u wel.
De voorzitter:
Als de opa er nog steeds is, natuurlijk. Nou, al even niet meer, zie ik. Wij
zijn bijna aangekomen bij het einde van het debat. Ik verzoek u nog even
aan mijn lippen te blijven hangen, want ik ga nog een toezegging
voorlezen.
– De Minister van Buitenlandse Zaken zegt toe de Kamer uiterlijk
15 januari 2023 te zullen informeren over de inzet van Nederland
tijdens de in Nederland te organiseren conferentie inzake artificial
intelligence in het militaire domein, die plaatsvindt op 15 en 16 januari
2023.
– De Minister van Defensie zegt daarbij toe de Kamer in voorgenoemde
brief ook te informeren over het al dan niet opnemen van gebruik van
semiautonome wapensystemen in artikel 100-procedures.
Ik zie instemmend geknik aan mijn rechter- en linkerzijde. Dat is
uitstekend. Als laatste wens ik nog aan te tekenen dat de heer Van Dijk een
tweeminutendebat over autonome wapens heeft aangevraagd, dus wij
zien elkaar terug in de plenaire zaal. Ik wens u allen een fijne avond.
Sluiting 17.38 uur.

Tweede Kamer, vergaderjaar 2022–2023, 33 694, nr. 65

26