WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

Input prof. mr. i.E.i. Prins (voorzitter WRR, hoogleraar recht & informatisering, TILT, Tilburg
University) t.b.v. rondetafelgesprek over Drones en Killer Robots op maandag 21 januari 2019, vaste
commissie voor Buitenlandse Zaken van de Tweede Kamer

Ronde 2: wat zijn de mogelijkheden van wetgeving
De discussie over de mogelijkheden van wetgeving (en in het geval van deze input ook: de implicaties
voor wetgeving) is deels afhankelijk van de vraag of de drone voor civiel gebruik dan wel voor militaire
doeleinden wordt ingezet (vaak ook aangeduid als ‘Killer Robot’ of autonome wapens). Veel is reeds
geschreven en gesproken over regulering van het tweede type gebruik.’ Minder gedetailleerde analyses
zijn voorhanden inzake civiel gebruik, zoals gebruik voor commerciële doeleinden (voor het afleveren
van pakketten, post en andere zaken maar bijvoorbeeld ook voor particuliere beveiliging). En gebruik
door particulieren drones voor plezier (zoals Drone races of tijdens vakantie).
De drone is een typisch voorbeeld van een technologische innovatie die vragen oproept op meerdere
juridische deelterreinen en daarmee wetgevingsterreinen. Bij militaire inzet spelen kwesties rondom
internationaal publiekrecht en oorlogsrecht in relatie tot de wel/niet inzet van autonoom handelende
killer drones alsook modelveiligheidskwesties (hacken van killer drones door vijandige mogendheden).
Ook roept het vragen op over de verhouding tot het internationale humanitaire recht en in relatie tot
jurisdictie wanneer vanuit land A een drone als wapentuig wordt ingezet in land B, al dan niet in een
oorlogssituatie.
Bij civiel gebruik spelen kwesties als privacy, aansprakelijkheid en bewijslevering. Ook internationale
standaardisering en veiligheid alsmede identificatie van de drone spelen bij civiel gebruik (onder meer
om te achterhalen aan wie de drone toebehoord, bijvoorbeeld in het geval van schade). Verder spelen
kwesties rondom eigendom van en beschikkingsmacht over dat wat technologisch vastgelegd wordt,
alsmede kwestie inzake gebruik van persoonsgegevens, bedrijfsgegevens maar ook copyright op plaatjes
en informatie. Deze kwesties hebben potentieel een grensoverschrijdende component en worden in
ieder geval gereguleerd door internationale (Europese) wetgeving. Ten slotte gaat het om
verzekerbaarheid en aansprakelijkheid voor handelingen met drones. Niet duidelijk is bijvoorbeeld of
art. 6:173 BW inzake schade door roerende zaken ook op drones van toepassing is. Luchtvaartuigen
waaronder conform art. 1.1 Wet Luchtvaart ook drones vallen zijn op grond van het derde lid namelijk
uitgezonderd van de regeling. De rechter zou kunnen oordelen dat deze uitzondering destijds niet was
bedoeld voor de situatie waarin particulieren van een drone gebruik maken en benadeelden daarmee
2
wel een beroep op art. 6:173 BW kunnen doen om hun schade te verhalen. Maar eenduidig is dit niet.
—

—

Voor beide type toepassingen (militair en civiel) geldt dat drones niet alleen moeten worden gezien als
een fysiek object dat bijvoorbeeld hinder kan veroorzaken (zoals in het luchtruimincident in het VK) of
schade kan toebrengen. Voor de regulering van het fysieke object in het geval van civiel gebruik wordt
momenteel aangeknoopt bij regels inzake modeivliegtuigen. De vraag is echter of het uitsluitend een
modelvliegtuig betreft (zie hierna). Voor wat betreft militaire doeleinden geeft het fysieke object
aanleiding tot een kwalificatie in relatie tot de Wet wapens en munitie. Een drone die een killer robot is,
zal moeten worden aangemerkt als een vuurwapen in de zin van deze wet en van Verordening (EU) nr.
258/2012. Deze kwestie laat overigens ook zien dat de lijn tussen militaire en civiele toepassingen niet
altijd functioneel is. Een kwalificatie als vuurwapen is immers ook breder dan uitsluitend in het debat
1

Zie o.a. AIV/CAW, Autonome wapensystemen. De noodzaak van betekenisvolle menselijke controle, 2015, https://aiv
advies.nh/download/3ea81d78-fe7l-404c-Saff-62b4898969a7.pdf
2
Zie: J.EJ. Prins, Drones en een strategische wetgevingsagenda, Nederlands Juristenblad, 93 (28) 2041

Buitenhof
Postbus 20004,2500 CA Den Haag
telefoon (070) 35646 00, website: www.wrr.nl, e-mail: info@wrr.nl

WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

over militaire toepassingen relevant. De fysieke verschijningsvorm van drones is echter ook een middel
om informatie te verzamelen, deze informatie te duiden en daarop te reageren. In die zin is de EU
Verordening Persoonsgegevens in combinatie met studies en aanbevelingen over de inzet van big data
en meer recent artificial intelligence en gezichtsherkenning evenzeer relevant.
3
Bij wetgeving op het terrein van technologie speelt telkens weer de vraag of en in hoeverre deze
technologie-neutraal dient te zijn. Ook bij drones komt deze vraag naar voren. Achterliggend bij de
kwestie van technologie-neutrale wetgeving is de lang niet altijd eenvoudig te beantwoorden vraag wat
er nu precies nieuw is aan de applicatie. Kortom: wat maakt drones voor civiel gebruik en killer robots
voor militaire toepassingen anders dan we tot nu toe al hadden of toe in staat waren?

Kijkend naar wat er anders is als het gaat om civiele doeleinden: een drone wordt zoals gezegd in ons
land momenteel aangemerkt als een modeivliegtuig in de zin van de Wet Luchtvaart en daarmee is de
Regeling Modelvliegen van toepassing. Specifieke technologie-afhankelijke regulering van drones zou
dus wellicht niet noodzakelijk hoeven te zijn. Er is immers al een regelgevend kader en dat kan vrij
eenvoudig worden aangepast. Die aanpassing komt er dit jaar met de nieuwe door de EASA (European
Aviation Safety Agency) gestelde regels.
4 Deze aanpassing is onder meer ingegeven vanuit de huidige
verschillen binnen de EU
, wat tot problematische situaties leidt indien zich ongelukken met een drone
5
voordoen. Verzekeraars dekken over het algemeen tot een fors bedrag de schade (1,25 miljoen) ten
gevolg van ongelukken met een drone, maar stellen wel als voorwaarde dat de gebruiker van het object
zich aan de wettelijke regels heeft gehouden. Met de verschillen in toepasselijke regels binnen Europa
weten consumenten momenteel veelal niet aan welke voorwaarden ze in welk land moeten voldoen.
—

-

De vraag is echter of een regeling die aanhaakt bij modelvliegtuigen kan worden volstaan c.q. dat deze
voldoende robuust is voor de toekomst. 6 Zoals bij veel technologische applicaties gaat het ook hier om
een combinatie van kenmerken die de applicatie toch ‘anders’ dan een klassiek modelvliegtuig doet zijn.
Vooral omdat de drone in feite een combinatie is van meerdere toepassingen die voorheen los van
elkaar stonden (en ook afzonderlijk werden gereguleerd). Want wat is een drone nu eigenlijk precies:
een modelvliegtuig, een slimme vliegende camera, een wapen, een manier om een commerciële dienst
te realiseren of zelfs een potentieel instrument bij het benutten van het grondwettelijk gegarandeerde
recht op vrijheid van demonstratie? En hoe valt van een afstand te zien voor welk van deze doeleinden
de drone wordt ingezet? Zoals Uber en Airbnb voor toepasselijke wetgeving relevante
kwalificatieproblemen opleveren (een taxibedrijf of een digitale dienstverlener?), zo is dat ook bij
drones het geval. Kortom, het staat op voorhand niet vast of we op termijn kunnen en moeten volstaan
met wetgeving die primair aanhaakt bij de fysieke verschijningsvorm concreet momenteel vanuit het
beleidsterrein van luchtvaart. Zeker als de camera op de drone met intelligente software is/wordt
uitgerust (voorzien van Al-applicatie) en aan gezichtsherkenning doet. De verwachting is dat drone
applicaties op termijn zelfs in staat zijn om aan de hand van de observatie van de houding van (groepen)
mensen bepaalde beslissingen te nemen al dan niet autonoom.
7 Zijn dit dan applicaties die
commerciële bedrijven (bijvoorbeeld: Google voor hun t.z.t. nieuwste Streetview-applicatie) kunnen en
mogen inzetten? Daarbij geldt dat drones kleiner en wendbaarder zijn dan vliegtuigen. Kortom, ze
kunnen worden gebruikt voor waarnemingen “uit de lucht” die dieper in de privésfeer binnendringen
—

—

Zie daarmee voor de inzet in het veiligheidsdomein: WRR 2016, Big Data in een Vrije en Veilige Samenleving.
https://www.easa.europa.eu/document-library/opinions/opinion-012018
Zie de regels voor verschillende landen: https://www.dronedepot.be/wetgeving-drones/
6
Zie ook recent over enkele kwesties in relatie tot luchtvaart-regulering: 1. Kaminska, “Do not blame the drones for outpacing
airspace regulation”, Financial Times, 12januari 2019
Zie voor wetenschappelijk werk aan applicaties die houding van groepen van mensen kunnen typeren en duiden:
https://arxiv.org/abs/1901.00148

‘1

WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

dan vliegtuigen en helikopters, en zelfs nog meer dan de soms boven woonwijken vrij laag passerende
heteluchtballonnen. Dat roept dus ook extra vragen van privacybescherming op. Is het regelgevend
kader van de AVG nog wel voldoende in staat om publieke belangen te beschermen en datamachtsverhoudingen te reguleren? Bovendien: welke toezichthouder(s) dient/en zich primair met
drones bezig te houden?
Ook bij militaire toepassingen is de kwestie van ‘autonoom handelen’ relevant bij het antwoord op de
vraag ‘wat is er nieuw?’. In de literatuur wordt in dit verband gewerkt met een model dat de volgende
onderscheidingen hanteert: humans in the loop, humans on the loop en humans out of the loop.
“Human-in-the-loop weapons: Robots can only select targets and deliver force with a human command.
Human-on-the-loop weapons: Robots can select targets and deliver force on their own, but there is
human oversight and the possibility of human override. Human-out-of-the-loop weapons: Robots act
autonomously, selecting targets and delivering force without human oversight or override.”
8
De laatste in deze notitie te noemen kwestie betreft: in welke mate van detail moeten drones
‘identificeerbaar’ zijn? Is de spreekwoordelijke nummerplaat die verplicht is voor veel voertuigen die op
de openbare weg komen (auto’s, etc.), ook voor drones van toepassing? En heeft een (strafrechtelijke)
sanctie te gelden als er bewust zonder identificatie wordt rondgevlogen?
In ons land zijn drones nu nog ‘anoniem’, wat problemen kan opleveren in situaties dat achterhaald
moet aan wie de drone toebehoort. Te denken valt aan een situatie waarin bewijslevering relevant is,
bijvoorbeeld als er ten gevolge van het gebruik van de drone schade is. Een registratie zou de
bewijsproblemen voor slachtoffers met schade ten gevolge van drone-ongevallen althans iets verhelpen.
Maar de noodzaak tot identificatie kan ook gewenst zijn als drones ook over de grenzen heen
worden ingezet voor demonstraties dan wel juist het verstoren van demonstraties. Het is zeker niet
onrealistisch dat bij een volgende demonstratie over omstreden kwesties in ons land dan wel kwesties
die in andere landen spelen maar hier hun effect hebben (verkiezingen elders en voeren van campagne
alhier) de demonstranten niet in persoon komen, maar hun drone inzetten.
—

—

In enkele landen, waaronder Duitsland, geldt momenteel een registratiesysteem zodat duidelijk is aan
wie een drone toebehoort. Met de nieuwe EASA-regels komt er een verplichting tot een ingebouwde
chip aan de hand waarvan identificatie vereenvoudigd wordt. Een chip kan echter welbewust worden
vernietigd, omzeild, etc. Dat roept de vraag op of het wenselijk is om in dit geval sanctionerend op te
kunnen treden? Een van de relevante overweging om deze stap te zetten is dat drones onder bepaalde
omstandigheden zijn aan te merken als een vuurwapen en gebruikers daarmee hebben te voldoen aan
de nationale en internationale regels inzake het bezit van vuurwapens. Maar het is op afstand niet te
bepalen of de drone is voorzien van een wapenfunctionaliteit dan wel hiermee op een later moment
uitgerust kan worden. Dit betekent dat een meer generieke benadering aan de orde is, ook wat betreft
het eventuele sanctioneren van het omzeilen van verplichtingen tot registratie.
Ten slotte

De (grondrechtelijke) eindverantwoordelijkheid van de overheid en daarmee het antwoord op de vraag
of wetgeving mogelijk is en aan de orde is om de inzet van drones door de samenleving te regulering, is
natuurlijk een lastige zaak, omdat er voor een aantal valkuilen gewaakt moet worden. In de eerste plaats
moet er niet te gemakkelijk over sturing worden gedacht. Interveniëren in maatschappelijke relaties en
in dit geval in (internationale) informationele verhoudingen is weliswaar de bestaansreden van de staat,
maar het is tegelijkertijd in zekere zin een waagstuk: interventies kunnen door allerlei factoren in hun
8

https://philpapers.org/archive/DANTTO-13.pdf

WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

tegendeel verkeren, en het is zaak daar vooraf bij stil te staan. Goed is het daarom dat de vaste
commissie voor Buitenlandse Zaken van de Tweede Kamer tijdens het rondetafelgesprek stil staat bij de
vraag naar wetgeving en drones/Killer Robots.
Voor wat betreft de inzet van killer drones wordt al enkele jaren, zowel in nationaal als internationaal
verband, gesproken over afspraken en mogelijke regulering.
9 In ons land presenteerde de Adviesraad
Internationale Vraagstukken (AIV) in 2015 een rapport waarin werd gewaarschuwd voor de
schaduwkanten van de toepassing.
° Het Nederlandse kabinet reageerde met een uitgebreid
1
1 en bevestigde naar aanleiding van vragen van het Tweede Kamerlid Van der Staaij eind
standpunt’
maart 2018 nogmaals dat “betekenisvolle menselijke controle altijd noodzakelijk is bij de inzet van
autonome wapensystemen.”
12 De ministers Blok en Bijleveld merkten daarbij op dat: “Nederland als één
van de weinige landen met een uitgebreid kabinetsstandpunt over dit onderwerp de samenvatting
hiervan ook als non-paper” heeft ingediend bij het debat over autonome wapensystemen dat
plaatsvindt binnen de Convention on Certain Conventional Weapons (CCW) van de VN. Tot nu toe lopen
deze onderhandelingen zeer stroef.
13
Alhoewel het wat betreft civiele toepassingen een valkuil is om regulering vanuit een
‘gebruikersmentaliteit’ aan te vatten de informatiesamenleving is niet ‘van de overheid’ toont de
voorgaande analyse dat de drone wel degelijk kenmerken in zich draagt en mogelijke functionaliteiten
kent die reden zijn om wetgeving vanuit een bredere perspectief te doordenken dan uitsluitend vanuit
de huidige kwalificaties. En ten slotte vraagt de komst van drones om aandacht in de nieuwe
Luchtvaartnota 2020-2050.
-

—

Met vriendelijke groet,
Prof. mr. J.E.J. Prins

Voorzitter WRR

Zie voor relevante informatie: https ://www.nytimes.com/2018/11/15/magazine/autonomous-robots-weapons.html;
Zie ook
over de zorgen: https://futureoflife.org/autonomous-weapons-open-letter-2017;
https://www.vrt.be/vrtnws/nl/2018/07/04/resolutie-killerrobots/
10
AIv/cAw, Autonome wapensystemen. De noodzaak van betekenisvolle menselijke controle, 2015, https://aiv
advies. nl/download/3ea81d78-fe7l-404c-8aff-62b4898969a7.pdf
“
Kabinetsreactie 4 maart 2016, https://www.rijksoverheid.nl/documenten/kamerstukken/2016/03/04/kamerbrief-over12

Brief van 30 maart 2018 van de ministers Blok en Bijleveld aan de Tweede Kamer.

13

robots-at-un/