WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

Notitie rondetafelgesprek over juridische aspecten van Al op donderdag 29 maart 2018 van 10.00 tot
12.45 uur

Geachte leden van de vaste commissie voor Justitie en Veiligheid,

Als voorzitter van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) en tevens hoogleraar
recht en informatisering verbonden aan Tilburg University dank ik u voor de gelegenheid om in uw
vergadering vanuit de wetenschap iets te mogen zeggen over Artificiële Intelligentie (Al) in het recht.

Laat ik beginnen met de observatie dat de thematiek breed en fundamenteel is. Ik ga ervan uit dat
door de thematiek van de bijeenkomst te formuleren onder de noemer “Al in het recht”

—

-

de

bijeenkomst van uw commissie primair gericht is op een discussie over de inzet van Al bij de
rechtsontwikkeling, rechtstoepassing en handhaving van het recht. Kortom, niet op de Juridische
implicaties van Al, zoals aansprakelijkheid, privacy, etc. Overigens zijn beide invalshoeken niet strak van
elkaar te scheiden. Immers, ook wanneer Al in het recht wordt ingezet spelen bijvoorbeeld kwesties
rondom transparantie en accountability. Illustratief is de online rekentool Aerius en daarmee een stap
-

richting Al bij de uitvoering van de Omgevingswet. Wat als instanties verantwoordelijk voor de
-

uitvoering en daarmee rechtstoepassing niet langer in staat zijn aan te tonen hoe het Al-systeem tot een
besluit m.b.v. een beslisregel kwam? Terecht dat de Afdeling Bestuursrechtspraak voorjaar 2017 de
bewindspersonen die het op kunstmatige intelligentie gebaseerde rekeninstrument Aerius inzetten bij
het berekenen van toegestane hoeveelheden stikstof verplichtte om de “gemaakte keuzes en de
gebruikte gegevens en aannames volledig, tijdig en uit eigen beweging openbaar te maken op een
passende wijze zodat deze keuzes, gegevens en aannames voor derden toegankelijk zijn.”
1

Kortom, ook bij de inzet van Al in het recht, is risicovol dat de gehanteerde en vervolgens door het
systeem verder aangeleerde criteria niet of nauwelijks transparant te maken zijn. Problematisch is dan
AI3RvS 17mei 2017, ECLI:NL: RVS:2o17: 1259, rechtsoverweging 14.3 en 14.4.
1

Buitenhof 4, Postbus 20004,2500 EA Den Haag
telefoon (070) 356 46 00, website: www.wrr.nl, e-mail: info@wrr.nl

WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

dat de resultaten van op Al gebaseerde analyse nauwelijks via menselijke interventie op hun
betrouwbaarheid worden gecontroleerd dan wel zijn te controleren. Daarmee ligt het risico van
ondoorzichtig, en mogelijk willekeurig en onjuist handelen en oordelen op de oer. Juist bij toepassingen
in het recht, is het van groot belang dat de rechtsbescherming dan is toegesneden op de specifieke

kenmerken van Al. Reeds op dit moment

—

dat wil zeggen nu Al nog niet grootschalig wordt benut blijkt
-

rechtsbescherming problematisch. Illustratief is de praktijk bij uitvoeringsinstanties die vooraf
ingevoerde beslisregels (algoritmen) hanteren. In haar recente dissertatie Geautomatiseerde
ketenbesluiten & rechtsbescherming concludeert Marlies van Eck dat het bestuursrecht en daarmee de
rechtsbescherming momenteel onvoldoende is aangesloten op deze ontwikkeling. Uw Kamer heeft over
haar bevindingen reeds vragen bij de verantwoordelijk bewindspersoon neergelegd. Ook de voorzitter
van de Afdeling Bestuursrechtspraak Raad van State concludeerde recent: “De juridische werkelijkheid
en het juridische begrippenkader is gebaseerd op wetgeving van toen die niet of strookt met de
technische digitale ontwikkelingen van nu en de daarbij gebruikte taal.”
2 Mijn aanvullende punt hier is
dat de inzet van Al de problematiek alleen maar indringender zal maken. In het belang van een goede
rechtsbescherming en ter voorkoming van een ongelijkwaardige procespositie van partijen zou Uw
Kamer kunnen overwegen de opdracht tot expliciteren zoals neergelegd in de genoemde uitspraak van
de Afdeling Bestuursrechtspraak wettelijk te verankeren.

Alhoewel er vele zorgpunten en risico’s zijn te noemen, biedt Al zeker ook kansen om de ontwikkeling,
toepassing en handhaving van het recht te verbeteren. In het Nederlands Juristenbiad heb ik
voorbeelden gegeven om onder meer de kwaliteit en doorlooptijden binnen de rechtspraak te
3 Dat de rechtspraak deze stappen zet, is overigens om meer redenen dan alleen kwaliteit en
verbeteren.
doorlooptijden relevant. Cruciaal is het ook vanuit het systeem van checks and balances van de
staatsmachten. Elkaar als staatsmachten kunnen controleren en tegenwicht betekent dat alle
staatsmachten elkaar in Al-opzicht de maat kunnen meten. Is de rechter in staat maar ook voldoende
-

gefaciliteerd om de potentieel onevenwichtige of ongelijke positie van burgers ten opzichte van de
-

veiligheidsorganisaties te beoordelen en te controleren? In ons WRR-rapport ‘Big Data in een vrije en
veilige samenleving’ hebben we laten zien dat we niet ver af staan van semiautomatische en geheel
automatische besluitvorming, waarbij de uitkomsten van data-analyses sturend zijn voor het handelen
2 B.J. van Ettekoven, Behoorlijke bestuursrechtspraak in het Big

data tijdperk, in: R.J.N. Schlössels e.a. (red.), In het
nu.... Over toekomstig bestuursrecht (SteR-reeks 35), Deventer: Wolters Kluwer 2018.
3 J.E.J. Prins, J. van der Roest, “Al en de rechtspraak. Meer dan alleen de ‘robotrechter’”, Nederlands Juristenblad,
no. 4 2018, pp. 260-268..

WRR
WETENSCHAPPELIJKE RAAD VOOR HET REGERINGSBELEID

van veiligheidsorganisaties zoals de politie.
4 Illustratief zijn ook de ‘experimenteeromgevingen’ met
slimme data-analyse data-analyse om beter zicht te krijgen op kindermishandeling, op migratiemotieven
en opleidingsniveaus van asielzoekers en op patronen met betrekking tot ondermijnende criminaliteit.
5
Kortom, als niet alle staatsmachten in min of meer gelijkwaardig opzicht Al ‘onder de knie’ hebben en
zelfs voor eigen doeleinden inzetten, kan de balans verstoord raken. Overigens wil ik in dit verband niet
onvermeld laten dat er ook duidelijk kansen voor u als medewetgever liggen. Met behulp van Al valt o.a.
de complexiteit van wet- en regelgeving in kaart te brengen en kan het systeem als het ware ‘adviseren’
over maatschappelijke acceptatie van wetgeving.
6 Ook kan kennis opgedaan bij de bestuursrechtspraak
via de Afdeling Advisering van de Raad van State worden teruggekoppeld aan de wetgever.
7

Belangrijk zal in ieder geval ook een discussie moeten zijn over de vraag naar de principiële
ontoelaatbaarheid van bepaalde vormen van Al-gebruik in het recht en de rechtstoepassing. Daarbij
dienen individuele belangen van burgers maar zeker ook collectieve belangen op het netvlies te staan.
Dat individuele rechten in het geding kunnen zijn toont het E-Court initiatief, een private digitale
arbitrage-instelling die juridische conflicten geheel online afwikkelt. Zeker wanneer Al wordt ingezet is
het van belang vast te houden aan het uitgangspunt dat technologie de procedure kan faciliteren, maar
niet de rechterlijke besluitvorming kan vervangen. Zelfs bij routinezaken is dat ook niet mogelijk, omdat
het zelden voorkomt dat zowel de feiten als de juridische kwalificatie daarvan volledig automatisch
kunnen worden vastgesteld.
8 Relevant is hier ook dat art. 22 van de Algemene verordening
gegevensbescherming (AVG, EU 2016/679) burgers het recht geeft niet te worden onderworpen aan een
uitsluitend op geautomatiseerde verwerking gebaseerd besluit, waaraan voor hen rechtsgevolgen zijn
verbonden of dat hen anderszins in aanmerkelijke mate treft, tenzij zij daarin uitdrukkelijk toestemmen
(lid 2c) en er voorzien wordt in een recht op menselijke tussenkomst, het recht om een standpunt
kenbaar te maken en het recht het besluit aan te vechten (lid 3). Maar de discussie over de principiële
ontoelaatbaarheid van bepaalde vormen van Al-gebruik moet ook gevoerd worden met het oog op
collectieve belangen. Belangrijk is dat in de toepassing van Al in het recht het risico schuilt dat het recht
4 WRR, Big Data in een vrije en veilige samenleving, Amsterdam: Amsterdam Universitv Press, 2016.

5 Kabinetsreactie op de rapporten ‘Opwaarderen. Het borgen van publieke waarden’ en ‘Mensenrechten in het
robottijdperk’, 9 maart 2018, p. 7. Beschikbaar via:
https://www.rijksoverheid. nh/documenten/hrieven/2o18/o3/o9/kabinetsreactie-op-rapporten-opwaarderen.het-borgen-van-publieke-waarden-en-mensenrechten-in-het-robottijdperk
6 Zie: http://www.njb.nl/blog/big-data-en-de-rechterlijke-macht.15979.lynkx; hllp://www.njb.nl/njv
jaarvergaderingen/jaarvergadering-2o16/artikelen/digitale-(dis)balans-binnen-de-trias.1949o.lynkx
7i http://www.njb.nl/blog/big-data-en-de-rechterlijke-macht.15979.lynkx
8 Zie H. Prakken, Komt de robotrechter er aan? NJB 2018/207.

WRR
WETENSCHAPPELIJI<E RAAD VOOR HET REGERINGSBELEID

gereduceerd wordt tot algoritmen, terwijl de kern van het recht normatief is. Het recht is primair een
weergave van hoe de wetgever wil dat de wereld in elkaar zit, niet hoe de wereld is. Die normatieve
betekenis van het recht is in zekere mate autonoom, onafhankelijk van zijn context.

Corien Prins
Voorzitter WRR