Gespreksnotitie
Rondetafelgesprek
over artificiële intelligentie in het recht
Tweede Kamer, Vaste commissie
voor justitie en veiligheid
Donderdag 29 maart 2018 10:00-12:30 uur
Mr. Dr. A.D. (Dory) Reiling

AI voor de rechtspraak, heel in het kort
Wat kan kunstmatige intelligentie (AI) voor nut hebben voor de rechtspraak, en wat is daar voor
nodig? Rechtspraak is reduceren van complexiteit, maar lang niet al het werk van de rechtspraak is
complex maatwerk. De behandeling, en daarmee de behoefte aan informatietechnologie, is niet voor
alle rechtszaken dezelfde. AI kan daarom voor verschillende soorten zaken ook op verschillende
manieren van nut zijn. Sommige AI heeft zich daarvoor al in de praktijk bewezen. Maar gaan robots
rechtspreken? Het gelijk van degenen die dat al meer dan twintig jaar roepen is nog steeds niet
bewezen. De norm van artikel 6 EVRM schrijft voor de rechterlijke complexiteitsreductie een
behoorlijke procedure voor. Voordat AI aan die behoorlijke procedure-norm kan voldoen is nog veel
werk nodig. Juridische informatie moet nog veel meer, en vooral vooraf, gestructureerd en geduid
worden zodat AI deze niet alleen kan lezen, maar ook begrijpen of zelfs beslissen. Uitleggen hoe tot
het resultaat is gekomen is voorlopig nog niet praktisch haalbaar. AI kan nu al wel rechtzoekenden, de
procespartijen en de rechter helpen met het ordenen van informatie, en naarmate de juridische
informatie meer verrijkt wordt, ook met adviezen en suggesties.
Wat is eigenlijk het werk van de rechter?
Lang niet al het werk van de rechtspraak is complex maatwerk. De werkwijze, en daarmee de
behoefte aan informatietechnologie, is niet voor alle zaken dezelfde.
De rechtspraak in Nederland behandelt elk jaar ongeveer 2 miljoen zaken. Bij de bestuursrechtspraak
en de civiele rechtspraak (inclusief de kantonrechtspraak) is de wijze van behandeling vooral
afhankelijk van de complexiteit van de informatie in een zaak en de mate van voorspelbaarheid van de
uitkomst. Er zijn relatief veel routinezaken. Daarin is de uitkomst voorspelbaar. In die gevallen wordt
de rechterlijke uitspraak een grotendeels automatisch gemaakt document op basis van aangeleverde
gegevens. Het uitspraakdocument geeft een titel voor tenuitvoerlegging.
Ook in familie- en arbeidsaangelegenheden is er een aanzienlijk deel routinezaken. Daarin beoordeelt
de rechter, in een soort notariële functie, een voorgesteld arrangement van de partijen op juridische
geldigheid. Dat kan een geregelde echtscheiding zijn, maar ook een gezagsvoorziening of de
beëindiging van een arbeidsovereenkomst. De uitspraak is ook hier een grotendeels automatisch
gemaakt document dat bevestigt dat het voorgestelde arrangement in overeenstemming met de wet
is.
In minder routinematige zaken komt geregeld een schikking tot stand. En alleen in die zaken waarin
dat niet gebeurt, is het eindproduct van het rechterlijk proces een oordeel.
Voor de strafrechtspraak straf geldt dat de routinezaken door het OM zijn afgehandeld, en krijgt de
rechter alleen die zaken waarin een oordeel vereist is. Ook daar kennen we eenvoudige zaken en
meer tot uitermate complexe zaken.
Behoefte aan informatietechnologie, en dus ook AI, is voor verschillende behandelwijzen dus ook
verschillend.
Wat kan kunstmatige intelligentie betekenen voor de rechtspraak?
Kunstmatige intelligentie kan daarom voor verschillende werkwijzen ook op verschillende manieren
van nut zijn. Daarvan zijn sommige al in de praktijk bewezen. Maar gaan robots rechtspreken? Het
gelijk van degenen die dat al meer dan twintig jaar roepen is nog steeds niet bewezen.
1. Informatie ordenen. Patroonherkenning in tekstdocumenten en dossiers kan van nut zijn in
complexe zaken die veel informatie bevatten. De rechtspraak heeft dit jaar in een SSR-cursus een
eerste voorzichtige poging gedaan om te onderzoeken of dit voor complexe strafdossiers van nut zou
kunnen zijn. Een voorbeeld uit de Verenigde Staten is eDiscovery, geautomatiseerd
stukkenonderzoek voor de start van een civiele procedure. eDiscovery maakt gebruik van lerende AI,
die door training leert wat het beste algoritme is dat uit een grote hoeveelheid informatie de relevante

onderdelen kan halen. Partijen spreken af welke zoektermen en codering ze gebruiken. De rechter
beoordeelt de afspraak. Dit is een door de rechtspraak erkende methode van stukkenonderzoek in de
Verenigde Staten en het Verenigd Koninkrijk. De methode is sneller en nauwkeuriger dan handmatig
dossieronderzoek.
2. Adviseren. AI die kan adviseren kan van nut zijn voor mensen die een oplossing voor hun
probleem zoeken, maar ook voor juridische professionals. De AI zoekt hier niet alleen relevante
informatie bij elkaar, maar geeft ook een antwoord op een vraag. De gebruiker beslist vervolgens zelf
of hij of zij het advies opvolgt. De adviesfunctie kan mensen helpen meer zelf te doen en zo geschillen
te voorkomen. Lukt dat niet, dan is ondersteuning bij het vinden van een oplossing mogelijk. Hulp bij
het formuleren van een oplossing die rechterlijke toetsing behoeft kan ervoor zorgen dat de
beoordeling door de rechter meer een routinekwestie kan worden. Een bewezen praktijkvoorbeeld van
deze functie is de Solution Explorer bij het Civil Resolution Tribunal in British Columbia in Canada, die
eenvoudige AI gebruikt.
3. Voorspellen. Er is veel belangstelling voor AI die zegt rechterlijke uitspraken te kunnen
voorspellen. Procedures bij de rechter hebben als risico dat de uitkomst onvoorspelbaar kan zijn.
Naarmate de zaak complexer is, neemt dat risico toe. Er is daarom veel belangstelling voor AI die zegt
dat risico te kunnen beperken. In de Verenigde Staten worden tools commercieel aangeboden. Dat
heeft tot gevolg dat de werking, immers bedrijfsgeheim, niet inzichtelijk is. Toch is er bij sommige tools
wel enig inzicht in de werking.
Zo heeft een groep Amerikaanse wetenschappers een toepassing ontwikkeld die de uitkomst van een
zaak bij het Supreme Court van de Verenigde Staten zegt te kunnen voorspellen. Deze toepassing
gebruikt daarbij, naast informatie over de zaak, ook informatie over de politieke voorkeuren en het
stemgedrag van de individuele rechters. Deze toepassing claimt een nauwkeurigheid van tegen de
70%.
De meest uitvoerig beschreven toepassing is een die beslissingen van het Europese Hof voor de
Rechten van de Mens zegt te kunnen voorspellen. Deze tool voorspelt of in een bepaalde situatie het
Hof al of niet zal oordelen dat een bepaalde bepaling in het Verdrag is geschonden. De tool werkt met
informatie uit eerder gedane uitspraken.1 Het materiaal waar de AI mee werkt is dus al het resultaat
van heel veel complexiteitsreductie. Deze tool claimt 79% nauwkeurigheid. De onderzoekers zelf
vinden de tool een nuttige hulp voor rechters vanwege de patroonherkenning in een tekstdocument.2
Een ander praktijkvoorbeeld uit de VS is recidive voorspellen in strafzaken. Deze tool is in de praktijk
bij Amerikaanse strafrechters in gebruik. Inmiddels is bewezen dat de tool, door het gebruik van data
uit het verleden, stelselmatig bij zwarte verdachten de recidivekans groter acht dan bij blanken.3
Een laatste voorbeeld: rechtersprofielen. Deze worden in de Verenigde Staten door ten minste één
legal techbedrijf tegen betaling aangeboden. De werking is niet openbaar. Mij is geen informatie over
de nauwkeurigheid bekend.
Wat is nodig om AI nuttig te maken in de rechtspraak?
Het EVRM artikel 6 houdt de rechtspraak aan de norm van een behoorlijke procedure. Het vereist
onder meer een transparante procedure, equality of arms voor de procespartijen, en ook een
onderbouwd rechterlijk oordeel. Rechterlijke complexiteitsreductie moet dus onderbouwd, transparant
zijn en gelijke kansen bieden aan de procespartijen. AI bewerkt juridische informatie. Om AI in
1

Henry Prakken, Komt de robotrechter eraan? Nederlands Juristenblad 2018-04
no. 207.
2
Nikolaos Aletras, Dimitrios Tsarapatsanis, Predicting judicial decisions of the
European Court of Human Rights: a Natural Language Processing perspective. PeerJ
Computerscience, 24 oktober 2016.
3
Julia Angwin, Machine Bias, ProPublica, 23 mei 2016

overeenstemming met artikel 6 te laten werken moet de juridische informatie eerst machineverwerkbaar worden gemaakt. Daarbij speelt onder meer het volgende.
Al lang bekend is, dat slechte data de kwaliteit van het AI-resultaat verminderen.4 Maar correcte data
zijn niet voldoende. Tekstherkenning met natural language processing kan patronen herkennen.
Correlaties en statistische verbanden zijn als onderbouwing van een rechterlijk oordeel nog steeds
onvoldoende. Wil de AI juridische informatie kunnen verwerken en ook nog begrijpen, dan zijn
structuur en juridische duiding nodig.5 Die moet nu bij tekstdocumenten achteraf toegevoegd worden.
Maar AI wordt veel bruikbaarder wanneer juridische informatie zoals rechterlijke uitspraken al voor
publicatie machine-verwerkbaar wordt gemaakt met tekstuele leesbaarheid, documentstructuren,
identificatiecodes en metadata. Wordt dan ook nog juridische betekenis toegevoegd in de vorm van
gestructureerde terminologie en geduide relaties, dan neemt het potentieel van AI nog meer toe. Maar
zo ver is het dus nog niet.
Algemeen wordt gevonden dat AI bij toepassing in de rechtspraak moet kunnen uitleggen hoe hij tot
het resultaat gekomen is. Dat kan een uitleg zijn over het verwerkingsproces, maar ook een
inhoudelijke uitleg. Onderzoek wijst uit dat AI in het algemeen technisch in staat moet zijn tot het soort
uitleg dat we nu van mensen vragen, maar dat in de praktijk mensen sommige aspecten makkelijker
kunnen uitleggen dan de AI.6

Mr. Dr. A.D. (Dory) Reiling (1950) werd rechter in 1986. Zij heeft in alle onderdelen van de
rechtspraak als rechter gefungeerd. Zij is sinds 1993 kantonrechter/senior rechter in de rechtbank van
Amsterdam. Ze is de product owner van de digitalisering van civiele procedures in de Nederlandse
rechtspraak. Eerder was ze senior judicial reform specialist bij de Wereldbank en programmamanager
IT bij de Nederlandse rechtspraak. Ze doceert regelmatig aan universitaire en andere postgraduate
opleidingen, en adviseert rechtspraakorganisaties in vele landen. Ze is medeauteur van het World
Bank Handbook on Justice Sector Assessments. Ze adviseerde de Consultative Council of European
Judges (Raad van Europa) als expert bij Opinion 14, over informatietechnologie en de rechtspraak.
Haar boek Technology for Justice, how information technology can support judicial reform, is
beschikbaar op papier, als e-book en online. Haar publicaties staan op www.doryreiling.com, zij tweet
op www.twitter.com/doryontour, en haar blog Technology for Justice verschijnt op
www.doryreiling.blogspot.nl. Ze is redacteur van Computerrecht en blogt maandelijks op mr-online.
Enkele van haar presentaties, waaronder een over AI voor het Ministerie van Veiligheid en Justitie,
zijn te vinden op slideshare.

4

Kristian Lum en William Isaac, To Predict and Serve? Significance magazine.com,
oktober 2016
5
Marc Van Opijnen, Legal(ly) linked data, Computerrecht 2018/2 no. 55.
6
Finale Doshi-Velez en Mason Kortz, Accountability of AI under the law, arCHIV
November 2017