Scenario’s algoritmetoezicht, 5 december 2022

Inrichting algoritmetoezicht
Scenario’s korte en lange termijn
Ministerie van Binnenlandse Zaken en Koninkrijksrelaties

Sjoera Nas en Sanne Ouburg
5 december 2022

1 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Colofon
Advies voor

Ministerie van Binnenlandse Zaken en Koninkrijksrelaties
Directoraat-Generaal Digitalisering en Overheidsorganisatie
Directie Digitale Samenleving
Publieke Waarden, Data en Algoritmen
Turfmarkt 147
2511 DP DEN HAAG
https://www.rijksoverheid.nl/bzk

Contact

Persvoorlichting: 070 426 88 88

Projectnaam

Inrichting algoritmetoezichthouder

Auteur

Privacy Company
Sjoera Nas en Sanne Ouburg, senior adviseurs
https://www.privacycompany.eu/

2 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Inhoud
Colofon ...................................................................................................................................... 2
Samenvatting ............................................................................................................................. 4
Inleiding ..................................................................................................................................... 6
A.

Korte termijn scenario’s 2023 ............................................................................................... 8

1.

Scenario 1: optimalisering samenwerking en ondersteuning collega toezichthouders ............. 9
1.1.
1.2.
1.3.
1.4.

2.

Scenario 2: Loket voor vragen, klachten en signalen ............................................................. 12
2.1.

3.

Voor- en nadelen...................................................................................................... 13

Scenario 3: vergroten van vakbekwaamheid en dialoog ........................................................14
3.1.
3.2.
3.3.
3.4.
3.5.
3.6.

4.

Optimalisering samenwerking ................................................................................... 9
Analyse algoritmetoezicht ........................................................................................ 10
Gezamenlijke normuitleg ......................................................................................... 11
Voor- en nadelen...................................................................................................... 11

Kennis bestaande opleidingen delen .........................................................................14
Curriculum ontwikkelen nieuwe AI-toezichthouderssopleiding ................................... 15
Stages bij toezichthouders ....................................................................................... 15
Informatie op bestaande website AP ......................................................................... 15
Extra: Klankbordgroep ............................................................................................. 15
Voor- en nadelen......................................................................................................16

Scenario 4: kennisdeling en voorlichting .............................................................................. 17
4.1.
4.2.

Website met onderliggende database met Nederlandse casuïstiek ............................. 17
Voor- en nadelen......................................................................................................19

B.

Extra activiteiten vanaf 2024 .............................................................................................. 20

1.

Meer voorlichting ............................................................................................................... 21
1.1.
1.2.
1.3.

2.

Meer vakbekwaamheid en recruitment............................................................................... 22
2.1.
2.2.

3.

Europese casuïstiek .................................................................................................. 21
Handleidingen publiceren ......................................................................................... 21
Voor- en nadelen...................................................................................................... 21

Traineeships ........................................................................................................... 22
Voor- en nadelen..................................................................................................... 22

Onderzoek .........................................................................................................................23
3.1.
3.2.
3.3.

Onderzoek naar (on)uitgevoerde HRIA’s en (on)gemelde algoritmes ..........................23
Verkennend onderzoek ........................................................................................... 25
Voor- en nadelen..................................................................................................... 26

C.

Wet- en regelgeving BZK .................................................................................................... 27

1.

Bevoegdheden algoritmetoezichthouder ............................................................................ 27

2.

Verplichtingen algoritmeregister......................................................................................... 27

3.

Uitvoeren mensenrechten impacttoets / HRIA .................................................................... 28

4.

Transparantie .................................................................................................................... 29

5.

Periodieke audits uitvoeren op algoritmes ...........................................................................30

6.

Tabel met voor- en nadelen ................................................................................................ 31

BIJLAGE 1 ..................................................................................................................................32

3 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Samenvatting
De Autoriteit Persoonsgegevens (hierna: AP) heeft via het regeerakkoord 2022 extra budget
gekregen voor de inrichting van de Nederlandse algoritmetoezichthouder. De toezichthouder heeft
daarvoor vanaf 1 januari 2023 budget gekregen van 1 miljoen euro, 2 miljoen in 2024, 3 miljoen in
2025 en 3,6 miljoen vanaf 2026. Dit budget staat los van de toekomstige AI-autoriteit die Nederland
moet aanwijzen als de Europese AI-verordening wordt vastgesteld. Dit budget staat ook los van het
toezicht door de AP op verwerkingen door de overheid van persoonsgegevens met algoritmes.
In dit advies werkt Privacy Company op verzoek van het ministerie van Binnenlandse Zaken en
Koninkrijksrelaties (het ministerie van BZK) vier scenario’s uit voor de inrichting van het
algoritmetoezicht in 2023, en vier nieuwe activiteiten voor de opschaling van het toezicht in de jaren
erna. Tijdens het opstellen van dit advies, tussen oktober en begin december 2022 was het
ministerie van BZK in gesprek met de AP, het ministerie van Justitie & Veiligheid en het ministerie
van Economische Zaken over de activiteiten en doelen in 2023. In dit rapport zijn de uitkomsten van
dit overleg verwerkt. Het ministerie van BZK heeft een samenvatting van de scenario’s uit dit
rapport getoetst in vier expert-werkgroepen met deelnemers van allerlei toezichthouders,
ministeries, wetenschap, maatschappelijke organisaties en bedrijfsleven. De uitkomsten van deze
dialoog zijn ook in dit rapport verwerkt.
De staatssecretaris zal nog voor het kerstreces een inrichtingsnota aan de Tweede Kamer sturen
waarin de doelen voor de algoritmetoezichthouder op korte termijn zijn beschreven.
Scenario 1: Optimalisering samenwerking en ondersteuning collega toezichthouders

Scenario 2: Loket voor vragen, klachten en signalen

Scenario 3: Vergroten vakbekwaamheid en dialoog

Scenario 4: Kennisdeling en publieke voorlichting

4 van 35

Scenario’s algoritmetoezicht, 5 december 2022

In de vier voorgestelde korte termijn scenario’s draagt de algoritmetoezichthouder in 2023 bij aan
intensivering van de samenwerking tussen de (minstens) 22 bestaande toezichthouders en 7
relevante stakeholders op het gebied van algoritmetoezicht. De nieuwe toezichthouder helpt om
versplintering te voorkomen in de verschillende samenwerkingsoverleggen, en lacunes of juist
overlap in het toezicht van de bestaande toezichthouders. Elk van de activiteiten in de scenario’s is
een reactie op een of meerdere problemen met het toezicht op het gebruik van algoritmes, zoals
overlap of toezichtslacunes tussen de verschillende toezichthouders, een gebrek aan kennis over de
werking van algoritmes en gebrek aan analyse van toezichtsdomein overstijgende klachten van
betrokkenen die mogelijk te maken krijgen met een gebrek aan transparantie, discriminatie en
willekeur. Bij elk van de scenario’s is een tabel opgenomen met voor- en nadelen van de
voorgestelde activiteiten.
De korte termijn scenario’s hebben een oplopend ambitieniveau. Het uitgangspunt is om met de
beperkte middelen zoveel mogelijk impact te hebben, met zo min mogelijk overhead. Na 2024 kan
de toezichthouder de activiteiten uit het gekozen korte termijn scenario uitbreiden en opschalen, en
daarnaast nog 1 of meerdere extra activiteiten ondernemen.
De algoritmetoezichthouder moet twee activiteiten altijd uitvoeren, namelijk versterking van de
samenwerking, en ondersteuning van de bestaande toezichthouders. Ten aanzien van andere
activiteiten moeten keuzes gemaakt worden binnen het beschikbare budget. Bij het derde korte
termijn scenario zou het ministerie van BZK budgettair moeten bijspringen om de klankbordgroep
al in 2023 te kunnen verwezenlijken.
In het eerste jaar leiden de bescheiden extra gelden voor deze algoritmetoezichthouder niet tot
zichtbaar verbeterd toezicht op het gebruik van algoritmes, omdat de extra middelen vooral
worden aangewend voor kennisverbetering en intensievere samenwerking van de bestaande
toezichthouders. Als het ministerie van BZK kiest voor de ontwikkeling van een nieuwe website met
onderliggende database wordt het wel voor iedereen in Nederland duidelijker hoeveel
toezichthouders er al zijn, waar zij zich op richten, en welke zaken zij al behandeld hebben. Als het
ministerie van BZK kiest voor het inrichten van een algemeen algoritmeloket voor vragen en
klachten, wordt de toegang tot het recht voor betrokkenen eenvoudiger.
Dit advies beschrijft in deel B vier nieuwe activiteiten waarmee de toezichthouder het toezicht vanaf
2024 kan uitbreiden. Er is in 2024 (met 2 miljoen euro) nog te weinig budget om al deze activiteiten
uit te kunnen voeren. Het ministerie moet dus keuzes maken over de volgordelijkheid. De meeste
nieuwe activiteiten kunnen bovendien alleen verwezenlijkt worden als het ministerie beleidsregels
opstelt, of nieuwe wetgeving initieert.
1.
2.
3.

Meer voorlichting (Europese casuïstiek en handleidingen)
Meer vakbekwaamheid en recruitment
Onderzoek

Ook bij de activiteiten in deel B is een tabel gevoegd met een opsomming van de voor- en nadelen.
Ten slotte bevat dit advies een reeks activiteiten die BZK kan inzetten op het gebied van wet- en
regelgeving om de gewenste opschaling van het toezicht vanaf 2024 mogelijk te maken.
Dit zijn:
1.
2.
3.
4.
5.

Bevoegdheden algoritmetoezichthouder
Verplichtingen publiek algoritmeregister
Verplicht uitvoeren mensenrechten impacttoets / HRIA
Transparantie
Periodieke audits uitvoeren op algoritmes

5 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Inleiding
Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (hierna: het ministerie van BZK, of
BZK) heeft Privacy Company gevraagd om advies over de inrichting van de Nederlandse
algoritmetoezichthouder per 1 januari 2023. In het regeerakkoord 2022 is bepaald dat er een nieuwe
Nederlandse algoritmetoezichthouder moet komen, en dat die wordt ondergebracht bij de
Autoriteit Persoonsgegevens (hierna: AP). De AP heeft daarvoor vanaf 1 januari 2023 extra budget
gekregen van 1 miljoen euro.1 In 2024 ontvangt de algoritmetoezichthouder een budget van 2
miljoen, in 2025, 3 miljoen en vanaf 2026 3,6 miljoen.
Het ministerie van BZK heeft tijdens het opstellen van dit rapport gesprekken gevoerd met de AP,
het ministerie van Justitie & Veiligheid en het ministerie van Economische Zaken over de
activiteiten en doelen in 2023. In dit rapport zijn de uitkomsten van dit overleg verwerkt. De AP
ontvangt het extra geld van het ministerie van Justitie & Veiligheid (eigenaar), maar het ministerie
van BZK is opdrachtgever, en bepaalt vanuit de coördinerende rol van de staatssecretaris van
digitalisering de gewenste beleidsmatige inzet.
De keuze om zo snel mogelijk in Nederland een algoritmetoezichthouder in te richten is een direct
resultaat van de grote maatschappelijke beroering over de Toeslagenaffaire. Dit heeft geleid tot
een groot aantal moties in de Tweede Kamer (zie hieronder). Deze keuze en dit advies staan los van
de toekomstige AI-autoriteit die Nederland moet aanwijzen als de Europese AI-verordening wordt
vastgesteld, en de samenhang met andere toezichtstaken in het digitale domein die voortvloeien
uit andere nieuwe EU verordeningen. Omdat de AI-verordening nog in onderhandeling is, kan de
Nederlandse overheid pas besluiten nemen over de definitieve inrichting van het toezicht op de AIverordening als het voorstel definitief is. De activiteiten in dit rapport zijn ontworpen om niet
vooruit te lopen op de toezichtstaken en verplichtingen uit de AI-verordening. Het zwaartepunt in
dit advies ligt bij toezicht op overheidsorganisaties. Ook als de AI-verordening in werking treedt,
houdt de Nederlandse overheid eigen regelruimte.
De taken van de Nederlandse algoritmetoezichthouder staan ook nadrukkelijk los van het toezicht
op de verwerking van persoonsgegevens met algoritmes door de AP zelf, op grond van de AVG en
de Richtlijn gegevensbescherming politie & justitie. De AP krijgt vanaf 2023 extra jaarlijkse
financiering van € 2,61 miljoen om het AVG-toezicht aan te scherpen op de verwerkingen van
persoonsgegevens met algoritmes door de overheid.2
Privacy Company heeft in een preadvies een aantal mogelijke taken voor de
algoritmetoezichthouder uitgewerkt, op het gebied van samenwerking, opleiding, voorlichting en
handhaving, en opties benoemd voor de beleidsinzet van het ministerie van BZK.
Het ministerie van BZK heeft verzocht om de mogelijke taken voor de algoritmetoezichthouder uit
te werken in concrete scenario’s hoe het algoritmetoezicht kan worden ingevuld in 2023 (korte
termijn), en in de jaren erna (langere termijn). Het ministerie van BZK heeft een samenvatting van
de scenario’s uit dit rapport getoetst in vier expert-werkgroepen met deelnemers van allerlei
toezichthouders, ministeries, wetenschap, maatschappelijke organisaties en bedrijfsleven. De
uitkomsten van deze dialoog zijn in dit rapport verwerkt. De staatssecretaris zal nog voor het
kerstreces een inrichtingsnota aan de Tweede Kamer sturen waarin de doelen voor de
algoritmetoezichthouder op korte termijn zijn beschreven.
Hieronder worden vier scenario’s beschreven voor op de korte termijn, en vier nieuwe activiteiten
vanaf 2024. De uitbreiding van activiteiten op de langere termijn is deels afhankelijk van het

1 Coalitieakkoord 'Omzien naar elkaar, vooruitkijken naar de toekomst', 10 januari 2022, URL:

https://www.rijksoverheid.nl/onderwerpen/rijksoverheid/documenten/publicaties/2022/01/10/coaliti
eakkoord-omzien-naar-elkaar-vooruitkijken-naar-de-toekomst.
2 De AP krijgt budget uit het programma Werken aan Uitvoering dat gewijd is aan verbeteringen die
voortvloeien uit de Parlementaire Ondervragingscommissie Kinderopvangtoeslag.
6 van 35

Scenario’s algoritmetoezicht, 5 december 2022

toenemend budget, maar voor een belangrijker deel ook afhankelijk van aanvullende wet- en
regelgeving, en kan daarom niet onmiddellijk ingaan.
Definities, methodologie en bronnen
Het woord algoritme heeft vele betekenissen. Strikt genomen is een draaitabel in een spreadsheet
ook een algoritme, namelijk een reeks instructies in een computerprogramma om een probleem op
te lossen. Het woord algoritme wordt vaak in één adem genoemd met AI (Artificial Intelligence,
ofwel kunstmatige intelligentie). Binnen het ministerie van BZK wordt de definitie gebruikt van de
Algemene Rekenkamer: “Een algoritme is een set van regels en instructies die een computer
geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te
beantwoorden. Algoritmes ondersteunen vaak de bedrijfsvoerings- en dienstverleningsprocessen van
organisaties.”3
De concept Europese AI Verordening stelt regels aan AI-systemen. Die systemen zijn gedefinieerd
als: “software die is ontwikkeld aan de hand van een of meer van de technieken en benaderingen die
zijn opgenomen in de lijst van bijlage I en die voor een bepaalde reeks door mensen gedefinieerde
doelstellingen output kan genereren, zoals inhoud, voorspellingen, aanbevelingen of beslissingen die
van invloed zijn op de omgeving waarmee wordt geïnterageerd.”4 Volgens het laatste
compromisvoorstel van de Raad van Ministers wordt aan deze definitie toegevoegd ‘met elementen
van autonomie’.5
AI kent vele verschijningsvormen, van machine learning (leren uit ervaring zonder expliciete
opdracht) tot deep learning (gelaagd leren op basis van Deep Neural Networks) tot zelflerende
systemen (die steeds intelligenter worden in bijvoorbeeld patroonherkenning).
Dit advies gaat over het gebruik van algoritmes in bedrijfsvoerings- en dienstverleningsprocessen,
niet alleen om besluiten te nemen over personen, maar ook om bijvoorbeeld cybersecurityrisico’s in
te schatten, afwijkingen te detecteren in beeldherkenning, of om correlaties te vinden tussen
groepskarakteristieken. Dit advies gaat niet in op de achterliggende technologie van de gebruikte
algoritmes.
Dit advies is gebaseerd op studie van openbare bronnen en rapporten, op stukken die vertrouwelijk
ter inzage zijn gegeven, het bijwonen van een rondetafelbespreking met meerdere toezichthouders
en het bijwonen van twee van de vier expertsessies, evenals de verslagen van alle vier de
expertsessies. De AP is meermaals in de gelegenheid gesteld feedback te geven op het
conceptadvies, en de opmerkingen zijn naar tevredenheid verwerkt. Dit advies is dus niet gebaseerd
op interviews met de medewerkers van de AP of met andere toezichthouders die al toezicht houden
op deelgebieden waar algoritmes worden ingezet voor geautomatiseerde besluitvorming.
De hoofdauteur heeft 12 jaar gewerkt bij de Autoriteit Persoonsgegevens. Ze heeft namens de AP
structureel deelgenomen aan internationale werkgroepen van collega toezichthouders in de EU
over technische onderwerpen, en aan overleg van internetexperts met wereldwijde
toezichthouders. Daar heeft ze praktijkervaring opgedaan met verschillende toezichtsvormen.
Overzicht voorgenomen activiteiten Rijk gebruik algoritmes
De Rijksoverheid heeft onlangs een tabel gepubliceerd met een overzicht en planning van
verschillende voorgenomen en in gang gezette acties met betrekking tot gegevensverwerking via
3 Algemene Rekenkamer, Algoritmes getoetst, 18 mei 2022, p. 7, URL:

https://www.rekenkamer.nl/binaries/rekenkamer/documenten/rapporten/2022/05/18/algoritmesgetoetst/108+AR+rapport+Algoritmes+II+DEF+220516.pdf.
4 Europese Commissie, voorstel voor een AI verordening, COM(2021) 206 final, 21 april 2021, artikel
3(1). URL: https://www.eerstekamer.nl/eu/europeesvoorstel/com_2021_206_voorstel_voor_
een/document/f=/vlkin0c25utg.pdf.
5 (Vlaams) Knowledge Centre Data & Society, Council of the EU - Compromise Text AI Act, URL:
https://data-en-maatschappij.ai/en/policy-monitor/council-of-the-eu-compromise-text-ai-act.
7 van 35

Scenario’s algoritmetoezicht, 5 december 2022

algoritmes. Het Rijk ontplooit deze activiteiten in reactie op verschillende moties van de Tweede
Kamer.6 Deze acties keren terug in de lijst van mogelijke activiteiten voor het algoritmetoezicht.
Financiële uitgangspunten
Dit advies bevat geen concrete uitwerking van de besteding van de middelen. Dit is aan de
algoritmetoezichthouder om in vullen, in samenspraak met het ministerie van BZK. Heel ruw is
berekend dat voor 1 miljoen euro ongeveer 6,5 FTE ingezet kan worden op een gemiddelde schaal
13, met bijkomende materiële kosten per FTE van 24.400 euro volgens de Handleiding
Overheidstarieven 2022. 7
Rekening houdend met de beperkte middelen van de algoritmetoezichthouder zijn de volgende
uitgangspunten gehanteerd:
•

•
•
•

De toezichthouder gebruikt haar middelen primair voor het versterken en ontlasten van de
bestaande 22 gespecialiseerde toezichthouders, en de zeven andere relevante stakeholders
voor het toezicht. Het toezicht wordt zo veel als mogelijk gebouwd op, en in aansluiting bij,
bestaand toezicht. Samenwerking is daarbij van groot belang. Bestaande bevoegdheden en
verantwoordelijkheden worden niet aangetast, maar waar gewenst versterkt met kennis,
analyses en uitwisseling.
De algoritmetoezichthouder behandelt geen klachten, maar verwijst door.
De toezichthouder richt zich op het gebruik van algoritmes in Nederland, met een zwaartepunt
op gebruik door overheidsorganisaties.
De toezichthouder wordt gehuisvest door de AP, mag gebruik maken van de ICT voorzieningen
van de AP inclusief toegang tot P-Direkt en mag gebruik maken van alle HR, Arbowet en
accountancy ondersteuning van de AP.

A. Korte termijn scenario’s 2023
De algoritmetoezichthouder heeft voor de inrichting van het algoritmetoezicht in 2023 een budget
van 1 miljoen euro. Hieronder worden vier verschillende scenario’s beschreven voor de
mogelijkheden voor de besteding van dit extra geld voor de inrichting van het algoritmetoezicht op
de korte termijn – in 2023:
1.
2.
3.
4.

Optimalisering samenwerking en ondersteuning collega toezichthouders
Loket voor vragen, klachten en signalen
Vergroten van vakbekwaamheid en dialoog
Kennisdeling en voorlichting

In alle vier de scenario’s vervult de algoritmetoezichthouder een coördinerende en ondersteunende
rol.

6 Overzicht acties moties, tabel met overzicht en planning van verschillende acties met betrekking

tot algoritmetoezicht, URL:
https://www.rijksoverheid.nl/documenten/publicaties/2022/10/07/overzicht-acties-moties-overontwikkelen-en-gebruik-algoritmen-door-overheden.
7 Handleiding Overheidstarieven 2022, oktober 2021. URL:
https://kennisopenbaarbestuur.nl/media/258038/handleiding-overheidstarieven-2022.pdf. Zie ook
een recente vacature bij het ministerie van Justitie en Veiligheid voor een projectleider
algoritmeregisters in schaal 13, URL: https://www.werkenvoornederland.nl/vacatures/projectleideralgoritmeregisters-JUSB-2022-0474#0
8 van 35

Scenario’s algoritmetoezicht, 5 december 2022

1. Scenario 1: Optimalisering samenwerking en ondersteuning collega
toezichthouders
De Nederlandse algoritmetoezichthouder is gehuisvest bij de Autoriteit Persoonsgegevens, en
wordt dus een onderdeel van het bestaande ZBO. De AP wil die rol als centrale
algoritmetoezichthouder ook graag blijven vervullen na inwerkingtreding van de AI-Verordening.
Dat blijkt uit het advies van het Europees Comité en de EDPS over de AI verordening. In een eigen
samenvatting van dat advies schrijft de AP : “De AI Act raakt aan het toezichtveld van verschillende
toezichthouders: gegevensbescherming, marktregulering, productregulering etc. Gezaghebbend en
voldoende toezicht is van groot belang. De zorgen die bestaan over AI-systemen gaan in veel gevallen
over het gebruik van persoonsgegevens. Geef privacy toezichthouders dus een belangrijke rol, in lijn met
de al in de AI Act vastgelegde rol van de EDPS en de algoritmewaakhond bij de AP uit het
coalitieakkoord.”8 De regering heeft nadrukkelijke nog geen beslissing genomen welke
toezichthouder nationaal wordt aangewezen onder de AI Verordening, en dit advies loopt daar niet
op vooruit.

1.1. Optimalisering samenwerking
Er zijn in Nederland (tenminste) 22 toezichthouders die zich al bezighouden met de inzet van
algoritmes en het gebruik van kunstmatige intelligentie. Zoals het Agentschap Telecom uitlegt:
“Het gebruik van AI en algoritmes neemt een geweldige vlucht. AI gaat over grenzen van werkvelden en
dus toezichtsdomeinen en departementen heen. Neem zelfrijdende voertuigen. Daarin wordt zoveel
technologie en data verwerkt dat het meerdere toezichthouders zal raken. De Rijksdienst voor
Wegverkeer (RDW) natuurlijk, de AP voor persoonsgegevens en privacy, markttoezichthouders en wij
als Agentschap Telecom voor de beschikbaarheid en betrouwbaarheid van de digitale infrastructuur.”9
Zie Bijlage 1 bij dit advies met een (best effort inventarisatie op basis van publieke bronnen)
overzicht van de verschillende toezichthouders, inspecties en Colleges, en zeven relevante
stakeholders die zich nu al publiekelijk bezig houden met algoritmetoezicht, met hun
toezichtsgebied of AI- expertise.
De toezichthouders werken samen in verschillende werkgroepen. Zonder versterkte samenwerking
is er een risico dat er gaten vallen in de kennisdeling tussen de verschillende categorieën
toezichthouders (productgericht, marktgericht, probleemgericht) en dat er discrepantie ontstaat
tussen toezicht en handhaving.
•

Toezicht op AI/algoritmes is de grootste werkgroep met de meeste deelnemers. Deze
werkgroep wordt georganiseerd door de Rijksinspectieraad, en vindt tweemaandelijks
plaats sinds 2020. Aan dit overleg nemen 24 organisaties deel. Het overleg is gefocust op
kennisdeling, samenwerking, ervaringen en nieuwe wetgeving zoals de toekomstige
Europese AI-verordening.10 De inspectieraad legt uit: “In de eerste helft van 2020 heeft een
aantal rijksinspecties en markttoezichthouders het initiatief genomen om - ondersteund door
Bureau Inspectieraad - een interdepartementale werkgroep “Toezicht op AI/algoritmes” te
starten. Ook vertegenwoordigers van rijksdiensten die formeel geen toezichthouder zijn maar
die wel inzet en gebruik van AI/algoritmes beoordelen, zoals de Auditdienst Rijk en

8 Autoriteit Persoonsgegevens, Inzet Artificial Intelligence Act, 15 maart 2022, URL:

https://autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/ap_inzet_ai_act.pdf.
9 Jaarbericht Agentschap Telecom 2021, Toezicht op AI: inspecties delen kennis, URL:
https://magazines.agentschaptelecom.nl/staatvandeether/2021/01/toezicht-op-ai-inspecties-delenkennis.
10 Jaarverslag Inspectieraad 2021, Samen sterk voor toezicht: De Inspectieraad blikt terug op 2021,
22 maart 2022, URL:
https://www.rijksinspecties.nl/publicaties/jaarverslagen/2022/03/22/jaarverslag-2021
9 van 35

Scenario’s algoritmetoezicht, 5 december 2022

•

•
•

•

eerdergenoemde Algemene Rekenkamer, participeren in deze werkgroep.”11 De Inspectieraad
heeft al een kennisdatabank over AI. Die databank is ad hoc opgebouwd uit stukken die de
toezichthouders sinds de oprichting van de AI werkgroep in 2020 onderling hebben
gedeeld, inclusief presentaties over concrete zaken tijdens de bijeenkomsten van de
werkgroep. Er is binnen deze werkgroep een kerngroep gevormd bestaande uit de AP,
ACM, AFM, College voor de Rechten van de Mens, het Commissariaat voor de Media en AT
(vanaf 1 januari 2023: Rijksinspectie Digitale Infrastructuur).
Samenwerkingsplatform Digitale Toezichthouders (SDT) is opgericht door de ACM, de AP,
de AFM en het CvdM op 13 oktober 2021. Bestuursvoorzitter Martijn Snoep van de ACM
legt in een persbericht over de oprichting van dit werkoverleg uit. “Om effectief op het hoge
tempo van de nieuwe ontwikkelingen te kunnen reageren, is een coherente en gecoördineerde
aanpak nodig. Dat is in het belang van zowel de gebruikers als de aanbieders van digitale
diensten.”12
Het Markttoezichthoudersberaad heeft acht leden, namelijk: AFM, DNB, ACM, NZa, AP,
Kansspelautoriteit, CvdM en het Bureau Financieel Toezicht (BFT).13
Overleg productveiligheidstoezichthouders. De vijf toezichthouders op de
productveiligheid hebben onderling overleg. Dit zijn het Agentschap Telecom (AT), de
Inspectie Gezondheidszorg en Jeugd (IGJ), de Inspectie Leefomgeving en Transport (ILT),
de Nederlandse Voedsel- en Warenautoriteit (NVWA) en de Nederlandse Arbeidsinspectie
(NLA).
Daarnaast regelen de toezichthouders bilaterale kennisdeling of joint inspection teams in
specifieke zaken via onderlinge samenwerkingsconvenanten.

De algoritmetoezichthouder kan een belangrijke rol vervullen bij het ondersteunen van de
samenwerking tussen de bestaande toezichthouders, door zich in te zetten om de bestaande
werkgroep AI uit te breiden met deelnemers van andere toezichthouders en relevante organisaties
die signalen en klachten van betrokkenen ontvangen. De algoritmetoezichthouder zou zich in
eerste instantie moeten richten op de kerngroep binnen de AI werkgroep om kennis op te halen, en
die vervolgens weer terug te geven aan de grotere AI werkgroep. De toezichthouder zou ook
interactieve kennisdeling kunnen bevorderen tussen de relevante beleidsmedewerkers van alle
toezichthouders en inspecties door een online communicatiekanaal te openen waarin zij nieuws en
ontwikkelingen kunnen delen die hun aandacht hebben getrokken.
De algoritmetoezichthouder kan helpen om signalen op te pakken over risicovolle
gegevensverwerkingen met algoritmes, en die signalen door te wijzen naar een domein- of
sectorspecifieke toezichthouder. Dat kan variëren van de ACM als het over cookies gaat, AFM als
het over banken gaat, of een rijksinspectie voor een domein als telecom, sociale zekerheid, zorg,
transport, onderwijs of arbeid.

1.2. Analyse algoritmetoezicht
Vanwege de beperkingen van het budget (1 miljoen euro in 2023) kan de algoritmetoezichthouder
in het eerste jaar niet alle activiteiten ondernemen. In dit eerste scenario treedt ze bijvoorbeeld niet
op als helpdesk voor klachten en vragen van betrokkenen.

11 Rijksinspectie, Algoritmen en Artificiële Intelligentie: hoe houd je daar toezicht op?, 3 februari

2021, URL: https://www.rijksinspecties.nl/actueel/nieuws/2021/02/03/algoritmes-en-artificieleintelligentie-hoe-houd-je-daar-toezicht-op.
12 ACM, Nederlandse toezichthouders versterken toezicht op digitale activiteiten door meer
samenwerking, 13 oktober 2021, URL: https://www.acm.nl/nl/publicaties/nederlandsetoezichthouders-versterken-toezicht-op-digitale-activiteiten-door-meer-samenwerking.
13 AFM over het Markttoezichthoudersberaad, URL: https://www.afm.nl/nl-nl/overafm/werkzaamheden/nationale-samenwerking/mtb.
10 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Dat betekent dat de bestaande toezichthouders en inspecties de taak houden om vragen te
beantwoorden van mensen en organisaties over algoritmes en geautomatiseerde besluitvorming.
De algoritmetoezichthouder kan hierin wel ondersteunend optreden, door samen met de andere
toezichthouders een logica uit te werken om signalen over algoritmes te herkennen en zo uniform
mogelijk te labelen/taggen.
Een uniformere werkwijze bij het herkennen dat klachten te maken hebben met algoritmes stelt de
algoritmetoezichthouder in staat om relevante voorbeelden op te halen bij de verschillende
toezichthouders, en analyses te doen op de ontvangen signalen en klachten over de toepassing van
algoritmes, in ieder geval op de voorbeelden die zijn opgenomen in de bestaande kennisdatabank
van de Inspectieraad. In dit scenario zou de algoritmetoezichthouder deze voorbeelden moeten
aanvullen door binnengekomen signalen, klachten, vragen en besluiten uit te vragen bij de andere
toezichthouders. Op basis hiervan kan de toezichthouder tendensen ontwaren, en deze kennis weer
delen met de collega toezichthouders, bijvoorbeeld door elk kwartaal een intern geaggregeerd
overzicht maken over de ontwikkelingen in het AI toezicht.
Om ook publiek rekenschap te geven van de ontwikkelingen in het algoritmetoezicht, zou de
algoritmetoezichthouder aan het eind van het jaar een rapport kunnen publiceren over de
ontwikkelingen in het algoritmetoezicht in Nederland, met zoveel mogelijk geanonimiseerde
voorbeelden van dilemma’s en de beoordeling van de toezichthouders.
In dit scenario wordt geen nieuwe gezamenlijke database aangelegd, maar maakt de
algoritmetoezichthouder gebruik van beschikbare kantoor-ICT om de kennis te ordenen en te
analyseren.

1.3. Gezamenlijke normuitleg
Om rechtsonzekerheid te voorkomen bij overheden, bedrijven en burgers over het toezicht op de
toepassing van geautomatiseerde besluitvorming, moeten de verschillende toezichthouders
publieke uitleg geven hoe zij de normen uitleggen in hun specifieke toezichtsgebieden over
algoritmegebruik, en, voor zover er besluiten zijn genomen, hoe zij die toepassingen in de praktijk
hebben beoordeeld. Hierbij kan de algoritmetoezichthouder de collega toezichthouders
ondersteunen en ontlasten, door de penvoering op zich te nemen van gezamenlijke en
toezichtsgebied overstijgende normuitleg.
De algoritmetoezichthouder zet menskracht in voor het opstellen en publiceren van gezamenlijke
richtlijnen met de toezichthouders, inclusief de AP als het gaat om de verwerking van
persoonsgegevens met algoritmes. Waar overlap bestaat tussen de bevoegdheden van de
toezichthouders, zou de algoritmetoezichthouder zich kunnen inspannen om die toezichthouders te
helpen om gezamenlijke beleidsregels op te stellen.
Als het bijvoorbeeld om het gebruik gaat van gezichtsherkenning door grote platformen, kan de
algoritmetoezichthouder ondersteunen dat AP en ACM gezamenlijke normuitleg geven over de
toepasselijke regels uit de AVG, Richtlijn gegevensbescherming politie & justitie, mededingingswet,
consumentenbeschermingsregels, de Digital Services Act en de (toekomstige) Digital Markets Act
en AI-Verordening..
Dat de algoritmetoezichthouder inzet op kennisdeling en samenwerking is temeer van belang
omdat de huidige medewerkers van de AP, waar de algoritmetoezichthouder wordt ondergebracht,
geen ervaring hebben met productveiligheidstoezicht (het normatieve uitgangspunt van de AIVerordening). De algoritmetoezichthouder kan ervaring opdoen met productveiligheid door de
collega toezichthouders te helpen met de analyse van risico’s bij het eigen gebruik van algoritmes,
bijvoorbeeld als zij algoritmisch prioriteren tussen behandeling van signalen/klachten die duiden op
een hoog risico en signalen/klachten die duiden op een laag risico.

1.4. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen van scenario 1.
11 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Tabel 1: Voor- en nadelen scenario 1

Activiteit

Voordelen

Nadelen

Optimaliseringsa
menwerking en
ondersteuning

De toezichthouder geeft secretariële en
redactionele steun aan de collega
toezichthouders

Behalve de normuitleg en analyse van
toezichtsontwikkelingen zijn er geen
zichtbare activiteiten naar de
buitenwereld.

Interactieve kennisdeling via een online
communicatiekanaal voorkomt dubbel
toezicht, en lacunes in het toezicht. De
toezichthouders kunnen nieuwe
toepassingen integraal behandelen.

Analyse
algoritme
toezicht

Optimalisering van de samenwerking
vermindert de administratieve druk van
overleg in allerlei werkgroepen

In dit scenario ontwikkelt de
toezichthouder geen
website/database, en onderneemt ze
geen opleidingsactiviteiten.

Actueel inzicht bij alle toezichthouders in
toepassingen waarover veel vragen of
klachten binnenkomen.

Burgers, bedrijven en
overheidsorganen kunnen ontevreden
zijn als de algoritmetoezichthouder
niet optreedt als helpdesk voor alle
klachten en vragen.

De huidige kennisdatabank geeft een
onvolledig beeld: de toezichthouder gaat
actief informatie ophalen bij de kerngroep.
Door de openbare (jaar)analyse ontstaat
inzicht bij betrokkenen en gebruikers van
algoritmes hoeveel andere mensen dezelfde
klachten hebben.
Relatief overzichtelijke activiteit, kan door
interne data-analist gedaan worden.

Gezamenlijke
normuitleg

Het eerste jaar levert dit nog een
onvolledig beeld op, omdat de
toezichthouder vooral werkt met
informatie van de kerngroep. De
kennisdatabank is van de
Rijksinspecties en sommige
(markt)toezichthouders willen
vanwege vertrouwelijkheid mogelijk
geen informatie delen over lopend
toezicht (zoals de behandeling van
klachten).

Het geven van normuitleg bevordert de
rechtszekerheid van bedrijven, organisaties
en betrokkenen.

Omdat de toezichtsgebieden heel
specifiek zijn, is het opstellen van
gezamenlijke normuitleg voor alle
toezichthouders niet mogelijk en niet
wenselijk.

Bestaande normuitleg bij elkaar zoeken
vergt voor de toezichthouder een geringe
tijdsinvestering.

Penvoerderschap voor het opstellen
van gezamenlijke nieuwe normuitleg
bij overlappende toezichtstaken vergt
meer inzet en afstemming. De
meerwaarde is onduidelijk.
Toezichthouders regelen dit al
onderling met convenanten.

De 22 toezichthouders profiteren van het
extra budget voor de
algoritmetoezichthouder en haar rol als
penwoordvoerder met betrekking tot
normuitleg en overkoepelende analyses.

2. Scenario 2: Loket voor vragen, klachten en signalen
De algoritmetoezichthouder richt een eigen centraal loket in voor mensen die vragen hebben over
of problemen hebben met het gebruik van algoritmes. Individuele betrokkenen moeten eenvoudig
telefonisch of digitaal een signaal kunnen indienen bij de toezichthouder als zij menen dat zij
oneerlijk zijn behandeld door een algoritme.
Het is essentieel dat de helpdesk niet doet aan individuele klachtbehandeling. De praktijkervaring
met verplichte klachtbehandeling onder de AVG leert dat dit een oneindige capaciteit vraagt van de
toezichthouder, die daardoor structureel met grote achterstanden kampt. Dit zorgt weer voor grote
12 van 35

Scenario’s algoritmetoezicht, 5 december 2022

frustratie bij mensen die jarenlang moeten wachten op afhandeling van hun klacht. De
algoritmetoezichthouder moet in dit scenario nadrukkelijk niet gepositioneerd worden als
ombudsman.
Het nieuwe loket moet ook zodanig gepositioneerd worden dat duidelijk is dat het niet open staat
voor vragen van organisaties, consultants, advocaten en FG’s. Deze partijen kunnen informatie
raadplegen op de publieke website. Zij kunnen zich eventueel richten tot de klankbordgroep zoals
besproken in scenario 4.
De toezichthouder moet het mogelijk maken om anoniem te melden, door alle gegevens over de
herkomst van het signaal op verzoek van de indiener onmiddellijk uit de systemen te verwijderen.
Betrokkenen kunnen ook klokkenluiders zijn bij overheden of bedrijfsleven. Door hen in staat te
stellen anoniem signalen in te dienen, kunnen zij waardevolle kennis delen over misstanden waar de
toezichthouder anders geen weet van zou krijgen.14

2.1. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen.
Tabel 2: Voor- en nadelen

Activiteit

Voordelen

Nadelen

Centraal loket voor
betrokkenen

Betrokkenen hebben een centraal
aanspreekpunt en kunnen effectief
worden doorverwezen naar de juiste
toezichthouder.

De helpdesk doet niet aan individuele
klachtbehandeling. Het kan zijn dat
betrokkenen teleurgesteld zijn dat zij niet
meteen worden geholpen, maar enkel
worden doorverwezen.
Betrokkenen weten meestal niet of hun
probleem is veroorzaakt door een
algoritme. Deze activiteit heeft pas nut als
organisaties beter zichtbaar maken dat ze
algoritmes toepassen.

Door betrokkenen in staat te stellen
anoniem signalen in te dienen,
kunnen zij waardevolle kennis delen
over misstanden waar de
toezichthouder anders geen weet
van zou krijgen.

Het doorverwijzen zal wellicht ook tot
vertraging leiden bij de opvolging van het
signaal / de klacht. Het wordt mogelijk
gezien als weer een nieuw loket in de
lokettenjungle.

Aangezien betrokkenen zich met
vragen over allerlei soorten
algoritmes (niet alleen de
verwerking van persoonsgegevens)
tot één centraal punt kunnen
wenden, krijgt de
algoritmetoezichthouder een goed
overzicht van de tendensen en kan
zij meer complete rapportages
aanleveren. De
algoritmetoezichthouder is voor
deze rapportages niet meer enkel
afhankelijk van de
informatieverstrekking door de
andere toezichthouders.

Inrichten van dit loket kost veel FTE,
waardoor de algoritmetoezichthouder
geen tijd kan besteden aan andere
activiteiten.

14 Hoewel dat Europees wel mogelijk is op grond van de EU klokkenluidersrichtlijn, voorziet de

huidige en voorgenomen Nederlandse wetgeving voor het Huis voor Klokkenluiders niet in
anonieme meldingen.
13 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Activiteit

Voordelen

Nadelen

Andere toezichthouders worden
ontlast, doordat de centrale
helpdesk betrokkenen wijst op
beschikbare informatie of
doorverwijst naar een
gespecialiseerde toezichthouder.

3. Scenario 3: vergroten van vakbekwaamheid en dialoog
In dit vierde scenario zet de algoritmetoezichthouder nog steeds capaciteit in op de optimalisering
van de samenwerking en ondersteuning van de bestaande toezichthouders, maar verschuift een
deel van het budget van 1 miljoen euro naar het inventariseren van bestaande AI-opleidingen, en
het creëren van een specifieke opleiding voor AI-toezichthouders. In dit scenario werkt de
algoritmetoezichthouder niet aan een nieuwe gezamenlijke website en database, maar krijgt de
algoritmetoezichthouder eigen pagina’s binnen de website van de AP. Bij dit scenario worden nog
een extra activiteit geschetst: dialoog via een klankbordgroep. Die activiteit is alleen mogelijk als
het ministerie van BZK daar extra budget voor vrijmaakt.
Alle toezichthouders kampen met dezelfde krapte op de arbeidsmarkt, maar als het om toezicht op
algoritmes gaat, komen daar nog twee problemen bij. Getalenteerde mensen met gespecialiseerde
technische vaardigheden, zoals informatici, data analisten en statistici zijn extra schaars op de
arbeidsmarkt, omdat de grote tech bedrijven deze vijver al op de universiteiten leegvissen. Omdat
de wetgeving voor het gebruik van algoritmes deels nog in de maak is, is er ook een tekort aan
juridisch analytische kennis bij de bestaande medewerkers. Daarom is het belangrijk dat de
algoritmetoezichthouder vanuit haar coördinerende rol helpt om de deskundigheid te vergroten bij
bestaande medewerkers van de toezichthouders, en helpt om nieuwe mensen te laten instromen
die nog niet over specifieke juridische of technische AI-kennis beschikken

3.1. Kennis bestaande opleidingen delen
De algoritmetoezichthouder kan een inventarisatie doen van bestaande AI-trainingen en
opleidingen. De Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO) van BZK
biedt bijvoorbeeld al een uitstekend overzicht van beschikbaar kennismateriaal over AI, trainingen
en toetsingskaders.15 Ter illustratie nog twee voorbeelden van bestaande opleidingen: de
Universiteit Leiden biedt een Leergang Artificial Intelligence, Recht en Ethiek.16 De Academie voor
overheidsjuristen biedt een cursus aan Impact Assessment Mensenrechten en Algoritmes (IAMA). 17
De algoritmetoezichthouder kan deze kennis intern delen met de andere toezichthouders en
overheidsorganisaties, maar ook publiek ontsluiten, bijvoorbeeld via de website genoemd in
paragraaf 4.1. Het ontsluiten van deze kennis geeft daarmee invulling aan de aanbeveling van de
WRR dat de overheid moet helpen om organisaties te ondersteunen die zich richten op bijvoorbeeld
de belangen van werknemers, patiënten, leraren, mensen die in armoede leven en achtergestelde

15 RADIO, Artificiële intelligentie, URL: https://www.it-

academieoverheid.nl/onderwerpen/a/artificiele-intelligentie.
16 Universiteit Leiden, leergang AI, URL: https://www.paoleiden.nl/cursusaanbod/2022/leergangartificial-intelligence-recht-en-ethiek/.
17 Academie voor overheidsjuristen, cursus IAMA, URL: https://rechtenoverheid.nl/cursus/impactassessment-mensenrechten-en-algoritmes-iama-1661.
14 van 35

Scenario’s algoritmetoezicht, 5 december 2022

en gediscrimineerde groepen. Deze organisaties hebben doorgaans nog onvoldoende kennis over
AI.18

3.2. Curriculum ontwikkelen nieuwe AI-toezichthoudersopleiding
De algoritmetoezichthouder helpt daarnaast om een curriculum op te stellen voor een of meerdere
nieuwe opleidingen specifiek voor medewerkers van AI-toezichthouders. De toezichthouder kan
differentiëren tussen een traject voor (administratief rechtelijk) toezicht en een traject voor
technologen, maar het kan juist ook wenselijk zijn om medewerkers in één opleiding te bekwamen
in beide aspecten.
Indien gekozen wordt voor één centrale opleiding, zou die in moeten gaan op de theorie van het
toezicht met de verschillende soorten interventies, het wettelijk toezichtskader en de relevante
toezichthouders op AI in Nederland, en op de praktijk van handhaving. De opleiding moet
praktische handvatten bieden voor het combineren van juridische en technische vaardigheden bij
het identificeren van ernstige risico’s bij specifieke AI-toepassingen, en bij het feitelijke technische
onderzoek naar gebruikte algoritmes.
De algoritmetoezichthouder kan hierbij samenwerken met het netwerk van Elsalabs van de
Nederlandse AI coalitie 19, RADIO, maar ook met andere bestaande opleidingsinstituten zoals de
Rijksacademie voor Financiën, Economie en Bedrijfsvoering van het Ministerie van Financiën20, de
Academie voor overheidsjuristen, de stichting Grotius Academie21, of met gespecialiseerde
informatica en rechtenfaculteiten.

3.3. Stages bij toezichthouders
De algoritmetoezichthouder kan helpen bevorderen dat studenten informatica en informatierecht
(of de deelnemers van de bestaande AI opleidingen en trainingen zoals hierboven genoemd in
paragraaf 3.1) stages lopen bij de verschillende AI-toezichthouders. De algoritmetoezichthouder
kan studenten werven door bijvoorbeeld hoorcolleges te geven op universiteiten, door deel te
nemen aan baaninformatiemarkten en door centraal vacatures bij alle relevante toezichthouders te
verzamelen en te publiceren op de nieuwe algoritmetoezicht website. De algoritmetoezichthouder
zou ook wisselstages kunnen bevorderen, waarbij studenten na 6 weken van toezichthouder
wisselen, zodat ze in 3 maanden tenminste bij twee toezichthouders hebben kunnen kijken.
Tenslotte zou de algoritmetoezichthouder ook kunnen kijken naar internationale
informaticastudenten die graag werkervaring willen opdoen bij een AI-toezichthouder. Het doel is
dat deze studenten enthousiast worden voor werk bij een toezichthouder, maar ook kennis over AI
wet- en regelgeving kunnen toepassen in andere werkkringen.

3.4. Informatie op bestaande website AP
In dit scenario maakt de algoritmetoezichthouder geen nieuwe website, maar komen er pagina’s
met uitleg over algoritmetoezicht op de bestaande website van de AP. Hierop kan de
algoritmetoezichthouder doorverwijzen naar de bestaande toezichthouders en inspecties.

3.5. Extra: Klankbordgroep
De WRR adviseert in haar advies over AI om een systematische dialoog op gang te brengen tussen
de toezichthouder en burgers en partijen in het maatschappelijk middenveld die terugkoppeling

18 WRR Opgave AI, De nieuwe systeemtechnologie, 11 nov 2021, URL:

https://www.wrr.nl/publicaties/rapporten/2021/11/11/opgave-ai-de-nieuwe-systeemtechnologie.
19 Zie bijvoorbeeld: https://nlaic.com/nieuws/elsa-lab-netwerkproject-want-van-elkaar-leren-isessentieel/.
20 Rijksacademie, URL: https://www.rijksacademie.nl/ .
21 Grotius Academie, URL: https://www.ru.nl/cpo/grotiusacademie/opleidingen/algemeneinformatie/.
15 van 35

Scenario’s algoritmetoezicht, 5 december 2022

kunnen geven op de werking van AI-systemen. Om gehoor te geven aan dat advies zou de
algoritmewaakhond moeten optreden als klankbord voor de ontwikkelaars van AI-systemen of voor
de afnemers, de maatschappelijke omgeving waarin algoritmische besluitvorming wordt toegepast.
Dat kost erg veel capaciteit van de toezichthouder, omdat de neiging bestaat bij marktpartijen om
elke interactie met de toezichthouder aan te grijpen om concreet advies te vragen over complexe
vraagstukken.
Ter illustratie: de AP heeft sinds 2018 ervaring opgedaan met een klankbordfunctie voor de
Functionarissen Gegevensbescherming. Dit heeft de AP veel menskracht gekost. Toch heeft dit niet
geleid tot grote tevredenheid van de ondertoezichtgestelden, omdat de AP in directe communicatie
geen duidelijk antwoord geeft (slechts 18% van de respondenten vond dat de AP duidelijk antwoord
gaf).22
Gezien de beperkte middelen, zeker in het eerste jaar, is het daarom niet verstandig dat de
algoritmetoezichthouder zelf tijd besteedt aan dialoog, ook omdat de toezichthouder zelf dan nog
onvoldoende kennis en normuitleg heeft uitgewerkt. Wat wel kan, is dat de
algoritmetoezichthouder samenwerkt met één of meerdere Elsalabs. Daarnaast zou het ministerie
van BZK (bescheiden) extra middelen ter beschikking kunnen stellen aan een nog te bepalen NGO
om een klankbordgroep te organiseren. Mogelijke NGO’s die dit op zich zouden kunnen nemen,
zijn: het Racism and Technology Center, Waag, de Kafkabrigade, Bits of Freedom, Transparency
International, Algorithm Audit of Privacy First. Dit heeft als voordeel dat de NGO de
klachten/signalen kan aanhoren en kan bundelen, zonder dat toezichthouders gedwongen zijn om
concrete antwoorden/uitleg te geven, of dat er een beginselplicht tot handhaving ontstaat.

3.6. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen van scenario 3.
Tabel 3: Voor- en nadelen scenario 3

Activiteit

Voordelen

Nadelen

Kennis bestaande
opleidingen delen

Kennisvergroting bij alle AItoezichthouders via bestaande
opleidingen.

Algemeen aanbod, niet toegespitst op
specifieke toezichtsvaardigheden.

Eenvoudig te realiseren activiteit,
kost nauwelijks extra tijd.
Curriculum AIToezichthoudersopleiding

Meer mensen kunnen werven op
krappe arbeidsmarkt door ze zelf
snel op te leiden tot goede
toezichthouders

Investeringen in tijd van medewerkers en
eventuele kosten voor de verschillende
toezichthouders als medewerkers een
commercieel traject volgen.

Bevorderen kennis en deskundigheid
AI-toezicht in Nederland

De algoritmetoezichthouder besteedt
geen tijd aan signaal analyse en het
produceren van een jaarlijks
overzichtsrapport

Vergroting wederzijds begrip juristen
en technologen/digitale experts.

Meerjarig project, niet onmiddellijk
concrete resultaten.
Risico dat getalenteerde medewerkers na
de AI-opleiding vertrekken naar de
commerciële sector.

Stages bij AI
toezichthouders

Andere groepen studenten en
bijvoorbeeld herintreders
interesseren voor een baan in het AI-

22 CIP, FG-Enquête 2022, p. 37, URL : https://www.cip-overheid.nl/media/1845/20220901-cip-fg-

enqu%C3%AAte-2022-10-publiceerversie.pdf
16 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Activiteit

Voordelen

Nadelen

toezicht (indien ze na hun stage
aanblijven)

Concurrentie om talent met Big Tech en
alle gebruikers van algoritmes in
Nederland, inclusief overheden.

Kennis en ethisch besef over het AItoezicht verspreiden in andere
werkkringen.
Voorlichting over
algoritmetoezicht
via website AP

Nauwelijks kosten

Gebruik huisstijl AP kan de indruk geven
dat alleen de AP aan algoritmetoezicht
doet.
Niet al het algoritmetoezicht gaat over
persoonsgegevens

Klankbordgroep

WRR aanbeveling opvolgen dialoog
met betrokkenen en bedrijfsleven via
klankbordgroep.

Extra kosten voor BZK voor het inrichten
van een klankbordgroep via een NGO.

BZK ondersteunt expertise bij
tenminste 1 NGO met meer
deskundigheid op AI-gebied

4. Scenario 4: kennisdeling en voorlichting
Het moet voor overheden, bedrijven en burgers duidelijk zijn met welke toezichthouders zij te
maken kunnen krijgen, wat de normen zijn, hoe zij die normen in de praktijk moeten toepassen, en
welke rechtsmiddelen hen ter beschikking staan. In scenario 3 zet de algoritmetoezichthouder nog
steeds mensen in op de samenwerking en ondersteuning, maar verschuift een deel van het budget
van 1 miljoen euro naar een investering in systematische kennisdeling in een nieuwe database, en
gecentraliseerde externe voorlichting via een nieuwe centrale website.

4.1. Website met onderliggende database met Nederlandse casuïstiek
De algoritmetoezichthouder financiert en coördineert de ontwikkeling van een gezamenlijke
nieuwe informatieve website over AI toezicht. In dit scenario is deze website geen onderdeel van de
bestaande website van de AP, maar een nieuw initiatief met een neutrale naam. Hierdoor kunnen
de 22 toezichthouders en de 7 in Bijlage 1 opgenomen relevante stakeholders zich op hun eigen
manier presenteren, met hun relevante prioriteiten en normuitleg. Door een neutrale naam te
kiezen wordt dit initiatief ook toekomstbestendiger, omdat deze website dan gebruikt blijven
worden door de aangewezen toezichthouder onder de toekomstige AI-verordening. Dat hier
behoefte aan is, blijkt ook uit een voorbeeld als ToezichTTafel, een particulier initiatief met
profielen van allerlei toezichthouders. 23
De voorgestelde nieuwe centrale website geeft betrokkenen en ondertoezichtgestelde bedrijven en
organisaties een duidelijk overzicht wie er toezicht houdt op specifieke toepassingen, hoe de
normen worden uitgelegd, wat de toezichtsrichtlijnen zijn, en waar ze terecht kunnen met vragen,
signalen of klachten. Omdat risico’s bij algoritmes zich niet alleen voordoen bij de verwerking van
persoonsgegevens, ligt het niet voor de hand dat mensen voor alle algoritmevragen naar de website
van de Autoriteit Persoonsgegevens gaan.
De voorgestelde gezamenlijke website biedt houvast aan de gebruikers van algoritmes in het (nog)
gefragmenteerde beleidslandschap. De centrale publicatie van normuitleg en uitleg over het
toezicht kan overheidsorganen en bedrijven al bij de ontwikkeling van algoritmes helpen om kennis
te nemen van alle op hen betrekking hebbende normen.

23 https://toezichttafel.wordpress.com/

17 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Deze website zou gecombineerd kunnen worden met de tweede activiteit binnen dit tweede
scenario: een goed doorzoekbare database met signalen/klachten en beoordelingen door
toezichthouders. De algoritmetoezichthouder gebruikt dan een deel van het budget om de
ontwikkeling te managen en financieren van een gemeenschappelijke toezichtsdatabase met
relevante geanonimiseerde casuïstiek en signalen.
Met casuïstiek wordt nadrukkelijk niet alleen gedoeld op openbare boetes of waarschuwingen,
omdat er daar nog weinig van zijn. Het gaat om alle soorten toezicht, zoals ad hoc advies aan
individuele vragenstellers, brieven aan organisaties over specifieke problemen, normoverdragende
gesprekken, en signalen die opgepikt zijn uit de media die aanleiding vormen voor besluitvorming
over eventuele verdere acties, variërend van enquêtes tot verkennend onderzoek.
De Inspectieraad heeft al een kennisdatabank over AI. Die databank is ad hoc opgebouwd uit
stukken die de toezichthouders sinds de oprichting van de AI werkgroep in 2020 onderling hebben
gedeeld, inclusief presentaties over concrete zaken tijdens de bijeenkomsten van de werkgroep.
In dit scenario begint de algoritmetoezichthouder met het inventariseren en opnemen van de
casuïstiek van de kerngroep binnen de Werkgroep AI, namelijk: AP, ACM, AFM, College voor de
Rechten van de Mens, het Commissariaat voor de Media en AT (vanaf 1 januari: Rijksinspectie
Digitale Infrastructuur).
Het lijkt niet zinvol om in te zetten op uitbreiding van de interne kennisdatabank van de
Inspectieraad, omdat de verschillende toezichthouders en stakeholders lopend onderzoek niet zo
breed mogen en willen delen, buiten de specifieke samenwerkingsconvenanten. Daarom gaat dit
scenario uit van deling van geanonimiseerde, niet bedrijfsvertrouwelijke casuïstiek, en gaat dit
scenario uit van openbaarmaking van die casuïstiek.
De algoritmetoezichthouder ondersteunt met de nieuwe database systematische kennisdeling en
daarmee, de vakbekwaamheid van alle toezichthouders. Dat doet ze door eenmalig bij de
kerngroep toezichthouders de bestaande kennis uit te vragen. Daarnaast neemt de
algoritmetoezichthouder kennis van de voorbeelden uit de interne kennis databank, en overlegt
met de betrokken toezichthouder of het mogelijk is om een geanonimiseerd voorbeeld aan de
database toe te voegen.
Vanaf 2024 kunnen beleidsmedewerkers van de verschillende toezichthouders en inspecties
structureel zelf nieuwe relevante zaken uploaden naar dit systeem. De algoritmetoezichthouder kan
deze input ondersteunen met controle op de anonimisering voordat de zaken publiek worden
ontsloten.
Omdat er in dit scenario een nieuwe database wordt aangelegd die standaard op veel manieren
doorzoekbaar is, kan de algoritmetoezichthouder in dit scenario professionelere data analyses doen
dan in het eerste en tweede scenario.
Het is wel wenselijk dat alle toezichthouders zich committeren om de kennis over ontvangen
signalen, klachten en gegeven adviezen te delen, ook de AP. De AP publiceert nu algemene vragen
en antwoorden, maar publiceert pas uitspraken nadat zij een definitieve boete of sanctie heeft
opgelegd.24
De algoritmetoezichthouder maakt een voorstel voor de structuur van de database met de vereiste
metadata. De database moet inhoudelijk goed gestructureerd zijn, met consistent gebruik van
trefwoorden en een uniforme wijze van beknopt samenvatten van de hoofdelementen. De
toezichthouder stemt dit voorstel af met de collega toezichthouders. Dit ontwerp moet ertoe leiden
dat het systeem goed doorzoekbaar is en als naslagwerk functioneert voor zowel toezichthouders,
als overheden, bedrijven en burgers.

24 Autoriteit Persoonsgegevens, Boetes en andere sancties, URL:

https://www.autoriteitpersoonsgegevens.nl/nl/publicaties/boetes-en-sancties.
18 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Bij het ontwikkelen van deze database is belangrijk dat ook met toekomstige uitbreiding naar
Europese casuïstiek rekening wordt gehouden, en met toekomstige tweetaligheid van de website
(naast Nederlands ook Engels). Deze uitbreiding is één van de mogelijkheden op de langere termijn,
als de toezichthouder meer budget ter beschikking heeft.
Door publicatie van geanonimiseerde casuïstiek ontstaat er een duidelijker beeld van de toepassing
van het wettelijk kader in Nederland op het gebruik van algoritmes. In afwachting van Europees
geharmoniseerde spelregels via de AI-verordening is dit kennisbeeld van groot belang voor de
ondertoezichtgestelden zelf, maar ook voor onderzoek en voorlichting door academici, politici,
journalisten, NGO’s en advocaten/consultants. Centrale ontsluiting van de casuïstiek bevordert niet
alleen de rechtszekerheid, maar biedt ook handvaten aan overheidsorganen en bedrijven om
verantwoorde algoritmes te creëren en te gebruiken. Bovendien kunnen individuele betrokkenen
zien wat er met hun input is gebeurd.
Figuur 1: Overzicht van belanghebbenden en output van centrale website met database

De transparantie via de website met database geeft invulling aan een aanbeveling van de WRR om
tegenwicht te bieden aan de surveillance en afhankelijkheden bij de inzet van AI: “regulering van de
maatschappelijke dynamiek waarmee AI gepaard gaat. Het gaat daarbij om de toename van
surveillance en daarmee dataverzameling in de samenleving, de toenemende afhankelijkheid van de
publieke sector van het bedrijfsleven in het digitale domein, en de machtsconcentratie bij grote
bedrijven.”25

4.2. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen van scenario 2.
Tabel 4: Voor- en nadelen scenario 2

Activiteit

Voordelen

Nadelen

25 WRR Opgave AI, De nieuwe systeemtechnologie, 11 nov 2021, URL:

https://www.wrr.nl/publicaties/rapporten/2021/11/11/opgave-ai-de-nieuwe-systeemtechnologie.
19 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Publieke nieuwe
website
algoritmetoezicht

Neutrale website voor alle
toezichthouders/autoriteiten en
relevante stakeholders.

De projectleider kan bij het ontwerp niet
aan alle wensen voldoen van alle 28
relevante inspecties/toezichthouders/
stakeholders.
Er is weinig regie op de doelen en
doelgroep van de website.

Database met
Nederlandse
casuïstiek

1 centrale informatiebron voor alle
ondertoezichtgestelden over de
toepasselijke regels.

De verschillende toezichthouders zijn zelf
verantwoordelijk voor het updaten van de
informatie over hun taken en activiteiten
en moeten hier dus tijd aan besteden.

1 loket waar betrokkenen kunnen
lezen waar ze terecht kunnen met
vragen en klachten over algoritmes.

De algoritmetoezichthouder doet geen
penvoering van gezamenlijke normuitleg
en heeft geen loket: dat moeten de
toezichthouders zelf doen.

De algoritmetoezichthouder ontlast
alle toezichthouders door personeel
in te zetten om casuïstiek ‘op’ te
halen bij de kerngroep van
toezichthouders, effectief te
anonimiseren en in database te
zetten.

Vergt enige tijdsinvestering van de
toezichthouders: om de casussen aan te
leveren.

Kennisbevordering bij alle AItoezichthouders.

Ondanks anonimisering kunnen sommige
partijen toch herkenbaar zijn of worden.
Organisaties kunnen door publicatie van
een niet-definitief oordeel van de
toezichthouder onevenredig benadeeld
worden.

Vergroten van het publieke besef
over mogelijke misstanden door
inzage in veelvoorkomende signalen
en klachten. De centrale database
bevordert crowdsourcing van het
toezicht.

Publicatie kan inbreuk maken op
intellectueel eigendomsrecht van een
ontwikkelaar van een specifieke
toepassing.

Concrete invulling van open normen
waaraan de ondertoezichtgestelden
rechtszekerheid kunnen ontlenen.

De Rijksoverheid loopt in het algemeen bij
ICT projecten een risico op hoge kosten en
gebrekkige functionaliteit.

Directe toegang tot relevante kennis,
ook voor nieuwe medewerkers.

Als de voorgeschreven eenduidige
structurering niet wordt gebruikt, is het
systeem niet goed doorzoekbaar, en
daardoor niet bruikbaar

Database is onvolledig in het eerste jaar,
door focus op kerngroep, en angst bij
toezichthouders en inspecties om
vertrouwelijke informatie te delen.

B. Extra activiteiten vanaf 2024
Zelfs als het ministerie van BZK kiest voor het meest ambitieuze scenario 4 in 2023 zal het toezicht
op het gebruik van algoritmes niet onmiddellijk zichtbaar verbeteren, omdat de extra middelen
vooral worden aangewend voor kennisverbetering en optimalisering van de samenwerking van de
toezichthouders. Wel wordt in het eerste jaar duidelijker welke toezichthouders er zijn, en hoe zij
hebben opgetreden via de publieke website met database.
Vanaf 2024 gaat het budget voor de algoritmetoezichthouder stapsgewijs omhoog. In 2024 wordt
een budget toegekend van 2 miljoen euro, in 2025 een budget van 3 miljoen euro en vanaf 2026
wordt er structureel jaarlijks een budget toegekend van 3,6 miljoen euro.
In de jaren na 2023 kan de toezichthouder de activiteiten uit het gekozen scenario voor 2023
uitbreiden en opschalen. Met het toenemende budget kan de toezichthouder steeds meer van de
20 van 35

Scenario’s algoritmetoezicht, 5 december 2022

onderstaande activiteiten uitvoeren. Er is in 2024 (met 2 miljoen euro) nog te weinig budget om al
deze activiteiten uit te kunnen voeren. Het ministerie moet dus keuzes maken over de
volgordelijkheid.
Om deze activiteiten succesvol te uit te kunnen voeren, is telkens wet- en regelgeving nodig. Het
ministerie van BZK moet bepalen welke activiteiten zij prioriteert. Vervolgens kan het ministerie al
in 2023 beginnen met initiëren van benodigde wet- en regelgeving. Deze opties worden uitgewerkt
in het derde deel van dit advies, onder C.
De drie nieuwe activiteiten die de algoritmetoezichthouder kan uitvoeren vanaf 2024 zijn:
1.
2.
3.

Meer voorlichting
Meer vakbekwaamheid
Onderzoek

1. Meer voorlichting
1.1. Europese casuïstiek
Veel toezichthouders maken deel uit van een Europees samenwerkingsverband. De AP werkt
bijvoorbeeld samen met collega dataprotectietoezichthouders in het Europees Comité voor
Gegevensbescherming, de EDPB (European Data Protection Board), de ACM in BEREC (Body of
European Regulators for Electronic Communications), DNB in het Single Supervisory Mechanism
(SSM), AFM in European Securities and Markets Authority (ESMA) en het College voor de Rechten
van de Mens in European Network of National Human Rights Institutions (ENNHRI). Omdat er
overal in de EU al met algoritmes wordt gewerkt, zouden deze toezichthouders via hun Europese
netwerk relevante casuïstiek en jurisprudentie kunnen ophalen. Daarnaast bestaat er al een
Europese werkgroep toezicht op AI, waarvan het Agentschap Telecom (vanaf 1 januari 2023:
Inspectie Digitale Infrastructuur) de voorzitter is.
De algoritmetoezichthouder kan een belangrijke coördinerende rol vervullen bij het ontsluiten van
deze Europese kennis door deze op te halen bij de collega toezichthouders en werkgroepen en toe
te voegen aan de interactieve database. De algoritmetoezichthouder besteedt dan initieel tijd en
menskracht aan het anonimiseren en publiceren van de casuïstiek: daarna nemen de medewerkers
van de gespecialiseerde toezichthouders dit werk over, en vullen zij zelf de database aan als
onderdeel van hun gezamenlijke voorlichtingstaken.
De algoritmetoezichthouder moet er dan ook voor zorgen dat de website tweetalig wordt, naast
Nederlands ook Engelstalig. Als gekozen wordt voor een nieuwe centrale website, is hiermee bij het
websiteontwerp al meteen rekening gehouden (zie paragraaf 4.1), maar nu is nog enige externe
ondersteuning nodig bij het ontsluiten van de Engelstalige interface.

1.2. Handleidingen publiceren
De algoritmetoezichthouder kan met meer budget meer tijd besteden aan specifieke technische
voorlichting. Vanuit de markt is grote behoefte aan specifieke, gedetailleerde handleidingen hoe je
de abstracte normen toepast om te voorkomen dat algoritmes niet transparant zijn, en/of tot
discriminatie en willekeur leiden. Bijvoorbeeld uitleg hoe je als organisatie kunt aantonen, tot
tevredenheid van de toezichthouders, dat je voldoet aan de handreiking voor non-discriminatie by
design. Of, hoe je indirecte discriminatie voorkomt door gebruik van proxies. De
algoritmetoezichthouder zou ook een model-HRIA kunnen uitvoeren op een complex algoritme om
daarmee de kwaliteit te bepalen waaraan een HRIA moet voldoen.

1.3. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen.

21 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Tabel 5: Voor- en nadelen

Activiteit

Voordelen

Nadelen

Europese
casuïstiek

Een tweetalige website is toegankelijker en
bevordert de kennisdeling (zowel binnen
Nederland als daarbuiten).

Het aanvullen van de database vergt
tijdsinvestering van alle toezichthouders.

Efficiënter prioriteren van hoog risico
verwerkingen op grond van Europese
voorbeelden. Hierin zitten ongetwijfeld veel
terugkomende voorbeelden van BigTech
algoritmes

Dit werk wordt mogelijk overbodig na
inwerkingtreding van de AI Verordening,
als de board van de gezamenlijke AI
toezichthouders een vergelijkbaar
initiatief gaat ondernemen.

Handleidingen kunnen een preventieve
werking hebben. Als het voor organisaties
duidelijk(er) is om non-discriminatie by
design toe te passen, zal dit ten goede
kunnen komen aan kwaliteit (en legitimiteit)
van de toegepaste algoritmes.

Aangezien er veel verschillende
toezichthouders en verschillende normen
zijn, zal het niet eenvoudig (en
tijdrovend) zijn om alle toezichthouders
te helpen bij het opstellen van een
compleet en bevredigend aanbod van
handleidingen..

Handleidingen
publiceren

Handleidingen kunnen organisaties helpen
om beter te reageren op inzageverzoeken en
om complexe algoritmes uit te leggen. Dit
werkt de-escalerend en kan de werkdruk bij
toezichthouders verlagen.

2. Meer vakbekwaamheid en recruitment
2.1. Traineeships
Naast het aanbieden van stages, zoals beschreven in de korte termijn scenario’s voor 2023, is het
aanbieden van thematisch gerichte traineeships (en bevorderen van traineeships bij andere
toezichthouders) een goed middel om niet alleen om jonge professionals op te leiden en te
ontwikkelen tot specialisten op het gebied van algoritmes, maar ook om deze jonge professionals te
laten doorstromen naar functies binnen de toezichthouders. Aangezien de algoritmetoezichthouder
kennis- en vaardigheidstrainingen dient aan te bieden (en deze trainingen nog moeten worden
ontwikkeld of aangepast) en de werkzaamheden van de algoritmetoezichthouder nieuw zijn, is dit
doel pas mogelijk vanaf 2024.
Binnen het Rijkstraineeprogramma kunnen trainees op dit moment al aan de slag binnen het terrein
‘Beleid’, zoals bij de Inspectie Gezondheidszorg en Jeugd (IGJ), de Autoriteit Consument en Markt
(ACM) en de Inspectie Leefomgeving en Transport (ILT), die ook worden genoemd in Bijlage 1.26 In
2023 zouden al wel voorbereidingen getroffen kunnen worden om een extra (thematisch gericht)
Rijkstraineetraject toe te voegen aan het Rijkstraineeprogramma. De trainee kan dan bijvoorbeeld
opdrachten doen van 6 maanden bij twee verschillende AI-toezichthouders.

2.2. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen.

26 Het Rijkstraineeprogramma, URL:

https://www.werkenvoornederland.nl/starters/traineeships/het-rijkstraineeprogramma.
22 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Tabel 6: Voor- en nadelen

Activiteit

Voordelen

Nadelen

Traineeships

Een trainee verbindt zich normaliter
2 jaar aan het
Rijkstraineeprogramma.

Er zal een thematisch gericht
opleidingstraject moeten worden
ontwikkeld, specifiek voor AI toezicht.

De toezichthouder kan trainees laten
doorstromen naar een vaste baan.

De toezichthouders moeten budget
vrijmaken voor de trainees.

3. Onderzoek
3.1. Onderzoek naar (on)uitgevoerde HRIA’s en (on)gemelde algoritmes
De Algemene Verordening Gegevensbescherming bevat twee innovatieve nieuwe
documentatieplichten voor partijen die verantwoordelijk zijn voor de verwerking van
persoonsgegevens: het bijhouden van een register met verwerkingen van persoonsgegevens, en het
uitvoeren van een Data Protection Impact Assessment verplicht gesteld voor hoog risicoverwerkingen (artikel 35 AVG).
Door het invoeren van deze nieuwe wettelijke verplichtingen heeft de Europese wetgever de
controleerbaarheid van de activiteiten van verwerkingsverantwoordelijken enorm vergroot. Vanuit
bestuursrechtelijk perspectief bestaat deze verplichte documentatie buiten de wil om van de
ondertoezichtgestelde partijen. Dat betekent dat de toezichthouders deze informatie dus kunnen
opvragen als dat nodig is voor hun werk, zonder dat de verantwoordelijken zich kunnen beroepen
op een zwijgrecht.
Naar analogie van die twee AVG-verplichtingen adviseert dit rapport het ministerie van BZK (in de
paragrafen C2en C4) om vergelijkbare self-assessment en transparantieregels in te voeren voor het
gebruik van hoog risico algoritmes.
Het ministerie van BZK werkt aan een nationaal algoritmeregister voor overheidsorganisaties, in lijn
met het advies van de WRR aan de overheid om meer openheid te geven over het eigen gebruik van
AI door initiatieven met algoritmeregisters op te zetten en verder uit te bouwen.27 Het ministerie
verwacht dat in de loop van 2023 een eerste testversie online komt van het nationale
algoritmeregister. Dit register kan helpen om de transparantie bevorderen over verschillende
aspecten van algoritmische systemen: doel en impact, verantwoording, gebruikte datasets,
gegevensverwerking, non-discriminatie, menselijk toezicht, risico’s en hun risicobeperkende
maatregelen, en uitlegbaarheid.
Er is een kopgroep gevormd van BZK met een aantal grote gemeenten en de Vereniging van
Nederlandse Gemeenten (VNG), en landelijke uitvoeringsorganisaties die bezig zijn met de
inrichting van het register.28 Een van de voorgenomen acties van het ministerie van BZK is het
definiëren van een standaard om te bepalen wat hoog risico algoritmes zijn die met prioriteit in het
algoritmeregister moeten worden gepubliceerd. 29 Op langere termijn (circa 2 jaar) wil het ministerie
het gebruik van het algoritmeregister wettelijk verplichten. 30

27 WRR Opgave AI, De nieuwe systeemtechnologie, 11 nov 2021, URL:

https://www.wrr.nl/publicaties/rapporten/2021/11/11/opgave-ai-de-nieuwe-systeemtechnologie.
28 Landelijk algoritmeregister, URL: https://www.algoritmeregister.org/kopgroep.
29 Overzicht acties moties, kopje ‘Algoritmeregister’, URL:
https://www.rijksoverheid.nl/documenten/publicaties/2022/10/07/overzicht-acties-moties-overontwikkelen-en-gebruik-algoritmen-door-overheden.
30 Idem.
23 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Als het ministerie van BZK de aanbeveling in paragraaf C3 opvolgt om het uitvoeren van een
IAMA/HRIA verplicht te stellen voor hoog-risico verwerkingen bij overheden, en de aanbeveling in
paragraaf C4 om die toets ook te publiceren, kan de algoritmetoezichthouder in kaart gaan brengen
welke overheidsorganen geen algoritmes hebben geregistreerd, terwijl ze vermoedelijk wel gebruik
maken van algoritmes. Daarmee kan de algoritmetoezichthouder de andere toezichthouders
helpen om het toezicht te prioriteren, met name ook gericht op overheidsorganisaties die geen
prioriteit geven aan transparantie over het gebruik van algoritmes.
Het invullen van het algoritmeregister gebeurt idealiter pas nadat de organisatie eerst een Impact
assessment Algoritme en Mensenrechten (IAMA) of Human Rights Impact Assessment (HRIA) heeft
uitgevoerd. Zo’n toets dwingt een organisatie om de risico’s van het gebruik van algoritmes in kaart
te brengen, en om na te denken over manieren om die risico’s te voorkomen vóórdat het algoritme
wordt toegepast.
Vermoedelijk gaat het in de praktijk omgekeerd. Veel overheidsorganisaties gebruiken al
algoritmes, zonder dat ze van tevoren een mensenrechten impacttoets hebben gedaan.31 Het is
aannemelijk dat organisaties er pas bij het invullen van het register achter komen op hoeveel
systemen ze alsnog een mensenrechten impacttoets moeten doen. Idealiter wordt het gebruik van
bepaalde hoog risico algoritmes dan tijdelijk gepauzeerd, tot dat IAMA/HRIA is afgerond en de
verbetermaatregelen zijn doorgevoerd.
Als BZK de aanbeveling in C2 doorvoert om ook het uitvoeren van IAMA’s / HRIA’s op hoog risico
algoritmes verplicht te stellen, en de plicht om die algoritmetoetsen ook te publiceren zoals
voorgesteld in C4, kan de algoritmetoezichthouder het toezicht langs twee assen inrichten: de
gepubliceerde IAMA’s / HRIA’s bestuderen en vergelijken, en controleren welke
overheidsorganisaties met vermoedelijke hoog risico verwerkingen géén IAMA’s/ HRIA’s hebben
gepubliceerd. Als het aannemelijk is dat een organisatie een algoritmetoets had moeten uitvoeren
op een hoog risico algoritme, kan de toezichthouder die documentatie opvragen. De
toezichthouder kan ook documentatie opvragen over naleving van de Handreiking non-discriminatie
by design.32
Met dit toezicht anticipeert de algoritmetoezichthouder ook op de AI-act, waarin toezicht op selfassessments een belangrijke rol speelt.
Het opvragen van wettelijk verplichte documentatie betreft een relatief eenvoudige vorm van
bureau-onderzoek. Het is wel essentieel dat de toezichthouder dan niet alleen onderzoek doet naar
de beschikbare documentatie in het register en in de gepubliceerde IAMA’s/HRIA’s, maar juist ook
het spiegelbeeld in kaart brengt, van ongemelde algoritmes en ongepubliceerde documentatie. Een
effectieve toezichthouder moet alert zijn op fundamentelere achterliggende problemen of
problemen die in de toekomst waarschijnlijk gaan groeien. De toezichthouder moet dus
compenseren voor de neiging om meer te letten op algoritmen die meer transparant zijn ten
opzichte van algoritmen die (al dan niet bewust) risico’s verbergen voor de mensen die het risico
lopen.

31 Zie bijvoorbeeld een onderzoek van de NOS, 30 mei 2019, Overheid gebruikt op grote schaal

voorspellende algoritmes, 'risico op discriminatie', URL: https://nos.nl/artikel/2286848-overheidgebruikt-op-grote-schaal-voorspellende-algoritmes-risico-op-discriminatie
32 Rapport in opdracht van BZK, door medewerkers van Tilburg University, Eindhoven University,
Vrije Universiteit Brussel en het College voor de Rechten van de Mens, Handreiking nondiscriminatie by design, URL: https://open.overheid.nl/repository/ronl-3f9fa69c-acf4-444d-96e15c48df00eb3c/1/pdf/bijlage-1-handreiking-non-discriminatie-by-design.pdf.
24 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Deze aanbeveling vloeit voort uit de analyse in de evaluatie van de UAVG dat de AP meer prioriteit
zou moeten geven aan het handhaven op niet-gemelde datalekken, in plaats van het huidige beleid
om vooral handhavend op te treden tegen organisaties die datalekken melden.33
Door te kiezen voor verplichte transparantie krijgt de toezichthouder externe hulp bij het ontdekken
ongemelde hoog risico algoritmes. Zoals beschreven in paragraaf A4.1 als crowdsourcing zorgt de
transparantie ervoor dat betrokkenen, academici, politici, journalisten, NGO’s en
advocaten/consultants mee kunnen kijken welke algoritmes een organisatie zegt toe te passen, en
hoe de impact van die algoritmes is beoordeeld.

3.2. Verkennend onderzoek
De algoritmetoezichthouder kan thema- of sectorgericht verkennend onderzoek doen naar het
gebruik van algoritmes en het besef van de risico’s voor betrokkenen. Dat kan door gestructureerd
informatie op te vragen over potentieel risicovolle vormen van geautomatiseerde besluitvorming.
Voorbeelden van dergelijk verkennend onderzoek zijn onderzoeken die de AP heeft gedaan naar
het gebruik van persoonsgegevens in verkiezingscampagnes34 en cookiegebruik op websites. 35
In lijn met de risico gebaseerde aanpak in de toekomstige AI verordening zou dit onderzoek gericht
moeten zijn op verwerkingen waarin de risico’s die de AI-systemen meebrengen, bijzonder hoog
zijn. Zoals de Europese Commissie schrijft: “Of een AI-systeem als risicovol wordt ingedeeld, hangt af
van het beoogde doel van het systeem en van de ernst van de mogelijke schade en de waarschijnlijkheid
dat het zich voordoet. Risicovolle systemen omvatten bijvoorbeeld AI-systemen die bedoeld zijn om
mensen aan te werven of hun kredietwaardigheid te beoordelen of voor rechterlijke besluitvorming.”36
Het verkennend onderzoek moet zich dus richten op verwerkingen die grootschalig zijn en die tot
ernstige gevolgen kunnen leiden voor betrokkenen, door discriminatie, uitsluiting en gebrek aan
transparantie. Dat zou bijvoorbeeld kunnen bij overheden in het sociale zekerheidsdomein, en bij
Nederlandse ontwikkelaars van algoritmes die vaak in het onderwijs worden toegepast.
De keuze voor deze twee terreinen hangt samen met het gebrek aan keuzemogelijkheid en
zelfbeschikking voor betrokkenen: iedereen moet zijn persoonsgegevens door de overheid laten
verwerken, en in het onderwijs hebben scholieren en studenten doorgaans ook geen keuze in de
toepassing van algoritmes, terwijl er wel zeer ingrijpende gevolgen verbonden kunnen zijn aan

33 Persbericht WODC, Uitvoeringswet AVG kritisch beoordeeld, 6 september 2022, URL:

https://www.wodc.nl/actueel/nieuws/2022/09/06/uitvoeringswet-avg-kritisch-beoordeeld.
“Opvallende bevinding is dat de toezichthouder relatief veel handhavingscapaciteit steekt in gemelde
datalekken.”
34 Persbericht Autoriteit Persoonsgegevens, Verkennend onderzoek naar gebruik
persoonsgegevens in verkiezingscampagnes, 15 februari 2019,
https://autoriteitpersoonsgegevens.nl/nl/nieuws/verkennend-onderzoek-naar-gebruikpersoonsgegevens-verkiezingscampagnes
35 Persbericht Autoriteit Persoonsgegevens, AP: veel websites vragen op onjuiste wijze
toestemming voor plaatsen tracking cookies, 10 december 2019, URL:
https://autoriteitpersoonsgegevens.nl/nl/nieuws/ap-veel-websites-vragen-op-onjuiste-wijzetoestemming-voor-plaatsen-tracking-cookies.
36 Europese Commissie, Mededeling van de Commissie aan het Europees Parlement, de Raad, het
Europees Economisch en Sociaal Comité en het Comité van de Regio's, Bevordering van een
Europese benadering van artificiële intelligentie, 21 april 2021, URL:
https://www.eerstekamer.nl/eu/europeesvoorstel/com_2021_205_commissiemededeling/documen
t/f=/vlndexd9ypu2.pdf.
25 van 35

Scenario’s algoritmetoezicht, 5 december 2022

onjuiste of oneerlijke conclusies. De Europese Commissie heeft onlangs voor scholen nieuwe
richtlijnen voor AI en gegevens in het onderwijs opgesteld, zodat er duidelijke richtlijnen zijn. 37
Op basis van de ontvangen informatie kan de algoritmetoezichthouder vervolgens algemene
voorlichting sturen aan de relevante organisaties en ontwikkelaars binnen dat thema of die sector.
Als uit het onderzoek blijkt dat er sprake is van één of meer ernstige misstanden, moet de
toezichthouder de resultaten overdragen aan een gespecialiseerde inspectie of autoriteit.
Het is wel essentieel dat de algoritmetoezichthouder de onderzoeksbevoegdheden heeft uit de
Algemene wet bestuursrecht. Dit wordt uitgewerkt in deel C, net als inzet op transparantie over dit
type verkennend onderzoek

3.3. Voor- en nadelen
In de onderstaande tabel wordt een overzicht gegeven van de voor- en nadelen.
Tabel 7: Voor- en nadelen

Activiteit

Voordelen

Nadelen

Onderzoek naar
(on)uitgevoerde
HRIA’s en
(on)gemelde
algoritmes

Bevorderen van het invullen van het
algoritmeregister omdat de
algoritmetoezichthouder extra let op
overheden die helemaal geen
algoritmes hebben gemeld.

Vergt arbeidsintensief eigen onderzoek
door de toezichthouders naar gebruik van
niet-gemelde algoritmes.

Door transparantie van gemelde en
ongemelde verwerkingen in het
algoritmeregister kan het toezicht
gecrowdsourced worden (hefboom
effect door academici, politici,
journalisten, NGO’s en
advocaten/consultants).
Anticiperen op controle op selfassessments onder de AI
Verordening
Verkennend
onderzoek en
waarschuwingen

Vergroting van de naleving van
regels voor vermijden discriminatie
en willekeur door preventief effect
op groot aantal organisaties in een
specifieke sector of in een specifiek
domein.

Bij gebrek aan handhaving kunnen
normadressaten de resultaten negeren.

Zichtbaar resultaat van instellen van
separate algoritmetoezichthouder

Teleurstelling bij publiek en politiek over
het uitblijven van grote
handhavingszaken.

37 Europese Commissie, ethical guidelines on the use of artificial intelligence (AI) and data in

teaching and learning for educators, 25 oktober 2022, URL: https://op.europa.eu/en/publicationdetail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en.
26 van 35

Scenario’s algoritmetoezicht, 5 december 2022

C. Wet- en regelgeving BZK
Om de nieuwe activiteiten uit deel B van dit rapport te realiseren, zou het ministerie van BZK een
aantal beleidsmaatregelen moeten treffen en wetgeving initiëren. Daarnaast kan de
staatssecretaris vanuit haar coördinerende rol voor digitalisering inzetten op vrijwillige afspraken
met andere overheden, zoals de provincies en de (grote) gemeenten. Deze maatregelen worden
hieronder puntsgewijs toegelicht, zonder aparte uitwerking van benodigd budget of tabellen met
voor- en nadelen. Omdat er teveel keuzes zijn in de korte termijn scenario’s en lange termijn
activiteiten, worden deze adviezen niet gekoppeld aan de specifiek voorgestelde activiteiten. Waar
mogelijk wordt er wel terugverwezen.
1.
2.
3.
4.
5.

Bevoegdheden algoritmetoezichthouder
Verplichtingen algoritmeregister
Verplicht uitvoeren mensenrechten impacttoets / HRIA
Transparantie casuïstiek
Periodieke audits laten uitvoeren op algoritmes

1. Bevoegdheden algoritmetoezichthouder
In verband met de gewenste snelheid van oprichting van de algoritmetoezichthouder is gekozen om
die onderdeel te maken van de ZBO AP. Via een aanpassing van de UAVG zou de
algoritmetoezichthouder als een apart directoraat binnen de AP onderzoeks- en
handhavingsbevoegdheden toegewezen kunnen krijgen, maar dat heeft als nadeel dat die
bevoegdheden dan beperkt zijn tot de kaders van de AVG, terwijl de nieuwe toezichthouder een
breder bereik heeft.
Om de algoritmetoezichthouder in staat te stellen verkennend onderzoek te verrichten (zoals
genoemd in paragraaf B4.2), zou het ministerie van BZK moeten onderzoeken hoe zij de
toezichthouder de specifieke onderzoeksbevoegdheden kan toekennen uit de artikelen 5:16 Awb
(inlichtingen vorderen), 5: 17 (inzage in/kopieën van zakelijke gegevens en bescheiden) en 5:20 Awb
(verplichte medewerking verlenen). Hierdoor ontstaat er een medewerkingsplicht voor partijen die
een informatieverzoek van de toezichthouder ontvangen, binnen de grenzen van de redelijkheid.
Het ligt niet voor de hand dat de algoritmetoezichthouder specifieke handhavende bevoegdheden
krijgt vooruitlopend op de Europese AI-verordening, gezien de duur van het benodigde
wetgevingstraject.

2. Verplichtingen algoritmeregister
Zoals toegelicht in paragraaf B 3.1 moedigt het ministerie van BZK rijksoverheden nu al aan om hun
gebruik van algoritmes op te nemen in algoritmeregisters. Het ministerie heeft zich voorgenomen
om een standaard te definiëren om te bepalen wat hoog risico algoritmes zijn die met prioriteit in
het algoritmeregister moeten worden gepubliceerd. 38 De Rijksoverheid kan zichzelf
beleidsmaatregelen opleggen zonder apart wetgevingstraject. Het ministerie van BZK zou daarom,
na vaststelling van de standaard voor hoog risico algoritmes, een beleidslijn kunnen aannemen dat
Rijksoverheidsorganisaties de hoog risico algoritmes moeten melden in het nationale
algoritmeregister.

38 Overzicht acties moties, kopje ‘Algoritmeregister’, URL:

https://www.rijksoverheid.nl/documenten/publicaties/2022/10/07/overzicht-acties-moties-overontwikkelen-en-gebruik-algoritmen-door-overheden.
27 van 35

Scenario’s algoritmetoezicht, 5 december 2022

De Tweede Kamer heeft een motie aangenomen om gebruik van dit register algemeen verplicht te
stellen voor overheidsorganisaties en het ministerie heeft aangegeven dat hij hier op iets langere
termijn gehoor aan wil geven, over twee jaar.39
Er is al een kopgroep van grote gemeenten met uitvoeringsorganisatie UWV en het Kadaster bezig
met het invullen van het algoritmeregister. Vooruitlopend op wetgeving kan de staatssecretaris van
digitalisering werken aan een convenant met de provincies en (grote) gemeenten waarin zij zich
committeren om ook zo snel mogelijk hoog risico algoritmes op te nemen in het nationale
algoritmeregister.
Notabene: het algoritmeregister wordt niet beheerd door de algoritmetoezichthouder, maar door
het ministerie van BZK. Dat is ook wenselijk in verband met de toezichthoudende rol op het wel of
niet opnemen van algoritmes in dat register.

3. Uitvoeren mensenrechten impacttoets / HRIA
Het ministerie van BZK heeft in reactie op Kamermoties toegezegd om vanaf het vierde kwartaal
van 2022 een uitvraag te doen onder circa 20 overheden (Rijk, provincies, gemeenten) om een IAMA
toe te passen op algoritmische toepassingen met risico's voor mensenrechten. Een IAMA is een
Impact Assessment Mensenrechten en Algoritmes. De Utrecht Data School heeft hier op verzoek
van BZJK een invulmodel voor gemaakt.40 Met een IAMA kan een overheidsorganisatie op een
gestructureerde manier vaststellen of alle relevante aandachtspunten rondom de inzet van
algoritmes aan bod zijn gekomen. Het gaat daarbij niet alleen om de hoog risico algoritmes die in de
concept AI Verordening worden genoemd, maar om alle algoritmes die worden ingezet voor
evaluaties van, of beslissingen over, mensen. Het uitvoeren van een IAMA is nu nog niet verplicht.41
Het ministerie van BZK heeft toegezegd om tot en met medio 2023 expertise en budget ter
beschikking te stellen wanneer organisaties niet in staat zijn om zelf een IAMA uit te voeren. 42 Als
het ministerie een deel van dit budget aan de algoritmetoezichthouder alloceert, kan die twee
medewerkers inzetten om de ministeries te helpen bij het invullen van het algoritmeregister.
In reactie op Kamermoties heeft het ministerie ook aangekondigd dat ze werkt aan een richtlijn
‘inzet van algoritmes ́ voor het Rijk en andere overheden. Het uitvoeren van een IAMA wordt hier
een integraal onderdeel van. Voor het Rijk wordt eerst overlegd met de CIO ’s over de inzet en
implementatie van deze richtlijn, die het interne CIO-toezicht binnen de Rijksoverheid gaat
versterken.43
Privacy Company stelt in een ander advies aan BZK voor om het IAMA model te verrijken met een
bredere impact van oorzaken van impact op mensenrechten, in plaats van de gesloten lijst van

39 Idem.
40 IAMA, gemaakt door prof. mr. Janneke Gerards, dr. Mirko Tobias Schäfer, Arthur Vankan en Iris

Muis, allen werkzaam aan de Universiteit Utrecht, URL: https://dataschool.nl/iama/.
41 Richtlijnen voor het toepassen van algoritmen door overheden en publieksvoorlichting over dataanalyses (8 maart 2021), URL:
https://www.rijksoverheid.nl/documenten/richtlijnen/2021/09/24/richtlijnen-voor-het-toepassenvan-algoritmen-door-overheden-en-publieksvoorlichting-over-data-analyses.
42 Overzicht acties moties, URL:
https://www.rijksoverheid.nl/documenten/publicaties/2022/10/07/overzicht-acties-moties-overontwikkelen-en-gebruik-algoritmen-door-overheden.
43 Idem.
28 van 35

Scenario’s algoritmetoezicht, 5 december 2022

IAMA. De IAMA beschrijft namelijk (nog) niet de mechanismen waardoor het gebruik van gegevens
tot mensenrechtenimpact kan leiden, behalve als het gaat om bias in het algoritme. 44
Gezien het beperkte budget ligt het niet voor de hand om een verplichting te creëren van
voorafgaande raadpleging van de algoritmetoezichthouder als er hoge risico’s uit de toets komen.
Dit soort raadplegingen zijn voor de toezichthouder zeer arbeidsintensieve trajecten, terwijl het
rendement in verhouding laag is (gericht op één specifieke aanvrager, vaak afgewezen45).

4. Transparantie
Om een compleet beeld te krijgen van de relevante casuïstiek zou het ministerie verschillende
transparantieverplichtingen kunnen opleggen aan de nieuwe algoritmetoezichthouder, en aan alle
relevante AI-toezichthouders. Dit hoeft niet te bijten met de via het Handvest en in de AVG
vastgelegde onafhankelijkheid van de AP. De werkzaamheden van de algoritmetoezichthouder zijn
breder dan het toezicht op de verwerking van persoonsgegevens, en de ministeries kunnen
beleidsmatige regels meegeven aan dit aparte directoraat binnen de AP.
In de eerste plaats zouden de ministeries een plicht kunnen opleggen aan de
algoritmetoezichthouder om minimaal jaarlijks een geaggregeerd toezichtsbeeld te publiceren op
basis van analyse van alle geanonimiseerde ontvangen signalen, klachten en adviezen (zie paragraaf
A 1.2). Dit helpt om inzicht te geven aan de ondertoezichtgestelden, en kan gebruikt worden voor
onderzoek en voorlichting door academici, politici, journalisten, NGO’s en advocaten/consultants.
In de tweede plaats zou het ministerie moeten onderzoeken hoe zij de algoritmetoezichthouder kan
verplichten om de resultaten van verkennend onderzoek te publiceren. Er gaat een sterk preventief
effect uit van deze activiteit als de algoritmetoezichthouder de resultaten van dit verkennend
onderzoek zo snel mogelijk na analyse geaggregeerd en geanonimiseerd publiceert. Deze
resultaten staan los van openbaarmaking van eventuele opvolgingsacties door gespecialiseerde
toezichthouders zoals de AP; dat bepalen die toezichthouders zelf, binnen de grenzen van
specifieke of algemene transparantieverplichtingen zoals de WOO.
Het ministerie van BZK kan ook overwegen de algoritmetoezichthouder te verplichten, als zij een
centraal loket heeft ingericht voor vragen en klachten van betrokkenen over het gebruik van
algoritmes, om regelmatig (bijvoorbeeld elk kwartaal) statistieken openbaar te maken over het
aantal ontvangen en overgedragen signalen, naar welke collega-toezichthouders, met een
beknopte omschrijving van de aard van het gesignaleerde probleem, voor zover dat juridisch niet op
onoverkomelijke bezwaren stuit.
Het ministerie zou in samenwerking met de andere departementen beleidslijnen kunnen
aanmoedigen die de domein specifieke toezichthouders verplichten om hun AI casuïstiek
geanonimiseerd te delen in de gemeenschappelijke en publiek beschikbare database over het
algoritmetoezicht in Nederland. Dit om te voorkomen dat sommige toezichthouders bang zijn om
gegevens te delen uit angst voor claims van ondertoezichtgestelden.
Het ministerie van BZK kan zich met andere departementen inzetten voor wetgeving die een
algemene publicatieplicht oplegt aan toezichthouders voor besluiten om wel of niet tot handhaving

44 Privacy Company HRIA op het gebruik van Facebook Pages door overheidsorganisaties, 18

november 2022, URL: https://www.rijksoverheid.nl/documenten/rapporten/2022/11/18/hria-ongovernment-facebook-pages.
45 In totaal heeft de AP volgens haar jaarverslag in 2020 slechts 8 voorafgaande
raadplegingsverzoeken ontvangen. En in 2021 slechts 10. Van die 10 verzoeken heeft de AP er 8 niet
in behandeling genomen, 1 werd ingetrokken en slechts over één verzoek is inhoudelijk
geadviseerd. Bron: Considerati, Van voorafgaand onderzoek naar DPIA, 25 mei 2022, URL:
https://www.considerati.com/nl/kennisbank/avg-dpia-voorafgaande-raadpleging.html .
29 van 35

Scenario’s algoritmetoezicht, 5 december 2022

of opvolging over te gaan, en voor rapporten over handhavend onderzoek naar algoritmes. Zo’n
expliciete publicatieplicht rust wel op besluiten van de ACM46, maar bijvoorbeeld niet op de AP.
Tenslotte zou het ministerie zich kunnen inzetten voor een publicatieplicht voor de IAMA’s/HRIA’s
die overheden verplicht moeten uitvoeren als het ministerie de suggestie hierboven overneemt.
Journalisten, academici en NGO’s kunnen specifieke impactbeoordelingen nalezen als zij denken
een missstand op het spoor te zijn, om te zien of de organisatie over het risico heeft nagedacht (of
de organisatie überhaupt het vereiste onderzoek heeft gedaan). Ze kunnen ook systematisch
impact assessments met elkaar vergelijken in een bepaald aandachtsgebied, en op die manier
mogelijke risico’s ontdekken. Door heel veel externe mensen mee te laten kijken, en mee te laten
denken over de hoogste risico’s, kan de toezichthouder haar schaarse middelen veel efficiënter
inzetten.

5. Periodieke audits uitvoeren op algoritmes
Organisaties die persoonsgegevens verwerken met algoritmes moeten al aantonen dat ze aan de
beginselen van de AVG voldoen (bewijsplicht uit artikel 5(2) AVG). Daarbovenop, ook in relatie tot
algoritmes die niet perse over persoonsgegevens gaan, bijvoorbeeld omdat het over
groepskarakteristieken gaat, herkenning van auteursrechtelijk beschermd materiaal of
cybersecurity inschattingen, kan het ministerie van BZK een beleidsregel opstellen dat de overheid
periodieke audits moet laten uitvoeren op haar eigen gebruik van algoritmes, door onafhankelijke
derden, of door de Auditdienst Rijk. Het rapport van Hooghiemstra raadt aan:
“laat organisaties die gebruik maken van algoritmes periodiek auditeren door een externe partij op:
o

het ontwerp en de werking van de algoritmes,

o

de vraag of deze nog steeds het doel dienen waarvoor ze werden ingezet,

o

of de menselijke maat in acht wordt genomen en

o

of het controlesysteem nog functioneert.”47

De toezichthouders zouden zelf ook zo’n periodieke audit moeten laten uitvoeren op de algoritmes
die ze zelf gebruiken voor bijvoorbeeld prioritering van het toezicht op basis van klachten en
signalen.
Voor het inrichten van deze audits kan het Toetsingskader algoritmes worden gebruikt dat is opgezet
door de Algemene Rekenkamer.48 Dit toetsingskader bestaat uit vijf perspectieven: Sturing en
verantwoording, Model en data, Privacy, General IT Controls en Ethiek. De Auditdienst Rijk heeft dit
model verfijnd en verder uitgewerkt op basis van onderzoek naar vijf algoritmes die gebruikt
worden door verschillende departementen en uitvoeringsorganisaties. 49 De ADR schrijft: “Dit kader
is ontwikkeld met behulp van nationale en internationale richtlijnen en rapporten, o.a. de (concept)
richtlijnen van het ministerie van JenV, de AI impact assessment van het ECP, de ethics guidelines for
trustworthy AI van de EC en het Privacy Control Framework van NOREA. Daarnaast is het kader
afgestemd met (concept) toetsingskaders van andere partijen. De deelvragen in het onderzoek sluiten

46 Vastgelegd in de Werkwijze openbaarmaking ACM, URL:

https://wetten.overheid.nl/BWBR0036859/2020-02-12 .
47 Idem, p. 4.
48 Algemene Rekenkamer, Digitaal Toetsingskader Algoritmes (Excel), 26 januari 2020, URL:
https://www.rekenkamer.nl/binaries/rekenkamer/documenten/publicaties/2021/01/28/downloadhet-toetsingskader/Toetsingskader+algoritmes+v1.0.xlsx
49 ADR onderzoeksrapport beheersing algoritmes binnen het Rijk, 8 juni 2022, URL:
https://www.rijksoverheid.nl/documenten/rapporten/2022/06/08/onderzoeksrapport-beheersingalgoritmes-binnen-het-rijk.
30 van 35

Scenario’s algoritmetoezicht, 5 december 2022

aan bij de onderwerpen in het normenkader.”50 Het ministerie kan er via een beleidsregel voor zorgen
dat overheidsorganisaties dit framework moeten gebruiken voor de audits.

6. Tabel met voor- en nadelen
Activiteit

Voordelen

Nadelen

Bevoegdheden
algoritmetoezichthouder

Onderzoeksbevoegdheden zijn
noodzakelijk om
domeinoverstijgend
voorbereidend onderzoek te
kunnen doen

Vergt wetgevingstraject

Verplichtingen algoritmeregister

Overheden zijn zich bewust van
de toepassing van algoritmes en
kunnen door die kennis beter
toetsen of ze bij het gebruik
ervan aan de wettelijke regels
voldoen.

Vergroting van de administratieve
lasten voor overheidsorganen om
hun algoritmes in beeld te krijgen
en te beschrijven.

Overheden bevorderen het
vertrouwen in de rechtstaat
doordat ze mensen in staat
stellen om te zien hoe hun
gegevens worden verwerkt.

Vergroting administratieve lasten
als burgers vragen stellen over
verwerkingen in het
algoritmeregister.

Verplicht uitvoeren
mensenrechten impacttoets

Overheden kijken niet alleen
naar de gevolgen voor de
bescherming van
persoonsgegevens, maar naar
de consequenties, zoals
maatschappelijke impact, van
geautomatiseerde
besluitvorming op de rechten
van burgers.

Extra administratieve last voor
overheidsorganen, bovenop
huidige kosten en inspanningen
voor DPIA’s en DTIA’s.

Transparantie

Vergroten zichtbaarheid van
patronen in klachten: hefboom
effect door onderzoek en
voorlichting door academici,
politici, journalisten, NGO’s en
advocaten/consultants.

Ondanks anonimisering kunnen
sommige partijen toch herkenbaar
zijn of worden.

Concrete invulling van open
normen waaraan de
ondertoezichtgestelden
rechtszekerheid kunnen
ontlenen.

Om herleidbaarheid te voorkomen
moet de algoritmetoezichthouder
soms essentiële details weglaten.

Externe onafhankelijke controle
volgens goed uitgewerkt
stramien.

Extra kosten voor externe audit,
inzet van werknemers.

Periodieke audits laten uitvoeren
op algoritmes

Schijnzekerheid: het melden van
een algoritme zegt nog niets over
de rechtmatigheid daarvan.

Verminderen van de druk op de
toezichthouder(s) om de
rechtmatigheid van de
verwerking te beoordelen.

50 Idem, p. 17.

31 van 35

Scenario’s algoritmetoezicht, 5 december 2022

BIJLAGE 1
In deze bijlage staan de 22 toezichthouders, Colleges en rijksinspecties vermeld die zich al
bezighouden met toezicht op AI. De 7 partijen met een asterix hebben niet de formele status van
toezichthouders, maar vervullen wel een belangrijke rol in het AI toezichtslandschap.51

Toezichthouders en relevante
stakeholders*

AI toezichtsgebied

Agentschap Telecom52 (AT),
straks: Rijksinspectie Digitale
Infrastructuur (RDI).

Digitale infrastructuur, radio apparatuur en cybersecurity.53

Algemene Rekenkamer*

Toezicht op algoritmes Rijksoverheid, toetsingskader voor de inzet
door overheden.54

Auditdienst Rijk (ADR)*

Uitvoeren van audits op algoritmegebruik door de Rijksoverheid. 55

Autoriteit Consument en Markt
(ACM)

Digitale economie in alle marktsectoren,
consumentenbescherming.56

Autoriteit Financiën en Markt
(AFM)

Toezicht op financiële dienstverleners, bijvoorbeeld op het gebied
van prijsvergelijking en algoritmes die onderling op elkaar
inwerken.57

51 Zie ook de tabel met toezichthouders in Bijlage 3 van de Kamerbrief met reactie op initiatiefnota

over menselijke grip op algoritme, 20 april 2022, URL:
https://www.rijksoverheid.nl/documenten/rapporten/2020/04/20/tk-bijlage-3-overzichttoezichthouders. Hierin worden 3 interne rijkstoezichthouders genoemd, 10 rijksinspecties, 7
markttoezichthouders en 3 overige toezichthouders.
52 Vanaf 1 januari 2023 krijgt het Agentschap Telecom een nieuwe naam: Rijksinspectie Digitale
Infrastructuur (RDI).
53 Position Paper Agentschap Telecom, 14 oktober 2021, URL:
https://www.agentschaptelecom.nl/documenten/publicaties/2021/10/14/position-paperagentschap-telecom-over-digitalisering. Zie ook: Jaarbericht Agentschap Telecom 2021, Toezicht
op AI: inspecties delen kennis, URL:
https://magazines.agentschaptelecom.nl/staatvandeether/2021/01/toezicht-op-ai-inspecties-delenkennis.
54 Rekenkamer, aandacht voor algoritmes, 26 januari 2021, URL:
https://www.rekenkamer.nl/publicaties/rapporten/2021/01/26/aandacht-voor-algoritmes.
55 Auditdienst Rijk, Onderzoeksrapport beheersing algoritmes binnen het Rijk, 8 juni 2022, URL:
https://open.overheid.nl/repository/ronl9ffe4b7c0d5632a4041881a8e0e971724fef5622/1/pdf/onderzoeksrapport-beheersing-algoritmesbinnen-het-rijk-v2.pdf.
56 ACM, Onderzoek naar toezicht op algoritmische toepassingen, position paper 10 december 2022,
URL: https://www.acm.nl/nl/publicaties/onderzoek-naar-toezicht-op-algoritmische-toepassingen.
Zie ook: ACM onderzoekt werking van algoritmes in de praktijk, URL:
https://www.acm.nl/nl/publicaties/acm-onderzoekt-werking-van-algoritmes-de-praktijk.
57 AFM, Aandachtspunten AFM en DNB bij artificiële intelligentie in de verzekeringssector, URL:
https://www.afm.nl/nl-nl/nieuws/2019/jul/verkenning-ai-verzekeringssector. Zie ook: Persbericht
AFM, AFM deelt bevindingen en verwachtingen rondom beheersing en controle van
handelsalgoritmes, 2 april 2021, URL: https://www.afm.nl/nl-nl/nieuws/2021/april/beheersingcontroles-handelsalgoritmes.
32 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Toezichthouders en relevante
stakeholders*

AI toezichtsgebied

Autoriteit Persoonsgegevens (AP)

Verwerking van persoonsgegevens door bedrijven, overheden en
politie/opsporingsdiensten.58

Bureau Financieel Toezicht (BFT)

Toezicht op de naleving van de Wet ter voorkoming van witwassen
en financieren van terrorisme (Wwft) ten aanzien van notarissen,
belastingadviseurs, accountants, administratiekantoren en overige
juridische dienstverleners.59

College voor de Rechten van de
Mens (CvdRM)

Gelijke behandeling en mensenrechten.60

Commissariaat voor de Media
(CM)

Pluriformiteit, transparantie, gelijk speelveld en onafhankelijkheid
van de media bij de omroepen, radio, Youtube & TikTok, concreet
bijv. recommendation engines en nepnieuws/desinformatie.

Commissie van Toezicht op de
Inlichtingen- en
Veiligheidsdiensten (CTIVD)

Toezicht op gebruik algoritmes zoals automated Open Source
Intelligence (OSINT) door Algemene Inlichtingen- en
Veiligheidsdienst (AIVD) en de Militaire Inlichtingen- en
Veiligheidsdienst (MIVD).61

De Nederlandse Bank (DNB)

Fintech governance, bijvoorbeeld gebruik van postcode voor
prijsdifferentiatie bij verzekeringen of risico profilering, op basis van
bestaande wetgeving.62

Inspectie belastingen, toeslagen
en douane (IBTD, nieuw)

Toetst of de overheid mensen en bedrijven rechtvaardig behandelt
wanneer zij te maken hebben met belastingzaken, toeslagen of de
douane.63

Inspectie Gezondheidszorg en
Jeugd (IGJ)

Markttoelating medische hulpmiddelen (op basis van de Medical
Device Regulation).

Inspectie Justitie en Veiligheid

Toezicht op gebruik AI door de politie.64

Inspectie Leefomgeving en
Transport (ILT)

Gebruikt zelf gebruikt AI en ML om risico voorspellende modellen te
maken over verhoogd risico op overtredingen. 65

Inspectie Overheidsinformatie en
Erfgoed

Onderzoek naar archiveren van gebruikte algoritmes.66

Inspectie van het Onderwijs

Geen aparte informatie, aangesloten bij AI werkgroep Inspectieraad.

58 Autoriteit Persoonsgegevens Inzet Artificial Intelligence Act, 15 maart 2022, URL:

https://www.autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/ap_inzet_ai_act.pdf.
59 Bureau Financieel Toezicht, URL: https://www.bureauft.nl/bft/#wat-doet-bft
60 College voor de rechten van de Mens, thema Digitalisering, URL:
https://www.mensenrechten.nl/themas/digitalisering.
61 CTIVD, jaarverslag 2021, p. 11, URL: https://www.ctivd.nl/overctivd/documenten/jaarverslagen/2021/04/26/index .
62 DNB, Fintech, AI en innovatie, URL: https://www.dnb.nl/innovatie-in-betalen-enbankieren/fintech-ai-en-innovatie/.
63 IBTD, werkprogramma 2023, URL:
https://www.inspectiebtd.nl/binaries/inspectiebtd/documenten/jaarplannen/2022/10/18/dit-gaanwe-doen-in-2023/Werkprogramma+2023+IBTD.pdf.
64 Zie bijv. Kamerstukken II, 2019-20, 26 643 en 32 761, nr. 652, brief van de minister van justitie en
veiligheid, Artificiële intelligentie bij de politie, 3 december 2019, URL:
https://www.tweedekamer.nl/downloads/document?id=2019D49623.
65 ILT, Privacyverklaring Artificial Intelligence en Machine Learning, URL:
https://www.ilent.nl/privacy/privacyverklaring-artificial-intelligence-en-machine-learning
66 Inspectie Overheidsinformatie en Erfgoed, Algoritmes en de Archiefwet, 21 januari 2021, URL:
https://www.inspectie-oe.nl/actueel/nieuws/2021/01/21/algoritmes-en-archiefwet.
33 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Toezichthouders en relevante
stakeholders*

AI toezichtsgebied

Inspectie Veiligheid Defensie

Wil zelf meer data-analyse doen voor veiligheidsmanagement.67

Inspectieraad (tien leden, vijf
geassocieerde leden 68)*

Coördineert samenwerking tussen de Rijksinspecties69,
tweemaandelijkse werkgroep Toezicht op AI/algoritmes sinds 2020
waaraan 24 rijksorganisaties deelnemen, focus op de Europese AIverordening.70

Kansspelautoriteit

Zorgplicht aanbieders, onder andere risicobeoordeling
gokverslaving.71

Nationale Ombudsman*

Behoorlijk gebruik van data en algoritmes door de overheid
(duidelijk, toegankelijk, oplossingsgericht).72

Nederlandse Arbeidsinspectie
(voorheen: Inspectie Sociale
Zaken en Werkgelegenheid)

Gebruikt zelf algoritmes voor opsporing overtredingen, bv
leeftijdsdiscriminatie in vacatureteksten.73 Toezicht op bv
arbeidsmarktdiscriminatie op online vacatureplatforms.74

Nederlandse Voedsel en
Warenautoriteit (NVWA)

Kennis over de markt, naleving en (opkomende) productrisico’s
vergroten op het gebied van productveiligheid door inzet van
algoritmes.75

Nederlandse Zorgautoriteit (NZa)

Aangesloten bij AI werkgroep Inspectieraad. Maakt gebruik van
risicogestuurd toezicht, o.a. met een dashboard. 76

67 Inspectie Veiligheid Defensie, Toezichtjaarplan 2022, URL:

https://www.ivd.nl/documenten/jaarplannen/2021/11/25/ivd-jaarplan-2022.
68 De vijf geassocieerde leden zijn: De Autoriteit Nucleaire Veiligheid en Stralingsbescherming,
Directoraat Generaal Belastingdienst, Directoraat Generaal Douane, De Inspecteur Generaal der
Krijgsmacht en De Nederlandse Emissieautoriteit.
69 Samenwerkingsovereenkomst Inspectieraad 2022, 18 januari 2022, URL:
https://www.rijksinspecties.nl/over-deinspectieraad/publicaties/publicaties/2022/01/18/samenwerkingsovereenkomst
70 Jaarverslag Inspectieraad 2021, Samen sterk voor toezicht: De Inspectieraad blikt terug op 2021,
22 maart 2022, URL:
https://www.rijksinspecties.nl/publicaties/jaarverslagen/2022/03/22/jaarverslag-2021
71 Kansspelautoriteit, Kansspelwetgeving over zorgplicht en limietstellingen in 21 Europese landen,
juli 2022, URL: https://kansspelautoriteit.nl/publish/library/17/onderzoek_meerkerk_juli_2022.pdf.
72 Nationale ombudsman, Ombudsvisie op gebruik van data en algoritmes door de overheid: stel
burgers centraal, 2 maart 2021, URL:
https://www.nationaleombudsman.nl/nieuws/2021/ombudsvisie-op-gebruik-van-data-enalgoritmes-door-de-overheid-stel-burgers-centraal.
73 Nederlandse Arbeidsinspectie, Leeftijdsdiscriminatie in vacatureteksten, 30 april 2020, URL:
https://www.nlarbeidsinspectie.nl/publicaties/rapporten/2020/04/30/leeftijdsdiscriminatie-invacatureteksten---een-geautomatiseerde-inhoudsanalyse-naar-leeftijd-gerelateerd-taalgebruik-invacatureteksten.
74 Verkennend onderzoek naar discriminatiemogelijkheden op online vacatureplatforms, In
opdracht van Inspectie SZW, 22 januari 2021, URL:
https://www.nlarbeidsinspectie.nl/binaries/nlarbeidsinspectie/documenten/publicaties/2021/01/22/e
indrapportage-discriminatiemogelijkheden-onlineplatforms/Eindrapportage+discriminatiemogelijkheden+online+platforms.pdf.
75 NVWA, Meerjarenagenda, 24 juni 2021, URL:
https://www.nvwa.nl/binaries/nvwa/documenten/nvwa/organisatie/meerjarenagenda/publicatie/me
erjarenagenda-nvwa/meerjarenagenda-nvwa.pdf.
76 NZa, de Waarde van datagedreven toezicht door de NZa, 24 november 2021, URL:
https://magazines.nza.nl/nza-magazines/2021/05/de-waarde-van-datagedreven-toezicht-door-denza.
34 van 35

Scenario’s algoritmetoezicht, 5 december 2022

Toezichthouders en relevante
stakeholders*

AI toezichtsgebied

Raad van State*

Wetgevingsadviezen digitalisering. 77

Raad voor de Rechtspraak*

Gebruik van algoritmes in de rechtspraak.78

Rijksdienst voor het Wegverkeer
(RDW)

Toezicht op AI (b.v. als onderdeel in zelfrijdende voertuigen), gebruik
in de uitvoering van RDW-taken (b.v. risico gebaseerd toezicht) en AI
in de bedrijfsvoering van RDW (b.v. chatbots).79

Staatstoezicht op de Mijnen

Geen aparte informatie, aangesloten bij AI werkgroep Inspectieraad.

Stichting Reclame Code*

Op basis van zelfregulering van de reclamebranche, heeft een eigen
AI-tool ontwikkeld die helpt om online reclame te monitoren. 80

77 Raad van State, Digitalisering wetgeving en bestuursrechtspraak, mei 2021, URL:

https://www.raadvanstate.nl/publish/library/13/digitalisering_wetgeving_en_bestuursrechtspraak.p
df.
78 Raad voor de Rechtspraak, Algoritmes in de rechtspraak. Wat artificiële intelligentie kan
betekenen voor de rechtspraak, februari 2019, URL:
https://www.rechtspraak.nl/SiteCollectionDocuments/rechtstreeks-2019-02.pdf.
79 Nederlandse AI Coalitie, RDW, URL: https://nlaic.com/zoho_deelnemer/rdw/.
80 Stichting Reclame Code, SRC wint Europese Award voor AI-tool, 7 oktober 2022, URL:
https://www.reclamecode.nl/?s=AI.
35 van 35