Tweede Kamer der Staten-Generaal

2

Vergaderjaar 2022–2023

26 643

Informatie- en communicatietechnologie (ICT)

Nr. 982

VERSLAG VAN EEN COMMISSIEDEBAT
Vastgesteld 15 maart 2023
De vaste commissie voor Digitale Zaken heeft op 15 februari 2023 overleg
gevoerd met mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties
en Digitalisering, over:
− de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties d.d. 10 juni 2021 inzake voortgang AI en algoritmen (Kamerstuk 26 643, nr. 765);
− de brief van de Staatssecretaris van Binnenlandse Zaken en
Koninkrijksrelaties d.d. 12 mei 2021 inzake aanbieding
afschrift van de brief aan de Nationale ombudsman in reactie
op het rapport De burger is geen dataset (Kamerstuk 26 643,
nr. 756);
− de brief van de president van de Algemene Rekenkamer
d.d. 26 januari 2021 inzake rapport Aandacht voor algoritmes
(Kamerstuk 26 643, nr. 737);
− de brief van de Staatssecretaris Koninkrijksrelaties en
Digitalisering d.d. 26 oktober 2021 inzake reactie op het
rapport «Xenophobic machines» van Amnesty International
(Kamerstukken 26 643 en 31 839, nr. 799);
− de brief van de president van de Algemene Rekenkamer
d.d. 18 mei 2022 inzake rapport Algoritmes getoetst. De inzet
van 9 algoritmes bij de overheid (Kamerstuk 26 643, nr. 854);
− de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties d.d. 26 november 2021 inzake beantwoording
vraag, gesteld tijdens het commissiedebat Telecomraad van
24 november 2021, over verplichte mensenrechtentoets bij
hoogrisico-AI-systemen (Kamerstukken 26 643 en 32761,
nr. 800);
− de brief van de Staatssecretaris Koninkrijksrelaties en
Digitalisering d.d. 4 juli 2022 inzake reactie op het onderzoeksrapport van Amnesty International getiteld Xenofobe
machines (Kamerstukken 33 826 en 26 643, nr. 45);
− de brief van de Staatssecretaris Koninkrijksrelaties en
Digitalisering d.d. 7 oktober 2022 inzake beantwoording
vragen commissie over het rapport Algoritmes getoetst. De
inzet van 9 algoritmes bij de overheid (Kamerstuk 26 643,
nr. 854) (Kamerstuk 26 643, nr. 923);

kst-26643-982
ISSN 0921 - 7371
’s-Gravenhage 2023

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

1

− de brief van de Staatssecretaris Koninkrijksrelaties en
Digitalisering d.d. 22 december 2022 inzake inrichtingsnota
algoritmetoezichthouder (Kamerstuk 26 643, nr. 953);
− de brief van de Staatssecretaris Koninkrijksrelaties en
Digitalisering d.d. 21 december 2022 inzake stand van zaken
Algoritmeregister (Kamerstuk 26 643, nr. 950).
Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk
verslag uit.
De voorzitter van de commissie,
Kamminga
De griffier van de commissie,
Boeve

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

2

Voorzitter: Kamminga
Griffier: Muller
Aanwezig zijn negen leden der Kamer, te weten: Van Baarle, Bouchallikh,
Dekker-Abdulaziz, Kamminga, Kathmann, Koekkoek, Leijten, Rahimi en
Slootweg,
en mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en
Digitalisering.
Aanvang 14.01 uur.
De voorzitter:
Aan de orde is het commissiedebat Inzet algoritmes en data-ethiek binnen
de rijksoverheid van de vaste commissie voor Digitale Zaken. Ik heet de
Staatssecretaris van harte welkom en uiteraard de leden en een mooie
volle publieke tribune. Welkom allemaal en ook welkom aan de mensen
die thuis of elders meekijken naar dit debat. We hebben drie uur uitgetrokken voor het debat. We zijn met vijf leden van de zijde van de Kamer,
waarvan er twee ons iets eerder moeten verlaten. Overigens met goede
reden, want de heer Van Baarle zit ook in het plenaire debat en de heer
Slootweg moet nog naar een technische briefing over een ander
onderwerp dat ook alles met digitaal te maken heeft, namelijk de digitale
euro. Hij zal zich later weer bij ons voegen. Daarom zitten ze vooraan.
Ik stel aan de leden voor om drie interrupties in tweeën aan elkaar te
doen. Dat betekent drie interrupties en een vervolgvraag. U mag een
vraag stellen en een vervolgvraag, want ik merk toch dat dat vaak fijner
werkt. We kijken even naar de tijd, maar volgens mij is het uitgangspunt
prima. Dan doen we hetzelfde in de termijn van de Staatssecretaris.
Aangezien een aantal leden eerder weg moeten, wil ik de heer Van Baarle
namens DENK het woord geven voor zijn inbreng.
De heer Van Baarle (DENK):
Voorzitter. Is inmiddels al bekend wat het aantal algoritmes binnen de
overheid met automatische besluitvorming is? Kan de Staatssecretaris
inmiddels aangeven of en, zo ja, hoeveel zelflerende algoritmes de
overheid gebruikt? Een aantal maanden geleden kon de Staatssecretaris
hier schriftelijk geen antwoord op geven. Dit roept vragen op. We hebben
een doorlichting gedaan van de algoritmen op discriminatie, de uitvoering
van de befaamde motie nr. 13, heet-ie volgens mij in het jargon. Wat is die
doorlichting waard geweest, als we na die doorlichting niet weten welke
algoritmen we binnen de overheid hebben? Wat is er dan precies allemaal
doorgelicht? Bij die doorlichting kijk je toch naar alle algoritmen en of ze
discrimineren.
Ik las in de schriftelijke beantwoording ook dat er nog geen sprake is van
een geharmoniseerd toetsingskader van het Rijk. Dit verbaasde mij, want
mijn impressie was dat we wel een toetsingskader hebben. Maar als dat
niet zo is, waar is dan in die doorlichting aan getoetst? Is dat dan niet
totale willekeur?
Als de Staatssecretaris geen antwoord kan geven op deze vragen, dan
heeft de fractie van DENK ernstige twijfels bij de uitvoering van de
doorlichting op discriminatie in de algoritmen. Dan herhaalt de fractie van
DENK het pleidooi om deze doorlichting extern te laten toetsen. We
hebben met verheuging gezien dat de Staatssecretaris dit alsnog wil laten
doen, maar we willen graag vragen waarom de keuze is gemaakt om de
ADR dit te laten doen; de ADR die jarenlang aan de lat stond om toezicht
te houden op onder andere de Belastingdienst en nooit heeft geconstateerd dat er zoiets plaatsvond als de toeslagenmisdaad. Is het wel de
juiste instantie om dit te laten doen?

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

3

Ik constateer dat de richtlijnen binnen de overheid allemaal redelijk
vrijblijvend zijn. De Staatssecretaris strooit met handleidingen en spreekt
heel vaak over stimuleren in plaats van verplichten. De vraag van DENK
blijft, zoals we ook gevraagd hebben in een aangenomen motie: wanneer
komen nou de bindende criteria? Daarbij is het steeds maar wachten op
de AI Act. Dat is een beetje het ei waarop gebroed wordt en waar we
volgens de Staatssecretaris alles mee gaan redden. Maar hoe concreet
worden nou de antidiscriminatiecriteria in die AI Act? Er wordt alleen
gesproken over het registreren van bijvoorbeeld hoogrisicoalgoritmes en
dat daar de verscherpte richtlijnen voor gaan gelden. Wat is daarin de
definitie van hoog risico waar we op afkoersen? Hoe sorteren we nu voor
op de invoering van de AI Act? Kan de Staatssecretaris nu een antwoord
geven op de vraag hoe we die nationaal gaan handhaven en wie dat gaat
doen?
Dan de toezichthouder. De fractie van DENK is blij dat die toezichthouder
er komt, maar is wel teleurgesteld in de rol. Want het is eigenlijk een
toezichthouder die geen toezicht houdt. Je zou toch zeggen dat een
toezichthouder op zijn minst toezicht moet gaan houden of we de
bestaande normen goed toepassen, maar dat gaat de toezichthouder niet
doen. Die gaat regie voeren en heel veel overleggen. Wat is de toegevoegde waarde van een toezichthouder die geen toezicht gaat houden, die
niet als dagelijkse taak heeft om organisaties en bedrijven binnen te lopen
en te zeggen: «Trek uw lades open, uw computers. We willen weten wat u
daar doet. Wij gaan dat controleren»? Waarom is dat niet de primaire
taakopvatting, vraag ik aan de Staatssecretaris.
De Staatssecretaris gaf in de schriftelijke behandeling ook aan dat zij geen
zicht heeft op de algoritmes die overheidsinstanties hebben uitbesteed in
de ontwikkeling. Mijn vraag is of de Staatssecretaris dat nu wel heeft.
Want als we algoritmes uitbesteden, hebben we als overheid dus heel
weinig zicht op hoe ze ontwikkeld worden. Mijn vraag is of we een
overzicht kunnen krijgen van het aantal algoritmes waarvan de ontwikkeling is uitbesteed en of de Staatssecretaris bereid is om met afspraken
te komen of in ieder geval een modelcontract waarin we voor de
uitbesteding van algoritmes heel harde afspraken maken ten aanzien van
non-discriminatie.
De voorzitter:
U zit al op meer dan meer dan vierenhalve minuut en u had vier minuten.
De heer Van Baarle (DENK):
O, o.
De voorzitter:
Ik wil u dus vragen om tot een afronding te komen.
De heer Van Baarle (DENK):
Dan rond ik af met een vraag over een motie die wij hebben aangehouden, die de regering verzoekt tot het opstellen van protocollen over
hoe te handelen als men discriminatie vindt in algoritmes. Ik wil de
Staatssecretaris vragen hoe zij naar dit idee kijkt.
De voorzitter:
Meneer Van Baarle, dank u wel voor uw inbreng namens DENK. Welkom
aan de leden die wat later binnenkwamen. Het is wellicht goed om te
weten dat ik heb gezegd dat ik drie interrupties in tweeën toesta. U heeft
dus de gelegenheid om een vervolgvraag te stellen bij een interruptie. Dit
geldt per termijn. Dan geef ik nu het woord aan de heer Slootweg, CDA.
De heer Slootweg (CDA):

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

4

Dank u wel, voorzitter. Een deel van de titel van dit commissiedebat kan
spoedig aanleiding geven voor filosofische bespiegelingen. Data-ethiek,
ethiek die betrekking heeft op datagegevens. De afbakeningen lijken
gemaakt te worden door het te hebben over de inzet van algoritmes die
uitgevoerd worden door de rijksoverheid. Mijn bijdrage zal ik daarom
richten op drie elementen: de toezichthouder, het register en de gegevensbeveiliging bij ambtenaren.
Voorzitter. De keuze is gemaakt om de Autoriteit Persoonsgegevens
uitvoerder te maken van de opdracht rijksalgoritmetoezichthouder. De
Staatssecretaris managet de verwachtingen door aan te geven dat met de
beschikbare middelen deze toezichthouder niet zelf alle vragen en
problemen kan oplossen. Zowel door de plek als organisatieonderdeel bij
de Autoriteit Persoonsgegevens als door de hierboven geformuleerde
reikwijdte is de algoritmetoezichthouder misschien eerder een expertisecentrum dat de samenwerking op het algoritmetoezicht moet optimaliseren dan een alomvattende toezichthouder op alle algoritmes die invloed
hebben op het maatschappelijke verkeer. Deelt de Staatssecretaris deze
opvatting?
De voorzitter:
Voordat u uw betoog vervolgt, heeft mevrouw Leijten van de SP een
interruptie.
Mevrouw Leijten (SP):
Welkom aan de heer Slootweg. Fijn om hem weer als collega in ons
midden te hebben. Scherp als altijd, wou ik zeggen. Ik heb wel een vraag
aan hem en aan het CDA. Deze scherpe analyse dat er eigenlijk helemaal
geen toezichthouder is, maar hooguit een expertisecentrum, hebben wij
ook gemaakt. Wat vindt het CDA daar nou van? Is dat conform de
afspraken in het regeerakkoord wat het CDA betreft en is het in lijn met
wat hij maatschappelijk wenselijk vindt als het gaat over de inzet van
algoritmes en het toezicht daarop?
De heer Slootweg (CDA):
Ik denk dat dit zeer terechte vragen zijn van mevrouw Leijten. Ik denk dat
wij nu eigenlijk in de opbouw zijn naar iets van een toezichthouder, die
volgens ons veel meer invloed zal hebben. Ik kom later in mijn vragen op
punten als of er niet een wettelijke grondslag moet zijn als je algoritmes
gebruikt. Ik denk dat het op dit moment ook weer niet zo gek is dat dit in
de zoektocht naar hoe je dit op een goede manier kan doen de eerste
stappen zijn. Maar ik wil wel verkennen wat nou die reikwijdte is en hoe
we die zo breed mogelijk kunnen maken daar waar sommige algoritmes
zodanige gevolgen kunnen hebben dat het de rechtsbescherming van
onze inwoners aantast.
Mevrouw Leijten (SP):
Ik ben het in grote lijnen eens met de heer Slootweg dat we nog in de fase
van verkennen zijn, maar daarmee is eigenlijk het besluit dat genomen is
om de AP maar de autoriteit te maken of het expertisecentrum – ik vind
dat heel treffend, zoals ik al zei – wel problematisch. Want in de verkenning van wat we willen, welke impact het heeft op wetgeving, waar we
staan, of het wenselijk is hoe we ze toepassen en hoe we uiteindelijk van
alles toetsen, kan het best weleens zijn dat we bijvoorbeeld de Algemene
Rekenkamer een veel logischere toezichthouder vinden vanuit de rol die
die al heeft. Die kijken wel in de algoritmes. Die doen niet alleen maar:
hebben we ze in beeld en kennen we misschien wat codes? En dat is
misschien wel wat we zoeken. Is er dan bij het CDA ook de mogelijkheid
om in die verkenning nog af te wijken van de keuzes die de Staatssecretaris nu als het ware al heeft gemaakt?

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

5

De heer Slootweg (CDA):
Ik begrijp de vraag en toch denk ik dat ik wel blij ben dat we nu deze
eerste stappen maken. Ik zou het ook jammer vinden als er op dit moment
veel energie gaat zitten in de vraag wat nou de plek is in plaats van dat wij
de toezichthouder zo veel mogelijk tanden geven. Volgens mij ontstaat er
altijd weer een natuurlijk moment in de tijd door te zeggen: moet die nou
hier of moet die nou daar? In eerste instantie wil ik ervoor zorgen dat die
tanden zo veel mogelijk ontwikkeld worden.
De voorzitter:
Mevrouw Leijten, deze tel ik dan wel als tweede interruptie.
Mevrouw Leijten (SP):
Voorzitter, ik ken u als heel eerlijk en rechtvaardig. Mijn lot ligt in uw
handen. Ik zou tegen de heer Slootweg willen zeggen dat we ons daarmee
wel weggeven. Ik weet nog dat de Kamer drie jaar geleden zei: we moeten
de Uitvoeringsorganisatie Herstel Toeslagen nou echt een kans geven,
want er zit zo veel energie in. Nu zijn we drie jaar verder en nu is het
argument: nee, we kunnen het niet meer over een andere boeg gooien,
want er zit zo veel energie in. Niks ten nadele van de mensen die bij het
expertisecentrum werken en de Autoriteit Persoonsgegevens als instantie,
maar de keuze om de algoritmetoezichthouder en het algoritmeregister
ook op die plek neer te leggen bepaalt wel wat we straks kunnen doen.
Dan is de wijziging niet meer mogelijk. Ik zou toch willen dat het CDA dat
beseft.
De heer Slootweg (CDA):
Ik zie dit meer als een aansporing om het denken gewoon niet stil te
zetten. Ik zal deze periode in ieder geval willen gebruiken om te kijken hoe
we de functie van toezichthouder meer tanden en body kunnen geven. Ik
hoop dat ik mevrouw Leijten dan ook aan mijn kant vind; dat weet ik
eigenlijk wel zeker. Voor de rest zie ik het echt gewoon als aansporing om
niet stil te blijven staan.
De voorzitter:
Vervolgt u uw betoog.
De heer Slootweg (CDA):
Dan kom ik eigenlijk tot mijn vragen. Die gaan over de macht, over het
min of meer dwingend kunnen opleggen van regels, afspraken en het
formuleren van normen. Welke doorzettingsmacht heeft de algoritmetoezichthouder om te komen tot een gezamenlijke normuitleg? Speelt hij een
rol in het ontwikkelen van nieuwe normen en op welke wijze kan hij deze
afdwingen? Een belangrijke voorvraag voor mijn fractie is: speelt hij een
rol in het toestaan dat algoritmes sowieso gebruikt gaan worden in de
uitvoering?
Voorzitter. Het CDA ziet zeer wel het nut in van technologie en digitalisering om de werking en verbanden in onze samenleving ten dienste te
staan, maar de werkelijkheid is anders. Een zeer ethische vraag betreft de
zorg over het eigenaarschap van data. Heb ik er eigenlijk nog wel
zeggenschap over als ik deze bijvoorbeeld upload? We zien wel degelijk
dat analyse en deling van gegevens door overheidsorganisaties noodzakelijk zijn om bepaalde kwaden te bestrijden. Denk aan de bestrijding van
zware ondermijnende criminaliteit en weerzinwekkende delicten als
mensenhandel en kinderporno. Die bestrijding schuurt met de
bescherming van de persoonlijke levenssfeer. Die spanning moeten we
niet alleen onder ogen zien, maar ook proberen op te lossen. Is de
Staatssecretaris het met het CDA eens dat de rechtsbescherming van
burgers in het bestuursrecht moet worden versterkt wanneer zij
overheidsorganisaties willen aanspreken op fout gebruik van algoritmes?

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

6

Heeft de wetgever niet nadrukkelijk de opdracht om in wet- en regelgeving af te wegen hoe en waar algoritmes mogen worden benut? Kan
een algoritmetoezichthouder niet pas functioneren wanneer de
normstelling zelf in de wet is vastgelegd in plaats van dat achteraf wordt
beoordeeld of de vertaling die heeft plaatsgevonden in algoritmes, wel in
orde is?
Voorzitter. De Staatssecretaris heeft aangegeven dat het algoritmeregister
een belangrijke bijdrage moet leveren aan het beter uitlegbaar maken van
de toepassing en de uitkomst van algoritmes. Ze heeft als uitgangspunt
meegegeven dat overheidsorganisaties zelf verantwoordelijk zijn voor de
inzage in algoritmes en daarmee het opstellen en het beheer van het
algoritmeregister. Maar wat zijn de mogelijkheden voor de toezichthouders wanneer een overheidsorganisatie dit niet nakomt? Een van de
belangrijkste doelen is het verhogen van transparantie. Is de Staatssecretaris het met ons eens dat die transparantie pas bereikt kan worden als het
register ook een heldere en toegankelijke uitleg van de werking van het
algoritme bevat? Wat ons betreft zou onder het kopje «toepassing» altijd
een heldere omschrijving toegevoegd moeten worden. Een blik in het
register leert dat deze nu vaak nog ontbreekt.
Ten slotte. Ik ben over mijn tijd heen, maar de gegevensbescherming bij
ambtenaren is nog wel een punt. Voor de veiligheid is er in de Verenigde
Staten voor gekozen dat men bijvoorbeeld TikTok niet meer mag
gebruiken. Zouden ook wij daarin niet naïef moeten zijn, en zouden we
dus bijvoorbeeld die weg van de Amerikaanse overheid volgen? Ik zou
graag de opvatting van de Staatssecretaris daarover horen.
De voorzitter:
Dank u wel, meneer Slootweg van het CDA. Ik was bij de heer Van Baarle
enigszins coulant, dus dat ben ik ook bij u geweest en dat zal ik ook bij
anderen zijn. Maar dit is geen oproep om allemaal richting de vijf minuten
te gaan, vertel ik er alvast bij. Ik vind vierenhalve minuut namelijk wel de
max. U heeft nog een interruptie van mevrouw Dekker-Abdulaziz, D66.
Mevrouw Dekker-Abdulaziz (D66):
Goed om te horen dat het CDA ook overweegt om TikTok te verbieden
voor ambtenaren, want dat hebben wij toevallig twee weken geleden aan
de Staatssecretaris gevraagd. Hierbij sluit ik via deze vraag even bij u aan
met de reflectie ...
De heer Slootweg (CDA):
Eigenlijk sluit die dus aan bij uzelf.
Mevrouw Dekker-Abdulaziz (D66):
Ja, precies. Dat wilde ik even bevestigen.
De voorzitter:
Dan gaan we verder naar de volgende spreker van de Kamer, mevrouw
Bouchallikh, GroenLinks.
Mevrouw Bouchallikh (GroenLinks):
Dank u wel, voorzitter. Hoe we omgaan met het gebruik van algoritmes
door de overheid staat eindelijk meer op de politieke agenda. Er is sinds
kort een algoritmeregister en ook is recent de algoritmetoezichthouder
van start gegaan. De eerste institutionele stappen zijn gezet en dat is
goed, maar bij het lezen van de stukken voor dit debat zag ik ook hoeveel
er nog moet gebeuren. Eerste stappen zijn dan helaas niet genoeg. Ook
staan er nog veel vragen open.
Allereerst wil ik het hebben over het gebruik van algoritmes. We hebben
het veel over regulering en controle – dat is nodig – maar we moeten ons
ook afvragen wanneer de overheid überhaupt algoritmes moet gebruiken.

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

7

Dat is een vraag die ook het Rathenau Instituut terecht stelt. Algoritmes
lijken inmiddels soms vanzelfsprekend, maar iedere keer zou opnieuw
moeten worden beoordeeld of er geen andere opties zijn om hetzelfde
doel te bereiken. Is de Staatssecretaris het hiermee eens? Zo ja, hoe wordt
deze proportionaliteitstoets gedaan? Als er wordt besloten om algoritmes
te gebruiken om een bepaald doel te bereiken, moet ervoor worden
gezorgd dat de juiste typen algoritmes zo zorgvuldig mogelijk worden
ingezet, zodat discriminerende risico-indicatoren voorkomen worden.
Daarmee kom ik de op de tweede zorg die wij hebben, de registraties in
het algoritmeregister. Uit de stukken blijkt dat er nog maar heel weinig
algoritmes worden geregistreerd. Ook algoritmes met grote risico’s, die
bijvoorbeeld worden gebruikt voor fraudeopsporing, blijken nog niet
geregistreerd. De rijksoverheid, waar het kabinet direct voor verantwoordelijk is, heeft nog geen 30 algoritmes geregistreerd, terwijl er minstens
86 zijn volgens de Algemene Rekenkamer. Waarom is dit nog niet
gebeurd?
Wat gaat het kabinet doen om overheden ertoe te bewegen dat algoritmes
zo snel mogelijk geregistreerd worden? Wat is de deadline wat de
Staatssecretaris betreft? Kunnen de algoritmes die de grootste impact
hebben met voorrang worden geregistreerd?
De volgende zorg die wij hebben, is de mensenrechtentoets. Tot nu toe is
nog geen enkele toets uitgevoerd. Hoe kan dat? De Kamer heeft in een
motie uitgesproken dat deze mensenrechtentoets verplicht moet zijn. De
Staatssecretaris heeft dat ook bevestigd, maar toch gebeurt dit nog niet.
Wat gaat de Staatssecretaris doen om ervoor te zorgen dat de mensenrechtentoetsen worden uitgevoerd en dat deze ook daadwerkelijk verplicht
worden?
Etnisch profileren is ook een schending van mensenrechten. In de motie
van mijn collega Klaver, die inmiddels twee jaar geleden is aangenomen,
stond expliciet dat de regering het gebruik van nationaliteit, etniciteit en
geboorteplaats als datavariabelen voor risicomodellen en -profielen
volledig uit moest sluiten. Kan de Staatssecretaris aangeven hoe en of dit
deel van de motie inmiddels is uitgevoerd? Zo niet, wat gaat het kabinet
dan voor actie ondernemen om dit alsnog te doen? Eerder pleitten wij ook
voor een verbod van etnisch profileren, zoals onder andere Amnesty en
Bits of Freedom ook deden, maar de Staatssecretaris zag dit eerder niet
op diezelfde manier zitten. Hoe ziet zij dit nu en wat doet zij wel om te
voorkomen dat burgers via algoritmes gediscrimineerd worden? Hoe
kunnen burgers daar überhaupt achter komen?
Ik heb nog kort twee andere punten over het register. Het College voor de
Rechten van de Mens waarschuwt dat alleen registreren van algoritmes
niet voldoende is, want systemen moeten ook continu goed worden
gecontroleerd. Ook heeft het college zorgen over de transparantie en de
bruikbaarheid van de informatie in het register voor burgers. Graag op
beide punten een reactie van de Staatssecretaris. Kan zij uitleggen hoe zij
de terechte zorgen van het college wegneemt?
Het is goed dat de algoritmetoezichthouder er eindelijk is, zoals ik eerder
ook heb gezegd. Ik heb in het vorige debat ook gesteld dat capaciteit
ontzettend belangrijk is. Vandaag heb ik een vraag over de doorzettingsmacht van de toezichthouder. Eerder werd die «de tanden» genoemd. Wat
ons betreft moeten die zo scherp mogelijk zijn. Uiteraard hoop ik op
harmonie, maar hoe ziet de escalatieladder eruit als daar geen sprake van
is? Hoe wordt gegarandeerd dat de toezichthouder het laatste woord heeft
en daarin ook wordt ondersteund vanuit het ministerie? Wanneer
verwacht de Staatssecretaris dat de toezichthouder op volle sterkte kan
opereren?
Dank u wel.
De voorzitter:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

8

Dank u wel, mevrouw Bouchallikh. Keurig binnen de vier minuten.
Complimenten daarvoor. Ik zie geen interrupties, dus dan gaan we door
naar de volgende spreker van de Kamer, mevrouw Dekker-Abdulaziz
namens D66.
Mevrouw Dekker-Abdulaziz (D66):
Dank, voorzitter. Het gebruik van algoritmen door de overheid is een
tweesnijdend zwaard. Zoals verschillende rapporten, van onder andere de
Algemene Rekenkamer, laten zien, zorgt het gebruik van algoritmen
enerzijds voor tijdbesparing en efficiëntie in het werk van de overheid.
Anderzijds kleven er risico’s aan het niet juist gebruiken van algoritmen.
De voorbeelden waarbij het fout ging, kennen we hier allemaal. Het is dus
van belang dat wij als politiek randvoorwaarden scheppen waarin
algoritmes goed kunnen worden toegepast en dat er toezicht is op de
toepassing daarvan.
Voorzitter. Ik wil het over de volgende drie zaken hebben. De toezichthouder en de AP, het Algoritmeregister en de datahonger bij de overheid.
Ten eerste, D66 is blij dat de Staatssecretaris opvolging geeft aan de
afspraak uit het coalitieakkoord. Een toezichthouder op algoritmes bij de
overheid kan bijdragen aan de transparantie voor burgers en de bevordering van samenwerking binnen bestaande structuren. Wij vragen ons af
hoe de governance er nu precies uit komt te zien. Is de nieuwe rol van de
AP meer als overlegorgaan of een uitvoerende toezichthouder? Handelt
de toezichthouder reactief of kan er juist voorkomend worden gehandeld?
Wij gaan ervan uit dat de nieuwe toezichthouder zich uitsluitend richt op
het Rijk en niet op bedrijven en lagere overheden. Hoe verhoudt de AP
zich in haar nieuwe rol tot de sectorale bestaande toezichthouders, ook
qua doorzettingsmacht? In hoeverre hoort het opleggen van boetes ook
bij de nieuwe rol van de AP, gelet op de drie doelen uit de inrichtingsnota?
Ten slotte, voorzitter. Op welke termijn kan de Staatssecretaris de Kamer
informeren of de nieuwe wet- en regelgeving nodig is en of er aansluiting
gezocht wordt bij de EU-verordening?
Voorzitter, ten tweede. Er is een eerste versie van een algoritmeregister.
Wat ons betreft is dat een goed beginpunt, maar daar moeten de
komende tijd nog stappen op gezet worden. Wat ons betreft blijven de
sectorale toezichthouders toezien op de sectorale algoritmes. Laten we
voorkomen dat we door te veel hooi op onze vork te nemen, verzanden in
een onoverzichtelijke hoeveelheid gegevens. Het register heeft wat ons
betreft nut door de algoritmes van de rijksoverheid verplicht inzichtelijk te
maken voor eenieder die ermee te maken krijgt. Kan de Staatssecretaris
hierop reflecteren?
Daarnaast is het teleurstellend dat er weinig overheidsonderdelen
vrijwillig meewerken aan het Algoritmeregister, zeker omdat er nog steeds
verschillende hoogrisicoalgoritmen door de overheid worden gebruikt,
zoals beschreven in het rapport van vorig jaar van de Algemene Rekenkamer. Welke instrumenten heeft de Staatssecretaris om het aantal
algoritmen in het register te vergroten in afwachting op het verplichtende
karakter?
Ten slotte, voorzitter. De overheid is een gulzige dataverzamelaar. Vaak is
dat noodzakelijk voor een goede dienstverlening, maar soms worden er
gegevens verzameld die niet noodzakelijk zijn voor het uitvoeren van
bepaalde overheidstaken. Ik heb hier eerder al vragen over gesteld, zoals
bij de begrotingsbehandeling vorig jaar. Het rapport van de Algemene
Rekenkamer waar ik zojuist al naar verwees, concludeert dat er bij de
politie nog steeds meer gegevens worden verzameld dan noodzakelijk zijn
voor de berekeningen. De Raad van State adviseert in haar rapport
Digitalisering in wetgeving: maak afspraken over datagebruik. Afgelopen
maandag heeft de Minister van BZK nog de Big Brother Award mogen
ontvangen. Kortom, er is ruimte voor verbetering. De VNG stelt voor om
een transparantiebeginsel op te nemen in de algemene beginselen van

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

9

behoorlijk bestuur. Hoe kijkt de Staatssecretaris hiernaar? Welke acties
worden verder in gang gezet om orde te brengen in de verzameldrift van
data van de overheid? Ten slotte wil ik me aansluiten bij de vragen van
GroenLinks over de mensenrechtentoets.
Dank u, voorzitter.
De voorzitter:
Dank u wel, mevrouw Dekker-Abdulaziz namens D66. Ik kijk even rond. Ik
zie geen interrupties. Dan is het woord aan de heer Rahimi, VVD.
De heer Rahimi (VVD):
Dank u wel, voorzitter. Afgelopen jaar heb ik mij vanuit de VVD in kunnen
zetten voor ons mooie midden- en kleinbedrijf. Vanaf heden mag ik mij als
VVD-Kamerlid, en tevens oud-IT-ondernemer, met genoegen ook bezighouden met Digitale Zaken en Digitale Overheid. Dat is een portefeuille
die zowel de veiligheid als de economische situatie van de mensen raakt.
Digitale zaken gaan niet alleen over IT- en softwaresystemen. Tijdens mijn
studie informatica kwamen juist veel ethiek, logica en transparantie over
ICT-systemen naar voren. Het is bijvoorbeeld in gebruik van bepaalde
technieken en functies verantwoord of niet binnen de IT. Dat is een heel
belangrijk punt.
Voorzitter. Elke maand neemt de overheid miljoenen beslissingen,
bijvoorbeeld over wie wel en wie geen huurtoeslag krijgt. Voor al die
beslissingen gebruikt de overheid algoritmes. Er zitten kansen maar ook
risico’s aan het gebruik van deze algoritmes. Een zeer belangrijk punt
hierbij is hoe we zorgen voor een eerlijke totstandkoming van de
algoritmes.
Voorzitter. Zonder algoritmes zouden we namelijk ook heel veel meer
ambtenaren moeten hebben om elke dag al die beslissingen die de
overheid moet nemen, te realiseren. Het moet duidelijk zijn dat de inzet
van algoritmes en data-analyse binnen de overheid niet leidt tot beperking
van de persoonlijke vrijheid en privésfeer van burgers en ondernemers. Ik
wil de Staatssecretaris vragen hoe zij dit wil verwezenlijken. Tevens wil ik
weten hoe zij ervoor gaat zorgen dat deze uitkomst ethisch verantwoord
en in overeenstemming met de juridische principes van onze samenleving
is, zodat dit niet leidt tot ongelijke behandeling van burgers op basis van
bijvoorbeeld ras, gender of socio-economische status.
Voorzitter. Ik ben blij dat er een start is gemaakt met het algoritmeregister,
waarin nu inmiddels 109 algoritmes geregistreerd staan. De VVD zou
graag willen dat de Staatssecretaris meerdere instanties najaagt om
eerder dan eind 2024 hun algoritmes te laten registreren. Alle zbo’s,
provincies, gemeentes en waterschappen moeten ook op een geautomatiseerde manier het register vullen. Nu gebeurt dat niet automatisch en op
verschillende manieren.
Voorzitter. Wat betreft de toetsing van algoritmes heeft de Autoriteit
Persoonsgegevens dus de taak om deze uit te voeren. Er is hiervoor ook
een apart team aangesteld. Daarbij heb ik wel enkele vragen. Wat is het
mandaat van de Autoriteit Persoonsgegevens? Kan de Autoriteit
Persoonsgegevens ook handhaven? Heeft de Autoriteit Persoonsgegevens
ook genoeg kennis in huis om alles te toetsen? Test de Autoriteit
Persoonsgegevens ook op pilot- en demoalgoritmes? Ik denk dat het goed
is dat er getoetst wordt op zowel bestaande als nieuwe algoritmes.
Daarbij is het van belang dat niet alleen getoetst wordt of deze algoritmes,
maar ook of de besluiten die daaruit komen en die grote effecten hebben
op het leven van mensen, aan de AVG voldoen. Gaat de Autoriteit
Persoonsgegevens helpen bij het maken van onderscheid tussen het
verwerken van data en de algoritmes? De werking van algoritmes
uitleggen is complex. Hoe weet een burger wat het in normale taal
betekent?

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

10

Voorzitter. Naast de Autoriteit Persoonsgegevens zijn er verschillende
andere toezichthouders die ook toegevoegde waarde kunnen hebben. Ik
wil de Staatssecretaris vragen hoe de andere toezichthouders zich
verhouden tot de Autoriteit Persoonsgegevens. Waar ligt het zwaartepunt
bij het toezicht? Wat is de relatie met de regelgeving die uit Brussel komt?
Welke wetgeving is er in Nederland nog nodig?
We hebben de komst van een algoritmeregister in het coalitieakkoord
beloofd en nu is er ook wat gedaan. Het is ook wel goed om aan te geven
dat er wat gebeurt. Dat is wel een compliment waard, ook al is het nog
niet gevuld. Goed dat we dat dus doen. Ik realiseer me echter wel dat we
alleen met incidentele probleemaanpak bezig zijn. Een structurele
oplossing mist nog. We kunnen elke keer als er een incident met een
algoritme is reactief handelen. Dat is goed geweest voor het begin, maar
nu moeten we het inzichtelijk maken. We weten dat het een structureel
probleem is, dus we moeten het ook systematisch en structureel
oppakken en oplossen, en wegblijven van incidentenpolitiek. Denk hierbij
bijvoorbeeld aan het proces van de controle van een jaarrekening van de
gemeente door de accountant.
Voorzitter. Tot slot. Wat de VVD betreft is het van belang dat we inzichtelijk
maken wat we verzamelen en waarom, en dat we in gewonemensentaal
uitleggen wat we hiermee doen. Dat is voor ons het vertrouwen terugwinnen en teruggeven. Ik vind dat we daarmee op de goede weg zijn,
maar we zijn er nog niet.
De voorzitter:
Dank u wel, meneer Rahimi. U heeft allereerst een interruptie van
mevrouw Leijten en daarna van mevrouw Kathmann. Mevrouw Leijten,
SP.
Mevrouw Leijten (SP):
Het verhaal van de heer Rahimi over dat we geen incidentgedreven
politiek moeten hebben, is me uit het hart gegrepen. Maar laten we dan
ook een principieel debat voeren. Wat vindt de VVD van het gebruik van
algoritmen binnen de overheid? Wanneer kan dat wel en wanneer niet?
De heer Rahimi (VVD):
Ik gaf net al aan dat algoritmes gewoon nodig zijn, anders heb je
honderdduizenden ambtenaren nodig. Als je 107 rijdt en je krijgt een
boete, is dat ook een algoritme. Dus ja, die algoritmes heb je nodig. De
vraag is niet wanneer wel en wanneer niet. Wat ik alleen aangeef, is dat
het belangrijk is dat dit inzichtelijk is en dat aan de hand daarvan duidelijk
is welke beslissingen worden genomen.
De voorzitter:
Er is een vervolgvraag van mevrouw Leijten, SP.
Mevrouw Leijten (SP):
Dit debat heet natuurlijk inzet algoritmes en data-ethiek, dus het gaat ook
over wat voor overheid je wil zijn en wanneer je iets toepast. Je kan wel
zeggen «de techniek is er, dus we doen het», maar dat is niet hoe we
kijken naar de inzet van bepaalde middelen. Als het bijvoorbeeld gaat over
het geweldsspectrum of het veiligheidsspectrum, kijken we ook altijd of
het wenselijk en proportioneel is. Verbetert het de dienstverlening van de
overheid? Verbetert het de integriteit van de besluitvorming? Naar dat
soort zaken kijken we. Daarom stel ik wel de vraag aan de VVD: waar wel
en waar niet en op welke grond dan, bijvoorbeeld wat betreft automatische besluitvorming die te maken heeft met inkomen en automatische
besluitvorming op basis van profilering? Gebruiken we automatische
besluitvorming, of juist niet? Laten we er altijd nog een menselijke toets
zijn? Doen we dat dan vanuit dienstverlening of vanuit fraudeopsporing?

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

11

Wat zijn precies de ethische grondslagen voor de VVD-fractie als het gaat
over de inzet van algoritmen? Want als het alleen maar is «anders draait
de overheid niet», dan lopen we wel in een fuik.
De heer Rahimi (VVD):
Het enige wat ik aangeef, is dat die inzichtelijk gemaakt moeten worden,
zodat we kunnen toetsen wanneer wel en wanneer niet. Nu zijn die niet
inzichtelijk, maar vraagt mevrouw Leijten mij nu wel wanneer wel en
wanneer niet. Dat weet ik niet.
De voorzitter:
Ik geef u nog één vervolgvraag omdat u dat de vorige keer niet gedaan
heeft.
Mevrouw Leijten (SP):
Dan zijn ze op, voorzitter. Ik heb goed geteld. Nee, maar dit is volgens de
SP wel precies het probleem. We zitten in een situatie waarin we heel veel
toepassen omdat de techniek er was en omdat we dachten dat die
techniek zou helpen. Er zijn echt situaties waarin niet overtuigend
vaststaat dat er met behulp van een algoritme een beter besluit wordt
genomen dan wanneer professionals dat nemen zonder algoritme.
Zouden we dan niet moeten zeggen dat je daarmee bijvoorbeeld
terughoudend moet zijn? De politie verzamelt veel meer data dan nodig is.
Er zijn profielen in de maak die discriminerend zijn. Dan zegt de VVD: we
willen niet op incidenten reageren. Dat is heel goed, want die wil je
voorkomen. Maar wat is dan precies het normenkader en wat zijn nou
precies de afwegingen die de VVD-fractie wil maken voor de inzet van
algoritmen in het publieke domein en bij de beslissingen die de overheid
neemt?
De heer Rahimi (VVD):
Ik zal proberen antwoord te geven. Met incidentenpolitiek bedoel ik het
volgende. Ik geef alleen aan dat er elke zoveel tijd iets naar buiten komt
van «dit werkt niet goed» of «deze data zijn verzameld». Wij hebben
gewoon op verschillende vlakken oplossingen voor verschillende
systemen. Ik gaf net ook al een voorbeeld. Een gemeentelijke administratie wordt bijvoorbeeld elk jaar gecheckt. Daar zijn afspraken over. Die
hebben een toezichthouder, die dat controleert. Ik geef alleen aan dat er
niet alleen algoritmes zijn die er nú zijn, maar dat er ook algoritmes zijn
die gaan komen. We moeten nadenken over wat voor effecten die hebben
op welke data, maar daarvoor moeten die inzichtelijk zijn en moeten we
duidelijk hebben welke algoritmes we gebruiken en waarvoor. Kijk
bijvoorbeeld naar gebruik bij verwarde personen. Een algoritme is niets
dan een calculatie. Mevrouw Leijten heeft het over de techniek en IT, maar
het is gewoon een calculatie. Als iemand valt die een sensor heeft, gaat er
een alarm af en kan er hulp worden ingeroepen. Dat is ook een algoritme.
Ik kan verder geen inhoudelijk antwoord geven op de vraag welk
algoritme goed is en welk algoritme niet. Er zijn tienduizenden algoritmes.
De voorzitter:
Ik vermoed dat u het hier niet helemaal over eens wordt in dit debat, maar
wellicht is er nog een keer een andere gelegenheid. Ik ga nu door naar
mevrouw Kathmann namens de PvdA voor een interruptie.
Mevrouw Kathmann (PvdA):
Ik wil de heer Rahimi bedanken voor zijn bijdrage. Sowieso ben ik blij met
deze VVD-woordvoerder, want er spreekt een hoop ambitie uit. Daarom
zou ik de VVD graag het volgende willen vragen. Bij die ambities hoort
natuurlijk ook gewoon een goede toezichthouder. Hoe kijkt de VVD ernaar
dat we inderdaad, zoals het CDA het noemt, meer een expertisecentrum

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

12

hebben dan een echte toezichthouder, en dat het eigenlijk ook nog een
expertisecentrum zonder tanden is, aangezien expertisecentrums die
doorgaans niet hebben? Kunnen we op de VVD rekenen als het gaat om
het realiseren van een echte toezichthouder?
De heer Rahimi (VVD):
Ik wil echt wegblijven van fake. U zegt: een echte toezichthouder. Ik
begrijp wat er gezegd wordt. Mijn punt is het volgende. De Autoriteit
Persoonsgegevens controleert op de persoonsgegevens, die data, maar er
zijn zo veel meer dingen. Er zijn zo veel meer toezichthouders. Er zijn
toezichthouders op media en financiële toezichthouders. Al die disciplines
en domeinen hebben nu inderdaad niet één toezichthouder in zich. Ik stel
dus voor – dat vraag ik eigenlijk ook aan de Staatssecretaris – om te
komen tot een oplossing. Het feit dat wij nu dit debat hebben, is echt
belangrijk. Het is belangrijk dat we nu al structureel nadenken over de
manier waarop we het in de toekomst inrichten en dat toezicht gaan
vormen. Hoe exact gaan we dat doen, en is de nieuwe vorm goed of niet?
Dat kan je nu niet beslissen en daarom heb ik die vraag ook gesteld. Ik heb
best wel wat vragen gesteld.
Mevrouw Kathmann (PvdA):
Maar dan is er in ieder geval dus wel een toezichthouder met tanden, op
welke manier dan ook, die kan handhaven en normen kan stellen.
De heer Rahimi (VVD):
Ja, want een toezichthouder zonder tanden ...
De voorzitter:
Dank u wel voor deze beantwoording. U heeft nog een aanvullende vraag
van mevrouw Kathmann. Dat wordt dan wel haar tweede interruptie.
Mevrouw Kathmann (PvdA):
Ik snap dat de VVD het misschien moeilijk vond om de vraag van
mevrouw Leijten van de SP te beantwoorden. Ik heb in het verlengde
daarvan wel eenzelfde soort vraag aan de VVD. Die gaat over de mensenrechtentoets die wordt toegepast. De heer Van Baarle zei: we zitten
allemaal op die AI Act te wachten en we kijken daar hoopvol naar uit,
maar we weten eigenlijk nu al dat een aantal zaken daarvan worden
uitgesloten. Ik ken de VVD als een partij die in het spanningsveld tussen
veiligheid en het borgen van privacy weleens een valse tegenstelling
creëert. Hoe kijkt de VVD ernaar dat die AI Act de mensenrechtentoets
eigenlijk op enkele relevante gebieden uitsluit? Dan gaat het bijvoorbeeld
over wetshandhaving en grensmanagement. Vindt de VVD dat dat wel zou
moeten, dus dat je die mensenrechtentoets eigenlijk te allen tijde zou
moeten uitvoeren als je al die ambities wilt borgen waar de heer Rahimi
het over had, dus onafhankelijk van het terrein?
De heer Rahimi (VVD):
Volgens mij wordt er nu onderhandeld over de AI Act. Volgens mij is die
nog niet rond. Ik heb geen inhoudelijk idee over hoe die AI Act in elkaar
moet zitten. Dat is ook niet mijn woordvoerderschap, moet ik eerlijk
bekennen. Maar nogmaals, bij algoritmes wil je gewoon willen uitleggen:
dit is bedacht om het vertrouwen terug te winnen. Het is bedacht om te
kunnen zien welke data erin gaan, wat er gebeurt, wat eruit komt en welke
beslissing er genomen wordt. Dat wordt inzichtelijk gemaakt. Daar gaat
het om. En daarvoor moet je niet 109 algoritmes hebben, maar alle
algoritmes, over alle lagen. En tegelijkertijd wil je exact weten dat het niet
alleen maar voor het algemeen belang is. Ik mag hopen dat wat wij doen
als gemeente, provincie, waterschap of Tweede Kamer altijd in het
algemeen belang is. Je wilt zeggen voor welke wet het algoritme wordt

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

13

toegepast en waar het voor dient. Is het voor de Politiewet? Voor de
Gemeentewet? Dat is volgens mij belangrijk. Er moet dus inzichtelijk
gemaakt worden wat erin gaat en welk doel het dient. Op de vraag over
de AI Act heb ik geen antwoord, sorry.
De voorzitter:
Dank u wel. Dan heeft u nog een interruptie van mevrouw Bouchallikh,
GroenLinks.
Mevrouw Bouchallikh (GroenLinks):
Ik was echt blij toen ik de VVD hoorde spreken over twee zaken waar wij
het ook vaker over hebben, namelijk het weg willen gaan van incidentele
politiek en discriminerende algoritmen. Specifiek werden gender en
sociaaleconomische achtergrond genoemd. Dat waren een tijd geleden, in
juni 2022, precies de afwegingen die wij maakten bij het opstellen van een
motie waarin we vroegen om preventief onderzoek te doen om te kijken
binnen welke rijksonderdelen er nog sprake is van discriminerende
algoritmen. Daarmee willen we voorkomen dat we achteraf incidenten
moeten gaan organiseren en regelen. Ik zie meneer Rahimi nadenkend
kijken. Hij doet ook voor het eerst mee aan dit debat, dus alle begrip
daarvoor; dat meen ik. Anders wil ik op een ander moment graag weten
wat de afweging is geweest. Als ik kijk naar deze motie en luister naar het
betoog, verbaast mij de tegenstem namelijk.
De heer Rahimi (VVD):
Ik ga graag in op het voorstel om hier later op terug te komen – dank
daarvoor overigens – want twee jaar geleden zat ik nog niet eens in de
Kamer. Ik ga daar dus graag op in.
De voorzitter:
Dank u wel daarvoor. En dan wens ik u succes met dat overleg. Dan zijn
we nu bij de volgende spreker. Dat is mevrouw Koekkoek namens Volt.
Mevrouw Koekkoek (Volt):
Dank, voorzitter. Wij zijn kritisch op het kabinet als het aankomt op
digitalisering, omdat er de afgelopen jaren weinig bestuurlijke visie is
geweest op dit onderwerp. Nou brengt deze Staatssecretaris daar
verandering in en dat waardeer ik, maar het kan en moet nog ambitieuzer.
Het algoritmeregister is een goede stap, maar het is nog niet af. Om te
komen tot een werkend systeem is het daarom belangrijk om de komende
maanden samen met de Kamer, burgers, medeoverheden en uitvoeringsorganisaties na te denken over de doorontwikkeling van het register. Mijn
eerste vraag aan de Staatssecretaris is daarom wie zij betrekt bij het
uitwerken van het algoritmeregister. Wat Volt betreft komen alle
algoritmes die door overheden en semioverheden in Nederland worden
gebruikt centraal in één algoritmeregister. Dat lukt alleen door het gebruik
van het register te verplichten voor overheden, met een mogelijkheid om
die verplichting te handhaven. Dat betekent een wettelijke grondslag. De
Staatssecretaris heeft in het AI-debat al aangegeven daarmee aan de slag
te gaan, maar wel te willen wachten tot de AI-verordening er is. Ik vind dat
een gemiste kans. Daarom vraag ik de Staatssecretaris niet te wachten op
de uitwerking van de AI-verordening, maar een wettelijke grondslag voor
verplichting van het algoritmeregister zo snel mogelijk te verankeren in de
wet. Dat kan met een kaderbepaling waarbij de daadwerkelijke invulling
door middel van AMvB gebeurt. Daarmee creëren we nu snelheid en later
wendbaarheid. Ik vraag de Staatssecretaris ook om een brief te sturen met
de daarin de dilemma’s en de afwegingen voor het komen tot een
dergelijke wettelijke verplichting.
Het register bestaat uiteraard niet in een vacuüm. Je hoopt in het register
terug te zien dat alleen algoritmes worden gebruikt die via een ethisch

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

14

waardekader tot stand zijn gekomen, dat er geen grondrechten
geschonden worden. Je hoopt dat duidelijk is voor burgers hoe een
besluit tot stand is gekomen. Daar moet je dus bij het ontwikkelen van
algoritmes al rekening mee houden. Als je ze inkoopt, dan moet je de
toepassing ervan begrijpen. Ik vraag de Staatssecretaris of zij het idee
heeft dat er nu voldoende wettelijke kaders zijn om de ethische totstandkoming van algoritmes te garanderen en ook hoe het zit met de uitvoering
van de breed aangenomen motie van DENK om bij besluiten van de
overheid aan te geven of sprake is geweest van het gebruik van
algoritmes in die besluitvorming. Wordt dat al toegepast of moeten we
ook daarvoor een verplichting opnemen in de wet?
Voorzitter. Dan nog een aantal punten over data-ethiek. Ik zeg het vaker, in
deze commissies en andere commissies: er wordt door het kabinet veel
wetgeving gemaakt die niet in lijn is met privacywetgeving, niet handelt in
de geest van het grondrecht op de bescherming van privacy. Ik noem een
paar voorbeelden: PNR-gegevens, de anti-witwaswet en de NCTV-wet. Dat
doet heel erg veel afbreuk aan de geloofwaardigheid en betrouwbaarheid
van de overheid en dat moet beter. Een oplossing is om als onderdeel van
de subsidiariteitstoets te onderzoeken of er voor verwerkingen van
persoonsgegevens technische oplossingen zijn waarin gegevensverwerking zo veel mogelijk wordt beperkt, waarbij er ook aan wordt gedacht
of er vanuit de samenleving oplossingen bestaan. Ik ben daarom
benieuwd hoe de Staatssecretaris hierover denkt. Wordt er al genoeg
gekeken naar technische oplossingen voor dataminimalisatie en is de IT
van de overheid daar dan op toegerust?
Dank u, voorzitter.
De voorzitter:
Dank u wel, mevrouw Koekkoek namens Volt. Het moet me wel van het
hart dat de dames beter in staat zijn om zich aan de minuten te houden
dan de heren. Ik dacht: dat is een aanmoediging voor de twee volgende
dames.
Mevrouw Leijten (SP):
Voorzitter, ik zal dat gemiddelde eventjes gaan torpederen.
De voorzitter:
Het woord is aan u, mevrouw Leijten.
Mevrouw Leijten (SP):
Voorzitter. Dit commissiedebat heet Inzet algoritmes en data-ethiek binnen
de rijksoverheid, maar over data-ethiek hebben we het dan eigenlijk heel
erg weinig. Het gaat over een toezichthouder, maar wat gaat die toezichthouder nou precies doen? Dat is onduidelijk. Het gaat over een algoritmeregister, maar wat daarin moet worden opgenomen, wanneer en op
straffe van wat is onduidelijk. Er zijn rapporten geschreven, er worden
onderzoeken gedaan en er worden werkagenda’s opgesteld. De bestuurlijke drukte rond de algoritmes is enorm, maar de fundamentele vraag wat
wij nou vinden dat er wel mag en niet mag met de inzet van algoritmes
wordt onvoldoende besproken. Welke waarborgen willen we daarbij en
welk toezicht? Allemaal vragen waarop nog geen antwoord is.
Toch gaan we ondertussen gewoon door met het inzetten van algoritmes
die verregaande nadelige consequenties kunnen hebben voor mensen.
Vinden we bijvoorbeeld dat algoritmes mogen worden ingezet op het
voorspellen of kinderen het criminele pad op gaan? Vindt de Staatssecretaris dat eigenlijk een goed idee? Welke waarborgen zou ze daar concreet
bij willen hebben? Wie gaat dat in de gaten houden, als bijvoorbeeld door
de politie een dergelijk algoritme wordt ontwikkeld? Wie maakt welke
afweging op welk moment? Welke beperkingen stelt het kabinet eigenlijk
aan het inzetten van zelflerende algoritmes? Als het gaat over de

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

15

jeugdzorg in Amsterdam, het Top400-algoritme waar ik naar verwijs, is de
SP eigenlijk pislink over de beantwoording. Het gaat gewoon door. Er zijn
dus kinderen, niet crimineel, die in systemen komen als zijnde potentieel
crimineel en die zo worden benaderd op straat.
Sorry, maar ik heb het vaker gezegd: wij willen geen datasurveillance van
de Facebooks van deze wereld en niet in algoritmes van Twitter worden
getrokken die giftig zijn, maar we willen ook geen staat die op deze
manier surveilleert en mensen in hokjes plaatst. Daarom stelde de SP
voor om een waardekader te ontwikkelen. Een waardekader, ik krijg het
nauwelijks uit mijn mond. U kent mij als iemand die duidelijke taal wil
spreken, maar een waardekader is wat ons betreft de inzet van het kabinet
voor hoe je dingen afweegt. Is gebruiksgemak, de voorspellende waarde
daaruit, het voordeel of is het privacy? Wat weegt zwaarder? Op het
moment dat we zo’n afwegingskader, zo’n waardekader, hebben, kunnen
wij als Tweede Kamer controleren of het goed genoeg is of dat we het
anders willen. Dan kan een toezichthouder daar toezicht op houden. Nu
doen we maar wat. Wat de techniek mogelijk maakt, wordt ingezet, met
alle risico’s van dien. De Raad van State, de Wetenschappelijke Raad voor
het Regeringsbeleid, Rathenau Instituut, Amnesty en Tweede Kamer uiten
zorgen op zorgen op zorgen, maar deze Staatssecretaris zegt doodleuk:
nee, ik ga algoritmes niet stoppen, ook niet als we niet zeker weten of ze
goed zijn, want dan staat de overheid stil. Ja, maar dan hebben we dus
een probleem met die overheid! Want natuurlijk wil niemand de overheid
stilzetten. Maar we willen ook niet dat mensen in een fuik van profilering
lopen. Dan moeten we wachten op Europa op het punt van algoritmes,
want de AI Act regelt van alles, maar die gaat niet de mensenrechtentoets
die wij hebben ontwikkeld, regelen. Hoe gaan we daar dan mee om?
Waarom wachten we er nou precies op?
We hebben trouwens gisteren nog gezien dat er een uitspraak van het
gerechtshof is. Daar is het ook in het mondelinge vragenuurtje over
gegaan. Er moet een rechter aan te pas komen om te zeggen dat je toch
niet op afkomst mag selecteren. Wat gaan we daar eigenlijk mee doen,
vraag ik deze Staatssecretaris. Gaan we tegen die uitspraak in cassatie?
Met «we» bedoel ik «de regering». Ik hoop dat toch niet.
Er zijn moties aangenomen over het gebruik van risicoprofielen, van
vervuilde data, van het opschonen daarvan. Er is een heel programma
opgesteld. «Motie 21» heet dat achter de schermen. Er zijn rapporteurs op
aangesteld. Daar zou het vandaag ook over gaan. Maar dat is uitgesteld.
Waarom? Het is niet af. Ik kan u dit vertellen: ieder ministerie gaat er
anders mee om en iedereen onderzoekt het op een andere manier en
iedereen heeft een andere definitie. We weten zeker dat de definitie bij
politie en justitie totaal langs het probleem heen scheert. Dus wat zijn we
nou precies aan het doen?
Voorzitter. Ook dat algoritmeregister ... O nee, ik moet op de tijd letten. We
krijgen een toezichthouder en een algoritmeregister, maar we hebben
daarbij een uitzondering op de rechtshandhaving. Waarom is dat nou
gedaan?
Tot slot, voorzitter. Er is gekozen voor de Autoriteit Persoonsgegevens.
Niks ten nadele van de Autoriteit Persoonsgegevens, maar we weten dat
die al jarenlang eigenlijk tegen de klippen op werk heeft en geen mensen
of geen funding heeft, ondergefinancierd is. Die krijgt een nieuwe taak
met het handhaven van de zwarte lijsten in de zorg. Gisteravond hebben
we daar een wetsvoorstel over gehad. Ze krijgt nu een nieuwe taak voor
dat register en als algoritmetoezichthouder. Hoe krijgen we dat in
hemelsnaam voor elkaar en hoe voorkomen we dat we over drie jaar
zeggen: we hebben het allemaal wel opgetuigd, maar we hebben feitelijk
geen toezicht?
De voorzitter:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

16

Dank u wel, mevrouw Leijten namens de SP. Ik kijk even rond. Ik zie geen
interrupties. Dan is het woord aan de laatste spreker van de zijde van de
Kamer. Dat is mevrouw Kathmann van de PvdA.
Mevrouw Kathmann (PvdA):
Dank u, voorzitter. We spreken al de hele tijd over algoritmes. En ik zei het
net al, als we erover spreken, moeten we niet denken dat het een dingetje
op zichzelf is. We kunnen niet met registers, toezichthouders of mensenrechtentoetsen de hele ethische discussie over algoritmes platslaan. Wij
vinden dat altijd heel erg prettig, want dan kan je dingen in een malletje,
handreiking of beleidsnotitie stoppen. Maar dat gaat gewoon niet. Neem
alleen al het stellen van de vraag «wat als het algoritme het bij het
verkeerde eind heeft?» Dat moeten we altijd blijven doen. Als het
antwoord nou is dat het algoritme het bij het verkeerde eind had, wat doet
dat dan met besluitvorming en overheidshandelen? Dat is ongelofelijk
belangrijk.
Ik zei het hier al eerder: a fool with a tool is still a fool. Dat betekent niet
dat wij allemaal idioten zijn; dat zeg ik hier niet mee. Maar het betekent
wel dat we de discussie over data-ethiek moeten blijven voeren. In de
documenten die op ons af zijn gekomen, zie je ook echt dat het pas in de
kinderschoenen staat. Ik snap daarom ook zeker de frustraties van de
voorgaande spreker, mevrouw Leijten van de SP.
Toch is de Partij van de Arbeid blij met de stappen die door het kabinet
zijn gezet met die algoritmetoezichthouder/het expertisecentrum en ook
met het algoritmeregister. Zeker de moties van Klaver en Van Baarle
hebben veel goeds gedaan om die stappen te kunnen zetten. Maar ik had
wel echt een groot aantal vragen. De meeste zijn gesteld, dus die ga ik
niet herhalen. Ik weet dat het stevige vragen waren, maar ik sluit me toch
aan bij de vragen van de heer Van Baarle over de algoritmetoezichthouder. Waar zijn de tanden nou gebleven? Het duurt namelijk echt
allemaal al erg lang. Wij snappen ook dat de Staatssecretaris dat vindt.
Maar als we dan iets optuigen, laten we dan haast maken en gelijk dingen
optuigen met tanden.
Als het gaat over de normontwikkeling bij de toezichthouder, wil ik me
graag aansluiten bij de vragen van het CDA. Als het gaat om algoritmen
en besluitvorming – dat is ongelofelijk belangrijk; ik zei het net al – wil ik
me heel graag aansluiten bij de vragen die daarover zijn gesteld door Volt.
Het aantal algoritmes dat is aangemeld door de overheid bij het algoritmeregister is natuurlijk heel bedroevend. Daar heeft GroenLinks scherpe
vragen over gesteld. Daar wil ik me heel graag bij aansluiten. Hetzelfde
geldt voor de vragen van GroenLinks over de mensenrechtentoets.
Ik kon al mijn vragen dus wegstrepen, maar ik wil de Staatssecretaris wel
nog om één reflectie vragen. Dit gaat over Joris Krijger, promovendus aan
de Erasmus Universiteit. Laatst was hier ook stuk over in Trouw. Hij zegt
dat zo’n algoritmeregister an sich helemaal niet voldoende is. We hebben
eigenlijk expertteams nodig die zich helemaal mogen ingraven in zo’n
algoritme, met geheimhouding of wat dan ook, want soms geeft de
overheid aan dat het anders niet kan. Zo kan het algoritme helemaal
worden doorgekliefd en kan er worden gezien hoe het tot stand is
gekomen, hoe het is ontwikkeld en hoe het is toegepast. Dat is dus meer
dan alleen een vinkje zetten als het in het register staat.
Tot slot zou ik graag een reflectie willen van de Staatssecretaris op die
expertteams. Moeten we die niet breder inzetten? Er is namelijk een
commissie bij het UWV. Die heeft wel een hele andere taakomschrijving,
maar misschien zou je dit daarmee samen kunnen voegen tot een soort
commissie met tanden; laat ik die zo noemen.
Tot zover, voorzitter.
De voorzitter:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

17

Dank u wel, mevrouw Kathmann. U bent keurig binnen de vier minuten
gebleven. Dank daarvoor. Daarmee zijn we aan het einde gekomen van
deze termijn. Ik kijk heel even naar de Staatssecretaris. Ik schors tot
15.30 uur, maar dan gaan we ook stipt om 15.30 uur beginnen. We hebben
dus niet nog vijf minuutjes uitlooptijd. We gaan om 15.30 dus verder.
Omdat we nog een tweede termijn willen hebben, kijk ik even naar de
Staatssecretaris en via haar naar de ambtenaren erachter met de vraag of
één algemene inleidende tekst dan wellicht volstaat in plaats van één per
kopje.
De vergadering wordt van 14.54 uur tot 15.30 uur geschorst.
De voorzitter:
Aan de orde is het commissiedebat Inzet algoritmes en data-ethiek binnen
de rijksoverheid. We hebben net de eerste termijn van de Kamer gehad en
we zijn aanbeland bij de beantwoording van de gestelde vragen door de
Staatssecretaris. Ik geef de Staatssecretaris het woord. Nog even ter
herinnering voor de leden: drie interrupties in tweeën.
Staatssecretaris Van Huffelen:
Dank u wel, voorzitter. Zoals u suggereerde, heb ik een korte introductie
gemaakt. Daarna zou ik de gestelde vragen willen beantwoorden in een
viertal blokjes, te beginnen met het blokje over algoritmes, dan over
toezicht, dan over mensenrechten en daarna nog een blokje met andere
onderwerpen die niet in een van deze passen. Ik ga proberen dat zo kort
mogelijk te doen.
De kern van dit debat is de aandacht die we moeten hebben voor de inzet
van algoritmes en data-ethiek. De impact daarvan, weten we allemaal, is
ontzettend gegroeid in de afgelopen jaren in onze hele samenleving. Dat
geldt lang niet alleen voor de overheid. Op allerlei plekken in onze
samenleving worden algoritmes gebruikt. We weten dat die ons fantastische dingen kunnen brengen, maar we weten ook dat er gevaren zitten
aan het gebruik van algoritmes, met name als het gaat over mensenrechten en de mate waarin we nog controle hebben over ons eigen leven.
We hebben op 25 januari ook over dit onderwerp gesproken en dat doen
we vandaag opnieuw. Dat is goed, omdat we vanuit het werkprogramma
dat dit kabinet heeft gemaakt vooral bezig zijn met het nadenken over de
vraag: hoe kunnen we algoritmes in een positieve zin brengen en
stimuleren? Hoe kunnen we de maatschappelijke en economische kansen
ervan zo goed mogelijk benutten? Maar vooral ook: hoe kunnen we
zorgen dat er voldoende aandacht blijft voor mensenrechten, voor ethiek,
niet alleen maar voor de algoritmes die er vandaag de dag al zijn, maar
zeker ook voor algoritmes en nieuwe technologieën die zich in de
komende tijd gaan ontwikkelen?
Vanuit de werkagenda die is opgesteld, doen we dat vanuit het kabinet op
verschillende manieren. We doen dat door in Europees verband heel
actief in te zetten op zorgen dat er goede verordeningen komen voor
algoritmes. Die zorgen namelijk niet alleen dat we in Nederland goede
afspraken maken, maar ook dat algoritmes die elders worden geproduceerd en in Nederland worden gebruikt, of dat nou door de overheid is of
door private personen, voldoen aan de vereisten die wij van belang
achten. Daarbij zijn fundamentele rechten, mensenrechten, privacy,
transparantie – weet je nog wat er precies gebeurt met jouw data? – een
belangrijke factor. Dat doen we ook door binnen de Nederlandse overheid
een stap verder te zetten. Dat hebben we dan ook gedaan – we komen
daar zo meteen verder over te spreken – door het opzetten van een
algoritmeregister, door het inzetten van een toezichthouder en niet in de
laatste plaats door afspraken te maken, vooruitlopend op de implementatie van de algoritmeverordening vanuit de EU op een manier van
werken binnen de overheid die voldoet aan wat het kabinet en zeker ook

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

18

uw Kamer, zoals ze in eerdere debatten heeft aangegeven, van groot
belang vinden. Dat is het eerste wat ik wilde zeggen. Ik ga nu over tot het
beantwoorden van de vragen in de verschillende blokjes.
Ik begin met het thema algoritmes. Dan kom ik direct bij de vragen die
door de heer Van Baarle daarover gesteld zijn. Hij vroeg het volgende aan
mij. We zijn bezig op allerlei manieren om inzicht te krijgen in algoritmes
die de overheid op dit moment in gebruik heeft. Dat doen we op verschillende manieren. Er is het register dat we nu aan het vullen zijn, maar er
zijn ook de onderzoeken die we hebben gedaan naar aanleiding van de
problemen die we eerder hebben gezien, bijvoorbeeld rondom de
toeslagen, om per ministerie in beeld te krijgen welke algoritmes worden
gebruikt en of daarbij sprake is van onoorbare praktijken, van discriminatie of van het foute gebruik van gegevens. U vroeg in het kader van het
opzetten daarvan of we precies weten hoeveel algoritmes er zijn met
automatische besluitvorming. Dat klinkt als een heel logische vraag, maar
is heel lastig te beantwoorden. Algoritmes met automatische besluitvorming zijn bijvoorbeeld de algoritmes die we in stoplichten gebruiken,
maar ook de algoritmes die gebruikt worden bij het toekennen van
verkeersboetes. Als je langs een flitser rijdt en te hard of door rood licht
rijdt, krijg je ook zoiets. Het punt is dat we dat niet precies weten. Wij
selecteren niet zozeer op de vraag of er sprake is van automatische
besluitvorming, maar kijken vooral of algoritmes van de categorie hoog
risico zijn. Hoogrisicoalgoritmes zijn algoritmes waarbij sprake is van
persoonsgegevens of van impact voor mensen in die zin dat er iets met
hun data en gegevens gebeurt of dat besluitvorming een grote impact
heeft op hun leven. De definitie daarvoor die we ook in Europees verband
gebruiken, is eigenlijk het onderscheid dat we maken. Daarbij kijken we
dus niet zozeer alleen naar de vraag hoe het precies werkt, maar geven we
ook aan of er sprake is van een hoog risico of niet. Op dit moment hebben
we dat dus niet. We zijn eigenlijk ook vooral van plan om de registratie
van algoritmes te hanteren aan de hand van het criterium wel of geen
hoog risico.
De voorzitter:
Voor u vervolgt, zijn er twee interrupties. Eerst is de heer Van Baarle en
daarna de heer Rahimi. Meneer Van Baarle.
De heer Van Baarle (DENK):
Dank voor de beantwoording. Dat roept voor mij wel de vraag op wat dan
precies de definitie is. Wat wordt er exact gekwalificeerd als hoog risico?
Weten we dan wel het antwoord op de vraag hoeveel hoogrisicoalgoritmen we als overheid hebben?
Staatssecretaris Van Huffelen:
We hebben daar natuurlijk een eerste inventarisatie van gemaakt. De
definitie van hoog risico die op dit moment – in een volgende fase komen
we in de triloogfase – gebruikt wordt in die Europese verordening, is dat
het erom gaat dat deze algoritmes worden toegepast in situaties waarin er
sprake is van systemen waarin persoonsgegevens worden omvat en
waarin die algoritmes risico’s zouden kunnen bieden voor fundamentele
rechten, gezondheid of veiligheid. In de verordening zijn daarvoor ook
lijsten en systemen gemaakt. Die algoritmes zouden we ook honderd
procent in beeld moeten hebben als we het in eerste instantie over de
overheid hebben. Dat zijn precies de algoritmes die in dat register een
plek moeten hebben en waarvan dan ook, conform de afspraken die wij
daarover eerder hebben gemaakt, niet alleen inzichtelijk moet zijn
waarvoor dat algoritme wordt gebruikt, maar ook hoe het in elkaar zit, of
er sprake is geweest van een voorafgaande mensenrechtencheck,
enzovoorts, enzovoorts, enzovoorts. Dat is dus wat wij onder die definitie
verstaan.

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

19

De heer Van Baarle (DENK):
Excuses, maar dat was geen antwoord op de vraag. De vraag was wat
precies de definitie van hoog risico is. Ik hoor dan dat het gaat om
persoonsgegevens. Het is arbitrair wat daar wel en niet onder valt. Het is
arbitrair wat onder risico’s voor fundamentele rechten valt. Wanneer
spreek je van een risico voor fundamentele rechten? Is die gelijkluidende
definitie overal op exact dezelfde manier en uitlegbaar toegepast?
Twee. Mijn vraag is ook: als dat de definitie is die we hanteren, weet de
Staatssecretaris dan wel het antwoord op de vraag hoeveel van die
algoritmen we bij de overheid hebben? Als we dat niet weten, hebben we
een probleem, volgens mij.
Staatssecretaris Van Huffelen:
De helderheid over die definities is, nogmaals, dat we die hebben
beschreven in die AI-verordening. Die zal in de komende tijd ook verder
worden uitgewerkt. We hebben daarin namelijk opgeschreven dat het gaat
over algoritmes waarbij de besluitvorming effect heeft op mensenrechten.
Dat gaat noodzakelijkerwijs dus niet over algoritmes die een lift of een
stoplicht aansturen. Het gaat wel over de algoritmes die bepalen of je wel
of niet in aanmerking komt voor een uitkering, of die werken op het
gebied van bijvoorbeeld risicoselectie en dergelijke. Overigens gaat het
erom – dat is iets wat we vandaag ook wel aan de orde zullen stellen, denk
ik – dat er altijd eerst een afweging gemaakt moet worden van of er
überhaupt wel of niet een algoritme wordt ingezet bij de uitvoering van
beleid. Als we die hoogrisicoalgoritmes gedefinieerd hebben, moeten we
er natuurlijk voor zorgen dat die allemaal in het register komen. Weet ik
nu al voor honderd procent hoeveel dat er zijn? Nee, dat weten we nog
niet voor honderd procent. Bij de activiteiten die we doen in het kader van
de motie op stuk nr. 21 – daarover hebben we u een brief gestuurd
waarover we later deze maand een debat zullen voeren – is het natuurlijk
de bedoeling dat we ook heel precies weten of we alle algoritmes ook
daadwerkelijk in beeld hebben. Omdat ik het zo belangrijk vind dat we dit
voor honderd procent in beeld krijgen, gaat het er, wat mij betreft, niet
alleen om dat we aan organisaties vragen om dat te doen, maar ook dat
we dat uiteindelijk gaan verplichten, zodat we daarover niet alleen in
Europa afspraken maken, maar we dat ook binnen de context van de
Nederlandse overheid doen. Van de hoogrisicoalgoritmes moet namelijk
honderd procent in beeld zijn. Daarvan moet transparant zijn hoe ze
functioneren. Die moeten voldoen aan vereisten die bijvoorbeeld gaan
over dat je niet alleen maar aan het begin, bij de introductie daarvan, een
keurmerk of een toets hebt, maar dat ook tijdens het gebruik daarvan in
de gaten wordt gehouden of zo’n algoritme inderdaad nog doet wat het
moet doen en vooral of het niet gebiased raakt of op de een of andere
manier tot verkeerde uitkomsten leidt.
De voorzitter:
Dank u wel. En voor de liefhebber: de motie op stuk nr. 21 is de motieMarijnissen/Klaver. U wilt nog een tweede interruptie, meneer Van Baarle?
De heer Van Baarle (DENK):
Ja, want we hebben drie keer een interruptie in tweeën, toch?
De voorzitter:
Ja. Dit wordt dus uw tweede interruptie.
De heer Van Baarle (DENK):
Ik ga die hier wel aan besteden, voorzitter, want ik vind de beantwoording
in alle oprechtheid niet bevredigend. Ik vraag tot drie keer toe naar een
definitie van een hoogrisicoalgoritme, omdat die definitie is gehanteerd
bij het controleren of een algoritme discrimineert. De Staatssecretaris

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

20

komt niet verder dan algemeenheden. Als die de definitie vormen bij het
controleren of een algoritme discrimineert, moeten we toch op z’n minst
weten hoeveel we er daarvan hebben? Het antwoord daarop komt ook
niet. Mijn impressie is dus op z’n minst dat de overheid in die hele
doorlichting, bij de uitvoering van de motie-Marijnissen/Klaver om te
kijken of algoritmen discrimineren, niet weet welke definitie er gehanteerd
wordt. Als we na afronding van het traject niet eens weten hoeveel
hoogrisicoalgoritmen we hebben, dan hebben we toch niet goed naar
onze algoritmen gekeken? Dus kan de Staatssecretaris nogmaals
antwoord geven op die twee vragen? Anders blijf ik erbij dat ik mij als
vertegenwoordiger van de fractie van DENK ernstig zorgen maak over de
vraag of we dit wel goed hebben aangepakt.
Staatssecretaris Van Huffelen:
Misschien is het goed om toch even een paar dingen uit elkaar te halen.
Bij het uitvoeren van de motie op stuk nr. 21 – nogmaals, we komen daar
in een volgend debat verder over te spreken – hebben we aangegeven dat
het er vooral om gaat dat we willen onderzoeken of er door de overheid
andere algoritmes worden gebruikt waarin sprake is van discriminatie of
verkeerd gebruik van persoonsgegevens. Dat is geanalyseerd. Alle
departementen hebben hun werk gedaan. Ze zijn daar voor het grootste
deel mee klaar, maar moeten de laatste punten nog afronden. Op basis
daarvan weet u inderdaad hoeveel van deze algoritmes zij hebben
onderzocht. Dat beschrijven ze ook in hun aanpak. Er is ook aangegeven
of er sprake is van algoritmes die niet voldoen aan de vereisten of aan de
definitie zoals we die hebben gehanteerd. Met u heb ik gezegd dat ik het
belangrijk vind dat we dat ook nog een keer onafhankelijk laten toetsen.
Daarom heb ik in de brief die ik naar u heb gestuurd ook geschreven dat ik
ermee aan het werk ben om dat te laten doen.
De definitie die de AI Act, dus de AI-verordening, gebruikt in Europa, kan
ik er nog even voor u bij pakken. Ik wil die in de tweede termijn graag
even aan u voordragen. Die geeft inderdaad aan dat het niet alleen over
discriminatie gaat, maar definieert ook in bredere zin de verschillende
niveaus van risico’s van algoritmes. Er zijn algoritmes die je überhaupt
niet mag gebruiken, hoogrisicoalgoritmes, laagrisicoalgoritmes
enzovoort, enzovoort. Vervolgens wordt er aangegeven welke van deze
algoritmes we in kaart moeten hebben, van tevoren een keurmerk moeten
hebben en aan allerlei vereisten moeten voldoen. Dat is eigenlijk hetgeen
waarmee we werken. Voor een deel overlapt dat uiteraard, want de AI Act
gaat ook over racisme, discriminatie, het niet verkeerd gebruiken van
persoonsgegevens. Maar ik ben het zeer met u eens dat we in de
Nederlandse implementatie van deze verordening – we doen dat bij de
overheid dus in het implementatiekader dat we dit jaar opstellen – in ieder
geval heel helder moeten stellen welke algoritmes wij definiëren als
hoogrisicoalgoritmes, hoe we voor honderd procent dat register kunnen
vullen en hoe de toezichthouder vervolgens ook honderd procent kans
heeft om daarmee zijn werk te doen, namelijk het toezicht houden op deze
algoritmes.
De heer Van Baarle (DENK):
Ik blijf deze vraag herhalen omdat de Staatssecretaris in control, coördinerend, is op dit dossier. Het is een majeure operatie om te kijken of we
binnen de hele overheid algoritmen hebben die wellicht discrimineren.
We hebben die hele operatie met elkaar op touw gezet om alle algoritmen
te controleren op een hoog risico en op de vraag of ze wellicht discrimineren. Ik vind het onbevredigend dat aan het einde van het traject een
coördinerend bewindspersoon in dit debat geen antwoord kan geven op
fundamentele vragen, namelijk hoe die definitie exact luidt, of die overal
op een gelijkluidende manier toegepast is en hoeveel hoogrisicoalgoritmen we dan hebben. Als die antwoorden aan het einde van dit traject

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

21

nog steeds niet komen, ben ik er niet zeker van of we wellicht discriminerende algoritmen op ministeries hebben gemist. Als we niet weten
hoeveel het er überhaupt zijn, ben ik er niet zeker van of we met elkaar
wellicht nog van die monsters onder de motorkap hebben die mensen
duperen. Dat is de kern van de vraag. Ik ben dus op zoek naar meer
control. Ik zou aan de Staatssecretaris willen vragen om eraan tegemoet
te komen om die zorg weg te nemen.
De voorzitter:
Dank u wel. Ik kijk even naar de Staatssecretaris met de vraag of zij na dit
betoog nog iets kan toevoegen.
Staatssecretaris Van Huffelen:
Die zorg wil ik natuurlijk graag wegnemen, want volgens mij hebben we
precies hetzelfde voor ogen: we willen dat er bij de overheid geen
algoritmes worden gebruikt die effecten hebben die we niet willen, zeker
op het gebied van discriminatie. Dat is ook precies wat de motie op stuk
nr. 21 doet. Nogmaals, we gaan nog uitgebreid met elkaar spreken over
de resultaten van die exercitie, van het werk dat we gedaan hebben. Ik
vind het wel goed om dit uit elkaar te trekken, want het gaat daar over
racisme, discriminatie en een aantal andere effecten. Dat is iets anders
dan wat we in de AI-verordening hebben opgenomen. De definities die we
daar gebruiken, zijn breder en gaan ook over andere effecten die
onwenselijk zijn bij het gebruik van algoritmes. Ik denk dus dat het goed is
dat we beide naast elkaar zetten, maar dat we in ieder geval, ook ten
aanzien van de motie op stuk nr. 21, op basis van de check die we hebben
gedaan, inzichtelijk hebben welke algoritmes de overheid gebruikt en of zij
wel of niet voldoen aan de vereisten. We moeten er zeker van zijn dat die
lijst 100% dicht is. Nogmaals, alle departementen hebben daar zeer
serieus aan gewerkt. Mijn voorstel is, ook naar aanleiding van het debat
dat we daar eerder over hadden, om dat nog een keer te laten toetsen,
zodat we zeker weten dat er niet iets vergeten is. Het tweede punt is dat
we ook verder moeten. Nogmaals, dat doen we op basis van wat we zelf
bij de overheid gaan afspreken, in lijn met wat we ook in Europa
afspreken. Het oogmerk blijft dus precies hetzelfde, namelijk zorgen dat
we echt weten welke algoritmes gebruikt worden en in zicht brengen
welke daarvan potentieel niet voldoen, want dan moeten we zorgen dat ze
daar echt mee aan het werk kunnen.
De voorzitter:
U heeft een interruptie van de heer Rahimi van de VVD en daarna van
mevrouw Leijten.
De heer Rahimi (VVD):
In de eerste termijn had ik het al over die snelheidsboetes. Het enige wat
ik de Staatssecretaris wil vragen, is of zij het daarmee eens is.
«Algoritmes» is gewoon een wiskundig begrip. De simpele beslisregels –
wel of niet een boete bij 110 kilometer – zijn simpel; die snapt iedereen.
Maar als je vrouw zwanger is en als je racet naar het ziekenhuis, krijg je
dan ook een boete? Soms wordt dat heel moeilijk. Ik wil dus wel
benadrukken dat het soms heel makkelijk lijkt om over die beslisregels
een mening te hebben. Ik wil de Staatssecretaris vragen of zij mee wil
nemen dat die simpele beslisregels ook goed getoetst worden. Soms
kunnen ze immers complex zijn. Is de Staatssecretaris het daarmee eens?
Staatssecretaris Van Huffelen:
Ja, daar ben ik het zeer mee eens. Het is ook om die reden dat we de
Algemene wet bestuursrecht aan het uitbreiden zijn, want wij vinden het
heel belangrijk dat iedere beslissing die de overheid neemt of iedere soort
beslissing die de overheid neemt, heel goed inzichtelijk is. Sowieso is er

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

22

op dit moment al een motivatieplicht. Als je die boete krijgt, moet er dus
worden uitgelegd waarom je die boete hebt gekregen, hoe je daartegen in
bezwaar kan gaan, enzovoort, enzovoort. Maar ik vind het belangrijk dat
gewoon op de website en/of op andere manieren voor iedereen die
bijvoorbeeld iets wil aanvragen, zoals een subsidie, inzichtelijk is hoe en
met welke gegevens beoordeeld zal worden of je wel of niet in
aanmerking komt, bijvoorbeeld voor zo’n subsidie, en waar die gegevens
vandaan komen. Dat betekent gewoon helderheid en transparantie.
Natuurlijk moet ook helder worden gemaakt of er dan sprake is van
algoritmische onderdelen in die besluitvorming, waarbij we ook eerder in
debatten over dit onderwerp hebben gezegd dat beslissingen die een
direct impactvol effect op je kunnen hebben, bijvoorbeeld de beslissing of
je wel of geen subsidie krijgt of dat je belasting wordt aangepast, nooit
alleen op basis van een algoritmisch besluit kunnen worden genomen. Er
is altijd een menselijke tussenkomst nodig voordat dat besluit daadwerkelijk kan worden genomen.
Mevrouw Leijten (SP):
Dat laatste is nog helemaal niet geregeld. De gemeenten vragen zelfs om
de omgang met algoritmes op te nemen in de algemene beginselen van
behoorlijk bestuur. Dat is nogal een principiële vraag. Het is dus gewoon
niet geregeld. Maar de Staatssecretaris zei zojuist dat altijd de afweging
wordt gemaakt of een algoritme wel of niet wordt ingezet. Mogen wij die
afwegingen weten? Welke lijn wordt er dan gehanteerd en welk
afwegingskader zit daarin? Want van het waardekader waarnaar ik heb
gevraagd, zegt van de Staatssecretaris: dat ga ik lekker niet maken. Die
motie voert zij niet uit.
Staatssecretaris Van Huffelen:
Gelukkig doen we dat wel. Sterker nog, het waardekader en het maken
daarvan zijn onderdelen van ons werkprogramma en zijn daarin
opgenomen. Ik noem bijvoorbeeld de mensenrechtentoets die we hebben
ingevuld. Die begint eigenlijk met de vraag of er überhaupt wel een
algoritme nodig is om dit deel van het beleid of deze regel uit te voeren.
En eerlijk gezegd vind ik die zelf ongelofelijk belangrijk, want de vraag is
dan inderdaad of dit de beste en meest gewenste tool is om in te zetten,
nog voordat je vervolgens allerlei vraagstukken behandelt over de
verschillende stappen die je dan zet en of er daarin dan ook weer sprake is
van het in acht nemen van alle mensenrechten die van belang zijn. Ik denk
dus dat het heel goed is dat we daar scherp op zijn en dat we dat als regel
nummer één opschrijven in het implementatiekader dat we maken voor
de overheid. Maar dat is net zo goed van belang voor verdere vragen. Als
eerste stap in het waardekader is het wat mij betreft een belangrijke factor
dat je eerst de vraag stelt of een algoritme nodig is.
Mevrouw Leijten (SP):
Of je nou een brief leest van de Staatssecretaris of haar hoort
antwoorden: het is altijd een brij aan verwijzingen naar agenda’s,
werkprogramma’s en noem allemaal maar op. Het is ook altijd managementspeak: we gaan doen, we gaan doen, we gaan doen. Maar wat
gebeurt er nú? Er zijn nú algoritmen die bepalen of kinderen wel of niet
crimineel worden, en zo worden zij ook behandeld op straat. Dat is geen
besluit of je een subsidie krijgt of niet, of je toeslag wordt stopgezet of
niet, of dat je een boete krijgt of niet. Maar dat bepaalt wel heel veel over
je leefomgeving. Je zal het stempel maar krijgen. En we gaan daar
gewoon mee door. Welke afweging is daar nou precies gemaakt? Welke
afweging wordt er nou precies gemaakt bij justitie als ze dat allemaal
doen onder de Wet politiegegevens? Die valt bijvoorbeeld níét onder het
toezicht van de Autoriteit Persoonsgegevens. Daar geldt de AVG ook níét.

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

23

Als je het daaronder wegschrijft, mag je dus van alles doen. En hoe gaan
we daar nou achter komen?
Over de uitvoering van de motie-Marijnissen/Klaver gaan we nog een
uitgebreid debat over voeren, want er komt ook een duidelijke rapportage.
Bij die operatie valt het ons op dat ieder ministerie een andere definitie
hanteert. En dan komen we er niet. Wat voor betekenisvolle stap gaat de
Staatssecretaris nou zetten, anders dan op papier, met werkprogramma’s
en met hele goede voornemens, waardoor er echt iets gebeurt?
Staatssecretaris Van Huffelen:
Het begint er in ieder geval mee dat we het eens moeten zijn over wat we
willen bereiken. Volgens mij zijn we dat. Dan misschien toch nog even
over de vragen die u heeft over de kinderen die worden gevolgd. Dat
algoritme wérd inderdaad gebruikt door de gemeente Amsterdam. De
burgemeester van Amsterdam heeft aangegeven dat ze vindt dat dat niet
meer moet worden ingezet. Het is in juli 2016 ingezet, maar daarna is het
niet meer gebruikt. Ik denk dat dat heel terecht is, want dat is precies een
algoritme waarvan je niet wilt dat het ook daadwerkelijk wordt ingezet.
Ik denk dat het helder is dat grip krijgen op algoritmes geen makkelijk,
eenduidig onderwerp is, want er zijn ongelofelijk veel soorten algoritmes.
We hebben het dan niet alleen maar over hoge en lage risico’s, over
stoplichten versus besluitvorming of over de vraag of je wel of niet in
aanmerking komt voor een bepaalde subsidie. We hebben het al helemaal
niet over de algoritmes die socialmediaplatforms gebruiken om bepaalde
soorten informatie wel of niet naar u toe te sturen. We proberen er niet
een beetje, maar met heel veel kracht voor te zorgen dat we helderheid
krijgen over wat er nou precies wordt gebruikt, want ik ben het met u eens
dat het, zeker ook voor de overheid, heel belangrijk is dat we duidelijk
hebben welke soorten algoritmes we gebruiken. Dat geldt overigens ook
voor de private sector. Dat is ook de reden waarom die algoritmeverordening in Europa niet alleen gaat over de overheid, maar ook over de
private sector. Zo is er transparantie. Zo weten we wat ze doen. De heer
Rahimi heeft daar ook iets over gezegd. Zo kunnen we ook aangeven wat
we wel en niet goed vinden. Het is niet altijd eenvoudig om dat helemaal
van tevoren dicht te regelen, omdat we nog niet al die algoritmes in al
hun aspecten goed kennen. Dat is ook precies waar het over gaat:
helderheid krijgen over wat er gebeurt, om vervolgens verder te gaan met
de stappen die we willen zetten. Daarbij staat voorop dat er een paar hele
heldere kaders zijn, namelijk onze Grondwet, mensenrechten en de
fundamentele rechten van burgers die we in eerste en in laatste instantie
moeten beschermen.
De voorzitter:
Dank u wel, vervolgt u uw betoog.
Staatssecretaris Van Huffelen:
Graag.
De voorzitter:
En ik heb trouwens een oproep aan zowel de leden als aan u. Ik weet dat
we allemaal ons best doen, maar we hebben maar drie uur voor dit
overleg. Ik hoop toch om uiterlijk 16.40 uur met de tweede termijn te
starten. Ik hoop daar van alle kanten uw hulp bij te krijgen, door de vragen
kort te formuleren en kort te zijn in de beantwoording.
Vervolgt u uw betoog.
Staatssecretaris Van Huffelen:
Ja, ik ga door met de vragen. Ik kom bij de vraag van de heer Van Baarle
of de ADR de juiste instantie is als we een extra toets willen doen op de
uitvoering van de motie op stuk nr. 21. Wij hebben voor de ADR gekozen

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

24

omdat die deze analyse al bij één ministerie heeft gedaan, namelijk bij het
Ministerie van Sociale Zaken. We hebben gezien dat die werkt en dat die
goed is. De ADR voldoet aan alle aspecten. Ze hebben genoeg kennis en
ervaring en kunnen dit onderzoek goed doen. Maar ik informeer u nog
over hoe we de uitvoering van dit onderzoek willen doen. Ik heb dat ook
toegezegd. Ik informeer u zodanig dat u kunt meekijken, want ik hecht er
vooral ook aan dat, als we dit onderzoek extern laten doen, het dan op een
manier gebeurt waarvan u ook zelf zegt dat die helpt om de inzichten te
krijgen die het moet opleveren.
Mevrouw Leijten (SP):
Ik zou de Staatssecretaris graag willen vragen of zij de Kamer zou willen
respecteren bij het doen van dit onafhankelijke onderzoek en met ons zou
willen overleggen wie dat het beste kan doen. Wij hebben rapporteurs op
dit onderwerp. Het gaat om de uitvoering van Kamermoties. Wij hebben
serieuze zorgen over het feit dat de ADR het doet, omdat de ADR ook een
rol heeft gespeeld in het toetsen van algoritmes en de uitvoering van ICT
binnen de overheid. Ik zou de Staatssecretaris eigenlijk willen vragen of
zij, voordat zij zegt wie ze zelf aanwijst als zogenaamde onafhankelijke
uitvoerder van de toets, met de Kamer wil bespreken of we daar
gezamenlijk een besluit over kunnen nemen. Anders blijven we tegenover
elkaar staan, en dat is echt niet goed op dit onderwerp. Aanvankelijk wilde
de Staatssecretaris niet onafhankelijk toetsen. Ze zei later toe dat wel te
gaan doen. Het is de ADR geworden. Daar hebben we vanwege die
dubbelrol echt serieuze, inhoudelijke problemen mee. Is de Staatssecretaris bereid om met de Kamer te overleggen wie dat het beste kan doen?
Staatssecretaris Van Huffelen:
Ik zie die dubbelrol van de ADR eerlijk gezegd niet zo. Zij zijn de
accountant van het Rijk en daarmee toetsen ze zijn werk op meerdere
vlakken. Overigens spelen bij de toetsing van algoritmes ook anderen nog
een rol. Maar het gaat nu over dit onderzoek. We kunnen het ook
omdraaien. U kunt ook aangeven dat u denkt dat een andere organisatie
dat zou moeten doen. Ik kan dat dan samen met mijn collega’s meewegen
in dit voorstel.
Mevrouw Leijten (SP):
Als daar ruimte voor is, zou ik die graag willen gebruiken, want de ADR
heeft wel degelijk ook een adviesfunctie bij het op een goede manier
aanleggen van systemen. De ADR kijkt daar dus wel degelijk bij mee. Later
moet die ze weer toetsen. Om iedere mogelijke schijn van van alles te
voorkomen, juist omdat het hier gaat over zo’n belangrijk punt, en juist
omdat we geen incidentenpolitiek willen, om maar even met de VVD te
spreken, kunnen we het volgens mij beter vooraf goed afspreken, zodat er
achteraf geen andere inzichten zijn. Ik zou het echt erg op prijs stellen als
de Staatssecretaris dat samen met de vaste commissie voor Digitale
Zaken zou willen oppakken.
Staatssecretaris Van Huffelen:
Om het heel praktisch te houden – volgens mij moeten we niet te lang
wachten met deze toets – zou ik zeggen: laat u mij als commissie weten
welke partij of welke soort partij u zou willen. Dan kan ik die in de
overweging meenemen.
Mevrouw Leijten (SP):
Ik zeg het niet omdat ik mezelf werk wil geven, maar dan zou ik willen
voorstellen dat de rapporteurs op dit onderwerp, mevrouw DekkerAbdulaziz en ik, daarvoor met een voorstel komen. Wij kijken namelijk ook
mee met de voortgangsrapportages. Wellicht kan meneer Van Baarle ook
meehelpen. Ik zou aan de Staatssecretaris willen vragen om tot die tijd

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

25

nog geen stappen te zetten; dan zullen wij proberen om zo snel mogelijk
ons werk te doen.
Staatssecretaris Van Huffelen:
Heel graag. Perfect.
De voorzitter:
Dan noteren we dat. Vervolgt u uw betoog.
Staatssecretaris Van Huffelen:
Ik ga door naar de vraag van de heer Van Baarle over de antidiscriminatierichtlijnen van de algoritmeverordening. Worden die ook daadwerkelijk
heel concreet? Ja, die zijn heel concreet. Ze zijn opgenomen in het
akkoord zoals het er op dit moment is. U weet dat het nog niet definitief is.
Er zijn nog trilogen. Er staat in dat data die tot vooroordelen en discriminatie leiden, geïdentificeerd moeten worden en voorkomen moeten
worden enzovoort, enzovoort. Dat is dus ook een heel belangrijke kwestie
aan onze kant. Bovendien staat erin dat die mensenrechtentoetsen
voorafgaand aan de inzet van algoritmes moeten worden gedaan. In mijn
perspectief en dat van het kabinet is dit goed geregeld. Maar goed, we
moeten natuurlijk wel zien of dat in de definitieve versie blijft bestaan. Ik
hoop dat dat zo is en ik heb overigens ook geen reden om aan te nemen
dat dat niet zo is.
De heer Van Baarle vroeg ook hoe we voorsorteren op die algoritmeregelgeving vanuit Europa. We doen dat vooral door vast aan het werk te gaan
met de overheid en met overheidsorganisaties. We doen dat op verschillende manieren. We hebben natuurlijk al een toezichthouder en we
hebben dat register opgezet. Ik kom zo meteen op de detailvragen
daarover. Wij vinden het heel erg belangrijk dat wij als overheid en als
overheidsorganisaties al gaan voldoen aan de verplichtingen zoals die nu
zijn opgenomen, zodat we daar alvast mee kunnen oefenen, zodat we ze
kunnen inrichten, maar vooral ook zodat we die dingen die wellicht nog
langer gaan duren wat betreft de verordening, al eerder bij de Nederlandse overheid kunnen inzetten. Natuurlijk gaan we daarbij ook samenwerken met de toezichthouders die op dit gebied actief zullen zijn.
De voorzitter:
De heer Van Baarle, DENK.
De heer Van Baarle (DENK):
Dit is mijn een-na-laatste vraag, toch?
De voorzitter:
U heeft nog één interruptie, inderdaad.
De heer Van Baarle (DENK):
Nog één interruptie?
De voorzitter:
En een vervolgvraag.
De heer Van Baarle (DENK):
Ja, en een vervolgvraag. Over de criteria en de AI Act. De Kamer heeft een
motie aangenomen waarin de Staatssecretaris en de regering de opdracht
kregen om concrete antidiscriminatiebepalingen uit te onderhandelen in
Europa. Mijn vraag was: wat zijn de concrete antidiscriminatiebepalingen?
Ik heb het antwoord van de Staatssecretaris opgeschreven: geen
verboden onderscheid, risico’s identificeren en een mensenrechtentoets.
Wat is verboden onderscheid? Wat is identificeren? Hoe moet je dat doen?
Waar bestaat die mensenrechtentoets uit? Hoe omvattend is die? We

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

26

wachten allemaal op die AI Act, want die moet alles oplossen, maar deze
beantwoording, deze zin, geeft mij nog niet de zekerheid dat die concreet
genoeg wordt om aan de slag te kunnen.
Staatssecretaris Van Huffelen:
Dat het concreet moet worden is natuurlijk helder en wat niet mag, staat
in de wet. In onze eigen wetgeving staat dat discriminatie niet mag. Dat
geldt ook in die Europese verordening. U zegt dat we niet alleen maar
moeten wachten tot de regelgeving van Europa komt. Daarom gaan we
op basis van dat implementatiekader alvast aan de slag binnen de
Nederlandse overheid. Ik kan niet vooruitlopend daarop al dingen regelen
voor de private sector, maar wel voor de Nederlandse overheid. Dat is
precies wat ik aan het doen ben. Daarbij zullen we heel concreet worden
over wat wel en niet mag. In Nederland mag je niet discrimineren, punt.
Dat mag er dus ook niet in zitten. We zijn de teksten van dat implementatiekader aan het maken. Dat komt in de komende maanden uw kant op. Ik
hoor heel duidelijk uw wens om ervoor te zorgen dat dat zo concreet
mogelijk is. Dat ben ik zeer met u eens, want dat maakt het leven altijd
fijner en prettiger. Dat ga ik dus voor u doen.
De heer Van Baarle (DENK):
Dit is dan mijn laatste vraag. Mijn punt is dat ik dit nu al een aantal keer
heb gevraagd aan de Staatssecretaris. We hebben een Handreiking
non-discriminatie by design en andere nuttige producten waarin we heel
concreet hebben omschreven wat je moet doen om ervoor te zorgen dat
een algoritme niet discrimineert. Voer dat gewoon in Nederland in met
een wet. Het antwoord was: nee, we gaan wachten op die AI Act, want die
gaat alles oplossen. In het antwoord hoor ik de concrete dingen die in die
AI Act staan: geen verboden onderscheid, je moet het identificeren,
mensenrechtentoets vooraf. Maar wat moet je identificeren? Welke
mensenrechtentoets? Hoe dan? Dat vind ik te min. Ik zou tegen deze
Staatssecretaris willen zeggen: overweeg gewoon om bijvoorbeeld die
Handreiking non-discriminatie by design te formaliseren. Wacht niet op
iets uit Europa wat niet concreet is en uit drie losse criteria bestaat.
Staatssecretaris Van Huffelen:
Dat is ook precies wat we gaan doen. We gaan dat opnemen in het
implementatiekader. We gaan ervoor zorgen dat de Handreiking
non-discriminatie by design en het IAMA bijvoorbeeld als toets worden
opgenomen. Bij de uitwerking van de AI Act mogen wij, als Nederland,
gewoon kiezen welke vorm van toetsing wij gaan hanteren. Dat kunnen
we dus gewoon invullen. Dan kunnen we die gebruiken. Misschien dat er
in de loop van de tijd nog betere mensenrechtentoetsen of ethische
toetsen komen, want die ontwikkelen zich natuurlijk ook. Dat gaat gewoon
gebeuren. Het blijft dus niet bij deze algemene omschrijving. Nogmaals,
het is wellicht goed om nog een keertje een tekstexegese te doen van de
AI Act, maar er staat precies in wat u bedoelt. Er komt een toetsing vooraf.
Er komt zelfs een keurmerk voor de hoogrisicoalgoritmes. Dat betekent
meer dan dat je toetst. Het moet ook aantoonbaar zijn. Er is een instantie
die daarop toeziet om ervoor te zorgen dat het helder is welke toetsing
vooraf is gedaan en welke voorzorgsmaatregelen er zijn om ervoor te
zorgen dat een dergelijk algoritme niet discrimineert en ook anderszins
voldoet aan de vereisten.
De voorzitter:
Vervolgt u uw betoog.
Staatssecretaris Van Huffelen:
Dan ga ik naar het punt over de algoritmes. De heer Slootweg vroeg –
welkom bij deze commissie, overigens – om een overzicht van de

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

27

algoritmes waarvan de ontwikkeling is uitbesteed en hij vroeg of ik
afspraken kan maken over discriminatie. Ik heb geen totaaloverzicht van
welke algoritmes wel of niet zijn uitbesteed. De algoritmes die de
Nederlandse overheid gebruikt, kunnen namelijk zelf ontwikkeld zijn, maar
ze kunnen ook ingekocht zijn. Voor de regelgeving die wij gaan maken in
Nederland, dus dat implementatiekader, maakt het niet uit of het
algoritme wordt gemaakt door iemand anders of door een overheidsorganisatie zelf. Het moet voldoen aan de eisen die wij daaraan stellen. Juist
met die AI-verordening hebben wij ervoor gezorgd dat keurmerken niet
alleen maar worden afgegeven door de ontwikkelaars van algoritmes. De
notificatieplicht ligt dus niet alleen bij de ontwikkelaar maar ook bij de
gebruiker. Ik vind dat zelf ontzettend belangrijk, want dan is altijd duidelijk
wanneer een algoritme wordt toegepast, ook al ben je zelf niet de
ontwikkelaar ervan. Nogmaals, dat kader gaan we dus ook hier in
Nederland invoeren.
De heer Slootweg vroeg naar de ontwikkeling ... Was die motie van de
heer Slootweg? Ik ben even kwijt of die van u was.
De heer Slootweg (CDA):
Kleine correctie, voorzitter. Voordat ik het idee krijg dat ik loop te pronken
met de veren van een ander: ik geloof dat beide vragen door de heer Van
Baarle zijn gesteld. Het maakt verder niet uit, want we zijn nog steeds zeer
geïnteresseerd naar de ...
Staatssecretaris Van Huffelen:
Dat dacht ik ook. Precies, het ging even mis. Maar het gaat dus over het
ontwikkelen van protocollen over hoe te handelen bij de constatering van
discriminatie. Een. We gaan dus zorgen dat algoritmes op dit terrein
worden gereguleerd. Op het moment dat blijkt dat er algoritmes zijn die
toch niet voldoen, vind ik het vooral van belang dat we zorgen dat er zo’n
soort protocol wordt ontwikkeld. Dat hebben we op dit moment namelijk
niet. Ik denk dat het goed is om dit ook verder te gaan uitwerken. Ik zal
zorgen dat ik u snel laat weten hoe we dat zouden kunnen doen.
Dan waren er vragen van Volt over het algoritmeregister. Misschien loopt
de volgorde van de partijen nu een beetje door elkaar, maar als ik een
vraag daardoor niet beantwoord, dan hoor ik dat graag. Die vraag van Volt
ging over de uitwerking van het algoritmeregister. Mevrouw Koekkoek
vroeg namelijk: goed dat we nu een start hebben gemaakt, maar hoe gaan
we ervoor zorgen dat het algoritmeregister verder wordt gevuld? Ik ben
daar hard mee aan het werk. Ik organiseer niet alleen bijeenkomsten
daarover, maar ook zorg ik ervoor dat het register zelf in communities en
op platforms als Pleio en GitHub verder wordt ontwikkeld. Dat doen we
dus open source. We gaan ook aan het werk om te zorgen dat we zo veel
mogelijk mensen daarover informeren.
Maar ik zeg u ook toe dat ik mijn collega’s in het Nederlandse kabinet nog
een keer goed zal aangeven dat dit register er is. Ik zal hun op het hart
drukken dat zij en de uitvoeringsorganisaties die onder de respectievelijke
departementen vallen, aan het werk moeten om dit register te vullen. Ik
ben blij dat we het hebben. Ik weet verder ook zeker dat we het nog verder
gaan ontwikkelen en dat het verder gevuld zal worden. Maar hoe meer en
hoe sneller we dat doen, hoe beter en hoe liever mij dat is.
De voorzitter:
Voor u verdergaat: u heeft een interruptie van mevrouw Dekker-Abdulaziz.
Daarna komen de heer Rahimi en mevrouw Kathmann.
Mevrouw Dekker-Abdulaziz (D66):
Dank aan de Staatssecretaris dat zij haar best gaat doen en het haar
collega’s op het hart gaat drukken. Maar D66 ziet natuurlijk liever dat wij
de overheid gewoon verplichten om dat register te gebruiken. Ik denk dat

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

28

dat er ook van komt bij de AI Act, maar is de Staatssecretaris bereid om
het algoritmeregister eerder een verplichtend karakter te geven? Of doet
zij dat, nu we toch bezig zijn, parallel aan de AI Act?
Staatssecretaris Van Huffelen:
We zijn daarmee aan het werk en ik zal uw Kamer daar ook over informeren. Het is namelijk niet noodzakelijkerwijs precies hetzelfde als wat we
beogen. Maar ik zal zorgen dat we u daar wat meer informatie over geven,
want het is inderdaad van belang dat het niet een vrijblijvend instrument
maar een verplicht instrument wordt. Maar u weet net zo goed als ik dat
wetgeving een tijdje kan duren en daarom hecht ik eraan dat we ervoor
zorgen dat, zolang die verplichting er nog niet is, organisaties zo hard
mogelijk aan het werk gaan. Ik vind het overigens wel fijn dat de organisaties die al meedoen, hard aan het werk zijn. En dat zijn niet alleen maar
partijen binnen de landelijke overheid maar ook gemeenten. Ik vind dat
heel verheugend, want dat maakt dat het instrument steeds bekender
wordt.
Mevrouw Dekker-Abdulaziz (D66):
Ik ben zeker heel trots dat sommige gemeente zelfs al voorlopen. Maar
heeft de Staatssecretaris ook een deadline of iets dergelijks in gedachten?
Ik bedoel dat ze zegt: beste collega-ministers, voor 1 mei moet dat
gebeuren en voor 1 januari dat. Anders blijft ze wachten.
Staatssecretaris Van Huffelen:
In principe hebben we gezegd, volgens mij ook in de brief, dat we willen
zorgen dat het register voor het eind van het jaar gevuld is.
De heer Rahimi (VVD):
Wij hadden dezelfde vragen als mevrouw Koekkoek. Volgens mij was er
een deadline en ik dacht dat die eind 2024 was. Mijn vraag is om het naar
eind 2023 te halen. Maar volgens mij hoor ik nu dat dat gaat gebeuren.
Dat is al fantastisch, maar ...
Staatssecretaris Van Huffelen:
Maar dan gaat het over de rijksoverheid, hè. Je kan niet voor alle
gemeentes bepalen dat zij daadwerkelijk alles al vullen. Maar ik vind dat
de rijksoverheid moet zorgen dat we het dit jaar rond hebben.
De heer Rahimi (VVD):
De Staatssecretaris gaf aan dat ze haar collega’s gaat benaderen.
Uitstekend. Daar ben ik heel blij mee, maar is er ook een deadline voor de
gemeentes en de waterschappen? Is er voor hen een deadline en wat gaat
de Staatssecretaris doen om te zorgen dat zij het register gaan vullen?
Staatssecretaris Van Huffelen:
Jazeker. Ik gaf net ook al aan dat we dat actief aan het doen zijn door
contact op te nemen, door mensen daarbij te ondersteunen en door hen
actief te vragen om het in te vullen. Nogmaals, het helpt daarbij dat
gemeenteraadsleden daar vragen over stellen. Ik roep alle gemeenten en
alle politieke partijen dan ook op om daar vragen over te stellen aan hun
eigen lokale besturen om zo te zorgen dat het wordt gevuld.
Mevrouw Kathmann (PvdA):
Eigenlijk zijn de vragen al gesteld. Ik wilde ’m eigenlijk stellen namens
mevrouw Koekkoek die helaas plenair moet debatteren. Ze probeert zo
snel mogelijk terug te komen, want haar vragen gingen inderdaad niet
zozeer over het vullen als wel heel expliciet over die verplichting. Ze had
daar volgens mij ook een oplossing voor, nog los van een langslepend
wetgevingstraject. Ze herinnerde ons verder ook nog even aan de

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

29

motie-Dassen c.s. die onder die vraag om dat te doen ligt. Volgens mij is
de geest van haar vraag meer: hoe krijgen we dit versneld verplicht en
hoe kunnen we zo snel mogelijk recht doen aan die motie-Dassen c.s.?
Volt had daar ook zelf een oplossing voor.
Staatssecretaris Van Huffelen:
En die sluit aan op iets wat ik net ook al aangaf, namelijk dat we bezig zijn
met dat wetsvoorstel voor de versterking van de waarborgfunctie van de
Awb, de Algemene wet bestuursrecht. De bedoeling daarvan is dat al die
algoritmes – ik zei het al eerder – in kaart worden gebracht als die
onderdeel zijn van besluitvorming door overheden. Die wet is nu in
preconsultatie, maar die komt er dus wel aan. En dat betekent dat er zo
snel mogelijk daadwerkelijk een wet is om mee te gaan werken.
Ik ga door met een vraag gesteld door de VVD. Hoe zorgen we ervoor dat
het register op een geautomatiseerde manier kan worden gevuld? En
gaan we dat op korte termijn doen? Ik heb al iets gezegd over dat vullen,
maar ik weet niet of dat allemaal geautomatiseerd kan. Ik hoop het wel,
want dat helpt ervoor te zorgen dat het een zo makkelijk mogelijk proces
is om het register daadwerkelijk gevuld te krijgen.
De VVD vroeg hoe we ervoor zorgen dat de inzet van algoritmes en
data-analyse niet leidt tot beperking van de persoonlijk vrijheid en de
privésfeer van burgers en ondernemers. Dat is natuurlijk zeker wat we
doen, want ons beleid is erop gericht om te voldoen aan alle regels die we
daarvoor hebben, want die zijn natuurlijk ongelofelijk belangrijk.
Ik ga verder met een aantal vragen van mevrouw Koekkoek. Zijn er
voldoende wettelijke kaders om de totstandkoming van algoritmen te
garanderen? Ik denk het wel, ook al zijn al die kaders er nog niet allemaal.
We zijn die voor een deel nog aan het ontwikkelen. Ik had het bijvoorbeeld
al over dat implementatiekader en de AI Act. We moeten er vooral voor
zorgen dat we niet alleen een algemeen kader hebben, maar ook
methodes om mee te werken, bijvoorbeeld het IAMA, de mensenrechtentoets, het uitvoeren van de Code Goed Digitaal Openbaar Bestuur
enzovoorts enzovoorts. We werken daar dus op verschillende manieren
aan, maar klaar zijn we zeker niet, ook omdat er steeds weer nieuwe
ontwikkelingen zijn op dit gebied.
Mevrouw Koekkoek vroeg ook naar de motie van DENK die van de
overheid vraagt om bij besluiten aan te geven of er sprake is van het
gebruik van algoritmen. Dat is precies wat we in die nieuwe aangevulde
versie van de Awb gaan doen. We gaan ervoor zorgen dat helder wordt
hoe besluiten worden genomen en hoe die tot stand komen. Het gaat
daarbij niet alleen om de vraag of er algoritmen worden gebruikt, maar
ook om welke data er worden gebruikt voor het nemen van een besluit en
waar die data vandaan komen. Als er bijvoorbeeld naar iemands inkomen
wordt gekeken of als er wordt gekeken of je wel of niet een subsidie krijgt,
dan wordt gekeken waar die gegevens over het inkomen vandaan komen.
Die kunnen bijvoorbeeld van de Belastingdienst komen, maar adresgegevens kunnen dan weer uit de BRP komen.
Dan was er nog een vraag, van de PvdA: wat kunnen burgers doen als
blijkt dat algoritmes niet tot een juiste uitkomst leiden? Daarvoor gelden
natuurlijk altijd bezwaar- en beroepsprocedures, maar wij hebben ook nog
een keer expliciet laten opnemen in de AI-verordening dat er een
mogelijkheid is om bezwaar aan te tekenen en in beroep te gaan tegen
uitkomsten die door algoritmes zijn gerealiseerd. In Nederland geldt daar
natuurlijk de procedure voor die we kennen.
Dan was er ook een vraag van de PvdA naar aanleiding van de reflectie
van de heer Krijger: is een algoritmeregister wel voldoende? Beter
gezegd: ik begrijp dat de heer Krijger vooral aangeeft dat dit niet zo is en
dat er meer mogelijkheden moeten zijn voor experts om zich daarin te
verdiepen. Dat is inderdaad wat wij heel graag willen. Wij maken een
algoritmeregister niet alleen voor bijvoorbeeld de toezichthouder of voor

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

30

burgers die weten dat er een algoritme wordt gebruikt bij het nemen van
besluiten door de overheid, of vanwege transparantie over algoritmes in
het privédomein, bijvoorbeeld met betrekking tot algoritmes die worden
ingezet door socialmediaplatforms. Wij maken zo’n register ook juist zodat
het mogelijk wordt voor onderzoekers, ngo’s en belangenorganisaties om
inzicht te krijgen in hoe die algoritmes eruitzien en hoe ze werken, dus om
ze te kunnen onderzoeken, enzovoort, enzovoort. Alleen maar weten dat
het er is, is onvoldoende om te begrijpen wat zo’n algoritme daadwerkelijk doet.
Mevrouw Kathmann (PvdA):
Voorzitter, het was een goede ingreep om eerst even de tweede vraag te
laten beantwoorden, want de eerste vraag was niet zozeer wat burgers
kunnen doen als het algoritme het fout heeft; het ging meer om de
bredere context: wat doet dat met besluitvorming? We praten hier vooral
over algoritmes en de mensenrechtentoets, maar we kunnen het daar
gewoon niet mee platslaan, hoe graag we dat ook zouden willen. Er is een
veel bredere kijk nodig: hoe is het ontwikkeld, hoe is het vervolgens
ingezet en hoe werkt het precies? Dat was eigenlijk mijn vraag. Daarom
ben ik blij met de beantwoording van de tweede vraag. Ik zou daar alleen
wel een iets concreter antwoord op willen krijgen: hoe gaan we dat dan
vormgeven? Komen er dan meer commissies, zoals de heer Krijger voor
ogen heeft? Of krijgt zo’n commissie als het UWV nu heeft bijvoorbeeld
een ander mandaat om het werk te doen dat de heer Krijger voor ogen
heeft? Hoe maken we dit concreet en hoe geeft de Staatssecretaris dat aan
ons terug?
Staatssecretaris Van Huffelen:
Mijn ministerie is met hem in gesprek hierover, dus ik denk dat het goed is
dat ik u over de uitkomsten daarvan iets meer laat weten. Wij zeggen met
betrekking tot algoritmes natuurlijk dat helder moet zijn wanneer ze
gebruikt worden en hoe ze werken, dat ze transparant en open source
moeten zijn, dat de codes daarvan helder moeten zijn en dat ook duidelijk
moet zijn hoe ze functioneren. We hebben niet voor niets dat register én
een toezichthouder die daarnaar moet kijken. Maar ik denk dat het goed is
dat ik op basis van het gesprek dat we daarover hebben gevoerd, en
wellicht ook op basis van andere gesprekken in dat kader, daar nog iets
meer over zeg. Ik ben niet zomaar geneigd om er nog een commissie bij
te doen. Ja, ik begrijp dat u dat jammer vindt, mevrouw Kathmann. Ik vind
het vooral belangrijk dat we echt structureel inzicht bieden. Daarbij is het
ook niet alleen maar zo dat de overheid zelf dat moet doen. We hebben
juist gezien dat heel veel controles in dit werkgebied voortkomen uit de
communities rondom bepaalde onderwerpen en rondom bepaalde
programmatuur. Ik vind het heel belangrijk dat onderzoekers, maar ook
belangenorganisaties en anderen, in staat zijn om inzicht te krijgen in hoe
die algoritmes werken, zodat er meer mensen aan het werk kunnen om te
ontdekken wat hier nou precies gebeurt. Ik kom daar graag op terug.
De voorzitter:
U heeft een vervolgvraag van mevrouw Kathmann. Nogmaals – ik zeg dit
niet specifiek richting mevrouw Kathmann, maar in algemene zin – als we
nog een tweede termijn willen, moeten we het kort houden, dus daarvoor
doe ik een beroep op iedereen.
Mevrouw Kathmann (PvdA):
Toch even om het even concreet te maken. Ik ben heel blij met de
toezegging dat er een terugkoppeling komt over het gesprek. Maar de
crux is nou juist dat wij ook gebruikmaken van algoritmes op een aantal
terreinen waarop geen inzage gegeven kan worden, omdat het geheim
moet blijven of problematisch is. De commissies moeten in die gevallen

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

31

juist inzicht krijgen: mensen die wel het mandaat hebben om alles te
doorgronden, moeten daarin aan het werk kunnen, ook al wordt het dan
niet helemaal publiekelijk toegankelijk. Ik zou wel graag zien dat dat door
de Staatssecretaris wordt meegenomen in de terugkoppeling.
Staatssecretaris Van Huffelen:
Ja, maar misschien kan ik toch al direct kort antwoord geven op de
opmerking dat soms niet alle algoritmes helemaal publiekelijk kunnen
zijn, omdat dat bijvoorbeeld te maken heeft met de aard van het
algoritme; de toezichthouder heeft altijd toegang. Het is dus niet zo dat de
AP of andere toezichthouders die daar in de toekomst wellicht aan worden
toegevoegd geen toegang hebben. Die kunnen altijd in de algoritmes
kijken, bijvoorbeeld van de politie of van instanties, terwijl dat in het
publieke domein niet zomaar kan. Dat deel is dus afgedekt. Nogmaals, ik
zal er zeker ook voor zorgen dat dit een onderwerp is dat we met de heer
Krijger bespreken.
De voorzitter:
De toezichthouder. Als we eraan toekomen vandaag, dan komt dat nog.
Allereerst nog een interruptie? Nee. We kunnen door.
Staatssecretaris Van Huffelen:
O, ik mag verder? Oké, fijn. Dan kunnen we het inderdaad even over die
toezichthouder hebben. In tegenstelling tot het beeld dat er in de eerste
termijn van de Kamer leek te bestaan, is het niet zo dat de AP geen
bevoegdheden heeft. De AP heeft wel degelijk bevoegdheden om op basis
van algoritmes aan het werk te gaan en is ook al in staat om – en dat mag
zij ook, als dat nodig is – onderzoeken te doen, boetes uit te delen,
enzovoort, enzovoort. De AP heeft twee rollen, namelijk de rol van
toezichthouder, met de tanden, de bevoegdheden, waar u het allemaal
eerder al over had, en – dat is de tweede rol – het verder uitwerken van
het normenkader en het samenwerken met andere toezichthouders.
Sommige algoritmes gaan over specifieke soorten werkvelden waarop het
nodig en wenselijk is, vanuit de AP, maar ook vanuit ons, om samen te
werken met anderen.
Wat natuurlijk nog wel moet worden ingevuld, is welke specifieke
bevoegdheden de AI-verordening de AP ook nog zal geven. Maar dat is on
top of. Met de huidige bevoegdheden die de AP heeft en die in het kader
van algoritmes waarmee persoonsgegevens worden verwerkt, kan zij
gewoon prima aan het werk om dat te doen. Sterker nog, we weten dat ze
dat ook doet, want op basis van het algoritme heeft bijvoorbeeld de
Belastingdienst van de AP een boete gekregen. Het is dus niet zo dat de
AP geen tanden heeft. Zij kan wel degelijk aan de gang. Om die vraag nog
verder te beantwoorden: zij heeft daarvoor ook middelen gekregen en
heeft inmiddels een groep mensen ingehuurd om aan het werk te gaan.
De lancering daarvan was begin januari. Het wordt en blijft ook altijd heel
erg belangrijk om te bezien of dat voldoende zal zijn – daarover werden
ook Kamervragen gesteld – om dat werk in de komende tijd te blijven
doen. Dat wordt natuurlijk extra relevant wanneer we meer inzicht krijgen
in de extra taken en bevoegdheden die mogelijkerwijs door de verordening uit Europa aan de AP gegeven zullen worden.
Ik heb een aantal vragen van mevrouw Bouchallikh eigenlijk al beantwoord. Die gingen over de deadlines en die thema’s. Ik ben u dus niet
vergeten, maar anders val ik in herhaling. Even kijken of ik dan het
toezicht behandeld heb.
De voorzitter:
We zijn nog niet bij het kopje toezicht, volgens mij.
Staatssecretaris Van Huffelen:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

32

Nee, we zijn nog niet bij het kopje toezicht, maar dit waren al vragen over
toezicht. Ik ga nu dus snel naar het kopje toezicht.
De voorzitter:
Ik zag namelijk de leden wat verward kijken. We gaan dan nu door naar
het kopje toezicht.
Staatssecretaris Van Huffelen:
Ja, inderdaad. De eerste vraag was van de heer Slootweg. Die vraag gaat
over de doorzettingsmacht en de mogelijkheid om dingen te doen. De AP
heeft dus tanden en kan aan het werk, maar we gaan dat verder uitwerken
naar aanleiding van de eventuele extra bevoegdheden. Als het gaat over
de gezamenlijke normuitleg: dat kan de AP natuurlijk sowieso doen. Zij
heeft ook de doorzettingsmacht op het thema van de persoonsgegevens.
Voor de andere sectoren gaat de AP samenwerken met andere toezichthouders om gezamenlijk te komen tot de normuitleg. Dat is dus een
ontwikkeling die we in de komende tijd zullen zien. De AP heeft ook echt
de mogelijkheid om boetes op te leggen of om op andere manieren
aanwijzingen te geven; zij kan in ieder geval het instrumentarium
daarvoor inzetten.
Ik probeer het een beetje snel te doen.
De voorzitter:
Ik zie dat mevrouw Kathmann een vraag heeft. Ik zie dat er nog altijd een
hele hoop vragen zijn. U kunt allicht uw vraag nog stellen, mevrouw
Kathmann, maar het zou uw laatste interruptie zijn. Dat is uiteraard aan u.
Wilt u het afwachten of wilt u nu de interruptie plaatsen? Afwachten.
Mevrouw Kathmann (PvdA):
Nee, want ik had mij juist aangesloten bij een hoop vragen van anderen
om ze niet dubbel te stellen. Ik had me onder andere voor dit kopje
aangesloten bij de vragen van het CDA, maar ik zou wel concreet van de
Staatssecretaris willen horen welke doorzettingsmacht de algoritmetoezichthouder dan heeft om de samenwerking met colleges, markttoezichthouders en rijksinspecties te optimaliseren. Wat is dan die doorzettingsmacht? Wat als zij nou niet willen meewerken? Want daar had het CDA het
juist over. Er is een heel palet aan toezichthouders en dan heb je de AP
zelf ook nog, en niet alleen als algoritmetoezichthouder. Dat zit allemaal in
een samenwerkingsverband. Maar wat is de escalatieladder? Wat zijn nou
echt het mandaat en de doorzettingsmacht in dat geheel? Hoe zien die
eruit? Wordt dat nog concreet gemaakt? Komt die escalatieladder
bijvoorbeeld snel? Daar ben ik heel benieuwd naar.
Staatssecretaris Van Huffelen:
De AP kan op basis van de huidige wettelijke bevoegdheden die ze heeft,
toezicht houden op algoritmes waarbij sprake is van het gebruik van
persoonsgegevens. Dat kan de AP doen. Dat doet ze ook en dat gaat ze
verder ook doen.
Het tweede thema in de brief die ik u heb gestuurd, gaat over het verder
ontwikkelen van het toezicht op algoritmes in bredere zin. Daar is nog
geen wettelijke basis voor. De toezichthouders hebben wel met elkaar
afgesproken om daar een normenkader voor te ontwikkelen. Daar ben ik
ook bij betrokken. Dat is onderdeel van de agenda die ik heb gemaakt. We
willen namelijk zorgen dat helder wordt aan welke vereisten algoritmes
moeten voldoen en hoe het toezicht daarop wordt ingericht. Maar ik vind
het prima – bij een vorig debat heb ik daar ook al iets over verteld – dat ik
daarover een gesprek heb met die toezichthouders. Als ik kan helpen door
nog iets meer op papier te zetten over hoe dat precies loopt, wil ik dat
voor u uitwerken, maar de mogelijkheid om daadwerkelijk in te grijpen is
er al.

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

33

De voorzitter:
Mevrouw Leijten, voor uw derde interruptie.
Mevrouw Leijten (SP):
Er wordt hier gezegd dat het kan, terwijl de wettelijke basis er niet is. Het
gaat om algoritmes bij de verwerking van persoonsgegevens, maar er kan
niet gekeken worden of een algoritme veilig is, of het een mensenrechtenkader heeft of dat het door te veel mensen wordt ingezien. Dat kan
allemaal niet. Daar is nu geen wettelijk kader voor. De Staatssecretaris
zegt wel dat de AP dat allemaal kan, maar de analyse die wij maken is dat
het gewoon niet gereed is. Niet voor niets wordt het een expertisecentrum
genoemd. Ik vond dat eigenlijk een hele goede term. Maar in de fase
waarin we nu zitten, vragen we niet meer om een expertisecentrum. We
zijn aan het opruimen bij de overheid. Iedereen doet dat op een andere
manier. We willen het register aan het einde van het jaar gevuld hebben.
Er is iemand die bij die algoritmes kan; dat is bijvoorbeeld de Algemene
Rekenkamer. Die doet er zes per jaar. Dat is een ontzettend grote klus. Die
checkt ze op allerlei punten en daar komen altijd allemaal rode vlaggen
uit. Dat kan de AP straks niet en dat mag de AP straks ook niet. Waarom
blijft de Staatssecretaris nou zeggen dat dat wel geregeld is?
Staatssecretaris Van Huffelen:
Volgens mij ben ik in mijn beantwoording heel precies: de AP heeft, op
basis van de huidige wettelijke bevoegdheden, de mogelijkheid om
algoritmes waarin persoonsgegevens worden verwerkt, daadwerkelijk te
onderzoeken en te acteren op basis van eventuele fouten die ze opmerkt,
met uiteindelijk de mogelijkheid om boetes in te zetten. Ik heb aangegeven dat we ook nog de algoritmeverordening hebben, die nu in Europa
wordt afgerond. Die zal waarschijnlijk, bijna wel zeker, extra bevoegdheden geven aan nationale toezichthouders. Wij werken hard aan de
uitwerking daarvan. Ik heb u eerder al toegezegd dat ik daar met de
verschillende toezichthouders over ga spreken. Dat ga ik ook doen. Dat
gesprek zal volgende maand, in maart, plaatsvinden met de ACM, het
Agentschap Telecom enzovoorts, enzovoorts. We gaan samen met hen
kijken hoe we het toezicht op een veel bredere set van verordeningen,
maar zeker ook op de AI-verordening, kunnen inrichten en uitwerken,
zodat er daadwerkelijk een stelsel van toezicht ontstaat dat doet wat wij
met elkaar graag willen dat het doet: ervoor zorgen dat er noch in het
private domein, noch in het publieke domein algoritmes kunnen worden
ingezet waardoor de regels, wetten en grondrechten van Nederlanders
met voeten worden getreden.
De voorzitter:
Ik zie dat u een vervolgvraag wilt stellen, mevrouw Leijten.
Mevrouw Leijten (SP):
De Staatssecretaris zegt dat ze heel precies is. Ze zegt: er kunnen geen
algoritmes ingezet worden die de algemene belangen die we hebben
geformuleerd, schenden. Maar waar staan die belangen dan precies
geformuleerd? Wat is het waardekader? Want er wordt iedere keer naar
verwezen dat dat nog wordt gemaakt bij de werkagenda. Hoe wordt dat
dan uit de lucht gehaald? Want dat gebeurt op dit moment. De AP kan op
dit moment geen algoritmes uit de lucht halen. Dus als de Staatssecretaris
dan precies is, dan wil ik ook dat ze écht precies uitlegt hoe het zit.
Staatssecretaris Van Huffelen:
Het is goed om dat nog een keer te zeggen. Ik heb aangegeven op welke
wettelijke basis de AP het werk nu kan doen. Dat betekent dat de AP op dit
moment geen expertisecentrum is, maar een organisatie die daadwerkelijk kan handhaven als het gaat over algoritmes. Er zijn ook nog zaken in

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

34

ontwikkeling. Ik ben het met mevrouw Leijten eens dat het heel fijn zou
zijn als we alles al geregeld hadden op dit gebied, maar dat is niet zo. We
hebben wel met elkaar afgesproken dat we heel hard aan het werk gaan
om de regulering van algoritmes verder vorm te geven. En dat gaan we
ook verder doen. Maar dat betekent niet dat er nu niks kan. Dat betekent
wel dat we nog veel meer willen. En dat gaan we ook inrichten.
Voorzitter. Ik heb nog een stapeltje antwoorden voor me liggen. Alle
vragen over de toezichthouder heb ik al beantwoord. Er liggen nog
antwoorden op vragen over de escalatie, maar volgens mij heb ik alle
vragen over de toezichthouder inmiddels beantwoord.
De voorzitter:
Voordat we doorgaan met het volgende blokje, is er een aantal interrupties. Mevrouw Leijten laat zich excuseren, want zij moet naar een
volgend debat. Mensen moeten dus niet denken dat ze is opgestaan,
omdat ze boos is.
Staatssecretaris Van Huffelen:
Nee, zo ken ik haar ook niet.
De voorzitter:
Nee, zeker niet, maar gezien de context wilde ik het in dit geval wel even
expliciet benoemen.
U heeft interrupties van mevrouw Dekker-Abdulaziz namens D66 en
daarna van de heer Slootweg namens het CDA.
Mevrouw Dekker-Abdulaziz (D66):
Ik vraag mij af of al mijn vragen beantwoord zijn. Ik hoorde de Staatssecretaris het hebben over een implementatiekader. Zij sprak ook over een
normenkader. Ik kan me herinneren dat we het in het wetgevingsoverleg
hebben gehad over de planning van de Staatssecretaris. Er zou medio dit
jaar wetgeving komen naar aanleiding van de vraag waar de toezichthouder nu precies toezicht op gaat houden. We zouden niet per se
wachten op de AI-verordening. Ik hoor daar graag nog een antwoord op.
Staatssecretaris Van Huffelen:
Het spijt mij dat we soms heel veel woorden door elkaar gebruiken. Dat
maakt het misschien niet altijd even helder, ook niet voor de mensen die
dit debat volgen. Er is inderdaad sprake van regelgeving vanuit de EU. Die
moeten we als Nederland uiteraard implementeren. Wij vinden dat heel
belangrijke regelgeving. We hebben er hard aan gewerkt om ervoor te
zorgen dat die goed is en dat die ook doet wat wij ermee beogen, namelijk
ervoor zorgen dat algoritmes alleen maar kunnen worden gebruikt als ze
voldoen aan basisgrondrechten en mensenrechten.
Om niet alleen maar te hoeven wachten, hebben we al een aantal stappen
gezet. Een van die stappen is het register, het ervoor zorgen dat we dat
ook verder gaan vullen. Ik noem het alvast opzetten van de autoriteit, die
alvast aan het werk kan. En ik noem voorts het ervoor zorgen dat we,
vooruitlopend op die Europese verordening, voor overheidsalgoritmes al
aan het werk gaan met het bepalen aan welke vereisten die moeten
voldoen. Er moet bijvoorbeeld zo’n privacy-by-designtoets worden
uitgevoerd, er moet een mensenrechtentoets plaatsvinden enzovoorts,
enzovoorts. Er moet überhaupt worden bepaald of een algoritme wel
wenselijk is in die situatie. Dat noemen we het implementatiekader.
Daarvan heb ik gezegd dat dat dit jaar nog komt. Dat is één.
Het tweede is dat mevrouw Leijten vroeg naar een waardekader. Zij vroeg
dus niet naar een normenkader. Bij dat waardekader gaat het om de vraag
hoe je in het algemeen – dus niet alleen als het gaat om algoritmes – de
afweging maakt ten aanzien van de wenselijkheid van bepaalde soorten
van technologie en het gebruik daarvan. Dat is een onderdeel van de

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

35

agenda die ik heb gemaakt. Die heeft betrekking op de komende periode,
op de komende jaren. Onderdeel daarvan is dat ik die ook ga opstellen.
Daar heb ik wel iets meer tijd voor nodig, maar ik hoop u wel in de
komende tijd te kunnen informeren over hoe we dat doen, ook omdat
verschillende organisaties binnen de overheid in Nederland, bijvoorbeeld
gemeenten, al zo’n waardekader hebben opgesteld. Maar wij willen dat
dus ook opstellen voor de rijksoverheid. Dus dat is wat ik ga doen.
De heer Slootweg (CDA):
Ik denk dat de Staatssecretaris het wettelijk kader voor de Autoriteit
Persoonsgegevens voor het toezicht op de persoonsgegevens duidelijk
heeft uitgelegd. Er zijn veel algoritmes die in ontwikkeling zijn. Is het nou
zo dat de Autoriteit Persoonsgegevens een rol heeft bij het toestaan dat
dat soort algoritmes elders worden gebruikt? Of is dat niet het geval? Dat
willen we graag weten. Op het moment dat nu een algoritme wordt
ontwikkeld en wordt toegepast, en dan niet direct op het terrein van de AP
maar in samenwerking met andere toezichthouders, moeten ze dan eerst
langs de AP?
Staatssecretaris Van Huffelen:
Nee, dat moet niet. Die rol gaat de toezichthouder waarschijnlijk ook niet
krijgen, want dan zou de toezichthouder eerst een soort keurmerk moeten
uitdelen. Op dit moment staat dat niet in de bevoegdheden van de AP, ook
niet als het gaat over andere issues op het gebied van privacy waarin de
AP een rol, taak en functie heeft. Maar nogmaals, in de Europese
verordening is er wel degelijk sprake van een keurmerk voordat je een
algoritme mag inzetten dat onder de hoogrisicocategorie valt. Laten we er
helder over zijn: in de meeste gevallen gaat het dan over algoritmes
waarin persoonsgegevens worden gebruikt. Daarom is de rol van de AP
nu ook al best substantieel. Dan moet dat algoritme dus wel voldoen aan
een keurmerk voordat je het mag inzetten. De toezichthouders die dat
gaan doen, moeten nog worden aangewezen.
De heer Slootweg (CDA):
Dat begrijp ik, en ik deel met de Staatssecretaris dat de grootste risico’s
op het gebied van persoonsgegevens zitten. Ik heb een vervolgvraag over
de rol die de AP speelt. Vindt de Staatssecretaris het verstandig om op
termijn te werken aan een wettelijke grondslag voor het ontwikkelen van
algoritmes met persoonsgegevens of voor dingen die buiten persoonsgegevens vallen maar waar die toch in verwerkt worden? Is dat op termijn
ook de doelstelling van de Staatssecretaris?
Staatssecretaris Van Huffelen:
Ja, en niet eens op termijn, want dat is precies wat we met die
AI-verordening aan het regelen zijn. Die wetgeving heeft directe
doorwerking in Nederland en stelt dat er transparantie moet zijn over
algoritmes, dat helder moet zijn hoe ze worden gebruikt en welke effecten
ze hebben enzovoorts, zowel in het publieke als private domein, dus
bijvoorbeeld ook voor socialmediaplatforms.
De voorzitter:
Mevrouw Dekker-Abdulaziz, uw derde interruptie.
Mevrouw Dekker-Abdulaziz (D66):
Ja, ik heb ook geteld, voorzitter: mijn derde. Ik hoorde nu voor de
zoveelste keer de Staatssecretaris spreken over socialmediaplatforms.
Maar uit de AI-verordening en gesprekken met experts heb ik begrepen
dat de aanbevelingsalgoritmes van socialmediaplatforms niet onder de
hoogrisicoalgoritmes vallen, en dat er dus helemaal geen toezicht op
hoeft te zijn. Ik ben heel blij dat de Staatssecretaris wel vindt dat dit zo

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

36

moet zijn. Ik hoor daarom graag of ze zich in Europa verder gaat inzetten
op dit gebied, want ik maakte me daar best wel zorgen over.
Staatssecretaris Van Huffelen:
Misschien even om het helder te hebben: die zitten in de DSA, dus in een
andere Europese verordening. Maar daar is toezicht op, ja.
De voorzitter:
Dank u wel. Ik kijk even rond. Iemand in dit blokje? Nee? Dan gaan we
door naar het derde blok: mensenrechten. Daarna volgt nog het blokje
met overige onderwerpen.
Staatssecretaris Van Huffelen:
Het gaat dan vooral over de vraag, door de VVD gesteld, hoe we gaan
zorgen dat algoritmes ethisch verantwoord en in overeenstemming met
juridische principes worden ingezet. Ik heb daar net al iets over gezegd.
Volgens mij heb ik deze vraag dus net al beantwoord; misschien zit die
dubbel in mijn stuk. Het is dan maar extra helder dat het algoritmebeleid
er inderdaad voor zorgt dat non-discriminatie, transparantie en een gelijke
behandeling aan de voorkant worden ingericht, op de verschillende
manieren die ik net al heb genoemd, met een implementatiekader voor
AI-regelgeving enzovoorts.
Dan de vraag van mevrouw Bouchallikh. Zij zei: waarom is er nog geen
mensenrechtentoets uitgevoerd volgens het algoritmeregister? We
hebben, overigens ook op mijn verzoek, het vakje in dat register daadwerkelijk ingevuld omdat ik het belangrijk vind om dat te doen. Inmiddels zijn
al een heleboel van die assessments gedaan. Voorbeelden daarvan zijn de
Belastingdienst, het CJIB, gemeenten en provincies. Ook de gemeente
Rotterdam heeft het al ingepast. Maar het is nog niet voor 100% ingevuld
in het register. Dat gaan we in de komende tijd actualiseren, want gelukkig
wordt het IAMA wel degelijk al toegepast.
De heer Slootweg vroeg of het nodig is om de rechtsbescherming van
burgers te versterken als er fouten ontstaan op basis van het gebruik van
algoritmes door overheidsinstanties. Wat mij betreft is de rechtsbescherming op dit gebied voldoende ingericht, zowel als het gaat om
niet-algoritmegebruik als om algoritmegebruik. Maar zoals ik al eerder
aangaf, gaat de Wet versterking waarborgfunctie van de Algemene wet
bestuursrecht ervoor zorgen dat helder wordt wanneer een besluit wordt
of is genomen met behulp van een algoritme. Zo is ook duidelijk voor
mensen hoe dat een effect gehad zou kunnen hebben op het genomen
besluit. Daarmee kan de motiveringsplicht aan burgers worden verbeterd
en is ook helderder waartegen je in bezwaar of beroep kunt als dat aan de
orde is.
De voorzitter:
Voordat u naar het laatste blok gaat, heeft u een interruptie van de heer
Rahimi van de VVD. Dat is zijn derde.
De voorzitter:
Voordat u naar het laatste blok gaat, heeft u nog een interruptie van de
heer Rahimi, VVD. Dat is zijn derde interruptie.
De heer Rahimi (VVD):
Mijn vraag aan de Staatssecretaris gaat over het toetsen van de algoritmes. Er wordt hier best vaak over IT gesproken. Het punt is dat dat
inzicht heel belangrijk is, maar ook de vraag hoe. Een derde gaat namelijk
over cultuur, organisatie, structuur en ook een stukje qua IT. Wat heel
belangrijk is als dat inzichtelijk wordt, is dat allerlei maatschappelijke
actoren iets kunnen vinden. Ik verwacht niet dat burgers gaan inloggen op
het algoritmeregister om te kijken of ze er wel of niet in vallen, maar heel

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

37

veel maatschappelijke actoren wel. Die kunnen dat doen. Als ze dat doen,
bereiken we iets. Dan maken we eigenlijk gewoon inzichtelijk wat wij
doen. Dat is eigenlijk wat ik bedoelde. Dat is een antwoord dat u eerder
gaf. Het duidelijk neerzetten wat ze doen en wat ermee gebeurt, is heel
belangrijk. Het antwoord van de Staatssecretaris was vrij kort. Neemt ze
deze onderdelen mee in de inzichtelijkheid?
Staatssecretaris Van Huffelen:
Het antwoord is ja. Dat doen we natuurlijk met de aanvulling op de
Algemene wet bestuursrecht en met dat register, maar dat register is niet
iets wat je als niet-opgeleid persoon alleen maar goed kunt gebruiken. Het
is vooral bedoeld voor onderzoekers en voor belangenorganisaties. Los
daarvan wil ik dat ook voor normale burgers helder is hoe de besluitvorming van de overheid werkt. Dat gaan we dus doen met die aanvulling
op de Algemene wet bestuursrecht.
Dan was er nog een vraag van de SP over de uitspraak van de Hoge Raad
over etnisch profileren. Die uitspraak kwam ook gisteren aan bod in het
debat met de Staatssecretaris van JenV. Hij heeft aangegeven dat die
uitspraak wordt bestudeerd, dat op basis daarvan een beslissing wordt
genomen en dat uw Kamer daarover wordt geïnformeerd. Ik kan daar nu
verder niet op vooruitlopen.
Dan was er ook nog de vraag van D66 over het feit dat de Verenigde
Staten TikTok verbieden voor ambtenaren en of dat ook van toepassing is
op onze ambtenaren. Niet zomaar natuurlijk, want de VS bepalen niet wat
onze ambtenaren doen, maar ik begrijp wel de zorg die er is. U heeft daar
ook al eerder vragen over gesteld. Niet voor niks zijn we dat ook aan het
bestuderen. De Nederlandse overheid heeft in ieder geval gezegd dat wij
TikTok niet willen gebruiken voor het delen van overheidsinformatie.
Daarvoor gebruiken we wel vaak andere socialmediaplatforms om
mensen te informeren over nieuwe regelingen, subsidies of andere
soorten informatie. Dat doen we met TikTok op dit moment niet, omdat
ons te weinig duidelijk is hoe het platform precies werkt en hoe het
omgaat met de data die verzameld worden. Om die reden vind ik het ook
belangrijk om te onderzoeken of we dit daadwerkelijk willen gaan
invoeren voor alle overheidsmedewerkers. Ik snap uw punt. Ik begrijp ook
dat het niet alleen uw vraag is. Ik heb via de media begrepen dat dat
gesteund wordt door een viertal partijen in totaal, dus in ieder geval alle
partijen van de coalitie. Ik denk dat het inderdaad heel goed is dat we daar
zo snel mogelijk een antwoord op krijgen, maar ik wil dat wel goed
bestuderen voordat ik daar definitief ja of nee op zeg. Nogmaals, ik
begrijp uw zorg. Ik heb dezelfde zorgen over dit medium.
De voorzitter:
Aangezien de heer Slootweg net zo galant was om te zeggen dat de
vragen over een bepaald onderwerp van de heer Van Baarle waren:
volgens mij had ook de heer Slootweg vragen over TikTok. Hij heeft ook
nog een interruptie.
De heer Slootweg (CDA):
Daarbij gaf ik overigens aan dat mevrouw Hind, mevrouw DekkerAbdulaziz, deze vraag ook eerder heeft gesteld. TikTok is natuurlijk één
medium. Daarvan hebben we wat meer inzicht dat we geen inzicht
hebben. Doet u dat onderzoek ook naar andere van dit soort applicaties,
die misschien toch echt een probleem kunnen wezen door smartphonegebruik van ambtenaren? Dus is dit onderzoek beperkt tot TikTok of kijkt u in
wat bredere zin of er ook andere applicaties zijn die dit gevaar met zich
mee kunnen brengen?
De voorzitter:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

38

Dit is een brede vraag. We hebben daar net een ander debat over gehad
en we zijn al bijna aan het einde van dit debat. Volgens mij kunnen we
hier een hele beschouwing over houden. Daarom zou ik de Staatssecretaris willen vragen het zo kort mogelijk te houden, zodat we nog door
kunnen naar de tweede termijn. Ik snap de vraag heel goed en het is
natuurlijk wel aanpalend, maar nogmaals, we hebben hier onlangs het
bredere debat over gehad.
Staatssecretaris Van Huffelen:
Even heel kort dan. Een voorbeeld van dat we dat onderzoek hebben
gedaan, is dat we een zogenaamde DPIA hebben uitgevoerd op Facebook
Pages. Dat zijn de bedrijfspagina’s op Facebook die door de overheid
worden ingezet. We hebben de conclusie getrokken dat die volgens ons
niet voldoet aan de AVG, aan de privacyvereisten. Daar heb ik u ook
verder over geïnformeerd. Daarover zijn wij in onderhandeling met
Facebook, met name omdat ik het van belang vind dat uiteraard alle
platformen voldoen aan de vereisten voordat we er gebruik van maken.
Als ze dat niet doen, is mijn algemene lijn, die ik ook graag wil volhouden,
dat ik eerst met hen in overleg ga om te zorgen dat ze wel gaan voldoen
aan de vereisten. Als ze dat uiteindelijk niet doen, nemen we als overheid
afscheid van hun diensten.
De voorzitter:
Dank u wel. Dan zijn we daarmee aan het einde gekomen van de
beantwoording in eerste termijn. Ik kijk even rond of er behoefte is aan
een tweede termijn. Ik zie al een aantal leden knikken. Dan geef ik als
eerste het woord aan de heer Van Baarle namens DENK.
De heer Van Baarle (DENK):
Voorzitter. Laat ik allereerst beginnen met de Staatssecretaris hartelijk te
danken voor de beantwoording. Ook bedankt dat de Staatssecretaris aan
de slag wil gaan met het opstellen van de protocollen voor als er
discriminatie geconstateerd wordt. Mijn vraag is op welke termijn we die
kunnen verwachten. Het is ook fijn om te horen dat er aan de slag wordt
gegaan met onze motie om in de Algemene wet bestuursrecht de
uitlegbaarheid van algoritmische besluiten mee te nemen.
Voorzitter, dat gezegd hebbende. De Staatssecretaris heeft de fractie van
DENK in het verleden toegezegd onderzoek te doen naar een discriminerend risicoprofiel in de Basisregistratie Personen. Eerder heeft de
Staatssecretaris aangegeven dat de resultaten van dat onderzoek in
oktober van het vorige jaar zouden komen. Daarna heeft ze gezegd dat die
aan het einde van het vorige jaar zouden komen. Ik heb ze nog niet. Mijn
vraag is waarom. Ik maak me daar zorgen over.
Voorzitter. Mijn laatste vraag gaat over het implementatiekader van de
AI Act. Wanneer kunnen we dat verwachten? Is er ook de mogelijkheid om
als Kamer nog in de zwaarte van hoe wij de AI Act kunnen interpreteren
mee te kijken en mee te sturen hoe we dat gaan inrichten?
Daar zou ik het graag bij willen laten, voorzitter.
De voorzitter:
Dank u wel. Dan is de volgende spreker de heer Slootweg, CDA.
De heer Slootweg (CDA):
Dank u wel, voorzitter. Allereerst bedankt voor uw geduld en dat van de
collega’s. Ik heb misschien een aantal dingen dubbel gedaan. Dank ook
aan de Staatssecretaris voor haar antwoorden. Eigenlijk vond ik er één
heel aardig. We kijken nu bij de algoritmes vooral naar het zwarte punt, de
dingen die niet goed gaan. In de brief gaf ze echter ook aan dat er punten
zijn waardoor algoritmes de dienstverlening zouden kunnen verbeteren. Ik
vond het best moeilijk om daar vanuit de rijksoverheid voorbeelden van te

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

39

vinden, maar wellicht heeft ze die wel. Ik weet wel dat die bij gemeentelijke regelingen soms worden toegepast als het gaat over niet-gebruik. Is
daar ook niet een rol in om te kijken hoe die betere dienstverlening meer
gedeeld kan worden? Ziet de Staatssecretaris daar ook een rol in dat
algoritmes ook ten goede van mensen kunnen komen?
De voorzitter:
Dank u wel, meneer Slootweg. Dan is het woord aan mevrouw
Bouchallikh, GroenLinks.
Mevrouw Bouchallikh (GroenLinks):
Dank, voorzitter. Dank ook aan de Staatssecretaris en haar team voor de
beantwoording van de vragen. Het feit dat een deel van de vragen van
onze commissie veel met elkaar overlappen, laat volgens mij zien dat we
met z’n allen een beetje dezelfde kant op aan het duwen zijn. Het is fijn dat
de Staatssecretaris volgens mij ook aan het meebewegen is.
Ik sluit me wel graag aan bij het sentiment dat we niet moeten wachten
tot er vanuit de EU regels komen, maar dat we het zo veel mogelijk hier
moeten inbedden. Dat was onder andere de oproep van Volt. Ik hoop dat
we in die zin stappen blijven zetten. Ik heb ook vanuit hier de oproep aan
onze eigen overheden: maak alsjeblieft haast. Het is namelijk een beetje
gênant dat op het moment dat we eindelijk iets hebben geregeld, we
moeten wachten op juridische verankering, terwijl we gewoon een
gemeenschappelijke plicht hebben naar de burgers. Ik hoop dat de
Staatssecretaris die boodschap ook wil overdragen.
De voorzitter:
Dank u wel. Dan is het woord aan mevrouw Dekker-Abdulaziz, D66.
Mevrouw Dekker-Abdulaziz (D66):
Dank, voorzitter. Dank inderdaad aan de Staatssecretaris voor het
toezeggen dat ze gaat kijken naar het TikTok-gebruik bij ambtenaren. Ik
zou graag van haar willen horen wanneer ze denkt hiermee klaar te zijn.
Voor een beetje haast zouden we dit wellicht nog in een tweeminutendebat kunnen doen.
Dan mijn andere vraag. Ik had een gemiste vraag over welke acties verder
in gang worden gezet om orde te brengen in de dataverzameldrift van de
overheid. Daar heb ik geen antwoord op gekregen.
Ten slotte ben ik heel blij om te horen dat de Algemene wet bestuursrecht
versterkt wordt om algoritmes transparanter te maken. Daarbij is mijn
vraag: wanneer denkt de Staatssecretaris deze naar de Kamer te sturen?
De voorzitter:
Dank u wel. Dan is het woord aan de heer Rahimi, VVD.
De heer Rahimi (VVD):
Dank u wel, voorzitter. Wij danken de Staatssecretaris uiteraard ook voor
de antwoorden. Het is goed om te horen dat zij een aantal zaken gaat
oppakken, waaronder het aanjagen van zbo’s, waterschappen en
gemeentes om het in te vullen.
Ik ben ook blij dat ze gaat kijken naar een certificering of een keurmerk. Ik
wil even meegeven dat die certificeringen er in het buitenland al zijn. Het
is misschien handig om daarnaar te kijken.
Ik gaf net al aan dat het heel belangrijk is dat mensen kunnen meekijken
en kunnen acteren, zeker bij de instrumenten die wij als overheid hebben,
dus ons instrumentarium. Het gaat vaak over technische dingen en ik
denk dat het van belang is dat de mening van filosofen, IT’ers, technici en
economen is meegenomen. Dit raakt namelijk echt alles. Ik wil vooropstellen dat we op de goede weg zijn. Dat wil ik echt meegeven en
daarvoor wil ik de Staatssecretaris complimenteren. Het is belangrijk dat

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

40

we als overheid op een serieuze en consistente manier verslag uitbrengen
over wat we doen, dus de data die erin gaan en die eruit komen en de
conclusies. Laten we daar goed mee omgaan.
Ik heb nog één laatste vraag; sorry, voorzitter. In het debat werd over de
normen en de kaders aangegeven dat de AP gaat praten met andere
toezichthouders. Naar mijn mening is het zo dat wij de kaders stellen en
dat elke toezichthouder daar gehoor aan geeft, in plaats van dat de AP dat
doet.
De voorzitter:
Dank u wel. Mevrouw Kathmann, PvdA.
Mevrouw Kathmann (PvdA):
Ik wil de Staatssecretaris van harte danken voor de beantwoording. Ik ben
wel blij dat het tweeminutendebat is aangevraagd, want dan kunnen we
de goede stappen die zijn gezet nog een beetje verder in de goede richting
brengen met moties.
Terwijl wij het hier over ethiek en data hebben, krijg ik ineens het
volgende bericht binnen: «Alle iPhonegebruikers opgelet: er is een
wereldwijde datahack gaande op Apple-devices.» Ik zie ze hier allemaal
staan. «Advies: installeer z.s.m. de laatste software-update.»
Ik wil nog wel even doorpakken op de vragen van de VVD over transparantie en bruikbaarheid voor de burger, want dat is gewoon ongelofelijk
belangrijk. Transparantie begint met: begrijpt iedereen het? Daarom stel ik
de concrete vraag of het algoritmeregister voldoet aan de digitaletoegankelijkheidsvereisten die voor overheidswebsites gelden. Kan de Staatssecretaris ervoor zorgdragen dat informatie in het register die door andere
overheden wordt verschaft, gecontroleerd wordt op begrijpelijkheid en
laagdrempeligheid? En is de Staatssecretaris bereid om burgers actief te
betrekken bij de nadere uitwerking van het algoritmeregister, bijvoorbeeld
door een praktijktoets op effectiviteit?
De voorzitter:
Dank u wel. En misschien toch nog even in alle scherpte: ik had zelf
gehoord dat een aantal mensen nog in afwachting waren van toezeggingen, en dat er niet per definitie een tweeminutendebat zou worden
aangevraagd als er voldoende toezeggingen waren. Als u wel een
tweeminutendebat wenst, is het misschien goed om even concreet te
maken waarover dan.
Mevrouw Kathmann (PvdA):
Ik zou graag nog wat aansporende moties willen indienen op het stukje
over het toezicht. Maar ik hoef niet per se het recht om de eerste spreker
te zijn als anderen dat tweeminutendebat al eerder wilden aanvragen.
Mochten anderen het niet willen aanvragen, dan zal ik het doen, maar ik
wil anderen niet het gras voor de voeten wegmaaien.
De voorzitter:
Het is inderdaad goed om dat even scherp te hebben. Ik kijk eerst hoe lang
de Staatssecretaris nodig heeft voor het voorbereiden van de beantwoording. Vijf minuten, hoor ik. Dan schorsen we voor vijf minuten.
De vergadering wordt van 16.56 uur tot 17.02 uur geschorst.
De voorzitter:
Aan de orde is de tweede termijn van de Staatssecretaris. Er is een aantal
vragen gesteld. Wij kijken vol verwachting naar de Staatssecretaris.
Staatssecretaris Van Huffelen:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

41

Dank u wel. Ik heb altijd de hoop dat ik aan de verwachtingen kan
voldoen. Ik ga proberen het heel snel te doen.
Er was een vraag gesteld door de fractie van DENK over de motie rondom
de Awb-besluiten. De vraag was of we die zouden meenemen. Wij gaan
inderdaad onderzoeken hoe we dat kunnen doen.
Dan de vraag wanneer het onderzoek naar de BRP-algoritmes komt. Dat
komt in april. Het implementatiekader is niet een implementatiekader van
de AI Act, want die is nog niet vastgesteld. Dat zal waarschijnlijk pas aan
het eind van het jaar zijn. Ons eigen implementatiekader willen we in juni
aan uw Kamer toesturen.
De heer Slootweg vroeg nog terecht naar voorbeelden over hoe we ...
De voorzitter:
Voordat u verdergaat, heeft u een korte vraag van de heer Van Baarle van
DENK.
De heer Van Baarle (DENK):
Om het wel even serieus te nemen: ik heb twee keer schriftelijke vragen
gesteld over het onderzoek naar het discriminerende risicoprofiel in de
BRP. In het antwoord op de schriftelijke vragen stond: u krijgt het in
oktober. Daarna werd gezegd: u krijgt het eind dit jaar. Ik vind het voor de
zuiverheid wel belangrijk dat ik u even ter verantwoording roep met de
vraag waarom ik, als er staat dat ik het in oktober krijg, nu moet horen: het
komt in april. Ik vind het heel serieus. Ik vind het spijtig dat ik het niet wist
en dat ik erop moest wachten.
Staatssecretaris Van Huffelen:
Dat is een fair point. Wij laten dit onderzoeken door een externe onderzoeker, die meer tijd nodig blijkt te hebben om het goed te doen. Dat had
ik u ook even kunnen laten weten, dus dat doe ik de volgende keer
proactief. Maar wij nemen het ook ontzettend serieus, want ik wil net zo
goed als u weten wat er nou precies aan de hand is geweest. Mocht het
niet in april komen, wat ik niet hoop, dan zal ik ervoor zorgen dat u dat
vooraf te horen krijgt.
De vraag van de heer Slootweg ging over voorbeelden van hoe je
algoritmes positief kunt laten werken. Denk bijvoorbeeld aan algoritmes
die gaan over het niet gebruiken van voorzieningen. Een mooie
toepassing is er bijvoorbeeld in het kader van schulden. Dat doen wij
vanuit de rijksoverheid via de ELSA Labs. We weten ook dat de gemeente
Amsterdam dat doet. Ik ben samen met de Minister voor Armoede aan het
werk om daarnaar te kijken, omdat het een belangrijk onderwerp is.
Dan was er een oproep van mevrouw Bouchallikh om haast te maken. Dat
doe ik graag. Die oproep neem ik mee.
Dan was er een vraag van mevrouw Dekker over wanneer we klaar zijn
met het TikTok-onderwerp. Wij proberen dat natuurlijk te doen binnen de
beantwoordingstermijn van de Kamervragen. Ik hoop niet dat we daar
langer voor nodig hebben, maar ergens in de komende weken zullen we u
daar antwoord op geven.
U had ook nog de terechte openstaande vraag over de verzameldrift. Wij
hebben als overheid beschikking over allerlei soorten data. Sterker nog,
die hebben wij heel erg hard nodig. «Verzameldrift» lijkt een beetje alsof
wij data aan het verzamelen zijn voor ons plezier, alsof we dat zomaar
doen of doen zonder dat daar nut en noodzaak voor is. Dat beeld zou ik
graag willen bestrijden. Dat laat onverlet dat wij er heel goed voor moeten
zorgen dat, als wij data tot onze beschikking hebben, wij daar heel
zorgvuldig mee omgaan. Daarom hebben we toegezegd dat er data
officers zijn. Die zijn we aan het aannemen. We hebben de Interbestuurlijke Datastrategie, samen met lagere overheden. En we willen er juist
voor zorgen dat we niet data verzamelen om het verzamelen, maar dat we
heel zorgvuldig omgaan met de data waarover we beschikking hebben.

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

42

Bovendien, en dat is ook op basis van Europese regelgeving, willen we
data zo veel mogelijk ter beschikking stellen, zodat mensen ermee aan het
werk kunnen.
De voorzitter:
Een korte vraag van mevrouw Dekker-Abdulaziz.
Mevrouw Dekker-Abdulaziz (D66):
Ja, heel kort. Het is niet zo dat ik voor de lol de overheid aan het shamen
ben. Het is de Algemene Rekenkamer die constateert dat bijvoorbeeld de
politie meer gegevens verzamelt dan nodig is. Er is dus wel degelijk
ergens een verzameldrift bij de overheid. De vraag is of de Staatssecretaris of medebewindslieden zich hard willen maken voor het verzamelen
van niet te veel gegevens.
Staatssecretaris Van Huffelen:
Dat doe ik natuurlijk graag. Daarom hebben we ook de implementatie van
de data officers en de mensen die werken aan dit soort thema’s. Daarom
zorgen we ervoor dat het goed gaat waar data verzameld worden. We
hebben er ook toezichthouders voor. Ik maak mij er dus hard voor. Ik kan
niet zeggen dat het er altijd honderd procent toe leidt dat er niet ergens bij
de overheid iemand is die meer data aan het verzamelen is dan nodig.
Maar we doen wel ons uiterste best om de randvoorwaarden daarvoor en
het toezicht daarop goed in te richten.
De heer Rahimi had het nog over de certificering en de EU. Terecht, want
dat is onderdeel van de AI Act, de algoritmeverordening. Dat gaat over het
certificeren van algoritmes en het ervoor zorgen dat je de hoogrisicoalgoritmes pas mag gebruiken wanneer de certificering aan de orde is.
U vroeg nog of het zo is dat ik, of wij gezamenlijk, de normen doen en de
toezichthouders de uitvoering daarvan. Dat is precies wat het is. Wij zijn
een beetje aan het vooruitkijken. We zien dat er heel veel Europese
verordeningen op ons afkomen, heel veel Europese regulering. Daarbij
spelen de toezichthouders in verschillende vormen en maten een rol.
Daarom hebben de toezichthouders zich op dit onderwerp verzameld. Ik
heb daar – dat vertelde ik al – met hen overleg over. Het gaat over toezicht
op de uitvoering van digitale wet- en regelgeving. Dan vind ik het
belangrijk dat we niet alleen kijken hoe we dat toezicht gaan invullen,
maar ook hoe we ervoor gaan zorgen dat we het makkelijker maken voor
organisaties, overheden of bedrijfsleven om compliant te zijn. De les die
we hebben geleerd vanuit de AVG is dat het helemaal niet zo makkelijk
bleek om te bedenken: hoe kan ik compliant zijn, hoe kan ik voldoen aan
de vereisten en hoe kan ik het goed inrichten? Daar ga ik samen met de
toezichthouders aan werken.
Dan nog even over de toegankelijkheid – dat is een vraag van mevrouw
Kathmann – van het register. Binnenkort gaat ons register voldoen aan de
zogenaamde A-status. Dat is de norm die we onszelf hebben opgelegd.
Dat is nu nog niet honderd procent zo, maar dat doen we wel. Dan zorgen
we ervoor dat we binnen een maand, zo is de bedoeling, aan die vereisten
voldoen. Daar hebben we dus nog twee weken voor. We betrekken
burgers er ook bij. We maken nu een ronde langs bibliotheken om aan
burgers te vragen of zij input kunnen leveren voor het verbeteren van het
register, voor zover zij vinden dat het onvoldoende toegankelijk is. Dat
doen we dus allebei.
Dat was het, voorzitter.
De voorzitter:
Dank u wel. Ik kijk heel even rond om te zien of dit inderdaad alle vragen
waren. Dan ga ik, voor ik de gewetensvraag stel aan de collega’s of er nog
een tweeminutendebat nodig is, even kijken naar de toezeggingenlijst. Dat
is een hele lijst, dus we hebben in ieder geval ons best gedaan. De

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

43

toezeggingen zijn als volgt. Ik verzoek u om even goed mee te luisteren of
dit goed is. De eerste toezegging is:
− De Staatssecretaris zal bij de vormgeving van het nieuwe onderzoek
naar de motie op stuk nr. 21, ook wel bekend als de motie-Marijnissen/
Klaver, geen onomkeerbare stappen maken en eerst wachten op het
voorstel van de rapporteurs op dit onderwerp ten aanzien van welke
organisatie een onderzoek zou moeten uitvoeren. Dat is naar aanleiding van een interruptiedebat met mevrouw Leijten.
Ik kijk even rond. Klopt dat? Ja.
Dan de tweede toezegging:
− De Staatssecretaris zal de Kamer informeren over het mogelijk
verplichtende karakter van het algoritmeregister, vooruitlopend op de
AI Act.
Ik kijk heel even naar de Staatssecretaris. Kan daar nog een datummoment aan toegevoegd worden?
Staatssecretaris Van Huffelen:
Ergens voor de zomer. We hebben nog even tijd nodig.
De voorzitter:
Voor de zomer? Dan voegen we dat toe.
Dan de derde toezegging:
− De Kamer ontvangt spoedig het wetsvoorstel Versterking waarborgfunctie Awb.
Staatssecretaris Van Huffelen:
Dat is niet mijn wetsvoorstel, dus daar kan ik niks over zeggen.
De voorzitter:
Dan schrappen we deze toezegging. Daar zijn afspraken over gemaakt in
een ander debat, dus dat doen we dan niet hier. Anders wordt het
verwarrend. Dan zouden we deze Staatssecretaris houden aan iets wat zij
niet kan waarmaken.
Dan de nieuwe nummer drie:
− De Staatssecretaris zal de Kamer informeren over de uitkomst van het
gesprek met de heer Krijger. Dat is een toezegging aan mevrouw
Kathmann.
Dan de volgende:
− De Staatssecretaris zal de Kamer informeren over de uitkomst van de
gesprekken met de toezichthouders met betrekking tot de samenwerking van toezichthouders op het toezicht houden op algoritmes in de
doorzettingsmacht van de AP.
Staatssecretaris Van Huffelen:
In brede zin over digitalisering, dus het wordt wel iets breder dan dat.
De voorzitter:
In brede zin op het gebied van digitalisering. Dat was een toezegging aan
mevrouw Leijten en mevrouw Kathmann.
Dan de volgende toezegging:
− De Staatssecretaris zal voor juni het implementatiekader van het
gebruik van algoritmes naar de Kamer sturen.
Staatssecretaris Van Huffelen:
Die toezegging is al eerder gedaan.
De voorzitter:
Vandaar dat we er nu ook niet een nieuwe naam aan toegevoegd hebben.
Dit is namelijk een hernieuwde toezegging.
Dan:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

44

− De Staatssecretaris zal de Kamer spoedig informeren over het gebruik
van TikTok door ambtenaren bij de overheid. Dat is naar aanleiding van
een verzoek van mevrouw Dekker-Abdulaziz.
Dat gaat via de beantwoording van de Kamervragen, als ik net goed
geluisterd heb.
Staatssecretaris Van Huffelen:
Dat lijkt mij het meest logisch, als iemand daar Kamervragen over stelt.
De voorzitter:
Ja.
Dan de volgende toezegging:
− De Staatssecretaris zal de Kamer informeren over de protocollen voor
het handelen bij mogelijke discriminatie bij algoritmes. Dat is een
toezegging aan de heer Van Baarle.
Staatssecretaris Van Huffelen:
Eigenlijk gaat het niet om het informeren. We hebben gezegd dat we zo’n
protocol willen gaan maken. Ik denk dat dat een zuiverdere ...
De voorzitter:
Oké, dus er komt een protocol. Dan is de vraag wel of er een verwachting
is qua termijn.
Staatssecretaris Van Huffelen:
Ergens in het voorjaar.
De voorzitter:
Dit voorjaar. Oké. Dan gaan we die toezegging iets herformuleren en
voegen we de tijdsindicatie toe.
Dan:
− De Staatssecretaris zal de Kamer in april informeren over het onderzoek naar discriminerende risicoprofielen in de BRP. Dat is ook naar
aanleiding van een verzoek van de heer Van Baarle.
Daarbij was de aanvulling volgens mij: mocht het later worden, dan
worden we daar in ieder geval over geïnformeerd.
Staatssecretaris Van Huffelen:
Dan krijgt u keurig een brief van mij.
De voorzitter:
Misschien moeten we dat, gelet op het verleden, toch nog even specifiek
markeren.
Dan kijk ik even rond: is er, gelet op al deze toezeggingen, nog behoefte
aan een tweeminutendebat? Ik zie een aantal leden knikken. Mevrouw
Dekker-Abdulaziz zit als eerste in de rij. Het is gebruikelijk om dat lid dan
als eerste aanvrager te noteren.
Staatssecretaris Van Huffelen:
Waarover?
De voorzitter:
De vraag is inderdaad: waarover?
Mevrouw Dekker-Abdulaziz (D66):
Op zich is TikTok redelijk gecoverd, maar just in case. Maar eigenlijk gaat
het niet daarover. We hebben nog een stukje datahonger dat we willen
tackelen.
De voorzitter:

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

45

Mevrouw Kathmann heeft misschien een ander onderwerp. Ik denk dat
het goed is om dat te weten, zodat de Staatssecretaris en de ambtenaren
zich daarop kunnen voorbereiden. Misschien is het ook voor de collega’s
goed om dat te weten.
Mevrouw Kathmann (PvdA):
Dat zit vooral op dat stuk van het toezicht. Het is voor mij nog steeds een
beetje vaag hoe we dat gaan inrichten: wat is het mandaat en wat zijn de
escalatieladders? Daar is wel een soort toezegging over gedaan, maar ik
zou daar toch graag nog wat concreets over meegeven via een motie.
De voorzitter:
De reden waarom we hierop doorvragen – misschien is het ook voor de
leden goed om dat te weten – is dat we met elkaar een beetje aan het
kijken zijn hoe we in het debat qua toezeggingen recht doen aan elkaars
overwegingen. Ik denk dat de Staatssecretaris geprobeerd heeft om dat zo
ruimhartig mogelijk te doen. Dan is het ook altijd goed om met elkaar te
wisselen wat er nog ontbreekt en om dat ook aan de voorkant scherp te
hebben. Dat hebben we bij dezen gedaan. We geven dit door aan de
Griffie plenair. Dan wordt het te zijner tijd ingepland, met als eerste
spreker mevrouw Dekker-Abdulaziz.
Dank u wel. We zijn bij dezen aan het einde gekomen, met dank voor
eenieders geduld, want we zijn een kwartiertje uitgelopen. Ik dank de
leden. Ik dank de Staatssecretaris en haar ambtenaren en uiteraard de
mensen die op de publieke tribune zijn blijven zitten en de kijkers thuis.
Sluiting 17.14 uur.

Tweede Kamer, vergaderjaar 2022–2023, 26 643, nr. 982

46