2019D36296

INBRENG VERSLAG VAN EEN SCHRIFTELIJK
OVERLEG
De vaste commissie voor Justitie en Veiligheid heeft een aantal vragen en
opmerkingen voorgelegd aan de initiatiefnemer over menselijke grip op
algoritmen (Kamerstuk 35 212).
De voorzitter van de commissie,
Van Meenen
Adjunct-griffier van de commissie,
Burger

nds-tk-2019D36296

1

I

Vragen en opmerkingen vanuit de fracties
1.
Inleiding
2.
Menselijke grip op Algoritmen
2.1. Aanleiding
2.2. Doel en strekking
3.
Concrete stappen naar menselijke grip op algoritmen
3.1. Voorstellen voor menselijke grip op algoritmen
3.1.1. Samenwerking op algoritmebeleid binnen en buiten Nederland
3.1.2. Betekenisvolle transparantie en bewustwording
3.1.3. Mensen instrumenten geven om online weerbaar te zijn
3.1.4. Inzicht door toezicht
4.
De huidige stand van zaken en uitvoering
4.1. Stand van zaken en wettelijk kader
5.
Financiële consequenties
6.
Beslispunten
7.
Overig

I. Vragen en opmerkingen vanuit de fracties
1. Inleiding
De leden van de VVD-fractie hebben verheugd kennisgenomen van de
initiatiefnota van het lid Middendorp: Menselijke grip op algoritmen
(hierna: de initiatiefnota). Zij onderschrijven het belang om een helder
kader te creëren waarbinnen de kansen die algoritmen bieden op een
veilige manier gewaarborgd zijn. Wel hebben voornoemde leden nog
enkele vragen aan de initiatiefnemer.
De leden van de CDA-fractie hebben met belangstelling kennisgenomen
van de initiatiefnota. Zij danken de initiatiefnemer voor het werk dat is
gestopt in de totstandkoming van de nota. Deze snijdt een zeer actueel en
relevant punt aan, namelijk welke rol algoritmen in onze samenleving
spelen en hoe de overheid daarmee om dient te gaan. De aan het woord
zijnde leden moedigen elke mogelijkheid om dit onderwerp te bespreken
aan. Zij hebben echter wel vragen bij de opzet van de initiatiefnota en de
voorgestelde plannen.
De leden van de D66-fractie hebben met interesse kennisgenomen van de
initiatiefnota. Zij waarderen het harde werk van de initiatiefnemer op dit
belangrijke onderwerp. Deze leden hebben nog enkele vragen en
opmerkingen.
De leden van de GroenLinks-fractie zijn de initiatiefnemer en zijn
ondersteuning zeer erkentelijk voor het schrijven van deze initiatiefnota.
Het is een zeer nuttige stap in de ontwikkeling, die in de Tweede Kamer als
zeer gewenst en zelfs noodzakelijk wordt ervaren, om meer grip te krijgen
op digitale ontwikkelingen. Voornoemde leden hebben nog wel een aantal
vragen.
De leden van de SP-fractie danken de initiatiefnemer en zijn medewerkers
voor het schrijven van deze nota. Deze leden zijn het met de initiatiefnemer eens dat het belangrijk is om meer inzicht te krijgen in algoritmen,
zeker wanneer die ingrijpende gevolgen kunnen hebben voor mensen of
zelfs potentieel schade kunnen toebrengen, omdat ze een steeds
belangrijkere rol lijken te gaan spelen in onze samenleving. De initiatiefnota biedt de mogelijkheid om stil te staan bij de invloed die digitale
ontwikkelingen, en algoritmen in het bijzonder, hebben op het leven van
individuen, maar zeker ook op de samenleving als geheel. De leden van
de SP-fractie maken graag van deze gelegenheid gebruik.

2

2. Menselijke grip op Algoritmen
2.1. Aanleiding
De leden van de VVD-fractie lezen dat de initiatiefnemer stelt dat we in
Nederland de grote mogelijkheden die algoritmen bieden moeten
benutten. Voornoemde leden zijn van mening dat we niet ontkomen aan
het gebruik van algoritmen. Kan de initiatiefnemer aangeven welke
risico’s ons land loopt en welke kansen ons land misloopt wanneer we
algoritmen niet zouden reguleren?
De leden van de CDA-fractie zetten vraagtekens bij de gehanteerde
definitie door de initiatiefnemer. In de initiatiefnota lijkt het erop dat
«algoritme» op meerdere manieren wordt gebruikt, wat tot onduidelijkheid leidt bij de bespreking van de inzet en plannen van de initiatiefnemer, zo vrezen de aan het woord zijnde leden. Zij lezen in de inleiding
terug dat een algoritme niet veel meer is dan een set instructies die tot
een bepaald doel leiden. Daarmee zijn algoritmen in zeer simpele vorm in
bijna elk digitaal systeem terug te vinden. Echter menen de leden van de
CDA-fractie dat deze breedte van het begrip tot onduidelijkheid leidt in de
plannen die gepresenteerd worden in de initiatiefnota. Daarom vragen
voornoemde leden of de initiatiefnemer zijn definitie van een algoritme
wil geven en dan in het bijzonder als hij spreekt over meer controle op
algoritmen. Specifiek willen de aan het woord zijnde leden weten welke
algoritmen de initiatiefnemer precies bedoelt.
De leden van de D66-fractie lezen dat de initiatiefnemer een aantal
schadelijke gevolgen van algoritmen schetst, namelijk het overmatig
tonen van anti-vaccinatie boeken, automatische selectiemechanismen die
vrouwen zouden benadelen en de rol van algoritmen bij digitale
inmenging. Deze leden zijn het eens met de initiatiefnemer dat dit
onwenselijke ontwikkelingen zijn waar de samenleving grip op moet
hebben. Op welke manier wil de initiatiefnemer grip krijgen op deze
ontwikkelingen?
De leden van de SP-fractie constateren dat inmiddels niet alleen maar
grote bedrijven als Facebook en Google big data verwerken met
algoritmen, maar dat ook kleinere bedrijven en ook de overheid grote
hoeveelheden (meta)data verzamelen en analyseren. De inlichtingen- en
veiligheidsdiensten, maar ook de belastingdienst gebruiken data en
algoritmen voor hun werk, en ook de politie experimenteert met voorspellende data en de inzet van SyRI (Systeem Risico Indicatie). Alleen al
omdat het gebruik zo wijd verspreid is, maar niet altijd duidelijk zichtbaar
is, zou het goed zijn om hierover helder en duidelijk te communiceren
naar burgers. Te allen tijde. Deelt de initiatiefnemer deze mening? Zo nee,
waarom niet?
Wat betreft big data leven bij de leden van de SP-fractie een aantal vragen
waar de overheid zich over zou moeten buigen om vervolgens te komen
tot regelgeving die een zorgvuldige verzameling van data en het
zorgvuldige gebruik van algoritmen moeten gaan waarborgen: worden
data verzameld, door wie en waar en welke invloed hebben dergelijke
keuzes op de mogelijke vooringenomenheid (bias) in een dataset ten
aanzien van wijken en groepen in de samenleving? Welke standaarden
gelden er voor algoritmen, het analyseren van datasets en de gevonden
statistische correlaties in termen van kwaliteit, zorgvuldigheid en
herhaalbaarheid? En welke garanties zijn er dat de data-gedreven
processen transparant en controleerbaar zijn en dat de data-inzet aan
voldoende toezicht is onderworpen? Heeft de initiatiefnemer het idee dat
deze vragen op dit moment centraal staan in het denken van de overheid?
Zo nee, is het een idee om deze vragen als leidraad te laten gelden bij het

3

opstellen van nieuwe landelijke en/of sectorale regelgeving vanuit de
overheid? Is de initiatiefnemer van mening dat de mogelijkheden voor
procespartijen om de collectieve en algemene belangen die met big data
processen gemoeid zijn nu voldoende kunnen worden verdedigd, zowel
binnen het bestuursrecht als het civielrecht en het strafrecht? Zo ja, op
welke manier?
2.2. Doel en strekking
De leden van de VVD-fractie delen het belang van de initiatiefnemer dat
het belangrijk is dat de bewustwording van mensen over algoritmen
toeneemt. Wel vragen zij hoe de initiatiefnemer denkt dit te kunnen
realiseren.
De leden van de CDA-fractie zien dat initiatiefnemer onderkent dat de
staat vanwege het geweldsmonopolie en de taak om de inwoners te
beschermen van oudsher ruimer toegang heeft tot het persoonlijk leven
van mensen. Daarnaast stelt de initiatiefnemer dat grote technologiebedrijven wellicht nog meer toegang hebben tot persoonsgegevens en met
algoritmen onze levens steeds meer sturen. Maakt de initiatiefnemer hier
nog onderscheid in? Acht de initiatiefnemer het wenselijk dat particuliere
bedrijven op hetzelfde niveau worden gezet als de staat qua mate van
toezicht en bevoegdheden? Of ziet de initiatiefnemer meer ruimte voor de
staat in het licht van de taak om de burger te beschermen?
3. Concrete stappen naar menselijke grip op algoritmen
3.1. Voorstellen voor menselijke grip op algoritmen
De leden van de CDA-fractie zien dat de initiatiefnemer bepleit dat er
menselijke grip wordt gehouden op algoritmen. Zij vragen daarbij aan de
initiatiefnemer of dit ook betekent dat burgers altijd recht moeten houden
op menselijke tussenkomst indien zij dat verlangen. Oftewel, dat een
mens niet tegen de digitale muur op loopt en te horen krijgt dat de
computer een bepaald besluit heeft genomen dat definitief is. Indien de
initiatiefnemer het hiermee eens is, vragen de leden van de CDA-fractie
waarom dit geen onderdeel is van de initiatiefnota.
De leden van de D66-fractie constateren dat de initiatiefnemer wil dat
instellingen zelf meer inzicht creëren in kansen, risico’s en de gevolgen
van de algoritmen die zij gebruiken. Geldt dit wat de initiatiefnemer
betreft ook voor bedrijven? Kan de initiatiefnemer aangeven hoe hij dit wil
afdwingen als instellingen of bedrijven dit niet doen? Welke consequentie
is er?
3.1.1. Samenwerking op algoritmebeleid binnen en buiten Nederland
De leden van de CDA-fractie lezen dat de initiatiefnemer voorstelt om een
nationaal algoritme-samenwerkingsverband in het leven te roepen. Hij
stelt daarbij dat «zonder helder kader het voor bestuurders verleidelijk is
om te willen beslissen over bijvoorbeeld «ideologische» keuzes (bijvoorbeeld die tussen vrijheid en gelijkheid) die mogelijkerwijs in algoritmen
worden gemaakt». Voornoemde leden vragen hoe dat heldere kader
waarover gesproken wordt eruit moet komen zien. Ook vragen zij hoe dat
kader tot stand zal worden gebracht en wie daarbij betrokken zullen zijn.
Ziet de initiatiefnemer een scenario voor zich waarbij dergelijke keuzes
voor het kader van het voorgestelde algoritme-samenwerkingsverband
niet zullen worden ingegeven door ideologische keuzes?

4

De leden van de D66-fractie lezen dat de initiatiefnemer het heeft over het
ontwikkelen van standaarden. Kan de initiatiefnemer nader uitwerken wat
voor standaarden hier worden bedoeld en welk doel die standaarden
moeten dienen? Kan de initiatiefnemer nader ingaan op het nationaal
algoritme-samenwerkingsverband dat hij wil inrichten? Wie moet daarbij
aangesloten zijn? Wat is het doel van dit samenwerkingsverband? Zorgt
dit niet voor veel bureaucratie? Wat wil hij er mee bereiken?
De leden van de GroenLinks-fractie lezen dat het volgens de initiatiefnemer nuttig is om een helder kader te scheppen voor bestuurders om te
voorkomen dat zij verschillende «ideologische» keuzes maken bij de
ontwikkeling van algoritmen. Vaak hoort men dat het ontwerp van
algoritmen niet waardenvrij is. Hoe ziet de initiatiefnemer dat? En wat
voor een verschillende keuzes kunnen worden gemaakt tussen vrijheid en
gelijkheid (de voorbeelden die door de initiatiefnemer zelf zijn aangedragen) die niet in meer of mindere mate leiden tot (indirecte) discriminatie?
De aan het woord zijnde leden vragen wat de initiatiefnemer bedoelt met
de opmerking: «Nederland moet zelf waarborgen dat het menselijke
boven computers gesteld wordt en het midden- en kleinbedrijf (MKB)
wordt ontzien.»? Worden er andere eisen gesteld aan de algoritmen van
het MKB, als het aan de initiatiefnemer ligt? En gaan die verschillen zo ver
dat het MKB niet verplicht wordt om het menselijke boven computers te
stellen?
3.1.2. Betekenisvolle transparantie en bewustwording
De leden van de CDA-fractie constateren dat in de initiatiefnota afwijzend
wordt gereageerd op het volledig transparant maken van de werking van
algoritmen. Deze leden zien meerwaarde in open-source initiatieven van
zowel de overheid als (grote) technologiebedrijven, zeker wanneer het
gaat om zelflerende algoritmen. Deelt de initiatiefnemer deze mening? In
plaats van volledige transparantie pleit de initiatiefnemer voor betekenisvolle transparantie, zo lezen de leden van de CDA-fractie. Voornoemde
leden vragen de initiatiefnemer op welke wijze bepaald zal worden welke
algoritmen betekenisvol transparant gemaakt moeten worden en ook in
welke mate het begrip «betekenisvol» dient te worden ingevuld.
De leden van de GroenLinks-fractie constateren dat de initiatiefnemer zich
laat kennen als een voorstander van betekenisvolle transparantie in plaats
van volledige transparantie. Wat betekent dit voor de mogelijkheid om
een algoritme door experts te laten onderzoeken op bijvoorbeeld
discriminerende mechanismes? De vertaling van het algoritme (naar
voornoemde leden aannemen door het bedrijf zelf) van de volledige naar
de betekenisvolle variant kan ertoe leiden dat cruciale informatie niet
inzichtelijk wordt gemaakt.
Voorts lezen de leden van de GroenLinks-fractie dat de initiatiefnemer
aangeeft dat volledige transparantie over algoritmen en de gegevens die
zij gebruiken vaker niet kan dan wel, onder meer omdat bedrijven niet
gedwongen moeten worden concurrentiegevoelige informatie te delen.
Hoe verhoudt het recht op eigendom zich volgens de initiatiefnemer tot
het recht op gelijke behandeling, en het recht om deze gelijke behandeling
af te dwingen?
De leden van de SP-fractie lezen dat de initiatiefnemer schrijft dat
bedrijven niet gedwongen moeten worden om transparantie te geven
over hun algoritmen als dit zou inhouden dat zij daardoor concurrentiegevoelige informatie zouden moeten delen. Kan de initiatiefnemer dit
verduidelijken? Betekent dit dat bedrijven dan in principe nooit transparantie zouden hoeven geven over hun algoritmen? Wie moet aantonen dat
het daadwerkelijk gaat om concurrentiegevoelige informatie? Waarom

5

vindt de initiatiefnemer het een goed idee dat bedrijven op basis van
algoritmen, die niet-transparant zijn, de concurrentie met elkaar aangaan?
Is het tegengaan van ongelijkheid en het bevorderen van transparantie in
de samenleving niet belangrijker dan het concurrentiebelang van een
bedrijf?
3.1.3. Mensen instrumenten geven om online weerbaar te zijn
De leden van de D66-fractie vragen op welke manier de initiatiefnemer wil
dat de overheid de private sector en brancheorganisaties stimuleert en
ondersteunt in de ontwikkeling van algoritmecheckers, ratingsystemen en
keurmerken. Kan de initiatiefnemer zijn voorstel voor een rood, groen of
geel online paspoort nader uitwerken? Moet dit een publiek online
paspoort zijn? Hoe wordt dit in de praktijk vormgegeven? Moeten
websites aangeven wat voor soorten paspoorten ze wel of niet accepteren? Hoe verhoudt dit voorstel zich tot de Algemene verordening
gegevensbescherming (AVG)? Stelt de initiatiefnemer met dit voorstel dat
mensen moeten kunnen kiezen of ze blootgesteld willen worden aan
algoritmen? Mogen bedrijven mensen met een bepaald type paspoort
weigeren?
De leden van de GroenLinks-fractie lezen dat de initiatiefnemer een
voorstel doet voor een stoplichtsysteem. Als je aangeeft dat je niet
blootgesteld wilt worden aan algoritmen die gebruikmaken van persoonsgegevens, en dus kiest voor een rood paspoort zou het logische gevolg
zijn dat je veel innovatieve diensten niet kunt gebruiken. Is er dan nog
sprake van een vrije keus? Wil de initiatiefnemer de keuze geheel aan het
bedrijf laten wat het in ruil voor diensten mag vragen?
De leden van de SP-fractie lezen in de initiatiefnota over groene, gele en
rode paspoorten waarbij iemand kan aangeven in welke mate hij of zij
bloot gesteld wil worden aan algoritmen die persoonsgegevens
gebruiken. In dat kader vragen deze leden of de initiatiefnemer de mening
deelt dat ook als je besluit niet blootgesteld te willen worden aan
algoritmen die persoonsgegevens gebruiken, je niet uitgesloten zou
mogen worden van diensten, sites, etc.
3.1.4. Inzicht door toezicht
De leden van de CDA-fractie lezen dat de initiatiefnemer pleit voor een
nieuwe toezichthouder die zich begeeft op het snijvlak van de verschillende gebieden die geraakt worden door algoritmegebruik. Zij vragen de
initiatiefnemer of dit niet al ondervangen wordt met de AVG die, zoals de
initiatiefnemer zelf ook stelt in zijn nota, al verschillende voorschriften
geeft over het gebruik van algoritmen. Is het daarmee niet een taak van de
Autoriteit Persoonsgegevens (AP) om daarop toe te zien? Op welke
vlakken ziet de initiatiefnemer hiaten of elementen die dubbel
voorkomen? En op welke wijze wil de initiatiefnemer deze oplossen of
wegnemen?
De leden van de D66-fractie constateren dat de initiatiefnemer zich
uitsluitend richt op algoritmen, terwijl juist de data die gebruikt worden
van belang zijn Als de gebruikte data waarmee een algoritme getraind
wordt «biased» zijn dan kan dat leiden tot discriminatie of andere
onwenselijke uitkomsten. Ook verouderde of eenzijdig samengestelde
datasets vergroten de kans op oneigenlijke uitsluiting of ongelijke
behandeling. Het algoritme zelf is daarbij niet de bron van de ongewenste
gevolgen, maar dat zijn de gebruikte data. Toch heeft de initiatiefnemer
geen aandacht voor data in zijn initiatiefnota. Dit is een grote omissie. Kan
de initiatiefnemer hier nader op ingaan?
De aan het woord zijnde leden constateren dat de initiatiefnemer een
toezichtkader wil toepassen bestaande uit drie niveaus: 1) rapportage
door algoritme gebruikende instellingen, 2) externe partijen, zoals

6

accountants, die meekijken en 3) een publieke toezichthouder. Kan de
initiatiefnemer aangeven wie precies bedoeld worden met algoritme
gebruikende instellingen? Zijn dat alleen overheden of ook bedrijven?
Moeten deze instellingen alleen rapporteren over algoritmen met een
hoog risicoprofiel of ook over andere algoritmen? Aan wie moet deze
rapportage gericht zijn? Kan de initiatiefnemer nader ingaan op de manier
waarop dit toezichtkader in de praktijk zou moeten werken? Wat is precies
de rol van de externe partijen in dit toezichtkader? Op basis waarvan kan
de publieke toezichthouder controle uitoefenen? Hoe ziet de initiatiefnemer het samenspel tussen de externe partijen en de publieke toezichthouder voor zich? Leidt dit uitgebreide, drievoudige toezichtkader niet tot
een hoop overlap, onduidelijkheid en bureaucratie? Kan de initiatiefnemer
hier een onderbouwing van geven? Waarom kiest de initiatiefnemer niet
voor een enkelvoudige vorm van toezicht, in de vorm van een onafhankelijke autoriteit?
De leden van de GroenLinks-fractie lezen dat de initiatiefnemer geen
regels wil die verbieden, maar die gericht zijn op meer informatieverstrekking. Maar het klopt toch dat hij juist ook veel beperkingen aanbrengt
in de verplichting om informatie te openbaren? Zie paragraaf 2.2.2. van de
initiatiefnota. Hoe verhoudt zich dit tot elkaar? De initiatiefnemer is op
zoek naar een algoritmetoezichthouder. In hoeverre voldoet de AP hier nu
al aan? Wat doet de AP nog niet, dat deze algoritmetoezichthouder wel
zou moeten doen? De initiatiefnemer pleit voor het veilig inzetten van
algoritmen waarbij innovatie niet belemmerd wordt. In hoeverre kunnen
deze twee doelstellingen op gespannen voet staan met elkaar?
De leden van de SP-fractie zijn van mening dat de AP een belangrijke rol
moet spelen in het toezien op het gebruik van algoritmen. Om goed
toezicht te kunnen houden en om ook te kunnen handhaven heeft de AP
wel voldoende middelen nodig. Denkt de initiatiefnemer dat de AP op dit
moment en voor de toekomst voldoende middelen heeft om haar werk
inderdaad goed te doen? Zo ja, kan hij dit onderbouwen?
In het kader van consumentenrechten hebben de leden van de SP-fractie
nog enkele vragen aan de initiatiefnemer. Hoe kunnen mensen aan de bel
trekken over algoritmen als zij niet weten dat een beslissing is genomen
op basis van een algoritme? Met andere woorden: hoe weten mensen
wanneer ze aan de bel kunnen dan wel moeten trekken? En in het
verlengde daarvan: hoe weet je als consument of een algoritme alleen
naar jou discrimineert of in het algemeen discrimineert en maakt dat
gegeven nog iets uit voor de vorm van een klacht bij de AP dan wel bij de
rechter?
4. De huidige stand van zaken en uitvoering
4.1. Stand van zaken en wettelijk kader
De leden van de GroenLinks-fractie lezen dat de initiatiefnemer op zoek is
naar een kader. Kent de initiatiefnemer de «Ethics guidelines for trustworthy AI» van the High-Level Expert Group on Artificial Intelligence van
april 2019, waarin een Europees kader wordt voorgesteld? In hoeverre
voldoet dit aan de wensen van de initiatiefnemer en in hoeverre niet?
Welke kaders ten aanzien van algoritmen dienen, volgens de initiatiefnemer, op Europees niveau te worden vastgesteld, en welke op nationaal
niveau?
Volgens de leden van de SP-fractie is slechts een deel van het dataverzamelingsproces in de AVG geregeld, namelijk dat deel dat ziet op data die
te kwalificeren zijn als persoonsgegevens. Het rapport van Van der Sloot

7

en Van Schendel beschrijft dit probleem helder.1 Deelt de initiatiefnemer
de mening dat het ook goed zou zijn om een aantal minimumregels neer
te leggen voor het verzamelen van data niet zijnde persoonsgegevens?
Juist omdat die gegevens grote groepen mensen beslaan en daaruit
voortvloeiend ook individuele burgers geraakt kunnen worden.
De leden van de SP-fractie stellen vast dat de AVG nauwelijks regels stelt
omtrent het analyseren van data. Dat betekent dat er nauwelijks wettelijke
normen zijn voor of wettelijk toezicht is op hoe bijvoorbeeld profielen
worden vervaardigd, op conclusies over de patronen en correlaties die
worden gevonden en hoe data worden geanalyseerd. Dat is volgens de
aan het woord zijnde leden zeer problematisch en kan tot allerlei
ongewenste situaties leiden, omdat als er een fout of een vooringenomenheid zit in een dataset, een algoritme of een profiel, dit betekent dat
het private of overheidsoptreden dat gebaseerd is op dat profiel óók fout
of vooringenomen kan zijn. Ziet de initiatiefnemer dit probleem? Hoe
denkt de initiatiefnemer dat de analysefases goed gecontroleerd kunnen
worden? Is het niet noodzaak, als we dit goed willen controleren, dat altijd
volledige transparantie gegeven wordt over gebruikte algoritmen?
5. Financiële consequenties
De leden van de CDA-fractie lezen dat door de initiatiefnemer wordt
gesteld dat alle plannen die worden voorgesteld in de initiatiefnota geen
financiële consequenties zullen hebben. Dat komt de aan het woord zijnde
leden wat onwaarschijnlijk over. Deelt de initiatiefnemer de mening dat de
gevraagde onderzoeken, de overheid op hetzelfde kennisniveau brengen
als technologiebedrijven, het uitrollen van bewustwordings- en informatiecampagnes om burgers weerbaar te maken en het in het leven roepen
van een nieuwe toezichthouder (publiek) geld zullen kosten? Kan de
initiatiefnemer hiervan een schatting maken?
Over de financiële consequenties van de plannen van de initiatiefnemer
hebben de leden van de SP-fractie nog de volgende vraag: kan de
initiatiefnemer verduidelijken waarom hij denkt dat het voorgestelde
toezichtkader een kleine organisatie kan worden met een beperkt aantal
fte’s? Hoe kan een kleine organisatie adequaat toezicht houden op een
oneindige hoeveelheid aan algoritmen? Betekent dit dat deze organisatie
zelf ook gebruik zal moeten gaan maken van algoritmen om toezicht te
houden op algoritmen?
6. Beslispunten
De leden van de GroenLinks-fractie lezen dat de initiatiefnemer voorstelt
om mensen «waar mogelijk» duidelijk te maken wanneer er algoritmen
gebruikt zijn bij beslissingen. Kan de initiatiefnemer voorbeelden geven
van gevallen waarbij dat niet mogelijk zijn?
De leden van de SP-fractie lezen dat de initiatiefnemer in één van de
beslispunten schrijft dat «waar mogelijk mensen duidelijk gemaakt moet
worden wanneer er algoritmen gebruikt zijn bij beslissingen{». Kan de
initiatiefnemer dit voor deze leden verduidelijken? In welke gevallen is dit
volgens de initiatiefnemer niet mogelijk?

1

Van der Sloot & Van Schendel, De modernisering van het Nederlands procesrecht in het licht
van Big Data -Procedurele waarborgen en een goede toegang tot het recht als randvoorwaarden voor een data-gedreven samenleving, Universiteit van Tilburg – Tilburg Instute for
Law, Technology and Society, 2019.

8

7. Overig
De leden van de SP-fractie zijn ervan doordrongen dat de overheid in het
algemeen belang, of uit het oogpunt van nationale veiligheid een legitiem
beroep kan doen op geheimhouding van door de overheid gebruikte
algoritmen. Toch zou ook in gevallen waarin burgers denken onevenredig
benadeeld te worden door beslissingen vanuit de overheid openheid van
zaken gegeven moeten worden. Ziet de initiatiefnemer in dat kader iets in
de oplossing, zoals voorgesteld door Van der Sloot en Van Schendel, om
een «special advocate» te introduceren die namens de burger de
algoritmen, data en onderliggende stukken kan inzien en de verdediging
daaromtrent kan voeren, maar tegelijkertijd gehouden is aan geheimhouding en deze informatie niet met de burger deelt? Zo nee, waarom
niet?
Tot slot willen de leden van de SP-fractie de initiatiefnemer vragen naar de
toepassing van algoritmen in het strafrecht. Is de initiatiefnemer
voorstander van bijvoorbeeld computerprogramma’s die rechters helpen
bij het maken van inschattingen over verdachten en veroordeelden? Zo ja,
waarom? Vindt de initiatiefnemer dan in ieder geval dat te allen tijde
transparantie gegeven moet worden over de gebruikte algoritmen? Zo
nee, waarom niet?

9