Tweede Kamer der Staten-Generaal

2

Vergaderjaar 2019–2020

35 229

Parlementair onderzoek digitale toekomst

Nr. 4

VERSLAG VAN EEN RONDETAFELGESPREK
Vastgesteld 17 oktober 2019
De tijdelijke commissie Digitale toekomst heeft op 30 september 2019
gesprekken gevoerd in het kader van een openbare kennisbijeenkomst.
Van deze gesprekken brengt de commissie bijgaand geredigeerd
woordelijk verslag uit.
De voorzitter van de commissie,
Buitenweg
De griffier van de commissie,
Jansma

kst-35229-4
ISSN 0921 - 7371
’s-Gravenhage 2019

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

1

Voorzitter: Verhoeven
Griffier: Jansma
Aanwezig zijn vijf leden der Kamer, te weten: Buitenweg, Van Dam,
Middendorp, Verhoeven en Van Weerdenburg.
Aanvang 10.05 uur.
De voorzitter:
Beste mensen, goedemorgen. Dit is de derde van de drie kennisbijeenkomsten die we deze maand hebben voor de tijdelijke commissie Digitale
toekomst. De afgelopen twee kennissessies hebben heel veel informatie
opgeleverd, maar die was nog niet compleet. Daarom hebben wij nog een
derde dag. We hebben een mooi programma. We beginnen zo dadelijk
gelijk met de heer Snoep van de Autoriteit Consument & Markt. Daarna
gaan we verder met de heer Van Zutphen, en daarna zullen we een pauze
hebben. Vorige keer hebben we het eigenlijk vrij interactief aangepakt. We
vragen onze gast om een inleiding te geven vanuit zijn of haar perspectief.
Die mag tien à vijftien minuten duren; dat hangt er een beetje van af.
Vervolgens geef ik de leden de mogelijkheid om een vraag te stellen. Dat
wordt dan een informatieve, interactieve en ook informele gedachtewisseling.
Blok 1
Gesprek met:
– de heer Martijn Snoep, bestuursvoorzitter van de Autoriteit Consument
& Markt (ACM)
De voorzitter:
Ik wil graag direct beginnen. Ik geef het woord aan de heer Snoep.
De heer Snoep:
Hartelijk dank. Ik heb maar een hele korte inleiding. Ik wil graag helpen
om alle informatie die wij kunnen geven aan u te overhandigen, maar ik
dacht dat het misschien goed is om te beginnen door even kort te
schetsen wie we zijn en wat onze rol is in dit proces. Wij zijn een onafhankelijke toezichthouder met als belangrijkste taak om markten goed te laten
werken voor mensen en bedrijven. Dat betekent dat we aan de ene kant
het concurrentieproces dat op die markten plaatsvindt, bewaken en
zorgen dat dat goed werkt. Dat doen we bijvoorbeeld door middel van ons
karteltoezicht, om te voorkomen dat bedrijven prijsafspraken maken. Dat
doen we ook door middel van ons toezicht op ondernemingen met een
machtspositie, om te voorkomen dat ze daar misbruik van maken.
Maar markten goed laten werken voor mensen en bedrijven doen we ook
door daar waar we die bevoegdheid hebben de uitkomsten van marktwerking te corrigeren. Daarbij moet u bijvoorbeeld denken aan het
volgende. In een goed concurrerende markt kunnen de verkoopmethoden
die gehanteerd worden te agressief zijn. Ook dan hebben wij de
bevoegdheid om, hoewel die markt heel goed concurreert, toch in te
grijpen en bedrijven erop aan te spreken dat ze niet op die manier hun
spullen mogen verkopen. Daarmee bedoel ik te zeggen dat marktwerking
voor ons niet een doel op zich is, maar een middel om ervoor te zorgen
dat goederen en diensten in Nederland op een goede manier worden
verspreid onder de bevolking.
De correctie van die uitkomsten is wel een gevoelig punt. We zijn een
onafhankelijke toezichthouder, en vaak is het zo dat wat goed is voor de
een, niet noodzakelijkerwijs goed is voor de ander. Het verbieden van
agressieve verkoopmethoden is goed voor de consument, maar minder
goed voor de bedrijven die zich van die methoden bedienen. Dat vergt

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

2

dus een lastige afweging. Omdat wij niet democratisch gelegitimeerd zijn,
kijken wij heel sterk naar de wetgever. Als de wetgever ons een
bevoegdheid geeft en beslist dat in deze afweging van de verschillende
belangen een bepaald belang zwaarder weegt dan een ander belang, dan
voeren wij dat uit. In de correctie van uitkomsten van marktwerking
hebben wij dus een meer lijdelijke rol, in die zin dat wij afhankelijk zijn van
wat de wetgever bepaalt dat de goede uitkomst is.
Voor markten die goed werken voor mensen en bedrijven is het essentieel
dat mensen en bedrijven vertrouwen hebben in die markten. Dat is
eigenlijk ook het bruggetje naar de digitale toekomst. Ze moeten aan de
ene kant vertrouwen hebben dat er sprake is van een eerlijk marktproces,
en aan de andere kant vertrouwen dat er sprake is van een eerlijke
uitkomst. Een derde belangrijk punt is dat mensen en bedrijven
vertrouwen moeten hebben dat er een overheid is die ingrijpt als de
uitkomst niet eerlijk is. Dat vertrouwen bestaat dus eigenlijk uit drie lagen:
proces, uitkomst en een overheid die intervenieert als het oneerlijk is. Nu
is het begrip «eerlijk» lastig, want het is moeilijk meetbaar. Wat de een
eerlijk vindt, vindt de ander niet eerlijk. Wat voor de een eerlijk is, is voor
de ander oneerlijk. Een grote concurrentie op de markt die leidt tot
goedkopere producten kan ook leiden tot lagere lonen. Wat is nou eerlijk?
Dat is typisch zo’n afweging waarbij wij vaak naar de wetgever moeten
kijken om te bepalen wat eerlijk is.
Toch is dat vertrouwen cruciaal, en het is nog crucialer geworden, zou ik
bijna zeggen, door de veranderingen die op dit moment gaande zijn in de
economie. Digitalisering zorgt ervoor dat het vertrouwen in het idee dat
die markten goede uitkomsten bieden, dat het proces van marktwerking
eerlijk is, onder druk komt te staan. Er zitten een aantal elementen in die
die druk op dat vertrouwen veroorzaken. Ten eerste is dat de consolidatieslag die plaatsvindt. Door die digitalisering is het mogelijk dat markten
groter worden, is het mogelijk dat bedrijven veel meer gebruik kunnen
maken van netwerkeffecten, waardoor aan de ene kant producten en
diensten goedkoper kunnen worden, doordat de vaste kosten over een
grotere groep consumenten kunnen worden uitgesmeerd, maar aan de
andere kant bedrijven steeds groter en machtiger worden, niet alleen in
één land maar over de hele wereld. Dat is een ingewikkelde balans. Die
consolidatie, die versterking en vergroting van de leveranciers van in het
bijzonder diensten, maar het geldt ook voor goederen, zorgt ervoor dat
mensen en bedrijven, met name consumenten en het midden- en
kleinbedrijf, zich afvragen of ze er wel op kunnen vertrouwen dat die grote
bedrijven wel voor hen zorgen en in hun belang handelen.
Een tweede element dat die digitalisering tot gevolg heeft, is dat markten
in zijn algemeenheid intransparanter worden. Als ik aan iemand een zak
aardappelen verkoop, dan kan ik die aardappelen testen en dan weet ik
wat ik heb. Er zijn dan allerlei methoden om in de fysieke economie te
toetsen wat de waarde van een product is. Ik ken de leverancier, ik heb
een directe band met de leverancier. In de digitale economie is die band
veel verder. Het is ingewikkelder wie nou verantwoordelijk is voor de
dienst. Het is ook veel lastiger om de dienst goed op waarde te kunnen
schatten. Er zitten ook allerlei processen achter die voor de consument
niet zichtbaar zijn. Nu de algoritmes een hogere vlucht nemen en steeds
meer bepalend worden voor het aanbod dat ik krijg te zien en wat mij als
consument wordt aangeboden, verlies ik of bestaat de kans dat ik er niet
meer op vertrouw dat ik een eerlijk en goed aanbod krijg. Wat zit erachter?
Op welke manieren krijg ik dit aanbod? Ga ik meer of minder betalen dan
mijn buurman? Waarom ik wel en hij niet? Die onzekerheid alleen al zorgt
ervoor dat dat vertrouwen vermindert.
Een derde element waardoor dat vertrouwen onder druk komt te staan, is
dat er in de economie hele snelle veranderingen plaatsvinden. Er vinden
schokken plaats. Markten kunnen heel snel omslaan van een volledig
concurrerende open markt naar een veel meer monopolide markt.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

3

Producten kunnen heel succesvol worden doordat netwerkeffecten van
grote bedrijven snel kunnen omslaan. We hebben het gezien in een aantal
landen, waarin bijvoorbeeld een bedrijf als Amazon in vijf jaar tijd een
enorm marktaandeel weet te verwerven. Je ziet dat in een economie die
veranderingen veel sneller plaatsvinden. En juist in een economie en een
omgeving waarin schokken en snelle veranderingen plaatsvinden, komt
vertrouwen onder druk te staan. Door de digitalisering komt het
vertrouwen van mensen en bedrijven onder druk te staan.
Deze tijd zien wij als toezichthouder als een tijd die noodzaakt tot – om
grote woorden te gebruiken – een staat van paraatheid. We moeten in
deze periode extra alert zijn om ervoor te zorgen dat de markten goed
blijven werken voor mensen en bedrijven. Er moet vertrouwen van
mensen en bedrijven zijn dat die markten goed blijven werken. Wij werken
nauw samen met andere toezichthouders in Nederland. We zijn natuurlijk
niet de enige die naar markten en naar marktuitkomsten kijkt. In de
financiële markten spelen de AFM en DNB een belangrijke rol. De
Autoriteit Persoonsgegevens speelt een belangrijke rol en er zijn nog
andere, meer sectorgeoriënteerde toezichthouders waarmee goed wordt
samengewerkt.
Door die globaliserende en grotere markten is de noodzaak alleen maar
sterker geworden om ook internationaal samen te werken. We moeten
ons realiseren dat we als Nederland tegen die hele grote bedrijven in
betrekkelijke mate een vuist kunnen maken. Gekscherend gezegd: een
groot internationaal opererend bedrijf kan het zich best veroorloven om
de dienst voortaan dan maar niet meer in Nederland aan te bieden, terwijl
het misschien wel een dienst is die Nederlandse consumenten graag
willen hebben. Juist door die samenwerking met andere toezichthouders
in Europa kunnen we wél een vuist maken. De Europese markt is zo sterk
en zo welvarend en aantrekkelijk dat grote bedrijven wel zullen inbinden
als Europa gezamenlijk een vuist weet te maken.
Dus vandaar dat die samenwerking binnen Nederland met andere
toezichthouders en buiten Nederland met andere Europese toezichthouders – het zijn organisaties die vergelijkbaar zijn met de ACM –
cruciaal is om markten voor Nederlandse bedrijven en consumenten goed
te laten werken.
Tot zover mijn opwarming van het biljartlaken. Ik ben graag bereid om
vragen te beantwoorden.
De voorzitter:
Veel dank voor deze introductie en volgens mij een hele mooie weergave
van de rol van de ACM. Ik had nog even moeten zeggen dat de leden
Buitenweg, Azarkan en Van Otterloo er vanochtend niet kunnen zijn. We
gaan nu het gesprek aan met de andere leden. Ik geef de heer
Middendorp als eerste de gelegenheid om een vraag te stellen.
De heer Middendorp (VVD):
Dank voor de introductie. U zei: we zijn niet democratisch gelegitimeerd,
dus we kijken naar de wetgever. Ik ben benieuwd wat uw ervaringen op
dat terrein zijn. Hoe snel krijgt u wetgeving waar u wat mee kan? U heeft
een verleden buiten de politiek en het toezicht. Misschien is u iets
opgevallen na de overstap.
Markten worden minder transparant. De zak aardappelen kun je prima
aangereikt krijgen van iemand die vertelt waar de aardappelen vandaan
komen. Maar is het niet een soort luxeprobleem dat er eigenlijk veel meer
informatie is waardoor de problemen ontstaan die u beschreef?
De heer Snoep:
Ik geef mijn persoonlijke ervaring met wetgeving en de implementatie
ervan. Het duurt wel lang, maar dat is op zich niet zo erg. Het is heel erg
belangrijk dat wetgeving heel goed doordacht en breed gedragen wordt.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

4

Wetgeving moet de tijd hebben om geïmplementeerd te worden, zodat de
markt eraan kan wennen. Ik heb niet direct een concreet voorbeeld voor
ogen, maar ik weet uit ervaring dat bepaalde wetten zo controversieel zijn
en onvoldoende doordacht, dat er tien jaar over wordt geprocedeerd
voordat ze daadwerkelijk hun werk beginnen te doen. In de rechtspraak
spreekt men van slow justice. Een zekere mate van slow legislation kan,
denk ik, geen kwaad. In het verleden zijn heel veel studies verricht, met
name op het gebied van economische regulering aan het eind van de
negentiende eeuw en het begin van de twintigste eeuw. De Verenigde
Staten hadden toen een zwaar gereguleerde economie. Dat heeft
negatieve effecten gehad.
Met ingrijpen in de economie moet je voorzichtig zijn. Ik wijs op de law of
the unintended consequences. Bijna iedere wet heeft effecten die van
tevoren moeilijk zijn te voorspellen en die dan vervolgens weer moeten
worden gecorrigeerd met een andere wet. Ik ben niet ontevreden met de
kennis, met de bereidheid van de wetgever om in te stappen in de
wetenschap dat je dat niet te snel moet doen.
Uw tweede vraag was: hoe zit het met de intransparantie? Is er niet een
teveel aan informatie? Ik denk dat u daarmee de spijker op de kop slaat. In
het consumentenrecht was traditioneel altijd de gedachte dat bedrijven
goed handelen als ze de consument maar alles vertellen. U kent het
waarschijnlijk als u een product koopt of een geneesmiddelenbijsluiter
leest. U krijgt eindeloze hoeveelheden algemene voorwaarden en
bladzijden tekst erbij. Uit ervaringen weten we gewoon dat de meeste
consumenten dat niet lezen. De bescherming die uitgaat van die meer
informatie is dus niet altijd doeltreffend. Daarom moeten we een nieuwe
balans vinden tussen het geven van alleen maar meer informatie en de
bescherming van consumenten.
Om een voorbeeld te geven: wanneer een aanbod tot stand komt, dan kan
daar een algoritme achter zitten. Dan zouden we met z’n allen kunnen
zeggen: we vinden dat bedrijven dan even een klein a’tje erachter moeten
zetten, zodat mensen weten dat het via een algoritme tot stand is
gekomen. Maar misschien is dat wel veel te weinig. Want beseffen
mensen wel voldoende wat het betekent dat dat aanbod door middel van
een algoritme tot stand is gekomen? Ik denk dat het heel belangrijk is dat
we over dat soort zaken spreken, nadenken en ook een beslissing durven
te nemen, en dat transparantie niet in alle gevallen de oplossing is voor
het probleem.
De voorzitter:
Er is nog een aanvullende vraag van de heer Middendorp.
De heer Middendorp (VVD):
Als dat mag, voorzitter, want die sluit hier direct op aan. Hij sluit eigenlijk
aan op allebei de punten. U zegt dat u begrip heeft voor het wetgevingsproces. Wij zitten hier precies om vanuit onze wetgevende en controlerende taak te kijken of we nou grip hebben op die digitaliserende wereld.
Deze commissie is eigenlijk opgericht omdat wij wel wat vraagtekens
plaatsen bij de positieve kijk op de zaak die u net gaf. Laat ik een
voorbeeld geven dat ook aansluit bij het tweede antwoord. Die cookies
zijn op een gegeven moment ingesteld vanuit concurrentieoverwegingen
et cetera, et cetera. Bedrijven bouwen dan cookie walls. Vervolgens komt
er opeens een hele nieuwe interpretatie, en dan worden de cookie walls
weer afgeschaft. Dat is geen langzame wetgeving, maar eigenlijk ook een
beetje lastig voor de ontwikkeling van de digitale economie, denk ik. Dat is
een voorbeeld; het gaat niet om de zaak zelf, al heeft u daar vast een
mening over. Maar naar dat soort voorbeelden zijn wij hier wel op zoek,
om te kijken of het proces met de snelle motie et cetera eigenlijk wel
werkt.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

5

De heer Snoep:
Het is lastig om op dit concrete voorbeeld in te gaan, maar ik kan ook een
voorbeeld aan de andere kant geven. In onze wet – die is heel duidelijk –
staat dat bedrijven de consumenten niet mogen misleiden. Dat is al een
oud twintigste-eeuws concept. Dat is geschreven in een tijd dat er nog
geen internet en geen digitalisering was. Daar is in decennialange
jurisprudentie op voortgebouwd. Wij hebben op een gegeven moment
geconstateerd dat die wet eigenlijk ongeschikt is voor onlinebeslisomgevingen en onlineaankopen door consumenten. We zijn nu bezig om die
oude open norm en de definitie van misleiding eigenlijk opnieuw in te
vullen. Dat doen we als volgt. We hebben eerst gesproken met allerlei
partijen in de sector. Vervolgens hebben we een conceptleidraad
opgesteld voor de manier waarop wij misleiding gaan interpreteren in de
toekomst. Aan het einde van het jaar komen we met dat concept naar
buiten. Dan zullen we weer een consultatie organiseren, met de hoop dat
we begin volgend jaar een definitieve versie van die leidraad kunnen
publiceren.
In een jaar tijd hopen we dat dus samen met de sector te doen, zonder dat
de sector heeft hoeven te zeggen dat ze het ermee eens zijn. Het is niet in
een convenantvorm gegoten, maar we hebben de sector op die manier
wel geleidelijk aan kunnen meenemen om te laten zien hoe wij het begrip
«misleiding» in de moderne digitale economie gaan interpreteren. Dat laat
eigenlijk zien dat je als toezichthouder, ondersteund door de wetgever, in
sommige gevallen ook wel weer vrij snel kunt handelen. Het hangt er dus
heel erg van af wat voor type interventie je als overheid wilt plegen. Gaat
het eigenlijk om een voortzetting van bestaande begrippen, dan kun je het
sneller doen. Ga je echt op een hele ingrijpende manier ingrijpen in het
proces, ga je praten over het opknippen van bedrijven, het verbieden van
verticale integratie en het plaatsen van schotten tussen bedrijven, dan is
een langzame, rustige aanpak te verkiezen.
De voorzitter:
Even inspringend op dat voorbeeld: u kunt die leidraad aanpassen, maar
dat doe je op basis van een wet die niet verandert op dat moment.
De heer Snoep:
Exact.
De voorzitter:
Dan gaan we naar mevrouw Van Weerdenburg.
Mevrouw Van Weerdenburg (PVV):
Dank u wel, voorzitter. De markten worden steeds intransparanter,
waardoor het voor consumenten lastiger wordt om diensten op waarde te
schatten. U noemde het voorbeeld van de algoritmes. Je kunt bedrijven
en markten opleggen om informatie te verschaffen, maar het valt of staat
toch met begrip en kennis? U noemde het voorbeeld van informatie die
wel wordt aangeboden, maar waar iedereen heel snel «I accept» op klikt.
Ik ben jurist en ik heb voor de grap weleens die informatie gelezen. Er is
gewoon niet door te komen. En dan ben ik nog een kenner. Waar kunnen
we de sleutel vinden, waar kunnen we de balans vinden tussen meer
informatie en begrijpelijker informatie, zonder af te doen aan de informatie zelf? Je hoeft niet alles in jip-en-janneketaal uit te leggen, maar daar
ligt wel een uitdaging.
De heer Snoep:
Dat is de lastige balans. Je zou bepaalde verkoopmethoden gewoon
kunnen verbieden. Je zou kunnen zeggen: deze algoritmetoepassing, dit
type algoritmetoepassingen willen we gewoon niet hebben. Hoeveel
transparantie je ook aan de consument geeft, het is heel erg lastig om dat

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

6

te begrijpen en er een bepaald gevoel bij te ontwikkelen. Er zijn bedrijven
die in een onlinebeslisomgeving zeggen: er zijn nog maar één of twee
producten beschikbaar. We weten dat dat de consument een bepaalde
stress geeft. De bedrijven weten dat ook en daarom doen ze het. Consumenten gaan daardoor eerder tot aankoopgedrag over.
Je kunt dan twee dingen doen. Je kunt een waarschuwing plaatsen: laat u
zich niet onder druk zetten. Je kunt een i’tje geven waarop je moet
doorklikken en waar dan staat dat dat misschien niet voor alle gevallen
geldt en dat het misschien overdreven is. Je kunt allerlei achtergrondinformatie geven. Maar we weten dat consumenten heel weinig op dat i’tje
drukken en dat een banner «laat u zich vooral niet onder druk zetten» bij
wijze van spreken eigenlijk alleen maar zorgt voor meer druk. Je kunt er
ook voor kiezen om te zeggen: we willen gewoon dat soort reclame- en
marketinguitingen niet meer. Dan los je het niet op via meer transparantie,
maar dan los je het op via een verbod op dat soort reclame-uitingen. Dat
is een ingewikkelde vraag, want je beperkt ondernemingen dan in hun
mogelijkheden om hun producten en diensten op een bepaalde manier
aan te prijzen. We moeten op zoek gaan naar een balans. We moeten een
nieuwe balans vinden tussen wat wel en niet geaccepteerd moet worden.
Ik geef vaak het volgende voorbeeld. Als een wasmiddel wordt gepromoot
met de opmerking dat het witter dan wit wast, weet iedereen dat dat wel
een tikje overdreven zal zijn. Dat kan iedereen relativeren. Daar reageren
mensen dus veel minder sterk op. Maar de opmerking «er is de komende
24 uur nog maar één product in deze categorie beschikbaar» heeft een
enorm effect. Zo kun je op verschillende manieren naar dit soort zaken
kijken.
De heer Van Dam (CDA):
Voorzitter. Ik heb meerdere vragen, maar ik begin met te melden dat ik
gisteren een zak aardappels heb gekocht. Ik weet dus hoe fijn het is om
iets in je handen te hebben waarvan je weet wat het is.
De afgelopen week hebt u in Brussel een toespraak gehouden over wat
het betekent om toezicht op digitale markten te hebben. Kunt u daarover,
los van hetgeen u al gezegd hebt, nog iets in essentie zeggen? Het is best
een stevige titel die erboven staat.
Dan mijn tweede punt. Toezicht op al wat gebeurt, is in onze commissie
een element dat enorm komt bovendrijven. Zou u nog eens kort kunnen
aangeven welke autoriteiten of toezichthouders in uw beleving in
Nederland toezicht houden op die digitale wereld? Laten we het dan
beperken tot die grote jongens, waar heel veel mensen dag in, dag uit
mee te maken hebben: Amazon, Google, Facebook. Wie houden daar nou
in Nederland toezicht op? Vindt u dat dat toezicht op elkaar aansluit? Je
zou kunnen zeggen: er moet één toezichthouder zijn. Maar nu zijn er
meerdere. Hoe zit dat dan? U noemde zelf ook al het internationale,
Europese aspect daarin. Hebt u nou het idee dat die dingen ook in
Europees verband op elkaar aansluiten? Misschien kunt u op dat punt dan
ook specifiek aandacht besteden aan het feit dat veel van die organisaties
in Ierland gehuisvest zijn. Ik ben dus ook erg benieuwd hoe ver uw arm
reikt om daar iets van te vinden. Het is misschien wat veel, maar ik hoop
dat het ... En weet u, volledigheid kunnen we in dit uur ook niet bereiken,
dus een paar hoofdopmerkingen hierover zou ik al heel fijn vinden.
De heer Snoep:
Om met het begin te beginnen: er is één element dat ik niet heb toegelicht
in mijn inleiding, maar dat ik donderdag wel bij het gezelschap in Brussel
naar voren heb gebracht. Dat is de introductie van een nieuw instrument.
Dat vereist een actie van de wetgever, in het bijzonder de Europese
wetgever. Dit in navolging van een initiatief en een opmerking van
mevrouw Keijzer. Zij heeft dat initiatief genomen en gezegd dat er
behoefte bestaat of zou kunnen bestaan aan een instrument in handen

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

7

van de toezichthouders, om met name de grote digitale ondernemingen in
zekere zin verplichtingen op te leggen die voorkomen dat ze misbruik
maken van hun machtspositie.
Het toezicht van de ACM is nu in de meeste gevallen zo geregeld dat de
ACM nadat de overtreding heeft plaatsgevonden een boete of een last
onder dwangsom oplegt, of in ieder geval het hele instrumentarium kan
inzetten. Dat geldt ook voor de Europese Commissie. Die legt boetes op
voor gedrag dat meestal drie, vier jaar geleden heeft plaatsgevonden.
Door het tijdsverschil dat daarin zit, gaat er heel veel verloren, met name
in de snellere, digitaliserende wereld. Aan de ene kant gaat het verloren
omdat bedrijven zich ingraven in de juridische loopgraven en jarenlang
procederen om die boete te bestrijden. Aan de andere kant gaat het over
gedrag. Omdat de juridische procedures zo zwaar zijn, zijn de eisen die
gesteld worden aan die juridische procedures en aan het bewijs dat
verzameld wordt gigantisch. Dat betekent dat de tijd tussen de
overtreding en het uiteindelijk opleggen van de boete heel erg lang is. En
net als bij gewone huis-, tuin- en keukencriminaliteit weten we dat het
effect van sancties het sterkst is als ze kort na de overtreding plaatsvinden.
De voorzitter:
Meneer Van Dam, u mag uiteraard een vraag stellen, want u zult niets
anders willen dan een korte tussentijdse vraag stellen die het verhaal van
de heer Snoep niet onderbreekt.
De heer Van Dam (CDA):
Moet ik dat zien als een soort conservatoire maatregel, zoals we dat ook
bij het beslag kennen?
De heer Snoep:
Het is eigenlijk anders. Het is een situatie waarbij de eerste stap die de
toezichthouder zet, bestaat uit constateren dat een bepaalde onderneming
een machtspositie heeft, en hij vervolgens zegt: je moet als onderneming
met een machtspositie voldoen aan deze specifieke regels, heel specifiek
toegesneden op deze onderneming in deze markt, om te voorkomen dat je
misbruik maakt van je positie. Dat heeft als voordeel dat je dan een
andere verhouding met die onderneming hebt. Die onderneming wordt
dan namelijk niet meer beschuldigd van een wetsovertreding; die
onderneming wordt gewoon een verplichting opgelegd om zich op een
bepaalde manier te gedragen. Dan is de kans ook groter dat je met die
onderneming tot een soort vergelijk komt, tot een overeenstemming over
hoe die onderneming zich moet gaan gedragen.
Het is ook niet een helemaal nieuw voorbeeld, want dit instrument, het
Aanmerkelijke Marktmacht-instrument, vinden we ook in de telecommunicatiesector. Voor het openbreken van de telecommunicatiesector en het
introduceren van marktwerking in de telecommunicatiesector is eerst
gekeken naar het mededingingsrecht. Toen is gezegd: dat is een beetje
ingewikkeld; laten we – precies om de reden die ik net noemde – een
instrument hanteren waarbij we grote telecommunicatiebedrijven van
tevoren kunnen zeggen aan welke specifieke regels ze moeten voldoen.
Dat was het Aanmerkelijke Marktmacht-instrument, het AMM-instrument.
Dat zit gewoon in onze Telecommunicatiewet. Het past ook in het
Europese telecommunicatiekader. We zouden dit instrument door een
wetswijziging breder kunnen trekken, zodat het ook van toepassing is op
grote ondernemingen zoals Google, Facebook, Amazon en Apple.
De voorzitter:
In welke wetgeving zou dat dan moeten, in de mededingingswetgeving?

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

8

De heer Snoep:
Idealiter zou die een Europese basis kennen, waarbij de Europese
Commissie in beginsel de bevoegdheid krijgt om dat soort besluiten te
nemen. Zo zien wij dat voor ons, samen met mevrouw Keijzer. Maar het
kan ook zijn dat er in specifieke landen een heel sterke – in Nederland een
Nederlandse, in een ander land een andere – speler is die niet Europees
actief is, maar wel over een vergelijkbare dominante positie beschikt.
Idealiter zou het dus een parallelle bevoegdheid zijn, net als het karteltoezicht of het toezicht op misbruik van machtsposities, waarbij zowel de
Europese Commissie als de ACM bevoegd is. In mijn ervaring loopt die
afstemming tussen de Europese Commissie en de nationale mededingingsautoriteiten, zoals de ACM, heel goed. De kans dat een dergelijk
instrument er nu komt, is ook toegenomen, omdat mevrouw Vestager, de
Commissaris voor Mededinging, nu ook verantwoordelijk is voor de hele
portefeuille digitale economie, en dus ook wetgevingsinitiatieven als deze
binnen het College van Commissarissen kan ondersteunen. Dat is een
goede beweging.
De voorzitter:
Even op dit specifieke punt, en dan gaan we nog door naar het stuk over
de toezichthoudersamenwerking en bijvoorbeeld Ierland. Gaat uw gang.
De heer Van Dam (CDA):
Is dat instrument voor de telecom ook een Europees instrument?
De heer Snoep:
Ja, dat is ook een Europees instrument.
De voorzitter:
Van mijn kant nog een vraag. Die samenwerking snap ik. Dit zou dus in
zowel de Europese als de nationale mededingingsregels moeten? Zoals
het nu in de Telecommunicatiewet op beide niveaus geregeld is, moet dat
dus ook bij de mededingingswetgeving?
De heer Snoep:
Ja, klopt.
De voorzitter:
Dan graag nog uw antwoord op het overige stuk van de heer Van Dam.
De heer Snoep:
Ja. De toezichthouders waarmee wij het meest samenwerken in die
digitale vraagstukken zijn, uiteraard, de Autoriteit Persoonsgegevens, het
Commissariaat voor de Media, de AFM en, in iets mindere mate, De
Nederlandsche Bank. Dat zijn de belangrijkste toezichthouders waarmee
wij op allerlei vlakken samenwerken. Soms wisselen wij alleen maar
kennis uit, maar soms stemmen we ook concrete zaken af. We hebben
bijvoorbeeld zaken bij ons voorliggen – ik kan niet ingaan op welke zaken
dat zijn, gelet op het vertrouwelijke karakter ervan – waarbij een onderneming met een machtspositie een markt domineert, waardoor het heel
moeilijk is om toe te treden tot die markt. Vanuit concurrentieoverwegingen zeggen wij dan dat die onderneming haar data zou moeten delen
met concurrenten, om ervoor te zorgen dat er concurrentie op die markt
komt. Want zonder die data is het in dit specifieke geval niet mogelijk om
op die markt te komen. De Autoriteit Persoonsgegevens zegt vanuit haar
verantwoordelijkheid dan natuurlijk: tja, data delen van die consumenten,
zonder dat die consumenten daar toestemming voor hebben gegeven, is
niet helemaal de bedoeling. Daaraan zie je dat we als toezichthouders
tegengestelde bewegingen maken, maar in de praktijk lossen we dat goed
op. In het geval dat ik hier voor ogen heb, hebben we gezegd dat we

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

9

begrijpen dat het recht op privacy voorrang heeft boven het bevorderen
van concurrentie. We doen dus een stap terug. De AP moet eerst
uitzoeken of deze vorm van datadeling wel in overeenstemming is met de
wet persoonsgegevens.
Met de AFM delen we veel informatie. Daarbij gaat het met name over
kennisuitwisseling. Hoe gaan we om met algoritmes? Algoritmes hebben
in de financiële sector natuurlijk een grote vlucht genomen. Dus ook bij de
AFM is veel kennis aanwezig over hoe daarmee om te gaan. Er is bij de
AFM ook veel kennis aanwezig over hoe consumenten reageren op
bepaalde marketinginspanningen van financiële instellingen. Wij kijken of
wij dit verder kunnen trekken en die gedachtevorming ook mee kunnen
nemen naar bedrijven buiten de financiële sector. Dat is een beetje het
scala binnen Nederland.
Dan is de vraag of er één, aparte toezichthouder voor de digitale sector
moet ontstaan. Ik zou persoonlijk voorzichtig zijn met al te veel veranderingen daarin, want die organisatie is vervolgens heel lang bezig om zich
opnieuw te vormen. Je krijgt ook weer nieuwe afstemmingsproblemen,
namelijk tussen de digitale sector en de niet-digitale sector. Als u een zak
aardappelen fysiek heeft gekocht, valt dat niet onder het toezicht van de
hypothetische autoriteit voor de digitale sector. Stel dat u die zak
aardappelen online koopt. Valt dat dan wel onder de toezichthouder? Je
krijgt dus weer nieuwe afstemmingsproblemen bij iedere samenvoeging.
Ik vraag me af of dat echt gaat helpen en echt een oplossing is voor het
probleem waarvoor we staan.
Dan de Europese samenwerking.
De heer Van Dam (CDA):
Voordat u naar Europa gaat, zou ik u willen vragen om iets meer te
kenschetsen waar in het toezicht vanuit uw perspectief uw specialiteit zit,
en waar die van de AP en de AFM. Dat kan met een korte duiding.
De voorzitter:
Bedoelt u dat gericht op domeinen of meer op het soort bedrijven? De
toezichthouders hebben elk een heel duidelijke taak op basis van bepaalde
wetgeving. Wat bedoelt u dus precies?
De heer Van Dam (CDA):
Hier komen meer toezichthouders voorbij. Ik had me voorgenomen om
die vraag aan meerdere toezichthouders te stellen, om te horen of het
volledig is, of het helemaal afgedekt wordt, of dat zij gaten zien. Het gaat
me er dus niet eens zozeer om dat ik zo briljant ben dat ik verschillen
ontdek tussen de verschillende presentaties. Ik wil graag weten of het
toezicht op de digitalisering en op technologie volledig is. Dat is de
insteek van die vraag.
De voorzitter:
Eerst even het antwoord van de heer Snoep en dan de heer Middendorp.
Het wordt mij anders te onoverzichtelijk.
De heer Snoep:
Zoals ik aangaf in de inleiding, is onze organisatie erin gespecialiseerd om
te kijken hoe markten werken, zowel naar het proces als de uitkomst van
die marktwerking. De AP kijkt heel erg vanuit het perspectief van de
burger: wordt de privacy van de burger voldoende beschermd? Dat zou
soms een uitkomst van marktwerking kunnen zijn. Daarom is het
belangrijk dat de AP en de ACM goed met elkaar samenwerken. In heel
weinig landen in de wereld, maar ze zijn er wel, is de lokale ACM
verantwoordelijk voor de privacy. In de meeste gevallen – mijn inschatting
zou 95% zijn, of misschien wel 99% – zijn dat verschillende instellingen.
Amerika is de grote uitzondering. Dat komt omdat ze daar vrij laat

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

10

privacywetgeving hebben gekregen. Ze hebben het recentelijk ondergebracht bij de Federal Trade Commission, een beetje een equivalent van de
ACM. De AFM bestrijkt alles wat wij doen, maar dan uitsluitend voor de
financiële sector. Wij hebben bepaalde bevoegdheden op het gebied van
marktwerking die de AFM niet heeft. Wij vullen de AFM dus aan op basis
van onze expertise op het gebied van marktwerking, maar de AFM gaat
over consumentenbescherming en de bescherming van bedrijven. Dan
spelen wij geen rol. We spelen dus een rol als het gaat om de uitkomsten
van de marktwerking in de financiële sector. Bij de bescherming van
consumenten tegen financiële bedrijven spelen wij geen rol. Het Commissariaat voor de Media heeft een heel bijzondere rol, met verschillende
type bevoegdheden die bij elkaar komen. Aan de ene kant houdt het
toezicht op de publieke omroepen. Anderzijds houdt het toezicht op de
Mediawet. Ik kan mij voorstellen dat uit uw hoorzittingen naar voren komt
dat het een lastige situatie is dat de Mediawet wel van toepassing is op
bepaalde mediaondernemingen maar niet op andere mediaondernemingen, wat een ongelijk speelveld creëert. Dat is een punt waarvan ik mij
kan voorstellen dat dit in de hoorzittingen ter sprake is gekomen of nog
ter sprake zal kunnen komen. Wij zien ook dat dit een punt.
Waar alle toezichthouders op dit moment mee bezig zijn of over aan het
nadenken zijn, is hoe we het toezicht op algoritmes gaan organiseren.
Daarbij leren we veel van elkaar en werken we goed samen met elkaar,
maar zijn we ook nog een beetje zoekende hoe we dat precies moeten
doen. Ik zeg altijd, ook intern, dat we heel snel een goede manier moeten
vinden om bij bedrijven naar binnen te gaan om ze te vragen of we hun
algoritmen mogen controleren, in de zin van: u zegt nu dat het algoritme
dit doet, prima om te geloven, maar we willen het wel even zien. Je ziet
op dit moment dat de toezichthouders daar nog niet toe in staat zijn. Het
is wel duidelijk dat we daarnaartoe moeten en we verwachten ook dat we
dit op relatief korte termijn onder de knie kunnen krijgen, maar als je praat
over lacunes in het toezicht, is dit een lacune.
Dan het Europese toezicht ...
De voorzitter:
Nee, ik denk dat het nationale deel nu wel beantwoord is. De heer
Middendorp heeft hier nog een aanvulling op en dan gaan we weer terug
naar het Europese toezicht.
De heer Middendorp (VVD):
Ik had een aanvulling op uw opmerking dat het niet alleen gaat over
verschillende domeinen en verschillende bedrijven, maar ook over
overheden. Voordat u aan uw beschrijving begon, had ik u willen vragen
of u daarin ook aandacht kon besteden aan het feit dat verschillende
toezichthouders een verschillende scope hebben. Zo kijkt de AP naar
bedrijven en overheden, terwijl andere toezichthouders dat niet doen.
De heer Snoep:
Dat klopt. Daarin heeft u gelijk. Wij hebben een heel beperkte rol in het
toezicht houden op overheden. Wij kijken eigenlijk alleen maar naar de
overheid wanneer die zich manifesteert als onderneming op een markt.
Dat is onze enige rol ten opzichte van de centrale overheid of van
decentrale overheden.
De heer Middendorp (VVD):
Maar dat is dus vrij belangrijk. De vraag van de heer Van Dam zou ik dus
eigenlijk ook in de context daarvan willen zien. Het zijn goede vragen,
maar als je de overheid erbij haalt, wordt het nog een stukje ingewikkelder. Bij de ACM begrijp ik helemaal dat het zit, zoals het zit, maar
bijvoorbeeld voor de AFM zit het nog net iets anders, denk ik. Binnen de

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

11

samenwerking tussen de toezichthouders is dit volgens mij een essentieel
punt, maar misschien heeft u daar een andere mening over.
De heer Snoep:
Nee, daar heb ik geen andere mening over. Wij als organisatie hebben
nog niet die vraag gehad, maar dat komt ook omdat onze focus echt op de
markt gericht is. Waar we op die markt de overheid actief zien, zien we
een rol voor ons. Waar de overheid als overheid handelt, onttrekt zich dat
aan onze waarneming.
De voorzitter:
Meneer Middendorp, wilt u nog iets vragen hierover? We moeten namelijk
ook nog naar het Europese en we hebben nog maar tien minuten.
De heer Middendorp (VVD):
Voorzitter, u kent mijn belangstelling voor het Europese, dus ik zal het heel
kort houden. Eh, eh ... Oké, we gaan naar het Europese.
De voorzitter:
Als we dadelijk tijd hebben, na de beantwoording over het stuk over
Europa, kunt u wat mij dit betreft dit punt alsnog aan de orde stellen. Nu
dus over naar de Europese schaal.
De heer Snoep:
Wat betreft het toezicht in Europa is het per land een beetje anders
georganiseerd. Waar we als ACM een vrij brede scope hebben, verschilt
dat in Europa per land. In onze positie hebben we soms vier of vijf
verschillende autoriteiten. Je hebt ook toezichthouders die wat meer op
de onze lijken, maar de meeste lijken wat minder op ons. Dat betekent dus
dat de samenwerking in Europa langs de verschillende domeinen op een
net wat andere manier verloopt.
Aan de mededingingskant is de samenwerking het meest actief, omdat de
Europese Commissie daarin een hele zelfstandige rol heeft. De Europese
Commissie is daarin niet alleen maar coördinatiemechanisme, maar legt
zelf boetes op en kan zelf actie ondernemen. Er is ook een afspraak binnen
Europa: als de Europese Commissie iets oppakt, gaan de nationale
autoriteiten niet in concurrentie met de Europese Commissie om hetzelfde
te doen.
Een ander belangrijk element op het mededingingsvlak is dat de nationale
autoriteiten bevoegd zijn als het mededingingsbeperkende gedrag zich
voordoet in hun eigen territorium. Het maakt dus niet waar de onderneming gevestigd is, in of buiten Europa of in welk land in Europa, want
zodra er een effect is in een land, is de toezichthouder bevoegd.
Waar het de consumentenbeschermingsregels betreft, die hier een
belangrijke rol spelen, geldt er een ander systeem. Daar is de toezichthouder bevoegd van het land waar de onderneming is gevestigd. Dat
betekent dus dat voor bedrijven die gevestigd zijn in Ierland, de Ierse
consumentenbeschermingstoezichthouder bevoegd is wanneer het gaat
over diensten die vanuit Ierland in Nederland worden aangeboden. Op het
gebied van privacy geldt precies hetzelfde; dat is een vergelijkbaar
systeem. We hebben dus geen Europese privacytoezichthouder en we
hebben geen Europese consumententoezichthouder.
De samenwerking op mededingingsgebied werkt, naar mijn mening en
ook naar mijn ervaring uit voorgaande jaren, goed. Zoals in iedere
samenwerking zijn er weleens verschillen van inzicht en is het niet perfect,
maar het werkt grosso modo goed. Voor wat betreft het consumententoezicht kan het beter, maar daarvoor geldt dat het nog niet zo lang bestaat
en nog in de kinderschoenen staat. Je ziet wel dat de beweging de goede
kant uit is. Er vindt veel overleg plaats tussen de verschillende toezichthouders. De Europese Commissie pakt ietsje meer een sturende rol en

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

12

spreekt verschillende toezichthouders erop aan. Maar ook daarvoor geldt
dat er verschillende wetgevings- en toezichtstradities binnen Europa zijn,
die soms in de weg zitten.
Om een voorbeeld te geven: er zijn allemaal Europese wetten die over
consumentenbescherming gaan. Je kan die wet op een zodanige manier
interpreteren dat een online-onderneming op haar website altijd een
e-mailadres moet hebben, waarop de onderneming bereikt kan worden.
Er zijn ook ondernemingen die het iets anders hebben georganiseerd. Ze
hebben een chatfunctie die 24 uur per dag zeven dagen in de week
bereikbaar is, en waarmee men direct reageert. Strikt genomen voldoen
ze niet aan de regel van de wet, want ze hebben geen e-mailadres. De
vraag is dan hoe je daar als consumententoezichthouder mee omgaat.
Zeg je als consumententoezichthouder: de wet is de wet; je moet een
e-mailadres hebben? Of zeg je: nee, het gaat om de effectiviteit; de vraag
is of de consument de onderneming online kan bereiken, waarbij het niet
uitmaakt of dat nou via een chatfunctie is of via een e-mailadres. Je ziet
dat sommige landen heel sterk zeggen: de wet is de wet en het maakt
helemaal niet uit wat voor andere functies er zijn. Andere landen kijken
veel meer naar het praktische effect.
Als je een positie als toezichthouder hebt en verantwoordelijk bent voor
de ondernemingen in je eigen land, is dat best ingewikkeld. Want
buitenlandse autoriteiten kunnen jou als toezichthouder vragen om de wet
op een bepaalde manier te handhaven en dat moet je dan in beginsel
doen. Zo krijgen wij verzoeken van autoriteiten die zeggen: de wet is de
wet; ik zie hier een onderneming die vanuit Nederland opereert en die
geen e-mailadres heeft, maar wel een chatfunctie; doe er wat aan. Dan
moeten wij vervolgens in overleg met die onderneming, en in overleg met
die buitenlandse toezichthouder, om te proberen dat op te lossen. Dat is
ingewikkeld, maar het is niet onmogelijk.
Ik denk dat dit voorbeeld laat zien dat het geen kwaad zou kunnen als er
iets meer centrale Europese sturing zou zijn op dit soort dingen in het
consumentenbeschermingstoezicht, net zoals je dat in het mededingingstoezicht ook hebt. Uiteindelijk is het een politieke afweging die gemaakt
moet worden.
De voorzitter:
Ik zou zelf ook nog één vraag willen stellen, maar wil eerst polsen of de
heer Middendorp een aanvulling heeft op dit punt.
De heer Middendorp (VVD):
Ja, want er kwam wel een belangrijk punt ter sprake. U zei ergens aan het
begin: het mooie is dat de Europese Unie nu ook op het gebied van de
digitale economie met regels en voorstellen kan komen. Van mededingingstoezicht is traditioneel goed bepaald waarover we het in Europa met
z’n allen hebben, maar het consumententoezicht kan zomaar ineens een
heel stuk breder zijn en heel andere elementen in de digitale economie
raken. Sterker nog, het kan ook de relatie tussen overheden en consumenten raken. Bent u het in dat speelveld eens dat we op aan het
schuiven zijn naar een meer Europese rol? Ik geloof dat u net zei dat u dat
een goede trend vond voor het consumententoezicht.
De heer Snoep:
Het consumententoezicht ziet niet op de relatie tussen overheid en
consument. Het moet gaan om een handelaar, in de zin van: het moet een
commerciële partij zijn die zich op een markt begeeft en een product of
een dienst aanbiedt. Ten tweede worden de consumentenbeschermingsregels op dit moment al Europees vastgesteld. Er is dus een grote mate
van Europese harmonisatie op dit moment. Het gaat nu alleen nog maar
over het toezicht op die regels. Dat is helemaal in handen gegeven van de
nationale autoriteiten. Ik denk dat zeker kleine landen niet in staat zijn om

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

13

voldoende macht uit te oefenen wanneer die iets willen bereiken ten
opzichte van grote ondernemingen.
Ik geef een puur hypothetisch voorbeeld. Stel dat wij het Facebook heel
moeilijk zouden willen maken en Facebook opeens zou zeggen: weet je
wat, dan doen we maar even geen Facebook in Nederland. Ik denk dat dit
een heel ingewikkelde situatie zou veroorzaken. Dat laat zien hoe
belangrijk het is om tegen die heel grote techondernemingen Europees
samen te werken.
Er is ook een keerzijde. Ik heb in het verleden heel veel grote, ook digitale
ondernemingen bijgestaan. Als die worden geconfronteerd met 27
verschillende toezichthouders, die de wet op 27 verschillende manieren
interpreteren, dan worden alle voordelen van schaalvergroting en
harmonisering in Europa tenietgedaan. Daarin de juiste balans vinden is
een belangrijke opgave voor ons allemaal.
De voorzitter:
Helder. Ik begrijp dat onze volgende gast er niet is, dus dan permitteer ik
mezelf ook nog één vraag. Het ging al heel even over data. Een combinatie van data, die bij de grote techreuzen heel nadrukkelijk in zeer ruime
mate aanwezig zijn, en algoritmes levert een enorme economische
marktkracht op. U gaf net al aan dat de verschillende toezichthouders nog
niet onder de algoritmemotorkap kunnen kijken. Data is ook nog geen
goed afgebakend onderdeel in het mededingingsrecht. Tegelijkertijd
zeggen heel veel mensen die er veel meer verstand van hebben dan ik,
allemaal hoogleraren, tegen mij: je moet niet alleen naar de aanpassing
van wetgeving kijken, maar juist naar de toezichthouders, want die zullen
alerter, proactiever en creatiever gaan handelen en er zelf invulling aan
geven op basis van de ruim te interpreteren wetgeving, die er gewoon is
en ook voldoet voor de digitale wereld. Kunt u, focussend op de combinatiekracht van data en algoritmes, ingaan op wat de mogelijkheden voor
toezichthouders zijn om zelf in te grijpen? Ik snap dat het op kleinere
stukken met leidraden kan, maar als het om de zware stukken gaat, vraag
ik me af waar de balans ligt tussen toezicht en wetgeving.
De heer Snoep:
Ik geef de hoogleraren die dat zeggen gelijk, in de zin van dat er op grond
van de huidige wetgeving heel veel mogelijkheden zijn om problemen op
te lossen. Ik geef een voorbeeld. Wij hebben onlangs een fusie goedgekeurd tussen een uitgever van schoolboeken en digitaal leermateriaal
voor middelbare scholen en een distributeur van leermateriaal, die ook de
eigenaar is van veruit het grootste schooladministratiesysteem dat in
Nederland wordt gebruikt. Wij zagen daar, in die combinatie van die twee,
problemen voor de concurrentie. Het zou namelijk heel goed kunnen dat
in de digitalisering van het onderwijs, die heel belangrijk is, de eigenaar
van die samengevoegde onderneming zegt: ons fantastische digitale
schoolsysteem is alleen maar toegankelijk voor uitgevers van onze eigen
schoolboeken en ons eigen digitale schoolmateriaal en niet voor andere.
Wij hebben dus verplichtingen opgelegd aan die onderneming om ervoor
te zorgen dat dat schooladministratiesysteem toegankelijk blijft en dat de
noodzakelijke data daarvoor ook worden gedeeld met andere schoolboekuitgevers, zodat die markten in ieder geval voldoende kunnen blijven
concurreren in de toekomst, ook op dat gebied van het digitale schoolmateriaal.
Wij hebben daar dus geprobeerd te zoeken naar de juiste balans tussen
aan de ene kant de efficiencyvoordelen van zo’n fusie tussen een
groothandel, tevens eigenaar van een digitaal schooladministratiesysteem, en een schoolboekenuitgever, en aan de andere kant ervoor
zorgen dat die markten toegankelijk blijven, zodat innovatie en concurrentie op die markten mogelijk blijven. Dat is een voorbeeld om aan te
geven hoe wij met het huidige, bestaande instrumentarium toch proberen

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

14

aandacht te geven aan of rekening te houden met die nieuwe datamacht
die aan het ontstaan is en die waarschijnlijk nog wel zal doorlopen.
De voorzitter:
Dank u wel. Ik kijk even naar de collega’s. Ik denk dat we dit blok kunnen
afsluiten. Hoewel het altijd voelt alsof het net iets te kort is en er nog veel
meer vragen zijn, weet ik inmiddels ook dat dat juist een goed teken is. Ik
dank u zeer dat u bij deze gelegenheid wilde zijn, dat u al onze vragen
heeft beantwoord en dat u het verhaal vanuit de ACM heeft neergezet. Wij
zullen nu naar het volgende blok gaan. Dat is met de heer Van Zutphen, de
Nationale ombudsman.
De vergadering wordt enkele ogenblikken geschorst.
De voorzitter:
Wij gaan direct door met het tweede uur van deze kennisdag. Ik zei het net
al: de Nationale ombudsman, de heer Van Zutphen, is nu in ons midden.
Blok 2
Gesprek met:
– de Nationale ombudsman, de heer Reinier van Zutphen
De voorzitter:
Ook met de heer Van Zutphen zullen wij een uur spreken over alles wat te
maken heeft met het onderzoeksveld van de tijdelijke commissie Digitale
toekomst. Wij gaan daarbij natuurlijk vooral in op datgene wat de
Ombudsman probeert te doen. De heer Van Zutphen zal dus vooral zijn
schijnwerper op dit vraagstuk richten vanuit de organisatie-invalshoek,
denk ik. Vervolgens zullen de drie leden en ikzelf als voorzitter – ik ben
meer meewerkend voorman, want ik stel ook vragen – met u het gesprek
aangaan. We doen dat op een wat interactievere manier, dus vraagantwoord, en iedereen kan inspringen. Ik probeer het een beetje te
coördineren, maar het moet een informeel en informatierijk gesprek zijn.
Meneer Van Zutphen, ik zou aan u willen vragen om ons in ieder geval
even mee te nemen voor een aftrap van uw kant.
De heer Van Zutphen:
Dank u wel, voorzitter. Dank u wel dat ik nog wat later in het programma
mag optreden. Ik geloof dat ik eerder gepland was, maar het is goed
terechtgekomen. Dank u wel daarvoor, want ik heb toch wel een paar
dingen die ik graag aan u wil vertellen over wat wij in onze organisatie, de
Nationale ombudsman, tegenkomen als het gaat over digitalisering en
wat we tot nu toe gedaan hebben. Ook wil ik gewoon nog eens een paar
dingen onder uw aandacht brengen die wij met z’n allen belangrijk vinden
en waar we overigens inderdaad ook wel een paar dingen over
geschreven hebben.
Even voorop: het gaat ons om de burger, om het perspectief van de
burger, ook in de grote operaties die plaatsvinden als het gaat om
digitalisering. Dat zal u niet verbazen. Die digitalisering kan de burger op
allerlei terreinen dwarszitten, maar we zien ook heel vaak dat de burger
erbij gebaat is. We hebben een tijdje geleden aan 1.500 Nederlandse
burgers gevraagd hoe ze aankijken tegen de voorzieningen en de relatie
die een burger onderhoudt met de overheid tussen laten we zeggen nu en
tien jaar, in 2030. Die mensen lieten ons weten dat ze heel goed snappen
dat ze veel meer zelf zullen moeten doen en dat de digitale wereld en de
mogelijkheden daarvan daar enorm behulpzaam bij zullen zijn, maar dat
ze wel verwachten dat daartegenover staat dat de overheid dat met
deskundigheid kan begeleiden als er problemen zijn. Ze vragen dus ook
kennis aan de kant van de overheid en de ambtenaren die daar aan het

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

15

werk zijn. Uiteindelijk willen ze als het echt misloopt in die relatie, als er
problemen zijn of als er een informatieachterstand is, heel graag een
gezicht zien en een gesprek kunnen voeren. Dat is eigenlijk de grote lijn.
Er is nog veel meer gezegd in het kader van wat wij aan de burgers
hebben gevraagd, maar als het gaat over de digitalisering, dan is het
daarop toegespitst. Ze weten dat het handig is. Ze weten ook dat het
moet, dat het onafwendbaar de weg is die we moeten kiezen. Maar ze
willen heel graag ook deskundigheid zien aan de andere kant van de tafel,
bij de overheid.
We hebben in de afgelopen jaren een aantal dingen geschreven over de
digitalisering. U kunt denken aan een onderwerp als mensen die na hun
overlijden nog in MijnOverheid bleven figureren, waar nabestaanden
enorm veel problemen mee hadden. Dan wordt er altijd gezegd «het kan
niet anders» of «het ligt aan het systeem», maar als je maar voldoende
aanhoudt en vasthoudt, blijkt uiteindelijk dat er wel allerlei oplossingen
mogelijk zijn. Als u iets zou moeten doen, dan is dat dus vasthoudend zijn.
Als u vindt dat iets moet kunnen, dat het systeem er is voor de burgers,
voor de mensen, en dat het zo moet functioneren dat het ook daadwerkelijk helpt, dan helpt het om gewoon vol te houden tegenover degenen
die die dingen aan het ontwerpen zijn.
Een ander ding dat we tegen zijn gekomen en met regelmaat tegenkomen,
is dat digitalisering heel erg wordt gebruikt om wetten, regels en beleid
een-op-een om te zetten in nullen en enen; ik zeg het maar een beetje in
mijn eigen taal. Dat betekent eigenlijk dat er niet is nagedacht over de
uitgangspunten van die regels, die wetten en dat beleid. Die zomaar
omzetten naar de digitale werkelijkheid levert onbegrijpelijke digitale
informatie op. Dat levert hele warrige digitale formulieren op. We hebben
net een rapport geschreven over die digitale formulieren. Daarin zeggen
we: hou het simpel. Dat is een ander iets waarvan ik denk: dat zou je ook
echt wel hoog in het vaandel moeten hebben. Mensen laten ons allerlei
dingen weten over hoe zij tegen die digitale formulieren aankijken. Als we
daar dan naar vragen bij de betrokken organisaties, of het nou gaat om
een gemeente, het UWV of Toeslagen, krijgen we vaak als antwoord: ja,
maar er is nou eenmaal een wet en daar moet het van. Als we daar echt
doorheen prikken, dan is dat vaak helemaal niet waar. De reflex om
dingen, omdat ze in een regel staan, een-op-een om te zetten in digitale
regels en werkelijkheid, is dus ook iets waar je voor moet waken.
Ik was afgelopen week bij de Afdeling bestuursrechtspraak van de Raad
van State. Die had een bijeenkomst georganiseerd met een mevrouw die
tribunaalpresident is bij een digitaal tribunaal in Canada. Dat was
buitengewoon interessant. Uit de zaal kwam de vraag: mensen maken
daar graag gebruik van, dus hoe hebben jullie dat nou gedaan? Het eerste
wat ze toen zei was: je moet niet de wetten en regels omzetten in nullen
en enen en digitale systemen; je moet aan de mensen gaan vragen wat ze
graag zouden willen hebben, wat ze nodig hebben om hun problemen
digitaal op te kunnen lossen. Vertaal wat ze nodig hebben om hun
problemen digitaal op te lossen naar systemen en zorg er dan voor dat
wetten en regels als randvoorwaarden functioneren. Dat is de opbouw.
Wij denken vaak nog veel te traditioneel «wat we nu hebben, gaan we
omzetten» in plaats van: we zouden de kans moeten grijpen om het te
vernieuwen.
Bij grote organisaties die gaan digitaliseren of die ICT-toepassingen gaan
gebruiken, komen we heel vaak problemen tegen omdat dit direct
gepaard moet gaan met financiële doelstellingen. Dat is een dodelijke
combinatie; toxisch, zou ik bijna zeggen. Als je digitalisering en financiële
doelstellingen aan elkaar koppelt, worden de doelen in eerste instantie
ook niet gehaald. Bij de decentralisatie is het voor een heel groot deel zo
gegaan. U zou dus vooral moeten kijken naar de manier waarop systemen
in de toekomst gaan functioneren, wat ze op termijn zouden kunnen
opleveren en wat het gemak daarvan is. Het voorbeeld van de tribunaal-

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

16

president uit Vancouver in Canada was heel duidelijk. Op termijn zijn daar
vele honderden miljoenen bespaard, maar op voorhand was er geen
doelstelling meegegeven, want dat zou beperkend zijn geweest voor
datgene wat er ontwikkeld werd. Als je dingen gaat veranderen, zorg er
dan ook voor dat er ruimte is om te experimenteren, maar maak alleen
experimenten waarvan je zeker weet dat ze uitgerold kunnen worden als
ze slagen. Vaak merken we dat er allerlei systemen worden uitgetest die,
als ze functioneren, voor heel Nederland zouden moeten gelden, maar dat
dit dan niet lukt omdat er geen geld meer voor is. Er was dan wel veel
geld voor het experiment, maar geen geld om er een staande organisatie
van te maken.
Een paar dingen nog in deze inleiding. Wat zijn we tegengekomen? Ook
zelfredzame burgers lopen vast in digitale systemen, niet alleen degenen
die moeite hebben met lezen en schrijven. Systemen zijn te ingewikkeld,
te complex en er wordt te veel van mensen gevraagd. Zelfredzaamheid is
dus inmiddels ook voor die mensen een illusie geworden. De overheid
heeft het lang niet altijd op orde. De overheid hanteert bepaalde manieren
van binnenkomen in systemen waardoor andere voorzieningen worden
geblokkeerd. Daarbij doel ik bijvoorbeeld op de Basisregistratie Personen.
Wie daar om welke reden dan ook niet in komt, heeft geen toegang, ook
geen digitale toegang, tot allerlei voorzieningen die heel erg nodig zijn,
bijvoorbeeld voor toeslagen, inkomen, woning en zorg. Kijk dus nog een
keer goed hoe de toegang tot die systemen is geregeld. Hebben we geen
belemmeringen opgeworpen waardoor mensen niet eens in de digitale
wereld kunnen komen?
Ik heb al iets gezegd over wat mensen over een aantal jaren van waarde
vinden als ze bezig zijn geweest met mooie digitale systemen. Ze willen
uiteindelijk ook op een fysieke locatie een gezicht tegenover zich zien,
iemand met wie ze kunnen praten. Dat moet ook georganiseerd worden.
We hebben ooit een prachtige infographic gemaakt met vier uitgangspunten, die we zouden kunnen toesturen maar die ook op de site te
vinden is. De overheid moet haar verantwoordelijkheid nemen. De
toegankelijkheid moet geregeld zijn. Het moet gebruiksvriendelijk zijn. Het
moet oplossingsgericht zijn. Dat lijken enorme dooddoeners als je ze zo
hoort, maar toch komt bij elk rapport dat we schrijven een van die vier
uitgangspunten, of soms een combinatie ervan, aan de orde als een
probleem waardoor dingen niet behoorlijk zijn verlopen.
Dan nog iets over machtigingsvoorzieningen, bijvoorbeeld in relatie tot
ons rapport over MijnOverheid en toegang tot de Berichtenbox. Er blijkt
dat er mensen zijn die veel meer verwachten van de overheid dan wat er
nu ICT-matig mogelijk is, namelijk een goede machtigingsvoorziening,
waardoor ze bijvoorbeeld als bewindvoerder kunnen optreden, voor hun
ouders zaken kunnen regelen of er geen problemen zijn met DigiD als ze
vanuit het buitenland binnen willen komen. De systemen die we nu
hebben gebouwd, kennen nog wel heel veel definitieve hindernissen,
waardoor de toegang min of meer onmogelijk wordt gemaakt als anderen
erin zouden willen. Daar moet ook echt heel goed naar worden gekeken. Ik
vraag nu al heel lang om een machtigingsvoorziening, maar die is er nog
steeds niet. Iedere keer zeggen ze dat die er bijna is, maar het blijkt dan
toch weer te ingewikkeld te zijn. Daarbij spelen overigens ook wel een
aantal veiligheidseisen een rol die vanuit Europa worden gesteld. Maar
machtigingen zijn heel erg nodig om het voor het vangnet in de sociale
omgeving van de minder zelfredzamen, dat het best wil, mogelijk te
maken om ook echt aan het werk kan gaan.
Dan is er nog het punt van de samenwerking tussen overheden en
overheidsdiensten. Er wordt wel heel veel gevraagd van mensen, is onze
ervaring, als het gaat over het steeds weer aanleveren van gegevens. Data
moeten correct zijn. Ik geef een beetje een flauw voorbeeld, maar het is
wel helder. Als je bij het CAK werkt en iets moet veranderen in de
systemen omdat je bezig bent met buitenlandregelingen, dan moet je

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

17

mensen drie keer bellen om te vragen of ze hun bankrekeningnummer
willen doorgeven, want wat in het ene systeem zit, mag in het andere niet
gebruikt worden. Dus het gaat ook heel erg over de vraag hoe al die
verschillende belangrijke overheidsdiensten gaan samenwerken om
ervoor te zorgen dat mensen de eenvoud van het systeem gaan ervaren
en de voordelen gaan onderkennen, en tegelijkertijd de gegevens wel
veilig zijn en bewaard kunnen worden op de manier waarop wij dat in de
wet hebben voorgeschreven. U zult daar ook vast met de heer Wolfsen
over hebben gesproken.
Dit als een soort van eerste aftrap de dingen die wij zijn tegengekomen. Ik
kan u straks ook nog wel een paar rapporten noemen, maar dit maar even
als begin.
De voorzitter:
Dit is, denk ik, een uitstekend begin. Dank voor deze inleiding. Dan wil ik
graag de heer Middendorp de gelegenheid geven om vragen te stellen.
De heer Middendorp (VVD):
Dank voor de inleiding. Ik moet helaas iets eerder weg. Het was goed om
dit mee te maken en ook deze vragen te mogen stellen. We hebben
natuurlijk wat vaker al over deze punten gesproken en het is heel
verleidelijk om nu in te gaan op bijvoorbeeld de Basisregistratie Personen
of de machtigingsproblematiek. Maar een niveau daarboven is de vraag
wat wij vanuit die perceptie als Kamer anders zou kunnen doen om dat
soort problemen te kunnen oplossen, problemen die eigenlijk al zolang
spelen als ik hier ben en, naar mijn indruk, nog een stuk langer. Dat is één.
Twee: ik was ook bij die bijeenkomst bij de Raad van State. Het viel mij
inderdaad op dat daar een voorbeeld werd gegeven van ruimte, laat ik het
zo zeggen. Dat was volgens mij uw tweede observatie. Hoe kunnen wij dat
nou doen vanuit de Kamer, die ruimte geven? Want vaak snoeren moties
die ruimte juist volledig in.
De heer Van Zutphen:
Zonder mij een oordeel te verwaardigen over uw werk denk ik dat het heel
belangrijk is dat in het kader van het burgerperspectief aan de orde komt
dat we aan de burgers vragen waar het echt om gaat bij de dingen die we
in wetten gaan omzetten en de systemen die we in werking gaan laten
treden. Welke wensen en verlangens hebben zij? Hoe gaan zij de
systemen gebruiken? Het viel mij op bij het voorbeeld van de mevrouw uit
Canada dat het mogelijk was om iets te gaan ontwikkelen wat heel erg
afwijkt van wat wij allemaal normaal en gangbaar vinden en wat wel
toegankelijk was en wel werd gebruikt. Overigens maak ik daarbij de
kanttekening dat daardoor veel meer mensen gebruik gingen maken van
die digitale small claim courts dan er tot op dat moment in de echte
gerechtshoven en de rechtbanken van Canada aan de orde waren. Er zit
ook nog een soort van uitbreidingsrisico in.
Ik denk dat u de vraag moet stellen met wie u heeft gesproken om dit
systeem te ontwerpen en dan niet alleen de experts. We zien heel vaak dat
het gaat om experts, mensen die er verstand van hebben, mensen die
dingen kunnen bouwen, of ombudsmannen of rekenkamers, maar vraag
het nou aan de mensen zelf. Mijn ervaring is dat als je met de mensen zelf
gaat praten, en vraagt wat zij nodig hebben en wat zij zouden willen
kunnen ... Dan zou je de systemen kunnen gaan bouwen. We hebben
allerlei uitvoeringstoetsen, maar ik zou zeggen dat de toets moet zijn of de
vragen die de mensen stellen over de systemen die zij moeten gaan
gebruiken, goed in kaart zijn gebracht.
Toen wij concreet in het rapport van Hou het simpel vragen stelden aan de
burgers die commentaar hadden geleverd op een aantal van die formulieren, bleek dat daar gewoon niet naar wordt geluisterd. Dus ik zeg:
luister naar hen, daar wordt het alleen maar beter van. Je moet ook niet

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

18

zeggen: dat doen we een keer en dan staat het voor altijd vast. Je moet
ook niet denken in 2.0, 3.0 en 4.0. Je moet ervoor zorgen dat het een
ongoing proces is zodat iedere keer weer als mensen opmerkingen
hebben, vragen stellen, vragen om verduidelijking of nadere wensen
hebben, die ook verwerkt kunnen worden. Daar zou u op moeten letten,
denk ik. Het vraagt er dus wel om dat als hier eenmaal iets is gepasseerd,
dat op een of andere manier in de gaten wordt gehouden en er niet wordt
gewacht tot het problemen oplevert en weer in de Kamer aan de orde
komt als een probleem.
De voorzitter:
Ik zie dat de heer Middendorp nog een aanvullende vraag wil stellen op
dit punt.
De heer Middendorp (VVD):
Ik ben juist heel benieuwd of u een oordeel heeft over ons Kamerwerk in
dezen, want deze commissie is juist opgericht om na te gaan hoe wij
bijvoorbeeld suggesties kunnen vragen aan de burgers en er daarna voor
kunnen zorgen dat het ook gebeurt. Ik zal een voorbeeld geven. Bij mij
komt vaak langs dat mensen verbaasd zijn dat je op mijnoverheid.nl wel
berichten krijgt, maar niets terug kunt sturen. Die vraag heb ik aan de
staatssecretaris voorgelegd. Het gaat niet om het specifieke punt, maar
daar zie je dus hoe dat wordt opgevolgd. Ik ben dus juist wel heel
benieuwd naar uw oordeel over hoe de Kamer werkt in dat speelveld.
De heer Van Zutphen:
Ik vind dat een heel mooi voorbeeld. Ik heb ook al eens iets geschreven
over de Wet elektronisch berichtenverkeer. In het kader van
mijn.overheid.nl hebben wij ook opgeschreven dat het eigenlijk toch raar
is. Vroeger hadden wij een systeem waarin je als je een brief schreef, een
brief terugkreeg of je kreeg een brief en dan schreef je een brief terug. Nu
krijg je een mailtje, maar je kunt niet terugmailen. Je moet een brief
terugschrijven en die raakt zoek. Dat is natuurlijk geen verbetering. Dat is
gebruik van ICT, maar het is geen verbetering. Ik ben dat heel erg met u
eens.
Een ander voorbeeld zit een beetje in de sfeer van de rechtspraak, maar
ook wel van regelgeving. U weet wat mijn opdracht is, maar als u daar zo
naar vraagt, kan ik wel iets zeggen over wetgeving. Kijk, als wij wetgeving
maken waarin staat dat in plaats van bekendmaking via de normale weg
– wat wij dan nog normaal vinden: de krant, een bericht en aanplakken bij
het gemeentehuis – bij verordening mag worden bepaald dat digitale
berichtgeving de enige manier van bekendmaking is – en die is er want
verordeningen kunnen enkel digitaal bekend worden gemaakt – dan
gelden ze als bekend gemaakt en dus van kracht. Dan heb je een heleboel
mensen die dat niet kunnen navlooien.
Er is een voorbeeld van een meneer in Vorden die ’s morgens wakker
wordt van de crossmotoren achter zijn huis in dat prachtige bos. Hij
vraagt: hoe kan dat nou, dat dat daar mag? Het antwoord is: ja meneer, de
verordening laat toe dat dit enkel elektronisch bekend is gemaakt. Hij zegt
dan: ja, maar ik heb geen computer. Het antwoord van de Raad van State
is vervolgens: dit is voldoende volgens de regels die zijn gemaakt, ook in
uw parlement. Dit betekent dat die vergunning op de juiste manier, op de
goede momenten met juridische waarborgen is afgegeven. Daar kan geen
mens meer wat aan doen.
U zou er veel beter op moeten letten of de regels die worden gemaakt, er
wel voor zorgen dat iedereen kan blijven meedoen. Dan kom ik toch een
beetje bij de titel van mijn jaarverslag, want het sluit dus ook uit. Zodra je
moet constateren dat de regels die wij maken op het terrein van de
digitale regelgeving en wetgevende systemen mensen uitsluit, moeten er
overal rode lampjes gaan branden.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

19

Mevrouw Van Weerdenburg (PVV):
Wat u zegt: hou het simpel en vraag aan de burgers wat zij nodig hebben;
spreekt mij en mijn partij ontzettend aan. De burger als uitgangspunt,
maar burgers hebben natuurlijk als perspectief wat er nu al is. Als je het
hebt over belastingen, dan was er eerst het papieren formulier en werd er
gedacht: het zou handig zijn als ik dat op de computer kon doen. Vijftien
jaar geleden had ik niet kunnen bedenken dat ik een iPhone nodig zou
hebben, maar nu kan ik echt niet meer zonder. Dus het is ook een beetje
de industrie die laat zien wat er mogelijk is en dan denken burgers
misschien: o, dat is handig. Nu vragen ze om een app, maar vroeger
wisten wij niet wat dat was. Is het niet een beetje te beperkend om
helemaal van de burger uit te gaan? Zou een systeem van wisselwerking
niet beter zijn? Als er software of wat dan ook wordt ontwikkeld, wil men
dat ook nog wel eens aan leken laten zien. Zij komen soms op dingen
waar de ontwikkelaars niet eens aan denken. Ziet u mogelijkheden voor
een soort wisselwerking?
De heer Van Zutphen:
Jazeker. Ik denk dat het heel belangrijk is dat de wetgever, maar ook het
bedrijfsleven, ontwikkelaars, toekomstkijkers en andere mensen die er
echt verstand van hebben, veel meer dan ik, zeggen: kijk, deze kant gaat
het op. Er is misschien een spreiding van keuzes die worden gemaakt,
maar dat er een bepaalde richting is ingezet, kun je wel laten zien. Dat is
ook de vraag aan onze burgers: hoe denk jij dat het er in 2030 uitziet, want
dan kunnen wij dat spiegelen aan wat anderen op dit moment ontwikkelen. Dan kun je nog op tijd aan mensen vragen: wat vind je belangrijk,
de gebruiksvriendelijkheid of de duidelijkheid? Dus ja, ik denk niet dat je
aan de burgers moet vragen hoe zij de ICT-systemen de komende tien jaar
ingericht zouden willen hebben. Dat gaat natuurlijk niet. Je moet hen ook
bij de hand nemen en zeggen wat er gaat gebeuren. De overheid heeft
daar kaders voor ontwikkeld. Dat vind ik ook erg belangrijk, dat die kaders
helder en duidelijk zijn, maar er moet een echte plaats zijn om te kunnen
meepraten over de manier waarop het uiteindelijk bij de burger wordt
gebracht. Ik denk dat het gebruiksgemak belangrijk is zodat het iets is
waar iedereen mee kan omgaan.
U noemde de belastingaangifte. We zagen dat voor heel veel mensen de
vooraf ingevulde aangifte die je gewoon digitaal kunt raadplegen en
waarbij je alleen op ja hoeft te klikken, heel praktisch is. Maar toch is er
een groot aantal met name oudere mensen die daar heel veel moeite mee
heeft en die dachten dat zij daarmee hun zelfstandigheid verloren. Dat
was misschien in onze ogen niet zo, maar voor hen was dat wel zo en zij
haakten af. Het is niet alleen maar je eigen waarheid en werkelijkheid en
weten wat er gebeurt, maar ook je inleven in de ander, in wat het moeten
gebruiken van een systeem met zich meebrengt. Dat eensporenbeleid is
overigens door de fiscus opgegeven. Wij hebben het rapport De blauwe
envelop uitgebracht. Daar is veel discussie over geweest, ook bij de
overheid zelf. Uiteindelijk is er gezegd dat er een tweesporenbeleid, een
tweekanalenbeleid of een multikanalenbeleid moet zijn. Dat vind ik ook
heel goed. Dat je op een gegeven moment probeert om zoveel mogelijk
mensen mee te laten doen, lijkt me ook heel belangrijk. Maar vanuit mijn
perspectief en de opdracht die wij hebben om te kijken hoe het zit met de
burgers die die systemen gaan gebruiken, blijven oudere mensen een
kwetsbare groep.
Wij hebben in Nederland 2,5 miljoen laaggeletterden. Die moeten ook
meekunnen met de nieuwe systemen. Ik weet dat er soms wordt gezegd
dat zij zelfs baat hebben bij digitale systemen. Dat geldt voor een heel
kleine groep van die 2,5 miljoen. Dus ik ontken niet dat het zo is.
Sommigen hebben er echt baat bij en kunnen daardoor beter uit de
voeten, maar heel veel mensen blijven op achterstand als de taal op de
schermen te snel weer verdwijnt en de volgende bladzijde al weer weg is

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

20

voordat je op «correctie» hebt kunnen drukken. Nou, dat soort dingen. Het
zijn dus vaak heel kleine, praktische dingen die ik noem, maar die zijn in
het ontwerpen wel heel erg belangrijk.
Ik had het misschien in de inleiding moeten zeggen, maar mensen willen
ook graag dat als zij een besluit krijgen, bijvoorbeeld van de Belastingdienst of van Toeslagen, en zij willen weten wat er staat, er iemand is die
dit kan uitleggen. Dat zijn digitale besluiten waar letterlijk geen mens
meer aan te pas komt. Het zijn vaak onbegrijpelijke dingen. Als ik een
blauwe envelop terugkrijg, hoop ik altijd maar dat wat ik heb ingevuld,
klopt met wat zij vervolgens voor mij invullen. Er zijn af en toe echter heel
pertinente vragen over kinderbijslag, het terugbetalen van toeslagen en
allerlei andere dingen die je aan mensen moet kunnen uitleggen. Ook die
eis geldt niet alleen voor ouderen en laaggeletterden, maar voor iedereen.
Dus besluiten die digitaal worden gegenereerd door systemen, moeten
uiteindelijk uitlegbaar zijn. Ik knoop hierbij aan bij de bestuursrechters van
de Raad van State die hierover iets hebben gezegd. Als je het algoritme
niet kunt uitleggen, mag je het eigenlijk niet gebruiken.
De heer Van Dam (CDA):
Ik wil iets vragen over de burger die uiteindelijk ook op zoek is naar een
mens bij de overheid. Dat is een thema dat mij wel aanspreekt. Ik heb hier
voor mij een evaluatiedocument over het functioneren van de basisteams.
Dat is ooit eens opgesteld door Terpstra en anderen. Wat mij daarin altijd
aansprak, is het begrip «de abstracte overheid», de overheid die zich bij
de politie terugtrekt op de bureaus. Je kunt aangifte doen via de website.
Allemaal van dat soort dingen en dat is niet alleen bij de politie zo, maar
bij heel veel overheidsdiensten is de overheid een website. In combinatie
met de 2,5 miljoen laaggeletterden, maar ook een aantal andere mensen
bijvoorbeeld ouderen – waar ik mezelf soms ook al toereken – die ook een
horde moeten nemen om digitaal mee te komen, leidt dit tot de vraag of
het niet eens tijd wordt dat wij in onze grondrechten iets op dat vlak gaan
vastleggen. Ik volg al wel vaker rapportages van uw kant. Daarin wordt in
verschillende vormen op verschillende beleidsthema’s toch regelmatig
aandacht voor gevraagd. Ik denk dat wij ervoor moeten uitkijken dat wij
weer allemaal regeltjes stellen. Zouden wij niet moeten nagaan of ons
grondrechtenapparaat, of dat nou op Europees of Nederlands niveau is,
voldoende is toegesneden op die waarde achter het idee dat die burger
uiteindelijk aansluiting moet kunnen vinden? Vindt u dat wij op dat punt
voldoende zijn toegerust?
De heer Van Zutphen:
Ik kan er niet zomaar ja of nee op zeggen. Ik zie natuurlijk dat dit belangrijk
is. Digitale toepassingen en systemen brengen in ieder geval met zich
mee dat ze raken aan al bestaande grondrechten, sociale grondrechten,
het recht op informatie, procedures die digitaal worden gevoerd en de
vraag welke procedurele waarborgen daarbij horen. Als het gaat over de
toegang tot het recht bijvoorbeeld, is dat ongelofelijk belangrijk. Ik zie dat
met name door de Raad van Europa heel veel documenten worden
opgesteld en afgescheiden die gaan over de digitale wereld en wat je dan
vanuit het mensenrechtenperspectief mag verwachten. Ik vind dat heel
belangrijke dingen die ook inspiratie opleveren voor ons werk. Dat heeft
nog niet op dat niveau daar geleid tot de gedachte dat er een bepaalde
formulering of zelfs wel een artikel aan de conventie moet worden
toegevoegd. Ik vind dat dit heel erg hoort bij het recht op informatie, het
recht om te kunnen meedoen, dus participatie en dan niet zozeer in die zin
dat je een keer hebt mogen zeggen wat je vindt, maar dat je ook daadwerkelijk invloed hebt op je eigen werkelijkheid, je eigen wereld en je eigen
manier van leven. Dat zou je misschien wel kunnen vastleggen in
fundamentele rechten, maar daar moet ik verder over nadenken. Wij
schrijven zo nu en dan over het behoorlijkheidsprincipe, dat wij dan maar

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

21

omschrijven als zijnde «fundamentele rechten gerespecteerd». Wij komen
een aantal dingen tegen als wij over digitale onderwerpen schrijven
waarvan wij niet zozeer zeggen dat het fundamentele digitale recht is
geschonden, maar wel dat fundamentele rechten niet in acht zijn
genomen.
De heer Van Dam (CDA):
«Herhaling is de kracht van onze boodschap», dat is volgens mij de
werktitel waar u het mee moet doen. Ik hoor u bij herhaling op het punt
van de benaderbare overheid en zeker in de sfeer van digitalisering; het
woord «Belastingdienst» is net gevallen. Zouden wij dit niet in regels
fundamenteel iets meer moeten aanpunten? Ik meen dat bijvoorbeeld ook
de Afdeling bestuursrechtspraak het heeft gehad over algemene beginselen van behoorlijk digitaal bestuur. Het zou toch uitmaken als het recht
op menselijke tussenkomst, ook bij de overheid uiteindelijk, specifieker
wordt vastgelegd? Daar komt mijn suggestie vandaan met betrekking tot
de Grondwet, maar Europees zou ook heel mooi kunnen. Misschien heb ik
iets bij u wakker gemaakt?
De heer Van Zutphen:
Het prikkelt sowieso. Ik houd me erg vast aan hoofdstuk 9.2, waarin wordt
gesproken over de behoorlijkheid. Dat is mijn wettelijke grondslag voor
het handelen. Vanuit die behoorlijkheid kan ik naar heel veel verschillende
aspecten kijken. Ik kan me goed voorstellen dat we het nog verder
brengen dan alleen de Algemene wet bestuursrecht. Ik vind samen met u
dat het op z’n minst een algemeen uitgangspunt moet zijn dat er
menselijk contact moet kunnen zijn tussen iemand die de overheid
vertegenwoordigt en namens de overheid kan optreden, en een burger
die die overheid wil benaderen of misschien wel letterlijk wil spreken.
U sprak over meerdere overheden. Toen wij vroegen aan die 1.500
mensen wat nu eigenlijk de overheid is, zei iedereen: de Belastingdienst.
Waarover krijgen wij de meeste telefoontjes als het misgaat in contacten
tussen een dienst en burgers? Over de BelastingTelefoon, waar men van
mens tot mens vraagt om die concrete informatie en daar schort het aan.
Ik weet niet of het op dat moment helpt om te zeggen: er is een grondrecht om dat te krijgen. Maar ik vind het idee op zich wel heel mooi dat je
nadenkt over de vraag of misschien ergens op een fundamenteler niveau
het recht op het persoonlijke moet worden gewaarborgd.
De heer Van Dam (CDA):
Afsluitend nog een heel korte vraag. U heeft het al vaker gehad over die
1.500 mensen. Zitten daar ook mensen uit de groep van 2,5 miljoen
analfabeten bij of heeft u een digitale enquête gehouden? Ik wil even
helder krijgen hoe dat is gegaan.
De heer Van Zutphen:
Mijn collega Jos van de Wiel heeft dit uitgevoerd, dus hij kan het beste
antwoord geven op die vraag.
De heer Van de Wiel:
Dat onderzoek zelf was een digitaal onderzoek, maar wij hebben daarvoor
twee focusgroepen gehad waarmee we juist echt in gesprek zijn gegaan.
Dat zijn mensen geweest uit, zoals dat wordt genoemd, verschillende
sociaal-economische klassen om ervoor te zorgen dat de resultaten
bruikbaar zijn. Maar in the end is het onderzoek wel vooral digitaal
geweest. Dat is dus in die zin een kanttekening bij de resultaten.
De heer Van Dam (CDA):
Even dan heel specifiek. U zei net dat de meeste mensen prima met die
digitalisering kunnen omgaan als er aan het einde maar iemand is waar je

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

22

naartoe kunt. Geldt dit ook voor die 2,5 miljoen analfabeten waarvan, naar
ik veronderstel, het gros ook digibeet is?
De heer Van Zutphen:
Zij zijn heel erg afhankelijk van hun sociale omgeving, van het vangnet
zoals dat wordt genoemd. Wij hebben de discussie gevoerd over
zelfredzaamheid. Hoe word je zelfredzaam als je vangnet in orde is? Dit
zijn mensen die zich tot op zekere hoogte overeind kunnen houden, maar
als het iets te moeilijk wordt, hebben zij iemand nodig. Wat wij uit allerlei
gesprekken, bezoeken en onderzoeken weten, is dat als het vangnet zich
niet om iemand organiseert, hij geïsoleerd is en niet bij iemand
langskomt, bij ons niet, bij de overheid niet. Het stopt uiteindelijk bij de
huisarts en daar houdt het op. Dan worden problemen gewoon niet
opgelost.
Mevrouw Buitenweg (GroenLinks):
Voorzitter, dank u wel. Excuus dat ik uw inleiding heb gemist, maar ik ben
blij dat ik hier kan zijn om dit verder met u te bespreken. Ik had het over
de Belastingdienst, omdat ik echt aan het einde niet begreep of ik nu geld
terugkreeg of niet. Er wordt een formulering gebruikt waar we echt even
met zijn tweeën naar moesten kijken. Het was gelukkig heugelijk nieuws.
De heer Van Dam (CDA):
Laaggeletterd, misschien?
Mevrouw Buitenweg (GroenLinks):
Dat idee krijg ik soms ook. Dan buigen twee hoogopgeleide mensen zich
over die tekst. Ze zullen zich juridisch vast helemaal hebben ingedekt,
maar dat is eigenlijk niet echt een communicatie naar mensen.
Ik heb een aantal vragen, maar ik zal het beperkt houden. U zei dat wij als
Kamer bij besluiten ook de gevolgen voor burgers moeten meenemen. Ik
vroeg me naar aanleiding van eerdere discussies die we hier hebben
gehad af of dat besluiten zijn die wij nemen – u had het over die man met
die cross – of dat het toch vooral besluiten zijn die steeds meer bij
algemene maatregel van bestuur worden genomen. Ik herinner dat met
name de Raad van State zei dat er echt steeds meer besluiten bij
algemene maatregel van bestuur worden genomen en dat wij meer
kaderbesluiten nemen. Is dat zo en, zo ja, moeten er meer zaken in de
wetgeving worden opgenomen? Daar ligt een taak voor de Tweede
Kamer.
De heer Van Zutphen:
Het zou heel goed zijn om met een aantal mensen uit de Kamer, maar ook
een aantal anderen die hier de revue zijn gepasseerd, letterlijk, nog eens
na te denken over door welke overheid de burgers nou het meest geraakt
worden als het gaat over digitale regelgeving. Ik denk dat het heel erg
gebeurt op het niveau van de grote uitvoeringsinstanties, op het niveau
van provincies en gemeenten en op het niveau van de omgevingsdiensten, als het gaat over de ruimtelijke ordening. Daar zitten enorm
grote digitale projecten achter. Het is dus niet alleen maar wetgeving in
formele zin die de burger het meest rechtstreeks raakt. Ik denk dat heel
veel andere overheden met digitale systemen, regels en verordeningen
veel dichter en harder bij die burger binnenkomen: het waterschap, het
drinkwaterbedrijf of de gemeentelijke belastingdienst, voor de parkeervergunning. Dat zijn allemaal heel dicht bij de mensen georganiseerde
systemen waarin je, als je daar geen vat op krijgt, hopeloos vastloopt. En
ja, ik denk dat er naarmate je de zaken meer uit handen hebt gegeven
doordat je kaderwetten maakt en mogelijk kaderbesluiten neemt waarbij
je de nadere invulling overlaat aan anderen en dat vervolgens niet meer
toetst, meer problemen ontstaan. Op zichzelf genomen kunnen de

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

23

stappen die je kunt zetten om het over te laten aan anderen in je organisatie, als de mandatering of de delegatie maar in orde is, allemaal
juridisch in orde zijn, maar het gaat erom dat de degene die uiteindelijk
verantwoordelijk is en blijft weet wat er aan het einde van die trap
gebeurt. Ik denk dat daar een rol is van de Kamer, als u wetten maakt. Ik
heb al eens tegen de Raad van State gezegd, en ik ga het misschien
vanmiddag weer zeggen: als jullie adviseren, zou je ook aan het einde
moeten kijken wat er met je adviezen is gebeurd. Sneden ze hout? Is er
gebeurd waar je voor gewaarschuwd hebt of is er iets heel anders
gebeurd en had je daar rekening mee kunnen houden? Wat moet de
wetgever er vervolgens mee als de adviezen deugdelijk blijken, maar als
ze niet gevolgd zijn of als de waarschuwing in de wind is geslagen en de
burger daar de dupe van geworden is? Ik denk dat die check ook vanuit de
Kamer op door haarzelf gemaakte wetten heel erg nuttig zou zijn. Het is
een soort effectmeting, effectbespreking, effectbeoordeling.
Mevrouw Buitenweg (GroenLinks):
Dat vind ik interessant. Ik herinner mij dat Corien Prins weleens heeft
gezegd dat het nu eigenlijk veel meer moet gaan over toezichthouders en
rechters. Die moeten kijken hoe het nu eigenlijk zit met de rechten van
burgers, omdat de wetgeving zelf maar een beperkt instrument is. Wij zijn
natuurlijk heel erg gericht op wetgeving. Wat is nu een wijze waarop wij
onze taak als volksvertegenwoordiging kunnen vervullen om te zorgen dat
het toezicht beter is op de voorbeelden die u noemde?
De heer Van Zutphen:
Ik denk dat u een aantal heel belangrijke raadgevers hebt: de Raad van
State, de Rekenkamer, de Ombudsman met een aantal rapporten en ook
het Sociaal en Cultureel Planbureau en mevrouw Prins met de WRR. Die
zeggen bij tijd en wijle heel belangrijke en nuttige dingen, ook terugkijkend op processen die zich hebben afgespeeld, wetgeving en andere
zaken.
Neem nou het voorbeeld van de Rekenkamer laatst over de toeslagen en
het terugvorderen van toeslagen. Daar zou de Kamer heel goed mee aan
slag kunnen, omdat daar iets wordt gesignaleerd. Het gaat in heel veel
gevallen goed. Maar voor wie gaat het goed? Dat zijn toch de mensen met
een redelijk goede portemonnee. Die zijn in staat om binnen zes weken
het teruggevorderde bedrag inderdaad terug te betalen. Maar uiteindelijk
blijkt dat een klein gedeelte – dan hebben we het toch wel weer over
500.000 huishoudens in Nederland en dat is dus niet echt een klein
gedeelte, maar verhoudingsgewijs wel klein – moeite heeft met het
terugbetalen en dat het niet kunnen terugbetalen leidt tot nog meer
schulden en dus tot, enzovoort, enzovoort. U zou dat rapport kunnen
pakken en dat misschien kunnen combineren met het rapport van Donner
over toeslagen straks. Dan zou u aan de slag kunnen gaan en kunnen
kijken naar bestaande systemen. Die hebben een achtergrond die heel erg
begrijpelijk is en die waren op zichzelf zelfs burgervriendelijk bedacht,
want we geven mensen op voorhand gewoon het geld om de zaak in te
kunnen kopen. Op onderdelen lukt dat niet. De vraag is dan of u niet als
Kamer moet zeggen dat u dat bij de hand pakt. Het zou toch doodzonde
zijn als we met goede ideeën en goede regels vervolgens niet in staat zijn
om op basis van ervaring de goede correcties te kunnen toepassen? Daar
zou ik erg voor pleiten.
Mevrouw Buitenweg (GroenLinks):
Dus dat is toezicht. Dan daarvoor. Ik vraag me ook weleens af hoe we
kunnen proberen om wat beter in te schatten wat de gevolgen zijn in de
toekomst. Er zijn natuurlijk video’s als Black Mirror. De voorzitter kent die
ongetwijfeld. Er wordt ook weleens gezegd dat je een soort vignetten
moet hebben waar allerlei filosofen en anderen alvast gaan nadenken

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

24

over toekomstige effecten. Heeft u daar misschien beelden bij, bij de
toekomst? We zijn vaak zo bezig met gebruiksvriendelijkheid en de dingen
die we hier belangrijk vinden dat we sommige andere aspecten niet
bedenken. Net als de maker van retweetknop nu enorm spijt heeft, omdat
hij nooit had nagedacht over de effecten. Denk aan de mogelijke gevolgen
voor de sociale cohesie als je bij de kassa’s bij de Albert Heijn geen
caissières meer hebt. Die gekke vooruitblikken, niet door de makers zelf,
heeft u daar ideeën bij?
De heer Van Zutphen:
Zelf heb ik heel af en toe een idee, maar die ideeën moet ik vooral weer bij
anderen halen. Wij hebben het project 2030. Op 31 oktober hebben we
een groot congres en we hopen dat er 400 mensen, onder wie veel
Kamerleden, komen. Dan gaan we het daarover hebben, met alle mensen
die we hebben gesproken in de afgelopen periode. Bij onze denk- en
inspiratietafels hebben we tientallen mensen aan tafel gehad, vooral de
jongere generatie. Ik denk dat die vraag vooral moet worden gesteld aan
jonge mensen. Dan heb ik het over mensen tussen 15 en 25 of 35. Ik zit al
vast. Ik ben te oud geworden om nog heel ver vooruit te kunnen kijken. Zij
kunnen dat wel. Daar halen wij onze inspiratie vandaan. Het zijn sessies
waarin wij ons laten inspireren over hoe het er mogelijk uit zou kunnen
zien en dan met name door groepen die niet uit zichzelf al naar ons toe
komen. Jonge mensen komen niet zomaar naar de Ombudsman. Die
lossen hun problemen op een andere manier op, vinden problemen geen
problemen of denken er op een andere manier over na. Ik zie het ook,
misschien wij allemaal wel, aan mijn eigen kinderen. Daar moet ik mijn
inspiratie vandaan halen. In mijn hoofd is het al te vastgezet om te kunnen
zeggen hoe het er over 30 jaar uitziet, maar met hulp van anderen om mij
heen kom ik een heel eind.
Dat was voor ons de aanleiding – we zijn daar met zijn tweeën heel erg
mee bezig op dit moment – om te proberen om zo veel mogelijk mensen
bij elkaar te krijgen die daar met elkaar over gaan spreken, om iets te
krijgen van een gevoel bij wat het zou kunnen gaan worden. Wat we in
ieder geval weten, is dat als we het vragen aan mensen en instanties die
veel met ons te maken hebben, die het niet meer hebben over de
Ombudsman als een rapportenfabriek of als een onderzoeksinstituut,
maar over het organiseren van platforms waar mensen elkaar kunnen
ontmoeten zodat de dingen die ze tegenkomen met elkaar besproken
kunnen worden, waarbij ieder zijn eigen expertise kan inbrengen en je
kunt kiezen wat je wel en niet gebruikt. Dan gaat het niet meer over of je
het behoorlijk of onbehoorlijk vond, maar over of we alles bij elkaar
hebben kunnen brengen wat tot een mogelijke oplossing zou kunnen
leiden. Dat zijn moderne manieren van communiceren. Daar denk ik
veeleer aan.
Ik denk soms ook dat je eens een paar boeken moet lezen. Dat vind ik heel
erg belangrijk. Er is een boek dat Automating Inequality heet. Daarin zie je
wat systemen doen als je op een gegeven moment ergens verkeerd
terechtkomt. Het mooiste verhaal in dat boek is eigenlijk de inleiding,
waarin de schrijfster beschrijft dat haar partner op straat in elkaar wordt
geslagen en naar het ziekenhuis moet, en dan blijkt dat hij onverzekerd is.
Dat is niet zo, blijkt achteraf. Dan komt er een heel verhaal. Dan blijkt dat
als je eenmaal in zo’n systeem terecht bent gekomen als onverzekerd, als
dat vinkje is gezet, je dat er niet meer uitkrijgt. Het gaat niet meer weg.
Een van de dingen – dan ga ik even terug naar het begin – waar je op zou
moeten letten, is wat er gebeurt als ergens een vinkje wordt gezet en dat
ten onrechte was. Dan kan het waar het is gezet wel weg worden gehaald,
maar de doorwerking naar alle andere systemen is vrijwel onmogelijk om
weg te poetsen. Dan heb je dus niks aan het recht om vergeten te worden
of allerlei andere dingen. Dat zit in die systemen. Naar dat filter zou u ook
moeten kijken: wat gebeurt er als we data van mensen opslaan, met wie

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

25

mogen ze worden gedeeld en wat zijn de effecten? En dan niet alleen
maar in het publieke, want daar ga ik over. Dit zijn voorbeelden uit het
private en die zijn echt veel verstrekkender.
Nou, ja. Het is van de hak op de tak.
De voorzitter:
Nee, helemaal niet. Het was een vrij logische opeenvolging van een aantal
verschillende zaken die behandeld moeten worden. Automating inequality
is overigens Virginia Eubanks geschreven en zij is hier geweest. Zij is bij
ons te gast geweest heeft inderdaad exact het laatste punt dat u maakte
nadrukkelijk uiteengezet hier in de Tweede Kamer. Ik denk dat het ruim
een halfjaar of bijna een jaar geleden is dat ze hier was.
Ik heb zelf ook nog twee vragen. De Raad van State is hier ook geweest.
Die hebben natuurlijk ook een rapport geschreven waar u net ook al aan
refereerde. We hadden het er net even over. Twee hoofdlijnen zijn dat je
het moet motiveren als je een digitaal besluit neemt. Dat sluit heel erg aan
op hetgeen u net zei over die systemen, die vinkjes en het feit dat mensen
dan dus op een of andere manier te horen krijgen dat het zo is uitgepakt.
Ze weten dan eigenlijk helemaal niet waar ze naartoe moeten, waarom het
besluit zo genomen is en of het omkeerbaar is. Het tweede is dat de
toegang tot de overheid altijd beter doordacht moet worden als je heel
veel met systemen aan de slag gaat. Dat zijn letterlijk dingen die u ook
allemaal naar voren heeft gebracht.
Ik ben zelf een beetje zoekende. Het zijn allebei toch vrij abstracte
beginselen. Hoe zou je dat nou als Tweede Kamer moeten afdwingen, als
volksvertegenwoordiging, horende de signalen van de verschillende
organisaties die vanuit de burger redeneren, want je kunt toch moeilijk
een wet schrijven die hierover gaat. Het gaat dus een beetje om
werkwijze, om nadenken als overheid over de manier waarop digitalisering misschien wel een drempel of een nadeel kan zijn voor de burgers.
Maar hoe kun je als politiek, als volksvertegenwoordiging zorgen dat er
iets met al die adviezen gedaan wordt? Want ze luiden eigenlijk allemaal
hetzelfde, maar op de een of andere manier blijven we door de toepassing
van steeds meer systemen en technologieën verder de verkeerde kant
opgaan als het om dit punt gaat.
De heer Van Zutphen:
Ja, u hebt gelijk. Punt. Maar ...
De voorzitter:
Dat eerste dan, maar ...
De heer Van Zutphen:
Het is niet zo leuk om hier gelijk te krijgen, denk ik. Laat ik een eenvoudig
ding noemen, althans dat dacht ik toen ik begon: de beslagvrije voet. Hoe
ingewikkeld is dat gemaakt in wet- en regelgeving? Hoe komt het dat we
daar met elkaar niet doorheen komen? Waarom is dat nog steeds niet
geregeld? Dat zit hem voor een deel op ICT-systemen en voor een deel op
juridische reflexen die het onmogelijk maken om over regels heen te
stappen, om te zeggen: oké, dan pas ik hem niet toe.
Ik heb een rapport geschreven over een mevrouw in Nijmegen, waarbij
Toeslagen, de gemeente, ik denk ook nog het UWV en waarschijnlijk een
zorgverzekeraar betrokken waren. Over en weer mantelzorger, twee
gehandicapte kinderen. Dan wordt iets bedacht hier in deze Kamer,
namelijk dat je dit soort mensen een soort bestaanszekerheid zou moeten
geven en daartoe komt er een extra toelage, maar deze toelage zorgt
ervoor dat het norminkomen omhooggaat, waardoor alle toeslagen naar
beneden gaan. Je krijgt dus iets, met de goede bedoeling dat je daardoor
inkomenszekerheid krijgt. Maar het gevolg is dat het een inkomensbe-

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

26

standdeel is dat meetelt voor de toeslagen, waardoor alles naar beneden
gaat, en nog wel met t-2.
Als ik dat schrijf aan de betrokken bewindslieden, en dat heb ik gedaan,
dan krijg ik als antwoord: dit is wet- en regelgeving, dat kunnen we niet
veranderen. Als je vanuit een hele concrete casus – daarvoor kunt u bij mij
terecht, maar ook bij de lokale ombudsmannen van Rotterdam en
Amsterdam, want die hebben allemaal voorbeelden – ging kijken wat er
aan de hand is, dan zou je echt een heleboel slagen kunnen maken. Dan
kun je ook leren ... U moet misschien aan mij niet vragen wat ik van deze
wet vind. Misschien kunt u beter vragen: als dit de wet zou worden, heb je
dan klachten die daarop lijken en kun je ons iets zeggen over hoe dat uit
zou pakken. Dan gebruik je wat wij horen, maken en schrijven, om te
kijken of het zich ook voor zou kunnen doen onder die nieuwe regelgeving. Dat is één ding.
Wat ik wel zie, is dat de complexiteit heel veel hiermee te maken heeft: er
is een geval en dan wordt er een regel gemaakt om te voorkomen dat dat
zich nog een keer kan voordoen. Of het nou Bulgaren zijn of Polen of
mensen die kinderopvangtoeslag gebruiken of niet, we hebben ongelofelijk veel voorbeelden, maar te vaak denk ik dat er vanuit systemen die op
zichzelf qua ontwerp nog wel in orde zijn, aanvullingen worden gemaakt.
Mijn eerste confrontatie daarmee betrof de pgb’s, waar nog allerlei
last-minutewerk bij kwam, waardoor vervolgens de systemen niet op één
lijn konden worden gebracht met de laatste regelgeving. Gegeven die
complexiteit van regels en systemen hoort de afstemming beter
doordacht te zijn.
De voorzitter:
Ik had zelf ook nog een vraag, maar ik laat u beiden eerst. De heer Van
Dam en dan mevrouw Buitenweg op dit punt.
De heer Van Dam (CDA):
Wat mij op dit punt nog wel bezighoudt is het feit dat digitalisering aan de
overheidskant ertoe bijdraagt dat alle regels voor iedereen gelijk zijn. Als
je aan het eind een ambtenaar hebt zitten met een groot hart, die nog
eens daarover heen wrijft en zegt: goh, ik buig hier de regels net iets meer
die of die kant op, en die de regels toesnijdt op dat specifieke geval, dan is
de kans daarop met een apparaat dat beslist over zaken een stuk minder
groot. Vindt u daar wat van? Herkent u dat? Zou dat anders moeten?
De heer Van Zutphen:
Mijn opvatting is vooral dat het een schijngelijkheid oplevert omdat er
allerlei persoonlijke omstandigheden niet verdisconteerd kunnen worden,
en dat het leidt tot een dwingende uitkomst. We krijgen natuurlijk heel
veel vragen van burgers over dingen die uit systemen voortkomen,
waarvan ze zeggen: «wat mij nu overkomt, is eigenlijk onbehoorlijk»,
terwijl we volgens de systeemredenering kunnen zeggen dat het precies
klopt.
Zal ik daar een voorbeeld van geven? Een mevrouw schrijft zich in in haar
nieuwe woning, wil geregistreerd worden in de gemeente. De gemeente
zegt: u bent welkom, maar er wonen nog drie andere mensen in dat huis.
Zij zegt «dat is echt niet waar», maar de gemeente zegt «kijkt u eens op
het scherm, het is wel zo». Dan komt er een onderzoek en wordt dat
uitgeplozen. Die mevrouw woont daar alleen, dus er was sprake van
spookbewoning. Die mevrouw mocht aanspraak maken op huurtoeslag.
De spookbewoners zijn afgevoerd uit het systeem. Als zij zegt «mag ik dan
nu mijn huurtoeslag?», kijkt de betrokken ambtenaar en zegt «over de
afgelopen twee maanden krijgt u hem niet, want toen woonde u daar met
drie anderen».
Het tragische is, zeg ik daar altijd achteraan, dat dat ook het goede
antwoord is, want je mag de systemen niet met terugwerkende kracht

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

27

veranderen. Die mevrouw heeft dus volgens de systemen geen aanspraak
op huurtoeslag. Dáár heb je die ambtenaar voor nodig waar u het over
had. Die kan zeggen: niet de hand over het hart, maar het goede doen,
want natuurlijk krijgt ze huurtoeslag als wij weten dat ze daar alleen
woonde. Als dat aanstonds goed in de systemen had gestaan, mocht ze
aanspraak maken op huurtoeslag. Uiteindelijk is het nu door onze
tussenkomst opgelost in de vorm van een coulancebetaling, maar het is
niet coulant, het is gewoon doen wat had moeten gebeuren.
Daar zit het hem: het lijkt alsof het allemaal voor iedereen gelijk is, want
we hebben de regels voor iedereen uniform toegepast zoals we hebben
vastgesteld, maar het is natuurlijk heel erg oneerlijk dat die mevrouw niet
gewoon twee maanden huurtoeslag kreeg.
De heer Van Dam (CDA):
Dat is de rigiditeit van regels, dat snap ik. Maar als het niet zo’n absurde
situatie is maar gewoon een geval waarin je de regels moet toepassen,
weten we allemaal dat er ook een zekere ruimte is voor de overheid om
zelf beleid toe te passen en in het ene geval wat meer te doen en in het
andere geval wat minder. Kijk alleen al naar de vraag die een politieagent
zich op straat stelt: deel ik nu wel of niet een prent uit? Die ruimte
verdampt toch ook met die hele digitalisering?
De heer Van Zutphen:
Dat is zeker zo. Je kunt een agent op een kruispunt zetten om te kijken of
de mensen door rood licht rijden. Sommigen wel, sommigen niet. Maar
als je er een camera ophangt, maakt dat niks meer uit. Dan is rood rood.
Dus ik ben het helemaal met u eens. De manier waarop je op bepaald
gedrag reageert, verandert ook. Dan is het niet meer «ik zag het niet» of
«het was de eerste keer» of «ik dacht dat het oranje was». Dat is allemaal
uitgesloten. Soms vinden we dat fijn en soms vinden we dat heel
vervelend. Dat is een kwestie van appreciatie.
Ik denk wel dat wat wij altijd «de menselijke maat» noemen ... Je moet
wel heel goed weten waar je dan die ruimte wilt geven. Wij pleiten daar
ook voor, door te zeggen: er moet professionaliteit in het apparaat zijn,
waardoor mensen de ruimte hebben om het goede te doen. Maar dan
moet je wel heel vaak met ze spreken over wat het goede ís. Het goede is
niet dat ik, als ik je door rood zie rijden, zeg: ach, laat maar, want ik ken je.
De camera had gezegd je bent het haasje. Waar gebruik je die professionaliteit? Waar heb je die ruimte nodig?
Uiteindelijk gaat het erom dat mensen krijgen waar zij aanspraak op
kunnen maken, en de toets is de vraag of het fair en behoorlijk is gegaan.
Dat is ook typisch iets wat je van mij moet kunnen horen als ik vind dat
iets behoorlijk is gegaan. Soms is het zo dat het gebruikmaken van die
ruimte misschien ook niet had gemogen. Het is ingewikkeld en het is veel
makkelijker om tegen mensen te zeggen: weet je, dat is de regel en wij
werken hier nu eens met camera’s, want dan zijn we er vanaf. Maar je wilt
graag dat het verkeer op straat op een behoorlijke manier verloopt en dat
je ook nog de menselijke factor hebt in het ordenen van dat gedrag. Dat is
ingewikkeld als je alles automatiseert.
Mevrouw Buitenweg (GroenLinks):
De vraag van de heer Van Dam kwam sterk overeen met mijn vraag. Ik
denk dat hier ook een van de grote problemen zit. Bij de digitalisering zul
je bij elk antwoord uit een computer al snel denken dat het een waar
antwoord is. Het krijgt wat meer autoriteit, omdat het berekend is op basis
van allerlei geldende wet- en regelgeving. Je wilt geen willekeur, dat is
natuurlijk ook altijd van belang, maar je wilt inderdaad wel dat het goede
wordt gedaan. Ik hoorde u zeggen dat je daarvoor ook meer professionele
ruimte nodig hebt, maar ik denk dat dat dus wel de ingewikkelde balans is
waar we nu heen moeten gaan, en dat stelt ons ook wel voor problemen

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

28

of voor moeilijke vraagstukken. Je wilt aan de ene kant een aantal zaken
meer digitaliseren voor het gebruiksgemak en ook voor gelijkheid in
gelijke gevallen. Maar tegelijkertijd zul je veel meer dan voorheen, naar
een situatie toe moeten waarin je professionele ruimte laat aan de
mensen die dat doen. Wat is daar nu nog extra voor nodig, in uw ogen?
De heer Van Zutphen:
Op het metaniveau moet de discussie over artikel 1 opnieuw gevoerd
worden. Ik denk dat Donner daar al mee begonnen is. Er zijn veel meer
mensen die zich er nu mee bezighouden om te doordenken wat gelijkheid
betekent. Wat is dat nou, die gelijke gevallen gelijk behandelen? Heel
eenvoudig en beeldend is natuurlijk altijd het voorbeeld dat je in de ene
gemeente wel een traplift krijgt en in de andere niet. Komt dat doordat je
de verkeerde data hebt ingevuld of doordat het algoritme anders werkt of
doordat je handicap er anders uitziet of doordat je gemeente meer of
minder geld heeft? Wat vinden we dan nog «gelijk»? Dat je een traplift
krijgt omdat je persoonlijk bent behandeld.
Misschien moet het wel zo zijn dat we gaan kijken of je wel de volle
aandacht hebt gekregen toen je je probleem aan de orde stelde, want dáár
zit hem die gelijkheid in. Ik zeg niet dat het zo ís, maar als we niet meer
kunnen zeggen «a is a», omdat we ervoor hebben gekozen dat er in de
omgeving waar mensen wonen meerdere antwoorden mogelijk zijn op de
problemen die zij hebben, dan moeten we iets anders. Misschien moeten
we kijken of je voldoende serieus bent genomen. Is er naar je geluisterd?
Zijn je argumenten op een goede manier behandeld en eventueel
weerlegd of gehonoreerd? Zit daar dan geen willekeur in?
Dan kun je systemen gebruiken om het in al die gevallen waarin dat
logisch is ... Want door rood rijden, is door rood rijden en «gelijke
gevallen gelijk behandelen» betekent dat die boetes allemaal even hoog
zijn. Dat snappen we allemaal nog. Maar je kunt ook twee stappen over de
grens zetten en dan ben je in Finland, en daar betekent «gelijke gevallen
gelijk behandelen» dat je, als je door rood rijdt, een boete naar gelang van
je inkomen krijgt, want daarvan is de boete daar afhankelijk. Dat kan ook
«gelijk» zijn. Er zijn dus allerlei manieren om daarover te denken, maar
wat er zou moeten gebeuren, is dat we niet meer denken «a is a», want
dat ligt achter ons, door de moderne systemen, door de ICT enzovoort
enzovoort. We moeten opnieuw nadenken. Op welke manier is a
gelijkwaardig aan a? Want daar gaat het uiteindelijk om.
De voorzitter:
Dit laatste stuk ging heel erg over de uitkomst van besluiten en of je daar
dan blij mee bent. Dat is dan echt heel fundamenteel inderdaad. Ik zou in
het kader van dit punt nog even de aandacht willen vestigen op de input,
de ingang, de start van de procedure en de drempels die er dus ook zijn,
doordat digitale systemen worden toegepast. Stel dat je gewoon goede
wetgeving hebt met duidelijke regels, en daar moeten burgers vervolgens
aan voldoen. Maar omdat het via systemen wordt afgehandeld, omdat de
informatie via systemen moet worden ingevoerd, omdat er nu eenmaal
minder menselijke tussenkomst is en de systeemtussenkomst groter
geworden is, kunnen er allerlei drempels in de uitvoering ontstaan. Maar
de uitvoering is nooit sexy, in de politiek in ieder geval niet. Dus hebben
we het niet zozeer over de wetgeving, maar hebben we het veel meer over
het feit dat systemen drempels opwerpen. Mijn vraag is hoe we daar als
politiek wat aan kunnen doen, want het is duidelijk. De voorbeelden zijn
allemaal heel helder, maar het blijft wel gewoon zo doorgaan. Hoe kunnen
we systemen toepassen op een manier die het voor mensen niet
hoogdrempeliger maakt? U heeft vier voorwaarden in uw infographic
opgenomen. We hebben ze als commissie zojuist rondgemaild gekregen,
maar hoe kunnen we dat politiek meer afdwingen?

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

29

De heer Van Zutphen:
Ik denk dat er een discussie moet komen over de vraag of we de burger
naar allerlei verschillende lokale portalen en allerlei andere dingen willen
sturen, of dat we het zo willen maken dat er één ingang is naar dé
overheid en dan proberen wij met z’n allen als overheid het daar zo goed
mogelijk te organiseren. U moet eens bij uzelf nagaan hoe u, als u geen
Apple had, al die wachtwoorden ging bewaren. Ik vind die Touch heel fijn,
want het zijn er zo veel! Bij MijnOverheid is er een en dan is er nog een en
dan heb je ook nog alle private bol.com en PatheThuis en noem maar op:
overal hoort er een wachtwoord bij. De hele wereld zit vol met wachtwoorden.
Als ik even terugga naar de overheid: de overheid heeft heel veel
georganiseerd met allemaal verschillende letterlijke deuren en toegangen,
maar ook allerlei portalen. Natuurlijk proberen we in MijnOverheid het
allemaal goed voor elkaar te krijgen, maar moet je eens kijken hoeveel
systemen er achter MijnOverheid schuilgaan. Ik geloof dat het inmiddels
350 of 400 zijn. Dat is heel veel; dat is echt heel veel. De Belastingdienst is
natuurlijk nummer één, want daar heeft iedereen mee te maken, maar je
kunt ook naar je waterschap, je gemeente, je afvalheffing en van alles en
nog wat. Als je een beetje pech hebt, moet je ook nog drie keer autoriseren en dan moet je ook nog een sms sturen. Dan krijg je er eentje terug
en dan ben je misschien aan de beurt. Dat zijn de dingen waarvan ik denk
dat zij drempels opwerpen. We zien dus ook uitsluiting. Ik vertel even wat
ik heb meegemaakt in het elektronisch patiëntendossier van het UMC
Groningen. Als je daar toegang toe wil hebben, moet je een nummer
bellen. Dan krijg je een sms-code terug. Die toets je in en dan kan je naar
je dossier. Deze meneer zat in de schulden en de bewindvoerder zei dat hij
geen mobiele telefoon mocht, ook niet voor een tientje. Hij kon dit dus
niet doen. Dan mag je het schriftelijk aanvragen en dan krijg je je dossier
zes weken later in kopie thuisgestuurd. Dat zijn drempels, want dan
zeggen we dus: als je meegaat, gaat het makkelijk, maar als je dat niet
kan, wordt het veel ingewikkelder. Dat zijn echte drempels voor degenen
die die drempels sowieso al moeilijk nemen. Dat maken we dus alleen
maar erger.
Dat zien we ook bij de overheid. Ik heb daar met betrekking tot de zorg
over gediscussieerd met meneer De Jonge. Hij zegt dat «no wrong door»
de policy is. Met andere woorden: er zijn een heleboel deuren, je kunt
overal aankloppen en dan kijken we wel. Ik zeg: nee, het is één loket. Op
het punt van alzheimer is dat nu gebeurd, maar buiten de ICT om. Je ziet
dat hoe meer keuzes er te maken zijn, hoe moeilijker mensen die keuze
maken, omdat ze niet weten wat er achter die deur gebeurt. Er is één deur;
er is één overheid. Mensen maken geen onderscheid tussen al die twintig
overheden. In de schuldhulpverlening wordt gebruikgemaakt van elkaars
systemen: als je weet dat er twee maanden niet is betaald aan het
waterleidingsbedrijf, moet je zes maanden later niet akkoord gaan met de
ontruiming door de corporatie omdat er een huurachterstand is, want je
kende het signaal al. Ook daar zitten dus een aantal dingen waarvan
mensen denken: er kan mij van alles gebeuren als ik in die systemen
terechtkom. Dat zijn drempels die mensen afschrikken van systemen of
die de situatie, als mensen in die systemen zitten, alleen maar erger
maken. De wanbetalersregeling, waar we over geschreven hebben, is ook
zo’n voorbeeld. Overal willen we ICT en systemen heel graag toepassen
en koppelen en overal willen we overzicht hebben, maar ik denk dat de
eerste stap naar in ieder geval het in kaart brengen en verlagen van de
drempels bestaat uit contact hebben tussen al die overheden, zodat zij op
z’n minst van elkaar weten welke data ze hebben en hoe die worden
gebruikt. Dat gaat nog niet eens over koppelen, maar alleen over van
elkaar weten wat er is, want er is heel veel wat niet wordt geweten.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

30

De voorzitter:
Ik denk dat we met deze wijze woorden kunnen afsluiten. Ik wil u beiden
zeer danken voor uw komst, uw uitleg en uw inzet voor deze commissie
en de vraagstukken waar wij ons over buigen. Ik denk dat het zeer nuttig
was. We gaan nu een uurtje pauzeren. Om 13.00 uur zien we elkaar weer
met het volgende deel van deze derde kennisdag. Ik dank de heren van de
Nationale ombudsman nogmaals voor hun komst.
De vergadering wordt van 12.00 uur tot 13.00 uur geschorst.
Voorzitter: Buitenweg
De voorzitter:
Goedemiddag en welkom terug bij deze derde kennisbijeenkomst van de
tijdelijke commissie Digitale toekomst. Vanmorgen hebben we al met een
aantal mensen gesproken. Ook vanmiddag zijn er een aantal interessante
gasten om onze ideeën over wat deze commissie moet gaan doen, verder
vorm te geven.
Blok 3
Gesprek met:
– de heer Wijnand van de Beek, manager Strategie, Beleid en Internationale Zaken van de Autoriteit Financiële Markten (AFM)
De voorzitter:
Ik heet de heer Wijnand van de Beek, manager Strategie, Beleid en
Internationale Zaken van de Autoriteit Financiële Markten, hartelijk
welkom. Tegenover u zitten een aantal Kamerleden: mevrouw Van
Weerdenburg van de PVV, de heer Van Dam van het CDA en de heer
Verhoeven van D66. Ook het lid van de VVD, de heer Middendorp, komt
nu binnen; hartelijk welkom. Mijn naam is Kathelijne Buitenweg van
GroenLinks.
Ik stel voor dat we de heer Van de Beek eerst de tijd geven voor een korte
toelichting. Daarna kunnen we allemaal onze vragen stellen. Aan u is het
woord.
De heer Van de Beek:
Dank u wel, mevrouw de voorzitter. Ik had gedacht dat de presentatie hier
gepresenteerd zou worden. Die is u toegestuurd. Daarin kunt u de dingen
volgen die ik ga vertellen. Ik ga proberen om het in eerste instantie kort te
houden, want ik denk dat de interactie waarschijnlijk belangrijker is dan
een voorbereid verhaal.
Het perspectief dat ik hoop te schetsen, is het perspectief van de toezichthouder. Dat wil zeggen dat het vooral over risico’s gaat, maar we zijn ons
er bijzonder van bewust dat het hier gaat om technologie die vooral
enorm veel kansen biedt. Voor ons als toezichthouder, als AFM, is het ook
belangrijk om het belang van het toezicht en de consumentenbescherming te balanceren tegenover de kansen die er natuurlijk vanuit de
technologie zijn. Vandaar dat ik mijn eerste slide «Digitalisering biedt
grote kansen, maar ...» heb genoemd. Wat die «maar» betreft zal ik u kort
iets vertellen over marktveranderingen die plaatsvinden, zowel in de
financiële sector als binnen de techsector. Die sectoren raken elkaar in
toenemende mate. Ook het consumentengedrag verandert. Hoe bescherm
je vervolgens de consument in die omgeving, waarbij er strak toezicht is
op de financiële sector maar weinig of eigenlijk geen toezicht op de
digitale sector? Ik zeg niet dat dat anders moet, maar het is wel een
verschil dat heel erg belangrijk is. Ten slotte zal ik ingaan op de vraag of
we de veranderingen kunnen bijbenen, zowel in termen van wetgeving als
in termen van toezicht en in termen van de internationale context, waarin

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

31

al deze veranderingen voornamelijk plaatsvinden. Is de nationale schaal
dus de juiste schaal om dit te bekijken?
Ik ga eerst naar de marktveranderingen. De volgende slide komt uit onze
recente strategie. Daarin hebben wij vijf trends geïdentificeerd die voor
ons toezicht op de financiële sector van groot belang zijn. Op 10 oktober
publiceren wij ons Trendzicht, waarin dit ook verder toegelicht wordt. Eén
hoofdstuk daarin gaat over digitalisering en de impact van digitalisering
op de financiële sector. Ik kon dat nu helaas nog niet meenemen, omdat
het nog niet publiek is, maar dat is dan leesmateriaal achteraf.
De vijf trends die voor ons toezicht het belangrijkst zijn, zijn: digitalisering
van de financiële sector, de macro-economische ontwikkelingen, met
onder andere de lagerenteomgeving, de invoering van Europese wet- en
regelgeving – er zijn heel veel Europese regels die veel bescherming
bieden op het gebied van de financiële sector, zoals MiFID II maar ook op
kapitaalmarktgebied – de internationale onzekerheid rond de brexit maar
ook rond de handelsbetrekkingen tussen de Verenigde Staten, China en
andere landen in de wereld, en de overgang naar een duurzame economie
en samenleving. Dat zijn voor ons de vijf belangrijkste externe zaken.
Ik zoom met de volgende slide in op wat er gebeurt in de technologiesector. Je ziet eigenlijk dat de veranderingen daar steeds sneller gaan. De
term «steeds sneller» is een beetje platgetreden, maar de diepte en de
breedte van de impact van technologie op onze samenleving zijn enorm.
De producten en diensten die ondernemingen – financiële ondernemingen
maar ook techbedrijven, waarmee ik het in deze context heb over
Facebook, Google en dergelijke actoren – op de markt brengen, hebben
een grote impact op onze consumenten, uw kiezers, degenen die wij
proberen te beschermen. Ik ga daar niet te veel in detail op in, maar ik pik
hier een paar aspecten uit.
Op de volgende pagina ziet u een plaatje van wat een bank op technologisch gebied aan partners heeft. Daar zie je wat in de techniek
«unbundling» wordt genoemd: een bank, een verzekeraar of welke
financiële partij dan ook is niet langer een monoliet die alle producten en
diensten zelf ontwikkelt en aanbiedt, maar is meer een integrator van
verschillende diensten. Dat betekent een aantal zaken. Eén: dat die bank
niet meer in alle situaties het overzicht heeft over wat er gebeurt. In een
aantal zaken zie je dat dat ook zo is. Het is voor een bank en het bestuur
van een bank erg ingewikkeld om alles te blijven overzien. Er zijn vele
toeleveranciers. Hoe meer technologie in zo’n financiële onderneming is
geïntegreerd, hoe meer van de door zo’n organisatie aangeboden
diensten door anderen ontwikkeld zijn. Die anderen hebben geen
vergunning van de AFM of DNB nodig om actief te zijn op de financiële
markt. Dat zijn hele kleine partijen die AI-toepassingen aanleveren, maar
het zijn ook hele grote partijen, zoals Google, Facebook, Microsoft en
noem maar op. Dat betekent, samengevoegd met de internationale
dimensie van deze markt, dat het heel lastig is om controle te blijven
houden over wat er allemaal gebeurt. Want een aantal van die partijen
hebben, zoals ik al zei, geen vergunning van de AFM. Dat geldt eigenlijk
voor de meeste; dat zijn toeleveranciers. Natuurlijk is de bank of verzekeraar verantwoordelijk voor alles wat er op de achtergrond gebeurt,
maar anderen ontwikkelen dat. Die partijen zijn soms maar beperkt op de
hoogte van wet- en regelgeving op dit gebied.
De partijen kunnen ook uit de Verenigde Staten of China komen, met een
hele andere cultuur wat betreft juridische cultuur, de manier waarop
correctie van ongewenste maatschappelijke ontwikkelingen plaatsvindt
enzovoort. Ik mag wel zeggen dat we het in Europa en Nederland in ieder
geval voor de financiële sector fijn vinden om zaken aan de voorkant goed
geregeld te hebben, zodat er een stevig framework is, maar dat is niet in
alle landen het geval. En als dat in alle landen wel het geval zou zijn, dan
is de cultuur van naleving en van zorgvuldigheid van ondernemingen zeer
verschillend. Facebook wil nu met een digitale munt komen. We hebben al

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

32

gezien dat zij in termen van privacy en data niet altijd de hoogste mate
van zorgvuldigheid betrachten ten opzichte van hun klanten. Het gaat ook
om gigantische belangen en bedragen. De prikkel voor dat soort organisaties om slimme toepassingen te vinden die niet altijd in het belang van
de consument zijn, zijn dus heel groot.
Dit plaatje laat zien wat een vergunninghouder bij DNB of AFM aan
verplichtingen heeft die eigenlijk geborgd moeten worden bij toeleveranciers van die organisatie. Dat betreft overigens niet alleen hun eigen
situatie maar ook de concurrentiesituatie: hoe staan zij in verdienmacht,
kennis van de klant en aanbod van producten en diensten ten opzichte
van grote buitenlandse leveranciers zoals Apple enzovoort? Dat is
belangrijk, omdat we uit de economische en psychologische wetenschap
weten dat mensen een beperkte rationaliteit hebben. Ik neem aan dat die
term in ieder geval vaag bekend is. Ik zal dit dus op hoofdlijnen uitleggen.
Mensen als Kahneman en anderen hebben daar boeken over geschreven,
over systeem 1 en systeem 2. Het bewuste systeem staat maar heel
beperkt aan en het is vermoeiend voor mensen om van dat bewuste
systeem gebruik te maken. Heel veel beslissingen worden dus op de
achtergrond genomen op basis van simpele aannames enzovoort.
Complexe beslissingen op financieel gebied blijken niet heel goed
verwerkt te worden door systeem 2. Ook blijkt dat zeer marketinggedreven organisaties zoals veel socialmediabedrijven en techbedrijven
eigenlijk de keuze hebben om die zwakheden in het menselijk gedrag in
positieve of in negatieve zin te benaderen. Bij «in positieve zin» gaat het
om positieve nudges, kleine duwtjes in de goede richting. Maar bij de
AFM hebben we ook de term «evil nudges», nudges die in de verkeerde
richting gaan en die mensen helemaal op het verkeerde been kunnen
zetten.
Ik heb hier een paar voorbeelden van, weergegeven in plaatjes, bijvoorbeeld over de invloed die Cambridge Analytica heeft gehad op een aantal
verkiezingen, en ICO’s ofwel initial coin offerings, die een aantal jaren
geleden zeer populair waren en waarin zeer veel geld is verdwenen. Dat
geld is nu ook letterlijk verdwenen. Deze bedrijven kwamen vaak vanuit
Cyprus en andere landen binnen de Europese Unie en kwamen via een
Europees paspoort met hun diensten en producten binnen, zoals binary
options trading en contracts for difference. Dat zijn zeer complexe
financiële instrumenten met een onvoorspelbaar gedrag, die uiterst
schadelijk konden zijn. Zoals wij tegenwoordig zeggen: dit – mijn
telefoon – is nu onze bank. Het is heel makkelijk om daar online in
aandelen te handelen.
En, zoals ik daarstraks al zei, die grote techbedrijven zijn er ook helemaal
op gericht om je aandacht vast te houden. Het verslavende effect van hun
applicaties en tools is een integraal onderdeel van hun benadering. Er is
nu een hele discussie over losgebroken of dat wenselijk is en of we daar
iets tegen moeten doen. Maar de facto, doordat het beeldend materiaal is,
doordat het op de telefoon zit waar heel veel mensen heel veel tijd op
doorbrengen, zijn er nog heel veel mogelijkheden om op een subtiele
manier mensen in bepaalde richting te bewegen.
Soms is dat prima. Soms heeft het ook weinig schadelijk effect. Soms kun
je het ook gewoon als reclame zien, maar waar is die grens? Waar kun je
op een gegeven moment die streep trekken? Als een applicatieontwikkelaar in China, in India, in de Verenigde Staten of waar dan ook, met
andere opvattingen dan de onze over wat zorgvuldig gedrag tegenover
consumenten is, met soms beperkte kennis van onze wetgeving, daar
sturing ontwikkelt voor onze consumenten, dan is dat voor ons bij de AFM
ook een duidelijk punt van aandacht.
Zoals ik al zei: in Nederland en in Europa hebben we een hoog niveau van
bescherming voor consumenten en een zorgplicht, dat de financiële
onderneming in het belang van de consument de dienstverlening in
gunstige zin aanwendt voor die consumenten. Ik noem productontwikke-

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

33

lingsregels; de producten moeten deugdelijk zijn, moeten op de goede
doelgroep gericht zijn enzovoort. Transparantie, adviesregels, regels tegen
overcreditering enzovoort.
Dus binnen het terrein van het vergunningplichtige financiële systeem
denken wij dat we het gedrag van banken, verzekeraars en andere
financiële ondernemingen die onder de wet vallen behoorlijk onder
controle kunnen houden en dat we daar de meeste zaken én voldoende
snel kunnen zien én er voldoende goed tegen kunnen optreden.
Maar zelfs dan hebben we vaak uitdagingen, zoals met de crypto’s, die
vanuit het buitenland van onbekende oorsprong komen, waar heel veel
mensen heel veel geld in aan het steken waren en waarvan wij het sterke
vermoeden hadden dat dat uiteindelijk tot grote financiële ellende zou
leiden. Wij hebben daar geen grip op. Wij hebben geen mandaat. We
weten niet eens wie de providers van bepaalde crypto’s zijn en we kunnen
al zeker niet tegen ze optreden.
Dat betekent dus dat wij aan de randen van het gereguleerde systeem
heel scherp opletten wat er allemaal gebeurt en of dat op een manier
gebeurt die zorgvuldig is tegenover onze klanten. Want buiten het bereik
van de Wft is er alleen bescherming van het civiele recht. Als een burger
in Nederland zich bekocht voelt doordat hij een bepaald product heeft
aangeschaft via een Amerikaanse of een Chinese provider, hebben we
heel weinig middelen om daartegen op te treden. Dat is dus het punt van
zorg en het punt waar ik ook uw aandacht op wil vestigen.
Nog een voorbeeldje tussendoor. Recent heeft Facebook de intentie
aangekondigd om een munt te introduceren. De kracht daarvan is dat ze
de data die zij via hun eigen websites en informatie hebben kunnen
integreren met de betaaldata van klanten, en dus zeer exact kunnen zien
wanneer een intentie tot aanschaf wordt omgezet in een daadwerkelijke
aanschaf. Ze kunnen daar patronen in gaan herkennen en ze kunnen daar
dus zeer intensief inzicht in het gedrag van consumenten op individueel
niveau door ontwikkelen.
Dat betekent dus, zoals wel eens grappend gezegd is, maar het is helaas
geen grapje: Facebook kent je vaak beter dan je jezelf kent. Want mensen
denken dat ze niet beïnvloed worden door zaken, maar het is wel degelijk
aan te tonen dat dat zo is. Mensen kunnen zich dus ook niet wapenen
tegen de beïnvloeding die er van buitenaf via influencers, via social media
et cetera op hen afkomt. Dit is nog maar het eerste voorbeeld van een Big
Tech die zich op het financiële terrein beweegt. Maar als deze trend sterker
wordt, dan komen wij in een situatie terecht waarin we als AFM, als
toezichthouder hier in Nederland, vrezen dat de grip op wat daar gebeurt
... We kunnen niet garanderen dat we dat vast kunnen houden. Daar zullen
we dan op dat moment natuurlijk zo goed mogelijk mee omgaan. Maar
die lessen zijn natuurlijk niet alleen op de financiële sector van toepassing,
maar ook op andere gebieden. Diezelfde beïnvloeding, pogingen om het
gedrag van mensen te sturen. Gamification, verslavende elementen in die
platforms et cetera hebben ook hun invloed buiten de financiële sector,
maar daar zijn wij dan niet verantwoordelijk voor.
Dus in samenvatting: de risico’s die wij zien, zijn dat bedrijven met zeer
grote macht, zeer grote invloed, zeer veel middelen, die zich in het
buitenland bevinden en die dan in het buitenland ook vaak niet vergunningplichtig zijn of moeilijk te bewegen zijn onze wet- en regelgeving te
volgen steeds meer invloed gaan krijgen op het gedrag van consumenten
in Nederland, in het financiële systeem en ook buiten het financiële
systeem, en dat dat dus tot ongelukken kan leiden. Omdat de ontwikkelingen in de techsector zeer snel gaan, waarin in maanden een initiatief tot
stand kan komen en daar schade kan ontstaan, is daar ook voor de
wetgever – voor u en voor uw Europese collega’s – in een aantal gevallen
niet snel genoeg op te reageren. Voor ons als toezichthouder is het al
uitdagend om snel genoeg te reageren op een aantal situaties. En dus is
het risico van dit soort ontwikkelingen erg groot aanwezig.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

34

Natuurlijk zijn er ook tegenkrachten. Wat de AFM in haar marktanalyses
altijd doet, is kijken of er relevante tegenkrachten zijn die zorgen dat het
vanzelf in de goede richting gaat. Een bedrijf als Facebook is erg gevoelig
voor reputatieverlies. Dus er zijn absoluut een aantal krachten die ervoor
zorgen dat zij hun gedrag zo zullen proberen in te richten dat dat in ieder
geval niet tot reputatieschade en tot omzetverlies gaat leiden.
Maar wat je niet ziet, weet je niet en daar kun je ook niet tegen optreden.
Dus het risico dat wij zien is de combinatie van de vervaging van de
grenzen van de financiële sector, de snelheid van veranderingen en het
feit dat deze bedrijven in het buitenland zitten, met andere wetgeving en
een andere cultuur op het gebied van zorgvuldig gedrag van consumenten.
Hebben wij een advies: zo kun je dat oplossen? Eigenlijk niet, want binnen
onze sector, waar wij verantwoordelijk voor zijn, hebben wij een fatsoenlijke set wetgeving waar wij mee uit de voeten kunnen. Maar buiten dat
terrein hebben wij niet de bevoegdheid, maar ook niet de kennis en het
inzicht om te kunnen zeggen: wat moet je daar dan mee? Dus het enige
wat we nu kunnen zeggen, is: let op, volg die ontwikkelingen nauwgezet,
bekijk het volledig door de bril van beperkte rationaliteit van consumenten. Wees je bewust van de risico’s die daaraan vastzitten en wat de
valkuilen voor consumenten zijn. Let op of die wettelijke kaders voor die
techbedrijven en die financiële sector, maar vooral die techbedrijven in dit
geval, afdoende zijn. En als er actie genomen moet worden, is dat in veel
gevallen niet op nationaal niveau, maar op Europees of mondiaal niveau.
Dank u wel.
De voorzitter:
Dank u wel, voor een niet per se heel optimistisch verhaal. Maar wie weet
krijgen we daar toch nog iets anders van te horen. Ik geef als eerste het
woord aan de heer Middendorp.
De heer Middendorp (VVD):
Dank u wel voor de heldere en doortastende inleiding. Begrijp ik het goed
dat u eigenlijk zegt dat het gedragstoezicht in de financiële sector, waar ik
in the spirit of full disclosure zeventien jaar in heb gewerkt – dus dat
spreekt me wel aan – een voorbeeld zou kunnen zijn voor het gedragstoezicht in de digitale sector? Dat is vraag één.
Ik vraag dat, omdat ik bij de presentatie af en toe dacht: «Daar gaan ze
over». Facebook werd genoemd. En af en toe dacht ik: «O nee, ze gaan er
toch niet over, wij moeten het zelf scherp in de gaten houden». Gaat u er
nu over en zou u erover willen gaan? Dat zou dan de tweede vraag zijn.
De heer Van de Beek:
Bedankt. Ik denk dat de regulering van de financiële sector een inspiratie
kan zijn, ja. Want daar zijn een aantal belangrijke concepten zoals
zorgplicht uitgewerkt. Als de gehele techsector zich aan die eisen zou
houden, dan zou ik een stuk geruster slapen. Dat doen ze nu wel via het
Burgerlijk Wetboek, maar dat is in zeer algemene zin. Twee dingen zijn in
de techsector nu nog niet aanwezig, namelijk specifieke publieke
wetgeving, op die sector gericht, en toezicht. Ik ga hier niet zeggen: «Wij
van WC-Eend zijn voor WC-Eend». Maar het voordeel van toezicht is wel
dat je als het goed is een competente toezichthouder hebt die ontwikkelingen nauwgezet volgt en die veel proactiever kan acteren dan veel
andere organisaties.
U vroeg ook: gaan we hierover? Ja, gedeeltelijk wel, gedeeltelijk niet. Dus
op het moment dat Facebook financiële diensten aanbiedt in Nederland,
dan gaan we erover. Dan moeten ze hier een vergunning aanvragen of in
een ander Europees land, en met een paspoort gaan werken.
Alleen, de grens tussen financiële dienstverlening en daarbuiten vervaagt
enorm. We hebben zaken zoals generiek advies. Dat is dus niet advies

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

35

zoals onder de Wft geregeld, waarbij het om een specifiek product voor
een specifieke consument gaat, maar algemene aanbevelingen. De
situatie met die influencers en die verleidingstechnieken die je in de
technologiesector hebt, is niet vergunningplichtig maar kan wel een heel
grote invloed hebben.
Dus mijn antwoord op uw vraag zou zijn: het kan een bron van inspiratie
zijn omdat de concepten die in het financiële toezicht en in de wetgeving
ontwikkeld zijn ook zeer toepasbaar en bruikbaar zijn voor de techsector.
Alleen, het is altijd weer de balans tussen voldoende regels en verplichtingen opleggen – zonder dat je innovatie belemmert en zonder dat je de
positieve kanten die we allemaal willen genieten belemmert – en wat we
hier in Nederland doen ten opzichte van hoe het in het buitenland
geregeld is.
De heer Middendorp (VVD):
U volgt de lijn van de ochtendvoorzitter, dus dank. Een kort vervolg, in de
zin dat je een vervolgvraag mag stellen, begrijp ik.
Dat spreekt mij aan, want ik heb zelf de afgelopen maanden ook gedacht
vanuit dat toezicht op de financiële sector.
Dan toch twee dingen daarover. Ten eerste zegt u eigenlijk niet dat
mensen een beetje worden genudged; dan vat ik het heel kort samen. U
zegt niet: «Alleen als dat over financiële kwesties gaat, gaan wij er nu
over», terwijl ik dat wel zou verwachten. Want er gebeurt natuurlijk een
heleboel op social media. Cambridge Analytica bijvoorbeeld heeft volgens
mij niet zo veel te maken met financiële producten. Maar misschien kunt u
mij dat anders vertellen. Dat is één.
En twee, ik was toch wel geïnteresseerd in het voorbeeld van Malta, want
gaat u de boel dicht houden als we op Europees niveau gaan samenwerken? En geldt elk paspoort voor digitale financiële diensten in Europa
ook met net zo veel kracht in Nederland? Is dat eigenlijk werkbaar voor
een instelling als de AFM?
De voorzitter:
U rekt het wel helemaal op hoor, van een vervolgvraag naar ik geloof vier
vervolgvragen! Maar ik denk dat de heer Van de Beek er wel weg mee
weet.
De heer Van de Beek:
Misschien heb ik me niet goed uitgedrukt. Over zaken buiten de financiële
sector gaan wij absoluut niet. Maar waar het ook aan raakt en waar het op
een gegeven moment onder de definitie van financiële dienst valt, hebben
wij gewoon onze bevoegdheden.
Dan het tweede deel van de vraag; misschien dat ik dan iets oversla. Het
Europese systeem is absoluut een zaak van aandacht op dit moment,
omdat we gezien hebben dat het Europees paspoortsysteem uitgaat van
vergelijkbaar toezicht in verschillende landen. We hebben in een aantal
gevallen gezien dat dat toch nog niet helemaal zo het geval is. Ik moet wél
zeggen dat de laatste twee, drie jaar, nadat we met de binaire opties en de
CfD’s gezien hebben dat dat niet goed genoeg werkte, wel veel is
gebeurd. We merken dat de samenwerking met de toezichthouders in die
streken nu echt veel beter is en dat ze zelfs ook echt proactief achter
dingen aan gaan waarover wij niet eens een signaal afgegeven hebben.
Binnen het systeem vindt op dit moment een duidelijke verbetering
plaats, maar het is absoluut een punt van aandacht, ook omdat wij in
Nederland een aantal dingen toch net iets anders hebben geregeld dan in
het buitenland. Zo zien we dat aanbieders vanuit bijvoorbeeld Duitsland
diensten in Nederland aanbieden op een manier die niet strookt met het
provisieverbod.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

36

Mevrouw Van Weerdenburg (PVV):
Ik had een vraagje over de techreuzen. U gaf het voorbeeld van Facebook,
dat een schakel kan worden in de financiële sector. Ik denk dan als eerste
aan Apple, met Apple Pay. Volgens mij is dat in Nederland nu nog alleen
bij ING geïmplementeerd. Ik heb het zelf ook. Dan klik ik hem aan en dan
zie ik «ING» staan. Het is net alsof het van mijn bank is. Het krijgt een
soort goedkeuringsstempeltje, terwijl het in feite toch een betalingssysteem is van zo’n techreus. Als Nederlandse toezichthouder bent u
misschien niet helemaal ertoe gewapend om die de les te lezen. Hoe zit
dat dan? Waar zijn de gevaren?
De heer Van de Beek:
Een hele goede vraag. Herinnert u zich het plaatje van de unbundling?
Ongetwijfeld stond Apple Pay ook ergens op dat plaatje. Dat is dus een
situatie waarin een vergunninghoudende partij in Nederland een dienst
van een derde aanbiedt en dus ook verantwoordelijk is voor die dienst.
Dat betekent dat de dienstverlening door bijvoorbeeld Apple dus indirect
toch aan de Nederlandse wet- en regelgeving moet voldoen. Dan is de
situatie in principe dus weer veilig. Ik ben geen techexpert, dus ik weet
gewoon niet hoe Apple Pay in elkaar zit. Ik kan de details niet benoemen,
maar dit is hoe het systeem in principe, op hoofdlijnen, werkt. Het wordt
anders als een onderneming direct toegang tot u heeft. Dan moeten wij bij
de AFM alert zijn op die situaties. Die zouden heel lastig kunnen worden.
Op een gegeven moment constateren wij dat Facebook of wie dan ook
diensten aanbiedt in Nederland zonder dat daar een vergunning aan ten
grondslag ligt. Die ondernemingen hebben ook hele grote juridische
afdelingen, die dit ook wel scherp in de gaten houden, want ook daar ligt
reputatieverlies op de loer. Maar potentieel zit daar wel een risico in.
Ik heb het nu vooral over grote bedrijven gehad, maar het risico zit
natuurlijk veel meer bij kleine, kwaadwillende bedrijven. De grote
bedrijven hebben altijd het grote belang dat hun producten en diensten
geen negatieve publiciteit veroorzaken, maar er zijn hordes financiële
criminelen die vanuit het buitenland proberen om Nederlandse consumenten te benadelen. Soms gebeurt dat vanuit een klein Europees land
met minder ontwikkeld toezicht, maar wel met een vergunning, waarna ze
met een paspoort naar binnen komen, ofwel direct via boilerrooms en
noem maar op. Dat is heel lastig. Dat is het whack-a-moleprincipe: er komt
een mol omhoog en je geeft er een klap op. In dat soort toezicht – bij ons
dus het harde, repressieve toezicht – is het echt een wedloop om op een
gegeven moment snel in de gaten te hebben: o, daar heb je er weer
eentje; daar moeten we snel tegen optreden en wat kunnen we er dan
tegen doen? Als ze buiten Europa zitten, kunnen we alleen waarschuwen.
Het blijft dus lastig.
Ik weid wat uit, maar nu terug naar Apple. Er zijn twee situaties te
onderscheiden: de situatie met Apple Pay op dit moment is dus wel door
uw bank geborgd, maar als het direct is, zouden ze eigenlijk een
vergunning in Nederland of in Europa moeten aanvragen.
Mevrouw Van Weerdenburg (PVV):
We hadden het eerder over dingen die je misschien niet weet, bijvoorbeeld dat bedrijven, ook de grote jongens, toch data verzamelen terwijl
dat op zich niet te zien is. Is de bank daar dan verantwoordelijk voor?
Moet elke bank dan dus zelf ... Is dat dan ook de reden dat de een het al
wel heeft en de ander nog niet?
De heer Van de Beek:
Ja, inderdaad. Die bank is daar dan verantwoordelijk voor. Dat zijn de
regels voor uitbesteding. Als je een deel van je product of dienstverlening
uitbesteedt aan een derde, ben je als vergunninghouder onverkort
verantwoordelijk voor wat daar gebeurt. De banken letten echt wel heel

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

37

scherp op wat daar gebeurt, maar wat er op een gegeven moment in de
black box van kunstmatige intelligentie gebeurt en wat er aan subtiele
influencers is enzovoort ... Tja, ook een bank kan van alles missen. Dat
hebben we onlangs ook wel weer gemerkt op een ander terrein. Het blijft
dus gewoon een heel complex geheel. Omdat de ontwikkelingen zo snel
gaan, is het voor alle betrokken partijen, voor ons als toezichthouder en
voor de vergunninghoudende partij, complex om alle mogelijke overtredingen te zien. Ook zijn sommige dingen op het gebied van dataverzameling en dat soort zaken wel schadelijk, maar niet illegaal.
De heer Van Dam (CDA):
Ik heb twee vragen, voorzitter, als u mij dat toestaat. Mijn eerste vraag is
een beetje kritisch getoonzet. Als ik nu zie wat u ons adviseert over wat de
Tweede Kamer kan doen: om heel eerlijk te zijn denk ik dat ik van tevoren
ook had kunnen bedenken dat u ons dat ging vertellen. Ik zeg u dat liever
recht in het gezicht dan dat ik het na afloop tegen mijn collega’s zeg. Ik
zou u dus bijna willen prikkelen. Vertel nou eens echt waar vanuit het
AFM-perspectief uw zorg ligt. Waar ligt u nu professioneel ’s nachts van
wakker als we het hebben over digitalisering? Of ligt u helemaal niet
wakker? Dat wens ik u van harte toe, maar ik zou iets meer urgentie willen
zoeken.
Mijn tweede vraag stel ik aan alle toezichthouders. Er zijn meerdere
toezichthouders in Nederland die zich met digitalisering en technologie
bezighouden. Kunt u vanuit uw positie eens benoemen welke andere
toezichthouders zich daar in uw beleving mee bezighouden? Waar raakt u
of waar mist u elkaar? Zijn er gaten in dat geheel of kunnen wij rustig
gaan slapen en wordt er voldoende toezicht gehouden als het gaat om
digitalisering en technologie?
De voorzitter:
U bent wel erg bezig met slapen! Ik hoop dat wij rustig gaan slapen en dat
we ook een antwoord krijgen.
De heer Van Dam (CDA):
Ik was een beetje grieperig dit weekend; misschien dat dat de inspiratie
was.
De voorzitter:
Ik wens u een gezonde nachtrust, maar eerst nog een antwoord.
De heer Van de Beek:
Lig ik er weleens van wakker? Ja, ik lig er weleens van wakker. Dit is een
van de belangrijkste dingen waar wij van wakker liggen. Het risico dat er
zeer snel een ontwikkeling vanuit de techkant komt die onvoldoende
beheersbaar is met de instrumenten die wij hebben, is een van de dingen
waar wij het meest mee bezig zijn. Alleen heb je, zelfs als het snel gaat,
meestal nog wel een paar maanden reactietijd. Dat hebben we bijvoorbeeld gezien bij de bitcoin. Dat is eigenlijk een uitstekend voorbeeld. Toen
er enorm veel geld in de richting van bitcoins en andere crypto’s ging,
constateerden wij dat wij geen formeel mandaat hadden om daartegen op
te treden. Wel zagen we dat de schade die daarbij geleden zou kunnen
worden veel groter was dan bij zaken waar wij in ons toezicht de
brandweer voor lieten uitrukken. Het probleem is alleen dat je vaak niet
van tevoren weet waar het vandaan komt. Vandaar mijn eerste suggestie,
die zowel voor ons als voor u geldt, om de ontwikkelingen nauwgezet te
volgen. Het zijn vaak de known unknowns, de zaken waarvan je weet dat
ze op een gegeven moment gaan voorkomen maar niet hoe of
waarvandaan, die de grootste zorg vergen. Voelen wij ons als toezichthouder op de financiële sector onvoldoende in staat om dat toezicht te

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

38

houden? Nee. Daar waar wij een mandaat hebben, voelen wij ons in staat
om op te treden.
U vroeg ook naar de verbanden met de andere toezichthouders. De
toezichthouders waar wij het meest mee samenwerken zijn De Nederlandsche Bank, de ACM en de Autoriteit Persoonsgegevens. Als toezichthouder houd je bij dit soort generieke risico’s zeer nauw contact. Je
wisselt inzichten uit en trekt samen op. Op het moment dat je een
ontwikkeling ziet die meerdere aspecten raakt, zit je fysiek dicht bij elkaar
en weet je elkaar ook te vinden. Bij De Nederlandsche Bank is dat voor de
AFM zeer frequent, want we zijn allebei betrokken bij alles met betaalmiddelen. Heb ik zo uw vraag voldoende beantwoord?
De heer Van Dam (CDA):
Ja. Concluderend: u ziet geen gaten in dat toezicht?
De heer Van de Beek:
Dat verleidt mij tot famous last words, zou ik bijna zeggen! Nee, wat ik zeg
is dat wij op dit moment geen gaten zien waarvan wij denken dat ze tot
onverantwoorde risico’s leiden, binnen het mandaat dat wij hebben. Maar
zojuist heb ik al benoemd dat er zich buiten ons mandaat van alles
afspeelt en dat die grens steeds poreuzer wordt. Dus concreet: zou ik u nu
een suggestie kunnen doen in de zin van «als u dat reguleert, gaat het
beter»? Op ons gebied is het antwoord dan nee, behoudens details die
altijd onderwerp van discussie met het Ministerie van Financiën zijn.
Alleen kan er morgen, vandaag nog, iets gebeuren waarvan ik me
helemaal rot schrik, omdat het uit een hoek komt die niet onder ons
vergunningsplichtig stelsel valt maar die wel zeer schadelijk kan zijn in het
financiële domein. Dat is het lastige van dit hele onderwerp. Vandaar dat
mijn presentatie misschien wat algemeen was in die zin, omdat in mijn
ogen juist de toekomstige verrassingen het gevaarlijkst zijn.
De heer Verhoeven (D66):
Wij hebben inderdaad meerdere toezichtshouders gesproken. U schetst
de beperkte reikwijdte van het vergunningenstelsel. Een opvallend
voorbeeld onlangs betrof de Reclame Code Commissie. Die heeft
convenanten met allerlei toezichthouders. Op een gegeven moment
hebben ze via het convenant dat ze met jullie hebben, op de een of andere
manier aangegeven dat er veel problemen zijn met misleidende advertenties voor cryptocoins. Ik vond dat wel een aardig voorbeeld, omdat het
heel duidelijk iets betreft waarvan iedereen vindt dat het misleidend is en
dat er absoluut iets aan zou moeten gebeuren. Het is iets wat op basis van
bestaande wetgeving of in ieder geval op basis van normen en waarden
duidelijk verboden is, maar het is dus heel lastig om ... Ik wist toen
overigens nog niet dat de Reclame Code Commissie gewoon een private
organisatie is die convenanten heeft met allerlei toezichthouders om zo
uiteindelijk in actie te komen, maar goed, ik weet wel meer dingen niet die
ik had kunnen weten. Dit geeft aan dat er dus inderdaad zoektochten zijn
om te kunnen ingrijpen als toezichthouder, terwijl de toezichthouder
eigenlijk steeds belangrijker wordt omdat de wetgeving misschien niet
snel kan worden veranderd, maar ook niet altijd de oplossing is. Ik ben, in
navolging van de heer Van Dam, toch een beetje op zoek naar de
middelen en instrumenten die u als AFM graag zou willen hebben op het
moment dat het misgaat, bijvoorbeeld wanneer, zoals u schetst, er iets
zou kunnen gebeuren wat nog niet gebeurd is.
De heer Van de Beek:
Dat is een hele goede vraag, waar ik zelf ook nog even over na moet
denken. U noemde het voorbeeld van reclame voor bitcoins. Zoals ik al
zei, zijn bitcoins niet gereguleerd in Nederland. Waarschijnlijk ging het
dan om reclames voor afgeleide producten van Nederlandse of in Europa

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

39

actieve partijen, misschien fondsen. Daar kunnen we dan wel tegen
optreden, maar dan is het nog de vraag waar die partijen zich bevinden.
Zoals ik eerder zei, was de samenwerking met de perifere toezichthouders
in Europa drie jaar geleden zeer beperkt. Inmiddels is die aanzienlijk
verbeterd: de telefoon wordt nu opgenomen en er wordt op korte termijn
actie ondernomen. Maar dan nog zijn bijvoorbeeld reclames die door een
vergunninghouder in Cyprus via internet tot mensen gebracht worden,
heel complex te ontrafelen. Wat dat betreft zou een van de risico’s zijn dat
wij als toezichthouder overspoeld zouden kunnen worden met dit soort
overtredingen, terwijl het Europese systeem het lastig maakt om efficiënt
en effectief op te treden tegen een vloed van reclames op dat gebied.
Aan de andere kant hebben we binnen ons toezicht al zeer goede
contacten gehad met een aantal van dit soort platforms, onder andere
Facebook, om advertenties te verwijderen die zich op internet bevinden.
Het is jammer dat ik nu de cijfers niet bij me heb, maar we hebben een
digitaal systeem dat Marktplaats afstruint op dit soort reclames. Die
worden dan digitaal aangeleverd aan de platforms, die ze vervolgens
weghalen. Er is inmiddels een bijna volledig geautomatiseerd systeem
ontstaan om dergelijke schadelijke reclame-uitingen zeer snel van internet
te verwijderen. Want als het een dag online staat, kan het al heel veel
effect hebben. We proberen die wapenwedloop dus te volgen.
Ik wil geen verkeerde indruk wekken, maar wij zijn natuurlijk wel een
organisatie met een gelimiteerd budget. We hebben te maken met partijen
die soms veel grotere budgetten hebben. Dat heeft twee effecten. De
middelen die ingezet worden om consumenten te beïnvloeden, zouden in
theorie onze middelen op een gegeven moment kunnen overstijgen. Dat
is nu niet het geval. Met een slimme aanpak zorg je ook dat de partijen die
ervoor verantwoordelijk zijn, hun verantwoordelijkheid nemen en hun
middelen inzetten. Daar zit dus nog wel een rem op. Maar als we op een
gegeven moment in een gebied terechtkomen waar het juridisch niet
volledig duidelijk is hoe de wet geïnterpreteerd moet worden – als je met
partijen uit het buitenland te maken hebt, die vanuit een andere compliancecultuur komen, zou dat zomaar het geval kunnen zijn – zouden we
weleens met heel dure juridische gevechten te maken kunnen krijgen. Als
dat gebeurt, gaan we naar het Ministerie van Financiën en zeggen we:
hoor eens, we hebben een probleem en daar moeten we wat mee. Het
punt is dat het eigenlijk ook een wedloop van strategieën is. Het is aan
ons als toezichthouder om snel, effectief en efficiënt genoeg te zijn om die
wedloop met beperkte middelen toch effectief te kunnen voeren. Ik kan u
geen garantie geven dat we dit tot in lengte van dagen kunnen blijven
doen. Op dit moment gaat het redelijk goed.
De heer Verhoeven (D66):
Mag ik nog een vraag stellen? U bent een sectortoezichthouder. We
hebben ook meer themagerichte toezichthouders. De Autoriteit Persoonsgegevens is bijvoorbeeld door de verschillende sectoren heen de
privacytoezichthouder. De Autoriteit Consument & Markt is eigenlijk door
de sectoren heen de mededingingsmarkttoezichthouder. Naast de
financiële markt heb je ook nog het Commissariaat voor de Media. Dat is
ook wat meer specifiek. Hoe gaat dat in de zorg? De zorg is de volgende
markt waar ongelofelijk veel techbedrijven zich op gaan richten, met hun
producten, mogelijkheden, algoritmes en hun diagnose-opafstandmogelijkheden. Gaan daar dezelfde ontwikkelingen spelen?
Hebben jullie daar overleg mee? Hebben jullie als AFM bijvoorbeeld
contact met de Nederlandse Zorgautoriteit over de ontwikkeling dat
allerlei nieuwe bedrijven, die misschien ook niet binnen die vergunningsplichtige kaders vallen, toetreden tot die markt? Dan hebben we wel een
bijzondere situatie. Je hebt algemene toezichthouders en sectorale
toezichthouders. Hoe verhouden die zich tot elkaar? Dat is even een
brainwave die in mij opkwam. Wordt daarover nagedacht?

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

40

De heer Van de Beek:
Ik moet bekennen dat mijn kennis over de ontwikkelingen in de zorg
tekortschiet. Dat weet ik gewoon niet. Het punt van ... Hoe noemde u het?
Generieke of ...
De heer Verhoeven (D66):
Meer thematisch.
De heer Van de Beek:
Sectorale en generieke toezichthouders. Daar hebben we bijvoorbeeld
met de ACM mee te maken. Onze ervaring is dat dat zich prima verenigt,
ook omdat onze acties als toezichthouders gebaseerd zijn op marktanalyses. We kijken dus naar marktdynamiek, eigenlijk op een heel vergelijkbare manier als de ACM dat doet. In de zorgmarkt heeft de Zorgautoriteit echt veel meer specifieke bevoegdheden op dat gebied. Dat is een
gebied waarin wij iets minder actief zijn, omdat een andere toezichthouder daar al een oog in het zeil houdt. Volgens mij zijn er twee dingen.
De heer Van Dam heeft eerder ook al die vraag gesteld. Vallen er geen
gaten tussen de toezichthouders? Dat is een kwestie van effectief
samenwerken. Grappig genoeg gaat het best goed, omdat je als toezichthouder hetzelfde DNA hebt. Ik heb eigenlijk nooit situaties meegemaakt
waarbij ... Ja, soms heb je hele kleine organisaties waarbij het denken
over consumentengedrag enzovoort wat minder is ontwikkeld, maar over
het algemeen merk ik dat die samenwerking gewoon goed loopt.
Er is ook nog een risico van het optreden van duplicatie. We hebben
beperkte middelen, dus als wij iets niet willen, is het wel duplicatie. Dat is
gewoon heel erg inefficiënt. Als het al niet bij wet is geregeld, maken we
dus meestal afspraken over wie wat doet. Bij De Nederlandsche Bank
komen we dat heel regelmatig tegen.
De heer Verhoeven (D66):
Mag het nog, voorzitter, één laatste korte vraag? Bent u voor generiek of
sectoraal toezicht als het gaat om het vraagstuk van de digitalisering? We
praten er in Kamercommissies ook vaak over, horizontaal en verticaal.
Hier speelt het dus ook een rol. Misschien moet het wel en-en.
De heer Van de Beek:
Daarom zei ik eerder al: wij van WC-Eend ... Ik zal hier geen WC-Eend
adviseren. Ik ga ook absoluut niet claimen dat ik daar de deskundige in
ben, maar ik kan me zeer wel voorstellen ... Ik heb mijzelf voor dit gesprek
ook die vraag gesteld. Het was dus wel prikkelend dat ik hier werd
uitgenodigd. Wie is hier eigenlijk verantwoordelijk voor? Wie kan hier
vroeg en snel actie ondernemen om te zorgen dat onwenselijke ontwikkelingen voorkomen worden? Toen is de gedachte van een toezichthouder
digitale sector door mijn hoofd geschoten. Alleen kan ik onvoldoende
beoordelen of dat de juiste oplossing zou zijn. Maar ik zou het zeker
onderzoeken.
De voorzitter:
Dank u wel. Ik wil er zelf nog een vraag over stellen. Ik vind het toch een
beetje onbevredigend. U zegt een aantal dingen. U zegt: daar waar wij
mandaat hebben, voelen wij ons in staat op te treden. Dat is dus vrij
positief. Maar dan komt u wel met een soort disclaimer: toekomstige
ontwikkelingen vanaf vanmiddag of morgen zijn natuurlijk het gevaarlijkst, en die kennen we niet. Dat begrijp ik. In uw presentatie zei u dat de
marktmacht van grote techplatforms zeer groot kan zijn. U zei zelfs: daar
hebben we eigenlijk bijna geen grip meer op. Dan is dat toch niet alleen
een dreiging in de toekomst? Dan hebben we die dreiging eigenlijk toch
al? Hoe die uitpakt, kan verschillend zijn, maar het is toch een vorm van
dreiging? Die is toch best heel reëel? Ik heb toch een beetje het idee dat

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

41

dit misschien niet uw precieze mandaat is en dat het daarom wat minder
een probleem is. Maar vervolgens zitten we wel met de situatie dat we
een aantal toch wel heel gevaarlijke zaken hebben geconstateerd. Ik zie
niet welke toezichthouder hier grip op probeert te krijgen.
De heer Van de Beek:
Een terechte opmerking en vraag. Ik neem weer even een moment om
erover na te denken. Op dit moment gebeuren er geen zaken die we niet
in de hand hebben. Alleen, in het onderwerp waarover we het hebben,
wordt echt voor duizenden miljarden dollars en euro’s geïnvesteerd, voor
nieuwe ontwikkelingen. Dat gebeurt zowel in grote bedrijven als in kleine
bedrijven. De hoeveelheid creativiteit en middelen die hierachter zit, is
enorm. Dat maakt dat er een zekere mate van onvoorspelbaarheid in zit.
Toezichthouders zijn voorzichtig, dus ik ga geen garanties geven over
zaken waarvan ik niet weet of ze straks door een ontwikkeling ontkracht
worden. Ik maak me op dit moment niet direct zorgen over wat ik zie,
maar ik zie wel dat het tempo waarmee zaken naar boven komen en
waarop innovaties plaatsvinden, steeds toeneemt. Wij hebben er een
fintechteam op zitten. Wij hebben mensen die continu de zaken volgen, de
risico’s in kaart brengen en proberen alert te reageren op het moment dat
het nodig is. U vindt het onbevredigend. Ik vind het ook wel een zekere
schoonheid hebben. De creativiteit van de menselijke samenleving en van
die ondernemingen, de kwaliteit en de toegevoegde waarde die een en
ander ons gebracht heeft, met alle negatieve bijverschijnselen: daar ben ik
heel positief over, ook in de financiële sector. We zien dat er veel meer
mogelijk is op dit moment. Het wezen van toezichthouder zijn is niet alle
risico’s elimineren, maar het is alle zichtbare risico’s goed managen en
zorgen dat je zo veel mogelijk ziet van wat nog niet zichtbaar is. Wat dat
betreft kan ik me voorstellen dat het voor u wellicht onbevredigend is,
maar voor ons? Het is onze natuur, het is ons werk: omgaan met
onzekerheid.
De voorzitter:
Dank u wel. Dan heb ik een vraag die misschien wat meer teruggaat naar
de aard van de vragen die wij moeten beantwoorden als tijdelijke
commissie. Dat heeft te maken met hoe wij als Kamer hier meer grip op
kunnen krijgen. U heeft een aantal zaken gezegd ten aanzien van
ontwikkelingen nauwgezet volgen en dergelijke. U kent ook het werk van
de Kamer. Heeft u nog advies over de wijze waarop wij iets aanpakken:
proactief of juist reactief, het verdelen over allerlei commissies? Wie weet
heeft u daar minder zicht op, maar heeft u misschien toch nog wat
observaties? Wij zullen het u niet kwalijk nemen als die wat minder
complimenteus zijn voor de Kamer. Wat kunnen wij beter doen?
De heer Van de Beek:
Ik denk dat ik de belangrijkste eigenlijk al genoemd heb. Dit is geen
nationaal verschijnsel. De aandacht van de Kamer gaat vooral uit naar het
nationale bereik. U heeft ook een rol. Ik weet niet precies hoe het
institutioneel geregeld is, maar u heeft ook een rol op het Europese vlak.
In mijn ogen is het allerbelangrijkste ... Wacht, ik neem dat even terug en
begin opnieuw. Wij zijn Europees actief en wij zijn bij ESMA vertegenwoordigd, op allerlei gebieden. Wat ik merk, is dat Nederland daar een
invloedrijke rol kan spelen. Daar zijn we ook effectief in door een
combinatie van omstandigheden die ik als volgt wil samenvatten. We
praten fatsoenlijk Engels, we zijn een middelgroot land en dus niet te
bedreigend, we zijn technisch best goed en we zijn praktisch. Ondanks dat
er convergentie is op Europees gebied zie je dat nog steeds elk land zijn
eigen aanpak heeft enzovoort. Dat leidt tot een soort creativiteit die een
monolithische besluitvorming in de weg staat. Ik hoop dat u de mogelijkheden ziet om in Nederland inzichten en richtingen van een initiatief te

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

42

ontwikkelen. De gedachte «goh, dit is een stukje van de financiële
regelgeving dat misschien niet toepasbaar is op de techsector; moeten we
niet een techtoezichthouder, een digitale toezichthouder hebben in
Europa?», dus het onderzoeken van de vragen en daar slimme oplossingen voor verzinnen is iets waar echt ruimte voor is. Maar dat
vervolgens op Europees en mondiaal niveau implementeren is wel de
enige manier om hier grip op te houden. Toezicht volgt markt, zeggen we
altijd. Deze markt is gewoon wereldwijd. Hoe kunt u uw rol als nationale
volksvertegenwoordiging ook in het buitenland vormgeven, zou mijn
wedervraag zijn.
De voorzitter:
Een prangende allerlaatste vraag.
De heer Middendorp (VVD):
Heel kort. Dit sluit eigenlijk aan bij de eerste vraag die ik stelde. U heeft
een paar keer in het gesprek gezegd: we weten de ACM en DNB te vinden.
We hebben het gehad over het paspoort van Malta en het aanbieden van
financiële producten in Nederland. Maar eigenlijk zegt u aan het eind toch:
je moet dit op Europees of zelfs op mondiaal niveau gaan regelen. Dat is
toch wel een flink advies aan een nationaal parlement.
De heer Van de Beek:
Ik kan het niet mooier maken. Ik denk dat het echt zo is. Ik denk echt dat
een aantal ontwikkelingen een dergelijke omvang hebben. Dat wil niet
zeggen dat we hier niets kunnen. Ik hoop dat ik dat daarstraks voldoende
tot uitdrukking heb gebracht. We zijn een speler in Europa in mijn
beleving. Omdat die bedrijven wereldwijd actief zijn, is nationale
wetgeving slechts een klein stukje. Het risico is dan dat ze simpelweg de
Nederlandse markt gaan uitsluiten van hun dienstverlening omdat het te
ingewikkeld wordt om te voldoen aan tien verschillende wetgevingen. In
de financiële sector zie je op wereldwijd niveau dat organisaties als
IOSCO/OECD de standaarden en principes bepalen. Die worden
vervolgens op Europees niveau geïmplementeerd. Het is een soort
piramidesysteem, waarbij je op drie niveaus – mondiaal, Europees en
nationaal – je activiteiten en initiatieven kunt ontplooien, maar je moet je
wel altijd bewust zijn van de nationale dimensie.
De voorzitter:
Dank u wel. Dat lijkt me een mooie afsluiting. Daarmee is de cirkel van
vragen en beantwoording helemaal rond. Ontzettend bedankt, meneer
Van de Beek, voor de beantwoording van onze vragen. Wij gaan er ons
voordeel mee doen. Daarmee sluit ik deze ronde af en gaan we zo meteen
verder met de heer Uri Rosenthal als voorzitter van de Adviesraad voor
wetenschap, technologie en innovatie.
De vergadering wordt enkele ogenblikken geschorst.
Blok 4
Gesprek met:
– de heer Uri Rosenthal, voorzitter van de Adviesraad voor wetenschap,
technologie en innovatie (AWTI)
De voorzitter:
Hartelijk welkom aan de heer Rosenthal, voorzitter van de Adviesraad
voor wetenschap, technologie en innovatie, en de heer Knops, werkzaam
bij deze adviesraad. We hebben ook nu weer een uur gepland om met u
van gedachten te wisselen na wat inleidende woorden van uw kant met
ook wat advies en observaties voor onze commissie. Onze commissie

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

43

heeft tot doel om wat meer grip te krijgen op het ingewikkelde onderwerp
van digitalisering. Hoe kunnen wij ons werk beter doen? Daarvoor is het
van belang dat wij alle trends en problemen die er zijn, goed in kaart
hebben. Dus graag een inleiding van uw kant. Dan zullen wij wederom
vragen stellen en zo de dialoog op gang brengen. Ik geef u graag het
woord.
De heer Rosenthal:
Dank u wel, mevrouw Buitenweg. Allereerst dank voor de uitnodiging aan
ons. De redenen die u heeft voor de instelling en het werk van de tijdelijke
commissie zijn door u zeer duidelijk verwoord en die sluiten voor een
groot deel aan bij datgene waar wij vanuit de Adviesraad voor wetenschap, technologie en innovatie naar kijken. Als voorzitter van de
Adviesraad voor wetenschap, technologie en innovatie hoop ik het een en
ander te kunnen inbrengen. Tegelijkertijd ben ik eigenlijk als sinds 2014
erg betrokken bij allerlei internationale ontwikkelingen. Door de Global
Commission on the Stability of Cyberspace wordt de laatste hand gelegd
aan een document waarin wordt gepraat over beginselen en normen voor
de stabiliteit van de cyberspace. Misschien mag ik daar ook een paar
opmerkingen over maken, of anders komt dat wel in de discussie naar
voren.
Wat betreft de manier waarop de Adviesraad voor wetenschap, technologie en innovatie met deze zaak omgaat, verwijs ik allereerst naar een
rapport dat wij vier jaar geleden hebben uitgebracht onder de titel «Klaar
voor de toekomst?» – met een vraagteken dus – «Naar een brede strategie
voor ICT». In dat rapport hebben wij toentertijd gemeld dat Nederland er
op allerlei punten goed voorstaat wanneer het gaat om de digitalisering
en ook de cybersecurity en -safety, maar dat het wel noodzaak is om alle
hens aan dek te houden. Dat was in 2015. De kern die wij toen hebben
neergelegd in ons rapport was de welbekende frase dat de ICT de enabler
is van key enabling technologies – dat speelt nu ook weer op in de sfeer
van de sleuteltechnologieën – en dat het probleem bij een en ander is, of
in 2015 was, dat de zaak bij de overheid te weinig op het netvlies zit/zat,
de bekende open deur, en dat de snelheid waarmee de zaak zich
ontwikkelt niet altijd wordt bijgehouden. Overigens speelt internationaal
hetzelfde. Voor ons gold toch ook wel dat een omvattende benadering op
ICT-beleid voor onderzoek en innovatie afwezig was. Daarbij speelde toen
dat wij beducht waren voor het feit dat de voorsprong die Nederland op
dat ogenblik in tal van opzichten had, en die we overigens nog steeds
hebben, dreigde verloren te gaan.
Wij waren nog niet klaar met dit advies of er kwam een internationaal
rapport uit van academici waarin interessant genoeg werd gezegd dat
Nederland behoorde tot het toplevel wanneer het gaat om digital
evolution maar dat we tegelijkertijd – ik moet het zeggen – met de
Tsjechen, de Finnen, de Denen, de Noren, de Fransen en de Belgen
behoorden tot de landen die in een stalling-outpositie zaten: rapidly
receding. Dat baarde ons toentertijd fors zorgen.
Zijn die zorgen nou bij ons in vier, vijf jaar weggenomen? Voor een deel
wel, voor een deel niet. Ik heb me daar nog even over verstaan met
degene in onze adviesraad die destijds de trekker was van het advies. Die
kwam tot een paar concrete punten. Wij constateerden toentertijd al dat
de ICT niet goed aangehaakt was bij het topsectorenbeleid in Nederland;
een beetje mondjesmaat. Wij constateerden toentertijd ook dat de
noodzaak voor de samenleving, voor onderwijs en onderzoek om toe te
gaan naar 21ste-eeuwse vaardigheden en kwaliteiten nog niet on top of
things was. Bij de behandeling van de informatie- en communicatietechnologie en met name de noodzaak om naar transdisciplinaire innovatie
toe te gaan, kreeg ik toch mee dat er nog altijd te weinig middelen voor
ter beschikking worden gesteld, zij het dat we op een aantal punten
sprongen voorwaarts maken. Dan doel ik met name op voorbeelden als

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

44

de kwantumzaken – zie Delft – zij het dat dat vooral Microsoftgefinancierd
is, en de artificial intelligence, wat nu een hot issue is. Wij hebben
overigens over een en ander in aanpalende adviezen nog het nodige
gezegd.
In een recent advies over het stelsel van hoger onderwijs en onderzoek,
en de toekomstbestendigheid ervan hebben wij ook weer genoteerd dat er
wat betreft digitalisering en de vaardigheden die daarvoor gevraagd
worden in de samenleving, nog het nodige te winnen is, met name
wanneer het gaat om vaardigheden in de richting van een nieuwe
structuur van banen en arbeid die in de 21ste eeuw aan de orde zijn. Wij
hebben daarbij ook kansen gemeld. De digitalisering biedt nieuwe
mogelijkheden in het hoger onderwijs en in het onderzoek. Er zijn dus
positieve kanten. Maar ook hebben we gemeld dat het een probleem is
dat het hogeronderwijsstelsel nog altijd onvoldoende voorbereid is op
toekomstige leervragen. Concreet: het aanpassen van curricula gaat heel
traag. Het voorbeeld zit ’m even in een verwante sector. Het kost jaren om
bijvoorbeeld techniek meer in de opleidingen van het brede hbo te
krijgen. Nou zien we allerlei bemoedigende zaken. Zo wordt in de
Digitaliseringsstrategie 2.0 de wijze vermeld waarop op basisscholen
wordt geprobeerd om de digitalisering ingang te doen vinden. Desondanks is er nog een wereld of een land te winnen.
Mag ik nog zijdelings naar een advies uit 2017 verwijzen van een club die
bij ons in hetzelfde gebouw zit, één etage lager: de Onderwijsraad? De
Onderwijsraad meldde toentertijd dat een duidelijke visie op de relatie
tussen onderwijs en ICT vaak ontbreekt en dat instellingen allemaal elk
voor zich andere doelen rond digitalisering van het onderwijs hanteren en
dat er ook verschillen zijn in de koers en de snelheid van de digitalisering.
Ten slotte, last but not least, wil ik vermelden dat toen wij het rapport
getiteld Klaar voor de toekomst? van eind 2015 raadpleegden, door de
toenmalige president van de KNAW werd gezegd dat er nog altijd het
nodige te doen is in het hoger onderwijs en het onderzoek om de
digitalisering echt tussen de oren en de vingers te krijgen.
Mag ik nog even kort ingaan op die andere loot aan mijn stam: de
cybersecurity en alles wat daaraan vastzit? We zitten met twintig leden in
de Global Commission on the Stability of Cyberspace, allemaal multistakeholders, zoals dat in het jargon heet. Daar zit onder anderen Marietje
Schaake in, ex-Europarlementariër, en Olaf Kolkman, internetexpert uit
Nederland, internationaal vermaard maar in eigen land misschien wat
minder bekend. Wij hebben met deze Global Commission onder meer
geconstateerd dat we echt een paar stevige normen nodig hebben op het
gebied van de digitalisering en alles wat daaraan vastzit, vanwege het
simpele feit dat hand over hand – dat hoef ik u niet te duiden, dat komt
voortdurend naar voren – de cybercrime toeneemt en de safetykant niet
altijd goed geborgd is. Een voorbeeld. In Nederland zijn vorig jaar
1,2 miljoen mensen slachtoffer geworden van cyber. 1,2 miljoen Nederlanders! Dan gaat het om fishing en wat dies meer zij. De grootste
categorie daarbinnen zijn de jongeren.
Mevrouw de voorzitter, als u daarvan opkijkt, mag ik dan het volgende
zeggen tegen de commissie; gewoon een op feiten gebaseerd verhaal? In
Nederland praten we voortdurend over cybersecurity. Neem het Angelsaksische «security» en «safety». Uit veel onderzoek blijkt dat de safetykant
door onopzettelijke toestanden, door slordigheden en dergelijke, door
gebrek aan cyberhygiëne, minstens zo veel problemen oplevert als de
securitykant. Daar is onderzoek naar gedaan. Dat was weliswaar een paar
jaar geleden, maar het zal nu niet zo verschillend zijn. Ik wil deze
commissie er toch op attenderen dat een van de kernpunten die wij met
die commissie hebben geadresseerd, was om te komen tot een internationale norm voor zowel staten als niet-statelijke spelers om de public
core, de publieke kern, van het internet veilig te stellen. Daaronder
verstaan we onder meer alles wat te maken heeft met de routing en

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

45

forwarding van de transmissies van gegevens, de namen en de domain
name systems, de cryptografiemechanismen voor security en identity, de
transmisson media, de software- en datacenters en niet te vergeten de
undersea cables. Mag ik u erop wijzen dat die norm ook internationaal
steeds meer ingang heeft gekregen, onder meer in de Europese Cybersecurity Act? Daar staat de norm letterlijk als een verplichting in. Ik wijs er in
dat verband op dat Nederland toch wel een van de frontrunners is op dat
punt. De zaak komt oorspronkelijk van een van de hoogleraren die zitting
hadden in de Wetenschappelijke Raad voor het Regeringsbeleid. Daar
hebben we dus echt een positie te winnen.
Mag ik tot slot nog een paar algemene opmerkingen maken over de
internationale kant? Dat refereert dan ook meteen aan datgene waarin u
volop uw tanden zet met de commissie. In de eerste plaats leggen
Nederlanders in het internationale verband voortdurend de nadruk op wat
ook in de Kamerbrief van 2018 staat: de balans tussen verschillende
noodzakelijkheden. In de eerste plaats is dat het open en vrij houden van
het internet. In de tweede plaats is dat natuurlijk een safe en secure
internet. In de derde plaats, niet te vergeten ... Het vervelende is dat de
woorden elkaar vaak wat in de weg staan. Dat is dan de digitale kant, de
cyberkant. In één moeite wordt vaak gezegd: cyber is security en safety.
Daartegenover is er de digitalisering en alles wat daarmee samenhangt.
De derde loot aan de stam van dat drieluik is economische groei en
sociale ontwikkeling. Het risico dat ons internationaal, maar misschien
ook wel in eigen land, bedreigt, is dat we door de nadruk op security en
safety de positieve kant vergeten.
Ten slotte. Ik ving op dat u insprekers vraagt: wat zou onze commissie nu
kunnen doen? Misschien vindt u het beter om dat nog even te bewaren,
maar ik heb meteen spontaan wat opgeschreven. Voor een tijdelijke
commissie op dit gebied is het land ingaan en weten wat er speelt van
cruciaal belang. In grotere verbanden, wanneer er honderden mensen
zitten, is de eerste vraag die vaak wordt gesteld: bent u gehackt? Dan gaan
er geen vingers omhoog. De tweede vraag is dan: wie van u weet niet dat
hij gehackt is? Dat is een beetje de sfeer waarin we zitten. Het land in, dus.
In de tweede plaats is de zaak natuurlijk sterk Europees en mondiaal. De
vorige spreker had het daar al over. Ik zou spontaan op persoonlijke titel
willen zeggen: zoek vooral ook steun en mobiliseer steun bij aanpalende
parlementen. Breng het ook naar de internationale assemblées waarin
delegaties van Nederland een rol spelen, zoals de OECD. Dat zijn een paar
spontane kanttekeningen bij de rol die de tijdelijke commissie zou kunnen
spelen.
De voorzitter:
Heel hartelijk dank. Wat het laatste betreft, zal het u misschien geruststellen om te horen dat wij onderzoek laten doen naar andere parlementen die een goed voorbeeld voor ons zouden zijn, waarna we wat
meer de interactie kunnen zoeken. Het is een vrij breed onderzoek, dat op
dit moment gaande is.
Dan geef ik het woord aan de heer Middendorp voor de eerste vraag.
Wacht, ik zie dat Chris van Dam de orde wil doorbreken. Dan geef ik als
eerste het woord aan de heer Chris van Dam.
De heer Van Dam (CDA):
Voorzitter. Ik heb zitten luisteren naar de heer Rosenthal, waarvoor dank.
Ik merk dat u iemand bent – dat is tenminste mijn interpretatie – die staat
te popelen om ons te vertellen welke belangrijke dingen er allemaal
spelen. Dat voelt ook een beetje alsof u met een vrachtwagentje aankomt
en dat omkiepert, en daar zit ik dan, met al die dingen die op mij afkomen.
Ik zou u willen vragen om, als dat mogelijk is en indachtig onze vraag hoe
wij als parlement grip op deze materie kunnen krijgen, nog een paar korte
lijnen te schetsen. Ik moet zeggen dat de laatste dingen die u noemde,

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

46

voor mij al lijnen zijn. Ik heb ook even zitten kijken in het document met de
onderzoeksagenda van uw instituut voor de komende jaren. Daar staan
ook een aantal lijnen in. Zou u misschien in eenvoudige en lange-halensnel-thuiswoorden kunnen zeggen met welke lijnen wij ons bezig zouden
kunnen houden, vanuit de gedachte dat wij vanuit onze positie grip willen
krijgen op de digitalisering?
De voorzitter:
Even voor mijn begrip van de vraag: zijn «wij» in dit geval deze commissie
of de Tweede Kamer?
De heer Van Dam (CDA):
Ook deze commissie, maar wij doen dit toch voor de Tweede Kamer?
De voorzitter:
Ja, maar het maakt natuurlijk uit of je die lijnen wilt schetsen voor de rest
van je werk of voor het onderzoek naar de vraag.
De heer Van Dam (CDA):
Nee nee, voor de opdracht die wij als commissie hebben.
De heer Rosenthal:
Dank voor die vraag; ik vat ’m ook. Vanuit de Adviesraad voor wetenschap, technologie en innovatie hebben wij vier jaar geleden een advies
uitgebracht dat zich toespitste op de relatie tussen digitalisering en de drie
letters waar de adviesraad voor staat: wetenschap, technologie en
innovatie. Toen hebben wij gezegd dat het op die punten aan nogal wat
zaken schort. Als u dus vraagt wat wij aan de commissie voor te leggen
hebben, dan zeggen wij: besteed aandacht aan die componenten in de
Nederlandse samenleving die van wezenlijk belang zijn. Dat sluit aan bij
onze advisering vanuit de adviesraad met betrekking tot de stand van
zaken van wetenschap, technologie en innovatie in dit land en datgene
wat Nederland te doen staat. U verwijst naar een werkprogramma van de
adviesraad. Ik kan er ook op wijzen dat wij at this very moment werken
aan twee adviezen. Het ene is een advies over de rol van wetenschap,
technologie en innovatie in transitieprocessen. Het tweede is een advies
over sleuteltechnologieën. Nu dan, als ik vasthoud aan het feit dat ICT,
digitalisering en alles wat daarmee samenhangt, de enabler van de
enabling technologies is, dan hebt u daar een accent te pakken dat u wat
mij betreft in uw werk zou kunnen leggen. Dat is een kant van de zaak.
De andere kant van de zaak gaat wat meer over de rol die u heeft – ik weet
niet of ik daarop zou moeten ingaan, want dan gaat het algauw over de
Tweede Kamer as such – in de relatie met de verdere powers that be, dus
regering enzovoort. Dan zou er het nodige te zeggen zijn over het verhaal
dat je toch altijd weer in Nederland hoort over de fragmentatie van
bevoegdheden, verantwoordelijkheden enzovoort, en het feit dat deze
materie in Nederland, anders dan in sommige andere landen, geen
chefsache is, maar op dit moment bij drie bewindspersonen is
neergelegd. Ik zal maar even boter bij de vis leveren in uw richting, want
daar vraagt u in feite om. In Australië is het chefsache: de Prime Minister.
Israël: hetzelfde. België en Zweden: een Minister voor digitale zaken. In
sommige landen speelt het idee op – meer dan dat: dat idee wordt ook
gehanteerd – van een soort commissaris voor digitale zaken.
Wij zitten in Nederland in een ander stramien. U vraagt waar de Kamer
naar zou moeten kijken. Wat mij betreft zou dat ook de bestuurlijke
constellatie der dingen zijn. Wij zitten voortdurend met het feit – maar ik
loop nu wel ver vooruit op waar wij intern in de raad mee bezig zijn – dat
we vinden dat het niet alleen een kwestie is van government, van regering
en parlement, maar vooral ook van governance. Dan kom je terecht bij de
vraag hoe je überhaupt de hele constellatie der dingen, met allerlei

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

47

partijen die een rol spelen, het beste vorm en inhoud zou kunnen geven.
Om een concreet voorbeeld te noemen: ik kan u wel aanspreken op van
alles en nog wat, maar onderwijl, wanneer het gaat om de digitalisering
van de samenleving, inclusief de economische kant van de zaak, spelen de
hotspots in de regio een prominente, zo niet vaak doorslaggevende rol.
De heer Van Dam (CDA):
Op het punt van de coördinatie, dat u als tweede noemde, komen we vast
nog terug. Mag ik nog even terug in het betoog? Dit kan klinken als een
vraag van iemand die werkelijk volkomen wereldvreemd is, dus ik heb
enige aarzeling, maar toch stel ik hem maar. Wat is nou het belang van
digitalisering voor wetenschap, voor technologie, voor innovatie? Welk
belang is daar te dienen voor Nederland? Ik begrijp steeds beter dat dat
de thema’s zijn van de adviesraad. Waarom zouden we daar, vanuit
digitaliseringsperspectief, aandacht aan moeten besteden?
De heer Rosenthal:
Dat brengt ons terug bij de frase «enabler van de enabling technologies».
Ik geef een voorbeeld: de gezondheidszorg en de vooruitgang van de
wetenschap op dat vlak. Ik ben geen medicus, maar ik weet wel dat
vandaag de dag alles staat of valt met big data. Voor mobiliteit en energie
geldt hetzelfde verhaal. In het eerste voorbeeld, van de gezondheidszorg
en de vooruitgang van de medische wetenschap, is vandaag de dag alles
een-op-een gekoppeld aan data, digitalisering, de kwaliteit daarvan en wat
dies meer zij.
De heer Van Dam (CDA):
Dat snap ik, maar we zouden toch ook gewoon met de Amerikanen en de
Chinezen mee kunnen doen? Hebben wij daarin een eigen domeinbelang?
De heer Rosenthal:
Als u dat vraagt en aan de orde stelt, dan zeg ik: I’m with you. Als het gaat
om een aantal van die grootschalige ontwikkelingen ... Mag ik even
doorgaan naar de bekende AI, artificial intelligence? Ik denk dat ons land
er baat bij heeft om zo veel mogelijk te zoeken naar intelligente coalities
met landen, waardoor we voor een deel kunnen meeliften op wat daar
gebeurt. Samenwerking met andere landen, in eerste instantie in
Europees verband, maar natuurlijk ook elders, lijkt me duidelijk van
belang. Dan trekt u in feite het register open, meneer Van Dam, van hele
andere zaken, zoals het feit dat wij als Nederland internationaal aantrekkelijk moeten blijven voor samenwerking in de topechelons van het
wetenschappelijk onderwijs en de technologische ontwikkeling.
De voorzitter:
Nu het al een volstrekt anarchistische bedoening is, vraag ik aan de leden
wie het woord wil. De heer Verhoeven.
De heer Verhoeven (D66):
Ja, want ik moet helaas om 14.45 uur weg. En misschien is het ook niet
verstandig om de heer Middendorp elke keer als eerste vragen te laten
stellen. Dank voor de flexibiliteit, voorzitter. Ik dank ook u beiden als
vertegenwoordigers van de AWTI voor uw komst.
Ik heb uw stuk uit 2015 gelezen. Uw organisatie wees destijds inderdaad
als een van de eerste op het feit dat er een aantal lacunes aan zat te
komen. Ik heb een vraag in aansluiting op die van de heer Van Dam. Je
kunt inderdaad zo redeneren dat je gewoon kunt samenwerken met China
en de Verenigde Staten. Ik ben eigenlijk geneigd aan u te vragen: is het
ook niet heel gevaarlijk – en dan denk ik even aan Marietje Schaake die u
net noemde – als we achterop raken als het gaat om de standaarden, de
richtingen, de waarden en de normen van nieuwe technologieën die zo

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

48

dominant, zo bepalend en zo veranderend kunnen zijn? Waar ligt dan de
balans tussen samenwerken met landen die heel ver zijn versus zelf
dingen in de hand houden of kunnen ontwikkelen om vervolgens ook de
strijd aan te kunnen?
De heer Rosenthal:
Mag ik daar in twee stapjes op reageren? Het eerste is dat, wanneer ik kijk
naar de positie van Nederland, niet voor niets wordt gezegd dat wij op
een aantal punten koploper in Europa zijn. Dus we hoeven ons daar niet
voor te generen, integendeel. Dichtheid en snelheid van internet, onze
Amsterdam Internet Exchange, enzovoorts enzovoorts. Allemaal parels.
Dus wat dat betreft hebben we ook het nodige te bieden. Dat is één.
Tegelijkertijd speelt daarbij wel dat de kwetsbaarheid van dit land op een
aantal punten navenant groot is. Je moet ervoor zorgen dat je zelf op dat
punt betrouwbaar en robuust blijft. Dat is gewoon even de binnenlandse
kant.
Kijk ik naar internationale samenwerking enzovoorts, enzovoorts, dan zou
ik op z’n minst erop willen wijzen dat Nederland in een aantal opzichten
met like-minded countries allerlei samenwerkingsverbanden heeft. In 2011
is de Freedom Online Coalition opgericht, van inmiddels 35 landen, waar
je in elk geval niet meteen denkt aan allerlei obstakels en hiccups die er
kunnen liggen in de samenwerking met die landen. Die samenwerking kan
ook worden gezocht. Logischerwijze behoren tot die like-minded countries
in eerste instantie al die landen in Europa die het acquis hebben om lid
van de EU te zijn. Als het om waarden, grondrechten en fairness gaat, zijn
dat niet de probleemlanden. Gaat het om een land als China, dan praat je
natuurlijk over een totaal andere aangelegenheid. Daar moet je dus ook
voorzichtig en behoedzaam mee zijn, maar daarmee vertel ik u niets
nieuws. Zie de discussie over de G5. Maar er zijn nog tal van andere
mogelijkheden om tot samenwerking te komen.
Mijn zorg is inderdaad wel, dat wanneer we bijvoorbeeld kijken naar de
artificiële intelligentie, we een heel groot programma willen gaan
opzetten, terwijl er in andere landen minstens zo grote programma’s
lopen en sommige landen misschien wel wat verder zijn dan wij. Zoek in
elk geval in dat verband ook de samenwerking met die landen op.
Like-minded countries: samenwerken, zonder meer. Landen die niet
like-minded zijn: natuurlijk voortdurend enorm goed opletten en de balans
zoeken tussen de voordelen van die samenwerking en de risico’s die
ermee gemoeid zijn.
De heer Verhoeven (D66):
Ik vroeg dit en ik snap dit antwoord, dat bestaat uit het zoeken van balans
tussen verschillende zaken. Maar wij zijn als commissie begonnen omdat
we vonden dat de politiek te weinig grip heeft op dit thema. Als je te
weinig grip hebt, zijn we als Tweede Kamer misschien niet in staat om
Nederland in goede banen te leiden ten opzichte van allerlei technologische ontwikkelingen. Als dat zo zou zijn, zou een van de grote gevaren
kunnen zijn dat Nederland een aantal technologische ontwikkelingen niet
op een goede manier omarmt, waardoor andere landen een voorsprong
nemen, omdat Nederland, zoals u zelf al zei, een stilvallende koploper is.
De heer Rosenthal:
We waren dat eind 2015. Dus ...
De heer Verhoeven (D66):
Misschien zijn we nu al een uithijgende middenmoter. Ik zeg dit omdat ik
denk dat we, als we niet oppassen, stilvallen na de grip die wij er in de
afgelopen jaren te weinig op hebben gehad. We hebben heel lang gezegd:
we hebben fantastisch snel internet, we hebben exchange, we hebben een
bevolking die digital enabling is, iedereen is heel erg gericht op digitali-

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

49

sering, we hebben goede technologie en goede wetenschappers. We
hadden allemaal een positief gevoel, maar in het onderzoek stond toch
dat we aan het wegzakken zijn. Mijn vraag is: komt dat doordat we er de
afgelopen jaren te weinig grip op hebben gehad?
De heer Rosenthal:
Twee punten. Het eerste gaat over het onderwijs in deze samenleving. Wij
constateerden in 2015 dat er door de hele kolom van het onderwijs – het
basisonderwijs, het voortgezet onderwijs en het hoger onderwijs –
onvoldoende aandacht was voor alles wat met digitalisering van doen
had. Het gaat dan om computervaardigheden en wat dies meer zij. Wat
ben ik zelf aan feiten tegengekomen over de afgelopen jaren? In het
basisonderwijs zijn er verbeteringen. Ik durf mij niet uit te spreken of die
verbeteringen voldoende zijn. Voor het voortgezet onderwijs geldt
hetzelfde. Voor zover mij bekend, is het in het hoger onderwijs zo dat je
eigenlijk geen set van disciplines meer kunt vinden waar alles wat met
digitaal en met big data te maken heeft niet een vooraanstaande rol
speelt. Maar of dat echt voldoende is, ook voor de toekomst, durf ik niet
zomaar te zeggen. Ik zeg het gewoon zoals het is.
Op een aantal punten dreigden wij de boot enorm te missen, bijvoorbeeld
op het punt van de artificial intelligence. Een aantal vergelijkbare landen
hebben veel eerder de hulpmiddelen bij elkaar gepakt om tot grootschalige programma’s te komen. Nou kunnen wij ons vanuit Nederland
natuurlijk niet meten met de Verenigde Staten, waar alleen al MIT in één
keer een endowment kreeg van 1,1 miljard dollar, terwijl België trots was
over 40 miljoen. Dat is de wereld waarin we leven. Ik murmel het maar
even in deze sessie: sommigen kijken dan natuurlijk naar «het fonds». Het
gaat om hele grote investeringen.
Als ik één land mag noemen dat al twee jaar geleden begreep dat het,
nadat het het kunstje eerder had uitgehaald met cyber, nu het kunstje
moet uithalen met artificiële intelligentie, dan denk ik aan Israël. Dat land
ligt op dit moment, denk ik, inhoudelijk op ons voor. Ik weet niet eens of
dat zo is als het gaat om middelen, maar het is wel zo als het gaat om
concerted action, de gemeenschappelijke actie die wordt ondernomen om
iets voor elkaar te krijgen. In Israël kreeg een hoogleraar van de premier
zelf zeven jaar geleden de opdracht om Israël tot een van de kernmogendheden, pardon, grote mogendheden op cybergebied te maken. Daardoor
kwam iedereen in de zuidelijke stad Beër Sjeva langs. Alle grote jongens
en meisjes hebben daar hun kantoren. Datzelfde kunstje haalt hij nu uit
met artificiële intelligentie. En dan zou ik zeggen: zorg ervoor dat je niet
nodeloos achterop raakt c.q. blijft.
Mevrouw Van Weerdenburg (PVV):
Ik haak aan op het punt dat meneer Verhoeven ook maakte: hoe zorgen
we ervoor dat Nederland niet stagneert? U gaf een uitgebreide reactie,
vooral op het gebied van scholing en wetenschap. Maar wat als de markt
zelf innoveert? Nederland is volgens mij koploper op het gebied van
nieuwe datacenters. Dat gaat zo snel dat Amsterdam en ik meen Haarlemmermeer een bouwstop hebben afgekondigd voor nieuwe datacenters.
Op veel plaatsen werd ineens veel energie verbruikt. Hoe voorkom je dat
die ontwikkeling, die innovatie die vanzelf plaatsvindt, door in dit geval
lokale overheden een halt wordt toegeroepen? Ziet u daar mogelijkheden?
De heer Rosenthal:
Wij zijn in Nederland behept met rijksoverheden en medeoverheden.
Zolang die medeoverheden zelf gaan over wat ze op hun territoir doen, is
daarmee het antwoord gegeven. Tegelijkertijd had ik het al eerder over het
feit dat veel van de krachtbronnen op dit gebied in de regionale hotspots
zitten. Amsterdam en omgeving is er één van. Als ik dan niet Haarlemmermeer pak, maar net de andere kant van Amsterdam, Watergraafsmeer,

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

50

dan zie ik dat het daar wemelt van de digitale centra et cetera. Dan kom je
terecht bij de relatie van Den Haag tot de regio’s. Op een gegeven
moment is dus een van onze schoolvoorbeelden van succes, Eindhoven
Brainport, tot een brainport van nationale importantie verklaard. Je zou je
kunnen voorstellen dat het voor de Tweede Kamer toch wel relevant zou
kunnen zijn om eens te kijken of je langs die weg bijvoorbeeld andere
hotspots ook dat steuntje in de rug zou kunnen geven. Ik moet zeggen dat
u mij iets nieuws vertelde over Haarlemmermeer. Ik was twee weken
geleden nog aan de andere kant, in de Watergraafsmeer. Het komt op mij
merkwaardig over als ik zie dat er in de regio Amsterdam-Zuidoost en
-Zuidwest, kennelijk volstrekt contraire bewegingen zijn. Daar zou je grip
op moeten zien te krijgen. Als je dat dan doet via regionale hotspots van
nationale importantie, kun je daar in elk geval een breekijzer hanteren.
De voorzitter:
Dat vergt nog wel de nodige discussie. Energieverbruik en grondgebruik
van een gemeente zijn nog best wel een dingetje. Maar ik snap wel heel
goed het punt dat gemaakt wordt. Misschien heeft mevrouw Van
Weerdenburg daar nog een vervolgvraag op.
Mevrouw Van Weerdenburg (PVV):
Nee, niet per se. Ligt het in de rede om aan te nemen dat het een vorm
van kennis is die mist bij de lagere overheden? Ik zeg het heel voorzichtig.
Elke gemeente heeft zo haar prioriteiten, maar u zegt dat dat vanuit Den
Haag op die manier wat duidelijker kan worden gemaakt.
De heer Rosenthal:
Ik zou me kunnen voorstellen dat als dit speelt, je jezelf vanuit Den Haag
de vraag stelt hoe je je aan de ene kant kunt karakteriseren als een regio
waar vooral mathematische infrastructuur, dus de datacentra, een centrale
rol speelt. Dat is de regio Amsterdam. Aan de ene kant worden daar
belemmeringen opgeworpen, terwijl er aan de andere kant wordt gezegd
dat we verder moeten. Dan moet je dat bij elkaar brengen. Dan kom je in
de regionale bestuurlijke gremia terecht, die daarin ook een rol spelen.
De voorzitter:
Dank u wel. De heer Middendorp.
De heer Middendorp (VVD):
Het is jammer dat de heer Verhoeven net weggaat, want ik wil een vraag
stellen waar hij ook wat aan had kunnen hebben. De vraag sluit namelijk
aan bij de eerder gestelde vragen. Even het begrip «samenwerken in
Europa». Bij deze kennissessies komt vaak in mij op; soms schrijf ik het
op: als we mondiaal samenwerken, werken we toe naar wereldvrede. Er
ligt een kloof in de digitale wereld. Er werd gesproken over samenwerken
met like-minded countries, wat mij enorm aanspreekt, want dan ben je op
zoek naar coalities. Uiteraard hebben wij in Europees verband ook allerlei
verplichtingen en activiteiten. Maar zie ik het goed dat ik dat als een
onderdeel daarvan zou kunnen zien, maar dat samenwerking in Europa
niet noodzakelijkerwijs betekent dat we alles in Brussel doen? Die
like-minded countries kunnen ook heel andere coalities zijn. Dat is vraag
één.
Vraag twee is de volgende. Binnen de constellatie waarin we als Nederlandse parlementariërs nu zitten in de Europese Unie nog het volgende. U
zei iets over coalities zoeken en opereren bij andere internationale
instellingen, OECD en zo. Is dat de weg? Of wij moeten wij ons als
nationale parlementariërs helemaal richten op wat er allemaal op
Europees niveau bedacht wordt, als ik het zo mag formuleren? Moeten we
proberen om daar invloed op uit te oefenen via de parlementaire weg of
via het kabinet dat daarnaartoe gaat om te onderhandelen?

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

51

De heer Rosenthal:
Het gaat om de like-minded countries. Ik neem aan dat u zich vanuit de
tijdelijke commissie vooral bezighoudt met wat er in Nederland goed
moet worden geregeld en verbeterd moet worden. Dat begreep ik ook uit
het staartje van de vorige spreker. Als je het internationaal bekijkt – en
daar heb ik veel rondgelopen de laatste jaren – moet je tegelijkertijd de
enorm snelle ontwikkelingen die er buiten Europa plaatshebben, niet
geringschatten. Er wordt heel gesproken over leapfrogging. De wet van de
remmende voorsprong wordt benut in vele delen van de wereld. Kijk
bijvoorbeeld eens naar India en de wijze waarop India zich in de afgelopen
tien jaar heeft ontwikkeld. Als ik daar ben, zeg ik gewoon: jullie zijn een
superpower op het gebied van de software. Samenwerking op dat vlak
met elkander is voor Nederland een groot voordeel. Ik neem aan dat dit
onderwerp sterk aan de orde zal komen bij de Technology Summit die een
van deze weken plaatsheeft tussen Nederland en India.
Dat brengt me bij een neventraject, namelijk dat we vooral in Nederland
veel gedaan hebben aan het opzetten van wat nu het Global Forum on
Cyber Expertise heet. Dat gaat allemaal over capacity building over de
wereld heen. Nederland speelt een vooraanstaande rol daarin. Mag ik in
de richting van de commissie even voor iets pleiten? Zorg ervoor dat dit
initiatief dat in 2015 is genomen, nu vijf jaar bestaat en overal in de wereld
wordt gezien als het toonbeeld voor de bewerkstelliging van capacity
building, inderdaad stevige grond onder de voeten heeft. Internationaal
hebben we het er steeds over dat alles wat met ICT en internet te maken
heeft, zo sterk is als de zwakste schakel. Ik kom nu weliswaar met een
cliché, maar als de zaken in een ver land in Afrika niet goed in elkaar
zitten, krijgen wij daar de rechtstreekse consequenties van over ons heen.
Ik ga de landen niet noemen, maar u kunt dat zo terughalen. Met andere
woorden, het is ook voor ons van wezenlijk belang dat capacity building
van bijvoorbeeld CERT’s, de Computer Emergency Response Teams,
overal in de wereld op een zodanig niveau is dat je, als er ergens in de
wereld iets gebeurt, dat zelf snel te grazen kunt nemen. Dat is het zoeken
naar samenwerking en dan niet alleen in Europa, denk ik.
Wat de internationale instellingen betreft, merk ik niet alleen op dit
domein maar ook op andere domeinen steeds dat er in verschillende
parlementen over dingen wordt gepraat, maar dat men niet met elkaar
spreekt. Het lijkt me niet verstandig om alles ook wat dat betreft maar
naar Brussel, naar het Europees Parlement, te schuiven.
De heer Middendorp (VVD):
We hebben nog niet vaak de kans gehad om met iemand te spreken die
op dit niveau bezig is geweest met die buitenlandse zaken, een
ex-minister. Hoor ik goed dat je uiteraard in Europa samenwerkt – ik
bedoel dan de Europese Unie, de constellatie waar we nu in zitten – maar
dat je tegelijkertijd als Nederland niet als een Californië in de Verenigde
Staten samenwerkt, maar eerder de ruimte zoekt als Singapore in de
ASEAN? Wordt die balans tussen bijvoorbeeld security en economie door
andere landen, partners in Europa, heel anders gelegd? Moet je daar als
Nederland ruimte zoeken en moet je je daar dan als Nederlands parlement
op richten om grip te krijgen op de directie van de Nederlandse
digitaliseringsstrategie?
De heer Rosenthal:
Ja, natuurlijk. Concreet: Singapore is by far het verst met het Internet of
Things, zowel aan de positieve kant als ook waar het het onderkennen van
de risico’s betreft. Volgens mij is er vanuit Nederland, ook op ambtelijk
niveau, volop samenwerking met een land als Singapore. Ik destilleer uit
uw vraag de oproep om niet alleen maar in Europa bezig zijn, maar ook
daarbuiten. Het antwoord daarop van mijn kant is drie keer ja, zonder
meer.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

52

De voorzitter:
Dank u wel. Ik wil zelf ook nog een vraag stellen. U zei onder meer dat
alles staat en valt met de big data. Dat gaat even over dat onderzoek. Alle
grote veranderingen komen nu via de techniek. Ik vond dat een wat
absolute stellingname, zeker omdat ik denk dat het misschien een valkuil
is om voor alle veranderingen alleen te kijken naar digitalisering. Zeker
omdat we vanmorgen ook de Ombudsman hier hadden. Hij zei dat heel
veel digitalisering ook met zich meebrengt dat er mensen moeten zijn die
met die digitalisering werken die zelf voldoende kritisch blijven nadenken.
Ik vroeg mij dus af of de focus die u legt op de ontwikkelingen niet iets te
hoog zit op dat alle verbetering via de digitalisering komt. Is het niet net
zo belangrijk dat je juist, ook op scholen, kritisch burgerschap stimuleert,
om er wel voor te zorgen dat we uiteindelijk de digitale toekomst hebben
die wij willen en die wij vormgeven in plaats van dat die door machines
wordt vormgegeven?
De heer Rosenthal:
Ik probeer eerst nog even mijn oratio pro domo te bevestigen met de
opmerking dat wanneer het om de data en de digitalisering gaat, het zeker
niet alleen in de bètahoek zit. Het zit zeker ook in de gamma- en in hoge
mate ook in de alfahoek. Het is dus wetenschapbreed. Dat brengt me
meteen bij een reactie in uw richting, wanneer het gaat om de risico’s van
een en ander, die voortdurend de andere kant van de medaille zijn en
tegelijkertijd ook daartussenin. Bij alles wat met maatschappelijke effecten
en met effecten voor de samenleving te maken heeft, kom je inderdaad bij
burgerschap. Wanneer je praat over digitalisering, computers, iPhones en
gadgets in het Internet of Things, is cyberhygiëne een cruciale bottomline
en van daaruit natuurlijk al datgene wat de heer Van Zutphen kennelijk bij
u heeft ingebracht. Daar ben ik het volkomen mee eens. Als je praat over
digitalisering en je zou daaruit afleiden, ook uit die data, dat mensen
steeds meer bezig zijn met die data en met die iPhones enzovoort,
enzovoort, voel ik me heel erg thuis bij degenen die zeggen dat het heel
zinnig kan zijn om een aantal uren van de dag die zaken even opzij te
leggen en met andere dingen bezig te zijn.
De voorzitter:
Kan ik u een keer inhuren voor mijn zoon?
De heer Rosenthal:
Nou, kijk eens aan. Ja, natuurlijk, natuurlijk. Misschien dat uw zoon een
schoolvoorbeeld kan worden van cyberhygiëne waar het gaat om alles
wat te maken heeft met passwords en wat dies meer zij.
De voorzitter:
Wil een van de leden nog een prangende vraag stellen? Nee? Dan wil ik
aan u vragen of u nog iets hebt wat u ons graag mee wil geven. Nee? Dan
heb ik nog een afsluitende vraag voor u. De nieuwe Europese Commissie
zal zich een dezer dagen presenteren aan het Europees Parlement. De
nieuwe voorzitter heeft gezegd dat zij in haar eerste 100 dagen met een
aantal zaken wil komen, omdat juist digitalisering een van haar speerpunten is. Mijn vraag is wat u, als u de voorzitter zou zijn van de Europese
Commissie – dat is niet helemaal theoretisch natuurlijk – als echt een van
de belangrijkste punten voor de Europese Unie zou hebben genoemd.
De heer Rosenthal:
Ik zou dan centraal stellen de positie van de end user, van de consument,
in de sfeer van digitalisering en wat dies meer zij. Ik heb net een verhaal
geschreven voor een of andere internationale publicatie. Daarin heb ik
gezegd dat de tijd voorbij is waarin de consumenten zouden denken dat er
such a thing as a free data lunch is. Ik denk dat daar een van de

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

53

kernpunten ligt waar het gaat over de relatie van al dit soort zaken tot de
burger, tot het individu, tot de gewone mensen in huis en op straat. Dat
brengt ook met zich mee, als ik dat nog even mag toevoegen, dat ik
vandaag de dag op een totaal andere manier kijk naar alles wat met
privacy te maken heeft en met de protectie van individuele data dan
vroeger. Ik probeer die problematiek echt te ontideologiseren. Ik denk,
nogmaals, dat de burgers in Nederland en daarbuiten langzamerhand
volop begrijpen dat wanneer het gaat om die cyberhygiëne, het van groot
belang is dat ze bevatten dat ze wanneer ze op de zoekmachines gaan
enzovoort, enzovoort, tegelijkertijd een deel van hun privédomein
prijsgeven. Ik wil u best zeggen er in die global commission voortdurend
een gevecht is geweest tussen degenen die vanuit de regeringskant naar
de zaken keken en degenen die er vanuit de private sector naar keken. Ik
behoor tot degenen die op dat vlak de private sector in hoge mate
aanspreken op de eigen verantwoordelijkheden die ze op dit punt hebben.
Maar nogmaals, ik wil bepleiten om voortdurend vooral te kijken naar de
positie van de end users, de consumenten, de burgers, in dit hele verhaal.
De voorzitter:
Dat roept nog een allerlaatste vraag op. Dat mag, want we hebben nog
een paar minuten. We sluiten dus af met de heer Middendorp als
vragensteller.
De heer Middendorp (VVD):
Dit riep bij mij een vraag op. Het alternatief – dat horen we toch af en toe
langskomen, ook als commissie – is dat je allerlei toezichtstructuren gaat
opzetten. Ik heb het dan over de Europese Unie. Is dat mogelijk als je dus
niet die consument centraal stelt en die bijvoorbeeld laat stemmen met
zijn voeten op bepaalde terreinen? Is het mogelijk om vanuit de Europese
Unie een toezichtstructuur op te zetten, misschien wel opgebouwd uit alle
verschillende toezichtstructuren die er al zijn, om dat goed te regelen voor
mensen in Europa?
De heer Rosenthal:
Of dat mogelijk is of niet, is één vraag. De vraag die daar meteen
tegenaan zit, is of je op een bepaald moment niet mag verwachten dat de
Big Five, Six, Seven in de wereld beseffen dat het hun welbegrepen eigen
corporate interest is om daar wat mee te doen. U kent zaken als het peace
initiative van Microsoft enzovoort, enzovoort. Die beseffen geleidelijk aan
dat als ze niet tegemoetkomen aan de zorgen die we met elkander delen,
ze uiteindelijk aan het kortste eind van het touw zullen trekken. Toezicht op
toezicht stapelen is een bekend risico. Dat is mijn reactie.
De voorzitter:
Oké, heel hartelijk dank. Daarmee zijn we aan het einde gekomen van dit
deel van onze kennissessie. We hebben een korte pauze en daarna gaan
we verder met de volgende sprekers, de laatste. Heel hartelijk dank voor
uw aanwezigheid hier. We gaan om 15.10 uur of 15.15 uur verder.
De vergadering wordt van 14.56 uur tot 15.15 uur geschorst.
Blok 5
Gesprek met:
– mevrouw Catelijne Muller, voorzitter van ALLAI en lid van de High
Level Expert Group on Artificial Intelligence van de Europese
Commissie

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

54

De voorzitter:
Goedemiddag. Welkom terug bij de derde kennisbijeenkomst van de
tijdelijke commissie Digitale toekomst. Een extra welkom aan Catelijne
Muller – een ontzettend mooie voornaam! Catelijne Muller is voorzitter
van ALLAI en lid van de High Level Expert Group on Artificial Intelligence
van de Europese Commissie. We gaan daar zo meteen iets meer over
horen, zodat we weten wat het verder allemaal inhoudt. Ik stel voor dat u
eerst een korte aftrap geeft en dat we daarna vragen stellen. We zijn met
een ietwat uitgedunde hoeveelheid leden. Jan Middendorp van de VVD
komt waarschijnlijk zo meteen nog binnen. Daarnaast hebben we
mevrouw Van Weerdenburg van de PVV en Chris van Dam van het CDA.
Ikzelf ben Kathalijne Buitenweg van GroenLinks. Wij zullen wat vragen
stellen, mede namens de afwezige leden.
Mevrouw Muller, ik geef u als eerste het woord.
Mevrouw Muller:
Dank u wel, en dank voor de uitnodiging. Ik ben dus Catelijne Muller van
ALLAI, een stichting die zich inzet voor de verantwoorde ontwikkeling en
inzet van artificiële intelligentie. Ik ben lid van de High Level Expert Group
on AI van de Europese Commissie en schrijver van het eerste Europese
rapport over AI, AI & Society, van het Europees Economisch en Sociaal
Comité, een soort Europese SER. Dat rapport heeft de discussie over AI, in
ieder geval op Europees niveau, heel erg aangezwengeld.
Ik begin mijn betoog meestal met een kort voorbeeld. In 2014 werd in de
Verenigde Staten een meisje gearresteerd voor het stelen van een fiets.
Het meisje had geen strafblad. Op het politiebureau werd zij geflagd als
iemand met een hoog recidiverisico. Zij zat drie dagen vast en heeft
daarna nooit meer een fout begaan, is nooit meer in aanraking gekomen
met de politie. Zij was zwart. Rond diezelfde tijd werd een man georganiseerd voor winkeldiefstal. Hij had een lang strafblad, had veel op zijn
kerfstok, maar werd op het politiebureau geflagd als iemand met een laag
recidiverisico. Hij werd vrijgelaten, ging vrijwel direct de fout in en zit een
straf uit – of misschien inmiddels niet meer, maar hij moest toen meteen
weer een straf uitzitten. Hij was blank.
Wat daar gebeurde, die flagging, was gedaan door een AI-systeem. Dat
AI-systeem had vooroordelen in zich gebouwd. De jury is nog out, maar
waarschijnlijk kwam dat doordat de data die gebruikt waren om het
AI-systeem te trainen, bevooroordeeld waren. Want het is een misvatting
van heel veel mensen dat data feiten zijn en dat data altijd neutraal zijn.
Data zijn rommelig en bevatten vaak vooroordelen et cetera. Nou zou je
kunnen denken: als dat de criminele populatie treft, lossen we dat op, dan
zijn we van dat probleem af en gaan we vrolijk verder. Maar dit soort
systemen worden meer en meer gebruikt om beslissingen te nemen over
ons, over de vraag of wij een hypotheek, een bepaalde baan of een lening
krijgen. Het gaat niet alleen om beslissystemen, maar ook om grotere,
meer impactvolle systemen zoals gezichtsherkenning, of bijvoorbeeld
systemen waarvan men beweert dat ze aan onze micro-expressies zouden
kunnen zien of wij kwaad worden of misschien depressief zijn. Het gaat
om autonome wapens. Dat is allemaal artificiële intelligentie.
Dat zijn systemen die vragen om een democratisch debat. Het zijn
systemen die vragen om meer mensen aan tafel. Want laten we eerlijk
zijn: als je een systeem ontwikkelt dat je helpt bij de beslissing om iemand
op borgtocht vrij te laten of niet, dan zou je toch ook met een rechter, een
officier van justitie of een advocaat willen praten. Dan zou je die mensen
willen vragen welk systeem je voor hen moet maken zodat zij hun werk
beter kunnen doen. Het vraagt ook om het durven stellen van de nulvraag.
Dat is: willen we alle mogelijke systemen, alle mogelijkheden die er zijn,
op alle mogelijke manieren gebruiken, in iedere situatie? Willen we overal
gezichtsherkenning toe gaan passen? Wil een rechter volledig vertrouwen
op een systeem dat feitelijk alleen maar verbanden zoekt in historische

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

55

data? Is er niet veel meer aan rechtspreken dan dat? Gaat het niet ook om
compassie en vergevingsgezindheid, als je het zo wilt noemen, allerlei
puur menselijke eigenschappen?
Ik zal het kort proberen te houden, zodat u uw vragen kunt stellen, maar ik
wil ook iets zeggen over wetgeving. Er is een brede discussie gaande over
de vraag of we AI wel of niet zouden moeten reguleren. Er zijn zelfs
mensen die zeggen: weet je wat, als systemen zo slim zijn, laten we ze
dan rechtspersoonlijkheid geven. Ik vraag dan meestal: waarom zou je dat
willen? Dan krijg ik als antwoord: «Nou, ik sta een beetje onder druk, want
er is sprake van een AI-race. Als ik iets bouw, gooi ik het dus maar op de
markt. God zegene de greep. Maar als het niet goed gaat, als het iets doet
wat ik eigenlijk niet helemaal had voorzien of als het schade aanricht, wie
is er dan aansprakelijk?» Mijn antwoord is altijd: «Als een hond een kind
bijt, spreken wij niet de hond aan. Dan spreken wij de eigenaar aan. Als
een kind een bal door de ruit schiet bij de buurman, spreken wij niet het
kind aan, maar spreken wij de ouders aan. We gaan zelfs nog een stapje
verder. Als die buurman uit z’n dak gaat en het kind tegen de grond slaat,
halen we rechten weg bij die buurman. Dan plaatsen we hem onder
curatele.»
Daarmee wil ik zeggen dat we heel veel wet- en regelgeving hebben die
gewoon van toepassing is op een tool als artificiële intelligentie, op
AI-systemen. We hebben aansprakelijkheidswetgeving, productaansprakelijkheidswetgeving, maar ook onze grondrechten. We hebben eindeloos
veel fundamentele rechten die relevant zijn in de discussie over AI. Die
regelen privacy, vrijheid, het recht op menselijke autonomie, enzovoorts.
Daarmee wil ik niet zeggen dat we helemaal niets hoeven te doen, want
het kan best zo zijn dat er wetgeving is die niet helemaal fit for purpose is
voor AI. Daarom roep ik al langere tijd op tot een AI-wetgevingsstresstest,
dus het testen van de huidige wetgeving aan een wereld met AI. Europa
heeft daar al een begin mee gemaakt. De Europese Commissie onderzoekt
nu de Product Liability Directive om te kijken of AI als een product onder
die Product Liability Directive zou kunnen vallen. De eerste signalen zijn
dat de Europese Commissie vindt dat het er gewoon onder valt. Op
internationaal niveau, op verdragsluitend niveau, is de Raad van Europa
ook bezig met het onderzoeken van een mogelijk juridisch bindend
instrument voor artificiële intelligentie.
Dan zijn er ook nog toepassingen en in de toekomst wellicht ook
AI-systemen waarvan je zou kunnen denken dat die helemaal nergens
onder vallen, terwijl we dat niet willen. Daarvoor zou er wellicht nieuwe
wetgeving moeten komen. Denk dan aan massasurveillance op basis van
gezichtsherkenning of op basis van andere biometrische herkenning, zoals
de manier waarop we lopen of de manier waarop we praten. Er zijn
allerlei systemen die kunnen worden ontwikkeld waarvan we onszelf
moeten afvragen of we dat wel willen en zo ja, in hoeverre en in welke
situatie. De vraag hoe we autonome wapens zouden moeten reguleren is
natuurlijk dé discussie. Ik noem ook emotieherkenning of affect recognition. Er zijn bedrijven die beweren aan mijn houding te kunnen zien of ik
misschien depressief of juist heel agressief dreig te worden. Het wetenschappelijk bewijs daarvoor ontbreekt, geloof ik, maar het wordt wel
ontwikkeld en het wordt wel ingezet in hr-situaties, bijvoorbeeld bij
sollicitaties.
Ik eindig altijd met een term die ik heb gecoind. Ik weet dat het laat op de
dag is, maar als jullie vandaag één ding willen onthouden, onthoud dan
deze term: human in command. Dat betekent dat we in command moeten
blijven van de systemen in technische zin, maar ook in de zin dat we ons
altijd moeten kunnen afvragen: willen we dit systeem in deze situatie
gebruiken? Het hoeft ons niet te overkomen. Het is een tool, en het is aan
ons om te bepalen wanneer, hoe en onder welke voorwaarden we die
gebruiken.
Tot zover even de inleiding.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

56

De voorzitter:
Heel hartelijk dank, mevrouw Muller. Dan geef ik als eerste de heer
Middendorp het woord voor een vraag.
De heer Middendorp (VVD):
Dank u voor de inleiding. De opmerking over het reguleren van kunstmatige intelligentie sprak mij erg aan, in die zin dat er inderdaad al heel
veel wetgeving is. Een AI-wetgevingsstresstest is ook wel een interessante
gedachte. Misschien kunnen we die zaken combineren. Als je nou
algoritmegebruikende instellingen veel meer laat communiceren over wat
ze doen, als je veel meer verantwoordelijkheden bij de eigenaar van de
hond neerlegt, zodat die goed weet welke afwijkingen die hond allemaal
heeft in het kader van het bijten van kinderen ... Daar zou je misschien wat
regels voor moeten maken, zodat ze zelf gedwongen worden om veilig
met die algoritmen om te gaan. Spreekt die richting u aan? Of valt dat bij
u ook onder «het reguleren van AI’s is eigenlijk niet nodig, want we
hebben al heel veel regels»?
Mevrouw Muller:
Nou, ten eerste zeg ik niet dat het reguleren van AI helemaal niet nodig is
omdat we al heel veel regels hebben. Ik probeer altijd wel een beetje de
balans in het debat te krijgen en het weg te houden bij wel óf niet
reguleren. Dat zijn twee uitersten die eigenlijk niet gelden. U vraagt of we
meer verantwoordelijkheden moeten neerleggen bij AI-gebruikende
instellingen. Dat zou ik zeker belangrijk vinden. Om een klein voorbeeld te
noemen: de High Level Group heeft al geadviseerd dat instellingen die
AI-systemen gebruiken die zich voordoen als mensen en daarmee mensen
dus een beetje in de maling nemen, verplicht zouden moeten worden om
in ieder geval aan te geven dat men met een AI-systeem te maken heeft
en niet met een mens. Dat is één klein voorbeeld.
Neem bijvoorbeeld ook de overheid, waar automatische beslissystemen
meer en meer hun weg vinden. De overheid is vanuit het zorgvuldigheidsbeginsel en de Wet openbaarheid van bestuur verplicht om haar burgers
altijd duidelijk te maken waarom een beslissing op een bepaalde manier is
genomen. Er is een motiveringsplicht. Nou is bekend dat de huidige
AI-systemen niet te doorgronden zijn. Dat zijn black boxes. Je weet niet
waarom en op basis van welke gegevens tot een bepaald besluit is
gekomen. Dan voldoet de overheid simpelweg niet aan de wettelijke plicht
om de burger te informeren.
Ik zie vaak dat er bij de overheid een gebrek aan kennis is van de
technologie die ze in huis halen. Het wordt verkocht als een sluitend
systeem dat altijd juist is, maar stelt u zich eens voor dat de beslissing
wordt genomen om uw kinderbijslag – zo heet het geloof ik niet meer – in
te trekken omdat het systeem voorspeld heeft dat u ermee gaat frauderen.
Volgens mij is dat zelfs een bestaande casus. Als de burger dan vraagt
waarom het gebeurt, kan de overheid dat niet uitleggen, omdat het
systeem een black box is. Dan voldoet die overheid al niet aan haar
zorgvuldigheidsplicht en haar motiveringsplicht. Het heeft dus ook heel
erg te maken met overheden duidelijk maken wat het betekent als ze dit
soort systemen inzetten. Als daar extra wetgeving voor nodig is, als het
nodig is om daarvoor een extra verplichting op te leggen, zou ik daar op
zich wel voor zijn.
Maar ik zou het ook wel breder willen trekken dan overheden alleen. Ik
denk dat je bijvoorbeeld ook zou moeten kijken in hoeverre banken
gebruikmaken van allerlei informatie om te bepalen of ik een lening of een
hypotheek krijg. En in hoeverre bepaalt een verzekeraar in hoeverre ik
verzekerbaar ben of niet? Dat zijn ook instellingen die op dezelfde manier
dit soort systemen gebruiken. Ik zou het dus breder trekken dan alleen
overheden.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

57

De heer Middendorp (VVD):
Daar zijn we het in ieder geval over eens, want mijn vraag ging ook over
algoritmegebruikende instellingen. Ik denk dus dat dit helemaal juist is.
Het toezicht op de financiële sector is misschien wel een goed voorbeeld
om hierop aan te haken. Daarbij wordt heel veel verantwoordelijkheid bij
de verkopers van die producten neergelegd, in het kader van zorgplicht et
cetera. Ik zit nog op de kant van niet reguleren of juist helemaal dichtreguleren, maar u werd al meteen vrij specifiek. Eigenlijk is de vraag of je niet
naar een systeem moet waarin je de algoritmegebruikende instellingen
een aantal richtlijnen meegeeft – een beetje zoals ik net beschreef, zoals
bij het gedragstoezicht op de financiële sector – om ze te dwingen meer te
communiceren met de samenleving, zodat die samenleving beter begrijpt
wat er bij die algoritmegebruikende instellingen gebeurt en wat daarvan
de risico’s zijn. Dan laat je die instellingen, zeg maar de eigenaar van die
hond, communiceren en rapporteren over wat ze doen aan intern
risicomanagement et cetera. Wat vindt u van zo’n soort aanpak?
Mevrouw Muller:
Dat zou een onderdeel kunnen zijn van de aanpak, maar ik denk dat je
verder zou moeten willen gaan dan dat. We gaan met honden ook zover
dat we ze eigenlijk niet op straat willen als ze vals zijn. Je zou eigenlijk
meer moeten weten van de algoritmegebruikende of AI-gebruikende
instelling. Wat voor AI wordt er precies gebruikt? Hoe? Welke data zijn
daarvoor gebruikt? Is het in een multidisciplinair team vormgegeven? Ik
denk dat dit veel breder zou moeten zijn dan alleen een opdracht om eens
in de zoveel tijd te rapporteren wat je gebruikt en daarover te communiceren, want er zit veel crap tussen op dit moment. Er zitten veel systemen
tussen die gewoon nog niet voldoende goed functioneren. Op bepaalde
manieren is dat goed op te lossen, dus je moet veel meer kijken naar het
bredere veld: wanneer wordt het ontwikkeld? Door wie wordt het
ontwikkeld? En wie neemt intern de beslissing over de vraag of het
gebruikt gaat worden, in welke situaties? Is er in een bepaalde situatie nog
menselijke tussenkomst? Willen we die in bepaalde situaties misschien
vereisen? Er zou een heel breed veld aan vragen gesteld moeten worden.
Wat u voorstelt, zou daar zeker onderdeel van uit moeten maken, want
achteraf moet je natuurlijk ook verantwoorden hoe het allemaal gegaan is.
Je moet er ook rekening mee houden dat dit soort systemen alsmaar
wordt geüpdatet. Zo’n instelling moet dat ook maar weer allemaal weten
bij te houden. Hoe ga je daarmee om? Als ik dit zo voor me zie, wordt het
een heel interessante operatie en misschien ook wel een heel nuttige
operatie, maar het vraagt meer dan alleen rapporteren en terugrapporteren aan de samenleving.
De heer Middendorp (VVD):
Het wordt bijna een dialoog. Volgens mij sluiten deze dingen op elkaar
aan, want bijvoorbeeld in het financieel toezicht op het risicomanagement
van leningenportefeuilles zitten al die elementen die u buiten communiceren eigenlijk als extra’s beschreef. Maar dan komt het er uiteindelijk wel
op neer dat je de verantwoordelijkheid met accountability neerlegt bij de
partijen die gebruikmaken van die producten, instrumenten, algoritmen.
Als ik het goed hoor, zijn we het ook eens dat we vaak al wetten hebben
voor het geval we iets constateren wat niet door de beugel kan. Als die
hond vals is, moet die van de straat, maar daar hebben we al een wet
voor. Als iemand een algoritme gebruikt om mensen op te lichten, hebben
we daar in principe een wet voor. Er zullen ook nieuwe situaties zijn, dat
begrijp ik helemaal, maar een groot deel zullen we met de huidige
wetgeving kunnen adresseren, denk ik. Maar misschien heeft u daar een
andere visie op.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

58

Mevrouw Muller:
Nee, zeker niet. Dat ben ik helemaal met u eens. Het probleem is alleen
dat je het bij een hond heel goed ziet. Bij een algoritme zie je het helemaal
niet goed en kom je er pas na heel veel onderzoek misschien achter of het
bijvoorbeeld niet goed heeft gefunctioneerd of bevooroordeeld was. Je
zou dus eerder in het proces iets moeten inbouwen om dit vooraf te
beoordelen voor beslissystemen die erg veel impact hebben. Het is een
dual-usetechnologie. Als zo’n technologie wordt gebruikt door iemand
met kwade zin, is het duidelijk, maar die kan ook worden door iemand met
goede zin en toch kwade effecten hebben. Dat is de nuance die ik wil
aanbrengen.
Mevrouw Van Weerdenburg (PVV):
Even aanhakend op dual-use, dat u net noemde. U zei: je kan wel alvast
dialoog hebben en bij wet bepalen wat we niet moeten willen. U noemde
als voorbeeld massasurveillance. Maar is dat niet puur hypothetisch? Ten
eerste kun je van een heleboel dingen inzien hoe iemand ze in kwade zin
zou kunnen gebruiken, maar ook in goede zin. Het is bijvoorbeeld handig
om te zien dat mensen een epileptische aanval gaan krijgen. Denk
bijvoorbeeld ook aan autonome wapens. Stel dat wij ze niet willen gaan
gebruiken, maar dat we weten dat de Chinezen ze wel hebben. Dan zou je
wel gek zijn als je ze als westers land niet wilt gaan ontwikkelen. Is het
geen te grote stap om zo’n soort innovatie, zo’n toepassing die er al is – of
wij ’m nou gebruiken of niet, de toepassing is ontwikkeld – helemaal
buiten werking te stellen of niet te gaan gebruiken? Het zijn natuurlijk
allemaal mondiale bewegingen.
Mevrouw Muller:
Het zijn zeker mondiale bewegingen. Als ik even mag beginnen over
autonome wapens: daar wordt op VN-niveau uitgebreid over gesproken.
Er is een commissie aangesteld die nu al zo’n twee jaar spreekt over de
vraag hoe we «meaningful human control» kunnen houden bij het gebruik
van autonome wapens. Dat is een vreselijk ingewikkelde discussie, maar
die vindt al plaats op mondiaal niveau. Het Europees Parlement heeft een
tijdje geleden een resolutie aangenomen waarin het stelt dat we moeten
zorgen dat daar heel duidelijke regels aan worden gesteld. In zoverre vind
ik dat niet geheel hypothetisch. Europa is een macht in de wereld. De High
Level Expert Group heeft zich hierbij aangesloten. Ik denk dus dat we ons
in ieder geval aan zouden moeten sluiten bij de discussie op VN-niveau,
maar dat we ons ook zouden moeten laten informeren door bijvoorbeeld
ethici en filosofen over de vraag wat het betekent om oorlog te voeren
met autonome wapens. Daar zitten allerlei enorme risico’s aan, nog buiten
het feit dat ze iemand zouden kunnen omleggen die ze niet hadden
mogen omleggen. Maar het kan bijvoorbeeld ook leiden tot eeuwige
oorlogen. Er is geen enkele incentive meer om te stoppen met oorlog
voeren. Het is een heel ingewikkelde discussie en ik wil hier niet beweren
dat ik die helemaal in de vingers heb, maar op globaal niveau wordt die al
gevoerd.
Daarnaast zei u dat je voor zaken als gezichtsherkenning ook heel veel
goede toepassingen hebt. Zeker! In de Verenigde Staten is een bedrijf dat
op basis van een slimme toepassing van gezichtsherkenning kinderen
terug kan vinden die via het internet verhandeld zijn voor sex trafficking.
Die kinderen zijn vaak al jaren verdwenen, maar met die gezichtsherkenning kun je ze ouder maken en ze zo terugvinden. Je zult dus een
balans moeten vinden. Er is altijd discussie over de vraag of je voor
volledige veiligheid en een complete surveillancestaat gaat of juist een
balans vindt. We nemen altijd een bepaalde mate van onveiligheid voor
lief. Zo leven we. Anders zouden we allemaal het beste binnen kunnen
blijven. Er is dus altijd die balans tussen volledige veiligheid en privacy,
maar ook menselijke autonomie. Willen we met z’n allen volcontinu

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

59

bekeken worden, overal waar we gaan, rijden of winkelen? Willen we
bekeken worden als we misschien iedere week bij de slijter staan of één
keer per week een psycholoog bezoeken? Dit is een moeilijke balans. Die
vergt dus een democratische discussie.
De heer Van Dam (CDA):
Ik heb twee vragen – tenminste, ik heb er veel meer, maar ik beperk me tot
twee. Ik wil die vragen wel even los van elkaar stellen. De eerste gaat door
op het onderwerp waar we het nu over hebben. Deze zomer las ik het
laatste boek van Stephen Hawking, De antwoorden op de grote vragen.
Daarin gaat hij ook in op artificiële intelligentie. Hij zegt eigenlijk – dit is
puur mijn interpretatie van wat hij zegt, dus ik weet niet of ik het helemaal
goed zeg, maar never mind – dat we die artificiële intelligentie juist hard
nodig hebben, omdat we stappen moeten gaan zetten die voorbij het
menselijk denkraam gaan. Dan heb je het over het feit dat over 1 miljoen
jaar de zon ermee ophoudt en dat wij misschien moeten omkijken naar
andere planeten, waarbij alleen al vanwege de snelheid van het licht onze
manier van denken en doen tekortschiet.
Dit is wel een heel korte samenvatting van een buitengemeen ingewikkeld
boek. Maar ik wil maar zeggen dat ik me afvraag in hoeverre je jezelf
klemzet voor de toekomst – misschien is dit wel een te verre toekomst –
als je zegt, en ik parafraseer even wat u zelf zei over de «human in
command»-benadering van AI, dat machines machines blijven en dat
mensen te allen tijde de controle over deze machines behouden. Zou je
het niet veel meer moeten zoeken in de manier waarop die machines
leren? Ik heb weleens gehoord dat heel veel artificiële intelligentie ... Een
zelfrijdende auto leert bijvoorbeeld van hoe honderden of duizenden
mensen hun auto besturen. Dat slaat-ie op. In dat gedrag van die mensen
zit dan ook moraliteit, zo van: er komt nu een kind voor mijn auto, dus ik
stop toch even. Als je dit laat programmeren door een waarden-loze
machine – niet een waardeloze machine, maar een waarden-loze
machine – kom je misschien op heel andere dingen uit.
Ik zou als christendemocraat dus zeker heel graag met u mee willen
denken over een manier om te zorgen dat de mens altijd aan de knoppen
blijft zitten, maar na het lezen van dit soort boeken heb ik wel wat
aarzelingen of dat echt het perspectief is dat we vol kunnen houden en of
we ook nog een second-best plan hebben op dat vlak.
De voorzitter:
Dit is wel een nieuwe lezing van de christendemocratie, dat de mens aan
de knoppen zit. Maar als humanist zie ik dat graag!
De heer Van Dam (CDA):
Het is goed dat u dat even aan me vraagt. Maar ik wil in ieder geval dat de
menselijke waarden centraal staan en dat je je niet aan de markt of aan
wat dan ook uitlevert. Omdat ik mevrouw Buitenweg graag haar
successen gun, maar niet op dit punt, wil ik dat toch even corrigeren.
Mevrouw Muller:
Wat ik ook bedoel met human in command over de machines, is dat de
auto zichzelf niet leert rijden. Wij leren de auto rijden. Wij bepalen hoe die
auto dat leert. Dat is allemaal aan ons. Die auto gaat ook niet ineens
vliegen. Dat gaat niet gebeuren. Die heeft leren rijden en dat is wat hij kan.
Hij gaat ook niet ineens schaken. Misschien zou hij dat kunnen als er een
schaakcomputer was ingebouwd, maar hij kan autorijden. Dat is wat ik
bedoel. Wij geven de huidige AI-systemen de doelen die ze moeten
nastreven. Wij bepalen wat er precies gebeurt in zo’n systeem.
Ik heb het boek van Hawking zelf niet gelezen, maar ik weet wel wat hij
zegt en waar hij op doelt. Het is misschien wel goed als ik hier even het
onderscheid maak tussen artificial general intelligence en artificial narrow

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

60

intelligence. General intelligence is artificiële intelligentie die cognitief
alles kan wat wij kunnen. Narrow intelligence is artificiële intelligentie die
een heel kleine en beperkte taak kan uitvoeren. Alles wat we nu zien is
narrow intelligence: de beslissystemen, het autorijden, de meer en meer
autonome wapens. Dat is allemaal narrow intelligence. Artificial general
intelligence bestaat niet en de meningen zijn er sterk over verdeeld of die
er ooit zal komen.
Er zijn dus ook zeer veel wetenschappers die datgene wat Stephen
Hawking zegt, onzin vinden. Zij zeggen: dat gaat niet gebeuren, want
zover gaan we nooit komen. Ik denk dat het goed is om dat onderscheid
duidelijk te maken en om ons, in ieder geval op dit moment ... We moeten
dit natuurlijk sterk in de gaten blijven houden, want er zijn instituten en
organisaties die werken en bestaan voor het bereiken van general
intelligence. Ze zijn daar nog lang niet en ze zullen er misschien wel nooit
komen, maar we moeten wel in de gaten blijven houden welke kant dat op
gaat.
Maar we moeten niet vergeten dat er nu heel veel narrow artificiële
intelligentie op ons af wordt gevuurd die al heel veel impact heeft op ons
leven. Daar moeten we mee dealen. Als we daarmee beginnen, denk ik
dat we straks ook die general intelligence, mocht die er ooit komen, de
baas kunnen. Maar wat u zegt – «als straks de zon uit is, hebben we het
juist nodig» – is bijna een filosofische discussie. Het zou fantastisch zijn
als het ons dan kan helpen, maar laat het ons dan helpen en laat het niet
ons leven bepalen.
De heer Van Dam (CDA):
De aandrang om hier nog jaren over door te gaan, misschien wel
1 miljoen jaar, is groot, maar ik zal toch naar mijn andere punt gaan:
toezicht op artificiële intelligentie. Onlangs was hier de voorzitter van de
Autoriteit Persoonsgegevens. Die riep ons eigenlijk op om artificiële
intelligentie als wetgeving te beschouwen, omdat het regels zijn die voor
allerlei mensen gelden en bepalend zijn. Ja, uw gezichtsuitdrukking nu
had ik op dat moment ook, maar ik leg dit u voor. De andere kant ... Nee,
laat ik de vraag open stellen. Vindt u dat er toezicht moet zijn – ik denk dat
dit een retorische vraag is – en hoe zou dat dan vorm moeten krijgen in de
Nederlandse situatie? Vindt u dat de toezichthouders die er nu zijn daar al
voldoende voor bevoegd en geëquipeerd zijn? Of moeten we over heel
andere dingen denken?
Mevrouw Muller:
Ik vind dat best wel een moeilijke vraag. Zoals ik net al zei, als er een
toezichthouder of een autoriteit komt, of hoe je het ook wilt noemen, dan
zal die heel stevig geëquipeerd moeten worden om de technische
capaciteiten en de technische beperkingen van de systemen goed te
begrijpen. Die zal ook moeten begrijpen dat er niet zoiets is als «we gaan
een algoritme controleren en geven dan een akkoord». Zo werkt het niet.
AI is vaak een enorme set van verschillende algoritmes. Er komt data bij
kijken. Mensen maken de algoritmes, schrijven de modellen. Zij hebben
ook allerlei invalshoeken. Mensen stellen doelen aan wat AI moet kunnen.
Daarin nemen ze ook hun eigen meningen mee. Bedrijven nemen hun
eigen doelstellingen daarin mee. Als je zoiets wilt installeren, moet het
dus heel breed geëquipeerd worden. Zo’n instantie moet juridisch ook
veel verstand hebben van waar artificiële intelligentie allemaal op ingrijpt,
want het grijpt feitelijk overal op in. Het is niet alleen privacy of alleen
financiële producten. AI grijpt in op onze mensenrechten, op de aansprakelijkheidsvraagstukken en ook op de privacy, en dan niet alleen de
dataprivacy maar de bredere privacy, dus de persoonlijke levenssfeer et
cetera.
Je zou daar in het ideale geval dus een groep van mensen bij elkaar
moeten hebben die brede kennis hebben. Je moet dan denken aan

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

61

AI-wetenschappers, juristen, ethici, filosofen, psychologen et cetera. Want
dat zijn allemaal elementen die beïnvloed worden door AI. U heeft
vandaag waarschijnlijk gehoord over Cambridge Analytica. Waarom werkt
fakenieuws zoals het werkt? Waarom heeft men dat hele systeem zo
opgetuigd dat het werkt, dat het mij en u en iedereen in een bepaalde
richting kan duwen? Hoe werkt dat psychologisch? Kunnen we daar iets
tegen? Dat zou dus een behoorlijk forse autoriteit moeten worden. Ik zou
het wel een interessante gedachte. Bij dezen solliciteer ik open naar de
functie om die autoriteit te leiden als die er komt, maar zo’n autoriteit
moet dus flink geëquipeerd worden.
De heer Van Dam (CDA):
Het is wel interessant. Ik stelde u de vraag of u vindt dat de huidige
toezichthouders voldoende geëquipeerd zijn, en u zegt meteen dat er een
apart iets moet komen. Mag ik daaruit afleiden dat u vindt dat de huidige
toezichthouders, zoals de AP, de ACM en de AFM – we hebben er vandaag
een aantal gehad – niet daartoe geëquipeerd zijn of dit niet als taak
hebben? Hoe moet ik dat zien?
Mevrouw Muller:
Die hebben natuurlijk allemaal hun eigen taak, maar die taak is gericht op
een bepaald element van ofwel de samenleving, ofwel de dienstverlening.
Omdat AI zo’n brede impact heeft, weet ik niet of je voldoende hebt aan
bijvoorbeeld alleen de AFM, die alleen over de financiële markten gaat. Ik
zou zeggen dat er iets overkoepelends of centraals zou moeten zijn.
De heer Van Dam (CDA):
Nu uw sollicitatie iets meer vorm begint te krijgen: zou u misschien ook
nog iets meer licht kunnen laten schijnen op hoe zo’n instantie dan werkt?
Gaat die alle algoritmes op de wereld bekijken? Of is het alleen een
klachtenlijn voor als je klem komt te zitten in de AI? Kijkt zo’n instantie
alleen mee als er een groot belang is of als het over bijzondere persoonsgegevens gaat? Hoe ziet u dat? Droomt u eens even met ons mee!
Mevrouw Muller:
Ik kan u meteen al zeggen dat het geen klachtenlijn is voor mensen die in
AI komen vast te zitten, want je weet waarschijnlijk niet dat je vastzit in AI.
Dat is dus zeker niet voldoende. Ik denk dat het een aantal componenten
zou moeten hebben. Het zou misschien zelfs een researchcomponent
moeten hebben: er verschijnt nu dit of dat op de markt; wat vinden wij
daarvan, hoeveel impact heeft dat? Het zou een instantie moeten zijn die
weet wat er speelt in het land, die weet dat er inmiddels 58 of misschien
wel meer gemeenten in meer of mindere mate gebruikmaken van
automatische beslissystemen. Sommige zijn heel eenvoudig – if this, then
that – maar sommige zijn heel complex. Sommige systemen grijpen bijna
niet in en gaan alleen maar over de riolering. Andere grijpen heel erg in
op mensenlevens. Zo’n autoriteit zou dat ten eerste heel erg inzichtelijk
moeten krijgen.
Al filosoferend denk ik dan al gauw aan diverse werkgroepen, die zich
bezighouden met de diverse impactdomeinen waar we het net over
hadden. En dan heb ik nog niet eens alles genoemd. Denk eens aan de
impact op werk, niet alleen op het aantal banen, maar ook op de manier
waarop we werken. Denk aan de manier waarop mensen autonomie in
hun werk willen behouden. Denk aan educatie en opleiding. Waar leiden
we onze kinderen voor op? Technische educatie is heel belangrijk; er
wordt nu ontzettend gediscussieerd over de vraag of al het geld niet naar
de bètawetenschappen moet, maar moeten we niet juist een stapje verder
denken? Moeten we niet denken aan puur menselijke capaciteit en daar
meer aandacht aan besteden? Zo’n autoriteit krijgt een breed takenpakket.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

62

De voorzitter:
Een soort premier, zeg maar.
U heeft veel ervaring in Brussel. U kent het Europees Parlement goed en u
kent waarschijnlijk ook de werkwijze van verschillende nationale parlementen op dit vlak. Zijn er voorbeelden te geven? U had het erover dat we
maar eens wat meer democratisch debat moesten voeren, bijvoorbeeld
over gezichtsherkenning. Zijn er andere parlementen die dit op een goede
manier hebben opgepakt? Zijn er voorbeelden waaraan wij inspiratie
kunnen ontlenen? Heeft het Europees Parlement een bepaalde werkwijze
waardoor er daar blijkbaar meer discussie is over deze vraagstukken? Wat
zijn de goede zaken waar wij inspiratie aan kunnen ontlenen?
Mevrouw Muller:
Het is bijzonder nieuw allemaal. Het wordt door de nationale overheden
meer en meer opgepakt. De Europese Commissie heeft alle landen de
opdracht gegeven om in ieder geval met een nationale strategie te komen.
Op dit moment doe ik bij het Europees Economisch en Sociaal Comité
onderzoek naar hoe die nationale strategieën tot stand zijn gekomen. Wij
zijn net begonnen en hebben inmiddels België gehad. Daar had men er
een groep wetenschappers en bedrijven bij betrokken. In mijn hoorzitting
zaten er ook mensen uit de vakbeweging en van een patiëntenfederatie.
Die waren er niet bij betrokken. Bij het samenstellen en uitvoeren van je
beleid moet je in mijn optiek zo veel mogelijk de brede maatschappij
betrekken. Dat ten eerste.
Het beste voorbeeld waar je naar zou kunnen kijken, is denk ik Canada.
Canada heeft de Montreal Declaration on Responsible AI. Die is al oud in
deze wereld: ik meen twee jaar. Door middel van een volledig open
consultatief proces hebben ze dat vormgegeven. Canada was een van de
eerste. Bij andere landen weet ik niet goed of er al veel discussie is in de
parlementen. Mondjesmaat komen de strategieën tot stand. Als ik op een
ander moment hierheen was gekomen, had ik meer landen gehad dan
alleen België. We gaan zes landen ondervragen die nu al een strategie
hebben. Misschien dat ik er in de loop van de tijd bij u op kan
terugkomen.
De voorzitter:
Mijn tweede vraag is in lijn met wat mevrouw Van Weerdenburg zei over
die massasurveillance. Zaken als gezichtsherkenning geven mij het
angstbeeld van zo’n Chinees sociaalkredietsysteem. Dat wil ik echt per se
niet. Tegelijkertijd zie ik nog niet helemaal wat dus het scharnierpunt is,
wat de grens is die je niet moet overgaan. Ik heb het idee dat je langzaam
in een bepaalde richting kruipt. Eerst hebben allerlei mensen zelf allerlei
systemen, bijvoorbeeld tegen inbrekers. Daarna zegt de politie: we
gebruiken al die systemen samen, want we willen allemaal wat meer
veiligheid en dan hebben we de boel meer in beeld. Dan blijken er ineens
nog witte vlekken te zijn; waarschijnlijk gaan we daar dan ook wat
camera’s hangen. Het was eerst voor het ene doel, maar voor je het weet
krijgt het ook een ander doel. Ondertussen vinden we heel veel dingen op
een gegeven moment ook logisch, want wie is er tegen veiligheid en wie
is erop tegen dat een aantal goede zaken gedaan kunnen worden? Dus
hoe kunnen wij dit nou in de gaten houden? Moeten wij er als het ware
permanent tegen ingaan en een voor trekken? Wat kunnen wij er in uw
ogen aan doen om de juiste grens te trekken?
Mevrouw Muller:
Tja, dat is ... In San Francisco is er een ban op facial recognition gekomen.
De voorzitter:
Tijdelijk!

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

63

Mevrouw Muller:
Ja, die is tijdelijk. Maar ook in een aantal andere steden in de Verenigde
Staten is er een ban op facial recognition omdat men eerst wil kijken hoe
dit op een verantwoorde manier kan worden ingezet. Maar ik ben het
helemaal met u eens dat het een kruipend iets is, technology creep. Vorige
week zagen we het voorbeeld van scanauto’s die rondrijden. Die kijken
naar nummerborden, maar kunnen in theorie veel meer. Als je daar
gezichtsherkenning in zet, kunnen ze de hele straat in de gaten houden en
zien waar iedereen is, waar iemand loopt, waar iemand heen gaat, hoe
iemand kijkt, of iemand met z’n schouders naar beneden loopt et cetera.
Je kunt daar heel ver mee gaan. Ik vind dit wel een moeilijke vraag, want
ik begrijp dat we het langzaamaan steeds meer gaan accepteren. Of het is
er gewoon en we denken: nou ja, het zal wel. Maar is dat echt wat we
willen? Moeten we dan niet zeggen dat we het alleen in specifieke
situaties met de toestemming van de rechter gaan inzetten, omdat we op
zoek zijn naar iemand en verwachten dat die daar en daar zal zijn? Dat zou
een vorm kunnen zijn waarbij je er wat meer controle over houdt. Dan
sweep je het niet over de hele samenleving.
Volgend jaar hebben we het EK voetbal. Ik las dat de gemeente
Amsterdam samen met de politie een digitale veiligheidsring gaat
optuigen met allemaal slimme technologie. Dan denk ik: oké, daar gaan
we. Wordt dat gewoon aangezet in het begin en gaat het uit aan het eind?
Of gaan we met elkaar in overleg, zeggen we dat we dáár iemand
verwachten die we uit de menigte willen pikken en zetten we het
vervolgens in? Dit is een heel precaire balans. Maar zoals u zegt, kruipt het
nu langzaam ons leven in. Straks is het er en dan wordt het heel moeilijk
om het weer terug te draaien.
De voorzitter:
Dat voorbeeld kende ik nog niet. Ik weet wel dat het een jaar of tien, twaalf
geleden werd voorgesteld door een commissaris van de politie en dat het
toen niet aanvaardbaar werd geacht. Dat is op zich ondersteuning van de
stelling. Maar het kan ook voortschrijdend inzicht zijn. Dat is misschien
ook een mening, waar ik mij verder niet over uitlaat.
De heer Van Dam.
De heer Van Dam (CDA):
Een beetje in het verlengde van waar we het net over hadden, heb ik nog
een vraag over het toezicht. Zou open source wellicht een bijdrage kunnen
leveren aan het toezicht op? Ik heb het beeld dat je met open source
werkelijk Jan en alleman bereikt die hier tot diep in de nacht interesse
voor heeft. Je roept er een enorme community mee op die ook meekijkt
op een soort publieke, verantwoorde manier. Je kunt bijvoorbeeld
verplichten dat AI-regels openbaar worden gemaakt – natuurlijk ken ik dan
ook wel de uitzonderingsregels. Als gemeente X een bepaalde formule wil
hanteren om dingen te beslissen, is dat prima, maar dan moet die formule
wel kenbaar zijn voor iedereen die daar kennis van wil nemen om te kijken
of er discriminatoire aspecten of wat dan ook in zitten. Ik snap ook wel dat
we de AIVD niet moeten vermoeien met dit soort zaken, maar kan me
voorstellen dat dit heel veel kan oplossen zonder dat je allerlei toezichthouders ermee opzadelt.
Mevrouw Muller:
Ik denk dat dat heel moeilijk wordt omdat het voor heel veel wetenschappers, maar met name ook voor leken onmogelijk is om dat dan te
begrijpen. De code blootleggen, de data blootleggen ... Is dat niet wat u
bedoelt?

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

64

De heer Van Dam (CDA):
Ik bedoel ook geen leken. Ik denk juist dat er in de samenleving heel veel
kennis is op dit vlak en dat die mensen juist geactiveerd worden om hun
deskundigheid in te zetten. Kijk naar de ethische hackers of de mensen die
op dit gebied van alles weten. Kijk naar Bellingcat. Ik denk dat dat een weg
is die ook heel actueel is.
Mevrouw Muller:
Is dat dan iets wat u zou willen institutionaliseren? Dan wordt het meer
een soort vrijwillige ... Tja.
De heer Van Dam (CDA):
Mijn concrete vraag is of u dat ook overwogen hebt in uw activiteiten op
dit hele terrein en of u dit idee misschien elders hebt gehoord. Of zou het
totaal onwerkbaar zijn? Dat is mijn vraag.
Mevrouw Muller:
Heel veel informatie over de vraag of systemen hun werk goed doen,
komt van dit soort opensource-activiteiten. Dat zijn met name journalisten
als Bellingcat. Ook ProPublica is een heel bekende organisatie die hier
veel onderzoek naar doet. Maar om dat nou echt als tool in te zetten, om
daar voldoende controle op uit te oefenen ... Dan vragen we wel veel van
mensen. Ik zie de praktische uitwerking daarvan niet goed. Ik heb er ook
nog geen voorbeelden van gezien.
Een ander element van open source is dat heel veel al open source is.
Heel veel AI en heel veel datasets zijn gewoon voor iedereen beschikbaar.
Ik weet niet of u toevallig de afgelopen periode gehoord heeft van
ImageNet Roulette? ImageNet is de grootste gezichtendatabase ter
wereld. Die is ooit door Stanford samengesteld en wordt gebruikt voor het
trainen van gezichtsherkenning. Dat trainen van gezichtsherkenning kan
een systeem alleen als het weet wat er op die foto gebeurt. Die foto’s
moeten dus gelabeld worden. Die foto’s zijn dus gelabeld. We weten niet
precies door wie dat gedaan is, maar waarschijnlijk door clickworkers,
door Amazon Mechanical Turks, of door jongens en meisjes op de
Filippijnen. Het AI Now Institute had ImageNet Roulette online gezet. Daar
kon je je eigen foto op zetten – die verdween ook gelijk – en kijken hoe je
gelabeld werd. Ik werd gelabeld als clown, als iemand die grappen maakt.
Een andere collega werd gelabeld als mistress en als vrije vrouw. Je kreeg
de vreemdste labels. Volgens het onderzoek kwamen er ook veel ergere
en discriminatoire labels uit. Dat is een opensourcedataset die door alles
en iedereen gebruikt wordt om gezichtsherkenning te trainen. Open
source geeft ons dus aan de ene kant wel inzicht in hoe het gaat, maar
heeft het probleem dan nog niet opgelost.
De heer Van Dam (CDA):
Maar dat is toch puur open source aan het eind, bij het resultaat? Het zou
toch superinteressant zijn om ook openbaar te maken hoe men tot die
aannames komt en dat open te stellen? Als ik de eigenaar was van zo’n
systeem, zou ik tenminste dolblij zijn om die gekkigheid eruit te halen.
Mevrouw Muller:
Ja, dat zou geweldig zijn, als je ervoor kon zorgen dat je volledig bias-free,
perfecte, foutloze datasets hebt. Maar veel bedrijven die datasets
gebruiken, zeggen: dat is proprietary information, die ik je niet ga geven.
Dan loop je daar weer tegen aan. Dit is dus een heel lastig probleem.
De voorzitter:
Dank u wel. Ik kijk of er bij de leden nog prangende vragen zijn. Meneer
Middendorp? U mag nog één prangende vraag stellen.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

65

De heer Middendorp (VVD):
Ja. Ik zie die narrow AI, of in ieder geval een groot gedeelte daarvan, dan
maar even als een algoritme. In de interactie over de rapportage van de
algoritmegebruikende instellingen waarop je je zou kunnen richten met
het toezicht, had ik even de indruk dat we bij de vraag van de heer Van
Dam – die volgens mij kunstmatige intelligentie en toezicht in zijn vraag
noemde – weer een beetje opnieuw begonnen. Bij de sollicitatie hoorde ik
de elementen die we hier bespraken eigenlijk helemaal niet terug. Er is
bijvoorbeeld een voorstel gedaan – de vraag is natuurlijk ook hoe de
Kamer daar vorm aan gaat geven – om een soort taskforce in te stellen die
gaat kijken naar verschillende elementen. Moet je ingaan op de communicatie van die algoritmegebruikende instellingen? Of moet je juist ex ante
alles gaan controleren? Is het de rol van een toezichthouder, zoals we aan
het begin bespraken, om die communicatie op te leggen? Hoe denkt u
daarover? Of begint u opnieuw, als u gaat nadenken over een
toezichthouder?
Mevrouw Muller:
Ik begrijp uw vraag niet goed.
De heer Middendorp (VVD):
Wij bespraken aan het begin dat bijvoorbeeld het gedragstoezicht op de
financiële sector een voorbeeld zou kunnen zijn voor het toezicht op
algoritme.
Mevrouw Muller:
Ik kan me niet herinneren dat ik dat zo heb gezegd: «toezicht op een
algoritme». Nogmaals, artificiële intelligentie is dus niet alleen het
algoritme. Het is niet zo dat je een algoritme naar de toezichthouder
brengt, dat die er dan naar gaat kijken en vervolgens yes or no zegt. Dat
kan niet. Het gaat om het hele proces. Het gaat om de data waarop het
getraind is. Het gaat om de data die het vervolgens toegevoegd krijgt om
een beslissing op te nemen. Maar het gaat ook om de vraag in welke
situatie we dit systeem gebruiken. Is het een overheid die probeert te
voorspellen of iemand gaat frauderen? Is dat iets wat we willen of niet? Ik
vind het woord «toezicht» wat dat betreft ook een beetje lastig, want dat
beperkt een beetje het idee. Er is toezicht en vervolgens wordt er gezegd:
dat is goed en dat is niet goed. Maar het is ingewikkelder dan dat. Het is
genuanceerder dan dat.
De heer Middendorp (VVD):
Ik denk dat het iets te ver gaat, want we zijn al iets over de tijd heen, maar
het gaat mij ook om toezicht op algoritmegebruikende instellingen. Ik wil
op geen manier de indruk wekken dat ik van tevoren, ex ante, wil checken.
Maar volgens mij gaat het om toezicht op algoritmegebruikende instellingen en niet om toezicht op algoritme. Dan heb ik me niet goed
uitgedrukt.
Mevrouw Muller:
Oké, dat is dan duidelijk. Op welke manier je dat dan vormgeeft, moet
helemaal worden ingekleed. Dat is niet een kwestie van, zoals ik al zei, dat
u mij informeert of u wat gebruikt, dat het dan bij ons in het register staat
en dat ik het publiek informeer dat er een algoritme of een AI-systeem
wordt gebruikt. Het is meer dan dat. U informeert mij dat u van plan bent
dit te gaan gebruiken. U gaat mij dan duidelijk uitleggen waarvoor,
waarom en et cetera. Ik weet niet of ik uw vraag zo heb beantwoord. Want
ik vind het ...

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

66

De heer Middendorp (VVD):
Als we er maar op uitkomen dat mijn opmerking ging over het toezicht op
algoritmegebruikende instellingen en dat het toezicht op de financiële
sector daar een voorbeeld van kan zijn. Dat is eigenlijk waar ik vandaan
kwam, maar toen er met de heer Van Dam ook over toezicht werd
gesproken, hoorde ik opeens heel andere elementen terugkomen. Maar
volgens mij ...
De voorzitter:
Volgens mij ging de discussie bij de een over het algoritme, en bij de
ander veel breder over artificial intelligence. Zo heb ik het een beetje
gevolgd. Dan gaat het dus niet alleen over het algoritme, maar ook breder
over allerlei toepassingen en de data die erin gaat en dergelijke.
Mevrouw Muller:
Daar gaat het mij om. Dank u wel.
De voorzitter:
Dank u wel. Dan zijn we volgens mij aan het einde gekomen van deze
sessie. Zijn er nog andere dingen waarvan u zegt: dat moet u als
commissie echt nog weten voordat u hier verdergaat?
Mevrouw Muller:
Nee.
De voorzitter:
Heel hartelijk dank voor uw aanwezigheid. Daarmee sluit ik dit deel van de
hoorzitting af. Ik stel voor dat we een korte pauze hebben van vijf
minuten. Daarna gaan we verder met de laatste ronde van deze dag.
De vergadering wordt van 16.09 uur tot 16.17 uur geschorst.
Blok 6
Gesprek met:
– mevrouw Marleen Huysman en de heer Frederik Zuiderveen Borgesius, wetenschappers, Vereniging van Universiteiten (VSNU)/Digitale
Samenleving
De voorzitter:
Opnieuw goedemiddag allemaal. We gaan beginnen met het laatste deel
van deze kennissessie voor onze tijdelijke commissie Digitale toekomst.
We hebben daarbij twee gastsprekers, namelijk Marleen Huysman en
Frederik Zuiderveen Borgesius. Je zou toch een moord doen voor zo’n
achternaam. Jullie zijn allebei wetenschappers van het programma
Digitale samenleving. Hartelijk welkom. Wij zijn met z’n vieren hier om te
horen welke zaken volgens jullie van belang zijn om aan ons en de
commissie mee te geven. Daarbij gaat het mogelijk over trends, over
zaken die jullie bij de digitalisering zien, vooral toegesneden op de vraag
wat dat nu voor ons, de wetgever, betekent. Op welke wijze moeten wij
ons werk beter doen? Daar horen we graag van jullie over. Daarbij
beginnen we met een introductie van jullie kant. Daarna zullen wij de
nodige vragen stellen.
Aan wie kan ik het woord als eerste geven? Aan Marleen Huysman.
Mevrouw Huysman:
Dank u wel. Mijn naam is Marleen Huysman. Ik ben hoogleraar aan de
Vrije Universiteit. Mijn vakgebied is bedrijfskunde of organisatiekunde.
Maar voordat ik over mezelf begin, over mijn onderzoeksinteresse en de
vragen die ik daarbij stel en die volgens mij voor jullie relevant zijn, wil ik

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

67

even de VSNU Digital Society Research Agenda aankondigen, want wij
zitten eigenlijk om die reden hier. De VSNU heeft twee jaar gelden de
Digital Society Research Agenda opgesteld, met verschillende programmalijnen. Ik zal ze even noemen: Citizens, Science & Democracy, Responsible Data Science, Health & Well-Being, Learning & Education, Work &
Organisations, Digital Cities & Communities en Safety & Security. Mijn
collega zit hier vanwege het programma Safety & Security en ik
coördineer het programma Work & Organisations. Er zijn dus meerdere
disciplines, maar we hebben ervoor gekozen om deze twee disciplines
hier vandaag aanwezig te laten zijn.
Het doel van de VSNU Digital Society Research Agenda is om de krachten
in Nederland te bundelen, specifiek gericht op human-centric IT moet ik
zeggen, maar het wordt steeds meer human-centric AI. Het is humancentric in de zin dat we het belangrijk vinden dat bij ontwikkeling van
digitale technologie en digitaal gebruik vooral ook de mens centraal wordt
gesteld, en dat ook bij het onderzoek daar rekening mee wordt gehouden.
Bijvoorbeeld bij computer science moeten ook altijd de sociale aspecten
worden meegenomen. Dat dus even over de digitale society agenda. Ik
denk dat ik daar voldoende over heb verteld.
Zelf ben ik dus verbonden aan de Vrije Universiteit, en richt ik mij met
mijn onderzoeksgroep vooral op hoe digitale innovaties het werk en
organisaties veranderen, en ook hoe die digitale innovaties tot stand
komen. We kijken dus niet alleen maar naar de effecten ervan, maar ook
naar de ontwikkeling ervan.
Op dit moment is met name ook AI bij ons heel erg belangrijk. We zitten
met een lab. We kijken naar hoe AI ontwikkeld wordt en hoe dat effect
heeft op het werk en op organisaties. We kijken vooral ook naar de
neveneffecten. We zijn eigenlijk in een gat gesprongen. Aan de ene kant
heb je de pessimisten over AI en aan de andere kant heb je de optimisten.
Zij zijn zeer extreem. De optimisten worden vooral vertegenwoordigd en
gestimuleerd door het bedrijfsleven, en dan met name door de consultants, die er toch ook economisch gewin uit halen, om een positief verhaal
te vertellen over AI. De pessimisten worden vaak vertegenwoordigd door
burgergroeperingen of individuen die zelf geen zeggenschap hebben.
Heel veel mensen hebben het gevoel dat ze de controle kwijtraken in het
digitale wonderland. Er is dus reden voor pessimisme en er is ook reden
voor optimisme. Maar wat we missen in het verhaal is eigenlijk dat gat:
wat vindt er dan eigenlijk plaats? Wat vindt er op dit moment plaats in die
organisaties? Is er eigenlijk wel AI, en verandert die het werk? Dat zijn de
vragen die wij stellen.
We doen dat door middel van wat wij embedded research noemen. We
doen dus geen surveys, we doen geen trendanalyses, maar we lopen echt
met organisaties mee. We kijken niet alleen maar hoe de technologie het
werk verandert, maar ook hoe die technologie ontwikkeld wordt. Welke
principes zitten erachter? Waar wordt aan gedacht? Welke ethische
waarden worden er in die systemen geschreven? Dat kan je eigenlijk
alleen maar zien als je meeloopt met die ontwikkeling. Als je het aan
mensen vraagt, krijg je altijd sociaal wenselijke antwoorden. We kunnen
aan mensen vragen: wat verwacht je in de toekomst aan digitale
technologieën? In onze optiek heeft zo’n vraag totaal geen zin, want
mensen weten dat helemaal niet. Digitale technologieën hebben als
eigenschap, als kenmerk dat het heel generatief is. Je kon dus niet van
tevoren voorspellen dat wij bijvoorbeeld nu apps gebruiken op onze
telefoons. Dat wisten we tien jaar geleden echt totaal niet. Je moet dus
meelopen en je moet kijken hoe die ontwikkelingen plaatsvinden.
Ik kan uren doorgaan over dit onderwerp, voorzitter, want ik vind het
ontzettend interessant, maar ik zal het kort houden. Een aantal dingen wil
ik even vertellen. Ik had het al over pessimisme en optimisme. Het is dus
van belang om die tussenweg te vinden. Beide partijen hebben gelijk,

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

68

maar laten we vooral geen angsten creëren, en laten we vooral ook
realistisch blijven en kijken wat er werkelijk plaatsvindt.
We zien ook dat er in de discussie veel nadruk wordt gelegd op de Big
Tech-organisaties, de Amazons. Maar vooral in Nederland zien we dat veel
mkb’ers bezig zijn met AI. En dat gebeurt niet alleen in Nederland, maar
overal. Die mkb’ers zijn eigenlijk zelf het wiel aan het uitvinden. Er zijn ook
veel AI-vendors, ontwikkelaars die hun systemen verkopen. Organisaties
en veel van de managers hebben weinig verstand van wat die technologie
nou eigenlijk inhoudt. Ik geef managers niet de schuld, want dat is niet
aardig. Die managers zijn bang dat ze hun concurrentiepositie verliezen,
gaan dan overstag en halen een AI-systeem in huis. Ontwerpers weten
ook niet precies wat nou eigenlijk de domeinkennis is waarvoor ze die
systemen ontwikkelen. Dat heeft tot gevolg dat er allemaal nieuwe
problemen ontstaan waar we rekening mee moeten houden.
Ook is belangrijk dat we bij organisaties zien dat we terechtkomen in een
datagedreven tijdperk en dat er steeds meer beslissingen datagedreven
worden genomen. Het denken en de mindset worden datagedreven. Daar
kan je eigenlijk met regulering en dergelijke niet veel mee. Het is een
bepaalde kijk op de wereld die consequenties heeft. Bijvoorbeeld ranking
van artsen, ranking van scholen en noem maar op hebben neveneffecten
waar we niet altijd blij mee moeten zijn. Om dat tegen te gaan, is
regelgeving niet genoeg. Om dat tegen te gaan, is denk ik echt scholing
belangrijk. Daar kom ik nog op, want dat is mijn laatste punt.
We zien ook de angst dat banen verloren gaan door AI. Er wordt gezegd
dat de professie radioloog de eerste professie is die zal verdwijnen, want
radiologie kan heel makkelijk vervangen worden door
deep-learningsystemen, die die visuele plaatjes veel beter kunnen
interpreteren en sneller kunnen laten zien of iets een kwaadaardige tumor
is of niet. In de praktijk zien we echter eigenlijk helemaal geen banen
verdwijnen, maar zien we dat er nieuwe functies en nieuwe werkzaamheden ontstaan. We zien ook dat niet zozeer AI het werk overneemt, maar
dat mensen gaan samenwerken met AI. AI wordt dus meer een ondersteuner, een coach. Kijk bijvoorbeeld naar mensen die bij een helpdesk
werken. Veel werknemers daar worden nu ondersteund door chatbots, die
de werknemers helpen bij het goed antwoord geven op de vraag. Nou is
het natuurlijk de vraag of het wel goede antwoorden zijn, maar dat is weer
een andere vraag.
We zien nog veel meer, maar kort gezegd betekent een en ander voor de
overheid volgens mij dat er aandacht besteed moet worden aan meer
samenwerking tussen enerzijds de bètakant, computer science, en
anderzijds de sociale wetenschappen. Er moet dus niet alleen maar geld
naar de hoek van de bèta, maar ook naar sociale wetenschappen. Dat zeg
ik niet alleen maar voor mezelf – nou, natuurlijk ook wel een beetje – maar
ook omdat we in de praktijk zien dat er zo veel kennis van het domein
nodig is om het te kunnen begrijpen, om die systemen te kunnen maken.
Onderzoek van vooraanstaande computerwetenschappers en informatici
gaat ook over die hybride systemen. Ik noem Frank van Harmelen, die net
een Zwaartekracht heeft gekregen. Het gaat om het belang om sociale
wetenschappen en computer science bij elkaar te brengen. Het is ook
belangrijk dat in het curriculum van sociale wetenschappen en van
computer science beide vakgebieden aan de orde komen. Er wordt nu
vaak gezegd dat sociale wetenschappers, in de breedste betekenis van het
woord, meer bètakennis moeten hebben, maar het zou ook andersom
moeten. In de bèta-opleidingen moeten mensen ook meer begrijpen van
de domeinen.
Wat ook nodig is, is lifelong learning. Professionals, beleidsmakers,
managers moeten van die systemen blijven leren en niet alleen maar door
middel van het lezen van teksten, maar ook door echt met die systemen te
spelen. Dat kan in speeltuinen zoals bij de Waag Society in Amsterdam.
Die doet dat al jaren en dat is echt een goede manier om zich technische

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

69

kennis eigen te maken. Daarmee kunnen bijvoorbeeld managers beter
begrijpen wanneer ze wel of niet over moeten gaan op AI en in hoeverre.
Ten slotte wil ik natuurlijk nog even zeggen, ook met het oog op de
commissie-Van Rijn – laten we daar niet moeilijk over doen nu – dat het
niet alleen maar de bèta science is die geld moet krijgen als het gaat over
AI. Dat zeg ik voor de hele VSNU-agenda.
De voorzitter:
Dank u wel. Sprak u voor u allebei? Of heeft de heer Zuiderveen Borgesius
een aparte inbreng? Dat is het geval. Gaat uw gang.
De heer Zuiderveen Borgesius:
Goedemiddag, geachte leden van de tijdelijke commissie Digitale
toekomst. Goed initiatief, die tijdelijke commissie en de kennisbijeenkomst. Ik ben Frederik Zuiderveen Borgesius, hoogleraar ICT en recht aan
de Radboud Universiteit, en ik doceer rechten en grondrechten aan de
komende generatie computerwetenschappers daar. Ik werk in de iHub,
een volledig interdisciplinair instituut waar we ons bezighouden met het
soort thema’s waar het hier over gaat vandaag.
Van tevoren waren ons vragen voorgelegd, onder andere de vraag: welke
thema’s vragen nu vooral de aandacht van de Tweede Kamer? Ik ben al
een beetje gerustgesteld nu ik hier al een tijd bij zit, maar het is makkelijk
samen te vatten: blijft u alstublieft veel aandacht hebben voor grondrechten. Ik was al blij om te horen dat het algemene geluid was: wij
denken hier niet dat we níet moeten reguleren om innovatie maar niet in
de weg te zitten. Dat hoorde ik graag.
We kunnen ons allemaal voorstellen hoe de datahonger, om AI-systemen
te voeden met trainingsdata, bijvoorbeeld tot privacyvragen en
-problemen kan leiden. Het is ook al eerder aangestipt. Mevrouw Muller
gebruikte een voorbeeld van een kompas dat Amerikaanse rechters moest
helpen voorspellen wanneer vervroegd vrijgelaten gevangenen opnieuw
de fout in gaan. Een computersysteem dat uit goede bedoelingen was
aangenomen om rechters te helpen, heel rationeel en niet te veel
beïnvloed door de lunch die een rechter heeft gehad en of hij al of niet
moe is, te beslissen over vervroegde vrijlating. Dat systeem bleek echter
te discrimineren tegen mensen van Afro-Amerikaanse afkomst. Dat is
extra vervelend omdat het illustreert dat een goed bedoelende organisatie
dat systeem had aangenomen, met goede bedoelingen. Het was al een
tijdje in gebruik toen onderzoekers van buiten ontdekten dat daar een
groot probleem mee was. Dat illustreert dat het niet genoeg is om
organisaties te vertrouwen. We, en ook de wetgever, moeten heel veel
aandacht blijven houden voor grondrechten, op de korte en lange termijn.
Een tweede punt waar u naar had gevraagd, was hoe de Kamer haar grip
kan vergroten op dit soort vragen. Ik zou u suggereren om in overweging
te nemen om deze tijdelijke commissie om te vormen tot een vaste
commissie. Dank u voor uw aandacht.
De voorzitter:
Dank u wel, hartelijk dank. De heer Middendorp. Echt waar, ik geef u het
woord, en aan niemand anders op dit moment.
De heer Middendorp (VVD):
Ik hou het kort, voorzitter. Dank voor de inleidingen. Als geoloog en bèta
met daarna een economie-opleiding ben ik zeer vatbaar voor de
argumenten die u aandroeg daarover, maar die zijn ... Ik wil aansluiten bij
het laatste punt daarover. Is het nou alleen die commissie? Gezien de
breedte van dit onderwerp: hoe zou zo’n commissie dan gaan werken, als
ik daarnaar mag vragen? Daar hou ik het even bij.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

70

De heer Zuiderveen Borgesius:
Nee, alleen een commissie is niet genoeg, maar het lijkt me een goed
begin om te zorgen dat er mensen zijn die de tijd hebben om dieper in die
ingewikkelde dossiers te duiken. Zoals u allemaal weet zijn het ingewikkelde dossiers met snelle ontwikkelingen. Als die iedere keer bij verschillende commissies terechtkomen, krijg je meer versnipperde kennis en
inzichten. Daarom lijkt het me goed om ook een vaste commissie
Digitalisering te hebben. Ik verwijs hierbij ook een beetje naar de eerdere
discussie over het toezicht. Ik weet ook nog niet hoe u het toezicht moet
inkleden, maar ik heb wel wat sympathie voor het idee van een aparte
toezichthouder met heel veel technische kennis. Maar toen zat ik ook
meteen te denken – dat zou ook voor een vaste versie van deze commissie
gelden – dat er ook heel veel sectorspecifieke kennis nodig is. Dat geldt
voor toezicht, maar bijvoorbeeld ook voor regelgeving. De techniek die
Google gebruikt om advertenties op ons te richten, is dezelfde techniek
die de politie kan gebruiken voor predictive policing. De technische kennis
die je daarvoor nodig hebt is dus min of meer hetzelfde, maar we hebben
heel andere eisen. De toezichthouder die in theorie opgetuigd kan
worden, maar ook een commissie zou de hele tijd moeten samenwerken
met sectorspecifieke commissies of toezichthouders.
De voorzitter:
Mevrouw Van Weerdenburg?
Mevrouw Van Weerdenburg (PVV):
Dank u wel. Mevrouw Huysman zei dat het geen nut heeft om vanuit de
eindgebruiker of de consument te redeneren, omdat die onmogelijk kan
verwachten wat er over tien jaar aan technologie is. Toevallig was dit
vanochtend nog even aan de orde en de Ombudsman zal dat niet met u
eens zijn, want die vond juist dat we vanuit de gebruiker moesten
redeneren. Maar dat is logisch. Hoe dan ook, tien of vijftien jaar geleden
wisten we nog niet wat een app was, terwijl dat nu toch heel handig blijkt
te zijn. De managers hebben er af en toe ook wat minder kaas van
gegeten. De heer Zuiderveen Borgesius zei net ook dat we het vooral niet
moeten laten afhangen van de grote organisaties of de grote techreuzen.
Dan denk ik: wat dan? Wat is een handige manier? Het mooiste zou
natuurlijk een soort van platform zijn met alle belanghebbenden, ook de
leken en de eindgebruikers et cetera. Maar waarom zou een techreus
daarin geïnteresseerd zijn?
Mevrouw Huysman:
Ik denk dat we niet alleen aan de techreuzen moeten denken. Voor de
techreuzen is regulering en wetgeving wel heel erg belangrijk. Zoals ik
ook al zei, onttrekken de kleinere bedrijven zich een beetje aan ons
gezichtsveld, terwijl zij al heel druk bezig zijn met het ontwikkelen van
systemen. Maar dat was niet de vraag. De vraag was: wat moeten wij
doen als wij weten dat we het niet kunnen voorspellen? Ik ben als
hoogleraar natuurlijk ook docent. Binnen onze onderzoeksgroep geven wij
ook les aan professionals en managers om bewustwording te creëren
over wat die systemen wel en niet kunnen. Terwijl we dat doen, blijkt dat
daar ontzettend behoefte aan is. Met name over AI zijn er beelden
ontstaan die niet kloppen met de werkelijkheid; hoe die zijn ontstaan is
dan weer een ander sociologisch onderwerp. Vooral ook door het
onderzoek dat wij doen, kunnen wij verhalen vertellen over ervaringen uit
de praktijk die anderen inzicht geven. Een voorbeeld van een onderzoek
dat wij doen is naar een vendor – niet zo’n grote vendor, maar een
mkb-bedrijf met 30 mensen – die AI ontwikkelt die gebruikt wordt voor
selectie van personeel. De tools die ze gebruiken zijn games en videoanalyses. Een heel groot bedrijf maakt gebruik van die tool voor
hrm-doelstellingen, met name voor de eerste selectie van personeel,

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

71

omdat dit voor hen een efficiencyslag is. Want anders moeten ze 10.000
cv’s lezen en gesprekken voeren, dus dat gaat allemaal met dat
AI-systeem.
In ons onderzoek zien we bij de ontwikkeling van die systemen al dat de
ontwikkelaars moeten interacteren met de toekomstige gebruikers. Dat is
de hrm-afdeling van die organisatie. Gek genoeg zaten wij ook in de
mindset dat de AI-ontwerpers de boosdoeners zijn en dat zij geen
rekening houden met ethische waarden en dergelijke, maar wij zagen dat
het juist de klant was die veel verder wilde gaan dan de developer. De
developer zei continu: dat kan niet volgens de ethische richtlijnen; zo ver
gaan we niet. In antwoord op vragen als «kunnen we ook selecteren op
uiterlijk?» was het antwoord dan: dat gaan we dus niet doen. De organisatie wilde geen opt-outkandidaten meer: kandidaten die hadden gezegd
dat ze niet wilden meedoen met dit systeem. Ethics by design. Daar
hadden ze een systeem voor ontwikkeld. De organisatie wilde de hele
database met mensen die niet mee wilden doen, eigenlijk gewoon
negeren. De ontwikkelaar zei: dit kan niet, dit is niet ethisch. Door dit
onderzoek zijn we in staat om alle mythes die ontstaan zijn over AI boven
tafel te krijgen. Die verhalen – het gaat vaak over verhalen om bewustwording te creëren – moeten ook verteld worden.
De heer Zuiderveen Borgesius:
Mevrouw Van Weerdenburg vroeg: waarom zouden de techreuzen
luisteren naar al die ...? Ik denk dat er op dit punt best een zware verantwoordelijkheid rust op Nederland en Europa. Als Nederland en Europa het
niet doen, worden er normen uit China en de Verenigde Staten op ons
toegepast, terwijl ze in China en ook in de Verenigde Staten toch net een
wat andere benadering hebben van mensenrechten en van normen en
waarden. Er is van alles mis met de GDPR, maar het illustreert ook dat
Europa echt wel invloed heeft op het gedrag van enorme spelers. Als wij
het niet doen, gebeurt het niet, of tenminste, dan gebeurt er wat er in
Silicon Valley en China wordt ontwikkeld, dus er ligt wel wat op ons bord.
De voorzitter:
Ik zie dat u iets wilt zeggen.
Mevrouw Huysman:
Ja, maar dan gaan wij in discussie en dat is misschien niet de bedoeling.
De voorzitter:
U mag nog één ding zeggen en dan geef ik het woord aan de heer Van
Dam.
Mevrouw Huysman:
Ik wilde even een opmerking in de kantlijn maken. Als wij in Europa de
regelgever gaan worden, dan zullen de consequenties daarvan ook zijn
dat de hoogleraren en alle studenten naar die landen gaan waar die
regelgeving niet zo stringent is, omdat daar genoeg data is om mee te
kunnen spelen en onderzoek te doen. We moeten dus ook vanuit een
onderzoeksperspectief de neveneffecten meenemen bij deze beslissing.
De voorzitter:
Misschien geef ik u toch nog het woord, als u hierover nog iets wilt
zeggen.
De heer Zuiderveen Borgesius:
Op zich is regulering niet alles verbieden, hoor. Nee, de bedoeling is
natuurlijk dat je ook medisch onderzoek en AI-onderzoek in Europa kan
doen. Ik wil niet de indruk wekken dat ik alles wil verbieden.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

72

De voorzitter:
De heer Van Dam.
De heer Van Dam (CDA):
Ik moet u zeggen dat ik u toch een beetje wil prikkelen. De vraag die voor
ons voorligt, is primair de vraag: hoe krijgt de politiek nou meer grip op
de ontwikkeling van digitalisering en technologie? Ik wil u graag prikkelen.
U hebt wel een aantal dingen over grondrechten gezegd, maar tot nu toe
heb ik vooral dingen gehoord die in uw domein spelen rond dit thema.
Dat vind ik bere-interessant, maar dat is niet direct waar wij hier voor
zitten. Wij zitten hier vooral – natuurlijk kunnen thema’s uit uw domeinen
daar heel richtinggevend in zijn – voor de vraag: wat zouden voor ons nou
aangrijpingspunten kunnen zijn? Aan welke bouten moeten we draaien
om er invloed op te hebben dat het de goede kant opgaat? De goede kant
is wat mij betreft heel erg de menselijke waarde die erin zit, de grondrechten en noem maar op. Ik zou u bij wijze van spreken willen prikkelen
om toch iets meer te zeggen dan het definitief maken van deze
commissie, wat naar de aard der zaak al niet mogelijk is. Van welke
dingen denkt u nou: dáár zouden die lui in Den Haag eens wat aan moeten
doen? Dan bedoel ik niet «geld naar de gamma-, de bèta- of de ypsilonstudies» maar meer de hoofdlijnen.
Mevrouw Huysman:
Ik ben natuurlijk geen beleidsmaker en ook geen jurist, dus ik heb niet veel
verstand van de regelgeving en de regulering. Maar ik wil nogmaals,
specifiek voor het onderwijs, benadrukken dat het heel erg belangrijk is
dat in het onderwijs veel meer nadruk wordt gelegd op de multidisciplinariteit van het onderwerp en op het feit dat AI – en digitalisering in het
algemeen, maar specifiek AI – geen monodiscipline is. Dat is iets wat echt
tussen de oren zit en wat nadelige effecten heeft voor de samenleving.
Dat betekent dat in het onderwijs, vanaf het lager onderwijs tot het
middelbaar onderwijs en met name in het universitair onderwijs, verplicht
vakken gegeven moeten worden waarmee computer scientists beter
begrijpen hoe de samenleving in elkaar zit. Dat doe je niet alleen met
filosofie en psychologie. Ze moeten ook echt inzicht krijgen in de
domeinen waarvoor ze ontwerpen. Wat houden medicijnen eigenlijk in?
Hoe werken artsen eigenlijk? En andersom dus ook ...
De heer Van Dam (CDA):
Mag ik even?
De voorzitter:
Als u mevrouw Huysman even laat uitpraten, krijgt u daarna het woord.
Mevrouw Huysman:
Andersom zouden studenten in vakgebieden als rechten, sociologie en
filosofie ook coding moeten krijgen. Ze zouden moeten leren om
systemen te ontwikkelen en ze zouden praktijkkennis moeten krijgen, want
op het moment dat je zelf systemen maakt, weet je wat zo’n systeem kan
en vooral ook wat zo’n systeem niet kan.
De heer Van Dam (CDA):
Dat begrijp ik. Daar wordt bijna een algemeen maatschappelijk belang
mee gediend. Maar kunt u dan ook de stap maken naar ons hier? Wat zou
dit in uw beleving moeten betekenen voor wat wij doen? Heeft dat
principe ook betekenis voor ons?

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

73

Mevrouw Huysman:
Dat weet ik niet. Ik neem aan dat jullie beleid gaan maken hierover en dat
dus ook onderdeel van het beleid is dat hiermee rekening wordt
gehouden bij het opstellen van een curriculum.
De voorzitter:
Wilt u ook nog iets toevoegen?
De heer Zuiderveen Borgesius:
Ik denk dat je voor beleid een indeling in twee grove categorieën kan
maken. Soms zijn we het eigenlijk wel eens over de normen, maar maakt
nieuwe technologie die moeilijker afdwingbaar. Dan moeten we investeren, bijvoorbeeld in toezichthouders. Iedereen is het er bijvoorbeeld
over eens dat je niet discrimineert op huidskleur. Als computersystemen
dat opeens verstopt doen, is dat misschien moeilijker te vinden, maar het
is wel boven tafel te krijgen. Het is dan niet de norm waar we over
twijfelen. Het is alleen moeilijker boven tafel te krijgen dat dat soort
discriminatie plaatsvindt. Dan moet je dus investeren in toezichthouders
en zo.
Maar er is ook een andere categorie problemen, waar zelfs de huidige
grondrechten nog niet altijd een antwoord op hebben. Ik heb niet genoeg
anekdotes om een trend te bewijzen, maar er zijn allerlei voorbeelden dat
bijvoorbeeld AI-systemen om prijzen vast te stellen leiden tot hogere
prijzen voor armere mensen, dat ze sociale ongelijkheid erger maken. Het
non-discriminatierecht, zoals de Algemene wet gelijke behandeling, zwijgt
over discrimineren op armoede. We kunnen niet zomaar een discriminatiegrond erbij zetten, want als je zegt dat je niet mag discrimineren op
welstand, zeggen rijke mensen dat ze geen hogere belasting meer gaan
betalen. Dat is ook niet je bedoeling. Maar dit is een voorbeeld van een
nieuwe categorie problemen waarover veel meer democratisch debat
moet zijn. Je kunt daarbij allerlei kanten op redeneren. Het zijn geen
juridisch-technische kwesties. Het zijn niet alleen maar kwesties van
toezicht, van handhaving van de normen die we al kennen. We moeten de
normen nog ontwikkelen. Het is een beetje vergelijkbaar met de
autonome wapens waar u het eerder over had. En de Tweede Kamer is
natuurlijk het juiste forum om het daar democratisch gelegitimeerd over
te hebben.
De voorzitter:
Dank u wel. Ik was wel getriggerd door het voorbeeld van de chatbot en
zo, waaruit blijkt dat AI ook een ondersteuner kan zijn. Dat lijkt me
allemaal heel prima. Maar de vraag is natuurlijk wie beslist in welk soort
zaken je gaat investeren. De medewerker van een supermarkt kan het
misschien heel prettig vinden om wat meer hulp te hebben bij het
vakkenvullen omdat het anders veel te zwaar is, terwijl het voor de
ondernemer financieel misschien het beste is om te zorgen voor minder
werknemers door een zelfscannende kassa te hebben. Op welke wijze zorg
je er nou voor, kijkend naar uw vakgebied, dat niet alleen financiële
motieven een rol spelen, maar ook kwaliteit van werk? Op welke wijze zou
dat een rol moeten spelen in de discussie over artificial intelligence?
Mevrouw Huysman:
Dat voorbeeld laat weer heel goed zien dat artificiële intelligentie een
multidisciplinair onderwerp is. Ze moeten allemaal aan de tafel. Begin
volgend jaar organiseren wij een conferentie waarbij alle disciplines
vertegenwoordigd zijn, om te proberen om tot een debat te komen.
Daarbij komen mensenrechten en computer scientists en filosofen aan de
orde. Bij dit soort beslissingen van bedrijven betekent dat dat de
toezichthouders of het bestuur van bedrijven ook multidisciplinair naar dit
onderwerp kijken, om inzicht te hebben in welke beslissingen hierover

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

74

genomen worden. Je kan het niet alleen maar loslaten op degenen die de
systemen ontwikkelen en de managers die beslissen dat die systemen
binnenkomen, maar er moet binnen organisaties ook op hoog niveau
multidisciplinair naar dit thema gekeken worden, om inzicht te krijgen in
hoe die algoritmes ontwikkeld worden en waar de data vandaan komen
en of organisaties eigenlijk wel behoefte hebben aan deze systemen.
De voorzitter:
Een tweede vraag die ik had, was over de discussie die tussen jullie
ontstond over of er hoogleraren weggaan als er dingen niet mogen of
gereguleerd worden. Geldt dit vooral voor hoogleraren? Dit argument kan
je ook hebben voor bedrijven. Maar als dit een argument is voor
bedrijven, is het lastig om hier nog regels te maken. Of is dan alles los,
omdat er ergens anders toch wel andere regelgeving wordt gemaakt die
aantrekkelijker is voor mensen? Geldt dit alleen voor hoogleraren, is het
een probleem en geldt dit ook voor bedrijven?
Mevrouw Huysman:
Ik praat nu een beetje vanuit de VSNU, met mijn onderzoekspet op.
Daarom noemde ik bedrijven, maar het is natuurlijk ook bij organisaties
zo. Kleine organisaties in het mkb kijken ook naar Amerika en Azië, want
uiteindelijk zouden ze graag opgekocht willen worden door die grotere
organisaties. Dat is toch vaak ook wel de bedoeling van die organisaties.
Ze zijn heel veel data aan het creëren; zo veel data dat ze echt interessant
worden voor de grotere organisaties en die zijn in Nederland niet zo
aanwezig.
De voorzitter:
Dan zou ik toch de vraag stellen – en daarna geef ik u het woord, meneer
Zuiderveen – of wij als wetgever toch ook enige ethische principes
moeten neerleggen. Moeten we dat nu maar gewoon opgeven en naar
huis gaan, want het is ook al bijna 5 uur? Hoe verhoudt dat zich?
Mevrouw Huysman:
Natuurlijk zijn er ethische principes, maar dat is misschien meer jouw
onderwerp.
De heer Zuiderveen Borgesius:
Ik hoop dat ik je verkeerd begreep want het feit dat er buiten Europa
dingen gebeuren die we hier niet accepteren, zou ook een argument
kunnen zijn om kinderarbeid toe te staan, maar dat bedoelde je natuurlijk
niet.
Mevrouw Huysman:
Nee, natuurlijk bedoel ik dat niet. Ik bedoel het meer als een
waarschuwing, dat we daar rekening mee moeten houden, dat we niet
alleen maar langs de kantlijn gaan staan. We moeten wat meer doen aan
onze positie bij de wet- en regelgeving, want als land of als Europa zijn wij
de instantie die de regels opstelt. Natuurlijk zijn dat hele goede regels en
is dat heel belangrijk, maar we moeten rekening houden met de neveneffecten daarvan. Dat was eigenlijk het enige wat ik wilde zeggen.
De heer Zuiderveen Borgesius:
Soms zul je hebben dat bedrijven denken: «o, hier beschermen ze
grondrechten, we gaan weg», maar die zijn niet erg sympathiek. Als je
regels aanneemt, moet je altijd mogelijke consequenties doordenken,
maar Europa is een serieuze markt. Er is van alles mis met GDPR, maar
het illustreert meerdere dingen, bijvoorbeeld dat compliance opeens kan,
als je ergens een serieuze boetedreiging op zet. Er wordt opeens heel veel
werk gedaan in het bedrijfsleven, tot in China, gewoon uit praktische

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

75

overwegingen. Bedrijven voldoen opeens aan GDPR, want het lijkt ze
handiger om met ons te handelen, dus we zijn gelukkig niet een klein
dorpje zoals bij Asterix, maar een regio met best wat consumenten. We
hebben op wereldschaal ook wel wat invloed. China zegt wel dingen,
maar die willen we niet volgen. De Amerikaanse wetgevers zwijgen over
dit soort dingen. Die normen moeten ergens vandaan komen. Ja,
natuurlijk moet je aan neveneffecten denken, maar ik denk niet dat we in
de praktijk geen invloed hebben omdat alle bedrijven naar het buitenland
kunnen.
De heer Middendorp (VVD):
Dit was een interessante discussie. Ik probeer het weer even terug te
brengen naar die commissie, als denkmodel. Volgens mij wijst mevrouw
Huysman op een afweging bij al deze keuzes. Als je unilateraal de weg
van de economische innovatie inslaat, dan kan je een hele ideologische
discussie krijgen, maar daar komen wij in dit forum niet uit, denk ik. Ik
vond dat de heer Rosenthal het wel mooi zei; dat het altijd gaat om
afwegingen, bijvoorbeeld tussen mensenrechten, normen, waarden, de
ethische kant, en de economische kant. In die zin begrijp ik wat mevrouw
Huysman zegt. Dat zou misschien ook pleiten voor andere structuren,
zoals een commissie waarin je dat soort afwegingen kan maken. Die
worden in de huidige Haagse politiek op EZ gemaakt, versus Binnenlandse Zaken, die aan die grondrechten werkt. Dat is één.
Twee: hoe ziet u dat punt eigenlijk als u kijkt naar andere beslisniveaus,
lagere bestuurslagen zoals de gemeenten et cetera en hogere zoals de
Europese Unie?
De heer Zuiderveen Borgesius:
Regels op wereldschaal zouden ideaal zijn, want dan heb je niet dat
waterbedeffect, maar dat zit er op korte termijn niet in. De Europese Unie
is een heel aardig forum, maar soms heeft Nederland ook een voortrekkersrol, bijvoorbeeld met netneutraliteit. Soms neemt Nederland regels
aan en dan doet Brussel dat na, omdat het een goed idee is. Het is ook
niet zo dat je in Den Haag moet wachten totdat de EU iets doet.
Dan de lagere regelgevers. Ja, natuurlijk, gemeenten kunnen ook heel
nuttig werk doen door eisen te stellen als ze softwaresystemen inkopen et
cetera.
Mevrouw Huysman:
Ten eerste. Nogmaals, mijn argument was dus echt om te benadrukken
dat er neveneffecten zijn waar we rekening mee moeten houden, maar
natuurlijk vind ik de ethische aspecten heel belangrijk, net als dat de GDPR
er is. Daar moeten we allemaal heel erg trots op zijn. Dat wilde ik nog
zeggen, want ik vind het vervelend als dit verkeerd begrepen wordt. Dat is
natuurlijk helemaal niet de bedoeling.
Even terug naar de VSNU-agenda van digitalisering. De bedoeling van de
VSNU met de agenda voor de digitale society is om Nederland een soort
gidsland te maken bij human centric design van technologie en met name
AI. We willen heel graag dat Nederland hét land is wat betreft mensgedreven en mensgericht onderzoek naar IT, en daar zijn alle veertien
universiteiten bij betrokken. We zouden graag op die manier gezien willen
worden in het hele wereldspel van AI en de ontwikkeling daarvan.
De voorzitter:
Zijn er bij de collega’s nog vragen?
De heer Van Dam (CDA):
Dit is precies wat ik als problematisch zie, dat ik het idee heb dat u aan
ons probeert uit te leggen wat de VSNU de komende tijd wil. Dat was bij
een eerdere presentatie van de VSNU ook. Dan denk ik: super, hartstikke

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

76

goed, maar dat is effe niet wat mij boeit, bij wijze van spreken. Wat mij
interesseert en waar wij u op bevragen, is hoe we als politiek grip krijgen
op dit onderwerp. Misschien valt dat in hoge mate samen, maar daar zat
mijn ongemak en ik vind het wel zo fris om dat even te melden, want nu
bent u er nog en kunt er misschien nog wat mee.
Ik heb in dat kader nog twee vragen die mij bezighouden. Mevrouw
Huysman zei dat je het niet alleen een technisch ding of een waardeding
moet laten zijn. Mag ik een heel concreet voorbeeld noemen? Ik las een
tijdje terug een verhaal van een pedagoog dat je de basisschool zo
ICT-luw mogelijk moet houden, want mensen leren in die jaren de
empathische kant van het menszijn. Die leer je niet door op een
toetsenbord te rammen, maar door op je medekleuter te rammen, als ik
het zo plastisch mag inbrengen. Daar leer je ruziemaken en dingen weer
goedmaken en dat soort dingen, dus doe die basisschool ICT-luw. Ik had
het er met mijn vrouw over, die in het basisonderwijs actief is, en zij zei:
hoe moet het dan met mijn digibord? Dat bedoel ik niet. Doe allemaal een
digibord, maar doe niet al die iPad-scholen op de basisschool. Bedoelt u
dat ook in die zin? Zouden we daar iets mee kunnen?
En dan een vraag aan meneer Zuiderveen Borgesius die ik vanmorgen
ook aan de Ombudsman heb gesteld. Zouden wij onze Grondwet
misschien eens moeten aanvullen met naast de klassieke en de sociale
grondrechten ook een leuk hoofdstukje over digitale grondrechten? Een
voorbeeld is het digitale grondrecht dat ik hoe vaak een algoritme ook iets
beslist heeft, als ik het niet snap, ik aan het eind toch gewoon een mens
mag zien om het aan te vragen en er ruzie mee te maken.
De voorzitter:
Rammen, ruziemaken, zo kennen we de heer Van Dam helemaal niet, kan
ik zeggen. Nee, helemaal niet.
De heer Zuiderveen Borgesius:
Een mooie gedachte, maar ik denk dat we toch moeten proberen om
grondrechten zo open te formuleren dat zij toepasbaar zijn op het
alledaagse leven en op de digitale wereld. We hebben al een recht op een
fair trial en op eerlijke bestuurlijke procedures. Vooralsnog ben ik meer
geneigd om het recht op menselijke tussenkomst daarin te lezen. Het
recht op privacy is uitgevonden naar aanleiding van nieuwe technologie
en wordt ook door rechters de hele tijd opgerekt en aangepast. In de jaren
zeventig hebben we het recht op bescherming van persoonsgegevens
uitgevonden, dus het kan zeker en het moet soms ook, het aanpassen van
grondrechten aan technologie. Dan is het nuttig om het zo te formuleren
dat het meteen op de hele maatschappij van toepassing is. Voor nu zie ik
nog niet direct reden voor nieuwe grondrechten, maar dat kan op de
middellange termijn wel weer nodig zijn.
De voorzitter:
Ik zit zelf met een recht waar ik veel sympathie voor heb, namelijk het
recht om niet gemanipuleerd te worden. Dan gaat het erom dat je, als er
sprake is van manipulatie, niet weet dat je gepiepeld wordt. Bij advertenties word je natuurlijk gemanipuleerd, en dat weten we ook. Dan kan je
met kritisch burgerschap zelf nog denken: het is heus niet zo dat het leven
er aanzienlijk beter uit gaat zien als je dat artikel koopt. Daar kan je nog
kritische reflectie op hebben. Er zijn ook zaken waarbij mensen niet weten
dat zij gemanipuleerd worden, zoals bij Cambridge Analytica, dat al aan
de orde kwam. Is dat een recht dat al ergens anders ondergebracht is in
uw ogen?
De heer Zuiderveen Borgesius:
Nee, eigenlijk niet. Een goed punt. Het Mensenrechtenhof in Straatsburg
leest bijna een recht op autonomie in het grondrecht op privacy, dus dat

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

77

komt in de buurt, maar dat zijn nog geen grondrechten. Consumentenrecht is grotendeels het recht om niet gemanipuleerd te worden. Er zijn
regels die oneerlijke handelspraktijken verbieden en regels die van
bepaalde manieren van adverteren zeggen dat het niet mag, maar dat
heeft nog niet de status van grondrecht.
Misschien klonk ik net iets te somber. Het is zeker nuttig om nu al na te
denken over mogelijke nieuwe grondrechten, maar het is toch een laag
van regelgeving die je zo probeert te formuleren dat het niet iedere vijf
jaar wordt aangepast of zo. Wat u schetst, het recht om niet gemanipuleerd te worden, komt in de buurt van een soort recht op autonomie.
Juristen zien altijd overal problemen, dus die zie ik nu ook opdoemen,
zoals: hoe kader je het af? Maar ik vind het wel een interessante gedachte.
De voorzitter:
Nog even de heer Van Dam en dan geef ik echt het woord aan mevrouw
Huysman.
De heer Van Dam (CDA):
Er zit een kleine bias in die opmerking over juristen. Ik ben ook jurist, maar
ik ben uitermate optimistisch. Zou het niet een enorme meerwaarde
hebben om dat wél een grondrechtendiscussie te laten zijn, om een
nieuwe klaroenstoot te geven welke richting we met z’n allen op willen
gaan, om te voorkomen dat we regelgeving op allemaal detailpuntjes
gaan organiseren, ook om innovatie te stoppen?
De heer Zuiderveen Borgesius:
Ik moet toegeven dat dit ook een mooie gedachte is. De afgelopen vijf jaar
zijn er heel enthousiast in allerlei fora mooie overarching AI-ethics
beginselen geformuleerd. Je moet het overal wel mee eens zijn: menselijke waarde is belangrijk, autonomie is belangrijk, non-discriminatie is
belangrijk. En dat vind ik ook echt allemaal, maar op een gegeven
moment zullen we ook meer lagere regels dan grondrechten nodig
hebben, waar bedrijven echt iets aan hebben om te weten wat ze precies
moeten doen en waar burgers en consumenten mee naar de rechter
kunnen stappen. Beide niveaus zijn nodig. Ja, mooi idee, maar we moeten
niet afgeleid worden van de kleinere regels die mensen juist houvast
geven.
De voorzitter:
Hartelijk dank. Dan geef ik het woord aan mevrouw Huysman. Ik denk dat
we bijna aan het eind zijn gekomen, maar u hebt nog de gelegenheid om
alles te zeggen wat u wilt zeggen.
Mevrouw Huysman:
Ik moet nog antwoord geven op een vraag die mij gesteld werd, dus dat
ga ik netjes doen. De vraag was of we al moeten beginnen bij de
basisschool. Natuurlijk moeten we daar beginnen, alhoewel de kinderen
op de basisschool al behoorlijk digital savvy zijn. Het is belangrijk dat we
burgers gaan vormen die kritisch zijn en die zich bewust zijn van wat die
technologie kan doen, dat er fake news is, of dat er geen fake news is. Ze
moeten begrijpen wat die AI-systemen kunnen doen. Ze moeten ook wel
een passie gaan ontwikkelen voor technologie. Vooral in de vormende
jaren gaat dat zich uitsplitsen. Wat ik zie – en ik ben niet de enige die dat
ziet – is dat veel meisjes er toch voor kiezen om geen technische kant te
kiezen, omdat techniek benaderd wordt als een monodiscipline. Als het
benaderd wordt als een multidiscipline, dan zien zij ook meer in die
technologie en krijgen ze daar ook passie voor en met passie heb je de
hele wereld. Ik denk dus dat het al begint bij de basisschool en dat het
doortrippelt naar universitair niveau. Ik denk dat de overheid echt een rol
speelt bij die multidisciplinariteit.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

78

De voorzitter:
Heel hartelijk dank. Dat zijn mooie laatste woorden: met passie heb je de
hele wereld. Ik denk dat we daarmee de derde kennisbijeenkomst van de
tijdelijke commissie Digitale toekomst kunnen afsluiten. Wij gaan ons
beraden op wat wij de afgelopen drie bijeenkomsten hebben geleerd,
maar voor Chris van Dam is het helemaal helder. Dat vind ik ook weer een
vertrouwenwekkende afsluiting van deze dag. Hartelijk dank.
Sluiting 17.04 uur.

Tweede Kamer, vergaderjaar 2019–2020, 35 229, nr. 4

79