Verslag van een commissiedebat, gehouden op 24 november 2021, over Telecomraad (formeel) d.d. 3 december 2021
Staten-Generaal — Kamerstuk Overig
Datum: 2022-01-18 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2021-2022
 Tweede Kamer der Staten-Generaal
 2
 Kamerstukken
 
 
 
 21 501-33
 Raad voor Vervoer, Telecommunicatie en Energie
 
 
 Nr. 898
 VERSLAG VAN EEN COMMISSIEDEBAT
 Vastgesteld 14 december 2021
 
 
 
 
 De vaste commissie voor Digitale Zaken heeft op 24 november 2021 overleg gevoerd met de heer Blok, Minister van Economische Zaken en Klimaat, over:
 
 
 –
 
 de brief van de Minister van Economische Zaken en Klimaat d.d. 18 november 2021 inzake geannoteerde agenda formele Telecomraad 3 december 2021 (Kamerstuk 
 
 21 501-33, nr. 885
 
 );
 
 
 
 –
 
 de brief van de Minister van Economische Zaken en Klimaat d.d. 12 oktober 2021 inzake antwoorden op vragen commissie over onder andere de informele Telecomraad d.d. 14 oktober 2021 (Kamerstuk 
 
 21 501-33, nr. 877
 
 );
 
 
 
 –
 
 de brief van de Minister van Economische Zaken en Klimaat d.d. 15 oktober 2021 inzake antwoorden op vragen commissie inzake fiche: Verordening betreffende kunstmatige intelligentie (Kamerstuk 
 
 22 112, nr. 3221
 
 );
 
 
 
 –
 
 de brief van de Minister van Economische Zaken en Klimaat d.d. 15 oktober 2021 inzake reactie op verzoek commissie over de brief van het Rathenau Instituut inzake «Zeven aandachtspunten voor de AI-verordening» van Rathenau Instituut (Kamerstuk 
 
 22 112, nr. 3222
 
 );
 
 
 
 –
 
 de brief van de Minister voor Rechtsbescherming d.d. 18 oktober 2021 inzake kabinetsreactie op het bericht in de Volkskrant over de EDPB/EDPS-opinie betreffende de AI-verordening (Kamerstukken 
 
 32 761 en 22 112, nr. 198
 
 );
 
 
 
 –
 
 de brief van de Minister van Buitenlandse Zaken d.d. 29 oktober 2021 inzake Fiche: Beleidsprogramma 2030: Weg naar een Digitaal Decennium (Kamerstuk 
 
 22 112, nr. 3238
 
 );
 
 
 
 –
 
 de brief van de Minister van Economische Zaken en Klimaat d.d. 11 november 2021 inzake verslag informele Telecomraad VTC 14 oktober 2021 (Kamerstuk 
 
 21 501-33, nr. 882
 
 ).
 
 
 
 
 Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk verslag uit.
 
 
 
 
 De fungerend voorzitter van de commissie,
 
 Leijten
 
 
 
 De griffier van de commissie,
 
 Boeve
 
 
 
 
 
 
 
 
 
 Voorzitter: Van Weerdenburg
 
 
 Griffier: Van Tilburg
 
 
 Aanwezig zijn vier leden der Kamer, te weten: Dassen, Van Ginneken, Rajkowski en Van Weerdenburg,
 en de heer Blok, Minister van Economische Zaken en Klimaat.
 Aanvang 10.03 uur.
 
 De voorzitter:
 Goedemorgen allemaal. Ik open deze vergadering van de vaste commissie voor Digitale Zaken. Aan de orde is vandaag een commissiedebat over de formele Telecomraad van 3 december 2021. Ik heet welkom de Minister van EZK, de heer Blok, evenals de leden: mevrouw Rajkowski namens de VVD en mevrouw Van Ginneken namens D66. Mijn naam is Danai van Weerdenburg. Ik ben woordvoerder namens de PVV en vandaag fungerend voorzitter.
 Wij hebben twee uurtjes de tijd voor dit debat. De spreektijd hebben we vastgesteld op drie minuten. Ik wil niet gelijk al de interrupties beperken. We gaan even kijken hoe het loopt en indien nodig kan ik dat later nog doen. De heer Dassen van Volt loopt nog binnen. Welkom ook. Ik kijk even naar de griffier of ik nog iets ben vergeten. Laten we afspreken dat de spreker die aan het woord is op het moment dat de openingsbel voor de plenaire vergadering begint, eventjes pauzeert, want dat duurt een minuut.
 Dan geef ik de eerste spreker het woord en dat is mevrouw Van Ginneken namens D66.
 
 
 Mevrouw Van Ginneken (D66):
 Dank voorzitter en dank aan de Minister dat hij wederom bij ons is. Ik focus mijn inbreng op de AI-verordening, want het reguleren van kunstmatige intelligentie is cruciaal. AI-systemen hebben een enorme impact op onze levens, zowel qua mogelijkheden alsook qua schaduwzijden. Zelflerende algoritmes bij de Belastingdienst zagen vooral mensen met lagere inkomens als fraudeverdachten. Zelfrijdende auto's bleken mensen van kleur niet zo goed te herkennen. Dat zijn twee potentieel zeer ingrijpende fouten. Maar ook op maatschappelijk niveau zijn er risico's, deepfakes bijvoorbeeld, die het vertrouwen in elkaar en de overheid bedreigen. D66 wil menselijke en transparante AI, waarbij de fundamentele rechten van burgers beschermd zijn.
 Voorzitter. Allereerst wil ik het hebben over gezichtsherkenning. D66 maakt zich zorgen over het gebruik van gezichtsherkenning zonder strenge wettelijke waarborgen, want mensen hebben het recht onbespied te zijn. Desondanks maakt onze politie er gebruik van, ook zonder wettelijke basis. D66 is blij dat gezichtsherkenning nu ook verboden wordt als het in een kort tijdsbestek gebeurt, dus niet alleen realtime. Dat dicht wat ons betreft een belangrijke maas in de verordening, maar het huidige voorstel staat gezichtsherkenning toe in gevallen van ernstige criminaliteit. Die definitie is veel te ruim. Dat leidt tot een paar vragen. Wat verstaat de Minister onder ernstige criminaliteit? Hoe voorkomen we function creep? Gaat de Minister zich inzetten voor een smallere en specifiekere afbakening en zal er een verbod op gezichtsherkenning blijven bestaan zolang er geen goede waarborgen zijn?
 Voorzitter. Ten tweede vraag ik aandacht voor kwetsbare groepen. D66 is tevreden dat de definitie van kwetsbare groepen in artikel 5 van de verordening wordt uitgebreid met groepen die economisch en sociaal kwetsbaar zijn. Maar ook hier is de definitie vaag. Welke groepen vallen hieronder? Horen vrouwen, lhbti'ers en mensen met een migratieachtergrond daar ook bij? Deze groepen zijn namelijk disproportioneel vaak slachtoffer van schade door AI-systemen.
 Voorzitter. Tot slot wil ik het hebben over transparantie, want pas als we zeker weten dat algoritmes de mensenrechten respecteren, zouden we hoogrisicosystemen, zoals de verordening ze noemt, ook mogen toestaan. Wat mij betreft rechtvaardigt dat een verplichte mensenrechtentoets voordat zo'n systeem in gebruik wordt genomen. Toch lees ik dat niet in de voorschriften terug. Zou zo'n toets, is mijn vraag aan de Minister, niet onderdeel van de verordening moeten uitmaken? Zou onze eigen overheid dergelijke toetsen niet nu al moeten gaan uitvoeren? Het goede voorbeeld is wel op z'n plaats, gezien de recente missers met discriminerende AI bij fraudebestrijding.
 Het is belangrijk om te weten dat de ingrijpende algoritmes die de overheid gebruikt, in orde zijn. D66 heeft samen met het CDA weleens gepleit voor een algoritmewaakhond. Verschillende gemeentes zoals Amsterdam, Utrecht en Den Haag werken aan algoritmeregisters om burgers en experts dit inzicht te geven. Dat is heel goed, maar mijn zorg is dat hier vele wielen opnieuw worden uitgevonden. Ziet de Minister noodzaak om deze registers te harmoniseren? En wanneer komt er een register voor de rijksoverheid? De motie-Klaver is immers al in januari aangenomen.
 Tot slot, want ik zie de voorzitter al neigen naar ingrijpen. Kan de Minister al zeggen wie de toezichthouder wordt voor deze AI-verordening? Ik kijk uit naar de beantwoording door de Minister.
 
 
 De voorzitter:
 Dank u wel, mevrouw Van Ginneken. Dan geef ik nu het woord aan mevrouw Rajkowski namens de VVD.
 
 
 Mevrouw Rajkowski (VVD):
 Dank, voorzitter. We maken ons zorgen dat de computer heel slim wordt en op een gegeven moment de wereld zal overnemen. De werkelijkheid is echter: de computer is eigenlijk ontzettend dom, maar heeft de wereld al overgenomen. Deze woorden zijn van AI-hoogleraar Domingos van de University of Washington. En hij heeft gelijk: AI heeft op vele manieren Nederland al overgenomen.
 Algoritmes spelen een steeds grotere rol in onze samenleving. Ze kunnen helpen bij het constateren van ziektes en fraude, het oppakken van criminelen of het voorkomen van grote ongelukken. Ze kunnen heel simpele of juist heel complexe taken van ons overnemen. Dit biedt tal van mogelijkheden. Maar algoritmen kunnen, al dan niet onbedoeld, leiden tot willekeur of onrechtvaardigheid, bijvoorbeeld wanneer jij meer moet betalen voor hetzelfde product dan je buren, de prijs van een medicijn ineens stijgt omdat er voorspeld wordt dat jij het wellicht nodig hebt, of als je onterecht als fraudeur wordt aangewezen. Ook in de digitale wereld moeten grondrechten geborgd zijn en moet de overheid haar dienstverlening op orde hebben.
 Kunstmatige intelligentie is de wereld aan het vormen. Vladimir Poetin zei al in 2017 dat degene die leider zou worden op AI, de leider van de wereld wordt. Over het Europese voorstel over kunstmatige intelligentie wil ik het volgende zeggen. De VVD-fractie is het ermee eens dat er voor de hoogrisicosystemen striktere verplichtingen gelden om zo de veiligheid, gezondheid en fundamentele rechten te beschermen. De deepfaketechnologie is wat ons betreft een hoogrisicosysteem en moet in de verordening ook op deze manier geclassificeerd worden. We wachten het onderzoek van de Universiteit van Tilburg dan ook met spanning af. De VVD heeft eerder haar zorgen geuit over de extra administratieve lasten voor het mkb. Het kabinet antwoordde dat er een mkb-toets komt. Kan het kabinet toezeggen dat deze met de Kamer gedeeld gaat worden?
 Voorzitter. Daarnaast wil ik het met u hebben over de uitrol van 5G. 5G is op dit moment voor een stukje in gebruik. Mensen zien wel het icoontje op hun telefoon, maar om als Nederland echt te kunnen profiteren van de mogelijkheden die 5G biedt, moet er nog een groot deel van het netwerk in gebruik genomen worden en dus ook geveild worden onder telecomaanbieders. Elke vertraging van dit proces is een potentiële aderlating voor onze Nederlandse economie. Daarom zou ik de Minister willen vragen om haast te maken langs de volgende drie lijnen. 1. Stel die adviescommissie zo snel mogelijk in, het liefst nog voor het kerstreces. Wacht geen dag te lang. 2. Laat de adviescommissie uiterlijk 1 april 2022 een advies uitbrengen. 3. Zorg dat het besluit over het wijzigen van het NFP uiterlijk 1 augustus 2022 gereed is. Ik weet dat dit krap is, maar als we aan deze voorwaarden voldoen, kan de veiling begin 2023 van start gaan en kan Nederland nog voor de zomer van 2023 eindelijk een volwaardig 5G-netwerk hebben.
 Dank u wel.
 
 
 De voorzitter:
 Dank u wel, mevrouw Rajkowski. Dan geef ik nu het woord aan de heer Dassen namens Volt.
 
 
 De heer Dassen (Volt):
 Dank u wel, voorzitter. In het fiche over de weg naar het digitale decennium noemt de Minister twee sporen: het inzetten op concurrentie, innovatie en verdienvermogen en het ordenen van fundamenten voor digitalisering. Daarbij moet bovendien rekening gehouden worden met publieke waarden en mensenrechten. Ik vraag de Minister hoe deze verschillende doelstellingen zich tot elkaar verhouden en hoe deze elkaar completeren. Welke prioriteiten stelt de Minister daarin?
 Voorzitter. Dan iets anders, iets wat ik blijf herhalen. Ze zijn nog steeds relevant en ik zag ze ook weer terugkomen: de RRF-gelden. Ik vraag me af hoe de concrete plannen eruitzien die op het gebied van digitalisering ontwikkeld worden. Hoe zijn deze tot stand gekomen en zijn decentrale overheden daarbij geconsulteerd? Daartoe is eerder opgeroepen in een aangenomen motie. Hoe staat het daarmee?
 Voorzitter. Ik las over een kleine strubbeling tussen Financiën en Economische Zaken over de RRF-gelden. Ik vroeg me af of de Minister daar meer duiding over kan geven. Kan hij mij garanderen dat we niet met oude bonnetjes de RRF-gelden gaan opmaken?
 Voorzitter. Dan kunstmatige intelligentie. Omwille van de tijd sluit ik mij aan bij de vragen van mijn collega's. Het kabinet gaat niet in op een algeheel verbod op AI-systemen die individuen clusteren naargelang hun etniciteit, gender, politieke of seksuele oriëntatie of andere discriminatiegronden. Kan de Minister uitleggen wanneer het gebruik van dergelijke systemen wel mogelijk zou moeten zijn? In welke concrete gevallen is dat? Ik vind me dat nog lastig voor te stellen. Kan de Minister uitleggen in welke concrete gevallen hij het gebruik van AI voor geautomatiseerde herkenning van menselijke kenmerken in de publieke ruimte zinvol acht?
 Voorzitter. Als laatste over het informele lunchdebat, waarin de Minister langs de lijnen van de Nederlandse positionpaper zal spreken over de Data Act. Hoe moet de Data Act ervoor zorgen dat start-ups en mkb eerlijke toegang krijgen tot gegevens en eerlijk gebruik kunnen maken van die gegevens? Hoe kunnen eindgebruikers van bepaalde producten en diensten toegang krijgen tot de gegevens die worden geproduceerd? Hoe ziet dat er concreet uit volgens de Minister? Hoe moet de Data Act vendor lock-in tegengaan door dataportabiliteit te versterken? Welke concrete regels of maatregelen ziet de Minister voor zich? Dan als laatste begrijp ik dat er toch een kleine draai is geweest van Nederland in de triloogfase. Wil de Minister daar nog op reflecteren?
 
 
 Minister Blok:
 Ik heb geen idee wat u bedoelt.
 
 
 De heer Dassen (Volt):
 Ik doelde op een draai in de Data Governance Act, waar we het vorige keer over hadden.
 
 
 Minister Blok:
 Ik begrijp het nog steeds niet.
 
 
 De heer Dassen (Volt):
 We hebben de vorige keer bij de behandeling van de begroting van Economische Zaken een kort debat gevoerd over de Data Governance Act en over het belang van een gelijk speelveld voor mkb-bedrijven en big tech. Toen gaf u aan dat we in de triloogfase zaten en niet meer tot een verandering van standpunt konden komen. Nu begrijp ik dat er toch een verandering van standpunt is geweest. Dus ik vroeg me af of u daar wellicht nog op kunt reflecteren.
 
 
 De voorzitter:
 De Minister gaat het uitzoeken. Dank u wel, meneer Dassen. Ik vraag mevrouw Van Ginneken om tijdelijk het voorzitterschap over te nemen, zodat ik mijn inbreng namens de PVV-fractie kan doen.
 
 
 Voorzitter: Van Ginneken
 
 
 De voorzitter:
 Dat doe ik graag. Dan geef ik bij dezen het woord aan mevrouw Van Weerdenburg, namens de PVV.
 
 
 Mevrouw Van Weerdenburg (PVV):
 Dank u wel, voorzitter. Een aantal vragen is al gesteld. Kortheidshalve zal ik me daarom daarbij aansluiten. Mevrouw Van Ginneken had vragen over de definitie van ernstige criminaliteit. Die deel ik. En ook hoe je function creep kunt voorkomen. Ik hoor de Minister ook graag over een waakhond of een register voor algoritmes. En de PVV had inderdaad ook de vraag wie beoogd toezichthouder is voor deze verordening. Ik wil me ook aansluiten bij de zorgen van mevrouw Rajkowski over het mkb. Het is natuurlijk een heel mooi streven om die verordening lastenluw te maken voor het mkb, maar de ervaring leert dat dat redelijk onhaalbaar is, omdat er met 27 landen helaas heel vaak een redelijk onleesbare tekst uitkomt. Dus ik hoor graag van de Minister wat hij allemaal nog kan doen om inderdaad die lastenluwheid te bereiken. Wat de PVV ook zorgelijk vindt, is dat de volledige impact op het mkb nog heel lastig te beoordelen is. Daar zou ik nog wel wat verduidelijking over willen.
 Als algemene opmerking wil ik graag kwijt dat ik het wel problematisch vind om mijn controlerende taak te kunnen doen als volksvertegenwoordiger als, op het moment dat wij een debat voeren, er nog geen duidelijkheid is over bepaalde cruciale aspecten van ontwerpvoorstellen, zoals de beoogde reikwijdte, of zelfs basisdefinities waar voorstellen überhaupt over gaan, zoals bij de AI Act al in een vroeg stadium al onduidelijk was over welke AI-systemen de verordening gaat. Ik begrijp dat het lastig is om met 27 landen tot een compromis te komen, maar dat is natuurlijk de handicap van alle EU-voorstellen. Ik zou graag meegeven aan de Minister dat hij wel wat vaker in een vroeg stadium met de vuist op tafel mag slaan in Brussel en mag zeggen: of we doen het goed of we doen het niet. Want op deze manier zitten we constant vragen te stellen over verduidelijking van begrippen en definities. De Minister gaat elke keer braaf om opheldering vragen in Brussel, maar de tijd tikt ondertussen door. Van meer grip op de totstandkoming van deze voorstellen is ondertussen geen sprake. Dat is jammer. Het zou mooi zijn als we hier vandaag een manier overeen zouden kunnen komen waarop we een betere controle kunnen uitoefenen. Wat mij betreft in ieder geval niet voor herhaling vatbaar is dat we nu hier een oordeel moeten geven of de Minister moeten bevragen over conceptteksten van artikelen die nog niet eens bekend zijn gemaakt. Kortom, de vraag is hoe wij dit kunnen verbeteren.
 Ik kijk eventjes naar de tijd, want ik moet me daar ook aan houden. Nog een paar korte puntjes over de AI Act. Uitsluiting van nationale veiligheid. Dat is volgens mij sowieso een exclusieve competentie van lidstaten. Hoezo was dat nodig om dat hierin uit te sluiten? Over de rondetafelsessies die ook op de planning stonden om een zo breed gedragen en een zo volledig mogelijk geïnformeerd standpunt over de verordening in te kunnen nemen: dat zou dit jaar nog plaatsvinden. Is daar al meer duidelijkheid over of zijn die sessies al geweest?
 Dank u wel.
 
 
 De voorzitter:
 Dank, mevrouw Van Weerdenburg. Ik heb u iets meer seconden gegeven, omdat u zo heel mooi mijn fractievoorzitter citeerde. Dank daarvoor. Dan geef ik nu het voorzitterschap terug aan u.
 
 
 Voorzitter: Van Weerdenburg
 
 
 De voorzitter:
 Dank u wel. Ik kijk even naar de Minister hoelang hij nodig heeft. Een kwartier, begrijp ik. Dan schors ik voor een kwartier.
 
 De vergadering wordt van 10.19 uur tot 10.34 uur geschorst.
 
 Minister Blok:
 Voorzitter. Ik heb één groot blok AI en doe daarna de rest. Dat was ook wel een beetje de verhouding in de vragen van de Kamer.
 
 
 De voorzitter:
 Oké, prima. Dan mag u beginnen. Ik zal de leden in de gaten houden. Op het moment dat een van u een vraag wil stellen, geeft u maar een seintje. De Minister.
 
 
 Minister Blok:
 Dank u wel, voorzitter. Ik denk dat ik begin met de procedure en de onvrede die ik proefde bij mevrouw Van Weerdenburg. Er werd gesproken over een draai, maar ik moest daar echt even naar zoeken. Ik ben vast weleens gedraaid in mijn leven en in mijn politieke leven, maar ik begreep gewoon even niet waar de vraag over ging. Nu denk ik «m toch te begrijpen.
 Net zoals in het vorige overleg dat wij in deze samenstelling hadden, dat ging over de Digital Markets Act en de Digital Services Act, begin ik met de constatering dat ik dit bij uitstek onderwerpen vind om Europees te regelen. Die moet je niet van land tot land regelen. Dat is zinloos en verwarrend, ongeacht of dat nu is voor mkb'ers, voor het publiek dat ermee om moet gaan of voor grote bedrijven. Ik vind dat je dit juist Europees moet doen. Vervolgens is het nadeel van dingen Europees regelen – mevrouw Van Weerdenburg wees daar scherp op – dat je het met 27 landen eens moet worden. Dat gebeurt dan ook nog in een getrapte procedure. Eerst komt er een voorstel van de Commissie. Dat staat open voor commentaar, wat ook goed is. Vervolgens onderhandelen landen daarover, waarbij ze gecontroleerd worden door hun parlement. Ook in vorige rollen heb ik het Nederlandse parlement er vaak mee gecomplimenteerd dat die rol hier serieus wordt genomen. Het is aan ieder land zelf, maar er zijn een heleboel landen die ... Kijk, het meest extreme voorbeeld was, denk ik, de brexit. Dat was een grote beslissing. Er was één land waar het parlement terugkwam in het kerstreces om over het brexitverdrag te spreken, en dat was Nederland. Dat even ter illustratie. Het Nederlandse parlement is zeer betrokken.
 Tegen die achtergrond begrijp ik ook wel de ergernis van mevrouw Van Weerdenburg. Zij zegt: wij geven input mee aan Onze Minister, als een van de 27. Hij brengt het daar in, maar wat gebeurt ermee? Voor in ieder geval de AI-verordening geldt een gekwalificeerde meerderheid. Het werk van Nederlandse bewindslieden in Europa is altijd om coalities te vormen. Daar zijn we over het algemeen echt wel succesvol in. Maar als je coalitie niet groot genoeg is, sneeuwt je mening onder. Dat is helaas de werkelijkheid. Een gekwalificeerde meerderheid betekent dat je het ook niet kunt tegenhouden, nog even los van de vraag hoe verstandig het is om in je eentje dingen tegen te willen houden. Een enkele keer kan dat noodzakelijk zijn, maar hierbij geldt die optie überhaupt niet, want het gaat om een gekwalificeerde meerderheid. Aan de andere kant moeten we het ook niet al te somber maken, want wij zetten met onze mensen in Brussel en Den Haag heel vroeg in op deze processen. Daarom kunnen we gelukkig ook vaak rapporteren dat we wel degelijk dingen binnenhalen. Maar ik geef u onmiddellijk toe: niet alles. Er zijn onderdelen waarop Nederland, hoewel vaak met Duitsland, toch vaak in een hele kleine coalitie striktere wensen heeft dan andere landen. Een voorbeeld van zo'n onderdeel is aandacht voor privacy, wat heel cruciaal is bij al deze onderwerpen. Dat moeten we maar even als feit constateren: er zijn nationale verschillen. Die gelden juist op dat onderdeel. Gezien de vraag van mevrouw Van Weerdenburg was het onvermijdelijk om deze brede achtergrond te schetsen.
 Ik pak meteen de draai of het misverstand mee waar de heer Dassen het over had. Dat heeft te maken met de procedure. Ik heb bij de begroting aangegeven, en dat doe ik nu nog steeds, dat Nederland als land niet meer aan zet is omdat dat voorstel in de triloogfase is. Dat zijn we hoogstens als het voorzitterschap bij ons terugkomt, zodat we een nieuw mandaat kunnen vragen. Dat mandaat is dan overigens geen mandaat aan Nederland, maar aan alle lidstaten. Er is een reële kans dat die vraag terugkomt, maar die vraag is er nu niet. Misschien komt er wel of niet een draai; dat weet ik niet. Maar op dit moment is er de triloogfase, dus blijft mijn stelling, net als bij de begroting, dat ik niet zelf aan tafel zit en dat ik pas weer aan tafel kom als een van de 27 op het moment dat er een vraag om wijziging van het mandaat komt. Allemaal heel procedureel, maar wel van belang.
 Ik ga in op de AI-verordening. Ook daar toch een algemene, ik zou haast willen zeggen filosofische beschouwing. Iedereen constateert vandaag terecht hoe groot de impact van AI kan zijn en op sommige terreinen al is, wat overigens ook terreinen zijn waar hoog gestelde verwachtingen zijn. Iemand noemde het voorbeeld van zelfstandig rijdende auto's. Dat lijkt me eerlijk gezegd geweldig, maar ze komen er maar niet, omdat de techniek zich onvoldoende ontwikkelt. Overigens had dat onderwerp recent de aandacht van de WRR, die er een uitgebreid rapport over publiceerde, dat ik ook in ontvangst mocht nemen. Het kabinet gaat daar bijna kabinetsbreed op reageren, omdat het heel veel beleidsterreinen raakt. Waar je bij AI tegenaan loopt, is dat we op een bewegend doel schieten. We weten ongeveer waar we het over hebben, maar een precieze afbakening is best ingewikkeld. Ook in het debat kwamen de termen algoritmes en AI aan de orde. Algoritmes bestaan al heel lang en zijn niet allemaal AI. Een plat voorbeeld: volgens mij kan iedereen op internet een modelletje vinden waarmee hij kan berekenen hoeveel hij kan lenen voor een huis. Dat is een algoritme: daar stop je je inkomen in en dan rolt er een sommetje uit, zonder garantie, hoeveel je ongeveer kunt lenen. Heel veel bedrijven en ook de overheid hebben intern dat soort van systemen. Bij AI wordt over het algemeen – maar daar geef ik een wat oneerbiedige definitie – daaraan toegevoegd dat het autonoom en zelflerend moet zijn. Maar een register voor alle algoritmes wordt denk ik onwerkbaar. Volgens mij zitten de behoefte aan inkadering en de zorgen heel erg bij autonoom/zelflerend. Daar is ook weer een wat bredere beschouwing voor nodig.
 Mevrouw Van Ginneken vroeg naar een algemene mensenrechtentoets in de AI-verordening. Natuurlijk mag je binnen de Europese Unie of Nederland niets doen of nalaten wat mensenrechten schendt. En om deze heel brede notie behapbaar te maken, is in de AI-verordening die onderverdeling gemaakt in hoog risico met de zwaarste toetsen op dit gebied, laag risico en zelfs een niet te toetsen categorie. Dat lijkt mij ook de enige werkbare manier. Waarbij blijft staan dat niemand iets mag doen of ontwikkelen dat in strijd handelt met mensenrechten. Specifiek voor de Nederlandse situatie, want dat was de vervolgvraag van mevrouw Van Ginneken: ik denk dat het niet voor de hand ligt om nationaal daaraan andere toetsen toe te voegen. Ik vind het heel verstandig om dit Europees te regelen. Dan denk ik dat we daarin consistent moeten redeneren. Punt één om het behapbaar te houden voor Nederlandse consumenten en bedrijven. We hadden in het vorige debat een mooie discussie over een hypothetisch land: Chocolakije. Ook hier haal ik dat voorbeeld maar even uit de kast. Als wij additionele toetsen los mogen laten, dan mag Chocolakije dat ook. Dan moet je ook even de vraag stellen of je ook zeker weet dat je dat wilt.
 
 
 De voorzitter:
 Een interruptie van mevrouw Van Ginneken.
 
 
 Mevrouw Van Ginneken (D66):
 Dank, voorzitter. De vorige keer dat u Chocolakije ter sprake bracht, reisde ik met u mee. Dat ben ik deze keer niet van plan, omdat ik toch even stil wil staan bij de mensenrechtentoets. U zegt terecht dat het niet is toegestaan als dit soort systemen mensenrechten met voeten treedt. Maar mijn hele punt was nou juist dat we dat nu in de praktijk vaak te laat, achteraf merken als deze systemen al enige tijd in gebruik zijn en er slachtoffers gevallen zijn. Ik verwijs nog maar eens naar de toeslagenaffaire. Mijn pleidooi was nou juist om voorafgaand aan de ingebruikname van zo'n systeem zo'n toets uit te voeren. Dat kan wat mij betreft best selectief, dus alleen de hoogrisicosystemen en dus niet te categorisch. Dus wilt u daar nog even op reflecteren? Ik snap dat u zegt: als we dit in Nederland verplicht gaan stellen, gaan we afwijken en dan worden we een soort Chocolakije. Maar je kunt als overheid daarin ook zelf het goede voorbeeld geven, zonder het verplicht te stellen maar door het wel te gaan doen. Kan de Minister daar nog even op reflecteren, voorzitter?
 
 
 De voorzitter:
 Dank u wel, mevrouw Rajkowski heeft ook een interruptie. Een aanvullende vraag, oké.
 
 
 Mevrouw Rajkowski (VVD):
 Dank, voorzitter. Als ik mijn collega Van Ginneken goed begrijp, gaat het inderdaad om een toets vooraf. Ik zou dat nog willen aanvullen met een pleidooi dat er niet alleen een toets vooraf komt, maar dat er ook al bij het maken van het algoritme wordt nagedacht over een bepaalde mate van diversiteit bij mensen die dit creëren.
 
 
 Minister Blok:
 Ik denk dat, zoals mevrouw Van Ginneken het nu formuleert, je de mensenrechtentoets intensiever doet bij hoog risico, want we zijn het met elkaar eens dat je nooit iets mag doen wat in strijd is met mensenrechten. Dus dat je de toets vooraf intensiever doet bij hoog risico dan de toepassingen lager in de trede. Dan is het niet alleen uitvoerbaar, maar zit het ook wel in de verordening. Ik wil daar voor de zorgvuldigheid ook even schriftelijk op terugkomen, omdat ik hier ook echt even goed met mijn juristen over wil overleggen of mijn interpretatie ook de juridisch juiste is.
 
 
 Mevrouw Van Ginneken (D66):
 Dank aan de Minister voor het aanbod om daar schriftelijk op terug te komen. Ik zou het op prijs stellen als dat dan binnen enkele dagen is, zodat we in ieder geval voordat de Telecomraad plaatsvindt daar eventueel nog met elkaar over van gedachten kunnen wisselen.
 
 
 Minister Blok:
 Ja.
 
 
 Mevrouw Van Ginneken (D66):
 En ik wil de Minister daarin meegeven dat ik op de hoogte ben van het feit dat in de verordening gesproken wordt over een conformiteitsbeoordeling die ook vooraf moet plaatsvinden. Daarin wordt iets gezegd over welke data gebruikt wordt, et cetera. Maar daar wordt heel erg opengelaten tegen welk kader die toets uitgevoerd moet worden. Daar zie ik wel echt een omissie voor het expliciet toetsen van mensenrechtenschendingen. Dus als de Minister dat in de beantwoording kan meenemen, heel graag.
 
 
 Minister Blok:
 U illustreert precies waarom ik er even schriftelijk op terug wil komen, omdat ik heel precies de tekst zoals we die nu hebben wil leggen naast de redenering zoals ik die net geef, dat het er volgens mij in zit. Daar kom ik even schriftelijk op terug.
 Voor het nationale deel: er komt binnenkort een brief over het algoritmeregister. Dat was dacht ik ook een vraag van meerderen van u maar ook van mevrouw Van Ginneken. Overigens ligt het voortouw bij de collega van BZK. Ik vind het logisch om in die brief ook in te gaan op de vraag hoe de Nederlandse overheid, dat was uw vraag, daarin de mensenrechtentoets of -weging hanteert.
 De vraag van mevrouw Rajkowski. Als ik haar goed begrijp – maar als dat niet zo is gaat ze mij corrigeren – zegt zij dat bedrijven die AI-toepassingen maken intern voldoende divers moeten zijn. Was dat uw vraag?
 
 
 Mevrouw Rajkowski (VVD):
 Ja, waarbij ik als het gaat over regulering eerst naar de rijksoverheid zelf zou willen kijken, dus als het gaat om de zelflerende autonome algoritmen die ook in het besluitvormingsproces gebruikt gaan worden. Dat dus niet alleen vooraf getoetst wordt als een algoritme af is of het voldoet, want het zijn best wel complexe gehelen. Dat weet deze Minister volgens mij nog beter dan ik, gezien zijn jarenlange ervaring. Maar uiteindelijk gaat het mij er ook om dat de mensen die het algoritme maken ook met verschillende blikken daarnaar kijken.
 
 
 De voorzitter:
 Helder. De Minister.
 
 
 Minister Blok:
 Ik denk dat iedereen het ermee eens is dat het goed is, voor welk team dan ook, dat het divers is, dus ook bij de samenstelling van algoritmes. Ik moet wel eerlijk zijn, daarom testte ik eventjes aan het begin of ik de vraag goed begrepen heb, dat ik niet voorzie hoe je zoiets met regels af kan dwingen. Ik herinner mij een eerdere discussie over diversiteit op de werkvloer, waar ik zeer voor ben, en waar ik mij als Minister voor de Rijksdienst ook binnen het Rijk enorm voor heb ingezet. Maar sommige bedrijven kwamen mij gewoon melden: voor mijn type beroep is heel weinig aanbod, bijvoorbeeld van vrouwen, omdat je in studiekeuzes nog steeds – het groeit meer naar elkaar toe – geen totaal neutrale verdeling ziet. Mensen maken eigen keuzes. Dat betekent dus ook op dit gebied dat ik geen werkbare regelgeving voor kan stellen, of het nou voor de overheid zelve is of voor bedrijven, dat teams die AI ontwikkelen representatief moeten zijn samengesteld. Ik denk dat dat niet lukt. Ik kan in ieder geval voor de overheid zélf wel zeggen dat het onze volle inzet is om de overheid zelf en de onderdelen daarvan zo divers mogelijk te maken.
 
 
 Mevrouw Rajkowski (VVD):
 Dat begrijp ik ook. Ik zou het ook zonde vinden als zodanige regels worden opgesteld dat dat zou betekenen dat als er een tekort is aan een bepaald type diversiteit, de rijksoverheid ook niet verder kan met haar werk. Kan ik dan toch de Minister vinden – dan gaat het niet over de regels maar over richtlijnen of inspanningsverplichtingen – dat op het moment dat algoritmen besluitvormend zijn in hoog risico, er dan zoveel mogelijk naar gestreefd wordt dat ook aan de voorkant, bij het maken van het algoritme, daar met verschillende ogen naar gekeken is?
 
 
 Minister Blok:
 Als inspanningsverplichting zeker. Maar nogmaals, toch even oneerbiedig, een blik in de collegebanken van de faculteit Informatica laat al zien dat het diverser is dan tien jaar geleden, maar het is echt niet een doorsnede van de Nederlandse bevolking. Dat is overigens vrees ik niet anders bij de faculteit Weg- en waterbouw, waar gelukkig ook aanzienlijk meer vrouwen dan in het verleden zitten, maar het is nog steeds niet fiftyfifty.
 
 
 De voorzitter:
 U vervolgt met de beantwoording.
 
 
 Minister Blok:
 Ja. Dan kom ik op het onderwerp gezichtsherkenning. Mevrouw Van Ginneken ging daarop in, maar eigenlijk alle anderen ook. Er is sowieso al een streng wettelijk kader voor gezichtsherkenning, maar het is niet expliciet verboden. Dat lijkt me ook onverstandig omdat er, mits je het wettelijk inkadert, wel degelijk toepassingen zijn te bedenken waarbij gezichtsherkenning op een veilige maar ook simpele manier plaats kan vinden, bijvoorbeeld bij paspoortcontroles, en daarnaast in heel specifieke toepassingen in het kader van politie en justitie. Dus op een totaalverbod zou ik tegen zijn, maar ik ben er zeer voor om dat alleen onder heel streng wettelijk ingekaderde condities te doen. Dat is ook precies de manier waarop de AI-verordening die mogelijkheid nu biedt. Dat is volgens mij ook het antwoord op de vraag van mevrouw Van Ginneken hoe je mission creep voorkomt. Door het alleen wettelijk streng ingekaderd toe te staan.
 
 
 Mevrouw Van Ginneken (D66):
 Dank. Voor de goede orde, ik ben er niet op tegen dat mijn iPhone aan mij vraagt om even in de camera te kijken om de iPhone te openen, zoals ook andere telefoons dat doen. Ik ben er ook niet op tegen dat er een camera op Schiphol is die mijn gezicht bekijkt en checkt of dat overeenkomt met de informatie op mijn paspoort. Het gaat mij dus niet om dat soort gezichtsherkenning. Het gaat mij om gezichtsherkenningsfuncties, zoals ook in de verordening beschreven, die gezichten van onverdachte, onschuldige burgers massaal in beeld brengen en controleren, in de hoop een enkele crimineel op te sporen. Het gaat mij om dat soort gezichtsherkenningstoepassingen. Ik hoor de Minister spreken over een streng kader en dat dat in de AI-verordening al goed geborgd is. Dat ben ik toch niet helemaal met de Minister eens, omdat de verordening het niet specifieker maakt dan de aanduiding «ernstige criminaliteit» en daarbij nog de opmerking maakt «die strafbaar is met een vrijheidsstraf». Daar valt heel veel onder waarvan ik denk: dat zijn vergrijpen waarbij ik de proportionaliteit zoek vind als het gaat om het breed inzetten van gezichtsherkenning in de publieke ruimte.
 
 
 Minister Blok:
 Ik had inderdaad nog het antwoord liggen op de vraag wat er verstaan wordt onder serieuze criminaliteit. Daarvoor wordt de definitie gehanteerd die al in 2002 door de Europese Raad is vastgelegd. Daar zijn geen veranderingen op gekomen. Daarmee is het dus wel ingekaderd.
 Mevrouw Van Ginneken vroeg ook of het verbod in de conceptverordening om AI-systemen zich te laten richten op kwetsbare groepen, uitgebreid kan worden. Zij noemde onder meer vrouwen, lhbti'ers en migranten. De inzet van het kabinet is inderdaad om dat verbod uit te breiden. Daarvoor geldt wel het betoog dat ik aan het begin hield: ik kan de uitkomst niet garanderen. Maar ik deel wel de analyse van mevrouw Van Ginneken dat dat breder zou moeten gelden.
 
 
 De voorzitter:
 De heer Dassen heeft een interruptie.
 
 
 De heer Dassen (Volt):
 Ik wil nog even terug naar de vraag die mevrouw Van Ginneken net stelde. Zij gaf aan: paspoortcontroles en uitvoeringstoepassingen zijn tot daaraan toe, maar niet in de publieke ruimte, waar en masse gezichtsherkenning is. De Minister gaf daar geen antwoord op. Die vraag heb ik ook gesteld.
 
 
 Minister Blok:
 Daar wil ik heel precies in zijn, omdat ik in het kader van politie en justitie niet helemaal kan uitsluiten dat je daar systemen voor nodig hebt. Ik wil dat dus ook niet preciezer inkaderen zonder ruggespraak met de collega van politie en justitie, pardon, van Veiligheid en Justitie.
 
 
 De heer Dassen (Volt):
 Dan is mijn vraag of de Minister er met een volledig antwoord op terug kan komen na ruggespraak met de andere Minister.
 
 
 Minister Blok:
 Ja, dat zal ik doen.
 
 
 De voorzitter:
 Schriftelijk.
 
 
 Minister Blok:
 Ja.
 Dan de vraag van mevrouw Van Ginneken en mevrouw Van Weerdenburg: wie wordt de toezichthouder en wanneer hakken we die knoop door? Omdat het toepassingsbereik van AI enorm is, is de keuze uit toezichthouders ook enorm. Omdat we nu nog spreken over een conceptverordening kunnen we wel in grote trekken in kaart brengen wie er in aanmerking zouden kunnen komen van de bestaande toezichthouders, variërend van de Autoriteit Persoonsgegevens tot Agentschap Telecom tot de Voedsel- en Warenautoriteit, maar is het niet logisch om die keuze nu te maken. Ik kan ook nog geen precies tijdstip geven, want ik wil echt de definitieve verordening hebben om de keuze te kunnen maken. Sorry dat ik u daar niet meer helderheid over kan geven, maar volgens mij is het verstandig om de opties nog even in de lucht te houden. We schatten in dat er uitbreiding van de capaciteit, en dus ook van het aantal arbeidsplaatsen, voor nodig is, maar waar precies? Daar zullen wij u natuurlijk over informeren, maar dat is nu echt te vroeg.
 
 
 Mevrouw Van Ginneken (D66):
 Ik heb er begrip voor dat de Minister niet alle antwoorden heeft, hoewel ik het wel jammer vind dat veel vragen later beantwoord zullen worden. Bij deze vraag heb ik er begrip voor dat de Minister dat nog niet kan zeggen, maar kan de Minister wel aangeven op welke termijn dit wél helder zal zijn?
 
 
 Minister Blok:
 Ik moet echt eerst de AI-verordening hebben voordat ik daar antwoord op kan geven. Anders doe ik het in de verkeerde volgorde.
 
 
 De voorzitter:
 Wanneer wordt die ongeveer verwacht?
 
 
 Minister Blok:
 Tsja, dat is niet helemaal in mijn handen. Sterker nog, dat is helemaal niet in mijn handen, want dat hangt af van die procedure, waar ik mee begon.
 
 
 De voorzitter:
 De heer Dassen, nog een toevoeging?
 
 
 De heer Dassen (Volt):
 Ik snap het antwoord van de Minister gedeeltelijk. Tegelijkertijd kan ik me voorstellen dat het actieve gesprek met de verschillende toezichthouders al wel gestart kan worden om te kijken wat de meest logische plek zou zijn waar dat toezicht komt te liggen, maar vooral ook hoe het zit met de capaciteit, want dat is volgens mij een probleem dat we bij meer toezichthouders hebben. De Minister noemt dat terecht, maar dan is de vraag: we zien dit nu op ons afkomen, dus wat hebben we daar aan capaciteit voor nodig? Ik denk dat het wel goed is dat de Minister dat gesprek nu al start.
 
 
 De voorzitter:
 Ja, en dat hij daar alvast rekening mee houdt.
 
 
 Minister Blok:
 Het gesprek is gestart. Vandaar dat ik aan kan geven dat er een palet aan toezichthouders is dat er potentieel voor in aanmerking kan komen. Uit die gesprekken blijkt ook dat daar een vergroting van de capaciteit voor nodig is.
 
 
 De voorzitter:
 De Minister vervolgt zijn beantwoording.
 
 
 Minister Blok:
 Ja. Dan kom ik bij de vraag van mevrouw Rajkowski over de gevolgen voor het mkb. Ik ben het met haar eens – mevrouw Van Weerdenburg ging daar ook op in – dat de verordening zo moet worden vormgegeven dat die werkt, maar dat die het het mkb en start-ups tegelijkertijd niet onmogelijk maakt om hun werk te doen. Dat is dus ook onze inbreng in de Europese discussie. De Commissie heeft ook de toezegging gedaan om voorrang te verlenen aan het mkb en start-ups bij testomgevingen. Wij zullen inderdaad een mkb-toets uitvoeren. We zullen die natuurlijk delen met de Kamer. Maar ook daarvoor geldt: naarmate het voorstel specifieker is, kunnen we die toets ook specifieker uitvoeren.
 Mevrouw Rajkowski vroeg ook naar de omgang met deepfakes in de AI-verordening. In de conceptverordening wordt in ieder geval transparantie vereist over het gebruik daarvan. Mevrouw Rajkowski verwees ook naar het lopende onderzoek van de Universiteit Tilburg. Dat heb ik eerlijk gezegd ook nodig voor het beantwoorden van de vraag die mevrouw Rajkowski stelde, namelijk of deepfake altijd hoog risico is. Ik sluit dit niet helemaal uit, maar ik vind het wel verstandig om dat onderzoek – dat zal natuurlijk openbaar worden en dat zullen we delen – op tafel te hebben voor de precieze beantwoording van die vraag. Die beantwoord ik nu dan dus ook nog niet.
 De heer Dassen vroeg of er in de AI-verordening geen algeheel verbod moet komen op het clusteren op grond van etniciteit en seksuele oriëntatie. Ook dat vraagt grote precisie. Het is in zijn algemeenheid niet toegestaan om op basis hiervan te clusteren. Maar het kan nodig zijn om, juist bij het beoordelen of een systeem discriminerend is, toch te gaan clusteren. Anders kan je de toets namelijk niet uitvoeren. Ook hier geldt dus: mensenrechten mogen nooit geschonden worden. Maar door een heel specifiek onderdeel te gaan verbieden, maak je in dit geval ook de controle onmogelijk.
 
 
 De voorzitter:
 Meneer Dassen heeft een vraag.
 
 
 De heer Dassen (Volt):
 Ik probeer het iets beter te begrijpen. Want de Minister zegt: juist hetgeen je niet wilt, moet je kunnen controleren; daardoor is het toegestaan. Ik ben een beetje zoekende wat dat betreft. Misschien begrijp ik het verkeerd.
 
 
 Minister Blok:
 Daarom is het niet verboden. Een aantal van u verwezen naar berichten die er de afgelopen dagen waren over de manier waarop de Belastingdienst geclusterd heeft. Die berichtgeving geeft dus een clustering aan. Ik weet niet precies hoe de betreffende onderzoekers die gegevens naar buiten hebben gekregen. Maar om ze naar buiten te krijgen, moet je clusteren. We zijn het er met elkaar over eens dat je niet moet clusteren op grond van ras of geslacht, en dat je mensen op grond daarvan geen verschillende behandeling moet geven. Dat mag ook niet. Maar helemaal verbieden om het ooit te doen, maakt een onderzoek onmogelijk. Harde verboden hebben natuurlijk de charme van de eenvoud, maar je maakt er ook echt alles mee onmogelijk.
 
 
 De voorzitter:
 Dat lokt nog meer vragen uit. Eerst mevrouw Rajkowski, en daarna mevrouw Van Ginneken.
 
 
 Mevrouw Rajkowski (VVD):
 Ik zou de Minister eigenlijk wel willen bijvallen. Ik kan namelijk wel voorbeelden bedenken waarbij ik het heel fijn zou vinden dat wordt meegenomen of je bijvoorbeeld een man of een vrouw bent, in de medische wereld bijvoorbeeld. Die lichamen werken gewoon anders. Dat kan betekenen: andere medicijnen of andere symptomen. Gelukkig komt er steeds meer informatie hierover beschikbaar. In heel veel van dit soort onderzoeken is naar mannenlichamen gekeken en niet naar vrouwenlichamen. Ik ben er dus heel blij mee dat als er bijvoorbeeld algoritmen in dit soort toepassingen gebruikt worden, dit dan ook meegenomen gaat worden.
 
 
 Mevrouw Van Ginneken (D66):
 De opmerking van collega Rajkowski triggert mij. Vanzelfsprekend is het om medische redenen belangrijk om een onderscheid te kunnen maken in type lichamen, zeg ik dan even met een knipoog. Maar het laat meteen ook zien waar de kwetsbaarheid zit. Als je namelijk gaat sorteren op mannen en vrouwen, doe je dan medisch gezien wel het juiste? Dan verwijs ik even naar mijzelf. Ik heb vrouwelijke hormonen en mannelijk DNA. Dat laat dus precies zien waarom dit soort indelingen superkwetsbaar zijn. Dat kan mensen fundamenteel benadelen. Ik sluit me dus graag aan bij de opmerking of vraag van de heer Dassen. De Minister liet in de beantwoording wel zien dat hij inhoudelijk goed weet waar het over gaat. Als je dit soort algoritmes controleert, zou je natuurlijk kunnen clusteren richting dit soort kenmerken: etniciteit, seksuele voorkeur et cetera. Anders kun je namelijk niet vaststellen of ze discriminerend werken. Maar dat neemt niet weg dat je dat in een algeheel verbod als uitzondering zou kunnen opnemen. Dan mogen de algoritmes daar dus geen gebruik van maken. Je gebruikt die dan alleen maar bij de beoordeling of algoritmes discriminerend zijn of niet. Kan de Minister daar nog op reflecteren?
 
 
 Minister Blok:
 Ook dan maak je het zo specifiek dat je sommige toepassingen daarmee verbiedt. Mevrouw Rajkowski kwam met het terechte voorbeeld van medische verschillen, gekoppeld aan geslacht. Dat zou dan verboden zijn. Waarom zou je dat willen verbieden? Ik vind de omgekeerde aanvliegroute echt veel logischer. Dan zeg je: niemand mag mensenrechten schenden, dus je mag niet discrimineren. Daarbij is er zware controle op de hoogrisico-AI-systemen. Voor iedereen blijft dit verbod gelden. Maar met een keihard verbod op clusteren schiet je door.
 
 
 Mevrouw Van Ginneken (D66):
 Als ik de Minister een beetje probeer te volgen in zijn betoog, kan ik me zo voorstellen dat de Minister nu ook impliciet een pleidooi heeft gedaan voor het vooraf uitvoeren van een mensenrechtentoets. Zo hoor ik het antwoord van de Minister. Ik wil even checken of het ook zo bedoeld is.
 
 
 Minister Blok:
 Ik gaf u al aan dat, zoals ik de richtlijn begrijp, al ben ik maar een eenvoudige doctorandus met inleiding recht... Ik wil daar even de mensen die jarenlang recht gestudeerd hebben, precies naar laten kijken. Want de precisie luistert hier nauw. Ik interpreteer het dus zo dat... Alhoewel, ik interpreteer het niet, want ik weet zeker dat je niks mag doen dat in strijd is met mensenrechten. Daarvan hoeven we elkaar niet te overtuigen. Maar de zware toets op de hoogrisico-AI-toepassingen bergt dat ook al in zich. Maar ik zou niet de maker van wat ik daarstraks even als voorbeeldje gaf, het moduletje dat je leencapaciteit op de woningmarkt berekent, willen verplichten om een mensenrechtentoets te doen. Want dan krijg ik in ieder geval een deel van u over mij heen met het verzoek of ik wil ophouden met het mkb het leven zo moeilijk te maken. Daar heb ik ook wel begrip voor. Maar nogmaals, ik denk dat wij heel dicht bij elkaar zitten.
 Mevrouw Van Weerdenburg vroeg of het niet dubbelop is om nationale veiligheid uit te zonderen. Eigenlijk wel, maar het kan ook geen kwaad. Nationale veiligheid is een nationale bevoegdheid.
 Ik hoop hiermee de vragen over de AI-conceptverordening beantwoord te hebben. Dan wil ik overgaan naar de andere vragen.
 
 
 De voorzitter:
 Dan check ik eventjes aan de linkerkant. Mevrouw Van Ginneken schudt in ieder geval alvast neen. Mevrouw Van Ginneken.
 
 
 Mevrouw Van Ginneken (D66):
 Dank, voorzitter. Het waren veel vragen en ook veel antwoorden van de Minister; dank daarvoor. Dus misschien heb ik het gemist, maar ik heb de vragen over algoritmeregisters volgens mij nog niet beantwoord gekregen.
 
 
 Minister Blok:
 Dat was tussen neus en lippen door: de collega van BZK komt met een brief daarover.
 
 
 De voorzitter:
 Voldoende? Ja? Dan mag de Minister naar het volgende blokje.
 
 
 Minister Blok:
 Dan vroeg de heer Dassen mij hoe we bij de Data Act ervoor kunnen zorgen dat start-ups en mkb'ers toegang kunnen krijgen tot de gegevens. Dat is eigenlijk juist de kerndoelstelling van deze wet. Omdat het omgaan met data nu in private contracten is geregeld, en vaak nog wel impliciet, is die toegang juist nu en blijven die data dus in handen van, vaak ook, heel grote platforms en bemiddelaars. De Data Act wil dit juist openbreken.
 
 
 De voorzitter:
 De heer Dassen heeft een interruptie.
 
 
 De heer Dassen (Volt):
 Nee, dat begrijp ik; ik snap het hele idee daarvan natuurlijk. Maar met het alleen openbreken – en daarnaar ben ik zoekende – is er niet direct een level playing field, juist omdat die grote bedrijven toch makkelijker toegang tot die data hebben. Ik vroeg me af of in die Data Act ook meegenomen wordt hoe mkb-bedrijven wellicht bevoordeeld worden om tot die data te kunnen komen, hoe ze daarin verder geholpen worden.
 
 
 Minister Blok:
 Het is zeker mijn inzet, de Nederlandse inzet, om de Data Act zo vorm te geven dat start-ups en mkb'ers daar voordeel van hebben. Het woord «bevoordelen»... Ik weet niet of ik zo ver zou willen gaan; dat raakt namelijk al heel snel ook weer aan fundamentele rechtsprincipes. Als je geen misbruik maakt van je marktpositie, dan kan de overheid je ook niet zomaar het gebruik van die marktpositie ontzeggen. Maar met de eerste vraag, of dit ertoe moet leiden dat start-ups en mkb'ers toegang krijgen tot data die ze nu niet hebben: mee eens.
 Dan vroeg de heer Dassen ook naar het stuk over de digitale decennium en de schets die ik in de geannoteerde agenda geef over, aan de ene kant, het natuurlijk waarborgen van grondrechten en mensenrechten, en aan de andere, meer zakelijke kant hoe ik het verdienvermogen wil waarborgen. De spanning zoals de heer Dassen die schetst, is natuurlijk niet uniek voor de digitale vraagstukken die voor ons liggen. Ook als je bedrijven in een totaal andere sector hebt, moet je je altijd bewegen binnen de ruimte die wet- en regelgeving en mensenrechten je bieden. Ik ben altijd een groot liefhebber van de aloude formulering «wat offline geldt, geldt online ook». De opgave is, ook omdat onze regelgeving nog steeds niet is toegeschreven naar de onlinewereld, om de formuleringen daarin zo te kiezen dat ze ook echt effect hebben in die onlinewereld. En bij dat effect – en eigenlijk gaat het debat van vanochtend daar ook over – staat buiten kijf dat mensenrechten en rechtsregels niet geschonden kunnen worden, maar ook dat ondernemers, of het nou een start-up is of een bedrijf dat ooit een start-up was maar inmiddels groot is geworden, uiteindelijk toch hun brood moeten kunnen verdienen; en daarnaast dat de overheid soms specifieke taken heeft, of dat nou nationale veiligheid is of criminaliteitsbestrijding, die geen enkele vrijbrief moeten vormen bij het gebruik van data of AI, maar de overheid soms in een positie brengen dat ze dingen moet mogen die anderen niet mogen. Dat moet je wettelijk inkaderen. Dus binnen die kantlijnen: bescherm burgers en bedrijven tegen een te bemoeizuchtige overheid – en ook tegen elkaar – maar maak innovatie en bedrijfsactiviteiten niet onmogelijk. Binnen die kantlijnen beweeg ik mij, bewegen ik en mijn collega's ons, want dit speelt natuurlijk evenzeer voor de collega's. De collega van Justitie zal bij u komen of is al bij u gekomen op een aantal terreinen, waarbij hij in dit geval zegt: ik heb wat meer bevoegdheden nodig. De collega verantwoordelijk voor Rijksdienst is met u in discussie over de hele digitaliseringsstrategie. Ikzelf voer deze discussies in Brussel, maar moet er ook voor zorgen dat in Nederland bedrijven, van groot tot klein, mee kunnen bewegen in deze hele slag en fatsoenlijk beschermd zijn tegen cybercriminaliteit. Dat is ook een belangrijk onderwerp, dat volgende week op de agenda staat. Ik kan hier dus alleen maar met een lang betoog antwoord op geven, maar dat komt doordat ik me tussen een aantal kantlijnen beweeg.
 Dan was er, ook van de heer Dassen, de vraag die hij heel consistent stelt, namelijk hoe met het geld uit het recovery fund omgegaan zal worden. Daarbij blijft het antwoord van dit kabinet dat we weliswaar opties op de plank hebben liggen, maar het als demissionair kabinet niet juist vinden om die keuze te maken en dus ook niet om daarover nu uitgebreide gesprekken met medeoverheden of sociale partners te voeren. Dat geldt ook voor het precieze gebruik van de RRF. U wees op Wob-stukken en een discussie die daar tussen Financiën en EZK over is geweest. Het is volgens mij geen groot geheim dat er altijd discussies zijn tussen ministeries. Dat is ook een groot goed, want dat is onderdeel van de belangenafweging. Er wordt veel gewobd. Ik kan u garanderen dat u, als u stukken wobt over ministeries onderling, zult zien dat die altijd wel verschillende meningen zullen hebben.
 
 
 De voorzitter:
 Meneer Dassen heeft een interruptie.
 
 
 Minister Blok:
 Misschien haal ik de spanning er nu een beetje af. Uiteindelijk spreekt het kabinet wel met één mond.
 
 
 De heer Dassen (Volt):
 Begrijp ik nou goed uit de beantwoording van de Minister dat de motie die eerder door de Kamer is aangenomen om per direct consultaties te starten met gemeenten en provincies, niet wordt uitgevoerd?
 
 
 Minister Blok:
 O jee! Die motie is aangenomen bij Financiën, denk ik. Daar moet ik even in duiken, want dat weet ik gewoon niet.
 
 
 De heer Dassen (Volt):
 Nee, die motie is aangenomen bij de begroting EZK. Daarin werd het kabinet ertoe opgeroepen om per direct te starten met de consultaties van de gemeenten en de provincies, juist om ervoor te zorgen dat zij er straks in de uitvoering bij betrokken zijn. Die motie heeft geloof ik Kamerbrede steun gekregen. Ik krijg daar dus graag nog een reactie van de Minister op.
 
 
 Minister Blok:
 U merkt aan mijn reactie dat ik het gewoon niet weet, sorry. Daar wil ik even op terugkomen. U heeft kennelijk ook geen schriftelijke reactie gehad op de motie, dus dan moet ik er schriftelijk op terugkomen.
 
 
 De voorzitter:
 Akkoord? Ja. De Minister vervolgt zijn beantwoording.
 
 
 Minister Blok:
 Dan had mevrouw Rajkowski een vraag over de verdere procedure en het belang van tempo voor het in gebruik nemen van 5G. Zij wees erop dat een commissie gevraagd is om een advies uit te brengen in het dispuut dat gerezen is over het gebruik van de bandbreedte. Die commissie komt uiterlijk 1 mei met haar advies. Omdat ik de inhoud van dat advies niet ken, kan ik niet garanderen dat we voor 1 augustus – dat was de vervolgvraag van mevrouw Rajkowski – gereed kunnen zijn met een wijziging. We moeten dus echt even stap voor stap opereren. Natuurlijk wordt het advies zodra het er is ook, ook gedeeld. Maar ik zou de commissie ook tekortdoen door van tevoren al te gaan voorspellen hoe snel we het kunnen implementeren.
 
 
 Mevrouw Rajkowski (VVD):
 Ik begrijp het antwoord ook. Het is natuurlijk een langlopend dossier. Helemaal chronologisch terugkijkend is het al in 2007 gestart. Ik begrijp ook wel dat er zo veel complexiteit is geweest gedurende de afgelopen jaren. Toen ik mijn spreektekst voor dit debat aan het schrijven was en nadacht over hoe het nog sneller kan, kwam ik, met een maandje en weekje verschuiven, tot de conclusie: dan halen we misschien de zomer van 2023 wel. En dat vind ik eigenlijk al zo laat. Al zouden we elke keer één maand eerder dit en één maand eerder dat doen, dan zou dat al veel helpen, want we lopen al zo achter. Kan de Minister daar nog iets over zeggen?
 
 
 Minister Blok:
 Het is zeker mijn ambitie om het niet 2023 te laten worden, maar om in 2022 met die wijziging van het NFP bij u te komen. Alleen, die datum van 1 augustus die ik van u hoorde, kan ik niet garanderen, omdat dat heel erg samenhangt met de inhoud van dat advies, waarvan we wel weer weten dat we dat voor 1 mei krijgen. De urgentie zie ik natuurlijk volkomen, dus de ambitie is wel om het vervolgens dit jaar af te ronden.
 
 
 De voorzitter:
 Mevrouw Rajkowski, kort.
 
 
 Mevrouw Rajkowski (VVD):
 Dat is heel fijn om te horen. Op het moment dat dat advies over het NFP er is, moet er ook nog een veiling voorbereid worden. De telecomproviders hebben aangegeven dat ze daar ook weer een halfjaar voor nodig hebben. Dan heb je nog de veiling en daarna de technische voorbereidingen op 5G. Daar komt nog zo'n vertragingsslag achteraan. Zou de Minister dan kunnen toezeggen om in gesprek te gaan met de telecomproviders om te kijken of er voor zo'n veiling echt zes maanden nodig is of dat het ook naar vier maanden kan? We moeten echt op alle punten in dit proces bekijken of het misschien niet iets korter kan, want daar is volgens mij iedereen bij gebaat.
 
 
 Minister Blok:
 Iedereen is gebaat bij de verkorting. Dus alles wat daarbij kan helpen wil ik doen. Ik ben nooit tegen een gesprek met telecomproviders, maar dat kan al snel gaan over de vormgeving van de veiling. En dan zeg ik maar even scherp: daar zitten heel harde commerciële belangen achter. Overigens mag dat in een vrij land, maar dan moeten we wel even goed begrijpen waar de discussie over gaat.
 
 
 De voorzitter:
 Mevrouw Rajkowski, afrondend. Want met het oog op de klok: we hebben ook nog ruimte nodig voor een tweede termijn.
 
 
 Mevrouw Rajkowski (VVD):
 Ja, dat is goed. Ik zal het kort houden en misschien is een tweede termijn van mijn kant dan ook wel niet nodig. Ik probeer gewoon een beetje creatief mee te denken om ervoor te zorgen dat we 5G eindelijk echt goed kunnen gaan gebruiken in Nederland. Dat is ook voor onze economie heel belangrijk. Met al deze kortingen en misschien soms iets te ver out of the box denken kom ik al op zomer 2023 uit. Dus als al deze voorstellen al niet mogelijk zijn, dan betekent dat dat we pas najaar 2023 of misschien wel pas met kerst 2023 iets van 5G kunnen hebben. Dat vind ik echt laat. Dat wil ik toch nog even meegeven.
 
 
 Minister Blok:
 We moeten elkaar ook niet de put in praten daar waar dat niet nodig is. Ik ben me heel goed bewust van de urgentie en natuurlijk de ongemakkelijke manier waarop dit proces is verlopen. Ik wil ook graag beloven dat zodra we dat advies hebben, nogmaals uiterlijk 1 mei, we de Kamer zullen aangeven hoe het verdere proces verloopt. Dan zullen we ook de verdere data met u delen. Maar nogmaals, ik moet wel het advies serieus nemen.
 
 
 De voorzitter:
 De heer Dassen wilde ook nog interrumperen op dit onderdeel? Nee, toch niet. Oké. Dan gaat de Minister door met de beantwoording.
 
 
 Minister Blok:
 Ik hoopte hiermee de vragen in eerste termijn beantwoord te hebben.
 
 
 De voorzitter:
 Dan kijk ik even naar de leden of er nog vragen zijn. Dat is niet het geval. Dan dank ik de Minister voor de beantwoording van de vragen in eerste termijn en dan kunnen we over naar de tweede termijn, als daar behoefte aan is. Ja, in ieder geval bij mevrouw Van Ginneken. Ik geef haar nu het woord.
 
 
 Mevrouw Van Ginneken (D66):
 Dank, voorzitter. Ik kan mijn tweede termijn kort houden. Ik dank de Minister voor de uitgebreide beantwoording van onze uiteenlopende vragen. Ik realiseer mij dat dat ook voor de Minister een klus is. Ik heb dus begrip voor het feit dat er op sommige vragen een schriftelijk antwoord komt, maar ik wil hem wel nog het volgende meegeven. Ik heb de Minister horen toezeggen dat hij schriftelijk gaat reageren op de vragen over de mensenrechtentoets, namelijk hoe die al dan niet geborgd is in de verordening en of de Nederlandse overheid die, los van de verordening, niet ook zelf zou kunnen uitvoeren. Ik wil de Minister daarbij het volgende meegeven. De Minister gebruikt steeds als voorbeeld het doen van een hypotheekberekening op websites. Dat is ook een algoritme, maar het gaat bij die mensenrechtentoets natuurlijk om hoogrisicotoepassingen, anders zijn we elkaar aan het bezighouden.
 De andere toezegging was om meer informatie te geven over een eventuele smallere afbakening van de term «ernstige criminaliteit», en wat die nou precies omvat. Ik was daar zojuist niet zo expliciet over, maar ik zou voor beide toezeggingen graag willen afspreken om, als dat haalbaar is, vrijdag de antwoorden te krijgen, zodat wij eventueel volgende week nog een tweeminutendebat zouden kunnen voeren vóór de Telecomraad. Anders kunnen we weer niet zo heel veel met de antwoorden.
 De derde toezegging die ik van de Minister heb gehoord, is dat wij van zijn collega van BZK in januari een antwoord krijgen op de vraag over de algoritmeregisters. Dat is prima.
 Ik dank de Minister.
 
 
 De voorzitter:
 Mevrouw Van Ginneken, u heeft mijn werk al gedaan door de toezeggingen voor te lezen, maar ik ga het straks nog even dubbelchecken. Mevrouw Rajkowski had geen behoefte aan een tweede termijn. De heer Dassen.
 
 
 De heer Dassen (Volt):
 Voorzitter. Heel kort toch even over de RRF. Kan de Minister ervoor zorgen dat er deze week meer informatie komt over de consultaties? Die motie is eerder aangenomen en het verbaast mij echt dat, ondanks dat die oproepen meerdere keren zijn gedaan, het antwoord blijft dat men daar in de formatie mee aan de slag gaat, terwijl wij echt niet veel vragen. Die consultaties met de gemeenten kunnen prima gestart worden.
 
 
 De voorzitter:
 Ja, die hebben we ook al geregistreerd als toezegging. Dat was uw tweede termijn? Dan vraag ik mevrouw Van Ginneken weer heel eventjes om het voorzitterschap over te nemen.
 
 Voorzitter: Van Ginneken
 
 De voorzitter:
 Dat doe ik met alle plezier. Dan geef ik nu het woord aan mevrouw Van Weerdenburg van de PVV.
 
 
 Mevrouw Van Weerdenburg (PVV):
 Dank u wel, voorzitter. Een paar afsluitende opmerkingen mijnerzijds. Ik dank de Minister voor alle antwoorden. Ik ben heel blij om te horen dat hij niet toegeeft in de discussie over verplichte diversiteit. Het doet mij wel een beetje verdriet dat de VVD daar nu zo op hamert. In het digitale domein is er een schreeuwend tekort aan capabele mensen. De Minister had het daar ook al over. Dus het lijkt mij heel onverstandig om al aan de poort eisen te stellen rondom vrouwen dan wel minderheden. Laten we op dit moment iedereen gebruiken die daarvoor is opgeleid. Natuurlijk moeten we proberen om in de toekomst ... Ik kan me uit mijn jeugd de publiekscampagne herinneren Een slimme meid is op haar toekomst voorbereid. Nou ja goed, er ligt ook voor onze commissie een taak om dat te stimuleren, maar laten we het bedrijven en overheden niet nog moeilijker maken om capabel personeel binnen te halen.
 Een laatste vraag aan de Minister. Ik snap dat hij nu niet kan zeggen wanneer die conceptartikelen van de AI Act er eenmaal liggen, dat dat allemaal nog onzeker is. Zou hij ons kunnen toezeggen dat hij een tijdspad stuurt zodra er meer duidelijkheid is over wanneer de conceptartikelen en gepubliceerd zijn en er data zijn over besluitvorming, zodat wij iets meer grip hebben?
 Dank u wel.
 
 
 De voorzitter:
 Dank. Kan de Minister direct antwoord geven op de gestelde vragen? Ja? Dan geef ik het woord aan de Minister.
 
 
 Minister Blok:
 Mevrouw Van Ginneken. Zij en ik zijn het eens over de zwaarste mensenrechtentoets voor de zwaarste categorie. Voorbeelden zijn altijd kwetsbaar, maar ik gebruikte ze even om aan te geven dat een algoritme heel breed gebruikt wordt en AI specifieker is. Maar juist door ons te concentreren op de hoogrisicocategorie vinden wij elkaar. Voor de afbakening van ernstige criminaliteit wil ik blijven bij de definitie die in 2002 is gegeven, omdat ik het zuiver vind dat, als wij met elkaar in Europees verband een definitie hebben afgesproken, wij die niet gaan veranderen bij verschillende toepassingen. Dus op dat punt was ik niet voornemens om met een andere definitie te komen. En inderdaad, de collega van Binnenlandse Zaken zal in een brief ingaan op het register.
 De heer Dassen. Nogmaals mijn verontschuldigingen omdat ik niet helder voor ogen had dat deze motie bij mijn begroting is aangenomen. De beantwoording moet in ieder geval samen met de Minister van Financiën. Ik denk zelfs dat hij de eerste ondertekenaar is. Ik ga mijn best doen om dat deze week te doen. Ik weet dat hij veel in Hilversum verblijft, dus het is een inspanningsverplichting. Maar u krijgt een reactie op de motie. Daar heeft u zeker recht op.
 Mevrouw Van Weerdenburg. De Kamer krijgt natuurlijk bij de volgende geannoteerde agenda onze inschatting van het verdere tijdspad. Helemaal mee eens. Dat is voor ons allemaal van belang.
 
 
 De voorzitter:
 Dank. En vergeef me mijn overmoed, mevrouw Van Weerdenburg. Ik geef hierbij het voorzitterschap aan u terug.
 
 Voorzitter: Van Weerdenburg
 
 De voorzitter:
 Dank u wel. Ik heb geduldig gewacht, geen probleem. Dank aan de Minister voor de beantwoording in tweede termijn. Ik kijk eventjes naar de leden. Zijn er nog dingen blijven liggen, nabranders? Nee? Dan ga ik nu de toezeggingen voorlezen.
 Wij hebben gehoord dat de Minister toegezegd heeft om de Kamer voorafgaand aan de Telecomraad van 3 december schriftelijk te informeren over de mensenrechtentoets bij hoogrisicosystemen van AI en over de vraag in hoeverre dit al geborgd is in de verordening.
 De tweede toezegging. De Minister zal in overleg met de Minister van JenV de Kamer schriftelijk informeren over de inzet van gezichtsherkenning in de openbare ruimte door politie en justitie.
 De derde toezegging. De mkb-toets voor de AI-verordening zal met de Kamer gedeeld worden.
 De Minister informeert de Kamer zo mogelijk – hij zei net dat hij dat gaat proberen – deze week nog schriftelijk over de uitvoering van de motie waar de heer Dassen het over had, die het kabinet vraagt consultaties te starten met de gemeentelijke en provinciale overheden over de RRF-gelden.
 Tot slot heb ik hier geregistreerd dat de Kamer in januari per brief geïnformeerd zal worden over de stand van zaken over het algoritmeregister. Die brief wordt door de Minister of Staatssecretaris van BZK naar de Kamer gestuurd. Ja, dat klopt.
 Zijn er nog hiaten? Mevrouw Van Ginneken.
 
 
 Mevrouw Van Ginneken (D66):
 Ja, volgens mij hoorde ik u bij de eerste twee toezeggingen niet noemen dat de Minister die uiterlijk vrijdag deze week naar ons toe gaat sturen, zodat wij er nog iets mee kunnen in een eventueel tweeminutendebat.
 
 
 De voorzitter:
 Dank u wel. Dan voeg ik dat toe. Ik had gezegd: voor de Telecomraad op 3 december. Ik kijk even naar de Minister – die kijkt bezorgd – om te checken of vrijdag haalbaar is.
 
 
 Minister Blok:
 Ik beantwoord netjes al uw vragen, maar het punt is dat dit niet nu op de agenda van de Telecomraad staat. Maar we gaan gewoon ons best doen, want dit zijn inhoudelijke vragen die vroeger of later wel aan de orde komen. Dus ik ga gewoon mijn best doen voor vrijdag. Ik ga even overleggen.
 
 
 De voorzitter:
 Oké. Dank u wel. Dan sluit ik hiermee de vergadering, niet dan nadat ik iedereen hartelijk bedankt heb voor de antwoorden en de vragen en de toeschouwers voor het volgen van dit debat.
 
 Sluiting 11.36 uur.