Planning en Voortgang Algoritmeregister EZK
Staten-Generaal — Kamerstuk Brief
Datum: 2024-01-05 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2023-2024
 Tweede Kamer der Staten-Generaal
 2
 Kamerstukken
 
 
 
 26 643
 
 Informatie- en communicatietechnologie (ICT)
 
 
 Nr. 1113
 BRIEF VAN DE MINISTER VAN ECONOMISCHE ZAKEN EN KLIMAAT

 
 
 
 Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
 Den Haag, 27 december 2023
 Algoritmes hebben steeds meer effect op het leven van burgers en bedrijven. Het is van belang dat we als overheid hier goed mee om gaan door zowel de kansen te pakken als de risico’s in te perken. Een belangrijke stap hierin is inzicht geven in de «hoog-risico algoritmes» die het Ministerie van Economische Zaken en Klimaat gebruikt. Ik onderschrijf het belang van verantwoord gebruik van algoritmes en de waarde van het algoritmeregister van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties.
 In de verzamelbrief «Algoritmen reguleren1Kamerstuk 26 643, nr. 1056, p.8» van 7 juli 2023 (Kamerstuk 26 643, nr. 1056) aan uw Kamer zet de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties de ontwikkelingen voor verantwoord algoritmegebruik verder uiteen. Een onderdeel hiervan is het registreren van algoritmes door overheden in het Algoritmeregister. Er is afgesproken dat alle ministeries zich inzetten om de komende jaren zo veel mogelijk algoritmes te registreren. In 2025 staan in ieder geval alle «hoog-risico algoritmes» in het register. Ik vind dit belangrijk en werk dus actief mee met de verdere doorontwikkeling van het Algoritmeregister.
 In deze brief informeer ik uw Kamer over mijn planning en aanpak om eind 2025 alle «hoog-risico algoritmes» van EZK in het register te hebben staan. Eerst zal ik ingaan op het algemene beeld, aanpak, planning en aandachtspunten van EZK. Vervolgens wordt ingegaan op de verschillende onderdelen van EZK.
 Huidige vulling door EZK
 Op het moment van schrijven bevat het Algoritmeregister 2 algoritmes van organisaties die onder EZK vallen. Het gaat om algoritmes van de Rijksdienst voor Ondernemend Nederland (1) en de Kamer van Koophandel (1). Voor het einde van het jaar verwacht ik nog één algoritme in het Algoritmeregister op te nemen.
 Aanpak
 In de aanpak is gekozen voor een plateauplanning; eerst wordt gekeken naar buitendiensten, zelfstandige bestuursorganen (ZBO’s) waar veel te registreren algoritmes verwacht worden, organisatieonderdelen en agentschappen (hierna genoemd «de diensten») onder verantwoordelijkheid van EZK. Op basis van een eerste inventarisatie is een onderverdeling gemaakt tussen de diensten die nu geen, weinig of veel algoritmes te registreren hebben. Van de diensten die nu geen algoritmes te registreren hebben wordt geen actie gevraagd. Wel kijkt elke dienst ieder kwartaal of de situatie verandert. Van diensten die weinig algoritmes te registreren hebben, wordt verwacht dat zij de registratie in 2024 voltooien. We blijven met elkaar in gesprek om te zien of er bijgestuurd moet worden om dit te halen. Met de diensten die veel algoritmes te registreren hebben, wordt een apart plan van aanpak gemaakt. Met deze diensten blijf ik in nauw contact over de voortgang en eventuele bijsturing.
 Vanaf Q1 2024 wordt gekeken bij de andere EZK-organisaties, waaronder overige ZBO's en adviescolleges. De verwachting is dat er bij deze organisaties weinig tot geen algoritmes zijn die gepubliceerd moeten worden. Het streven is om eind 2024 de te registreren algoritmes van de overige ZBO's en adviescolleges te hebben opgenomen in het register.
 Bij het vullen van het Algoritmeregister hecht ik grote waarde aan de kwaliteit van registratie. Registraties met lage kwaliteit dragen weinig bij aan het begrijpen hoe de overheid algoritmes inzet. Om de kwaliteit van registratie te garanderen stelt EZK eisen aan alle registraties die onderdeel worden van het Algoritmeregister. Ik zal hier samen met de diensten afspraken over maken.
 Om te bepalen wat in het register moet worden opgenomen en hoe dit te doen gebruikt EZK als startpunt de overheidsbrede Handreiking Algoritmeregister2Handreiking Algoritmeregister – Digitale Overheid en Handleiding Publicatiestandaard3Handleiding Algoritmeregister (Publicatiestandaard) – Digitale Overheid. Hierin worden algoritmes in verschillende categorieën opgedeeld en de term «hoog-risico algoritmes» verduidelijkt. De «hoog-risico AI-systemen» moeten in ieder geval in 2025 in het register staan. Voor de «impactvolle algoritme» zet EZK zich in om er zo veel mogelijk te registreren.
 Door de nauwe verwevenheid met het Ministerie van Landbouw, Natuur en Voedselkwaliteit op dit onderwerp wordt hier nauw op samengewerkt. Hierdoor komt de aanpak voor EZK sterk overeen met die van LNV. Waar nodig zal EZK wel haar eigen keuzes maken.
 Aandachtspunten
 De ervaring tot nu toe leert dat er nog veel te leren is op dit onderwerp. EZK en haar diensten hebben de beschreven aanpak en planning gemaakt op basis van de huidige kennis en ervaring, maar hebben ook gemerkt dat er nog veel in beweging is. Door zelf meer ervaring op te doen met het onderwerp en de doorontwikkeling van externe eisen verandert het inzicht in wat een algoritme is, waar algoritmes gebruikt worden, welke geregistreerd moeten worden en hoe dit moet worden gedaan. Zo zijn de handreiking en handleiding recent (eind 2023) vastgesteld en gepubliceerd. Ook is de Europese AI verordening op het moment van schrijven nog in onderhandeling. Dit heeft effect op de haalbaarheid van de planning.
 Het registeren van algoritmes vraagt nieuwe dingen van EZK en haar diensten. Gelet op de onzekerheid in de planning en prioritering is het nog niet duidelijk of er voldoende capaciteit en/of middelen beschikbaar zijn om de planning te realiseren. Ook zijn de mensen die de benodigde werkzaamheden kunnen uitvoeren schaars op de arbeidsmarkt.
 Zelfstandig Bestuursorganen (ZBO’s) hebben een grote mate van zelfstandigheid. Ik zal ZBO’s wijzen op hun verantwoordelijkheid bij het registreren van hun algoritmes, maar ZBO’s beslissen zelf hoe zij hun taken uitvoeren.
 Organisatie specifiek
 Rijksdienst voor Ondernemend Nederland (RVO)
 RVO is begonnen met algoritmeregistratie en heeft bij de aftrap van het landelijk Algoritmeregister een algoritme gepubliceerd. RVO bereidt zich voor op volgende registraties en publicaties. RVO geeft uitvoering aan ongeveer 700 regelingen, waarbij veel algoritmes ingezet worden. Voor al deze regelingen zal geïnventariseerd moeten worden of ingezette algoritmes kwalificeren voor registratie en publicatie in het landelijk Algoritmeregister. RVO verwacht op dit moment dat uit de inventarisatie ongeveer 100 algoritmes naar voren komen om te registreren en publiceren richting eind 2025. RVO gaat de inventarisatie, registratie en publicatie getrapt aanpakken vanuit een centrale projectorganisatie («taskforce» benadering). De planning is om medio 2024 de organisatie brede inventarisatie afgerond te hebben, en de relevant bevonden algoritmes in drie batches te registreren en publiceren in Q2, Q3 en Q4 van 2025.
 Autoriteit Consument en Markt (ACM)
 De ACM onderschrijft de noodzaak dat overheidsorganisaties zorgdragen voor een verantwoorde inzet van algoritmes. De ACM maakt bij haar toezicht in toenemende mate ook zelf gebruik van algoritmes, die zij deels ook zelf vervaardigt. Daarom is de ACM in 2023 al gestart met onder andere het aanleggen van een intern algoritmeregister en het trainen van de organisatie in het Impact Assessment Mensenrechten en Algoritmes (IAMA). De ACM onderzoekt reeds op basis van haar eigen register het risico en de impact van de algoritmes die zij inzet. Aan de hand hiervan zal ACM in 2024 mede bepalen welke van haar algoritmes conform de handreiking Algoritmeregister in aanmerking komen voor landelijke registratie. De bepaling van de Instellingswet ACM dat openbaarmaking niet strijdig mag zijn met het doel van het toezicht van de ACM stelt mogelijk randvoorwaarden aan de wijze van registratie. De ACM zal in 2024 ten slotte bezien hoe haar governance van AI-systemen en algoritmes moet worden ingericht met het oog op adequate reguliere rapportage.
 In het tweede kwartaal van 2024 verwacht de ACM het onderzoek te hebben afgerond om te bepalen welke van de ca. 15 algoritmes uit haar eigen register in aanmerking komen voor registratie. Aan het einde van 2024 verwacht de ACM de algoritmes uit haar eigen register die in aanmerking komen voor registratie gepubliceerd te hebben. De ACM zal in 2024 de governance van AI-systemen en algoritmes uitwerken. De daaruit volgende governance processen zullen in 2025 ingericht en geïmplementeerd worden die gebruikt kunnen worden voor nieuwe algoritmes of aanpassingen van bestaande algoritmes. Er zal in 2025 ook een inventarisatie plaatsvinden of alle algoritmes die de ACM in gebruik heeft in het eigen register zijn opgenomen en indien nodig zal het eigen register worden aangevuld. Voor die algoritmes zal direct onderzocht worden of ze in aanmerking komen voor registratie en we verwachten die voor eind 2025 gepubliceerd te hebben. Vanaf eind 2025 is het vanuit de geïmplementeerde processen mogelijk om regulier te rapporteren over het gebruik en de registratie van algoritmes.
 Rijksinspectie Digitale Infrastructuur (RDI)
 De RDI is bezig met het inventariseren van de te registreren algoritmes. Op basis van de huidige inzichten zal het gaan om een klein aantal algoritmes. RDI plant om al die algoritmes in 2024 te registreren.
 Instituut Mijnbouwschade Groningen (IMG)
 Momenteel inventariseert IMG het exacte aantal algoritmes dat gepubliceerd moet worden. Naar verwachting zal het om enkele tientallen algoritmes gaan. Bij het beoordelen of een algoritme gepubliceerd moet worden, wordt naast de Handreiking Algoritmeregister ook rekening gehouden met de impact die het algoritme op de gehele samenleving heeft. Gezien het geringe aantal algoritmes streeft IMG er naar alle algoritmes voor eind 2024 te publiceren.
 Nationaal Coördinator Groningen (NCG)
 Momenteel inventariseert NCG het exacte aantal algoritmes dat gepubliceerd moet worden. Naar verwachting gaat het om 10 tot 20 algoritmes. Door de maatschappelijke relevantie van het werk van NCG zal NCG de normen voor selectie ruim interpreteren. De meest impactvolle algoritmes, te weten de algoritmes die gebruikt worden bij de beoordeling van de veiligheid van panden, zullen in Q1 2024 in het register opgenomen worden. Gezien het geringe aantal algoritmes streeft NCG er naar alle algoritmes voor eind 2024 te publiceren.
 Kerndepartement EZK
 Binnen het kerndepartement zijn nog geen algoritmes gevonden die geregistreerd moeten worden. De verwachting is dat bij de beleidsdirecties geen relevante algoritmes worden gevonden omdat zij geen uitvoeringstaken hebben. Om hier zeker van te zijn zal ik een nadere inventarisatie uitvoeren in 2024. Binnen de bedrijfsvoering worden mogelijk wel algoritmes gebruikt die gepubliceerd moeten worden. Dit zijn algoritmes die binnen de reikwijdte van de Europese AI verordening kunnen vallen. Dit zijn bijvoorbeeld algoritmes die bij de werving en selectie van personeel gebruikt worden. Zodra de verordening is vastgesteld zal ik hier meer onderzoek naar doen en zo nodig de relevante algoritmes publiceren.
 Kamer van Koophandel (KvK)
 De KvK heeft een inventarisatie gedaan op de algoritmes die officieel geregistreerd moeten worden. Tijdens de inventarisatie zijn enkele algoritmes gevonden. Het risico van deze algoritmes is laag bevonden en hoeven daarom niet te worden gepubliceerd. Om toch transparantie richting de maatschappij te leveren én om ervaring met de algoritmeregistratie op te doen is besloten om tenminste één algoritme in het register op te nemen. Ieder kwartaal bekijken de KvK en EZK of er een algoritme aan komt dat geregistreerd moet worden. Wanneer dat het geval is gaat de KvK het registratieproces verder implementeren.
 Staatstoezicht op de Mijnen (SodM)
 Bij de inventarisatie gedaan door SodM zijn geen algoritmes naar voren gekomen. Wel heeft SodM de ambitie om in de toekomst algoritmes te gaan gebruiken. Het kerndepartement EZK en SodM blijven met elkaar in gesprek over de voortgang van het gebruik van algoritmes. Voordat algoritmes in productie genomen worden zal bij SodM het algoritme registratie proces naar de minimumeisen van EZK ingericht zijn.
 Dienst ICT Uitvoering (DICTU)
 Binnen DICTU zijn bij een eerste inventarisatie geen algoritmes gevonden die geregistreerd moeten worden. DICTU voert momenteel een verdiepend onderzoek naar de mogelijk te registreren algoritmes uit. Wanneer er te registreren algoritmes gevonden worden zullen deze voor eind 2024 geregistreerd zijn. Ter voorbereiding op toekomstige registraties, wordt een registratie gestart voor een (niet high-impact) algoritme waarvan een IAMA beschikbaar is.
 Nederlandse Emissieautoriteit (NEa)
 De NEa heeft impactvolle algoritmes, maar deze algoritmes zijn een letterlijke vertaling van de rekenregels die de NEa ontvangt vanuit de Europese Commissie en Nederlandse wet- en regelgeving. Daarmee vallen deze algoritmes onder de uitzondering die op is genomen in de Handreiking Algoritmeregister (algoritmes die een handmatige werkinstructie automatiseren) en hoeven deze algoritmes niet in het algoritmeregister opgenomen te worden. Tevens zijn de rekenregels publiek beschikbaar en dus gepubliceerd.
 Centraal Planbureau (CPB)
 De economische algoritmes die binnen het CPB worden gebruikt vallen vanwege het toepassingsgebied en het ontbreken van directe impact buiten de verplichte registratie. Het CPB doet onderzoek naar algoritmes, deze onderzoeken zijn gepubliceerd en zijn voor wetenschappers toegankelijk. Het CPB blijft met het kerndepartement in gesprek over het gebruik van algoritmes binnen het CPB.
 Centraal Bureau voor de Statistiek (CBS)
 Het CBS gaat een eigen (openbaar) register bijhouden. Mogelijk sluit CBS later aan bij het Algoritmeregister van BZK. Het plan van aanpak voor het vullen van het eigen algoritmeregister wordt momenteel ontwikkeld en zal halverwege 2024 af zijn.
 Vervolgproces
 Ik zal mij blijven inzetten voor verantwoord gebruik van algoritmes en uw kamer informeren over de voortgang op dit onderwerp. Om dit zo goed mogelijk te doen, zal ik onderzoeken of het mogelijk is dit te bundelen met rapportages over vergelijkbare onderwerpen.
 
 
 
 
 De Minister van Economische Zaken en Klimaat,
 
 M.A.M.
 Adriaansens