Brief van de staatssecretaris van BZK met een reactie op de aangehouden motie-Prins c.s. over geautomatiseerde besluitvorming met een hoge impact op mensenrechten
Staten-Generaal — Kamerstuk Brief
Datum: 2023-05-04 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2022-2023
 Eerste Kamer der Staten-Generaal
 1
 Kamerstukken
 
 
 
 CXLVII
 
 Grip op algoritmische besluitvorming bij de overheid: de rol van de Eerste Kamer
 
 
 
 K
 
 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES
 
 
 
 Aan de Voorzitter van de Eerste Kamer der Staten-Generaal
 Den Haag, 30 maart 2023
 In het debat met Uw Kamer op 21 maart jl. over «Grip op algoritmische besluitvorming bij de overheid» heb ik een schriftelijke toelichting toegezegd op mijn waardering van de motie die mevrouw Prins (CDA) indiende.
 De motie constateert dat tot nu toe geautomatiseerde besluitvorming onder bestaande wetgeving zonder betrokkenheid van het parlement kan worden ingezet en verzoekt de regering om ervoor te zorgen dat ook de inzet van geautomatiseerde besluitvorming met een hoge impact op de mensenrechten voortaan vooraf wordt voorgelegd aan de Tweede en Eerste Kamer.
 Zoals ik aangaf in mijn mondelinge reactie op 21 maart, is de motie op twee punten erg breed. De motie vraagt allereerst aan alle bestuurslagen om hun inzet van geautomatiseerde besluitvorming aan uw Kamer voor te leggen. Dat past niet goed bij onze staatsinrichting en de manier waarop decentrale overheden verantwoording afleggen. Een voorafgaande toets door uw Kamer op geautomatiseerde besluitvormingssystemen zou daarnaast de uitvoering belemmeren. De uitvoering van wetgeving vindt plaats onder verantwoordelijkheid van de bewindspersoon en die kan daarover ter verantwoording worden geroepen in het parlement. Samen zorgen de regering en het parlement voor goede wetgeving en de kaders waarbinnen deze uitvoering moet plaatsvinden.
 In deze brief licht ik dit nader toe en stel ik een alternatief voor. Ik benadruk graag dat de hierna genoemde waarborgen en maatregelen die al bestaan of die ik ga treffen om te komen tot een verantwoorde inzet van AI-systemen en algoritmen ook gelden voor systemen die ter uitvoering van bestaande wetgeving worden ingezet.
 Er bestaan op dit moment al mogelijkheden voor uw Kamer om vanuit uw medewetgevende rol grip te krijgen op algoritmische besluitvorming. Omdat elk systeem weer anders is, vind ik het vooral van belang dat er duidelijke regels en waarborgen bestaan waar elk systeem aan moet voldoen. In het debat met uw Kamer hebben we daarover van gedachten gewisseld. Ik heb geschetst op welke manier de instrumenten van het algemene wetgevingsbeleid ook nu al helpen. Het legaliteitsbeginsel eist bijv. dat belangrijke zaken in de wet worden geregeld, dit noemen we het primaat van de wetgever. Voor de verwerking van persoonsgegevens door hoog risico AI-systemen is doorgaans een goede wettelijke basis nodig.
 In memories van toelichting wordt verantwoording afgelegd over de uitvoering en uitvoerbaarheid van wetsvoorstellen. Dit maakt dat uw Kamer goed geïnformeerd tot keuzes kan komen. Dat is ook gebeurd bij bestaande wetgeving. De toelichting bij relevante voorstellen zal wordt uitgebreid met een verplichte informatieparagraaf en expliciete aandacht voor de digitale component. Een evaluatiebepaling in een wetsvoorstel kan helpen. Ook werk ik aan de ontwikkeling en implementatie van nieuw wetgevingsbeleid in de vorm van een praktische tool voor het vanaf de ontwerpfase van wetgeving meenemen van de mogelijkheden van omzetting in code (algoritmes). Zo wordt de democratische legitimatie geborgd en de uitvoerbaarheid vergroot. Tot slot noem ik hier de wijziging van de Algemene wet bestuursrecht ter versterking van de waarborgfunctie die op dit moment in preconsultatie is. In de preconsultatie is een vraag over algoritmische besluitvorming meegenomen. Deze vraag wordt binnenkort in een expertsessie nader verkend en het antwoord zal worden meegenomen in de totstandbrenging van het voorstel.
 Het kabinet werkt ook aan de verbetering van de uitvoering. Met het programma Werk aan Uitvoering (WaU) werkt het kabinet aan mogelijkheden die ervoor moeten zorgen dat ambtenaren meer ruimte krijgen om passende oplossingen te bieden aan burgers en bedrijven. Hierbij staat voor mij voorop dat in de dienstverlening van de overheid gebaseerd op algoritmes er een menselijke tussenkomst mogelijk is. Dit zal ook gelden voor uitvoering gebaseerd op bestaande wetgeving.
 Daarnaast wordt binnen Europa gewerkt aan de AI-verordening. In de verordening worden AI-systemen onderverdeeld in risicocategorieën, waaraan specifieke eisen worden gesteld per categorie. De verordening zal verplichtingen bevatten voor zowel de ontwikkelaars als de gebruikers van AI-systemen. De precieze tekst van de verordening staat op dit moment echter nog niet vast.
 Daarnaast worden er instrumenten en werkwijzen ontwikkeld om te komen tot een verantwoorde inzet van algoritmes en AI-systemen bij ons functioneren als overheid.
 1. Het algoritmeregister
 In het algoritmeregister, dat op termijn verplicht wordt, publiceren overheidsorganisaties de hoog-risico algoritmes die zij gebruiken. Ook bestaande algoritmes gebaseerd op bestaande wetgeving. Ik roep overheden op om hun algoritmes in het centrale algoritmeregister te registreren. Dit maakt algoritmegebruik transparanter en geeft inzage aan burgers, journalisten en anderen over welke algoritmes door overheden worden ingezet.
 2. Versteviging van toezicht
 Door de oprichting van een algoritmetoezichthouder1Kamerbrief over inrichtingsnota algoritmetoezichthouder | Kamerstuk | Rijksoverheid.nl., in de vorm van de directie Coördinatie Algoritmes bij de Autoriteit Persoonsgegevens (AP). Deze directie werkt momenteel samen met andere toezichthoudersom te komen tot gezamenlijke normuitleg, deelt signalen over algoritmegebruik en versterkt de samenwerking tussen toezichthouders op algoritmegebied. Dit stelt het bestaande toezichtlandschap beter in staat controle te houden op gebruik van algoritmes in de verschillende sectoren.
 3. Implementatiekader voor toepassing van algoritmes door de overheid
 Om te zorgen dat overheidsorganisaties weten aan welke wettelijke eisen en publieke waarden het gebruik van algoritmes moet voldoen, werk ik aan een implementatiekader. Het implementatiekader schept duidelijkheid over aan welke geldende wet- en regelgeving moet worden voldaan en heeft oog voor aspecten als inkoop, ethiek en archivering. Dit kader bestrijkt de gehele levenscyclus van een algoritme
 4. Inkoop van algoritmes van derde partijen
 Omdat algoritmes vaak niet door overheidsorganisaties zelf ontwikkeld worden, maar worden ingekocht, gaan we voor de overheid algemeen geldende inkoopvoorwaarden opstellen voor algoritmes die de overheid inkoopt bij derden. Een goed voorbeeld hiervan zijn de contractvoorwaarden die de gemeente Amsterdam al aan algoritmes stelt. Ik voorzie dat deze inkoopvoorwaarden opgenomen zullen worden in het bovengenoemde implementatiekader.
 5. Bewustwording
 Op verschillende manieren zorg ik voor meer bewustwording binnen de overheid over het (juiste, mensgerichte) gebruik van algoritmes. De aandacht in de media, de kritische vragen vanuit de maatschappij, de vragen vanuit uw Kamer en de Tweede Kamer helpen daarbij. Een voorbeeld hiervan is de AI-parade langs Nederlandse bibliotheken. Ook de interbestuurlijke overleggen rondom het algoritmeregister en helpen daarbij.
 Bovenstaande maatregelen gelden ook voor systemen die ter uitvoering van bestaande wetgeving worden ingezet. Zo bieden deze maatregelen ook meer transparantie en controlemogelijkheden voor bestaande algoritmes die de overheid inzet en voorkomen we samen dat schendingen van onze mensenrechten. Tezamen met de juridische kaders, zowel de bestaande regels als de op handen zijnde Europese wetgeving (AI Act), werken we op deze manier aan de «checks and balances» die nodig zijn om ongewenste gevolgen van de inzet van algoritmes door de overheid voor burgers te voorkomen.
 Ik heb begrip en waardering voor de behoefte van uw Kamer om meer grip te krijgen op algoritmische besluitvorming. Het inzetten van AI-systemen onder bestaande wetgeving gebeurt echter niet zonder democratische legitimatie, zoals uw motie lijkt te veronderstellen. Het parlement, het kabinet en de rechter hebben elk hun eigen rol. Zo is het Syri-systeem weliswaar wettelijk geborgd, maar door de rechter toch in strijd met het Europees Verdrag voor de Rechten van de Mens bevonden. Daarom is mijn voorstel te komen tot een dialoog met Uw Kamer, de Tweede Kamer, de uitvoering, de rechtspraak en het toezicht om de waarborgen bij geautomatiseerde besluitvorming aan de orde te stellen en vanuit de praktijk te zoeken naar wijzen om hierop grip te hebben (en te bezien hoe de betrokkenheid van de Kamers eventueel versterkt kan worden). In de dialoog zou aan de orde kunnen komen of de waarborgen die nu getroffen worden, afdoende zijn, of waar verbeteringen mogelijk zijn.
 De motie zou ik dus willen ontraden, maar als alternatief stel ik een dialoog voor. Graag wil ik Uw Kamer voor het zomerreces informeren hoe een dergelijke dialoog eruit zou komen te zien. Ook zal uw Kamer informeren over de uitkomsten van deze dialoog.
 Tot slot is met het lid van Uw Kamer mevrouw Veldhoen (GroenLinks) aan het einde van de tweede termijn nog gesproken over de vraag of in de hoog-risico categorie in de concept AI-verordening voorspellende AI-systemen voor «criminal offences» ook «other offences» moeten worden meegenomen. Dit zouden dan gevallen zijn die zien op fraude en overtredingen. Hierop heb ik geantwoord dat AI-systemen die risico-onderzoeken doen en fraude proberen te detecteren (welke vorm van fraude dan ook) als hoog-risico AI-systeem worden geclassificeerd. Ik heb daarbij toegezegd het u te laten weten als dit niet klopt. Ik kan u bij dezen bevestigen dat mijn antwoord in het debat juist was.
 
 
 
 
 De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties – Digitalisering en Koninkrijksrelaties,
 
 A.C. van
 Huffelen