Toezegging commissiedebat Inzet algoritmen en data-ethiek (Schufa-arrest)
Staten-Generaal — Kamerstuk Brief
Datum: 2025-03-12 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2024-2025
 Tweede Kamer der Staten-Generaal
 2
 Kamerstukken
 
 
 
 32 761
 
 Verwerking en bescherming persoonsgegevens
 
 
 Nr. 314
 BRIEF VAN DE STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID
 
 
 
 Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
 Den Haag, 6 maart 2025
 Tijdens het commissiedebat Inzet algoritmen en data-ethiek op 28 januari 2025 (Kamerstuk 26 643, nr. 1283), heeft het lid Ergin (DENK) gevraagd hoe het advies van de Autoriteit Persoonsgegevens (AP) d.d. 10 oktober 20241Advies artikel 22 AVG en geautomatiseerde selectie-instrumenten zich verhoudt tot het arrest van het Hof van Justitie van de Europese Unie (HvJEU) in de zaak «Schufa».
 Het lid Ergin stelde de vraag of de Europese interpretatie van de Europese regels strikter is dan de interpretatie door de AP in haar advies. De Staatssecretaris Koninkrijksrelaties en Digitalisering zegde toe hierop schriftelijk terug te komen. Met deze brief doe ik deze toezegging gestand.
 Vooropgesteld dient te worden dat het HvJEU en de AP beide uitgaan van hetzelfde Europeesrechtelijk normenkader, zoals dat is vastgelegd in de Algemene Verordening Gegevensbescherming (AVG). Dat de AP dit kader minder strikt interpreteert dan het HvJEU, valt uit haar advies niet af te leiden. Graag licht ik dit toe.
 Geautomatiseerde besluitvorming
 Artikel 22, eerste lid, AVG verbiedt geautomatiseerde individuele besluitvorming. Dat betreft een uitsluitend op geautomatiseerde verwerking, met inbegrip van profilering, gebaseerd besluit, waaraan ofwel voor de betrokkene rechtsgevolgen zijn verbonden ofwel dat hem anderszins in aanmerkelijk mate treft. Het HvJEU oordeelde in het Schufa-arrest dat niet alleen de uiteindelijke beslissing zelf, maar ook de voorbereidende handelingen die leiden tot die beslissing gezien kunnen worden als geautomatiseerde besluitvorming.
 Het Schufa-arrest
 Op 7 december 2023 heeft het HvJEU twee arresten gewezen in verband met de
 gegevensverwerking door het Duitse kredietinformatiebureau Schufa Holding AG, dat zijn cliënten informatie verstrekt over de kredietwaardigheid van derden. In één van deze arresten2HvJEU 7 december 2023, ECLI:EU:C:2023:957 staat geautomatiseerde besluitvorming centraal. Daarbij ging het om de praktijk waarbij Schufa, aan de hand van persoonlijke kenmerken en een wiskundig-statistische methode, op geautomatiseerde wijze «scores» opstelde. Daaruit volgde bijvoorbeeld hoe waarschijnlijk het is dat een kredietaanvrager toekomstige betalingsverplichtingen zal nakomen. In de praktijk werd de beslissing tot kredietverlening gebaseerd op de scores. Over deze gang van zaken liet het HvJEU zich uit. Als het hoofdzakelijk van een geautomatiseerd gegenereerde waarschijnlijkheidswaarde afhangt welke beslissing wordt genomen op de aanvraag van de desbetreffende persoon, is naar het oordeel van het HvJEU sprake van «geautomatiseerde individuele besluitvorming» in de zin van artikel 22 AVG, ook al wordt de definitieve beslissing door een mens genomen.
 Het AP-advies
 In haar advies geeft de AP zich aantoonbaar rekenschap van het Schufa-arrest. Zij zwakt de daarin uitgesproken conclusies niet af, maar past ze toe op de aan haar voorgelegde Nederlandse uitvoeringspraktijk. In de kabinetsreactie d.d. 3 december 20243Kamerstukken II, 2023–2024, 32 761 nr. 310 (Reactie advies AP inzake geautomatiseerde selectietechnieken) bij het advies is nader ingegaan op het advies van de AP en de definitie van «besluit». De AP benadrukt in haar advies onder andere het belang van betekenisvolle menselijke tussenkomst bij de inzet van geautomatiseerde risicoselectie-instrumenten. Ook dit is in lijn met het oordeel van het HvJEU, dat als gezegd concludeert dat sprake is van geautomatiseerde besluitvorming wanneer een besluit weliswaar door een mens genomen wordt, maar dat besluit hoofdzakelijk afhangt van een voorgaande geautomatiseerde beoordeling zoals een waarschijnlijkheidswaarde. Dit maakt duidelijk dat menselijke tussenkomst alleen niet voldoende is: deze moet betekenisvol zijn. Om betekenisvol te zijn, moet degene die «tussenkomt» voldoende kunnen beoordelen of selectie in een bepaald geval terecht is. Dat vereist dat de behandelaar weet hoe het geautomatiseerde proces werkt en welke invloed dit heeft op het uiteindelijke besluit. De AP stelt daarnaast een vijftal andere voorwaarden waaraan geautomatiseerde risicoselectie moet voldoen, waaronder het vooraf en periodiek onderzoeken en ondervangen van discriminatoire verwerkingen en kenbaarheid voor de betrokkene.
 Ik zie in het advies dan ook geen aanwijzingen dat de interpretatie van de AP van artikel 22 AVG minder strikt is dan die van het HvJEU.
 
 
 
 
 De Staatssecretaris van Justitie en Veiligheid,
 
 T.H.D.
 Struycken