Aan de Minister van Binnenlandse Zaken en Koninkrijksrelaties
Afschrift aan Vaste Kamercommissie Binnenlandse Zaken en Koninkrijksrelaties
Datum

1 juli 2022
Onderwerp

Oproep Amnesty International Nederland: Stop met discriminerende risicomodellen

Ons kenmerk

20220701/152/DO

Uw kenmerk

Hooggeachte mevrouw Bruins Slot,
Op deze dag waar we stilstaan bij afschaffing van de slavernij moeten we ook stilstaan bij
het institutionele racisme dat nog steeds diep geworteld zit in onze systemen. De Nationaal
Coördinator tegen Discriminatie en Racisme (NCDR) Rabin Baldewsingh riep deze week de
overheid op1 om te stoppen met discriminerende risicomodellen en hiervoor “waarborgen en
garanties” in te stellen. Ook Amnesty International stelt al geruime tijd dat de overheid het
gebruik van etniciteit en nationaliteit in risicoprofielen moet verbieden. Namens Amnesty
International Nederland bied ik u daarom het standpunt ‘Discriminerende risicoprofielen’ aan,
waarin wordt uiteengezet hoe het discriminatieverbod moet worden toegepast op
risicoprofielen2.
Een duidelijke norm tegen discriminatie
De Nederlandse overheid en uitvoeringsorganisaties gebruiken met regelmaat etniciteit of
nationaliteit in (semi-geautomatiseerde) risicoprofielen die worden gebruikt voor het
identificeren of opsporen van potentiële normovertreders. Het bekendste voorbeeld is het
risicomodel van de Belastingdienst waardoor mensen met een niet-Nederlandse nationaliteit
extra werden gecontroleerd op fraude. De Autoriteit Persoonsgegevens oordeelde dat er
hierbij sprake was van discriminatie. Amnesty International publiceerde hierover in 2021 het
rapport “Xenofobe Machines”3.
Het gebruik van etniciteit of nationaliteit in risicoprofielen leidt tot etnisch profileren, wat een
vorm van discriminatie is. Helaas is het kabinet tot nu toe niet overgegaan tot een expliciet
verbod hierop. Het valt op dat dit kabinet zegt in het coalieakkoord etnisch profileren te willen
bestrijden, maar tegelijkertijd de deur openlaat voor het gebruik van etniciteit of nationaliteit
in risicoprofielen. De praktijk laat echter zien dat het hoog tijd is dat u een duidelijke norm
stelt: discriminerende risicoprofielen zijn onacceptabel.
Etnisch profileren wijdverbreid
Al sinds 2013 dringt Amnesty International aan op maatregelen tegen etnisch profileren door
de politie. In 2019 bleek dat de politie in Roermond een discriminerend algoritme gebruikte
voor risicoprofilering, waarover Amnesty het rapport “We sense trouble” publiceerde4. Maar
niet alleen de politie en de Belastingdienst gebruikten een discriminerend risicoprofiel.
1 https://www.nu.nl/themaweek-racisme/6208347/nationaal-coordinator-wil-belofte-kabinet-stop-met-discriminerende-

lijsten.html
2 https://www.amnesty.nl/content/uploads/2022/06/AINL-Positie-discriminerende-risicoprofielen-juni-2022-1.pdf?x25635
3 https://www.amnesty.org/en/documents/eur35/4686/2021/nl/
4 https://www.amnesty.nl/actueel/nederland-maak-een-einde-aan-gevaarlijke-politie-experimenten-met-massasurveillance

Amnesty International werkt voor mensenrechten. Die waarborgen vrijheid, gelijkheid en rechtvaardigheid. Amnesty doet onderzoek, voert actie en
steunt verdedigers van mensenrechten wereldwijd.

Pagina 2

Momenteel voert Amnesty International samen met twee burgers en andere organisaties een
rechtszaak tegen de Koninklijke Marechaussee vanwege discriminerende risicoprofielen en
selectiebeslissingen die worden gebruikt bij controles aan de Schengen-grenzen. Onlangs
onthulde Argos dat de IND afkomst registreerde om te kunnen verwerken in een risicoprofiel.
En maar liefst 158 gemeenten gebruikten tot 2020 een ‘fraudescorekaart’ waarmee
waarschijnlijk werd gediscrimineerd op afkomst. Enkele gemeenten bleven dit risicoprofiel
ondanks waarschuwingen gebruiken; het is onduidelijk hoeveel gemeenten er nu nog mee
werken.
Omdat er momenteel veel onduidelijkheid is over het gebruik van discriminerende
risicoprofielen, zien we dat overheden en uitvoeringsorganisaties ruimte blijven zoeken om
te kunnen selecteren op etniciteit of nationaliteit bij controles of handhaving. Dit is in strijd
met het discriminatieverbod.
Kom met een duidelijk verbod op discriminerende risicomodellen
De wetgever moet een duidelijk, ondubbelzinnig en juridisch bindend verbod instellen op het
gebruik van gegevens betreffende nationaliteit en etniciteit, of proxy’s daarvan, in
risicoprofilering voor wetshandhavingsdoeleinden bij het opsporen van potentiële
wetsovertreders of mogelijke verdachten van strafbare feiten of fraude. Daarnaast dient er
voorafgaand aan het gebruik van risicoprofielen ook altijd getoetst te worden op indirecte
discriminatie. In de bijlage van deze brief wordt de positie verder toegelicht.
Naast een verbod op etniciteit en nationaliteit in risicoprofielen, zijn er voor (semi-)
geautomatiseerde risicoprofielen ook andere waarborgen nodig die ervoor zorgen dat
risicoprofilering niet in strijd is met mensenrechten: zoals een verplichte en bindende
mensenrechtentoets, een algoritmeregister, een onafhankelijk toezichthouder en een verbod
op 'live’ zelflerende algoritmen en 'black box'-algoritmen5.
Een verbod op discriminerende risicomodellen is een urgente kwestie die met grote spoed
moet en kan worden aangepakt, en niet langer vooruitgeschoven mag worden naar
bijvoorbeeld de Staatscommissie tegen Discriminatie en Racisme, die nog jaren bezig zal
zijn. De mensenrechtenverdragen, maar ook de woorden van dit kabinet zijn helder:
Discriminatie op grond van ras en nationaliteit door de overheid is onacceptabel leven. Het
is tijd dat deze woorden worden omgezet in daden.
Ik wil u daarom graag uitnodigen om op korte termijn hierover in gesprek te gaan.
Hoogachtend,

Drs. D.H. Oudshoorn-Tinga
Directeur Amnesty International Nederland

5 https://www.amnesty.nl/wat-we-doen/tech-en-mensenrechten/algoritmes-big-data-overheid