Tweede Kamer der Staten-Generaal
Postbus 20018
2500 EA Den Haag

Datum

20 april 2020
Onderwerp

Position paper Amnesty International t.b.v. hoorzitting corona-app
Ons kenmerk

Uw kenmerk

Geachte Kamerleden,
Amnesty International wil graag waardering uitspreken voor de actieve controlerende rol die
uw Kamer op zich neemt waar het gaat om de inzet van technologie in de bestrijding van het
coronavirus. Technologie kan een belangrijke rol spelen in deze bestrijding. Maar dat mag
niet ten koste gaan van mensenrechten. Amnesty International wil benadrukken dat er meer
mensenrechtenrisico’s verbonden zijn aan de inzet van apps in de virusbestrijding dan alleen
de privacy, namelijk discriminatie. Deze risico’s worden alleen maar versterkt door het hoge
tempo waarmee dit proces doorlopen wordt. Amnesty heeft dit proces op afstand kritisch
gevolgd.
Met deze position paper wil Amnesty International uw Kamer enkele voorwaarden meegeven
voor het gebruik van apps. Graag wijzen wij u erop dat het moment van indienen van deze
position paper maandag 20 april 15.00 uur is, dus nog voordat het kabinet een besluit neemt
over een volgende stap voor de inzet van apps.
Apps mogen niet leiden tot ongelijke behandeling
Zoals gezegd hebben dergelijke apps naast de terecht grote zorgen over privacy potentieel
meer risico’s op mensenrechtenschendingen. Het gebruik van de app moet vrijwillig zijn en
mag dus nooit verplicht worden gesteld door de overheid. Ook moet er een verbod komen
op het verplicht stellen van de app door derden.
Vrijwillig betekent ook dat niemand behalve zorgverleners mogen vragen naar de risicoscore
van de app. De risicoscore van de app is niets meer dan een inschatting en geeft een
vertekend beeld buiten de context van contact tracing. Bijvoorbeeld in wijken met een lage
sociaal-economische status wonen mensen veel dichter op elkaar in kleine rijtjeswoningen of
flats. Hierdoor zullen bewoners meer signalen ontvangen van personen met wie zij nog nooit
in contact zijn geweest, zogeheten false-positives die hun risicoscore omhoog krikken. Indien
de risicoscore mag leiden tot een andere behandeling van een individu door nietzorgverleners kan dit al snel leiden tot ongelijke behandeling en discriminatie op basis van
economische positie.

Amnesty International werkt voor mensenrechten. Die waarborgen vrijheid, gelijkheid en rechtvaardigheid. Amnesty doet onderzoek, voert actie en
steunt verdedigers van mensenrechten wereldwijd.

Pagina 2

Vrijwilligheid betekent daarnaast dat het belonen of straffen van appgebruik moet worden
verboden. Dit belonen zou bijvoorbeeld kunnen door het geven van korting op producten of
diensten, het straffen door een hogere prijs te vragen bij geen appgebruik. Mensen die in
armoede leven moeten dan noodgedwongen voor appgebruik kiezen. Dat is geen vrije keuze.
Apps mogen niet leiden tot surveillance
Contact tracing leidt gemakkelijk tot massa-surveillance omdat contact- en
bewegingspatronen van individuen worden gemonitord door de overheid of door bedrijven.
Dit is ontoelaatbaar. Te meer nu er privacy-vriendelijke opties bestaan. Echter, ook contact
tracing met apps die aan de eisen voldoet van Veilig Tegen Corona openen de deur voor
massa-surveillance. Deze risico’s kunnen niet door de technologie worden opgelost en
worden ook niet afgevangen door het naleven van de privacywetgeving, zoals de Avg.
Voordat contact tracing wordt ingevoerd in Nederland moeten de volgende gevaren van
surveillance en voor ongelijkheid zijn uitgesloten.
Ook moet er een verbod komen op contact tracing door anderen dan de overheid. De kans
is reëel dat een eventuele contact tracing-app gebruik gaat maken van de Google en Apple
API. Deze bedrijven zijn nu bezig met de ontwikkeling van die tool. Amnesty roept de
overheid op om deze bedrijven deze tool zo te laten ontwerpen dat gebruikers het bijhouden
van databases en het uitzenden van signalen altijd zelf aan of uit kunnen zetten. Privacy by
design en privacy by default moeten ook in deze tool het uitgangspunt zijn.
Contact tracing infrastructuur mag niet voor een ander doel dan virusbestrijding gebruikt
worden. Door contact tracing te promoten als overheid, spoor je mensen aan om de hele tijd
signalen uit te zenden. Die uitgezonden signalen kunnen ook voor andere doeleinden worden
gebruikt dan contact tracing. Bijvoorbeeld door werkgevers die willen weten of hun
werknemers een hoog risico hebben, door Google die afluistert via “smart” home producten
of door winkels om mensen te volgen en te analyseren en die gegevens eventueel te
combineren met online profielen. Dit moet verboden worden. De contact tracinginfrastructuur mag niet worden hergebruikt voor andere doeleinden. De AVG regelt het
hergebruik van data en kan dus niet het hergebruik van infrastructuur reguleren. Hier moet
een apart verbod op komen.
Apps mogen niet werken op oncontroleerbare kunstmatige intelligentie
Een van de geselecteerde apps die gepresenteerd werd op de ‘appathon’ stelde een platform
voor waarbij gebruikers zelf data kunnen doorsturen die gebruikt kunnen worden voor
analyse met behulp van (zelflerende) algoritmes. Overheidshandelen moet controleerbaar en
voorspelbaar zijn, zeker wanneer hier rechtsgevolgen aan verbonden zijn, het individuen in
aanmerkelijke mate treft, of een grote impact heeft op mens of maatschappij, zoals een
besluit over coronamaatregelen. Het gebruik van zelflerende algoritmes impliceert
verminderde controle op het overheidshandelen. Hierdoor passen zelflerende algoritmes niet
bij de uitvoering van dit type overheidstaak. Daarnaast biedt het huidige wettelijk kader te
weinig mensenrechtenbescherming voor het gebruik van algoritmes in de uitvoering van de
overheidstaken. Zie voor het verdere standpunt van Amnesty International over AI,
algoritmes en mensenrechten deze position paper aan Kamercommissie Digitale Toekomst.
Middels dit schrijven willen we u vragen er bij het kabinet op aan te dringen zich te bezinnen
voordat er verdere stappen genomen in dit proces. Welk probleem lost een dergelijk app op?
Wat is de bewezen effectiviteit? En wat is de impact op mensenrechten in brede zin? Hierbij
roepen we u op om bovengenoemde mensenrechtenwaarborgen mee te nemen in dit proces.
Hoogachtend,
Merel Koning
Senior Medewerker Tech & Mensenrechten Amnesty International