Verslag van een schriftelijk overleg met de minister van Binnenlandse Zaken en Koninkrijksrelaties (BZK) over de kabinetsreactie op de rapporten ‘Opwaarderen - Borgen van publieke waarden in de digitale samenleving’ en ‘Mensenrechten in het Robottijdperk’ van het Rathenau Instituut
Staten-Generaal — Kamerstuk Verslag
Datum: 2018-06-28 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2017-2018
 Eerste Kamer der Staten-Generaal
 1
 Kamerstukken
 
 
 
 CVIII
 
 Rol van de overheid bij digitale dataverwerking en -uitwisseling II; privacy en toezicht op de inlichtingen- en veiligheidsdiensten
 
 
 
 T
 
 VERSLAG VAN EEN SCHRIFTELIJK OVERLEG
 Vastgesteld 25 juni 2018
 
 
 
 
 De vaste commissies voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning1Samenstelling Binnenlandse Zaken en de Hoge Colleges van Staat/Algemene Zaken en Huis van de Koning:Engels (D66) (voorzitter), Nagel (50PLUS), vac. (SP) (vice-voorzitter), Van Bijsterveld (CDA), Duthler (VVD), Ten Hoeve (OSF), Huijbregts-Schiedon (VVD), Van Kappen (VVD), Koffeman (PvdD), Strik (GL), De Vries-Leggedoor (CDA), Flierman (CDA), De Graaf (D66), Schouwenaar (VVD), Van Strien (PVV), P. van Dijk (PVV), Gerkens (SP), Van Hattem (PVV), Köhler (SP), Lintmeijer (GL), Pijlman (D66), Rombouts (CDA), Schalk (SGP), Verheijen (PvdA), Bikker (CU), Klip-Martin (VVD), Sini (PvdA), Van der Sluijs (PVV), Fiers (PvdA). en voor Justitie en Veiligheid2Samenstelling Justitie en Veiligheid:Engels (D66), vac. (SP), Van Bijsterveld (CDA) (vice-voorzitter), Duthler (VVD) (voorzitter), Ten Hoeve (OSF), Koffeman (PvdD), Strik (GL), Knip (VVD), Backer (D66), Schouwenaar (VVD), Van Strien (PVV), Kok (PVV), Gerkens (SP), Vlietstra (PvdA), Lokin-Sassen (CDA), Bredenoord (D66), Dercksen (PVV), D.J.H. van Dijk (SGP), Van Rij (CDA), Rombouts (CDA), Van de Ven (VVD), Wezel (SP), Bikker (CU), Baay-Timmerman (50PLUS) Van Zandbrink (PvdA), Aardema (PVV), Fiers (PvdA). hebben kennisgenomen van de reactie van de regering op twee rapporten van het Rathenau Instituut, te weten:
 
 
 •
 Opwaarderen – Borgen van publieke waarden in de digitale samenleving en
 
 
 •
 Mensenrechten in het Robottijdperk.3Kamerstukken I 2017/18, CVIII, S.
 
 
 Naar aanleiding hiervan hebben zij de Minister van Binnenlandse Zaken en Koninkrijksrelaties op 17 april 2018 een brief gestuurd.
 
 De Minister heeft op 22 mei en 25 juni 2018 gereageerd.
 De commissies brengen bijgaand verslag uit van het gevoerde schriftelijk overleg.
 
 
 
 
 De griffier voor dit verslag,
 
 Bergman
 
 
 
 
 
 
 BRIEF VAN DE VOORZITTERS VAN DE VASTE COMMISSIES VOOR BINNENLANDSE ZAKEN EN DE HOGE COLLEGES VAN STAAT/ALGEMENE ZAKEN EN HUIS VAN DE KONING EN VOOR JUSTITIE EN VEILIGHEID
 
 
 
 Aan de Minister van Binnenlandse Zaken en Koninkrijksrelaties
 Den Haag, 17 april 2018
 De commissies voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning en voor Justitie en Veiligheid hebben met belangstelling kennisgenomen van de reactie van de regering op twee rapporten van het Rathenau Instituut, te weten:
 
 
 •
 Opwaarderen – Borgen van publieke waarden in de digitale samenleving en
 
 
 •
 Mensenrechten in het Robottijdperk.4Kamerstukken I 2017/18, CVIII, S.
 
 
 Naar aanleiding van de kabinetsreactie hebben de leden van de SP-fractie en de leden van de PvdA-fractie nog enkele vragen.
 Vragen van de leden van de SP-fractie
 De digitalisering van de samenleving is in volle gang, zo constateren de leden van de SP-fractie. Digitale technieken beheersen de innovatie en nemen in toenemende mate taken van ons over. De leden van de fractie van de SP willen hier voorop stellen dat deze ontwikkeling onstuitbaar is en zeker niet altijd negatief. De digitalisering van de maatschappij heeft in hun ogen altijd twee kanten. Zo wordt de democratie versterkt door de ontsluiting van informatie, maar verzwakt door de onbetrouwbaarheid ervan. Kunnen we door de digitalisering met een knop de hele wereld ontdekken, met diezelfde knop ontdekt de wereld jou, ook als je dat niet zou willen. En alhoewel IT een techniek is die processen standaardiseert, de gecompliceerdheid ervan maakt dat we juist minder kunnen overzien wat de consequenties zijn. Heimelijk wordt er juist meer informatie van je verzameld dan waar je toegang toe hebt gegeven.
 De digitale wereld is meer dan een techniek. Het is een nieuwe manier van denken, een nieuwe manier van werken. Creativiteit viert er hoogtij, evenals het pakken van kansen, de ouderwetse American Dream is nu de IT dream geworden. Met een goede applicatie kun je miljardair worden. De markt ligt open. Onze economie wordt niet alleen door deze kansen beïnvloed, maar ook door het toenemen van de diensteneconomie. Het bezit staat minder centraal, maar de kwaliteit van de dienst wel.
 De keerzijde van die medaille is dat vele initiatieven ontplooid worden vanuit het «niet-omdat-het-moet, maar-omdat-het-kan»-principe. Het aanbod creëert dan de behoefte, zoals commerciële initiatieven vaker doen. En ook al kunnen we over dit uitgangspunt nog heel wat zeggen, het hoeft niet per definitie een verkeerd uitgangspunt te zijn. Gevaarlijk wordt het echter wanneer het aanbod zo verweven is met ons leven, dat we ons er niet meer van kunnen losmaken. En dat die verwevenheid verregaande consequenties heeft voor ons leven, dat we onze autonomie dreigen te verliezen, of erger, onze menselijkheid dreigen te verliezen.
 Deelt deze regering die zorg van de leden van de fractie van de SP? Kan de regering ingaan op de oproep die Stephen Hawking onder andere in 2015 deed om op voorhand de kaders aan te geven waarbinnen artificiële intelligentie zich mag bewegen om te voorkomen dat deze ontwikkeling in mindere of meerdere mate zal leiden tot de vernietiging van de mensheid? Hawking en andere geleerden als Elon Musk werpen de vraag op hoe intelligente systemen blijvend beheersbaar te houden en spreken de nadrukkelijke vrees uit dat de systemen ons voorbij gaan streven. Wanneer we gaan nadenken over de consequentie als het point of no return gepasseerd is, zijn we te laat om nog bij te sturen. De systemen zullen zich niet zonder meer laten stoppen wanneer wij geen veiligheidskleppen hebben ingesteld, omdat zij per definitie slimmer zullen zijn dan de mens. De vraag is hoe de samenleving zich voorbereidt op deze ontwikkeling en welke keuzes wij hierin wenselijk achten.
 Het Rathenau Instituut constateert terecht dat die discussie nog niet is geland in onze samenleving en stelt dan wel geen ethische commissie voor, maar wel een interdepartementale werkgroep die toewerkt naar een kabinetsvisie op deze ontwikkelingen. De leden van de fractie van de SP zien in de oprichting die het kabinet voor ogen heeft dat het de onderwerpen van deze werkgroep praktisch insteekt, bijna op het niveau van uitvoering. Nu zijn deze vragen zeker actueel en beseffen de leden dat juist deze praktische vragen op het kabinet afkomen. Ook het Rathenau Instituut constateerde dat er op het beleidsmatige vlak omissies zijn, die met spoed opgepakt dienen te worden. De leden van de fractie van de SP juichen de aanpak van deze witte vlekken zeker toe. Zij vragen echter met klem dit kabinet om ook met meer afstand te kijken naar de digitale ontwikkelingen. Ervan uitgaande dat niet de vraag meer is of iets kan, maar eerder wanneer het kan, wetende dat deze ontwikkelingen zich in het private domein bewegen, op welke wijze kan de politiek zich voorbereiden op wat er komen gaat?
 De leden van de SP-fractie hebben zich verbaasd over de opmerkingen dat de regering van mening is dat niet per definitie de juridische systemen aanpassing behoeven. Deze leden zijn van mening dat het zeker is dat die systemen aanpassing behoeven, juist omdat we niet weten waar we uit zullen komen in de digitalisering van de samenleving. De snelheid, hoeveelheid en anonimiteit van de digitale wereld laat immers nu zijn sporen al na. Als een foto uitlekt, is hij in een mum van tijd door miljoenen mensen bekeken. Ook al heeft men dan de juridische mogelijkheden om de verspreider aan te pakken, de tijd, het geld en de moeite die dat kost, maken dat welhaast een theoretische mogelijkheid omdat het kwaad per minuut erger wordt. De leden van de fractie van de SP denken dat een herbezinning hard nodig is om de bescherming van mensen te kunnen waarborgen. In dat kader juichen deze leden de aandacht voor privacy en security bij de Nederlandse overheid zeker toe, maar zij willen erop wijzen dat dit grotendeels op het uitvoerende vlak ligt is, daar waar de motie-Gerkens5Kamerstukken I 2014/15, CVIII, E. op het abstracte niveau acteert.
 Dat geldt ook voor de opmerkingen ten aanzien van de brede maatschappelijke discussie. De leden van de fractie van de SP lezen het rapport Opwaarderen zo, dat de discussie over de digitalisering van de samenleving echt maatschappijbreed gevoerd dient te worden. De laatste jaren zien we dat de discussie ontstaat nadat het beleid is gemaakt, of het nu gaat om kentekenregistratie of over het gebruik van biometrie in het paspoort. Elon Musk roept op om mens en techniek fysiek met elkaar te verbinden, tot het creëren van cyborgs dus. Is dit een ontwikkeling die we willen? Valt het creëren van die cyborg dan onder de medische ontwikkeling of technische ontwikkeling? Krijgen we straks allemaal een chip onder onze huid die ons kan identificeren en volgen waar we gaan? Terwijl we als samenleving hebben besloten dat klonen onwenselijk is, wordt er momenteel gewerkt aan een computer, die naast machine ook kan voelen en reageren als een mens. Vinden we dat een wenselijke ontwikkeling? Laten we onze rechtbanken vervangen door computers, die immers emotieloos kunnen oordelen? In hoeverre laten we straks intelligente systemen het politieke beleid ontwerpen? Willen we het gebruik van robots in oorlogsvoering verbieden, zoals Stephen Hawking heeft bepleit?
 Deze vragen zullen de komende jaren steeds relevanter worden. De leden van de fractie van de SP missen de visie van het kabinet op het opkomen van deze vragen en hoe hier mee om te gaan.
 Deze leden zijn in die zin verheugd over de reactie van het kabinet, dat het een degelijke poging doet het thema te duiden en te zoeken naar waar de gaten gedicht dienen te worden. De voorstellen die het Rathenau Instituut doet, worden serieus onder de loep genomen en gedeeltelijk opgepakt. Deze leden maken zich echter zorgen dat bij een volgend kabinet deze beginnende aandacht zo weer kan wegzakken. Dit vraagstuk heeft een langdurige borging nodig in het politieke veld. Bovendien is de reactie van het kabinet gericht op de uitvoeringspraktijk, terwijl de leden van de fractie van de SP juist aan de regering vragen om op een abstracter niveau beleid te ontwikkelen. Zij vragen of de regering die mening deelt en wat de regering zou willen voorstellen om de toetsing van de ontwikkeling van de technieken en de implicaties die deze hebben, te borgen en op welke wijze zij beleid wil ontwikkelen om kaders te stellen voor de voortschrijdende digitalisering van de samenleving.
 Jules Verne publiceerde in 1865 zijn verhaal over een reis naar de maan, die toen gezien werd als science fiction. Iets meer dan 100 jaar later stapte Neil Armstrong op het hemellichaam. In 1968 kwam Stanley Kubricks 2001: A Space Odyssey uit, een verhaal dat nog steeds actueel is. HAL is echter inmiddels geen science fiction meer en laat ons bij uitstek het vraagstuk zien wat aan de horizon opkomt: hoe houden we controle op de systemen om te voorkomen dat zij controle over ons krijgen?
 Vragen van de leden van de PvdA-fractie
 De leden van de PvdA-fractie hebben met belangstelling kennisgenomen van de reactie van de regering op de Rathenau-rapporten ter zake van de bescherming van publieke waarden in het digitale tijdperk. Zij hebben de volgende vragen.
 
 1.
 Het kabinet stelt in zijn brief op p. 10 dat het de stelling van het Rathenau Instituut onderschrijft «dat robots menselijke relaties niet zouden moeten vervangen maar verbeteren». Omdat menselijke relaties een intrinsieke unieke betekenis hebben, vragen de leden van de PvdA-fractie wat het kabinet hier bedoelt met «verbeteren». Welke bijdrage kunnen robots hieraan leveren?
 
 
 2.
 Ook schrijft de regering dat «erkenning van een betekenisvol menselijk contact in het kader van de digitalisering deels besloten (ligt) in het vereiste van artikel 22 van de AVG dat, indien aan geautomatiseerde besluitvorming rechtsgevolgen zijn verbonden of gevolgen die betrokkene in juridische zin of anderszins in aanmerkelijke mate treffen, zich manifesteren, steeds van menselijke tussenkomst in de besluitvorming sprake dient te zijn» (p. 7). Kan de regering beschrijven aan welke vormen van tussenkomst (interventie, besluitvorming, directe communicatie) hier gerefereerd wordt?
 
 
 3.
 In veel gevallen wordt de communicatie met overheids- en andere organen (verzekeraars, banken, pensioenfondsen) juist gedepersonaliseerd doordat de digitalisering de persoonlijke handtekening vervangt en brieven worden afgesloten met verwijzing naar een anoniem klantencontactcentrum waarbij direct contact met de opsteller c.q. beslisser feitelijk is uitgesloten.
 Welke eisen wil de regering aanvullend stellen ten uitvoering van dit artikel uit de AVG?
 
 
 4.
 Voor burgers die niet digitaal met de overheid kunnen communiceren (kwetsbaren, ouderen) zal de Algemene wet bestuursrecht gaan voorzien in de verplichting voor het desbetreffende bestuursorgaan om deze burgers ondersteuning te bieden. In dit kader is ook het WRR-rapport Weten is nog geen doen: Een realistisch perspectief op de redzaamheid dat in april 2017 verscheen van belang. Kan de regering de Kamer meer informatie verschaffen over de instrumenten en financiële dekking van dit voorstel?
 
 
 5.
 Ook laat het kabinet onderzoek doen naar (zelflerende) algoritmen die onder andere door overheden worden ingezet. Veel burgers die data leveren – bewust of onbewust – aan het «Internet of Things» zouden graag op de hoogte zijn van de toepassingen die de ruwe big data ondergaan middels algoritmen. De leden van de PvdA-fractie constateren dat er een groot gebrek is aan transparantie van deze algoritmen en pleiten voor openbaarheid. Wil de regering bij de door haar aangekondigde juridische onderzoeken in 2018 deze basiseisen van transparantie en toegang tot deze algoritmen als uitgangspunt nemen? Zie p. 71 van het Rathenaurapport Opwaarderen voor een definitie van transparantie. Wil deze regering tevens aangeven c.q. laten onderzoeken, als gesteld wordt dat het recht op intellectueel eigendom en het patentrecht bezwaren vormen voor het geven van publieke transparantie, waar de grens van bescherming van het eigendomsrecht eindigt en die van recht op openheid en privacybescherming begint?
 
 
 6.
 Dezelfde vraag komt naar voren bijvoorbeeld bij informatie die verzameld wordt door een aantal van de experimenten gericht op criminaliteitspreventie in het kader van de zogenaamde «Citydeal»: hebben toevallig passerende burgers die op camera worden vastgelegd een vanzelfsprekend recht op toegang tot de informatie die over hen wordt opgeslagen? De laatste vraag speelt ook bij toepassing van datagestuurde technologie voor verkeersdoorstroming in steden. Sommige bedrijven beschouwen de hierbij verzamelde informatie als bedrijfseigendom waarvoor betaald moet worden door de betreffende gemeenten. Acht de regering dit verschijnsel acceptabel, zo vragen de leden van de PvdA-fractie, en welke eisen kan de overheid actueel stellen aan het publieke eigendom van deze data?
 
 De commissies voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning en voor Justitie en Veiligheid zien met belangstelling uit naar uw reactie en ontvangen deze graag binnen vier weken na dagtekening van deze brief.
 
 
 
 
 De voorzitter van de commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning,
 
 J.W.M.
 Engels
 
 
 
 De voorzitter van de commissie voor Justitie en Veiligheid,
 
 A.W.
 Duthler
 
 
 
 
 
 
 BRIEF VAN DE MINISTER VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES
 
 
 
 Aan de Voorzitter van de Eerste Kamer der Staten-Generaal
 Den Haag, 22 mei 2018
 Bij brief van 17 april 2018 verzochten de voorzitters van de commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning en de commissie voor Justitie en Veiligheid van de Eerste Kamer mij om te antwoorden op een aantal vragen naar aanleiding van de kabinetsreactie op de rapporten van het Rathenau Instituut «Opwaarderen. Borgen van publieke waarden in de digitale samenleving» en «Mensenrechten in het Robottijdperk» (Kamerstukken I 2017/18, CVIII, S).
 Hierbij bericht ik u, mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, de Staatssecretaris van Economische Zaken en Klimaat, de Minister van Justitie en Veiligheid en de Minister voor Rechtsbescherming, dat de reactie op uw verzoek niet binnen de door u gewenste termijn van vier weken aan uw Kamer kan worden aangeboden. Thans wordt gewerkt aan een interdepartementale afgestemde reactie op uw verzoek. Naar verwachting kunt u de reactie uiterlijk eind juni tegemoet zien.
 
 
 
 
 De Minister van Binnenlandse Zaken en Koninkrijksrelaties,
 
 K.H.
 Ollongren
 
 
 
 
 
 
 BRIEF VAN DE MINISTER VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES
 
 
 
 Aan de Voorzitter van de Eerste Kamer der Staten-Generaal
 Den Haag, 25 juni 2018
 Bij brief van 17 april 2018 verzochten de voorzitters van de commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning en de commissie voor Justitie en Veiligheid van uw Kamer mij te antwoorden op een aantal vragen naar aanleiding van de kabinetsreactie op de rapporten van het Rathenau Instituut «Opwaarderen. Borgen van publieke waarden in de digitale samenleving» en «Mensenrechten in het Robottijdperk» (Kamerstukken I 2017/18, CVIII, S). Graag reageer ik daarop – mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, de Staatssecretaris van Economische Zaken en Klimaat, de Minister van Justitie en Veiligheid en de Minister voor Rechtsbescherming – als volgt.
 Allereerst wil ik de fracties van de SP en de PvdA danken voor hun belangstelling voor het belangrijke onderwerp digitalisering van de samenleving. Digitale technologieën zijn een vitaal onderdeel van onze maatschappij. Ik ben met de leden van de fractie van de SP van mening dat nieuwe technologieën vele kansen met zich brengen. Zo kan de inzet van technologie bijdragen aan effectievere behandelingen van ziekten, het vergroten van de mobiliteit en het tegengaan van klimaatverandering. Nieuwe technologieën brengen echter ook risico’s met zich mee. De inzet van technologieën kan belangrijke publieke waarden zoals veiligheid, privacy en autonomie niet alleen versterken maar ook onder druk zetten. De fracties van de SP en PvdA benadrukken naar mijn mening terecht het belang van de borging van publieke waarden in de digitale samenleving.
 Ik onderschrijf het belang van visievorming op het onderwerp publieke waarden in de digitale samenleving. De afgelopen jaren heeft het kabinet vele visies en strategieën op dit onderwerp ontwikkeld, bijvoorbeeld ten aanzien van belangrijke waarden zoals e-privacy6Tweede Kamer, vergaderjaar 2012–2013, 32 761, nr. 49., digitale veiligheid7Jaarlijkse Cybersecuritybeeld. Voor 2017 zie Tweede Kamer, vergaderjaar 2016–2017, 26 643, nr. 477., (digitale) inclusie8Tweede Kamer, vergaderjaar 2017–2018, 34 775 VI, nr. 88. en ten aanzien van opkomende technologieën zoals big data9Tweede Kamer, vergaderjaar 2016–2017, 26 643, nr. 426., robotisering10Tweede Kamer, vergaderjaar 2016–2017, 29 544, nr. 773. en onbemande luchtvaartuigen11Tweede Kamer, vergaderjaar 2014–2015, 30 806, nr. 28.. Dit voorjaar heeft het kabinet een kabinetsbrede Nederlandse Digitaliseringsstrategie geformuleerd, die reeds aan de Tweede Kamer is aangeboden en waarin mede ingegaan wordt op ethische aspecten van technologieën. In het verlengde hiervan worden op specifieke deelterreinen aparte agenda’s opgesteld. De Nederlandse Cyber Security Agenda is in april naar de Kamer verstuurd12Nederlandse Cyber Security Agenda «Nederland digitaal veilig», Ministerie van Justitie en Veiligheid (2018), bijlage bij Kamerstuk 26 643, nr. 536.. De Agenda Digitale Overheid wordt door de Staatssecretaris van BZK op korte termijn naar de Tweede Kamer verzonden. De Minister voor Rechtsbescherming bereidt een visie op horizontale privacy voor.
 Ik verschil met de SP-fractie van mening over de vraag of juridische systemen aanpassing behoeven. Zoals in de kabinetsreactie aangegeven, acht het kabinet de huidige juridische kaders vooralsnog voldoende stevig voor de borging van publieke waarden en mensenrechten. De Grondwet en mensenrechtenverdragen gelden óók online en zijn dusdanig open geformuleerd dat ook nieuwe digitale ontwikkelingen daaronder vallen13Daarnaast is er specifieke regelgeving, zoals de – in voorbereiding zijnde – Wet digitale overheid die onder meer tot doel heeft om voor overheidsdienstverlening veilig en betrouwbaar inloggen te regelen. Deze wet zal de basis bieden voor overheidsbrede kaders die ook strekken tot waarborgen van belangen van burgers, bijv. regels over toegankelijkheid van overheidswebsites.. Dit neemt niet weg dat het kabinet trends op de voet volgt en – wanneer daar aanleiding voor is (ook in internationaal verband) – kaders aanscherpt of onderzoek laat doen.
 Ik deel de mening van de leden van de SP-fractie dat het belangrijk is om de dialoog over publieke waarden en technologie in de volle breedte te voeren. Ook zie ik dat het debat zich de afgelopen jaren vooral op specifieke waarden zoals privacy en veiligheid richtte. Ik hecht er aan om in deze regeerperiode het debat te verbreden en zal daarin zo nodig nieuwe onderwerpen (waaronder degene die door de leden van de SP-fractie zijn aangedragen) meenemen.
 De leden van de fractie van de PvdA stelden zes concrete vragen ten aanzien van de kabinetsreactie, waarop ik hieronder zal ingaan.
 
 
 1.
 
 
 Het kabinet stelt in zijn brief op p. 10 dat het de stelling van het Rathenau Instituut onderschrijft «dat robots menselijke relaties niet zouden moeten vervangen maar verbeteren». Omdat menselijke relaties een intrinsieke unieke betekenis hebben, vragen de leden van de PvdA-fractie wat het kabinet hier bedoelt met «verbeteren». Welke bijdrage kunnen robots hieraan leveren?
 
 
 Mensen hebben unieke vermogens, zoals empathie, creativiteit en oplossingsgerichtheid die een blijvende meerwaarde hebben ten opzichte van machines en technologie. Door de sterke punten van zowel mens als machine in gezamenlijkheid in te zetten, kunnen menselijke relaties versterkt worden.
 Aansprekende voorbeelden zijn te vinden in de zorg, zoals de tilrobot die patiënten uit bed tilt of de chirurgische robot die het voor artsen mogelijk maakt precisiewerk bij operaties te verrichten. Deze robots maken het werk lichter waardoor verplegend personeel en artsen zich o.a. kunnen richten op contact met de patiënt en langer gezond en met plezier kunnen blijven werken.
 
 
 
 2.
 
 
 Ook schrijft de regering dat «erkenning van een betekenisvol menselijk contact in het kader van de digitalisering deels besloten (ligt) in het vereiste van artikel 22 van de AVG dat, indien aan geautomatiseerde besluitvorming rechtsgevolgen zijn verbonden of gevolgen die betrokkene in juridische zin of anderszins in aanmerkelijke mate treffen, zich manifesteren, steeds van menselijke tussenkomst in de besluitvorming sprake dient te zijn» (p. 7). Kan de regering beschrijven aan welke vormen van tussenkomst (interventie, besluitvorming, directe communicatie) hier gerefereerd wordt?
 
 
 Wat onder «menselijke tussenkomst» moet worden verstaan, valt af te leiden uit de «Guidelines on Automated individual decision-making and Profiling for the purpose of Regulation 2016/679» van de Working Party 29, de gezamenlijke privacytoezichthouders binnen de EU. Volgens deze guidelines dient de menselijke tussenkomst betekenisvol te zijn en moet zij kunnen leiden tot heroverweging van het besluit op basis van alle beschikbare gegevens.
 
 
 3.
 
 
 In veel gevallen wordt de communicatie met overheids- en andere organen (verzekeraars, banken, pensioenfondsen) juist gedepersonaliseerd doordat de digitalisering de persoonlijke handtekening vervangt en brieven worden afgesloten met verwijzing naar een anoniem klantencontactcentrum waarbij direct contact met de opsteller c.q. beslisser feitelijk is uitgesloten.
 
 
 Welke eisen wil de regering aanvullend stellen ten uitvoering van dit artikel uit de AVG?
 
 
 Burgers en ondernemers willen eenvoudig, snel en veilig contact met de overheid om hun zaken te regelen. De overheid heeft er daarom de afgelopen jaren aan gewerkt om haar dienstverlening zo veel mogelijk digitaal beschikbaar te stellen. Nu de dienstverlening verregaand gedigitaliseerd is, besteden overheden als vervolgstap meer aandacht aan de begrijpelijkheid, gebruiksvriendelijkheid en klantgerichtheid van hun digitale dienstverlening. Hierbij is er ook aandacht voor warm contact. Burgers die vastlopen in het digitale proces moeten op een makkelijke manier via een ander loket (telefoon, fysiek, papier) kunnen worden geholpen.
 Het kabinet beraadt zich over de wijze waarop nader invulling kan worden gegeven aan deze mede uit de AVG voortvloeiende verplichting en zal uw Kamer informeren wanneer er meer duidelijkheid is over (voornemens voor) concrete maatregelen.
 
 
 4.
 
 
 Voor burgers die niet digitaal met de overheid kunnen communiceren (kwetsbaren, ouderen) zal de Algemene wet bestuursrecht gaan voorzien in de verplichting voor het desbetreffende bestuursorgaan om deze burgers ondersteuning te bieden. In dit kader is ook het WRR-rapport Weten is nog geen doen: Een realistisch perspectief op de redzaamheid dat in april 2017 verscheen van belang. Kan de regering de Kamer meer informatie verschaffen over de instrumenten en financiële dekking van dit voorstel?
 
 
 Momenteel wordt door het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) in samenspraak met het Ministerie van Justitie en Veiligheid (JenV) bezien hoe, mede in het licht van het advies van de afdeling Advisering van de Raad van State en het genoemde WRR-rapport, met dit onderdeel van de voorgenomen Awb-wijziging (het betreft wijziging van afdeling 2.3 Awb, inzake modernisering elektronische bestuurlijk verkeer) wordt omgegaan. Op dit moment wordt het nader rapport voorbereid. Zodra dit gereed is, wordt het wetsvoorstel ingediend en zal uw Kamer hierover worden geïnformeerd.
 
 
 5.
 
 
 Ook laat het kabinet onderzoek doen naar (zelflerende) algoritmen die onder andere door overheden worden ingezet. Veel burgers die data leveren – bewust of onbewust – aan het «Internet of Things» zouden graag op de hoogte zijn van de toepassingen die de ruwe big data ondergaan middels algoritmen. De leden van de PvdA-fractie constateren dat er een groot gebrek is aan transparantie van deze algoritmen en pleiten voor openbaarheid. Wil de regering bij de door haar aangekondigde juridische onderzoeken in 2018 deze basiseisen van transparantie en toegang tot deze algoritmen als uitgangspunt nemen? Zie p. 71 van het Rathenaurapport Opwaarderen voor een definitie van transparantie. Wil deze regering tevens aangeven c.q. laten onderzoeken, als gesteld wordt dat het recht op intellectueel eigendom en het patentrecht bezwaren vormen voor het geven van publieke transparantie, waar de grens van bescherming van het eigendomsrecht eindigt en die van recht op openheid en privacybescherming begint?
 
 
 Het kabinet acht een goede belangenafweging omtrent de transparantie van algoritmen van belang en neemt dit waar aan de orde in onderzoeken mee. Zo doet het kabinet onderzoek naar het gebruik van algoritmen door overheden en kijkt daarbij ook naar de transparantie van die algoritmen. Ook de nagenoeg gereed zijnde beleidsvisie open source gaat in op het vergroten van transparantie door het vrijgeven van de broncode.
 Algoritmen als zodanig worden in Nederland en de EU niet zonder meer beschermd door het intellectuele eigendomsrecht. Als algoritmen zijn geïmplementeerd in software dan is, mits aan de daarvoor gestelde vereisten is voldaan, bescherming mogelijk door het auteursrecht (dat o.a. bescherming biedt aan software) of het octrooirecht (dat o.a. bescherming biedt aan uitvindingen die een «verder technisch effect» hebben en industrieel toepasbaar zijn). Het auteursrecht ontstaat automatisch door het maken van een werk dat aan de vereisten voldoet. Een octrooi wordt verkregen als het op aanvraag is verleend. Na verlening wordt een octrooi gepubliceerd en is de daarin gelegen kennis openbaar. Indien en voor zover er een dergelijk recht wordt verkregen dan kan de auteurs- of octrooirechthebbende anderen toestemming geven, bijvoorbeeld door een licentie, om zijn software te gebruiken.
 Voornoemde geldt ook voor zogenaamde open source software, maar die software is met broncode gepubliceerd en is vrij beschikbaar voor het publiek. Een eventueel auteursrecht hierop wordt vrij uitgeoefend omdat het bedoeling is dat gebruikers vrijelijk de software mogen gebruiken, aanpassen en verder verspreiden. Voor zover wij kunnen overzien, zijn er voor big data analyse, machine learning, deep learning en kunstmatige intelligentie vaak ook open source alternatieven voor de algoritmes beschikbaar.
 In die gevallen dat dienstverleners een big data analyse als dienst ter beschikking stellen aan overheden dan is die analyse – inclusief eigen ontwikkelde algoritmen – mogelijk beschermd door het intellectuele eigendomsrecht en komen deze toe aan de dienstverlener. Overheidsinstanties kunnen bij een aanbesteding of het sluiten van een overeenkomst er voor kiezen om als voorwaarde te stellen dat het ontstane intellectuele eigendom moet worden overgedragen aan de betreffende overheidsinstantie (zoals het Rijk dit meestal regelt). Vervolgens kan de overheidsinstantie zelf kiezen voor het vrijelijk ter beschikking stellen.
 
 
 6.
 
 
 Dezelfde vraag komt naar voren bijvoorbeeld bij informatie die verzameld wordt door een aantal van de experimenten gericht op criminaliteitspreventie in het kader van de zogenaamde «Citydeal»: hebben toevallig passerende burgers die op camera worden vastgelegd een vanzelfsprekend recht op toegang tot de informatie die over hen wordt opgeslagen? De laatste vraag speelt ook bij toepassing van datagestuurde technologie voor verkeersdoorstroming in steden. Sommige bedrijven beschouwen de hierbij verzamelde informatie als bedrijfseigendom waarvoor betaald moet worden door de betreffende gemeenten. Acht de regering dit verschijnsel acceptabel, zo vragen de leden van de PvdA-fractie, en welke eisen kan de overheid actueel stellen aan het publieke eigendom van deze data?
 
 
 Een gemeente mag – hetzij zelf, hetzij door een door de gemeente hiertoe ingeschakeld bedrijf – in de openbare ruimte camera’s ophangen en zo persoonsgegevens vergaren en gebruiken als dat 1) noodzakelijk is om de openbare orde te handhaven, 2) dit is aangekondigd (bijvoorbeeld met bordjes), 3) sprake is van adequate beveiliging en 4) de beelden beperkt worden bewaard (artikel 151c Gemeentewet).
 Het opnemen en bewaren van camerabeelden valt sinds 25 mei onder de Algemene Verordening Gegevensbescherming. Immers met de beelden worden kenmerken van personen verwerkt en het moment van opnamen zegt iets over wanneer een persoon op een bepaalde locatie is geweest. Personen die zich melden met de vraag of, en zo ja welke persoonsgegevens worden verwerkt zouden daarop – op grond van het inzagerecht uit de AVG – antwoord moeten krijgen.
 Voor zover het ruwe data uit de openbare ruimte betreft, geldt – los van de vraag of deze data rechtmatig worden verkregen en verwerkt – dat onderscheid gemaakt moet worden tussen de situatie dat een gemeente opdrachtgever is, bijvoorbeeld van verkeersonderzoek, en de situatie dat een bedrijf uit eigen beweging data verzamelt. In het eerste geval kan de gemeente contractuele afspraken maken over controle over en toegang tot de gegenereerde data, waardoor deze controle en toegang meer bij de gemeente komt te liggen. In het tweede geval kan een bedrijf, dat de gegenereerde data aanbiedt aan een gemeente, hiervoor een financiële vergoeding vragen.
 
 
 
 
 De Minister van Binnenlandse Zaken en Koninkrijksrelaties,
 
 K.H.
 Ollongren