Samenvatting van het advies van de Europese Toezichthouder voor gegevensbescherming over het Witboek van de Europese Commissie over kunstmatige intelligentie — Een Europese benadering op basis van excellentie en vertrouwen

(De volledige tekst van dit advies is beschikbaar in het Engels, Frans, en Duits op de EDPS-website: www.edps.europa.eu)

(2020/C 392/03)

Samenvatting

Op 19 februari 2020 heeft de Europese Commissie een Witboek gepubliceerd over “Kunstmatige intelligentie: Een Europese benadering op basis van excellentie en vertrouwen”. Dit maakt deel uit van een breder pakket strategische documenten, waaronder ook een mededeling over “Een Europese datastrategie”.

Het doel van het Witboek is tweeledig: het uiteenzetten van beleidsopties om de invoering van kunstmatige intelligentie (“AI”) te bevorderen en het aanpakken van “de risico’s die verbonden zijn aan bepaalde toepassingen van deze nieuwe technologie”. Om dergelijke doelstellingen te bereiken, stelt het Witboek een reeks maatregelen voor om de ontwikkeling en de implementering van AI te bevorderen. Bovendien reikt het Witboek een nieuw regelgevend kader aan voor specifieke aspecten in verband met AI die in het huidige kader mogelijk niet worden aangepakt.

Dit advies presenteert de standpunten van de EDPS over het Witboek als geheel gepresenteerd, alsook over bepaalde specifieke aspecten, zoals de voorgestelde risicogebaseerde aanpak, de handhaving van de AI-regelgeving of de specifieke vereisten voor biometrische identificatie op afstand (waaronder gezichtsherkenning).

De EDPS erkent het toenemende belang en de impact van AI. AI heeft echter zijn eigen risico’s en is geen wondermiddel dat alle problemen zal oplossen. De voordelen, kosten en risico’s moeten in overweging worden genomen door iedereen die een technologie toepast, zo ook door overheidsdiensten die grote hoeveelheden persoonsgegevens verwerken.

De EDPS is zeer verheugd over de talrijke verwijzingen in het Witboek naar een Europese aanpak van AI, gebaseerd op de waarden en grondrechten van de EU, en over de aandacht die wordt besteed aan de noodzaak om de Europese wetgeving inzake gegevensbescherming na te leven.

Het doel van de aanbevelingen in dit advies is derhalve om de waarborgen en controles met betrekking tot de bescherming van persoonsgegevens te verduidelijken en, indien nodig, verder te ontwikkelen, rekening houdend met de specifieke context van AI.

Met het oog hierop beveelt de EDPS met name aan dat elk nieuw regelgevingskader voor AI:

— zowel geldt voor EU-lidstaten als voor de instellingen, organen en instanties van de EU;

— ontworpen wordt om te beschermen tegen elke negatieve impact, niet alleen op individuen, maar ook op gemeenschappen en de samenleving als geheel;

— een robuuster en genuanceerder risicoclassificatieschema voorstelt, dat ervoor zorgt dat alle significante potentiële schade van AI-toepassingen gecompenseerd wordt door passende risicobeperkende maatregelen;

— een effectbeoordeling bevat waarin duidelijk de lacunes in de regelgeving worden vastgesteld die het wil opvullen.

— overlapping van verschillende toezichthoudende autoriteiten vermijdt en een samenwerkingsmechanisme bevat.

Wat de biometrische identificatie op afstand betreft, steunt de EDPS het idee van een moratorium op de invoering, in de EU, van geautomatiseerde herkenning in openbare ruimten van menselijke kenmerken, niet alleen van gezichten, maar ook van manier van lopen, vingerafdrukken, DNA, stem, toetsaanslagen en andere biometrische of gedragssignalen, zodat een geïnformeerd en democratisch debat kan plaatsvinden tot het moment waarop de EU en de lidstaten over alle passende waarborgen beschikken, met inbegrip van een alomvattend rechtskader om de evenredigheid van de respectieve technologieën en systemen te waarborgen in het geval van specifiek gebruik.

De EDPS staat onverminderd ter beschikking van de Commissie, de Raad en het Europees Parlement om verder advies te geven, en verwacht te zijner tijd geraadpleegd te worden, zoals bepaald in artikel 42 van Verordening (EU) 2018/1725. De opmerkingen in dit advies zijn onder voorbehoud van toekomstige aanvullende opmerkingen aangaande bepaalde kwesties en/of eventueel beschikbare nadere informatie.

1. INLEIDING EN ACHTERGROND

1. Het Witboek van de Commissie “Kunstmatige intelligentie — Een Europese benadering op basis van excellentie en vertrouwen” ( 1 ) (“het Witboek”) maakt deel uit van het initiatief nr. 10 (“Een Europese AI-aanpak”) en valt onder het hoofdstuk “Een Europa dat geschikt is voor het digitale tijdperk” van het werkprogramma van de Commissie voor 2020.

2. De EDPS merkt op dat het Witboek nauw samenhangt met de “Mededeling van de Commissie aan het Europees Parlement, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s — Een Europese datastrategie” ( 2 ) (“de datastrategie”), waarover de EDPS een afzonderlijk advies heeft uitgebracht ( 3 )

3. De EDPS werd op 29 januari 2020 over het ontwerp van het Witboek geraadpleegd en heeft voorlopige informele opmerkingen ingediend. De EDPS is ingenomen met het feit dat in een vroeg stadium van de procedure om zijn standpunten is gevraagd en spoort de Commissie aan deze goede praktijk voort te zetten.

4. Het Witboek wordt onderworpen aan openbare raadpleging. De doelstelling van de raadpleging is standpunten over het Witboek als geheel, evenals over specifieke aspecten te verzamelen. Een soortgelijke publieke raadpleging werd gestart over de mededeling van de Europese Commissie “Een Europese datastrategie”.

5. Dit advies vormt een verdere uitwerking van een aantal informele opmerkingen van de EDPS en biedt de Europese Commissie meer gerichte input in het licht van de openbare raadpleging. Bovendien is dit advies onder voorbehoud van aanvullende opmerkingen die de EDPS kan maken op basis van informatie die in een later stadium beschikbaar komt, onder meer in het kader van de toekomstige legislatieve raadplegingen inzake de rechtshandelingen die zijn voorzien in het Witboek en in het werkprogramma van de Commissie.

6. Hoewel de instellingen, organen en instanties van de Europese Unie aan de EUDPR zijn onderworpen in plaats van aan de GDPR, streven beide verordeningen dezelfde doelstellingen na en zijn hun beginselen identiek ( 4 ) . Om deze samenhang te weerspiegelen zal iedere verwijzing naar een GDPR-bepaling in dit advies ook de overeenkomstige EUDPR-bepaling tussen haakjes vermelden.

7. In het belang van een coherente aanpak in de hele Unie beveelt de EDPS aan dat elk nieuw regelgevingskader voor AI zowel van toepassing is op EU-lidstaten als op EU-instellingen, -organen en -instanties. Indien instellingen, organen en instanties gebruikmaken van kunstmatige intelligentie (“AI”), moeten zij aan dezelfde regels worden onderworpen als die welke in de lidstaten van de EU gelden.

3. CONCLUSIES

77. De EDPS is het volledig met de Commissie eens dat er een Europese aanpak van AI nodig is en is in dit verband zeer ingenomen met het engagement van het Witboek ten aanzien van de grondrechten en de Europese waarden.

78. De EDPS is echter van mening dat de voorstellen in het Witboek op een aantal relevante punten verder moeten worden aangepast en verduidelijkt. Eén van de punten die in ieder toekomstig wetgevingsvoorstel meer duidelijkheid vereisen, is het verband tussen de risico’s van AI en de daaraan gerelateerde lacunes in de wetgeving, de risicogebaseerde benadering van AI-toepassingen en de definitie van AI zelf, die het mogelijk moet maken de reikwijdte van de voorgestelde wetgeving duidelijk te definiëren.

79. Bovendien beveelt de EDPS aan dat elk nieuw regelgevingskader voor AI: — zowel geldt voor EU-lidstaten als voor de instellingen, organen en instanties van de EU; — ontworpen wordt om te beschermen tegen elke negatieve impact, niet alleen op individuen, maar ook op gemeenschappen en de samenleving als geheel; — een robuuster en genuanceerder risicoclassificatieschema voorstelt, dat ervoor zorgt dat alle significante potentiële schade van AI-toepassingen gecompenseerd wordt door passende risicobeperkende maatregelen; — een effectbeoordeling omvat waarin duidelijk de lacunes in de regelgeving worden vastgesteld die het wil opvullen. — overlapping van verschillende toezichthoudende autoriteiten vermijdt en een samenwerkingsmechanisme bevat.

80. Wat de biometrische identificatie op afstand betreft, steunt de EDPS het idee van een moratorium op de invoering, in de EU, van geautomatiseerde herkenning in openbare ruimten van menselijke kenmerken, niet alleen van gezichten, maar ook van manier van lopen, vingerafdrukken, DNA, stem, toetsaanslagen en andere biometrische of gedragssignalen, zodat een geïnformeerd en democratisch debat kan plaatsvinden tot het moment waarop de EU en de lidstaten over alle passende waarborgen beschikken, met inbegrip van een alomvattend rechtskader om de evenredigheid van de respectieve technologieën en systemen te waarborgen in het geval van specifiek gebruik.

81. Indien er een nieuw rechtskader zou komen, zoals weerspiegeld in het Witboek en het werkprogramma van de Commissie, zal de EDPS aan de Commissie verder advies geven, zoals bepaald in artikel 42 van de EUDPR.

Brussel, 29 juni 2020. Wojciech Rafał WIEWIÓROWSKI

(1) COM(2020) 65 final.

(2) COM(2020) 66 final.

(3) Advies 3/2020 van de EDPS over de Europese datastrategie, https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf

(4) Wanneer de bepalingen van Verordening (EU) 2018/1725 dezelfde beginselen volgen als de bepalingen van Verordening (EU) 2016/679, moeten deze twee reeksen bepalingen, volgens de jurisprudentie van het Hof van Justitie van de Europese Unie, homogeen worden geïnterpreteerd, in het bijzonder omdat de regeling van de EDPR-verordening moet worden opgevat als gelijkwaardig aan de regeling van de GDPR; zie overweging 5 EDPR, onder verwijzing naar het arrest van het Hof van Justitie van de Europese Unie van 9 maart 2010, Europese Commissie tegen Bondsrepubliek Duitsland, zaak C-518/07, ECLI:EU:C:2010:125, punt 28.