C 392/3

Resumé af udtalelse fra Den Europæiske Tilsynsførende for Databeskyttelse om Europa-Kommissionens hvidbog om kunstig intelligens — en europæisk tilgang til ekspertise og tillid

(Udtalelsen findes i sin helhed på engelsk, fransk og tysk på Den Europæiske Tilsynsførendes websted www.edps.europa.eu)

(2020/C 392/03)

Resumé

Den 19. februar 2020 offentliggjorde Europa-Kommissionen en hvidbog om kunstig intelligens — en europæisk tilgang til ekspertise og tillid. Den er en del af en større pakke af strategiske dokumenter, som også omfatter meddelelsen »En europæisk strategi for data«.

Hvidbogen har to formål: at opstille politiske løsningsmodeller til at fremme anvendelsen af kunstig intelligens (»AI«) og håndtere »de risici, der er forbundet med visse anvendelser af denne nye teknologi«. Til at opnå disse mål foreslår hvidbogen en række aktioner til at fremme udviklingen og anvendelsen af AI og en ny lovramme, som skal håndtere de bekymringer omkring AI, som den nuværende lovramme ikke håndterer.

Denne udtalelse fremfører Den Europæiske Tilsynsførendes holdning omkring hvidbogen som helhed samt om visse særlige aspekter, såsom den foreslåede risikobaserede tilgang, håndhævelsen af lovgivningen omkring AI eller de specifikke krav til biometrisk fjernidentificering (herunder ansigtsgenkendelse).

Den Europæiske Tilsynsførende anerkender AI's stigende betydning og indvirkning. AI indebærer dog visse risici og er ikke en »sølvkugle«, som kan løse alle problemer. Fordele, omkostninger og risici skal overvejes af alle, som anvender en teknologi, navnlig offentlige forvaltninger, der behandler en stor mængde personoplysninger.

Den Europæiske Tilsynsførende bifalder i høj grad hvidbogens mange henvisninger til en europæisk tilgang til AI, som er baseret på EU's værdier og grundlæggende rettigheder, og det hensyn, som er givet til behovet for at overholde den europæiske databeskyttelseslovgivning.

Derfor er formålet med henstillingerne i denne udtalelse at præcisere og om nødvendigt videreudvikle sikkerhedsforanstaltningerne og kontrollerne med hensyn til beskyttelse af personoplysninger under hensyntagen til AI's specifikke forhold.

Til dette formål anbefaler Den Europæiske Tilsynsførende især, at enhver ny lovramme for AI:

— gælder både for EU's medlemsstater og EU's institutioner, organer, kontorer og agenturer

— er beregnet til at beskytte mod alle negative virkninger, ikke bare for enkeltpersoner, men også fællesskaber og samfundet som helhed

— foreslår en mere robust og nuanceret risikoklassificeringsordning, som sikrer, at alle væsentlige potentielle skader, som brug af AI kan medføre, modsvares af passende afbødningsforanstaltninger

— indeholder en konsekvensanalyse, som tydeligt definerer de lovmæssige huller, den planlægger at udfylde

— undgår overlapning af forskellige tilsynsmyndigheder og omfatter en samarbejdsmekanisme.

I forbindelse med biometrisk fjernidentificering støtter Den Europæiske Tilsynsførende ideen om et moratorium for anvendelsen i EU af automatisk genkendelse af menneskelige træk på offentlige steder — ikke kun ansigter men også gangart, fingeraftryk, DNA, stemme, tastetryk og andre biometriske eller adfærdsmæssige signaler — således at en kvalificeret og demokratisk debat kan finde sted indtil det øjeblik, hvor EU og medlemsstater har alle fornødne garantier, inklusive omfattende lovrammer, der garanterer proportionaliteten af de pågældende teknologier og systemer til det specifikke brugstilfælde.

Den Europæiske Tilsynsførende står fremdeles til rådighed for Kommissionen, Rådet og Europa-Parlamentet med henblik på yderligere rådgivning og forventer at blive rådført i god tid som fastsat i artikel 42 i forordning (EU) 2018/1725. Bemærkningerne i denne udtalelse berører ikke yderligere bemærkninger i fremtiden om særlige spørgsmål, og/eller hvis der kommer til at foreligge yderligere information.

1. INDLEDNING OG BAGGRUND

1. Kommissionens hvidbog »om kunstig intelligens — en europæisk tilgang til ekspertise og tillid« ( 1 ) (»hvidbogen«) er en del af initiativ nr. 10 (»en europæisk tilgang til kunstig intelligens«) og hører under »kapitlet«»Et Europa klar til den digitale tidsalder« i Kommissionens arbejdsprogram for 2020.

2. Den Europæiske Tilsynsførende bemærker, at hvidbogen er tæt forbundet til »Meddelelse fra Kommissionen til Europa-Parlamentet, Rådet, Det Europæiske Økonomiske og Sociale Udvalg og Regionsudvalget — En europæisk strategi for data« ( 2 ) (»datastrategien«), i forhold til hvilken Den Europæiske Tilsynsførende har vedtaget en særskilt udtalelse. ( 3 )

3. Den Europæiske Tilsynsførende blev hørt af Kommissionen den 29. januar 2020 om udkastet til hvidbogen og fremsendte foreløbige uformelle bemærkninger. Den Europæiske Tilsynsførende hilser med tilfredshed, at han er blevet hørt i en tidlig fase af proceduren og opfordrer Kommissionen til at fortsætte denne gode praksis.

4. Hvidbogen er underlagt offentlig høring. Formålet med høringen er at indsamle synspunkter om hvidbogen som helhed samt om visse specifikke aspekter. En lignende offentlig høring blev afholdt omkring Europa-Kommissionens meddelelse »En europæisk strategi for data«.

5. Den foreliggende udtalelse uddyber nogle af Den Europæiske Tilsynsførendes uformelle bemærkninger og giver Europa-Kommissionen mere målrettet input i lyset af den offentlige høring. Endvidere berører denne udtalelse ikke nogen yderligere bemærkninger, som Den Europæiske Tilsynsførende eventuelt fremsætter på baggrund af information, der bliver tilgængelig på et senere tidspunkt, herunder i forbindelse med de fremtidige høringer som led i lovgivningsproceduren om de retsakter, der fremgår af hvidbogen og Kommissionens arbejdsprogram.

6. Selvom EU's institutioner, organer, kontorer og agenturer er underlagt EUDPR i stedet for GDPR, har begge forordninger samme mål, og deres principper er identiske ( 4 ) . For at afspejle denne sammenhæng vil enhver henvisning til en GDPR-bestemmelse i denne udtalelse også angive den tilsvarende EUDPR-bestemmelse i parentes.

7. Med henblik på en sammenhængende tilgang i hele EU anbefaler Den Europæiske Tilsynsførende, at alle nye lovrammer for AI både finder anvendelse for EU's medlemsstater og EU's institutioner, organer, kontorer og agenturer. Når EU's institutioner, organer, kontorer og agenturer anvender kunstig intelligens (»AI«), skal de være underlagt de samme regler som EU's medlemsstater.

3. KONKLUSIONER

77. Den Europæiske Tilsynsførende er helt enig med Kommissionen i behovet om en europæisk tilgang til AI og bifalder i høj grad hvidbogens forpligtelse til grundlæggende rettigheder og europæiske værdier.

78. Den Europæiske Tilsynsførende har dog den holdning, at forslagene fastlagt i hvidbogen skal tilpasses og præciseres yderligere i forbindelse med visse relevante spørgsmål. Blandt de emner, som kræver større klarhed i fremtidige lovforslag, er forbindelsen mellem de risici, som AI udgør, og de tilknyttede lovgivningsmæssige huller, den risikobaserede tilgang til anvendelser af AI og selve definitionen af AI, der skal gøre det muligt at definere omfanget af den foreslåede lovgivning tydeligt.

79. Den Europæiske Tilsynsførende anbefaler derudover, at enhver ny lovramme for AI: — gælder både for EU's medlemsstater og EU's institutioner, organer, kontorer og agenturer — er beregnet til at beskytte mod alle negative virkninger, ikke bare for enkeltpersoner, men også fællesskaber og samfundet som helhed — foreslår en mere robust og nuanceret risikoklassificeringsordning, som sikrer, at alle væsentlige potentielle skader, som brug af AI kan medføre, modsvares af passende afbødningsforanstaltninger — indeholder en konsekvensanalyse, som tydeligt definerer de lovmæssige huller, den planlægger at udfylde — undgår overlapning af forskellige tilsynsmyndigheder og omfatter en samarbejdsmekanisme.

80. I forbindelse med biometrisk fjernidentificering støtter Den Europæiske Tilsynsførende ideen om et moratorium for anvendelsen i EU af automatisk genkendelse af menneskelige træk på offentlige steder — ikke kun ansigter men også gangart, fingeraftryk, DNA, stemme, tastetryk og andre biometriske eller adfærdsmæssige signaler — således at en kvalificeret og demokratisk debat kan finde sted indtil det øjeblik, hvor EU og medlemsstater har alle fornødne garantier, inklusive omfattende lovrammer, der garanterer proportionaliteten af de pågældende teknologier og systemer til det specifikke brugstilfælde.

81. Hvis der kommer en ny lovramme som beskrevet i hvidbogen og Kommissionens arbejdsprogram, vil Den Europæiske Tilsynsførende give yderligere rådgivning til Kommissionen som fastlagt i artikel 42 i EUDPR.

Bruxelles, den 29. juni 2020. Wojciech Rafał WIEWIÓROWSKI

(1) COM (2020) 65 final.

(2) COM (2020) 66 final.

(3) EDPS Opinion 3/2020 on the European strategy for data, https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf

(4) Når bestemmelserne i forordning (EU 2018/1725) følger de samme principper som bestemmelserne i forordning (EU) 2016/679, bør disse to sæt bestemmelser i overensstemmelse med retspraksis fra Den Europæiske Unions Domstol fortolkes ensartet, navnlig fordi ordningen i EDPR-forordningen skal betragtes som svarende til ordningen i GDPR. Se betragtning 5, EDPR, med henvisning til Domstolens dom af 9. marts 2010, Europa-Kommissionen mod Forbundsrepublikken Tyskland, sag C-518/07, ECLI:EU:C:2010:125, stk. 28.