Povzetek mnenja Evropskega nadzornika za varstvo podatkov o beli knjigi Evropske komisije o umetni inteligenci – evropski pristop k odličnosti in zaupanju

(Celotno besedilo mnenja je na voljo v angleščini, francoščini in nemščini na spletišču Evropskega nadzornika za varstvo podatkov (v nadaljnjem besedilu: ENVP) www.edps.europa.eu.)

(2020/C 392/03)

Povzetek

Dne 19. februarja 2020 je Evropska komisija objavila belo knjigo o umetni inteligenci – evropski pristop k odličnosti in zaupanju. Gre za del širšega svežnja strateških dokumentov, v katerega je vključeno tudi sporočilo Evropska strategija za podatke.

Bela knjiga ima dvojni cilj: določitev možnosti politike za spodbujanje uporabe umetne inteligence in „obravnavanje tveganj, povezanih z nekaterimi vrstami uporabe te nove tehnologije“. Za dosego teh ciljev bela knjiga predlaga vrsto ukrepov za spodbujanje razvoja in sprejemanja umetne inteligence ter nov regulativni okvir, ki bi obravnaval pomisleke, značilne za umetno inteligenco, ki jih sedanji okvir morda ne obravnava.

V tem mnenju so predstavljena mnenja ENVP o beli knjigi kot celoti in nekaterih posebnih vidikih, kot so predlagani pristop na podlagi tveganja, izvrševanje predpisov o umetni inteligenci ali posebne zahteve za biometrično identifikacijo na daljavo (vključno s prepoznavanjem obrazov).

ENVP potrjuje, da sta pomen in vpliv umetne inteligence vse večja. Kljub temu umetna inteligenca s seboj prinaša lastna tveganja in ni čudežna rešitev za vse težave. Vsak, ki uporablja tehnologijo, zlasti pa javne uprave, ki obdelujejo velike količine osebnih podatkov, bi moral upoštevati koristi, stroške in tveganja.

ENVP zelo pozdravlja številna sklicevanja bele knjige na evropski pristop k umetni inteligenci, ki temelji na vrednotah EU in temeljnih pravicah ter upoštevanju potrebe po skladnosti z evropsko zakonodajo o varstvu podatkov.

Cilj priporočil v tem mnenju je torej, da se pojasnijo in po potrebi nadalje oblikujejo zaščitni ukrepi in kontrole v zvezi z varstvom osebnih podatkov ob upoštevanju posebnih okoliščin umetne inteligence.

Zato ENVP glede morebitnega novega regulativnega okvira za umetno inteligenco zlasti priporoča, naj:

— se uporablja za države članice EU ter institucije, urade, organe in agencije EU,

— bo oblikovan tako, da varuje pred kakršnimi koli negativnimi vplivi, ne le na posameznike, temveč tudi skupnosti in družbo kot celoto,

— predlaga robustnejši in bolj raznolik sistem razvrščanja tveganj, s katerim se zagotovi, da za vse pomembne morebitne nevarnosti, ki jih prinašajo aplikacije umetne inteligence, obstajajo ustrezni blažilni ukrepi,

— vključuje oceno tveganja z jasno opredelitvijo regulativnih vrzeli, ki jih namerava zapolniti,

— preprečuje prekrivanje različnih nadzornih organov in vključuje mehanizem za sodelovanje.

Glede biometrične identifikacije na daljavo ENVP podpira idejo o moratoriju na uvedbo avtomatiziranega prepoznavanja človeških značilnosti na javnih mestih v EU, ne le obrazov, temveč tudi načina hoje, prstnih odtisov, DNK, glasu, tipkanja in drugih biometričnih ali vedenjskih signalov, da bi se lahko opravila informirana in demokratična razprava, ter do takrat, ko bodo imele EU in države članice vzpostavljene vse ustrezne zaščitne ukrepe, vključno s celovitim pravnim okvirom, za zagotavljanje sorazmernosti zadevnih tehnologij in sistemov za posebne primere uporabe.

ENVP bo Komisiji, Svetu in Evropskemu parlamentu še naprej na voljo za nadaljnje svetovanje ter pričakuje, da bo z njim pravočasno opravljeno posvetovanje, kakor je predvideno v členu 42 Uredbe (EU) 2018/1725. Pripombe v tem mnenju ne posegajo v dodatne pripombe k posebnim vprašanjem v prihodnosti in/ali če bi bile na voljo dodatne informacije.

1. UVOD IN OZADJE

1. Bela knjiga komisije o umetni inteligenci – evropski pristop k odličnosti in zaupanju ( 1 ) (v nadaljnjem besedilu: bela knjiga) je del pobude št. 10 (evropski pristop k umetni inteligenci) in spada v poglavje Evropa, pripravljena na digitalno dobo, letnega delovnega programa Komisije 2020.

2. ENVP ugotavlja, da je bela knjiga tesno povezana s sporočilom Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij Evropska strategija za podatke ( 2 ) (v nadaljnjem besedilu: strategija za podatke), v zvezi s katerim je ENVP sprejel ločeno mnenje ( 3 )

3. Komisija se je 29. januarja 2020 z ENVP posvetovala o osnutku bele knjige, ta pa je predložil predhodne neuradne pripombe. ENVP pozdravlja dejstvo, da je bil za mnenja zaprošen že v zgodnji fazi postopka, in spodbuja Komisijo, naj nadaljuje to dobro prakso.

4. Bela knjiga je predmet javnega posvetovanja. Cilj posvetovanja je zbrati mnenja o beli knjigi kot celoti, pa tudi o nekaterih posebnih vidikih. Podobno javno posvetovanje se je začelo tudi v zvezi s sporočilom Evropske komisije Evropska strategija za podatke.

5. To mnenje pojasnjuje nekatere neuradne pripombe ENVP in prinaša bolj ciljno usmerjene prispevke za Evropsko komisijo z vidika javnega posvetovanja. Poleg tega to mnenje ne posega v morebitne dodatne pripombe, ki bi jih ENVP lahko podal na podlagi nadaljnjih razpoložljivih informacij v poznejši fazi, tudi v okviru prihodnjih zakonodajnih posvetovanj o pravnih aktih, predvidenih v beli knjigi in letnem delovnem programu Komisije.

6. Čeprav za institucije, organe, urade in agencije Evropske unije velja uredba EUDPR in ne Splošna uredba o varstvu podatkov, obe uredbi zasledujeta iste cilje, njuna načela pa so enaka ( 4 ) . Da se odrazi ta skladnost, bo ob vsakem sklicevanju na določbo Splošne uredbe o varstvu podatkov v tem mnenju v oklepaju navedena tudi ustrezna določba uredbe EUDPR.

7. V interesu skladnega pristopa po vsej Uniji ENVP priporoča, naj se morebitni nov regulativni okvir za umetno inteligenco uporablja za države članice EU ter institucije, urade, organe in agencije EU. Kadar institucije, uradi, organi in agencije EU uporabljajo umetno inteligenco, bi zanje morala veljati ista pravila, kot se uporabljajo v državah članicah EU.

3. SKLEPNE UGOTOVITVE

77. ENVP se v celoti strinja s Komisijo glede potrebe po evropskem pristopu k umetni inteligenci in v zvezi s tem zelo pozdravlja zavezanost bele knjige k temeljnim pravicam in evropskim vrednotam.

78. Kljub temu ENVP meni, da je treba predloge v beli knjigi dodatno prilagoditi in jih glede nekaterih pomembnih vprašanj dodatno pojasniti. Med temami, ki bi jih bilo treba v morebitnih prihodnjih zakonodajnih predlogih bolj pojasniti, so povezava med tveganji, ki jih prinaša umetna inteligenca, in povezanimi zakonodajnimi vrzelmi, pristop na podlagi tveganja, uporabljen za aplikacije umetne inteligence, ter opredelitev same umetne inteligence, ki bi morala omogočati jasno opredelitev področja uporabe predlagane zakonodaje.

79. ENVP glede morebitnega novega regulativnega okvira za umetno inteligenco dodatno priporoča, naj: — se uporablja za države članice EU ter institucije, urade, organe in agencije EU, — bo oblikovan tako, da varuje pred kakršnimi koli negativnimi vplivi, in sicer ne le na posameznike, temveč tudi skupnosti in družbo kot celoto, — predlaga robustnejši in bolj raznolik sistem razvrščanja tveganj, s katerimi bi se zagotovilo, da za vse pomembne potencialne nevarnosti, ki jih prinašajo aplikacije umetne inteligence, obstajajo ustrezni blažilni ukrepi, — vključuje oceno tveganja z jasno opredelitvijo regulativnih vrzeli, ki jih namerava zapolniti, — preprečuje prekrivanje različnih nadzornih organov in vključuje mehanizem za sodelovanje.

80. Glede biometrične identifikacije na daljavo ENVP podpira idejo o moratoriju na uvedbo avtomatiziranega prepoznavanja človeških značilnosti na javnih mestih v EU, ne le obrazov, temveč tudi načina hoje, prstnih odtisov, DNK, glasu, tipkanja in drugih biometričnih ali vedenjskih signalov, da bi se lahko opravila informirana in demokratična razprava, ter do takrat, ko bodo imele EU in države članice vzpostavljene vse ustrezne zaščitne ukrepe, vključno s celovitim pravnim okvirom, za zagotavljanje sorazmernosti zadevnih tehnologij in sistemov za posebne primere uporabe.

81. Če bi nov pravni okvir bil tak, kakor izhaja iz bele knjige in letnega delovnega programa Komisije, bo ENVP dodatno svetoval Komisiji, kakor je predvideno v členu 42 uredbe EUDPR.

Bruselj, 29. junij 2020 Wojciech Rafał WIEWIÓROWSKI

(1) COM(2020) 65 final.

(2) COM(2020) 66 final.

(3) Mnenje ENVP 3/2020 o evropski strategiji za podatke (EDPS Opinion 3/2020 on the European strategy for data), https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf.

(4) Kjer določbe Uredbe (EU) 2018/1725 sledijo istim načelom kot določbe Uredbe (EU) 2016/679, bi bilo treba v skladu s sodno prakso Sodišča Evropske unije navedena dva niza določb razlagati enotno, zlasti ker bi bilo treba strukturo uredbe EDPR razumeti kot enakovredno strukturi Splošne uredbe o varstvu podatkov; glej uvodno izjavo 5 uredbe EDPR, ki se nanaša na sodbo Sodišča z dne 9. marca 2010, Evropska komisija proti Zvezni republiki Nemčiji, zadeva C-518/07, ECLI:EU:C:2010:125, točka 28.