SKLEP SVETA (EU) 2022/2349

z dne 21. novembra 2022

o odobritvi začetka pogajanj v imenu Evropske unije o konvenciji Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

SVET EVROPSKE UNIJE JE –

ob upoštevanju Pogodbe o delovanju Evropske unije ter zlasti člena 114 v povezavi s členom 218(3) in (4) Pogodbe,

ob upoštevanju priporočila Evropske komisije,

ob upoštevanju naslednjega:

(1) Odbor ministrov Sveta Evrope je leta 2021 ustanovil odbor za umetno inteligenco za obdobje 2022–2024, ki naj bi vzpostavil mednarodni pogajalski proces za oblikovanje pravnega okvira, namenjenega razvoju, oblikovanju in uporabi umetne inteligence, ki bo temeljil na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države ter spodbujal inovacije.

(2) Odbor ministrov Sveta Evrope je 30. junija 2022 odboru za umetno inteligenco naročil, naj v skladu s svojimi pristojnostmi hitro začne pripravo pravno zavezujočega presečnega instrumenta, bodisi konvencije ali okvirne konvencije o umetni inteligenci, ki bo temeljil na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države, ki bo osredotočen na splošna skupna načela, ki bo spodbujal inovacije in bo odprt za sodelovanje tretjih držav, ob upoštevanju drugih ustreznih mednarodnih pravnih okvirov, ki že obstajajo ali so v pripravi.

(3) Predsednik odbora za umetno inteligenco je nato predlagal predhodni osnutek konvencije ali okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: konvencija). Predhodni osnutek vključuje določbe o namenu in predmetu, področju uporabe, opredelitvah pojmov, temeljnih načelih, vključno s postopkovnimi zaščitnimi ukrepi in pravicami, ki veljajo za vse sisteme umetne inteligence, ne glede na njihovo stopnjo tveganja, dodatnih ukrepih za sisteme umetne inteligence v javnem sektorju in za sisteme umetne inteligence z „nesprejemljivo“ in „pomembno“ stopnjo tveganja, mehanizmu spremljanja in sodelovanja, končne določbe, vključno z možnostjo, da Unija pristopi h taki konvenciji, in dodatek, ki je v pripravi, o metodologiji za oceno tveganja in učinka sistemov umetne inteligence.

(4) Unija je sprejela skupna pravila, na katera bodo vplivali elementi, obravnavani za namene konvencije. Ti elementi vključujejo zlasti celovit nabor pravil na področju enotnega trga za proizvode (1) in storitve (2), za katere se lahko uporabljajo sistemi umetne inteligence, ter sekundarno zakonodajo Unije (3), s katero se izvaja Listina EU o temeljnih pravicah (4), saj bosta razvoj in uporaba nekaterih sistemov umetne inteligence v določenih okoliščinah verjetno negativno vplivala na zadevne pravice.

(5) Poleg tega je Komisija 21. aprila 2021 vložila zakonodajni predlog za uredbo o določitvi harmoniziranih pravil o umetni inteligenci, o katerem se trenutno pogajata Evropski parlament in Svet. Predvidena konvencija se v veliki meri prekriva z zakonodajnim predlogom v smislu področja uporabe, saj je cilj obeh instrumentov določiti pravila, ki veljajo za oblikovanje, razvoj in uporabo sistemov umetne inteligence, ki jih zagotavljajo in uporabljajo javni ali zasebni subjekti.

(6) Zato lahko sklenitev konvencije vpliva na obstoječa in predvidena prihodnja skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3(2) Pogodbe o delovanju Evropske unije (PDEU).

(7) Začeti bi bilo treba pogajanja za sklenitev konvencije v zvezi z zadevami, ki spadajo v izključno pristojnost Unije, za zaščito celovitosti prava Unije ter nadaljnjo usklajenost določb mednarodnega prava in prava Unije.

(8) Konvencija bi lahko določila visoke mednarodne standarde v zvezi z ureditvijo umetne inteligence, ki vpliva na človekove pravice, delovanje demokracije in spoštovanje pravne države, zlasti v luči dela, ki ga je Svet Evrope že opravil na tem področju.

(9) Ta sklep ne bi smel posegati v sodelovanje držav članic pri pogajanjih o konvenciji in v kakršno koli naknadno odločitev držav članic o sklenitvi, podpisu ali ratifikaciji konvencije ali pristop Unije h konvenciji.

(10) Nacionalna varnost ostaja v izključni pristojnosti vsake države članice v skladu s členom 4(2) Pogodbe o Evropski uniji (PEU). Pri izvajanju Konvencije bi morale države članice v skladu s členom 216(2) PDEU opredeliti svoje bistvene varnostne interese in sprejeti ustrezne ukrepe za zagotovitev svoje notranje in zunanje varnosti, ne da bi se pri tem onemogočila uporaba prava Unije ali da bi bile izvzete iz obveznosti spoštovanja prava Unije.

(11) Glede na poseben položaj, ki je posledica dejstva, da so vse države članice tudi članice Sveta Evrope, bi morale države članice, ki so prisotne pri pogajanjih o Konvenciji, v skladu z načelom lojalnega sodelovanja iz člena 4(3) PEU in ob popolnem medsebojnem spoštovanju podpirati pogajalca Unije pri izvajanju nalog, ki izhajajo iz Pogodb.

(12) V skladu s členom 42(1) Uredbe (EU) 2018/1725 Evropskega parlamenta in Sveta (5) je bilo opravljeno posvetovanje z Evropskim nadzornikom za varstvo podatkov, ki je mnenje podal 13. oktobra 2022 (6) –

SPREJEL NASLEDNJI SKLEP:

Člen 1 1. Komisija je pooblaščena, da v imenu Unije v zvezi z zadevami, ki spadajo v izključno pristojnost Unije, začne pogajanja o Konvenciji Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi. 2. Pogajanja potekajo na podlagi pogajalskih smernic Sveta iz dodatka k temu sklepu, ki se lahko po potrebi revidirajo in nadalje oblikujejo glede na potek pogajanj.

Člen 2 Pogajanja iz člena 1 potekajo ob posvetovanju z Delovno skupino za telekomunikacije in informacijsko družbo, ki se imenuje za posebni odbor v smislu člena 218(4) PDEU. Komisija redno poroča posebnemu odboru iz prvega odstavka o ukrepih, sprejetih na podlagi tega sklepa, in se z njim redno posvetuje. Kadar koli Svet to zahteva, mu Komisija poroča o poteku in izidu pogajanj, tudi v pisni obliki. Glede vsebine pogajanj, ki spada delno v pristojnosti Unije in delno v pristojnosti njenih držav članic, Komisija in države članice med pogajalskim procesom tesno sodelujejo, da bi zagotovile enotno zunanje zastopanje Unije.

Člen 3 Ta sklep je naslovljen na Komisijo.

V Bruslju, 21. novembra 2022 Za Svet predsednik Z. NEKULA

(1) Direktiva Sveta 85/374/EGS z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako (UL L 210, 7.8.1985, str. 29); Direktiva 2001/95/ES Evropskega parlamenta in Sveta z dne 3. decembra 2001 o splošni varnosti proizvodov (UL L 11, 15.1.2002, str. 4); Direktiva 2006/42/ES Evropskega parlamenta in Sveta z dne 17. maja 2006 o strojih in spremembah Direktive 95/16/ES (UL L 157, 9.6.2006, str. 24); Direktiva 2009/48/ES Evropskega parlamenta in Sveta z dne 18. junija 2009 o varnosti igrač (UL L 170, 30.6.2009, str. 1); Direktiva 2014/53/EU Evropskega parlamenta in Sveta z dne 16. aprila 2014 o harmonizaciji zakonodaj držav članic v zvezi z dostopnostjo radijske opreme na trgu in razveljavitvi Direktive 1999/5/ES (UL L 153, 22.5.2014, str. 62); Uredba (EU) 2017/745 Evropskega parlamenta in Sveta z dne 5. aprila 2017 o medicinskih pripomočkih, spremembi Direktive 2001/83/ES, Uredbe (ES) št. 178/2002 in Uredbe (ES) št. 1223/2009 ter razveljavitvi direktiv Sveta 90/385/EGS in 93/42/EGS (UL L 117, 5.5.2017, str. 1); Uredba (EU) 2019/2144 Evropskega parlamenta in Sveta z dne 27. novembra 2019 o zahtevah za homologacijo motornih vozil in njihovih priklopnikov ter sistemov, sestavnih delov in samostojnih tehničnih enot, namenjenih za taka vozila, v zvezi z njihovo splošno varnostjo in zaščito potnikov v vozilu ter izpostavljenih udeležencev v cestnem prometu in o spremembi Uredbe (EU) 2018/858 Evropskega parlamenta in Sveta ter razveljavitvi uredb (ES) št. 78/2009, (ES) št. 79/2009 in (ES) št. 661/2009 Evropskega parlamenta in Sveta in uredb Komisije (ES) št. 631/2009, (EU) št. 406/2010, (EU) št. 672/2010, (EU) št. 1003/2010, (EU) št. 1005/2010, (EU) št. 1008/2010, (EU) št. 1009/2010, (EU) št. 19/2011, (EU) št. 109/2011, (EU) št. 458/2011, (EU) št. 65/2012, (EU) št. 130/2012, (EU) št. 347/2012, (EU) št. 351/2012, (EU) št. 1230/2012 in (EU) 2015/166 (UL L 325, 16.12.2019, str. 1).

(2) Direktiva 2000/31/ES Evropskega parlamenta in Sveta z dne 8. junija 2000 o nekaterih pravnih vidikih storitev informacijske družbe, zlasti elektronskega poslovanja na notranjem trgu (Direktiva o elektronskem poslovanju) (UL L 178, 17.7.2000, str. 1); Direktiva 2006/123/ES Evropskega parlamenta in Sveta z dne 12. decembra 2006 o storitvah na notranjem trgu (UL L 376, 27.12.2006, str. 36); Direktiva 2008/48/ES Evropskega parlamenta in Sveta z dne 23. aprila 2008 o potrošniških kreditnih pogodbah in razveljavitvi Direktive Sveta 87/102/EGS (UL L 133, 22.5.2008, str. 66).

(3) Direktiva Sveta 2000/43/ES z dne 29. junija 2000 o izvajanju načela enakega obravnavanja oseb ne glede na raso ali narodnost (UL L 180, 19.7.2000, str. 22); Direktiva Sveta 2000/78/ES z dne 27. novembra 2000 o splošnih okvirih enakega obravnavanja pri zaposlovanju in delu (UL L 303, 2.12.2000, str. 16); Direktiva 2002/58/ES evropskega parlamenta in Sveta z dne 12. julija 2002 o obdelavi osebnih podatkov in varstvu zasebnosti na področju elektronskih komunikacij (Direktiva o zasebnosti in elektronskih komunikacijah) (UL L 201, 31.7.2002, str. 37); Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1); Direktiva (EU) 2016/680 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov, ki jih pristojni organi obdelujejo za namene preprečevanja, preiskovanja, odkrivanja ali pregona kaznivih dejanj ali izvrševanja kazenskih sankcij, in o prostem pretoku takih podatkov ter o razveljavitvi Okvirnega sklepa Sveta 2008/977/PNZ (UL L 119, 4.5.2016, str. 89).

(4) Listina Evropske unije o temeljnih pravicah (UL C 326, 26.10.2012, str. 391).

(5) Uredba (EU) 2018/1725 Evropskega parlamenta in Sveta z dne 23. oktobra 2018 o varstvu posameznikov pri obdelavi osebnih podatkov v institucijah, organih, uradih in agencijah Unije in o prostem pretoku takih podatkov ter o razveljavitvi Uredbe (ES) št. 45/2001 in Sklepa št. 1247/2002/ES (UL L 295, 21.11.2018, str. 39).

(6) Mnenje 20/2022 Evropskega nadzornika za varstvo podatkov k Priporočilu za sklep Sveta o odobritvi začetka pogajanj v imenu Evropske unije za konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (še ni objavljeno v Uradnem listu).