OBRAZLOŽITVENI MEMORANDUM

OZADJE PREDLOGA

Umetna inteligenca ponuja številne priložnosti za družbo, okolje in gospodarstvo. Hkrati pa lahko nekatere vrste umetne inteligence glede na okoliščine v zvezi z njenim posebnim namenom uporabe povzročijo materialno ali nematerialno škodo in tveganje za javni interes ter temeljne pravice in svoboščine posameznikov. Usklajen pravni okvir za umetno inteligenco, ki ščiti take javne interese in temeljne pravice ter hkrati spodbuja zaupanje in inovacije, je zato ključnega pomena za obravnavanje navedenih izzivov in izkoriščanje potenciala umetne inteligence.

Evropska komisija je aprila 2021 predlagala celovito uredbo na področju umetne inteligence, s katero bi se uskladila pravila za umetnointeligenčne sisteme v vseh 27 državah članicah EU. Evropski parlament in Svet se trenutno pogajata o predlogu v skladu z rednim zakonodajnim postopkom. Različne mednarodne organizacije, vključno s Svetom Evrope, so prav tako okrepile svoja prizadevanja na tem področju, pri čemer priznavajo čezmejno naravo umetne inteligence in potrebo po mednarodnem sodelovanju za reševanje skupnih izzivov.

Vzpostavitev konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

Odbor ministrov Sveta Evrope je 11. septembra 2019 sprejel odločitev o ustanovitvi posebnega odbora za umetno inteligenco. Njegova naloga je bila preučiti izvedljivost in možne elemente pravnega okvira o razvoju, oblikovanju in uporabi umetne inteligence ob upoštevanju standardov Sveta Evrope na področju človekovih pravic, demokracije in pravne države ter ustreznih obstoječih mednarodnih pravnih instrumentov. Delo posebnega odbora za umetno inteligenco je temeljilo na študiji izvedljivosti in posvetovanju z več deležniki, opravljenem spomladi leta 2021. Posebni odbor za umetno inteligenco je nalogo dokončal 3. decembra 2021, pri čemer je pripravil končni dokument, v katerem so bili opredeljeni morebitni elementi takšnega pravnega okvira. V dokumentu je navedeno, da je za razvoj, oblikovanje in uporabo sistemov umetne inteligence potreben pravni instrument, ki bo vseboval temeljna načela varstva človekovega dostojanstva ter spoštovanja človekovih pravic, demokracije in pravne države. Instrument naj bi določal vzpostavitev metodologije za razvrstitev tveganj umetnointeligenčnih sistemov s kategorijami „majhno tveganje“, „veliko tveganje“ in „nesprejemljivo tveganje“. Uporabe umetne inteligence, ki pomenijo „nesprejemljivo“ tveganje, bi morale biti prepovedane. Da bi se izognili neupravičeni pristranskosti, bi bilo treba vključiti določbo o spoštovanju enakega obravnavanja in nediskriminacije. Pravna jamstva naj bi zagotavljala vsaj pravico do učinkovitega pravnega sredstva pred nacionalnim organom, pravico do obveščenosti o uporabi umetnointeligenčnega sistema v postopku odločanja, pravico do izbire interakcije s človekom in pravico do tega, da uporabnik ve, da je v stiku z umetnointeligenčnim sistemom. Specifična vprašanja, kot je manipuliranje z vsebino (t. i. globoki ponaredki), pa naj bi bila obravnavana v drugih sektorskih instrumentih. Razmisliti bi bilo treba o zahtevi za vzpostavitev mehanizmov za zagotavljanje skladnosti in nacionalnih nadzornih organov. Pravni instrument bi lahko bil dopolnjen z nezavezujočim modelom ocene učinka.

Za obdobje 2022–2024 je bil oblikovan odbor za umetno inteligenco, ki je naslednik posebnega odbora za umetno inteligenco. Odbor za umetno inteligenco ima v skladu s svojimi pristojnostmi nalogo, da vzpostavi mednarodni pogajalski proces, namenjen oblikovanju pravnega okvira za razvoj, oblikovanje in uporabo umetne inteligence. Okvir naj bi temeljil na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države ter spodbujal inovacije. Osnutek okvira naj bi bil pripravljen do 15. novembra 2023, sam okvir pa naj bi bil dokončan do prenehanja delovanja odbora za umetno inteligenco v letu 2024. Odbor za umetno inteligenco naj bi pri izvajanju svojih pristojnosti svoje delo usklajeval z drugimi medvladnimi odbori in subjekti Sveta Evrope, se pri svojem delu opiral na trdne dokaze in vključujoče posvetovanje, vključno z mednarodnimi in nadnacionalnimi partnerji, ter upošteval končni dokument posebnega odbora za umetno inteligenco.

Odbor za umetno inteligenco je na svoji ustanovitveni seji, ki je potekala od 4. do 6. aprila 2022, izvolil predsednika, podpredsednika in predsedstvo odbora. Odbor ministrov Sveta Evrope je 30. junija 2022 odboru za umetno inteligenco naročil, naj „v skladu s svojimi pristojnostmi hitro začne pripravo pravno zavezujočega prečnega instrumenta (v nadaljnjem besedilu: konvencija ali okvirna konvencija) o umetni inteligenci, ki bo temeljil na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države, ki bo osredotočen na splošna skupna načela, ki bo spodbujal inovacije in bo odprt za sodelovanje tretjih držav, ob upoštevanju drugih ustreznih mednarodnih pravnih okvirov, ki že obstajajo ali so v pripravi“.

Predsednik odbora za umetno inteligenco je nato predložil predhodni osnutek prihodnje (okvirne) konvencije, ki določa temeljna načela in pravila za zagotavljanje, da so oblikovanje, razvoj in uporaba umetnointeligenčnih sistemov skladni s spoštovanjem človekovih pravic, delovanjem demokracije in spoštovanjem pravne države. Prihodnjo (okvirno) konvencijo bo treba izvajati v zadevnih jurisdikcijah pogodbenic. Področje uporabe zajema javne in zasebne ponudnike ter uporabnike umetnointeligenčnih sistemov, ne vključuje pa umetnointeligenčnih sistemov, povezanih z nacionalno obrambo. V predhodnem osnutku je predlagana vključitev naslednjih določb:

·namen in področje uporabe (okvirne) konvencije;

·opredelitve pojmov umetnointeligenčni sistem, življenjski cikel, ponudnik, uporabnik in „umetnointeligenčni subjekt“;

·nekatera temeljna načela, vključno s postopkovnimi zaščitnimi ukrepi in pravicami za umetnointeligenčne subjekte, ki bi veljala za vse umetnointeligenčne sisteme, ne glede na njihovo stopnjo tveganja;

·dodatni ukrepi za javni sektor in umetnointeligenčne sisteme z „nesprejemljivo“ ali „pomembno“ stopnjo tveganja, opredeljeno na podlagi metodologije ocene tveganja in učinka (ki naj bi bila določena pozneje v prilogi h konvenciji);

·mehanizmi nadaljnjega spremljanja in sodelovanja med pogodbenicami;

·končne določbe, vključno z možnostjo, da države članice EU v okviru medsebojnih odnosov uporabljajo pravo EU za zadeve, ki jih zajema konvencija, in možnostjo, da h konvenciji pristopi Unija.

Predhodni osnutek bo obravnavan na plenarnih zasedanjih odbora za umetno inteligenco v Strasbourgu, ki sta predvideni 21.–23. septembra in 23.–25. novembra 2022. Predvidene so tudi štiri seje v letu 2023 in ena v letu 2024.