Eelnõu esialgset teksti arutatakse Strasbourgis toimuvatel tehisintellekti komitee täiskogu istungjärkudel, mis on kavandatud 21.–23. septembriks ja 23.–25. novembriks 2022. 2023. aastaks on kavandatud ka neli koosolekut ja 2024. aastaks üks koosolek.

·täiendavad meetmed avaliku sektori ja tehisintellektisüsteemide jaoks, mis on riski- ja mõjuhindamise metoodika alusel tunnistatud süsteemideks, mille riskitase on „vastuvõetamatu“ või „märkimisväärne“ (esitatakse hiljem konventsiooni lisas);

Seejärel edastas tehisintellekti komitee esimees tulevase (raam)konventsiooni eelnõu esialgse teksti, milles sätestatakse aluspõhimõtted ja õigusnormid, mille eesmärk on tagada, et tehisintellektisüsteemide projekteerimine, arendamine ja rakendamine on kooskõlas inimõiguste austamise, demokraatia toimimise ja õigusriigi põhimõtte järgimisega. Tulevast (raam)konventsiooni tuleb rakendada lepinguosaliste vastavates jurisdiktsioonides. Kohaldamisala hõlmab nii avaliku kui ka erasektori tehisintellektisüsteemide pakkujaid ja kasutajaid, kuid ei hõlma riigikaitsega seotud tehisintellektisüsteeme. Eelnõu esialgses tekstis tehakse ettepanek lisada järgmised sätted:

11. septembril 2019 otsustas Euroopa Nõukogu ministrite komitee luua tehisintellekti ajutise komitee (CAHAI). Selle ülesanne oli uurida tehisintellekti arendamist, projekteerimist ja rakendamist käsitleva õigusraamistiku teostatavust ja võimalikke elemente, võttes samal ajal arvesse Euroopa Nõukogu inimõiguste, demokraatia ja õigusriigi standardeid ning asjakohaseid olemasolevaid rahvusvahelisi õiguslikke dokumente. Tehisintellekti ajutise komitee töö põhines teostatavusuuringul ja mitut sidusrühma hõlmaval konsultatsioonil, mis viidi läbi 2021. aasta kevadel. Tehisintellekti ajutine komitee täitis oma ülesande 3. detsembril 2021 ja esitas lõppdokumendi, milles kirjeldati sellise õigusraamistiku võimalikke osi. Dokumendi kohaselt on tehisintellektisüsteemide arendamiseks, projekteerimiseks ja rakendamiseks vaja õiguslikku dokumenti, mis sisaldab inimväärikuse kaitse ning inimõiguste, demokraatia ja õigusriigi austamise aluspõhimõtteid. Õigusliku dokumendiga tuleks ette näha tehisintellektisüsteemide riskiklassifitseerimise metoodika, mis hõlmab kategooriaid „madal risk“, „kõrge risk“ ja „vastuvõetamatu risk“. Tehisintellektirakendused, millega kaasnevad vastuvõetamatud riskid, tuleks keelustada. Põhjendamatu kallutatuse vältimiseks tuleks lisada võrdset kohtlemist ja mittediskrimineerimist käsitlev säte. Õiguslikud kaitsemeetmed peaksid tagama vähemalt õiguse tõhusale õiguskaitsevahendile riigi ametiasutuses, õiguse olla teavitatud tehisintellektisüsteemi kasutamisest otsustusprotsessis, õiguse valida suhtlemise inimesega ja õiguse teada, et suheldakse tehisintellektisüsteemiga. Konkreetseid probleeme, nagu sisuga manipuleerimine (süvavõltsingud), tuleks siiski käsitleda muudes valdkondlikes õigusaktides. Kaaluda tuleks nõuetele vastavuse kontrolli mehhanismide ja riiklike järelevalveasutuste loomise nõuet. Õiguslikku dokumenti võiks täiendada mittesiduva mõjuhindamise mudel.

•Ettepaneku põhjused ja eesmärgid

Käesolev soovitus otsuse kohta esitatakse nõukogule vastavalt Euroopa Liidu toimimise lepingu (ELi toimimise leping) artiklile 218. Otsusega lubatakse alustada liidu nimel läbirääkimisi tulevase tehisintellekti, inimõigusi, demokraatiat ja õigusriiki käsitleva Euroopa Nõukogu konventsiooni üle, võtta vastu läbirääkimisjuhised ja nimetada komisjon liidu läbirääkijaks.

Euroopa Liidu toimimise lepingu artikli 3 lõikes 2 on sätestatud, et liidu ainupädevusse kuulub „rahvusvahelise lepingu sõlmimine, [...] kui selle sõlmimine võib mõjutada ühiseeskirju või muuta nende reguleerimisala.“ Rahvusvaheline leping võib mõjutada ühiseeskirju või muuta nende kohaldamisala, kui lepinguga hõlmatud valdkond kattub liidu õigusega või on sellega suures osas hõlmatud.

Sellega seoses nähakse ELi õiguses ette terviklik ühtse turu normide kogum toodete ja teenuste jaoks, mille puhul tehisintellektisüsteeme saab kasutada. Lisaks võib teatavate tehisintellektisüsteemide arendamine ja kasutamine mõjutada ELi põhiõiguste hartas ja ELi teisestes õigusaktides sätestatud põhiõiguste kasutamist, sealhulgas näiteks õigust füüsilisele ja vaimsele puutumatusele, isikuandmete kaitset, eraelu puutumatust, mittediskrimineerimist, väljendus- ja teabevabadust, süütuse presumptsiooni, õiglast kohtumõistmist ja tõhusat õiguskaitsevahendit. Selline areng ja kasutamine võib mõjutada ka liidu aluseks olevaid väärtusi, sealhulgas inimväärikust, demokraatiat ja õigusriiki.

Pealegi selleks et hinnata, kas valdkond on suures ulatuses reguleeritud ELi õigusega, tuleb arvesse võtta nii asjaomases valdkonnas praegu kehtivat ELi õigust kui ka selle edaspidist arengut, kuivõrd seda on võimalik analüüsi tegemise ajal ette näha. Tulevase Euroopa Nõukogu tehisintellekti konventsiooniga hõlmatud valdkond on selliste prognoositavate tulevaste arengusuundumustega otseselt seotud, võttes arvesse komisjoni ettepanekut tehisintellekti käsitleva määruse kohta (edaspidi „tehisintellekti käsitlev õigusakt“), mis esitati 2021. aasta aprillis ning mille üle Euroopa Parlament ja nõukogu praegu läbirääkimisi peavad.

Läbirääkimised tulevase tehisintellekti käsitleva Euroopa Nõukogu (raam)konventsiooni üle on seotud liidu pädevusse kuuluvate küsimustega ning konventsiooni eelnõu esialgne tekst ja kavandatav tehisintellekti käsitlev õigusakt kattuvad oma kohaldamisala, olemuse ja sisu poolest suures osas. Seda silmas pidades on oluline, et läbirääkimisi peetakse liidu nimel viisil, mis tagab, et tehisintellekti käsitlevate ELi õigusnormide järjepidevust ja ühtsust ning nende loodava süsteemi nõuetekohast toimimist ei kahjustata ning et tulevane Euroopa Nõukogu konventsioon on täielikult kooskõlas ELi kehtiva ja tulevase asjaomase valdkonna õigusega.

•Kooskõla poliitikavaldkonnas praegu kehtivate õigusnormidega

21. aprillil 2021 tegi komisjon ettepaneku võtta vastu määrus, millega nähakse ette ühtlustatud õigusnormid tehisintellektisüsteemide turule laskmise, kasutuselevõtmise ja kasutamise kohta liidus. Ettepanekul on kaks eesmärki: luua tehisintellekti arendamise ja kasutusevõtu soodustamiseks ühtne turg ning tegeleda samal ajal ohutusele, tervisele ja põhiõigustele kaasnevate riskidega. Ettepanek on olemuselt horisontaalne ning seda kohaldatakse tehisintellektisüsteemide pakkujate ja kasutajate suhtes, olenemata sellest, kas tegemist on avaliku või erasektori üksustega. Tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse üksnes sõjalistel eesmärkidel, jäävad kohaldamisalast välja.

Ettepanekus sätestatakse proportsionaalsed nõuded ja kohustused, mis piirduvad miinimumiga, mis on vajalik tervise, ohutuse ja põhiõigustega seotud riskide käsitlemiseks, takistamata tehisintellekti tehnoloogia arengut või suurendamata ebaproportsionaalselt ettevõtjate finants- ja halduskoormust. Selleks järgitakse riskipõhist lähenemisviisi, mille kohaselt liigitatakse tehisintellektisüsteemid eri kategooriatesse: „vastuvõetamatu“, „suur“, „läbipaistvusega seotud“ ja „väike“ või „minimaalne“.

·Tehakse ettepanek keelustada tehisintellektisüsteemid, mida peetakse ELi väärtustega kokkusobimatuks ja mis kujutavad endast selget ohtu inimeste ohutusele, toimetulekule või õigustele, kujutades endast vastuvõetamatut riski (nt kodanikuskoori kasutamine avaliku sektori asutustes, tehisintellekti manipuleerivad kahjulikud tavad, reaalajas toimuv biomeetriline kaugtuvastus õiguskaitse eesmärgil üldkasutatavates ruumides, välja arvatud mõned üksikud erandid).

·Suure riskiga tehisintellektisüsteemid, mis kujutavad endast märkimisväärset ohtu tervisele, turvalisusele või põhiõigustele, peavad läbima vastavuskontrolli ja vastama teatud kohustuslikele nõuetele (nt seoses riskijuhtimise, andmete kvaliteedi, dokumenteerimise, läbipaistvuse, inimjärelevalve, täpsuse, küberturvalisusega), enne kui neid süsteeme saab liidus turule lasta või kasutada. Proportsionaalsed ja tulemuslikud seire- ja järelevalvekohustused pannakse ka pakkujatele ja kasutajatele, määrates selgelt kindlaks nende rollid ja kohustused kogu väärtusahela ulatuses, ilma et see mõjutaks muid valdkondlikest õigusaktidest tulenevaid kohustusi.

·Inimesi tuleks teavitada sellest, kui nad suhtlevad tehisintellektisüsteemidega, mis kujutavad endast läbipaistvusega seotud riski (nt juturobotid, emotsioonide tuvastamise ja biomeetrilise liigitamise süsteemid, süvavõltsingud), või puutuvad selliste süsteemidega kokku.

·Kõik muud süsteemid, mis kujutavad endast minimaalset või väikest riski tervisele, ohutusele ja põhiõigustele, on lubatud ilma täiendavate piiranguteta, kuid pakkujad võivad otsustada järgida vabatahtlikke tegevusjuhendeid.

Nõukogu ja Euroopa Parlament arutavad ettepanekut seadusandliku tavamenetluse kohaselt.

Läbirääkimised tulevase Euroopa Nõukogu tehisintellekti, inimõigusi, demokraatiat ja õigusriiki käsitleva konventsiooni üle peaksid tagama, et kokkulepitud sätted on kooskõlas ELi õiguse ja sellest tulenevate liikmesriikide kohustustega, võttes arvesse selle tulevast arengut ja kavandatavat tehisintellekti käsitlevat õigusakti. Samuti on vaja tagada, et Euroopa Nõukogu konventsioon sisaldab eraldumisklauslit, mis võimaldab konventsiooni osalisteks olevatel ELi liikmesriikidel reguleerida omavahelisi suhteid ELi õiguse alusel. Kavandatav tehisintellekti käsitlev õigusakt sellisena, milliseks see kujuneb seadusandliku menetluse ja kaasseadusandjate läbirääkimiste raames ning lõpuks lõplikus (vastuvõetud) vormis, tuleks ELi liikmesriikide vahel säilitada. Euroopa Liit peaks samuti saama konventsiooniga ühineda osalisena.