EUROOPA KOMISJON Brüssel,21.4.2021 COM(2021) 206 final 2021/0106(COD) Ettepanek: EUROOPA PARLAMENDI JA NÕUKOGU MÄÄRUS, MILLEGA NÄHAKSE ETTE TEHISINTELLEKTI KÄSITLEVAD ÜHTLUSTATUD ÕIGUSNORMID (TEHISINTELLEKTI KÄSITLEV ÕIGUSAKT) JA MUUDETAKSE TEATAVAID LIIDU ÕIGUSAKTE {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



SELETUSKIRI 1.ETTEPANEKU TAUST 1.1.Ettepaneku põhjused ja eesmärgid Käesolev seletuskiri lisatakse ettepanekule võtta vastu määrus, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt). Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis võib luua mitmesuguseid majanduslikke ja ühiskondlikke hüvesid kõigis tööstusharudes ja kogu ühiskonnas. Prognooside täiustamise, tegevuse ja vahendite jaotuse optimeerimise ja personaalsema teenuseosutamisega võib tehisintellekt toetada ühiskonnale ja keskkonnale kasulikke tulemusi ning luua olulise konkurentsieelise ettevõtjatele ja Euroopa majandusele. Selline tegevus on eriti vajalik suure mõjuga valdkondades, sealhulgas kliimamuutused, keskkond ja tervis, avalik sektor, rahandus, liikuvus, siseküsimused ja põllumajandus. Samad elemendid ja meetodid, mis aitavad tehisintellektil luua sotsiaal-majanduslikke hüvesid, võivad aga kaasa tuua uusi riske või negatiivseid tagajärgi üksikisikutele või ühiskonnale. Arvestades tehniliste muutuste kiirust ja võimalikke probleeme, püüab EL saavutada tasakaalustatud käsitust. ELi huvides on säilitada tehnoloogia vallas juhtpositsioon ja tagada, et eurooplased saavad kasu uuest tehnoloogiast, mis on välja arendatud ja toimib kooskõlas liidu väärtuste, põhiõiguste ja põhimõtetega. Käesoleva ettepanekuga täidetakse president von der Leyeni poolt järgmisele komisjonile (2019–2024) antud poliitilistes suunistes „Liit, mis seab kõrgemad sihid“ võetud poliitiline kohustus, mille kohaselt komisjon teeb ettepaneku võtta vastu õigusakt, mis tagab kooskõlastatud Euroopa käsitluse tehisintellekti mõjust inimesele ja eetikale. Selle teadaande järel avaldas komisjon 19. veebruaril 2020 valge raamatu „Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast“. Valges raamatus on esitatud poliitikavariandid selle kohta, kuidas täita kaks võrdset eesmärki: soodustada tehisintellekti kasutuselevõttu ja tegeleda selle tehnoloogia teatavate kasutusviisidega seotud riskidega. Käesoleva ettepanekuga taotletakse teist eesmärki, milleks esitatakse ettepanek usaldusväärse tehisintellekti õigusraamistiku loomise kohta, et luua usaldusväärne ökosüsteem. Ettepanek põhineb ELi väärtustel ja põhiõigustel ning sellega soovitakse anda inimestele ja muudele kasutajatele kindlustunnet tehisintellektipõhiste lahenduste kasutamisel, julgustades samas ettevõtjaid neid välja arendama. Tehisintellekt peaks olema inimeste abivahend ja ühiskonda edasiviiv jõud, mille lõppeesmärk on suurendada inimeste heaolu. Seepärast peaksid liidu turul olemasolevat või liidu kodanikke muul viisil mõjutavat tehisintellekti käsitlevad eeskirjad olema inimesekesksed, et inimesed saaksid olla kindlad, et tehnoloogiat kasutatakse ohutul ja õiguspärasel viisil, sealhulgas austades põhiõigusi. Pärast valge raamatu avaldamist alustas komisjon ulatuslikku konsulteerimist sidusrühmadega. Suur hulk sidusrühmi oli väga huvitatud ja toetas valdavalt regulatiivset sekkumist, et tegeleda tehisintellekti suurenevast kasutamisest tulenevate probleemide ja muredega. Ettepanek on ühtlasi vastus Euroopa Parlamendi ja Euroopa Ülemkogu sõnaselgetele korduvatele nõudmistele võtta õiguslikud meetmed, et tagada hästi toimiv tehisintellektisüsteemide siseturg, kus liidu tasandil käsitletakse asjakohaselt nii tehisintellekti kasulikkust kui ka riske. See toetab Euroopa Ülemkogu püstitatud liidu eesmärki võtta ülemaailmne juhtroll turvalise, usaldusväärse ja eetilise tehisintellekti arendamises ning tagab eetikapõhimõtete kaitse, mida on konkreetselt nõudnud Euroopa Parlament. Euroopa Ülemkogu nõudis 2017. aastal esilekerkivate suundumuste kiiret käsitlemist, mis „hõlmab selliseid küsimusi nagu tehisintellekt [...], tagades samal ajal andmekaitse, digitaalõiguste ja eetiliste standardite kõrge taseme“. Nõukogu rõhutas 2019. aasta järeldustes, milles käsitletakse kooskõlastatud kava Euroopas loodud tehisintellekti arendamise ja kasutamise kohta, kui tähtis on tagada Euroopa kodanike õiguste täielik järgimine, ja kutsus üles läbi vaatama olemasolevad asjakohased õigusaktid, et need vastaksid tehisintellektiga seotud uutele võimalustele ja väljakutsetele. Euroopa Ülemkogu on nõudnud ka suure riskiga tehisintellektirakenduste selget määratlemist. Viimastes, 21. oktoobril 2020 avaldatud järeldustes nõuti ka teatavate tehisintellektisüsteemide musta kasti efekti, keerukuse, kallutatuse, teatava ettearvamatuse ja osaliselt autonoomse käitumise probleemiga tegelemist, et tagada nende kokkusobivus põhiõigustega ja hõlbustada õigusnormide jõustamist. Ka Euroopa Parlament on teinud tehisintellekti valdkonnas märkimisväärselt palju. Parlament võttis 2020. aasta oktoobris vastu mitu tehisintellektiga seotud resolutsiooni, sealhulgas eetika, vastutuse ja autoriõiguse teemal. Nendele järgnesid 2021. aastal resolutsioonid tehisintellekti kohta kriminaalasjades ning haridus-, kultuuri- ja audiovisuaalsektoris. Parlamendi resolutsioonis tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta soovitatakse komisjonil välja pakkuda õiguslikud meetmed, et kasutada ära tehisintellekti pakutavaid võimalusi ja hüvesid, kuid ühtlasi tagada eetikapõhimõtete kaitse. Resolutsioon hõlmab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtteid käsitleva määruse seadusandliku ettepaneku teksti. Kooskõlas president von der Leyeni poliitilistes suunistes võetud poliitilise kohustusega seoses ELi toimimise lepingu artikli 225 alusel Euroopa Parlamendi vastuvõetavate resolutsioonidega, võetakse käesolevas ettepanekus arvesse eespool nimetatud Euroopa Parlamendi resolutsiooni, austades täiel määral proportsionaalsuse, subsidiaarsuse ja parema õigusloome põhimõtteid. Sellises poliitilises kontekstis pakub komisjon välja tehisintellekti reguleeriva raamistiku järgmiste erieesmärkidega: ·tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas kehtiva põhiõigusi käsitleva õigusega ning liidu väärtustega; ·tagada õiguskindlus tehisintellekti tehtavate investeeringute ja innovatsiooni soodustamiseks; ·tugevdada juhtimist ja tõhustada põhiõigusi käsitleva kehtiva õiguse ja tehisintellektisüsteemidele kohalduvate ohutusnõuete täitmise tagamist; ·hõlbustada seaduslike, ohutute ja usaldusväärsete tehisintellektirakenduste ühtse turu väljatöötamist ja vältida turu killustumist. Nende eesmärkide täitmiseks esitatakse käesolevas ettepanekus tehisintellekti reguleerimise tasakaalustatud ja proportsionaalne horisontaalne käsitus, milles piirdutakse tehisintellektiga seotud riskide ja probleemidega tegelemiseks vajalike vähimate nõuetega, ilma, et põhjendamatult pärsitaks või takistataks tehnoloogia arengut või suurendataks muul viisil ebaproportsionaalselt tehisintellektilahenduste turule laskmise kulu. Ettepanekus sätestatakse põhjalik ja paindlik õigusraamistik. Ühest küljest on selle reguleerimisalased põhivalikud, sealhulgas tehisintellektisüsteemidele kohaldatavad ja põhimõtetel rajanevad nõuded, terviklikud ja tulevikukindlad. Teisest küljest kehtestatakse sellega proportsionaalne reguleeriv raamistik, mille keskmes on hästi määratletud riskipõhine regulatiivne lähenemisviis, mis ei tekita kaubandusele ebavajalikke piiranguid ja mille puhul reguleeriv sekkumine on kohandatud nendele konkreetsetele olukordadele, kus on või võib mõistlikult eeldada lähitulevikus tekkivat põhjust muretsemiseks. Samas hõlmab õigusraamistik paindlikke mehhanisme, mis võimaldavad sellel tehnoloogia arenedes ja uute muret tekitavate olukordade tekkides dünaamiliselt kohanduda. Ettepanekus sätestatakse harmoneeritud eeskirjad tehisintellektisüsteemide arendamiseks, turule laskmiseks ja kasutamiseks liidus, järgides proportsionaalset riskipõhist lähenemisviisi. Selles esitatakse ühtne tulevikukindel tehisintellekti määratlus. Teatavad eriti kahjulikud tehisintellektiga seotud tavad keelustatakse, sest on vastuolus liidu väärtustega, ning pakutakse välja eripiirangud ja -kaitsemeetmed seoses biomeetrilise kaugtuvastamise süsteemide teatavate kasutusviisidega õiguskaitse eesmärgil. Ettepanekus sätestatakse kindel riskimetoodika, et määratleda suure riskiga tehisintellektisüsteemid, mis põhjustavad märkimisväärseid riske inimeste tervisele ja ohutusele või põhiõigustele. Need tehisintellektisüsteemid peavad vastama usaldusväärse tehisintellekti suhtes kohaldatavatele horisontaalsetele kohustuslikele nõuetele ja enne nende laskmist liidu turule tuleb nende kohta ellu viia vastavushindamismenetlused. Samuti kehtestatakse nende süsteemide pakkujatele ja kasutajatele prognoositavad, proportsionaalsed ja selged kohustused, et tagada ohutus ja selliste olemasolevate õigusaktide järgimine, mis kaitsevad põhiõigusi kogu tehisintellektisüsteemide olelusringi jooksul. Teatavatele konkreetsetele tehisintellektisüsteemidele pakutakse välja ainult minimaalsed läbipaistvuskohustused, eriti kui kasutatakse juturoboteid või nn süvavõltsinguid. Pakutud eeskirju jõustatakse liikmesriigi tasandi juhtimissüsteemiga, võttes aluseks juba olemasolevad struktuurid, ning liidu tasandil koostööks loodava Euroopa tehisintellekti nõukoja kaudu. Ette nähakse lisameetmed innovatsiooni toetamiseks, eelkõige tehisintellekti regulatsiooni testkeskkondade ja muude meetmete kaudu, millega vähendatakse regulatiivset koormust ning toetatakse väikeseid ja keskmise suurusega ettevõtjaid (edaspidi „VKEd“) ja idufirmasid. 1.2.Kooskõla poliitikavaldkonnas praegu kehtivate õigusnormidega Ettepaneku horisontaalsus eeldab täielikku järjepidevust olemasolevate liidu õigusaktidega, mida kohaldatakse sektorites, kus juba kasutatakse või tõenäoliselt hakatakse lähitulevikus kasutama suure riskiga tehisintellektisüsteeme.

Tagatakse ka järjepidevus ELi põhiõiguste harta ja olemasolevate liidu teiseste õigusaktidega andmekaitse, tarbijakaitse, diskrimineerimiskeelu ja soolise võrdõiguslikkuse valdkonnas. Ettepanek ei piira isikuandmete kaitse üldmääruse (määrus (EL) 2016/679) ega õiguskaitsedirektiivi (direktiiv (EL) 2016/680) kohaldamist ja täiendab neid harmoneeritud eeskirjadega, mida kohaldatakse teatavate suure riskiga tehisintellektisüsteemide projekteerimisele, arendamisele ja kasutamisele, ning biomeetrilise kaugtuvastamise süsteemide teatavatele kasutusviisidele kohaldatavate piirangutega. Ettepanek täiendab ka diskrimineerimiskeeluga seotud olemasolevat liidu õigust erinõuetega, mille eesmärk on viia miinimumini algoritmilise diskrimineerimise risk, eelkõige seoses tehisintellektisüsteemide arendamiseks kasutatavate andmekogumite ülesehituse ja kvaliteediga. Lisaks võetakse tehisintellektisüsteemide kogu olelusringi jooksul kasutusele testimis-, riskijuhtimis-, dokumenteerimis- ja inimjärelevalve kohustused. Ettepaneku kohaldamine ei piira liidu konkurentsiõiguse kohaldamist. Toodetes turvakomponentidena kasutatavate suure riskiga tehisintellektisüsteemide valdkonnas kaasatakse käesolev ettepanek olemasolevasse valdkondlikku ohutusõigusesse, et tagada järjepidevus, vältida dubleerimist ja viia miinimumini lisakoormus. Uue õigusraamistiku õigusaktides käsitletavate toodetega (näiteks masinad, meditsiiniseadmed, mänguasjad) seotud suure riskiga tehisintellektisüsteemidele käesolevas ettepanekus esitatud nõudeid kontrollitakse olemasolevate vastavushindamismenetluste raames uue õigusraamistiku asjakohaste õigusaktide alusel. Seoses nõuete vastastikuse mõjuga võib öelda, et kui käesolevas ettepanekus esitatud nõuetega soovitakse käsitleda tehisintellektisüsteemidele eriomaseid ohutusriske, siis uue õigusraamistiku õigusaktide eesmärk on tagada lõpptoote üldine ohutus ja seega võivad need sisaldada erinõudeid tehisintellektisüsteemi ohutu integreerimise kohta lõpptootesse. Ilmne näide sellisest lähenemisest on ettepanek masinaid käsitleva määruse kohta, mis võetakse vastu käesoleva ettepanekuga samal päeval. Käesolevat ettepanekut ei kohaldataks otseselt suure riskiga tehisintellektisüsteemidele, mis on seotud vana lähenemisviisi asjakohastes õigusaktides käsitletud toodetega (näiteks lennundus, autod). Küll aga tuleb suure riskiga tehisintellektisüsteemidele kohaldatavaid ja käesolevas ettepanekus sätestatud hädavajalikke eeltingimusi arvesse võtta nende õigusaktide alusel asjakohaste rakendus- või delegeeritud aktide vastuvõtmisel. Seoses reguleeritud krediidiasutuste pakutavate või kasutatavate tehisintellektisüsteemidega tuleks liidu finantsteenuseid käsitlevate õigusaktide järelevalve eest vastutavad asutused nimetada pädevateks asutusteks, kes peavad jälgima käesoleva ettepaneku nõuete täitmist, et järjepidevalt oleks tagatud käesolevast ettepanekust tulenevate kohustuste ja liidu finantsteenuseid käsitlevate selliste õigusaktide täitmine, millega tehisintellektisüsteeme reguleeritakse teatavas ulatuses kaudselt seoses krediidiasutuste sisemise juhtimissüsteemiga. Järjepidevuse suurendamiseks integreeritakse vastavushindamine ja käesolevast ettepanekust pakkujatele tulenevad teatavad menetluskohustused krediidiasutuste tegevuse alustamise tingimusi ning usaldatavusnõuete täitmise järelevalvet käsitleva direktiivi 2013/36/EL kohastesse menetlustesse. Käesolev ettepanek on ühtlasi kooskõlas teenuste, sealhulgas e-kaubanduse direktiiviga 2000/31/EÜ reguleeritavate vahendusteenuste valdkonnas kohaldatavate liidu õigusaktidega ja komisjoni hiljutise ettepanekuga digiteenuste õigusakti kohta. Ettepanekut ei kohaldata tehisintellektisüsteemidele, mis on Suuremahuliste IT-süsteemide Operatiivjuhtimise Euroopa Liidu Ameti (eu-LISA) juhitavas vabadusel, turvalisusel ja õigusel rajanevas alas suuremahuliste IT-süsteemide komponendid ja turule lastud või kasutusele võetud enne ühe aasta möödumist käesoleva määruse kohaldamise kuupäevast, välja arvatud juhul kui nende õigusaktide asendamine või muutmine toob kaasa asjakohase tehisintellektisüsteemi või -süsteemide projekteerimise või sihtotstarbe märkimisväärse muutmise. 1.3.Kooskõla muude liidu tegevuspõhimõtetega Ettepanek on osa laiemast terviklikust meetmepaketist, mille eesmärk on lahendada tehisintellekti arendamisest ja kasutamisest tingitud probleeme, nagu on vaadeldud tehisintellekti käsitlevas valges raamatus. Seetõttu tagatakse järjepidevus ja täiendavus komisjoni teiste käimasolevate või kavandatud algatustega, mille eesmärk on samuti tegeleda nende probleemidega, sealhulgas vaadata läbi tooteid käsitlevad valdkondlikud õigusaktid (näiteks masinadirektiiv, üldise tooteohutuse direktiiv), ning algatustega, mille raames tegeletakse uue tehnoloogiaga, sealhulgas tehisintellektisüsteemidega seotud vastutuse küsimustega. Need algatused tuginevad käesolevale ettepanekule ja täiendavad seda, et luua õiguskindlust ja soodustada usaldusväärse tehisintellekti ökosüsteemi loomist Euroopas. Ettepanek on kooskõlas ka komisjoni kogu digistrateegiaga, sest see toetab inimeste heaks toimivat tehnoloogiat, mis on üks kolmest teatises „Euroopa digituleviku kujundamine“ välja toodud poliitikasuuna tugisambast ja põhieesmärgist. Selles sätestatakse sidus, tõhus ja proportsionaalne raamistik, et tehisintellekti arendamisel austataks inimeste õigusi ja teenitaks ära nende usaldus, kujundades Euroopa digiajastule vastavaks ja muutes järgmised kümme aastat Euroopa digikümnendiks. Tehisintellektipõhine innovatsioon on tihedalt seotud ka andmehaldust käsitleva õigusakti, avaandmete direktiivi ja ELi andmestrateegia kohaste muude algatustega, millega luuakse usaldusväärsed mehhanismid ja teenused selliste andmete taaskasutamiseks, jagamiseks ja koondamiseks, mis on hädavajalikud kvaliteetsete andmepõhiste tehisintellektimudelite arendamiseks. Ettepanek tugevdab märkimisväärselt liidu rolli, et aidata kujundada ülemaailmseid norme ja standardeid ning soodustada usaldusväärset tehisintellekti, mis on kooskõlas liidu väärtuste ja huvidega. See annab liidule kindla lähtekoha, et suhelda rohkem oma välispartneritega, sealhulgas kolmandate riikidega, ja osaleda rohkem tehisintellektiga seotud küsimusi käsitlevatel rahvusvahelistel foorumitel. 2.ÕIGUSLIK ALUS, SUBSIDIAARSUS JA PROPORTSIONAALSUS 2.1.Õiguslik alus Ettepaneku õiguslik alus on Euroopa Liidu toimimise lepingu artikkel 114, milles on ette nähtud meetmete võtmine, et tagada siseturu loomine ja toimimine. Käesolev ettepanek on ELi digitaalse ühtse turu strateegia keskne osa. Ettepaneku peamine eesmärk on tagada siseturu nõuetekohane toimimine, sätestades harmoneeritud eeskirjad eelkõige tehisintellektitehnoloogiat kasutavate või eraldiseisvate tehisintellektisüsteemidena pakutavate toodete ja teenuste arendamise, liidu turule laskmise ja kasutamise kohta. Mõned liikmesriigid kaaluvad juba riiklike eeskirjade kehtestamist, et tagada tehisintellekti ohutus ning arendamine ja kasutamine kooskõlas põhiõigustega seotud kohustustega. See toob tõenäoliselt kaasa kaks peamist probleemi: i) siseturg killustub olemuslikes aspektides, eelkõige seoses tehisintellektitoodetele ja -teenustele esitatavate nõuete, nende turundamise, kasutamise, vastutuse ja ametiasutuste poolse järelevalvega, ning ii) märkimisväärselt väheneb nii tehisintellektisüsteemide pakkujate kui ka kasutajate õiguskindlus seoses sellega, kuidas kohaldatakse liidus nende süsteemide suhtes olemasolevaid ja uusi eeskirju. Arvestades toodete ja teenuste laialdast piiriülest ringlust, saab need kaks probleemi kõige paremini lahendada ühtlustavate ELi õigusaktidega. Selleks määratletakse ettepanekus ühised kohustuslikud nõuded, mida kohaldatakse teatavate tehisintellektisüsteemide projekteerimisele ja arendamisele enne nende turule laskmist ning mille toimivust suurendatakse veelgi harmoneeritud tehniliste standarditega. Ettepanekus käsitletakse ka tehisintellektisüsteemide turule laskmise järgset olukorda, harmoneerides järelkontrolli tegemise viisid. Arvestades, et käesolevas ettepanekus on teatavaid erieeskirju üksikisikute kaitse kohta isikuandmete töötlemisel, nimelt piirangud tehisintellektisüsteemide kasutamisele õiguskaitse eesmärgil reaalajas toimuvaks biomeetriliseks kaugtuvastamiseks avalikult juurdepääsetavates ruumides, on asjakohane võtta seoses nende erieeskirjadega määruse aluseks ka ELi toimimise lepingu artikkel 16. 2.2.Subsidiaarsus (ainupädevusse mittekuuluva valdkonna puhul) Tehisintellekt tugineb sageli suurtele ja mitmekesistele andmekogumitele ning selle võib sisse ehitada siseturul vabalt ringlevasse mis tahes tootesse või teenusesse, mistõttu liikmesriigid üksi ei saa käesoleva ettepaneku eesmärke tõhusalt täita. Lisaks takistab lahkneda võivate riiklike eeskirjade segu tehisintellektisüsteemidega seotud toodete ja teenuste vaba ringlust ELis ega suuda eri liikmesriikides tõhusalt tagada ohutust ega põhiõiguste ja liidu väärtuste kaitset. Probleemide riiklik lahendamine tekitaks ainult täiendavat õiguskindlusetust ja takistusi ning aeglustaks tehisintellekti levikut turul. Käesoleva ettepaneku eesmärke on parem täita liidu tasandil, et vältida ühtse turu edasist killustumist potentsiaalselt vastuolulisteks riiklikeks raamistikeks, mis takistavad sisse ehitatud tehisintellektiga toodete ja teenuste vaba ringlust. Usaldusväärset tehisintellekti reguleeriv kindel Euroopa raamistik tagab ka võrdsed võimalused ja kaitseb kõiki inimesi, tugevdades ühtlasi Euroopa tehisintellekti valdkonna konkurentsivõimet ja tööstusbaasi. Vaid liidu tasandi ühismeetmetega on võimalik kaitsta liidu digitaalset suveräänsust ning kasutada ära selle vahendeid ja regulatiivvolitusi ülemaailmsete eeskirjade ja standardite kujundamiseks. 2.3.Proportsionaalsus

Ettepanek tugineb olemasolevatele õigusraamistikele ja on proportsionaalne ja vajalik eesmärkide täitmiseks, sest järgib riskipõhist lähenemisviisi ning sellega kehtestatakse regulatiivne koormus vaid siis, kui tehisintellektisüsteem põhjustab tõenäoliselt suuri riske põhiõigustele ja ohutusele. Muudele kui suure riskiga tehisintellektisüsteemidele kehtestatakse ainult väga piiratud läbipaistvuskohustused, näiteks kohustus jagada teavet, et märgistada tehisintellektisüsteemi kasutamine inimestega suhtlemisel. Suure riskiga tehisintellektisüsteemide puhul on nõuded kvaliteetsete andmete, dokumentatsiooni, jälgitavuse, läbipaistvuse, inimjärelevalve, täpsuse ja stabiilsuse kohta rangelt vajalikud, et viia miinimumini tehisintellektist tingitud riskid põhiõigustele ja ohutusele ning riskid, mida ei kata muud olemasolevad õigusraamistikud. Harmoneeritud standardid, lisasuunised ja nõuete täitmise abivahendid aitavad pakkujatel ja kasutajatel järgida ettepanekuga sätestatud nõudeid ja vähendada kulusid. Operaatoritele tekkivad kulud vastavad täidetavatele eesmärkidele ning majanduslikule ja mainega seotud kasule, mida operaatorid võivad sellest ettepanekust eeldada. 2.4.Vahendi valik Määruse valimist õiguslikuks vahendiks põhjendab uute eeskirjade ühetaolise kohaldamise vajalikkus, näiteks seoses tehisintellekti määratluse, teatavate kahjulike tehisintellekti võimaldatavate tavade keelu ja teatavate tehisintellektisüsteemide liigitamisega. ELi toimimise lepingu artiklist 288 tulenev määruse vahetu kohaldatavus vähendab õiguslikku killustatust ja soodustab seaduslike, ohutute ja usaldusväärsete tehisintellektisüsteemide ühtse turu väljatöötamist. Selleks kehtestatakse eelkõige harmoneeritud põhinõuded suure riskiga tehisintellektisüsteemidele ja kohustused nende süsteemide pakkujatele ja kasutajatele, et suurendada põhiõiguste kaitset ning tagada nii operaatoritele kui ka tarbijatele õiguskindlus. Samal ajal ei ole määruse sätted liiga piiravad ja jätavad liikmesriikidele ruumi võtta eri tasandi meetmeid elementide puhul, mis ei kahjusta algatuse eesmärke, näiteks turujärelevalve süsteemi sisekorraldus ja innovatsiooni soodustavate meetmete kasutuselevõtt. 3.JÄRELHINDAMISE, SIDUSRÜHMADEGA KONSULTEERIMISE JA MÕJU HINDAMISE TULEMUSED 3.1.Konsulteerimine sidusrühmadega Käesoleva ettepaneku koostamiseks konsulteeriti ulatuslikult kõigi peamiste sidusrühmadega ja selles kohaldas komisjon huvitatud pooltega konsulteerimise üldisi põhimõtteid ja miinimumnõudeid. Koos tehisintellekti käsitleva valge raamatu avaldamisega algatati 19. veebruaril 2020 avalik veebikonsultatsioon, mis kestis kuni 14. juunini 2020. Konsultatsiooni eesmärk oli koguda valge raamatu kohta seisukohti ja arvamusi. Konsultatsioon oli mõeldud kõigile avaliku ja erasektori huvitatud sidusrühmadele, sealhulgas valitsused, kohalikud ametiasutused, kaubanduslikud ja mittekaubanduslikud organisatsioonid, sotsiaalpartnerid, eksperdid, akadeemikud ja kodanikud. Pärast kõikide saadud vastuste analüüsimist avaldas komisjon tulemuste kokkuvõtte ja individuaalsed vastused oma veebisaidil. Kokku saadi 1215 vastust, millest 352 esitasid ettevõtjad või äriorganisatsioonid / ettevõtjate ühendused, 406 üksikisikud (92 % ELi üksikisikud), 152 esitati akadeemiliste/teadusasutuste nimel ja 73 esitasid avalikud asutused. Kodanikuühiskonna häält esindas 160 vastajat (kellest 9 olid tarbijaorganisatsioonid, 129 valitsusvälised organisatsioonid ja 22 ametiühingud); 72 olid „muud“ vastajad. 352 ettevõtluse ja tööstuse esindajast olid 222 ettevõtete ja äriringkondade esindajad, kellest 41,5 % olid mikro-, väikesed ja keskmise suurusega ettevõtjad. Ülejäänud olid ettevõtjate ühendused. ELi 27 riigist saadi kokku 84 % ettevõtjate ja tööstuse vastustest. Olenevalt küsimusest kasutas 81–598 vastajat märkuste sisestamiseks vaba teksti võimalust. EU Survey veebisaidi kaudu esitati üle 450 seisukohti käsitleva dokumendi kas lisaks küsimustiku vastustele (üle 400) või eraldiseisva panusena (üle 50). Sidusrühmad on üldiselt ühel nõul meetmete vajalikkuses. Valdav enamus sidusrühmi nõustub, et esineb seaduslünki või et vaja on uusi õigusakte. Samas hoiatavad mitu sidusrühma komisjoni, et vältida tuleb dubleerimist, vastuolus olevaid kohustusi ja ülereguleerimist. Paljudes märkustes rõhutati, et tähtis on tehnoloogianeutraalne ja proportsionaalne reguleeriv raamistik. Sidusrühmad nõudsid enamasti kitsast, selget ja täpset tehisintellekti määratlust. Sidusrühmad rõhutasid ka, et peale termini „tehisintellekt“ täpsustamist on tähtis määratleda „risk“, „suure riskiga“, „väikese riskiga“, „biomeetriline kaugtuvastus“ ja „kahju“. Enamik vastajaid pooldab sõnaselgelt riskipõhist lähenemisviisi. Riskipõhise raamistiku kasutamist peeti paremaks variandiks kui kõigi tehisintellektisüsteemide üldist reguleerimist. Riskide ja ohtude liigid peaksid põhinema sektori- ja üksikjuhtumipõhisel lähenemisviisil. Riskide arvutamisel tuleks samuti arvesse võtta mõju õigustele ja ohutusele. Regulatsiooni testkeskkonnad võivad olla tehisintellekti soodustamiseks väga kasulikud ja teatavad sidusrühmad, eriti ettevõtjate ühendused on väljendanud nende üle heameelt. Nende hulgas, kes sõnastasid oma arvamuse täitmise tagamise mudelite kohta, pooldas enam kui 50 % suure riskiga tehisintellektisüsteemide puhul riskide eelhindamise ja hilisema täitmise tagamise kombinatsiooni, eriti ettevõtjate ühenduste liikmed. 3.2.Eksperdiarvamuste kogumine ja kasutamine Ettepanek tugineb kahe aasta jooksul tehtud analüüsidele ja selle koostamisel on tihedat koostööd tehtud sidusrühmade, sealhulgas akadeemikute, ettevõtjate, sotsiaalpartnerite, valitsusväliste organisatsioonide, liikmesriikide ja kodanikega. Ettevalmistustöö algas 2018. aastal, kui loodi tehisintellekti kõrgetasemeline eksperdirühm, millel oli kaasav ja mitmekesine koosseis, s.o 52 hästi tuntud eksperti, kelle ülesanne oli anda komisjonile nõu tema tehisintellekti strateegia rakendamise kohta. Komisjon toetas 2019. aasta aprillis eksperdirühma usaldusväärset tehisintellekti käsitlevates eetikasuunistes sätestatud põhinõudeid, mida oli muudetud, et võtta arvesse sidusrühmade enam kui 500 vastust. Põhinõuetes kajastub laialt levinud ja tavaline lähenemisviis, et tehisintellekti arendamisel ja kasutamisel tuleks lähtuda teatavatest väärtustest kantud olulistest põhimõtetest. Selline lähenemisviis ilmneb paljude Euroopa ja muu maailma era- ja avaliku sektori organisatsioonide väljatöötatud paljudest eetikakoodeksitest ja -põhimõtetest. Need nõuded muudeti toimivaks usaldusväärse tehisintellekti kontrollnimekirjaga katseprotsessis, milles osales üle 350 organisatsiooni. Lisaks loodi tehisintellekti allianss kui platvorm, kus ligikaudu 4000 sidusrühma saavad arutada tehisintellekti tehnoloogilise ja sotsiaalse mõju üle ning mille haripunkt igal aastal on tehisintellekti käsitlev assamblee. Seda kaasavat lähenemisviisi arendati edasi tehisintellekti käsitlevas valges raamatus, mis ajendas enam kui 1250 sidusrühma esitama märkusi, sealhulgas üle 450 täiendava seisukohti käsitleva dokumendi. Selle tulemusel avaldas komisjon esialgse mõjuhinnangu, mille kohta esitati omakorda üle 130 märkuse. Korraldati täiendavaid sidusrühmade seminare ja muid üritusi, mille tulemused toetavad mõjuhinnangu analüüsi ja käesolevas ettepanekus valitud poliitikavariante. Telliti ka välisuuring, mille tulemused kaasati mõjuhinnangusse. 3.3.Mõjuhinnang Komisjon korraldas kooskõlas parema õigusloome poliitikaga käesoleva ettepaneku mõju hindamise, mille vaatas läbi komisjoni õiguskontrollikomitee. Õiguskontrollikomiteega kohtuti 16. detsembril 2020 ja sellele järgnes negatiivne arvamus. Kui mõjuhinnangut oli märkuste arvesse võtmiseks põhjalikult muudetud ja see uuesti esitatud, andis õiguskontrollikomitee 21. märtsil 2021 positiivse arvamuse. Õiguskontrollikomitee arvamused, soovitused ja selgitused selle kohta, kuidas soovitusi on arvesse võetud, on esitatud mõjuhinnangu 1. lisas.

Komisjon vaatas läbi erinevad poliitikavariandid, et täita ettepaneku üldine eesmärk, mis on tagada ühtse turu nõuetekohane toimimine, luues tingimused usaldusväärse tehisintellekti arendamiseks ja kasutamiseks liidus. Hinnati nelja erineval tasemel regulatiivse sekkumisega poliitikavarianti: ·variant 1: ELi õigusakt, millega luuakse vabatahtlik märgistuskord; ·variant 2: ajutine valdkondlik lähenemisviis; ·variant 3: proportsionaalse riskipõhise lähenemisviisiga horisontaalne ELi õigusakt; ·variant 3+: proportsionaalse riskipõhise lähenemisviisiga horisontaalne ELi õigusakt + tegevusjuhendid muu kui suure riskiga tehisintellektisüsteemide kohta; ·variant 4: horisontaalne ELi õigusakt, millega kehtestatakse kohustuslikud nõuded kõigile tehisintellektisüsteemidele, olenemata nende riskitasemest. Komisjoni kehtestatud metoodika järgi hinnati iga poliitikavarianti, lähtudes majanduslikust ja sotsiaalsest mõjust ning keskendudes eelkõige põhiõigustele avaldatavale mõjule. Eelistatud on variant 3+ ehk ainult suure riskiga tehisintellektisüsteeme reguleeriv raamistik koos kõigi muu kui suure riskiga tehisintellektisüsteemide pakkujate võimalusega järgida tegevusjuhendeid. Nõuded puudutavad andmeid, dokumentatsiooni ja jälgitavust, teabe jagamist ja läbipaistvust, inimjärelevalvet ning stabiilsust ja täpsust ja need oleksid kohustuslikud suure riskiga tehisintellektisüsteemide puhul. Teiste tehisintellektisüsteemidega seotud tegevusjuhendeid kehtestavad ettevõtjad teeksid seda vabatahtlikult. Eelistatud varianti peeti kõige tõhusamaks käesoleva ettepaneku eesmärkide täitmiseks. Eelistatud variant eeldab tehisintellekti arendajatelt ja kasutajatelt piiratud, kuid tõhusaid meetmeid ja vähendab seega inimeste põhiõiguste ja ohutuse rikkumise riske ning soodustab tõhusat järelevalvet ja täitmise tagamist, sest nõudeid peavad täitma vaid süsteemid, mille puhul on selliste rikkumiste esinemise oht suur. Nii hoitakse selle variandiga vastavuskulud võimalikult väikesed ja välditakse kõrgematest hindadest ja vastavuskuludest tulenevat kasutuselevõtu ebavajalikku aeglustumist. Selleks et see variant ei oleks VKEdele ebasoodne, hõlmab see mitut vahendit nende nõuetele vastavuse toetamiseks ja kulude vähendamiseks, sealhulgas regulatsiooni testkeskkondade loomine ja kohustus võtta arvesse VKEde huve vastavushindamisega seotud tasude määramisel. Eelistatud variant suurendab inimeste usaldust tehisintellekti vastu, suureneb ettevõtjate õiguskindlus ja liikmesriigid ei pea põhjendatuks ühepoolseid meetmeid, mis võivad killustada ühtset turgu. Tehisintellekti ühtne turg kasvab tõenäoliselt jõudsalt, sest tänu usaldusväärsuse kasvule suureneb nõudlus, tänu õiguskindlusele on rohkem pakkumisi ja puuduvad takistused tehisintellektisüsteemide piiriülesele liikuvusele. Euroopa Liit jätkab tehisintellektitehnoloogiat või eraldiseisvaid tehisintellektisüsteeme sisaldavate uuenduslike teenuste ja toodete kiiresti kasvava ökosüsteemi arendamist, mis suurendab digitaalset sõltumatust. Ettevõtjad või ametiasutused, kes arendavad või kasutavad tehisintellektirakendusi, mis hõlmavad suurt riski kodanike ohutusele või põhiõigustele, peaksid järgima erinõudeid ja -kohustusi. Nende nõuete täitmine tähendaks ligikaudu 6 000–7 000 euro suuruseid kulusid umbes 170 000 eurose keskmise suure riskiga tehisintellektisüsteemi pakkumiseks 2025. aastaks. Tehisintellekti kasutajatele tekiks asjakohasel juhul ka iga-aastane kulu inimjärelevalve tagamiseks kulutatud aja eest, olenevalt kasutusmallist. See on hinnanguliselt ligikaudu 5 000–8 000 eurot aastas. Suure riskiga tehisintellekti pakkujate vastavuskulud võivad olla veel täiendavad 3 000–7 500 eurot. Ettevõtjatel või ametiasutustel, kes arendavad või kasutavad tehisintellektirakendusi, mis ei ole liigitatud suure riskiga rakendusteks, oleksid ainult minimaalsed teavitamiskohustused. Küll aga võivad nad teistega liituda ja võtta ühiselt vastu tegevusjuhendi, et täita sobivad nõuded ja tagada, et nende tehisintellektisüsteemid on usaldusväärsed. Sellisel juhul oleksid kulud kuni sama suured kui suure riskiga tehisintellektisüsteemide puhul, kuid tõenäoliselt väiksemad. Poliitikavariantide mõju eri sidusrühmade kategooriatele (majandustegevuses osalejad / ettevõtjad; vastavushindamisasutused, standardiorganisatsioonid ja muud avalik-õiguslikud organid; üksikisikud/kodanikud; teadurid) selgitatakse üksikasjalikult käesolevat ettepanekut toetava mõjuhinnangu 3. lisas. 3.4.Õigusnormide toimivus ja lihtsustamine Käesolevas ettepanekus on sätestatud suure riskiga tehisintellektisüsteemide pakkujatele ja kasutajatele kohaldatavad kohustused. Selliseid süsteeme arendavatele ja liidu turule laskvatele pakkujatele tekitab see õiguskindluse ja tagab, et tehisintellektiga seotud teenuste ja toodete piiriülesel pakkumisel ei esine takistusi. See suurendab tehisintellekti kasutavate ettevõtjate usaldusväärsust nende klientide silmis. Riikide haldusasutuste seisukohast suurendab see üldsuse usaldust tehisintellekti kasutamise vastu ja tugevdab jõustamismehhanisme (kehtestades Euroopa koordineerimismehhanismi, tagades asjakohase suutlikkuse ja hõlbustades tehisintellektisüsteemide auditeerimist uute dokumenteerimis-, jälgitavus- ja läbipaistvusnõuete alusel). Raamistikus nähakse ette ka konkreetsed innovatsiooni toetavad meetmed, sealhulgas regulatsiooni testkeskkonnad ja erimeetmed, mis aitavad suure riskiga tehisintellektisüsteemide väikekasutajatel ja pakkujatel järgida uusi eeskirju. Ettepaneku üks eesmärke on tugevdada Euroopa tehisintellekti valdkonna konkurentsivõimet ja tööstusbaasi. Tagatakse täielik järjepidevus olemasolevate tehisintellektisüsteemidele (näiteks toodetele ja teenustele) kohaldatavate valdkondlike liidu õigusaktidega, mis suurendab selgust ja lihtsustab uute eeskirjade täitmise tagamist. 3.5.Põhiõigused Eriomadustega (näiteks läbipaistmatus, keerukus, sõltuvus andmetest, autonoomne tegutsemine) tehisintellekti kasutamine võib negatiivselt mõjutada ELi põhiõiguste hartas (edaspidi „harta“) sätestatud mitme põhiõiguse kasutamist. Käesoleva ettepanekuga püütakse tagada nende põhiõiguste kaitse kõrge tase ja käsitleda mitut riskiallikat selgesti määratletud riskipõhise lähenemisviisi abil. Kõigile väärtusahela osalejatele kohaldatavate usaldusväärset tehisintellekti käsitlevate nõuete ja proportsionaalsete kohustustega suurendab ettepanek hartaga kaitstavate õiguste kaitset: õigus inimväärikusele (artikkel 1), eraelu austamisele ja isikuandmete kaitsele (artiklid 7 ja 8), diskrimineerimiskeeld (artikkel 21) ning naiste ja meeste võrdõiguslikkus (artikkel 23). Selle eesmärk on vältida heidutavat mõju sõnavabadusele (artikkel 11) ja kogunemisvabadusele (artikkel 12), tagada õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, kaitseõigus ja süütuse presumptsioon (artiklid 47 ja 48) ning üldine hea halduse põhimõte. Teatavates valdkondades kohaldatavana mõjutab ettepanek positiivselt mitme rühma õigusi, nagu töötajate õigused headele ja õiglastele töötingimustele (artikkel 31), tarbijakaitse kõrge tase (artikkel 28), lapse õigused (artikkel 24) ning puuetega inimeste integreerimine ühiskonda (artikkel 26). Tähtis on ka õigus kõrgetasemelisele keskkonnakaitsele ja keskkonna kvaliteedi parandamisele (artikkel 37), sealhulgas seoses inimeste tervise ja ohutusega. Teiste põhiõiguste austamisele aitavad kaasa eelkontrolli, riskijuhtimise ja inimjärelevalve kohustused, millega viiakse miinimumini ekslike või erapoolikute tehisintellektipõhiste otsuste tegemise risk elutähtsates valdkondades, nagu haridus ja koolitus, tööhõive, tähtsad teenused, õiguskaitse ja kohtuvõim. Kui põhiõiguste rikkumisi ikkagi esineb, tehakse kahju kandnud isikutele kättesaadavaks tõhus õiguskaitse, tagades tehisintellektisüsteemide läbipaistvuse ja jälgitavuse koos range järelkontrolliga. Ettepanekuga kehtestatakse teatavad piirangud ettevõtlusvabadusele (artikkel 16) ja kunsti ja teaduse vabadusele (artikkel 13), et tagada suure riskiga tehisintellektitehnoloogia arendamisel ja kasutamisel kooskõla ülekaaluka avaliku huviga seotud põhjustega, nagu tervis, ohutus, tarbijakaitse ja muude põhiõiguste kaitse (vastutustundlik innovatsioon). Tegemist on proportsionaalsete ja minimaalselt vajalike piirangutega, et takistada ja leevendada suuri ohutusriske ning põhiõiguste tõenäolisi rikkumisi. Suurendatud läbipaistvuskohustused ei mõjuta ebaproportsionaalselt õigust intellektuaalomandi kaitsele (artikli 17 lõige 2), sest piirdutakse ainult minimaalselt vajaliku teabega, et üksikisikud saaksid kasutada tõhusa õiguskaitse õigust, ning järelevalve- ja täitevasutuste vajaliku läbipaistvusega kooskõlas nende volitustega. Teavet avalikustatakse kooskõlas valdkonna asjakohaste õigusaktidega, sealhulgas direktiiviga (EL) 2016/943, milles käsitletakse avalikustamata oskusteabe ja äriteabe (ärisaladuste) ebaseadusliku omandamise, kasutamise ja avalikustamise vastast kaitset. Kui ametiasutustele ja teavitatud asutustele tuleb anda juurdepääs konfidentsiaalsele teabele või lähtekoodile, et uurida oluliste kohustuste järgimist, kehtestatakse neile siduvad konfidentsiaalsuskohustused. 4.MÕJU EELARVELE

Liikmesriigid peavad määrama järelevalveasutused, mis juhivad õigusnõuete rakendamist. Järelevalvefunktsiooni täites võiksid nad tugineda olemasolevale korrale, näiteks vastavushindamisasutuste või turujärelevalve korrale, kuid vajaksid piisavat tehnoloogilist oskusteavet, inimressursse ja rahalisi vahendeid. Olenevalt igas liikmesriigis eelnevalt olemasolevast struktuurist võiks see olla 1–25 täistööaja ekvivalenti liikmesriigi kohta. Üksikasjalik ülevaade kaasnevatest kuludest on esitatud käesoleva ettepanekuga seotud finantsselgituses. 5.MUU TEAVE 5.1.Rakenduskavad ning järelevalve, hindamise ja aruandluse kord Selleks et ettepanekuga selle erieesmärgid tõhusalt täita, on hädavajalik ette näha kindel seire- ja hindamismehhanism. Ettepaneku mõju jälgimise eest vastutab komisjon. Komisjon loob süsteemi suure riskiga eraldiseisvate tehisintellektirakenduste registreerimiseks avalikku ELi andmebaasi. Registreerimine võimaldab pädevatel asutustel, kasutajatel ja teistel huvitatud isikutel kontrollida, kas suure riskiga tehisintellektisüsteem vastab ettepanekus sätestatud nõuetele, ning neid põhiõigustele suurt riski kujutavaid tehisintellektisüsteeme paremini jälgida. Andmebaasi täitmiseks peavad tehisintellekti pakkujad esitama olulist teavet oma süsteemide kohta ja nende süsteemide puhul tehtud vastavushindamise kohta. Lisaks peavad tehisintellekti pakkujad teavitama riikide pädevaid asutusi põhiõigustega seotud kohustuste rikkumist tähendavatest tõsistest intsidentidest või riketest niipea, kui nad saavad nendest teadlikuks, ning tehisintellektisüsteemide tagasikutsumisest või turult kõrvaldamisest. Seejärel uurivad riikide pädevad asutused intsidenti või riket, koguvad kogu vajaliku teabe ja edastavad selle korrapäraselt komisjonile koos asjakohaste metaandmetega. Komisjon täiendab seda intsidenditeavet tehisintellektituru põhjaliku analüüsiga. Komisjon avaldab aruande, milles hinnatakse välja pakutud tehisintellektiraamistikku ja vaadatakse see läbi viis aastat pärast selle kohaldumiskuupäeva. 5.2.Ettepaneku sätete üksikasjalik selgitus 5.2.1.KOHALDAMISALA JA MÕISTED (I JAOTIS) I jaotises määratletakse määruse reguleerimisese ja tehisintellektisüsteemide turule laskmist, kasutuselevõttu ja kasutamist käsitlevate uute eeskirjade kohaldamisala. Selles esitatakse ka õigusaktis kasutatavad mõisted. Tehisintellektisüsteem tuleks õigusraamistikus määratleda võimalikult tehnoloogianeutraalselt ja tulevikukindlalt, võttes arvesse tehisintellektiga seotud kiireid tehnoloogiaalaseid ja turusuundumusi. Vajaliku õiguskindluse tagamiseks täiendatakse I jaotist I lisaga, milles esitatakse tehisintellekti arendamise lähenemisviiside ja meetodite üksikasjalik loetelu, mida komisjon kohandab kooskõlas uute tehnoloogiaalaste suundumustega. Selgesti määratletakse kogu tehisintellekti väärtusahela peamised osalejad, nagu tehisintellektisüsteemide pakkujad ja kasutajad, s.o võrdsete võimaluste tagamiseks nii avaliku kui ka erasektori ettevõtjad. 5.2.2.TEHISINTELLEKTIGA SEOTUD KEELATUD TAVAD (II JAOTIS) II jaotises esitatakse keelatud tehisintellekti loetelu. Määruses järgitakse riskipõhist lähenemisviisi, eristades tehisintellekti kasutusviise, mis tekitavad i) vastuvõetamatu riski, ii) suure riski ja iii) väikese või minimaalse riski. II jaotises esitatud keelatud tavade loetelu hõlmab kõiki neid tehisintellektisüsteeme, mille kasutamist peetakse vastuvõetamatuks, sest see on vastuolus liidu väärtustega, näiteks põhiõiguste rikkumise tõttu. Keelatud on tavad, mille abil on võimalik inimestega märkimisväärselt manipuleerida, kasutades alalävisele tajule suunatud võtteid, või ära kasutada konkreetsete haavatavate rühmade, näiteks laste või puuetega inimeste nõrkusi, et mõjutada oluliselt nende käitumist nii, et see põhjustab tõenäoliselt neile või teistele isikutele vaimset või füüsilist kahju. Muid täiskasvanutega manipuleerivaid või neid ekspluateerivaid tavu, mida tehisintellektisüsteemid võivad soodustada, võib reguleerida olemasolevate andmekaitse-, tarbijakaitse- ja digiteenustealaste õigusaktidega, mis tagavad, et füüsilisi isikuid teavitatakse nõuetekohaselt nende kohta tehtavast profiilianalüüsist või nende käitumist mõjutada võivatest muudest tavadest ning neil on võimalus keelduda nende kasutamisest. Ettepanekuga keelustatakse ametiasutuste kasutatav tehisintellektipõhine sotsiaalne hindamine üldistel eesmärkidel. Keelustatakse ka reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse eesmärgil avalikult juurdepääsetavates ruumides, välja arvatud juhul, kui kohaldatakse teatavaid piiratud erandeid. 5.2.3.SUURE RISKIGA TEHISINTELLEKTISÜSTEEMID (III JAOTIS) III jaotises esitatakse erieeskirjad tehisintellektisüsteemide kohta, mis põhjustavad suurt riski füüsiliste isikute tervisele ja ohutusele või põhiõigustele. Kooskõlas riskipõhise lähenemisviisiga lubatakse nende suure riskiga tehisintellektisüsteemide kasutamist Euroopa turul, kui on täidetud teatavad kohustuslikud nõuded ja tehtud vastavuse eelhindamine. Suure riskiga tehisintellektisüsteemiks liigitamisel lähtutakse tehisintellektisüsteemi sihtotstarbest kooskõlas olemasolevate tooteohutusalaste õigusaktidega. Seega ei olene suure riskiga süsteemiks liigitamine ainult tehisintellektisüsteemi täidetavast funktsioonist, vaid ka selle süsteemi konkreetsest kasutuseesmärgist ja kasutusviisidest. III jaotise 1. peatükis sätestatakse liigitamiseeskirjad ja tehakse kindlaks suure riskiga tehisintellektisüsteemide kaks peamist kategooriat: ·tehisintellektisüsteemid, mis on mõeldud kasutamiseks selliste toodete turvakomponendina, mille kohta teeb kolmas isik vastavuse eelhindamise; ·III lisas sõnaselgelt loetletud muud eraldiseisvad tehisintellektisüsteemid, mis mõjutavad peamiselt põhiõigusi. See III lisas esitatud suure riskiga tehisintellektisüsteemide loetelu sisaldab piiratud arvu tehisintellektisüsteeme, mille riskid on juba ilmnenud või tõenäoliselt ilmnevad lähitulevikus. Selleks et määrust oleks võimalik kohandada uute tehisintellekti kasutusviiside ja tehisintellektirakendustega, võib komisjon pikendada teatavates eelnevalt kindlaks määratud valdkondades kasutatavate suure riskiga tehisintellektisüsteemide loetelu, kohaldades kriteeriumeid ja riskihindamise metoodikat. 2. peatükis sätestatakse suure riskiga tehisintellektisüsteemide suhtes kohaldatavad õiguslikud nõuded seoses andmete ja andmehalduse, andmete dokumenteerimise ja säilitamise, läbipaistvuse ja kasutajatele teabe jagamise, inimjärelevalve, stabiilsuse, täpsuse ja turvalisusega. Paljud hoolsad ettevõtjad juba kasutavad väljapakutud miinimumnõudeid, mis tulenevad kaks aastat kestnud ettevalmistustööst ja kõrgetasemelise eksperdirühma koostatud eetikasuunistest, mille on kasutusele võtnud enam kui 350 organisatsiooni. Need on valdavalt kooskõlas muude rahvusvaheliste soovituste ja põhimõtetega, mis tagab, et väljapakutud tehisintellekti raamistik sobib kokku ELi rahvusvaheliste kaubanduspartnerite vastu võetud raamistikega. Nende nõuete täitmist tagavad täpsed tehnilised lahendused võib esitada standardites või muudes tehnilistes kirjeldustes või need välja töötada vastavalt tehisintellektisüsteemi pakkuja käsutuses olevatele üldistele tehnika- või teadusalastele teadmistele. Selline paindlikkus on eriti tähtis, sest võimaldab tehisintellektisüsteemide pakkujatel valida neile sobiv nõuete täitmise viis, arvestades valdkonna tipptehnoloogiat ning tehnoloogia ja teaduse arengut. 3. peatükis kehtestatakse suure riskiga tehisintellektisüsteemide pakkujatele selged horisontaalsed kohustused. Proportsionaalsed kohustused kehtestatakse ka kasutajatele ja teistele tehisintellekti väärtusahela osalejatele (näiteks importijad, turustajad, volitatud esindajad).

4. peatükis sätestatakse raamistik teavitatud asutuste kui sõltumatute kolmandate isikute osalemise kohta vastavushindamises ja 5. peatükis selgitatakse üksikasjalikult iga liiki suure riskiga tehisintellektisüsteemi puhul kasutatavat vastavushindamist. Vastavushindamisega soovitakse viia miinimumini majandustegevuses osalejate ja samuti teavitatud asutuste koormus, kelle suutlikkust tuleb aja jooksul järk-järgult suurendada. Uue õigusraamistiku õigusaktidega reguleeritavate toodete (näiteks masinad, mänguasjad, meditsiiniseadmed jne) turvakomponentideks mõeldud tehisintellektisüsteemide suhtes kohalduvad samad vastavuse eel- ja järelhindamise ning täitmise tagamise mehhanismid nagu toodetele, mille osad need on. Peamine erinevus seisneb selles, et eel- ja järelmehhanismid ei taga vastavust üksnes valdkonna õigusaktidega kehtestatud nõuetele, vaid ka käesoleva määrusega kehtestatavatele nõuetele. III lisas osutatud eraldiseisvatele suure riskiga tehisintellektisüsteemidele kehtestatakse uus vastavus- ja täitmise tagamise süsteem. Sellega järgitakse uue õigusraamistiku õigusaktide mudelit, mida rakendatakse pakkujate sisekontrolli kaudu. Erand on biomeetrilise kaugtuvastamise süsteemid, mille vastavushindamise teeb kolmas isik. Põhjalik vastavuse eelhindamine sisekontrolli kaudu kombineerituna hilisema tugeva täitmise tagamisega võib olla nende süsteemide korral tõhus ja mõistlik lahendus, arvestades varast regulatiivset sekkumist ja asjaolu, et tehisintellektisektor on väga uuenduslik ja auditeerimise oskusteavet kogutakse alles praegu. Eraldiseisvate suure riskiga tehisintellektisüsteemide hindamine sisekontrolli raames eeldaks täieliku, tõhusa ja nõuetekohaselt dokumenteeritud eelhindamisega kinnitatud vastavust kõigile määruse nõuetele koos töökindlate kvaliteedi- ja riskijuhtimissüsteemide ning turustamisjärgse seirega. Kui pakkuja on teinud asjakohase vastavushindamise, peaks ta need eraldiseisvad suure riskiga tehisintellektisüsteemid registreerima komisjoni hallatavas ELi andmebaasis, et suurendada läbipaistvust avalikkuse jaoks ja järelevalvet ning tugevdada pädevate asutuste poolset järelevalvet. Seevastu toodete turvakomponentidena kasutatavate tehisintellektisüsteemide vastavushindamise korral järgitakse kolmanda isiku tehtava vastavushindamise süsteemi, mis on juba kehtestatud asjakohastes tooteohutust käsitlevates valdkondlikes õigusaktides, et tagada järjepidevus nende olemasolevate õigusaktidega. Kui tehisintellektisüsteemides tehakse olulisi muudatusi (ja eelkõige muudatusi, mis lähevad kaugemale pakkuja tehnilises dokumentatsioonis määratust ja vastavuse eelhindamise hetkel kontrollitust), tuleb teha uued vastavuse eelhindamised. 5.2.4.TEATAVATE TEHISINTELLEKTISÜSTEEMIDE KORRAL KOHALDATAVAD LÄBIPAISTVUSKOHUSTUSED (IV JAOTIS) IV jaotises käsitletakse teatavaid tehisintellektisüsteeme, millega kaasnevad konkreetsed manipuleerimisriskid. Läbipaistvuskohustusi kohaldatakse süsteemidele, i) mis suhtlevad inimestega, ii) mida kasutatakse biomeetriliste andmete põhjal tunnete tuvastamiseks või (sotsiaalsete) kategooriatega seoste kindlaks tegemiseks või iii) mis loovad või muudavad sisu (süvavõltsingud). Inimesi tuleb teavitada sellest, kui nad suhtlevad tehisintellektisüsteemiga või nende tundeid või omadusi tuvastatakse automatiseeritud vahendite abil. Tuleks kehtestada kohustus, et kui tehisintellektisüsteemi kasutatakse autentse sisuna näiva pildi-, audio- või videosisu loomiseks või muutmiseks, peab teavitama, et sisu on loodud automatiseeritud vahendite abil, kuigi õiguspärastel eesmärkidel võib esineda erandeid (õiguskaitse, väljendusvabadus). See võimaldab inimestel teha teadlikke valikuid või olukorrast väljuda. 5.2.5.INNOVATSIOONI TOETAVAD MEETMED (V JAOTIS) V jaotis aitab täita eesmärki luua innovatsiooni soodustav, tulevikukindel ja häiretele vastupidav õigusraamistik. Selleks soovitatakse riikide pädevatel asutustel luua regulatsiooni testkeskkonnad ja sätestatakse juhtimise, järelevalve ja vastutuse põhiraamistik. Tehisintellekti regulatsiooni testkeskkonnad on kontrollitud keskkonnad, milles katsetada pädevate asutustega kokku lepitud katseplaani järgi piiratud aja jooksul uuenduslikku tehnoloogiat. V jaotises esitatakse ka VKEde ja idufirmade regulatiivse koormuse vähendamise meetmed. 5.2.6.JUHTIMINE JA RAKENDAMINE (VI, VII JA VIII JAOTIS) VI jaotises sätestatakse liidu ja riigi tasandi juhtimissüsteemid. Liidu tasandil kehtestatakse ettepanekuga liikmesriikide ja komisjoni esindajatest koosnev Euroopa tehisintellekti nõukoda (edaspidi „nõukoda“). Nõukoda aitab tõhustada riikide järelevalveasutuste ja komisjoni koostööd ning annab komisjonile nõu ja oskusteavet, soodustades sellega käesoleva määruse sujuvat, tõhusat ja harmoneeritud rakendamist. Nõukoda ühtlasi kogub ja jagab liikmesriikidega parimaid tavasid. Riigi tasandil peavad liikmesriigid määruse kohaldamise ja rakendamise jälgimise eesmärgil nimetama ühe või mitu riiklikku pädevat asutust ning nende hulgast riikliku järelevalveasutuse. Euroopa andmekaitseinspektor tegutseb liidu asutuste, ametite ja organite üle järelevalvet teostava pädeva asutusena, kui need kuuluvad käesoleva määruse kohaldamisalasse. VII jaotise eesmärk on hõlbustada komisjoni ja riikide ametiasutuste seiretööd, kehtestades peamiselt põhiõigusi mõjutavate eraldiseisvate suure riskiga tehisintellektisüsteemide ELi andmebaasi. Andmebaasi haldab komisjon ja selle andmed pärinevad tehisintellektisüsteemide pakkujatelt, kellelt nõutakse oma süsteemide registreerimist enne nende turule laskmist või muul viisil kasutusele võtmist. VIII jaotises sätestatakse tehisintellektisüsteemide pakkujate seire- ja aruandekohustused seoses turustamisjärgse seire ja aruandluse ning tehisintellektiga seotud intsidentide ja rikete uurimisega. Turujärelevalveasutused kontrollivad turgu ja uurivad kõigile juba turule lastud suure riskiga tehisintellektisüsteemidele kehtestatud kohustuste ja nõuete täitmist. Turujärelevalveasutustel on kõik turujärelevalvet käsitlevast määrusest (EL) 2019/1020 tulenevad volitused. Hilisema täitmise tagamisega tuleks kindlustada, et kui tehisintellektisüsteem on turule lastud, on ametiasutustel olemas sekkumiseks vajalikud volitused ja vahendid, juhuks kui tehisintellektisüsteemid tekitavad kiiret tegutsemist nõudvaid ootamatuid riske. Nad jälgivad ka seda, kas operaatorid täidavad neile määrusega kehtestatud asjakohaseid kohustusi. Ettepanekus ei nähta ette liikmesriigi tasandi täiendavate organite ega asutuste automaatset loomist. Seepärast võivad liikmesriigid nimetada olemasolevaid valdkonna ametiasutusi (ja kasutada nende oskusteavet), usaldades neile ka määruse täitmise järelevalve ja tagamise volitused. Miski eespool kirjeldatust ei piira kehtiva süsteemi kohaldamist ega liikmesriikides kehtivate põhiõigustega seotud kohustuste hilisema täitmise tagamise volituste jaotamist. Kui see on tähtis olemasolevate järelevalve- ja täitevasutuste volituste täitmiseks, on neil ka volitus taotleda käesoleva määruse alusel säilitatavat dokumentatsiooni ja sellega tutvuda ning vajaduse korral taotleda turujärelevalveasutustelt suure riskiga tehisintellektisüsteemi katsetamise korraldamist tehniliste vahendite abil. 5.2.7.TEGEVUSJUHENDID (IX JAOTIS) IX jaotises luuakse tegevusjuhendite koostamise raamistik. Tegevusjuhendite eesmärk on julgustada muu kui suure riskiga tehisintellektisüsteemide pakkujaid vabatahtlikult kohaldama suure riskiga tehisintellektisüsteemidele kohustuslikke nõudeid (vastavalt III jaotisele). Muu kui suure riskiga tehisintellektisüsteemide pakkujad võivad tegevusjuhendeid ise koostada ja rakendada. Need juhendid võivad hõlmata ka vabatahtlikult võetavaid kohustusi, mis võivad olla seotud näiteks keskkonnasäästlikkusega, puuetega inimeste juurdepääsuga, sidusrühmade osalemisega tehisintellektisüsteemide projekteerimises ja arendamises ning arendustiimide mitmekesisusega. 5.2.8.LÕPPSÄTTED (X, XI ja XII JAOTIS) X jaotises toonitatakse kõigi poolte kohustust austada teabe ja andmete konfidentsiaalsust ning sätestatakse eeskirjad määruse rakendamisel hangitava teabe vahetamiseks. X jaotis sisaldab ka meetmeid, millega tagada määruse tõhus rakendamine selle normide rikkumise eest määratavate tõhusate, proportsionaalsete ja heidutavate karistustega. XI jaotises sätestatakse delegeerimis- ja rakendusvolituste kasutamise eeskirjad. Ettepanek annab komisjonile õiguse võtta asjakohasel juhul vastu rakendusakte määruse ühetaolise kohaldamise tagamiseks või delegeeritud õigusakte I–VII lisa loetelude ajakohastamiseks või täiendamiseks. XII jaotises kehtestatakse komisjonile kohustus hinnata korrapäraselt III lisa ajakohastamise vajadust ja koostada korrapäraselt määruse hindamise ja läbivaatamise aruandeid. Lisaks esitatakse selles lõppsätted, sealhulgas diferentseeritud üleminekuperiood määruse esialgse kohaldamise kuupäevani, et hõlbustada kõigi asjaomaste poolte jaoks sujuvat rakendamist. 2021/0106 (COD) Ettepanek:

EUROOPA PARLAMENDI JA NÕUKOGU MÄÄRUS, MILLEGA NÄHAKSE ETTE TEHISINTELLEKTI KÄSITLEVAD ÜHTLUSTATUD ÕIGUSNORMID (TEHISINTELLEKTI KÄSITLEV ÕIGUSAKT) JA MUUDETAKSE TEATAVAID LIIDU ÕIGUSAKTE EUROOPA PARLAMENT JA EUROOPA LIIDU NÕUKOGU, võttes arvesse Euroopa Liidu toimimise lepingut, eriti selle artikleid 16 ja 114, võttes arvesse Euroopa Komisjoni ettepanekut, olles edastanud seadusandliku akti eelnõu riikide parlamentidele, võttes arvesse Euroopa Majandus- ja Sotsiaalkomitee arvamust, võttes arvesse Regioonide Komitee arvamust, toimides seadusandliku tavamenetluse kohaselt ning arvestades järgmist: (1)Käesoleva määruse eesmärk on parandada siseturu toimimist ühtse õigusraamistiku kehtestamisega eeskätt tehisintellekti arendamise, turustamise ja kasutamise jaoks kooskõlas liidu väärtustega. Käesolev määrus on ajendatud mitmest kaaluka üldise huvi eesmärgist, nagu kõrgetasemeline tervise, ohutuse ja põhiõiguste kaitse, ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba. (2)Tehisintellektisüsteeme on lihtne mitmesugustes majanduse ja ühiskonna sektorites kasutusele võtta, sh piiriüleselt, ning need võivad levida kogu liidus. Teatavad liikmesriigid on juba uurinud võimalust võtta vastu siseriiklikke õigusnorme, et tagada tehisintellekti ohutus ning selle arendamine ja kasutamine koostkõlas põhiõigustega seotud kohustustega. Siseriiklike õigusnormide vahelised erinevused võivad tuua kaasa siseturu killustumise ja vähendada tehisintellektisüsteemide arendamise ja kasutamisega tegelevate operaatorite õiguskindlust. Seepärast tuleks kõikjal liidus tagada kaitse järjekindlus ja kõrge tase ning ühtlasi vältida erinevusi, mis kahjustavad tehisintellektisüsteemide ja nendega seotud toodete ja teenuste vaba ringlust siseturul; selleks tuleks operaatoritele kehtestada ühetaolised kohustused ja kindlustada kaalukate üldiste huvide ja isikute õiguste ühtne kaitse siseturul, lähtudes Euroopa Liidu toimimise lepingu (edaspidi „ELi toimimise leping“) artiklist 114. Kuivõrd käesolev määrus sisaldab konkreetseid õigusnorme, mis puudutavad üksikisikute kaitset seoses isikuandmete töötlemisega ja millega piiratakse tehisintellektisüsteemide kasutamist avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva biomeetrilise kaugtuvastamise jaoks, on asjakohane võtta nende konkreetsete normide puhul käesoleva määruse aluseks ELi toimimise lepingu artikkel 16. Neid konkreetseid õigusnorme ja ELi toimimise lepingu artiklile 16 tuginemist silmas pidades on asjakohane konsulteerida Euroopa Andmekaitsenõukoguga. (3)Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis võib aidata saavutada mitmesuguseid majanduslikke ja ühiskondlikke hüvesid kõigis tööstusharudes ja ühiskondlikes tegevustes. Tänu täpsemale prognoosimisele, tegevuse ja ressursijaotuse optimeerimisele ning üksikisikutele ja organisatsioonidele kättesaadavate digilahenduste personaliseerimisele võib tehisintellekti kasutamine anda ettevõtjatele olulise konkurentsieelise ning toetada ühiskonna ja keskkonna jaoks positiivsete tulemuste saavutamist näiteks sellistes valdkondades nagu tervishoid, põllumajandus, haridus ja koolitus, taristuhaldus, energeetika, transport ja logistika, avalikud teenused, turvalisus, õigus, ressursi- ja energiatõhusus ning kliimamuutuste leevendamine ja nendega kohanemine. (4)Samas võib tehisintellekt olenevalt konkreetse rakenduse ja kasutuse asjaoludest tekitada ka riske ning kahjustada avalikke huve ja liidu õigusega kaitstud õigusi. Selline kahju võib olla varaline või mittevaraline. (5)Seepärast on vaja liidu õigusraamistikku, millega nähtaks ette tehisintellekti käsitlevad ühtlustatud õigusnormid, et edendada siseturul tehisintellekti arendamist, kasutamist ja levikut, mille puhul oleks ühtlasi tagatud liidu õigusega tunnustatud ja kaitstud üldiste huvide, näiteks tervise ja ohutuse ning põhiõiguste kõrgetasemeline kaitse. Selle eesmärgi saavutamiseks tuleks kehtestada teatavate tehisintellektisüsteemide turule laskmist ja kasutusele võtmist reguleerivad õigusnormid, et seeläbi tagada siseturu sujuv toimimine ja võimaldada neil süsteemidel saada kasu kaupade ja teenuste vaba liikumise põhimõttest. Kõnealuste õigusnormide kehtestamisega toetab käesolev määrus Euroopa Ülemkogu sõnastatud liidu eesmärki olla maailmas turvalise, usaldusväärse ja eetilise tehisintellekti arendamisel liidripositsioonil ning samas aitab see tagada eetiliste põhimõtete kaitse, mida on eraldi nõudnud Euroopa Parlament. (6)Õiguskindluse tagamiseks tuleks tehisintellektisüsteemi mõiste selgelt määratleda, kuid samas tuleks säilitada paindlikkus, et jääks ruumi tehnika edasiseks arenguks. Määratlus peaks põhinema tarkvara peamistel funktsionaalsetel omadustel, eeskätt võimel genereerida teatavate inimese poolt kindlaks määratud eesmärkide jaoks väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkonda, millega süsteem suhtleb kas füüsilises või digitaalses plaanis. Tehisintellektisüsteeme saab projekteerida töötama erineval autonoomsuse tasemel ning neid võib kasutada eraldiseisvatena või mõne teise toote komponentidena, olenemata sellest, kas süsteem on füüsiliselt tootesse integreeritud (sisseehitatud) või teenib toote funktsionaalsust ilma, et oleks sellesse integreeritud (sisseehitamata). Tehisintellektisüsteemi määratlust tuleks täiendada selle arendamiseks kasutatavate konkreetsete meetodite ja lähenemisviiside loeteluga, mida tuleks hoida turu ja tehnika arengu seisukohast ajakohasena delegeeritud õigusaktidega, mida komisjon selle loetelu muutmiseks vastu võtab. (7)Käesolevas määruses kasutatav biomeetriliste andmete mõiste on vastavuses biomeetriliste andmete mõistega, mis on määratletud Euroopa Parlamendi ja nõukogu määruse (EL) 2016/679 artikli 4 punktis 14, Euroopa Parlamendi ja nõukogu määruse (EL) 2018/1725 artikli 3 punktis 18 ja Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/680 artikli 3 punktis 13, ning seda tuleks tõlgendada kooskõlas nende õigusaktidega. (8)Käesolevas määruses kasutatav biomeetrilise kaugtuvastamise süsteemi mõiste tuleks määratleda funktsioonidest lähtuvalt kui tehisintellektisüsteem, mis on mõeldud füüsiliste isikute eemalt tuvastamiseks, võrreldes isiku biomeetrilisi andmeid võrdlusbaasis sisalduvate biomeetriliste andmetega ning ilma, et oleks ette teada, kas asjaomane isik viibib seal ja kas teda on võimalik tuvastada, olenemata sellest, milliseid konkreetseid tehnoloogiaid ja protseduure või mis liiki biomeetrilisi andmeid selleks kasutatakse. Eristada tuleks nn reaalajas toimuva ja tagantjärele toimuva biomeetrilise kaugtuvastamise süsteeme, sest nende omadused ja kasutusviisid on erinevad ning nendega kaasnevad erinevad riskid. Reaalajas kasutatavate süsteemide puhul toimub biomeetriliste andmete hõive, võrdlemine ja isiku identifitseerimine kõik hetkega, peaaegu hetkega või igal juhul ilma märkimisväärse viivituseta. Siinjuures ei tohiks jääda võimalust hoida väikeste viivituste kasutamisega kõrvale käesoleva määruse sätetest, mis käsitlevad tehisintellektisüsteemi kasutamist reaalajas. Reaalajalistes süsteemides kasutatakse kaamera või muu sarnase funktsiooniga seadmega tehtud otse edastatavat või peaaegu otse edastatavat materjali, näiteks videosalvestisi. Tagantjärele kasutatavate süsteemide puhul on aga biomeetriliste andmete hõive juba toimunud ning võrdlemine ja isikute identifitseerimine toimub alles pärast olulist viivitust. Sealjuures kasutatakse selliseid materjale nagu videovalvesüsteemi või isikliku seadmega tehtud pildid või videosalvestised, mis on tehtud enne, kui süsteemi kasutatakse konkreetse füüsilise isiku puhul. (9)Käesoleva määruse kohaldamisel tuleks avalikult juurdepääsetava ruumina käsitada mis tahes füüsilist kohta, mis on üldsusele juurdepääsetav, olenemata sellest, kas kõnealune koht on era- või avalik-õiguslikus omandis. Seega ei hõlma see mõiste olemuselt privaatseid kohti, mis ei ole kolmandatele isikutele, sh õiguskaitseasutustele tavaliselt ilma konkreetse kutse või loata vabalt juurdepääsetavad, näiteks inimeste kodusid, eraklubisid, kontoreid, ladusid ja tehaseid. Selle mõiste alla ei käi küberruum, sest see ei ole füüsiline ruum. Üksnes asjaolu, et konkreetsele ruumile juurdepääsuks on kehtestatud teatavad tingimused, näiteks pileti olemasolu või vanusepiirang, ei tähenda, et see ruum ei ole avalikult juurdepääsetav käesoleva määruse tähenduses. Seega peetakse avalikult juurdepääsetavaks ruumiks lisaks avalikule ruumile, nagu tänavad, valitsushoonete asjakohased osad ja suurem osa transporditaristust, tavaliselt ka selliseid ruume nagu kinod, teatrid, poed ja kaubanduskeskused. See, kas konkreetne ruum on avalikult juurdepääsetav, tuleks siiski otsustada igal üksikjuhul eraldi, võttes arvesse vaadeldava olukorra iseärasusi. (10)Selleks et tagada võrdsed tingimused ning üksikisikute õiguste ja vabaduste tulemuslik kaitse kogu liidus, tuleks käesoleva määrusega kehtestatud õigusnorme kohaldada tehisintellektisüsteemide pakkujate suhtes, diskrimineerimata pakkujaid selle põhjal, kas nad tegutsevad liidus või mõnes kolmandas riigis, ja liidus tegutsevate tehisintellektisüsteemide kasutajate suhtes.

(11)Arvestades tehisintellektisüsteemide digitaalset olemust, peaksid teatavad tehisintellektisüsteemid kuuluma käesoleva määruse kohaldamisalasse isegi siis, kui neid ei ole liidus turule lastud ega kasutusele võetud ja kui neid liidus ei kasutata. See kehtib näiteks siis, kui tegemist on liidus tegutseva operaatoriga, kes sõlmib väljaspool liitu tegutseva operaatoriga lepingu teatavate teenuste kohta, mis on seotud sellise tehisintellektisüsteemi teostatava tegevusega, mis kvalifitseeruks suure riskiga tehisintellektisüsteemiks ja mis mõjutab liidus asuvaid füüsilisi isikuid. Sellisel juhul võib väljaspool liitu asuva operaatori kasutatav tehisintellektisüsteem töödelda andmeid, mis on seaduslikult liidus kogutud ja mida liidust edastatakse, ning anda liidus asuvale lepingu sõlminud operaatorile väljundi, mille see tehisintellektisüsteem kõnealuse töötlemise tulemusena genereeris, ilma et see tehisintellektisüsteem oleks liidus turule lastud, kasutusele võetud või kasutatav. Et hoida ära käesoleva määruse sätetest kõrvalehoidmist ja tagada liidus asuvate füüsiliste isikute tulemuslik kaitse, tuleks käesolevat määrust kohaldada ka tehisintellektisüsteemide kolmandas riigis tegutsevate pakkujate ja kasutajate suhtes niivõrd, kuivõrd nende süsteemide genereeritud väljundit kasutatakse liidus. Võtmaks siiski arvesse olemasolevaid kokkuleppeid ja erivajadusi, mis puudutavad koostööd välispartneritega, kellega vahetatakse teavet ja tõendeid, ei tuleks käesolevat määrust kohaldada kolmanda riigi ametiasutuste ja rahvusvaheliste organisatsioonide suhtes, kui tegutsetakse selliste rahvusvaheliste lepingute alusel, mis on riigi või Euroopa tasandil sõlmitud liidu või selle liikmesriikidega tehtava õiguskaitse- ja õigusalase koostöö kohta. Selliseid lepinguid on sõlmitud kahepoolselt liikmesriikide ja kolmandate riikide vahel, aga ka Euroopa Liidu, Europoli ja muude ELi asutuste ning kolmandate riikide ja rahvusvaheliste organisatsioonide vahel. (12)Käesolevat määrust tuleks kohaldada ka liidu institutsioonide, organite ja asutuste suhtes, kui need tegutsevad tehisintellektisüsteemi pakkuja või kasutajana. Käesoleva määruse kohaldamisalast tuleks välja jätta tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse eranditult sõjalisel otstarbel, kui nende kasutamine kuulub Euroopa Liidu leping V jaotise alusel reguleeritava ühise välis- ja julgeolekupoliitika ainupädevusse. Käesolev määrus ei tohiks mõjutada Euroopa Parlamendi ja nõukogu direktiivi 2000/31/EÜ vahendajatest teenuseosutajate vastutust käsitlevate sätete [asendatakse digiteenuste õigusakti vastavate sätetega] kohaldamist. (13)Selleks et tagada järjekindel ja kõrgetasemeline avalike huvide kaitse tervishoiu, ohutuse ja põhiõiguste vallas, tuleks kõigi suure riskiga tehisintellektisüsteemide jaoks kehtestada ühised normatiivsed standardid. Need standardid peaksid olema kooskõlas Euroopa Liidu põhiõiguste hartaga (edaspidi „põhiõiguste harta“) ning ühtlasi peaksid need olema mittediskrimineerivad ja kooskõlas liidu rahvusvaheliste kaubanduskohustustega. (14)Selleks et kehtestada tehisintellektisüsteemide suhtes proportsionaalsed, mõjusad ja siduvad õigusnormid, tuleks järgida selgelt määratletud riskipõhist lähenemisviisi. Sellise lähenemisviisi kohaselt tuleks nende õigusnormide liiki ja sisu kujundada vastavalt tehisintellektisüsteemide põhjustatavate riskide intensiivsusele ja ulatusele. Seepärast tuleb keelata teatavad tehisintellektisüsteemide kasutusviisid, näha ette suure riskiga tehisintellektisüsteemide suhtes kohaldatavad nõuded ja asjaomaste operaatorite kohustused ning kehtestada teatavate tehisintellektisüsteemide puhul läbipaistvuskohustused. (15)Lisaks sellele, et tehisintellektil on mitmeid kasulikke rakendusvõimalusi, on seda tehnoloogiat võimalik ka kurjasti kasutada ning luua uudseid ja võimsaid manipuleerimise, ärakasutamise ja sotsiaalse kontrolli vahendeid. Sellised kasutusviisid on eriti kahjulikud ning tuleks ära keelata, sest need on vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadust, võrdsus, demokraatia ja õigusriik ning liidu põhiõigustega, kaasa arvatud õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega. (16)Keelata tuleks selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine ja kasutamine, mille eesmärk on moonutada inimeste käitumist ja millega võib tõenäoliselt põhjustada füüsilist või psühholoogilist kahju. Sellistes tehisintellektisüsteemides kasutatakse alalävisele tajule suunatud elemente, mida inimesed ei suuda tajuda, või kasutatakse ära laste haavatavust ja inimeste vanusest või füüsilisest või vaimsest võimetusest tulenevaid nõrku kohti. Selle eesmärk on oluliselt moonutada inimese käitumist viisil, mis kahjustab või tõenäoliselt kahjustab seda või mõnd teist isikut. Sellist eesmärki ei saa eeldada, kui inimese käitumist moonutavad tehisintellektisüsteemivälised tegurid, mis ei ole pakkuja või kasutaja kontrolli all. Selline keeld ei tohiks takistada kõnealuseid tehisintellektisüsteeme käsitlevaid õiguspärastel eesmärkidel tehtavaid teadusuuringuid, kui selliste teadusuuringute puhul pole tegemist tehisintellektisüsteemi kasutamisega inimeste ja masinate vahelistes suhetes viisil, mis seab inimesed ohtu, ning kui selliseid teadusuuringuid tehakse kooskõlas teadusuuringute tunnustatud eetikanormidega. (17)Tehisintellektisüsteemid, mida kasutatakse avalike võimude poolt või nende nimel füüsiliste isikute üldotstarbeliseks sotsiaalseks hindamiseks, võivad tuua kaasa diskrimineerimise ja teatavate rühmade kõrvalejätmise. Need süsteemid võivad rikkuda õigust väärikusele ja mittediskrimineerimisele ning olla vastuolus võrdsuse ja õigluse väärtustega. Sellised tehisintellektisüsteemid hindavad või liigitavad füüsiliste isikute usaldusväärsust, tuginedes nende sotsiaalsele käitumisele eri kontekstides või prognoositud isiku- või iseloomuomadustele. Selliste tehisintellektisüsteemide antud sotsiaalne hinne võib tuua kaasa füüsilisi isikuid või terveid inimrühmi kahjustavat või nende suhtes ebasoodsat kohtlemist sotsiaalses kontekstis, mis ei ole seotud kontekstiga, kus andmed algselt genereeriti või koguti, või kahjustavat kohtlemist, mis ei ole nende sotsiaalse käitumise problemaatilisusega võrreldes proportsionaalne või põhjendatud. Seepärast peaksid sellised tehisintellektisüsteemid olema keelatud. (18)Tehisintellektisüsteemide kasutamist avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks peetakse eriti tõsiseks sekkumiseks asjaomaste isikute õigustesse ja vabadustesse, sest see võib mõjutada suure osa elanikkonna eraelu, tekitada pideva jälgimise tunde ning kaudselt veenda loobuma kogunemisvabaduse ja muude põhiõiguste kasutamisest. Kuna selliste reaalajas töötavate süsteemide kasutamise mõju on vahetu ja täiendava kontrolli või parandamise võimalused piiratud, seab selliste süsteemide kasutamine suuremasse ohtu õiguskaitsetoimingute mõjuvälja jäävate isikute õigused ja vabadused. (19)Seepärast peaks selliste süsteemide kasutamine õiguskaitse eesmärgil olema keelatud, välja arvatud kolmes ammendavalt loetletud ja kitsalt määratletud olukorras, kus nende süsteemide kasutamine on rangelt vajalik selleks, et saavutada olulise avaliku huvi eesmärk, mille tähtsus kaalub riskid üles. Selliste olukordade hulka kuuluvad võimalike kuriteoohvrite, kaasa arvatud kadunud laste otsimine, teatavad füüsiliste isikute elu või füüsilist turvalisust ähvardavad ohud või terrorirünnaku oht ning nõukogu raamotsuses 2002/584/JSK osutatud kuritegude toimepanijate või sellistes kuritegudes kahtlustatavate avastamine, nende asukohta kindlaks tegemine, nende tuvastamine või neile süüdistuse esitamine, kui sellise kuriteo eest karistatakse asjaomases liikmesriigis vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt kolm aastat, nagu selle liikmesriigi õigusaktides kindlaks määratud. Sellise ajalise piiri seadmine siseriikliku õiguse kohasele vabadusekaotusele või vabadust piiravale julgeolekumeetmele aitab tagada, et reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine oleks õigustatud vaid piisavalt tõsiste rikkumiste korral. Peale selle on nõukogu raamotsuses 2002/584/JSK loetletud 32 kuriteost mõned praktikas tõenäoliselt teistest asjakohasemad, sest reaalajas toimuva biomeetrilise kaugtuvastamise kasutamise eeldatav vajalikkus ja proportsionaalsus varieeruvad märkimisväärselt, kui tegemist on loetelus nimetatud kuriteo toimepanija või sellises kuriteos kahtlustatava reaalse avastamise, tema asukoha kindlaks tegemise, tema tuvastamise või talle süüdistuse esitamisega ja kui võetakse arvesse võimalike negatiivsete tagajärgede raskusastme, tõenäosuse ja ulatuse tõenäolisi erinevusi. (20)Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist kolmest ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi seoses kõigi asjaomaste isikute õiguste ja vabadustega ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Peale selle peaks reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil olema ajas ja ruumis asjakohaselt piiratud, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Isikute võrdlusandmebaas peaks olema iga eespool nimetatud kolme olukorra puhul iga kasutusmalli jaoks sobiv. (21)Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks selleks olema liikmesriigi õigusasutuse või sõltumatu haldusasutuse selge ja konkreetne luba. Põhimõtteliselt tuleks selline luba saada enne kasutamist, kui just pole tegemist nõuetekohaselt põhjendatud kiireloomulise juhtumiga, st olukorraga, kus vajadus kõnealuste süsteemide kasutamise järele on selline, et enne kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Selliste kiireloomuliste juhtumite korral peaks kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud siseriiklikus õiguses ja mida õiguskaitseasutus iga individuaalse kiireloomulise kasutusjuhtumi korral täpsustab. Lisaks sellele peaks õiguskaitseasutus sellistel juhtudel püüdma saada loa nii pea kui võimalik ja põhjendama, miks ta ei saanud luba varem taotleda. (22)Ühtlasi on käesoleva määrusega kehtestatavas ammendavas raamistikus otstarbekas ette näha, et selline kasutamine liikmesriigi territooriumil kooskõlas käesoleva määrusega peaks olema võimalik üksnes siis ja niivõrd, kuivõrd kõnealune liikmesriik on otsustanud oma siseriikliku õiguse üksikasjalikes õigusnormides selgelt sätestada võimaluse sellist kasutamist lubada. Seega jääb liikmesriikidele käesoleva määruse alusel vabadus sellist võimalust üldse mitte ette näha või näha selline võimalus ette üksnes mõne eesmärgi jaoks, mille puhul on käesolevas määruses kirjeldatud lubatud kasutamine õigustatud. (23)Tehisintellektisüsteemide kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks eeldab igal juhul biomeetriliste andmete töötlemist. Käesoleva määruse sätted, millega keelatakse selline kasutamine teatavate eranditega ja mis põhinevad ELi toimimise lepingu artiklil 16, tuleks direktiivi (EL) 2016/680 artiklis 10 sätestatud biomeetriliste andmete töötlemist käsitlevate õigusnormide suhtes, peaksid kehtima erinormina (lex specialis), nii et selline kasutamine ja sellega kaasnev biomeetriliste andmete töötlemine oleksid ammendavalt reguleeritud. Seega peaks selline kasutamine ja töötlemine olema võimalik üksnes siis, kui see on kooskõlas käesoleva määrusega kehtestatud raamistikuga, ning väljaspool seda raamistikku ei tohiks pädevatel asutustel olla võimalik õiguskaitse eesmärgil tegutsedes kasutada selliseid süsteeme ja töödelda sellega seoses selliseid andmeid direktiivi (EL) 2016/680 artiklis 10 loetletud põhjustel. Seoses sellega ei ole käesoleva määruse eesmärk anda õiguslikku alust isikuandmete töötlemiseks direktiivi 2016/680 artikli 8 alusel. Käesoleva määrusega loodud eriraamistik, mis käsitleb sellist kasutamist õiguskaitse eesmärgil, ei peaks siiski hõlmama reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamist avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil, ka siis, kui seda teevad pädevad asutused. Seega ei peaks selliseks kasutamise suhtes muul otstarbel kui õiguskaitse eesmärgil kehtima käesoleva määruse kohase loa nõue ega selle jõustamiseks kohaldatavad üksikasjalikud siseriiklikud õigusnormid. (24)Igasugune biomeetriliste ja muude isikuandmete töötlemine, mis on seotud tehisintellektisüsteemide kasutamisega biomeetrilise tuvastamise jaoks, v.a juhul, kui see toimub seoses käesoleva määrusega reguleeritud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisega avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, kaasa arvatud juhul, kui pädevad asutused kasutavad neid süsteeme avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil, peaks ka edaspidi vastama kõigile määruse (EL) 2016/679, artikli 9 lõikest 1, määruse (EL) 2018/1725 artikli 10 lõikest 1 ja direktiivi (EL) 2016/680 artiklist 10 tulenevatele nõuetele, nagu on asjakohane. (25)ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 21 (Ühendkuningriigi ja Iirimaa seisukoha kohta vabadusel, turvalisusel ja õigusel rajaneva ala suhtes) artikli 6a kohaselt ei ole ELi toimimise lepingu artikli 16 põhjal vastu võetud käesoleva määruse artikli 5 lõike 1 punktis d ning lõigetes 2 ja 3 normid füüsiliste isikute kaitse kohta isikuandmete töötlemisel liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. ja 5. peatüki kohaldamisalasse kuuluva tegevuse puhul Iirimaa suhtes siduvad, kui Iirimaa suhtes ei ole siduvad normid, mis käsitlevad õigusalast koostööd kriminaalasjades või politseikoostööd, mille raames tuleb järgida ELi toimimise lepingu artikli 16 alusel kehtestatud sätteid. (26)ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 22 (Taani seisukoha kohta) artiklite 2 ja 2a kohaselt ei ole ELi toimimise lepingu artikli 16 põhjal vastu võetud käesoleva määruse artikli 5 lõike 1 punktis d ning lõigetes 2 ja 3 sätestatud normid füüsiliste isikute kaitse kohta isikuandmete töötlemisel liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. ja 5. peatüki kohaldamisalasse kuuluva tegevuse puhul Taani suhtes siduvad ega kohaldatavad. (27)Suure riskiga tehisintellektisüsteem tuleks liidus turule lasta või kasutusele võtta üksnes siis, kui see vastab teatavatele kohustuslikele nõuetele. Need nõuded peaksid tagama, et liidus kättesaadavad suure riskiga tehisintellektisüsteemid või tehisintellektisüsteemid, mille väljundit kasutatakse liidus muul viisil, ei kujuta endast vastuvõetamatut riski liidu õigusega tunnustatud ja kaitstud liidu oluliste avalike huvide suhtes. Suure riskiga tehisintellektisüsteemideks tuleks pidada üksnes selliseid tehisintellektisüsteeme, millel on liidus oluline kahjulik mõju inimeste tervisele, ohutusele ja põhiõigustele, ning selline piirang minimeerib kõik võimalikud rahvusvahelise kaubanduse piirangud, kui neid peaks olema. (28)Tehisintellektisüsteemid võivad kahjustada inimeste tervist ja ohutust, eriti juhul, kui sellised süsteemid on toodete komponendid. Kooskõlas liidu ühtlustamisõigusaktide eesmärkidega hõlbustada toodete vaba liikumist siseturul ja tagada, et siseturule saabuvad ainult ohutud ja muul viisil nõuetele vastavad tooted, on oluline tõhusalt ära hoida ja leevendada riske, mille toode kui tervik võib põhjustada oma digitaalsete komponentide, sh tehisintellektisüsteemide tõttu. Näiteks üha autonoomsemad robotid peaksid suutma ohutult töötada ja täita oma ülesandeid keerukates keskkondades, seda nii tootmise kui ka isikliku abi ja hoolduse valdkonnas. Sama moodi peaksid usaldusväärsed ja täpsed olema tervishoiusektoris kasutatavad üha keerulisemad diagnostikasüsteemid ja inimeste otsuseid toetavad süsteemid, sest seal on tegemist elu ja tervise seisukohast eriti oluliste otsustega. Tehisintellektisüsteemi liigitamisel suure riskiga tehisintellektisüsteemiks on eriti oluline see, kui ulatuslik on tehisintellektisüsteemi kahjulik mõju põhiõiguste hartaga kaitstud põhiõigustele. Nende õiguste hulka kuuluvad õigus inimväärikusele, era- ja perekonnaelu austamine, isikuandmete kaitse, väljendus- ja teabevabadus, kogunemis- ja ühinemisvabadus, mittediskrimineerimine, tarbijakaitse, töötajate õigused, puuetega inimeste õigused, õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele, süütuse presumptsioon ja õigus heale haldusele. Lisaks nimetatud õigustele on oluline rõhutada, et lastel on eraldi õigused, mis on sätestatud ELi harta artiklis 24 ja ÜRO lapse õiguste konventsioonis (mida on põhjalikumalt käsitletud ÜRO lapse õiguste komitee üldises märkuses nr 25 digikeskkonna kohta), kusjuures mõlema dokumendi kohaselt tuleb arvesse võtta laste haavatavust ja näha ette nende heaoluks vajalik kaitse ja hoolitsus. Hinnates, kui tõsist kahju võib tehisintellektisüsteem põhjustada, muu hulgas inimeste tervise ja ohutuse vallas, tuleks kaaluda ka põhiõiguste hartas sätestatud ja liidu põhimõtetega rakendatud põhiõigust kõrgetasemelisele keskkonnakaitsele. (29)Mis puudutab suure riskiga tehisintellektisüsteeme, mis on toodete või süsteemide turvakomponendid või mis on ise tooted või süsteemid, mis kuuluvad Euroopa Parlamendi ja nõukogu määruse (EÜ) nr 300/2008, Euroopa Parlamendi ja nõukogu määruse (EL) nr 167/2013, Euroopa Parlamendi ja nõukogu määruse (EL) nr 168/2013, Euroopa Parlamendi ja nõukogu direktiivi 2014/90/EL, Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/797, Euroopa Parlamendi ja nõukogu määruse (EL) 2018/858, Euroopa Parlamendi ja nõukogu määruse (EU) 2018/1139 ja Euroopa Parlamendi ja nõukogu määruse (EL) 2019/2144 kohaldamisalasse, siis on otstarbekas muuta kõnealuseid õigusakte tagamaks, et kui komisjon võtab nimetatud õigusaktide põhjal edaspidi vastu asjaomaseid delegeeritud või rakendusakte, võtab ta arvesse käesolevas määruses suure riskiga tehisintellektisüsteemide kohta sätestatud kohustuslikke nõudeid, tuginedes iga sektori tehnilistele ja regulatiivsetele iseärasustele ja ilma, et ta sekkuks nende õigusaktidega kehtestatud olemasolevatesse juhtimis-, vastavushindamis- ja jõustamismehhanismidesse või -asutustesse. (30)Mis puudutab tehisintellektisüsteeme, mis on toodete turvakomponendid või mis on ise tooted, mis kuuluvad teatavate liidu ühtlustamisõigusaktide kohaldamisalasse, siis on otstarbekas liigitada need tehisintellektisüsteemid käesoleva määruse alusel suure riskiga tehisintellektisüsteemideks, kui nende asjaomaste liidu õigusaktide alusel teeb kõnealuse toote vastavushindamise kolmandast isikust vastavushindamisasutus. Sellised tooted on eeskätt masinad, mänguasjad, liftid, plahvatusohtlikus keskkonnas kasutatavad seadmed ja kaitsesüsteemid, raadioseadmed, surveseadmed, lõbusõidulaevade varustus, köisteed, küttegaasiseadmed, meditsiiniseadmed ja in vitro diagnostika meditsiiniseadmed.

(31)See, kui tehisintellektisüsteem liigitatakse käesoleva määruse alusel suure riskiga tehisintellektisüsteemiks, ei peaks ilmtingimata tähendama, et toodet, mille turvakomponent see tehisintellektisüsteem on, või tehisintellektisüsteemi ennast kui toodet peetakse suure riskiga tooteks vastavalt selle toote suhtes kohaldatavate asjaomaste liidu ühtlustamisõigusaktidega kehtestatud kriteeriumidele. Esmajoones puudutab see Euroopa Parlamendi ja nõukogu määrust (EL) 2017/745 ja Euroopa Parlamendi ja nõukogu määrust (EL) 2017/746, kui keskmise ja suure riskiga toodete puhul on ette nähtud kolmanda isiku tehtav vastavushindamine. (32)Eraldiseisvad tehisintellektisüsteemid, st suure riskiga tehisintellektisüsteemid, mis ei ole toodete turvakomponendid või ise tooted, on otstarbekas liigitada suure riskiga tehisintellektisüsteemideks, kui need põhjustavad oma sihtotstarbe tõttu suure riski ja ähvardavad kahjustada inimeste tervist ja ohutust või põhiõigusi, võttes arvesse nii võimaliku kahju tõsidust kui ka selle tekkimise tõenäosust, ja kui neid kasutatakse määruses eelnevalt täpselt kindlaks määratud valdkondades. Nende süsteemide kindlakstegemine põhineb samadel meetoditel ja kriteeriumidel, mida kavatsetakse kasutada suure riskiga tehisintellektisüsteemide loetelu tulevaste võimalike muudatuste jaoks. (33)Füüsiliste isikute biomeetrilise kaugtuvastamise jaoks mõeldud tehisintellektisüsteemide tehniline ebatäpsus võib kaasa tuua tulemuste kallutatuse ja põhjustada diskrimineerimist. Eriti oluline on see vanuse, etniline päritolu, soo või puuete puhul. Seepärast tuleks nii reaalajas kui ka tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemid liigitada suure riskiga süsteemideks. Arvestades, milliseid riske need süsteemid põhjustavad, tuleks mõlemat liiki biomeetrilise kaugtuvastamise süsteemide suhtes kohaldada logimisvõimekuse ja inimjärelevalve erinõudeid. (34)Elutähtsa taristu juhtimise ja käitamisega seoses on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks need tehisintellektisüsteemid, mis on mõeldud kasutamiseks maanteeliikluse korraldamise ja käitamise või vee, gaasi, kütteenergia ja elektri tarnimise turvakomponentidena, sest nende tõrge või talitlushäire võib seada ohtu paljude inimeste elu ja tervise ning põhjustada märgatavaid häireid tavapärases sotsiaalses ja majandustegevuses. (35)Tehisintellektisüsteeme, mida kasutatakse hariduses või kutseõppes esmajoones selleks, et määrata kindlaks juurdepääs haridus- ja kutseõppeasutustele või määrata isikud neisse või hinnata hariduse osana või selle eeltingimusena isikute teste, tuleks käsitada suure riskiga süsteemidena, sest need võivad ära määrata inimese haridusliku ja kutsealase käekäigu ning mõjutada seega nende toimetulekut. Kui sellised süsteemid ei ole korralikult projekteeritud või kui neid ei kasutata korralikult, võivad need rikkuda õigust haridusele ja koolitusele, aga ka õigust mitte olla diskrimineeritud, ning põlistada aegade jooksul välja kujunenud diskrimineerimismustreid. (36)Suure riskiga tehisintellektisüsteemideks tuleks liigitada ka tehisintellektisüsteemid, mida kasutatakse tööhõive, töötajate juhtimise ja füüsilisest isikust ettevõtjana tegutsemise võimaluste valdkonnas, eeskätt inimeste töölevõtmiseks ja valikuks, edutamise ja töösuhte lõpetamise otsuste tegemiseks ning ülesannete jagamise, seire või inimeste hindamise jaoks tööga seotud lepingulistes suhete kontekstis, sest need süsteemid võivad märkimisväärselt mõjutada nende inimeste tulevasi karjääriväljavaateid ja toimetulekut. Asjaomased tööga seotud lepingulised suhted peaksid käima ka selliste töötajate ja isikute kohta, kes osutavad teenuseid platvormide kaudu, nagu on nimetatud komisjoni 2021. aasta tööprogrammis. Põhimõtteliselt ei tuleks selliseid isikuid käsitada kasutajatena käesoleva määruse tähenduses. Värbamisprotsessi käigus ning isikute hindamisel, edutamisel ja ametisse jäämisel tööga seotud lepinguliste suhete kontekstis võivad sellised süsteemid põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mis on suunatud näiteks naiste, teatavate vanuserühmade, puuetega inimeste või teatava rassilise või etnilise päritolu või seksuaalse sättumusega isikute vastu. Tehisintellektisüsteemid, mida kasutatakse nende isikute töötulemuste ja käitumise seireks, võivad mõjutada ka nende õigust andmekaitsele ja privaatsusele. (37)Veel üks valdkond, milles tuleks tehisintellektisüsteemide kasutamisele erilist tähelepanu pöörata, on teatavate selliste oluliste era- ja avalik-õiguslike teenuste ja hüvede juurdepääsetavus ja kasutamine, mida inimesed vajavad, et ühiskonnas täielikult osaleda või oma elatustaset parandada. Eeskätt tuleks suure riskiga tehisintellektisüsteemideks liigitada tehisintellektisüsteemid, mida kasutatakse füüsilistele isikutele krediidihinnangu andmiseks või nende krediidivõimelisuse hindamiseks, sest need panevad paika inimese juurdepääsu finantsvahenditele või olulistele teenustele, nagu kinnisvara, elekter ja telekommunikatsiooniteenused. Sel otstarbel kasutatavad tehisintellektisüsteemid võivad põhjustada inimeste või rühmade diskrimineerimist ja põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mille aluseks on näiteks rassiline või etniline päritolu, puuded, vanus, seksuaalne sättumus, või avaldada uut liiki diskrimineerivat mõju. Arvestades mõju väga piiratud ulatust ja turul kättesaadavaid alternatiive, on otstarbekas teha erand tehisintellektisüsteemidele, mille eesmärk on krediidivõimelisuse hindamine ja krediidihindamine, kui sellised süsteemid võtavad kasutusele väikepakkujad oma tarbeks. Füüsilised isikud, kes taotlevad või saavad avaliku sektori asutustelt sotsiaaltoetusi ja -teenuseid, sõltuvad tavaliselt nendest toetustest ja teenustest ning on vastutavate asutustega võrreldes haavatavas olukorras. Kui tehisintellektisüsteeme kasutatakse selleks, et teha kindlaks, kas ametiasutus peaks sellise toetuse või teenuse tagasi lükkama, seda vähendama, selle tühistama või tagasi nõudma, võib neil süsteemidel olla märkimisväärne mõju inimese toimetulekule ning need süsteemid võivad rikkuda inimeste põhiõigusi, näiteks õigust sotsiaalkaitsele, mittediskrimineerimisele, inimväärikusele või tõhusale õiguskaitsevahendile. Seepärast tuleks need süsteemid liigitada suure riskiga tehisintellektisüsteemideks. Samas ei tohiks käesolev määrus takistada uuenduslike lähenemisviiside väljatöötamist ja kasutamist avalikus halduses, kus oleks nõuetekohaste ja ohutute tehisintellektisüsteemide laialdasemast kasutamisest rohkelt kasu tingimusel, et need süsteemid ei põhjusta juriidilistele ja füüsilistele isikutele suuri riske. Lisaks eelnimetatule tuleks suure riskiga tehisintellektisüsteemideks liigitada ka tehisintellektisüsteemid, mida kasutatakse kiirabi ja päästeteenistuse väljasaatmiseks ja väljakutsete prioriseerimiseks, sest need teevad otsuseid olukordades, mis on inimeste elu, tervise ja vara seisukohast väga kriitilised. (38)Õiguskaitseasutuste toiminguid, millega kaasneb tehisintellektisüsteemide teatav kasutamine, iseloomustab võimu väga ebavõrdne jaotumine ja nende tulemuseks võib olla jälgimine, arreteerimine või füüsilise isiku vabaduse võtmine, aga ka muu kahjulik mõju põhiõiguste hartaga tagatud põhiõigustele. Tehisintellektisüsteem võib olla inimeste valikul diskrimineeriv või muul moel ebatäpne või ebaõiglane, eriti juhul, kui selle treenimiseks ei ole kasutatud kvaliteetseid andmeid, kui süsteemi täpsus või stabiilsus ei ole piisavad või kui seda ei ole enne turule laskmist või muul moel kasutusele võtmist korralikult projekteeritud ja testitud. Kahjustatud võib saada ka võimalus kasutada selliseid olulisi menetluslikke põhiõigusi, nagu õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele ja süütuse presumptsioon, seda eriti juhul, kui sellised tehisintellektisüsteemid ei ole piisavalt läbipaistvad, selgitatavad ja dokumenteeritud. Seepärast on asjakohane liigitada suure riskiga tehisintellektisüsteemiks hulk tehisintellektisüsteeme, mis on mõeldud kasutamiseks õiguskaitses, kus täpsus, usaldusväärsus ja läbipaistvus on eriti olulised, et hoida ära kahjulikku mõju, säilitada üldsuse usaldus ning tagada aruandekohustus ja tõhus õiguskaitse. Arvestades kõnealuste toimingute olemust ja nendega seotud riske, peaksid selliste suure riskiga tehisintellektisüsteemide hulka kuuluma eeskätt need tehisintellektisüsteemid, mis on mõeldud õiguskaitseasutustele kasutamiseks individuaalsete riskihindamiste, valedetektorite ja samalaadsete vahendite jaoks või füüsilise isiku emotsionaalse seisundi tuvastamiseks, süvavõltsingute avastamiseks, tõendite usaldusväärsuse hindamiseks kriminaalmenetluses, tegeliku või potentsiaalse kuriteo esinemise või kordumise prognoosimiseks füüsiliste isikute profiilianalüüsi põhjal või füüsiliste isikute või rühmade isikuomaduste, erijoonte või varasema kuritegeliku käitumise hindamiseks, kuritegude avastamise, uurimise või nende eest vastutusele võtmise käigus tehtavaks profiilianalüüsiks, aga ka füüsilisi isikuid puudutavaks kuritegude analüüsiks. Tehisintellektisüsteeme, mis on mõeldud spetsiaalselt maksu- ja tolliasutustele haldusmenetlustes kasutamiseks, ei tuleks käsitada suure riskiga tehisintellektisüsteemidena, mida õiguskaitseasutused kasutavad süütegude tõkestamise, avastamise, uurimise ja nende eest vastutusele võtmise eesmärgil. (39)Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele kasutamiseks valedetektorite ja samalaadsete vahenditena või füüsilise isiku emotsionaalse seisundi tuvastamiseks; teatavate liikmesriigi territooriumile siseneva või viisat või varjupaika taotleva füüsilise isiku põhjustatavate riskide hindamiseks; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele. Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele. (40)Teatavad õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemid tuleks liigitada suure riskiga tehisintellektisüsteemideks, arvestades nende võimalikku märkimisväärset mõju demokraatiale, õigusriigile, üksikisiku vabadustele ning õigusele tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele. Eeskätt võimalikust kallutatusest, vigadest ja läbipaistmatusest tulenevate riskidega toimetulemiseks on otstarbekas liigitada suure riskiga tehisintellektisüsteemideks need tehisintellektisüsteemid, mis on mõeldud abistama õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes. Samas ei tohiks selline liigitamine siiski laieneda tehisintellektisüsteemidele, mis on mõeldud puhtalt halduslikeks abitegevusteks, mis ei mõjuta tegelikku õigusemõistmist konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine, töötajatevaheline suhtlus, haldusülesanded või ressursside jaotamine. (41)Kui tehisintellektisüsteem on käesoleva määruse alusel liigitatud suure riskiga tehisintellektisüsteemiks, ei tuleks seda tõlgendada nii, et süsteemi kasutamine on ilmtingimata seaduslik muude liidu õigusaktide või liidu õigusega kooskõlas olevate siseriiklike õigusaktide alusel, mis käsitlevad näiteks isikuandmete kaitset, valedetektorite või samalaadsete toodete kasutamist või muude süsteemide kasutamist füüsiliste isikute emotsionaalse seisundi tuvastamiseks. Edaspidi peaks igasugune selline kasutamine toimuma üksnes kooskõlas kohaldatavate nõuetega, mis tulenevad põhiõiguste hartast ja kohaldatavatest liidu teisese õiguse aktidest ja siseriiklikust õigusest. Käesolevat määrust ei tohiks käsitada isikuandmete, sealhulgas asjakohasel juhul isikuandmete eriliikide töötlemise õigusliku alusena. (42)Et leevendada riske, mida liidus turule lastud või muul moel kasutusele võetud tehisintellektisüsteemid põhjustavad kasutajatele ja mõjutatud isikutele, tuleks kohaldada teatavaid kohustuslikke nõudeid, võttes arvesse süsteemi kasutamise sihtotstarvet ja toimides pakkuja kehtestatud riskijuhtimissüsteemi kohaselt. (43)Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada nõudeid seoses kasutatavate andmestike kvaliteedi, tehnilise dokumentatsiooni ja andmete säilitamise, läbipaistvuse ja kasutajate teavitamise, inimjärelevalve, stabiilsuse, täpsuse ja küberturvalisusega. Sellised nõuded on vajalikud, et tulemuslikult leevendada riske tervisele, ohutusele ja põhiõigustele, nagu on asjakohane süsteemi sihtotstarvet arvestades ning kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, et seega vältida põhjendamatuid kaubanduspiiranguid. (44)Kvaliteetsed andmed on paljude tehisintellektisüsteemide toimimiseks hädavajalikud, eriti kui kasutatakse mudelite treenimise meetodeid, et tagada suure riskiga tehisintellektisüsteemide sihipärane ja ohutu töö ja see, et neist ei saa liidu õigusega keelatud diskrimineerimise allikas. Kvaliteetsete treenimis-, valideerimis- ja testimisandmestike olemasolu eeldab asjakohaste andmehalduse ja juhtimistavade rakendamist.. Treenimis-, valideerimis- ja testimisandmestikud peaksid olema süsteemi sihtotstarvet arvestades piisavalt asjakohased, representatiivsed, vigadeta ja täielikud. Neid peaksid iseloomustama asjakohased statistilised omadused, sealhulgas mis puudutab selliseid isikuid või isikute rühmi, kelle peal kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Eeskätt tuleb treenimis-, valideerimis- ja testimisandmestikes võtta sihtotstarbe jaoks vajalikus ulatuses arvesse funktsioone, omadusi või elemente, mis iseloomustavad konkreetset geograafilist, käitumuslikku või funktsionaalset olukorda või konteksti, kus kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Et kaitsta teiste õigust tehisintellektisüsteemide kallutatusest tuleneda võiva diskrimineerimise eest, peaksid pakkujad saama töödelda isikuandmete eriliike olulise avaliku huvi nimel, et tagada suure riskiga tehisintellektisüsteemide puhul kallutatuse seire, avastamine ja korrigeerimine. (45)Suure riskiga tehisintellektisüsteemide arendamiseks peaks teatavatel asjaosalistel, näiteks pakkujatel, teavitatud asutustel ja muudel asjaomastel üksustel, näiteks digitaalse innovatsiooni keskustel, testimis- ja eksperimenteerimisrajatistel ja teadlastel, olema oma käesoleva määrusega seotud tegevusvaldkondades juurdepääs kvaliteetsetele andmestikele ja nad peaksid saama neid kasutada. Komisjoni loodud Euroopa ühised andmeruumid ning avaliku huvi nimel hõlpsam andmete jagamine ettevõtete vahel ja valitsustega on äärmiselt tähtis, et pakkuda tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks usaldusväärset, vastutustundlikku ja mittediskrimineerivat juurdepääsu kvaliteetsetele andmetele. Näiteks tervishoiu valdkonnas hõlbustab tervishoiu Euroopa andmeruum mittediskrimineerivat juurdepääsu terviseandmetele ja tehisintellekti algoritmide treenimist selliste andmestikega privaatsust tagaval, turvalisel, õigeaegsel, läbipaistval ja usaldusväärsel viisil ning asjakohase institutsioonilise juhtimise tingimustes. Asjaomased pädevad asutused, sealhulgas valdkondlikud asutused, kes pakuvad või toetavad juurdepääsu andmetele, võivad toetada ka kvaliteetsete andmete pakkumist tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks. (46)Selleks, et kontrollida vastavust käesoleva määruse kohastele nõuetele, on äärmiselt oluline omada teavet selle kohta, kuidas on suure riskiga tehisintellektisüsteemid välja töötatud ja kuidas need oma elutsükli jooksul töötavad. Selleks on vaja säilitada andmeid ja tagada sellise tehnilise dokumentatsiooni kättesaadavus, mis sisaldab tehisintellektisüsteemi asjakohastele nõuetele vastavuse hindamiseks vajalikku teavet. Sellise teabe hulka peaksid kuuluma süsteemi üldised omadused, võimekused ja piirid, algoritmid, andmed, kasutatud treenimis-, testimis- ja valideerimisprotsessid ning dokumentatsioon asjaomase riskijuhtimissüsteemi kohta. Tehniline dokumentatsioon peaks olema ajakohane. (47)Seoses läbipaistmatusega, mis võib muuta teatavad tehisintellektisüsteemid füüsiliste isikute jaoks arusaamatuks või liiga keeruliseks, tuleks suure riskiga tehisintellektisüsteemide puhul nõuda teatavat läbipaistvust. Kasutajad peaksid suutma süsteemi väljundit tõlgendada ja asjakohaselt kasutada. Seepärast peaks suure riskiga tehisintellektisüsteemidega olema kaasas as