EIROPAS KOMISIJA Briselē, 21.4.2021 COM(2021) 206 final 2021/0106(COD) Priekšlikums EIROPAS PARLAMENTA UN PADOMES REGULA KAS NOSAKA SASKAŅOTAS NORMAS MĀKSLĪGĀ INTELEKTA JOMĀ (MĀKSLĪGĀ INTELEKTA AKTS) UN GROZA DAŽUS SAVIENĪBAS LEĢISLATĪVOS AKTUS {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



PASKAIDROJUMA RAKSTS 1.PRIEKŠLIKUMA KONTEKSTS 1.1.Priekšlikuma pamatojums un mērķi Šis paskaidrojuma raksts ir pievienots regulas priekšlikumam, kas nosaka saskaņotus noteikumus mākslīgā intelekta jomā (Mākslīgā intelekta akts). Mākslīgais intelekts (“AI”, arī “MI”) ir tehnoloģiju saime, kas strauji attīstās un var dot visdažādāko saimniecisko un sabiedrisko ieguvumu visās nozarēs un sabiedriskās darbībās. Uzlabojot prognozēšanas spēju, optimalizējot darbības un resursu sadali un personalizējot pakalpojumu sniegšanu, mākslīgā intelekta izmantošana var sekmēt sabiedrībai un videi labvēlīgus rezultātus un sagādāt būtiskas konkurences priekšrocības uzņēmumiem un Eiropas ekonomikai. Tāda rīcība ir sevišķi nepieciešama jomās, kurām ir liela ietekme, ieskaitot klimata pārmaiņu, vides un veselības jomu, publisko sektoru, finanses, mobilitāti, iekšlietas un lauksaimniecību. Tomēr tie paši elementi un metodes, kas nodrošina AI nesto sociālekonomisko ieguvumu, var radīt arī jaunu risku vai negatīvas sekas indivīdiem vai sabiedrībai. Ņemot vērā tehnoloģisko pārmaiņu straujumu un iespējamās problēmas, ES ir pilna apņēmības censties nodrošināt līdzsvarotu pieeju. Savienības interesēs ir saglabāt ES vadošo pozīciju tehnoloģiju jomā un nodrošināt to, ka Eiropas iedzīvotāji var gūt labumu no jaunām tehnoloģijām, kas izstrādātas un darbojas saskaņā ar Savienības vērtībām, pamattiesībām un principiem. Šis priekšlikums īsteno priekšsēdētājas fon der Leienas politisko apņemšanos, kas pausta viņas politikas pamatnostādnēs Komisijai (2019.–2024. gadam) “Eiropas Savienība, kas tiecas uz augstākiem mērķiem”, kurās viņa paziņoja, ka Komisija ierosinās tiesību aktu priekšlikumus par koordinētu Eiropas pieeju attiecībā uz AI ietekmi uz cilvēkiem un ētiskajiem aspektiem. Pamatojoties uz minēto paziņojumu, 2020. gada 19. februārī Komisija publicēja “Balto grāmatu par mākslīgo intelektu. Eiropiska pieeja – izcilība un uzticēšanās”. Baltajā grāmatā ir aprakstīti politiskie risinājumi, kā sasniegt divējādu mērķi – veicināt AI ieviešanu un novērst briesmas, kas saistītas ar dažiem šo tehnoloģiju lietojumiem. Šis priekšlikums tiecas īstenot otro mērķi uzticības pilnas ekosistēmas radīšanai, ierosinot tiesisko regulējumu uzticamam AI. Priekšlikums ir balstīts uz ES vērtībām un pamattiesībām, un tā nolūks ir sniegt indivīdiem un citiem lietotājiem pārliecību, kas nepieciešama uz AI balstītu risinājumu pieņemšanai, un vienlaikus mudināt uzņēmumus šādus risinājumus izstrādāt. AI vajadzētu būt cilvēkiem domātam instrumentam un labā virzītājspēkam sabiedrībā, kura galvenais mērķis ir vairot cilvēku labklājību. Tāpēc, lai cilvēki varētu būt pārliecināti, ka AI tehnoloģija tiek izmantota drošā veidā un saskaņā ar tiesību aktiem, ieskaitot pamattiesību ievērošanu, noteikumiem attiecībā uz AI risinājumiem, kas pieejami Savienības tirgū vai kā citādi ietekmē Savienības iedzīvotājus, vajadzētu būt orientētiem uz cilvēkiem. Pēc baltās grāmatas publicēšanas Komisija sāka plašu apspriešanos ar ieinteresētajām personām, un tā izraisīja lielu interesi daudzās ieinteresētajās personās, kuras lielākoties atbalstīja regulatīvu iejaukšanos ar mērķi risināt problēmas un bažas, ko izraisa arvien pieaugošā AI izmantošana. Priekšlikums arī reaģē uz skaidriem Eiropas Parlamenta (EP) un Eiropadomes lūgumiem; abas iestādes ir vairākkārt atkārtojušas aicinājumu pieņemt tiesību aktus, lai nodrošinātu tādu labi funkcionējošu iekšējo tirgu mākslīgā intelekta sistēmām (“AI sistēmas”), kurā gan AI radītie ieguvumi, gan riski ir adekvāti risināti Savienības līmenī. Tas atbalsta Eiropadomes nosprausto mērķi – Savienībai būt pasaules līderei droša, uzticama un ētiska mākslīgā intelekta attīstīšanā – un nodrošina ētikas principu aizsardzību, kā īpaši lūdzis Eiropas Parlaments. 2017. gadā Eiropadome pauda pārliecību, ka “ir steidzami jāpievēršas jaunām tendencēm,” ieskaitot “tādus jautājumus kā mākslīgā intelekta .. tehnoloģijas, vienlaikus nodrošinot augstu datu aizsardzības, digitālo tiesību un ētikas normu līmeni”. Turklāt 2019. gada secinājumos par koordinēto Eiropā radīta mākslīgā intelekta izstrādes un izmantošanas plānu Padome uzsvēra, cik svarīgi ir nodrošināt Eiropas pilsoņu tiesību pilnīgu ievērošanu, un aicināja pārskatīt esošos attiecīgos tiesību aktus, lai nodrošinātu, ka tie atbilst mērķim – izmantot AI radītās jaunās iespējas un risināt ar to saistītās problēmas. Eiropadome ir arī aicinājusi skaidri definēt mākslīgā intelekta lietojumus, kas būtu uzskatāmi par augsta riska lietojumiem. Jaunākajos 2020. gada 21. oktobra secinājumos aicināts risināt tādas problēmas kā nepārredzamība, sarežģītība, aizspriedumi, zināma neprognozējamības pakāpe un dažu AI sistēmu daļēji autonoma darbība, lai nodrošinātu šo sistēmu saderību ar pamattiesībām un atvieglotu tiesību normu izpildi. Arī Eiropas Parlaments ir veicis ievērojamu darbu AI jomā. 2020. gada oktobrī tas pieņēma vairākas ar AI saistītas rezolūcijas, tostarp par ētiku, atbildību un autortiesībām. 2021. gadā tām sekoja rezolūcijas par AI krimināllietās un izglītībā, kultūrā un audiovizuālajā nozarē. EP rezolūcijā par mākslīgā intelekta, robotikas un saistīto tehnoloģiju ētisko aspektu satvaru ir īpaši ieteikts Komisijai ierosināt tiesību aktus AI piedāvāto iespēju un ieguvumu izmantošanai, bet arī ētisko principu aizsardzības nodrošināšanai. Rezolūcija satur tiesību akta priekšlikuma tekstu regulai par AI, robotikas un ar to saistīto tehnoloģiju izstrādes, ieviešanas un izmantošanas ētikas principiem. Attiecībā uz Eiropas Parlamenta rezolūcijām, kas pieņemtas saskaņā ar LESD 225. pantu, saskaņā ar Komisijas priekšsēdētājas fon der Leienas politisko apņemšanos, kas pausta viņas politikas pamatnostādnēs, šajā priekšlikumā ņemta vērā iepriekš minētā Eiropas Parlamenta rezolūcija, pilnīgi ievērojot proporcionalitātes, subsidiaritātes un labāka regulējuma principus. Šajā politiskajā kontekstā Komisija ierosina mākslīgā intelekta tiesisko regulējumu ar šādiem specifiskiem mērķiem: ·nodrošināt, ka Savienības tirgū laistās un izmantotās AI sistēmas ir drošas un atbilst pašreizējiem tiesību aktiem par pamattiesībām un Savienības vērtībām, ·nodrošināt juridisko noteiktību, lai veicinātu ieguldījumus AI un ar to saistītu inovāciju, ·uzlabot pārvaldi un to pašreizējo AI sistēmām piemērojamo tiesību aktu efektīvu izpildi, kuros noteiktas pamattiesības un drošuma prasības, ·veicināt vienota tirgus attīstību likumīgiem, drošiem un uzticamiem AI lietojumiem un novērst tirgus sadrumstalotību. Lai sasniegtu minētos mērķus, šis priekšlikums piedāvā līdzsvarotu un samērīgu horizontālu pieeju AI regulējumam, kas aprobežojas ar minimālajām nepieciešamajām prasībām ar AI saistīto risku un problēmu risināšanai, nepamatoti neierobežojot un nekavējot tehnoloģiju attīstību un citādā veidā nesamērīgi nepaaugstinot AI risinājumu tirgū laišanas izmaksas. Priekšlikums nosaka grodu un elastīgu tiesisko regulējumu. No vienas puses, tas ir vispusīgs un nākotnes prasībām atbilstošs regulatīvajās pamata izvēlēs, tostarp uz principiem pamatotajās prasībās, kas AI sistēmām ir jāizpilda. No otras puses, tas iedibina samērīgu regulatīvo sistēmu, kas centrēta uz skaidri noteiktu, uz risku balstītu regulatīvo pieeju, kura nerada liekus tirdzniecības ierobežojumus un kurā juridiska iejaukšanās ir pielāgota konkrētajām situācijām, kurās ir skaidrs pamats bažām vai ir paredzams, ka bažas radīsies tuvākajā nākotnē. Tajā pašā laikā tiesiskajā regulējumā iekļauti elastīgi mehānismi, kuri ļauj to dinamiski pielāgot tehnoloģiju attīstībai un jaunām situācijām, kam jāpievēršas. Priekšlikums nosaka saskaņotus noteikumus AI sistēmu izstrādei, laišanai tirgū un izmantošanai Savienībā saskaņā ar samērīgu, uz risku balstītu pieeju. Tas ierosina vienotu, nākotnes prasībām atbilstošu AI definīciju. Dažu veidu īpaši kaitīga AI prakse tiek aizliegta, jo tā pārkāpj Savienības vērtības, bet saistībā ar dažiem biometriskās tālidentifikācijas sistēmu lietojumiem tiesībaizsardzībā tiek ierosināti noteikti ierobežojumi un aizsardzības pasākumi. Priekšlikumā noteikta stingra metodika tādu “augsta riska” AI sistēmu definēšanai, kuras rada ievērojamus riskus personu veselībai un drošībai vai pamattiesībām. Tādām AI sistēmām būs jāatbilst obligātu horizontālo uzticama AI prasību kopai un jāizpilda atbilstības novērtēšanas procedūras, pirms šīs sistēmas varēs laist Savienības tirgū. Paredzami, samērīgi un skaidri pienākumi tiek noteikti arī minēto sistēmu sagādātājiem un lietotājiem ar mērķi garantēt drošību un esošo ar pamattiesību aizsardzību saistīto tiesību aktu ievērošanu visā AI sistēmu darbmūžā. Dažām specifiskām AI sistēmām ir ierosinātas tikai minimālās pārredzamības prasības, it īpaši sarunbotu vai dziļviltojumu izmantošanā. Ierosinātie noteikumi tiks izpildīti caur dalībvalstu līmeņa pārvaldes sistēmu, balstoties uz jau pastāvošajām struktūrām, un sadarbības mehānismu Savienības līmenī, izveidojot Eiropas Mākslīgā intelekta padomi. Ierosināti arī papildu pasākumi inovācijas atbalstam, sevišķi AI “regulatīvās smilškastes” un citi pasākumi regulatīvā sloga mazināšanai un mazo un vidējo uzņēmumu (MVU) un jaunuzņēmumu atbalstam. 1.2.Saskanība ar attiecīgajā politikas jomā pastāvošajiem noteikumiem Priekšlikuma horizontālajam raksturam nepieciešama pilnīga saskanība ar esošajiem Savienības tiesību aktiem, kuri attiecas uz nozarēm, kurās jau izmanto augsta riska AI sistēmas vai paredzams, ka izmantos tās tuvākajā nākotnē.

Ir nodrošināta saskanība arī ES Pamattiesību hartu un esošajiem sekundārajiem Savienības tiesību aktiem datu aizsardzības, patērētāju tiesību aizsardzības, nediskriminēšanas un dzimumu līdztiesības jomā. Priekšlikums neskar Vispārīgo datu aizsardzības regulu (Regulu (ES) 2016/679) un Tiesībaizsardzības direktīvu (Direktīvu (ES) 2016/680) un papildina tās ar saskaņotu noteikumu kopumu, kas attiecas uz dažu augsta riska AI sistēmu projektēšanu, izstrādi un izmantošanu, un ierobežojumiem attiecībā uz dažiem biometriskās tālidentifikācijas sistēmu lietojumiem. Turklāt priekšlikums papildina esošos Savienības tiesību aktus nediskriminēšanas jomā ar specifiskām prasībām, kuru mērķis ir minimalizēt algoritmiskas diskriminācijas risku, it īpaši saistībā ar AI sistēmu izstrādē izmantoto datu kopu uzbūvi un kvalitāti, līdztekus pienākumiem attiecībā uz testēšanu, riska pārvaldību, dokumentāciju un cilvēka virsvadību visā AI sistēmu darbmūžā. Šis priekšlikums neskar Savienības konkurences tiesību aktu piemērošanu. Attiecībā uz augsta riska AI sistēmām, kuras ir produktu drošības sastāvdaļas, šis priekšlikums tiks integrēts esošajos ar drošumu saistītajos nozares tiesību aktos ar mērķi nodrošināt saskanību, novērst dublēšanos un minimalizēt papildu slogus. Tā, attiecībā uz augsta riska AI sistēmām produktos, uz kuriem attiecas Jaunā tiesiskā regulējuma (JTR) tiesību akti (piemēram, mašīnās, medicīniskās ierīcēs, rotaļlietās), šajā priekšlikumā noteiktās prasības AI sistēmām tiks pārbaudītas pastāvošo atbilstības novērtēšanas procedūru ietvaros saskaņā ar attiecīgajiem JTR tiesību aktiem. Attiecībā uz prasību mijiedarbību, lai gan AI sistēmām raksturīgos drošības riskus plānots iekļaut šajā priekšlikumā noteiktajās prasībās, JTR tiesību aktu mērķis ir nodrošināt gatavā produkta vispārējo drošumu, līdz ar to tajos var būt noteiktas īpašas prasības AI sistēmas drošai integrēšanai gatavā produktā. Priekšlikums Mašīnu regulai, kas pieņemts tajā pašā dienā, kurā pieņemts šis priekšlikums, pilnā mērā atspoguļo minēto pieeju. Šis priekšlikums tieši neattieksies uz augsta riska AI sistēmām produktos, uz kuriem attiecas attiecīgie vecās pieejas tiesību akti (piemēram, aviācija, automobiļi). Tomēr šajā priekšlikumā noteiktās būtiskās priekšprasības augsta riska AI sistēmām būs jāņem vērā, pieņemot attiecīgus īstenošanas aktus vai deleģētos aktus saskaņā ar iepriekš minētajiem tiesību aktiem. Attiecībā uz AI sistēmām, ko sagādā vai izmanto regulētas kredītiestādes, Savienības finanšu pakalpojumu tiesību aktu uzraudzības iestādes būtu jāieceļ par kompetentajām iestādēm šā priekšlikuma prasību izpildes uzraudzībai ar mērķi nodrošināt šajā priekšlikumā un Savienības finanšu pakalpojumu tiesību aktos noteikto pienākumu saskaņotu izpildi, jo minētajos tiesību aktos AI sistēmas zināmā mērā ir netieši regulētas saistībā ar kredītiestāžu iekšējās pārvaldes sistēmu. Lai vēl vairāk uzlabotu saskanību, šajā priekšlikumā noteiktā atbilstības novērtēšanas procedūra un daži sagādātāju procesuālie pienākumi ir integrēti procedūrās, kas noteiktas Direktīvā 2013/36/ES par piekļuvi kredītiestāžu darbībai un prudenciālo uzraudzību. Šis priekšlikums saskan arī ar piemērojamiem Savienības tiesību aktiem pakalpojumu jomā, ieskaitot starpnieku pakalpojumus, kurus regulē Direktīva 2000/31/EK par elektronisko tirdzniecību un Komisijas nesenais priekšlikums digitālo pakalpojumu tiesību aktam (DSA). Attiecībā uz AI sistēmām, kuras ir lielapjoma IT sistēmu sastāvdaļas brīvības, drošības un tiesiskuma telpā, ko pārvalda Eiropas Savienības Aģentūra lielapjoma IT sistēmu darbības pārvaldībai (eu-LISA), priekšlikums neattieksies uz tām AI sistēmām, kuras ir laistas tirgū vai nodotas ekspluatācijā, pirms ir pagājis viens gads kopš šīs regulas piemērošanas dienas, ja vien iepriekš minēto tiesību aktu aizstāšana vai grozīšana nerada būtiskas izmaiņas attiecīgās AI sistēmas vai AI sistēmu uzbūvē vai tām paredzētajā nolūkā. 1.3.Saskanība ar citām Savienības politikas jomām Priekšlikums ir daļa no plašāka visaptveroša tādu pasākumu kopuma, kuri risina AI izstrādes un izmantošanas radītās problēmas, kas izskatītas Baltajā grāmatā par mākslīgo intelektu. Līdz ar to ir nodrošināta saskanība un papildināmība ar citām esošajām vai plānotajām Komisijas iniciatīvām, kuru mērķis arī ir risināt minētās problēmas, ieskaitot nozaru tiesību aktu par produktiem (piemēram, Mašīnu direktīvas, Produktu vispārējās drošības direktīvas) pārskatīšanu un iniciatīvas, kurās tiek risināti atbildības jautājumi saistībā ar jaunajām tehnoloģijām, tostarp AI sistēmām. Minētās iniciatīvas balstīsies uz šo priekšlikumu un to papildinās, lai nodrošinātu juridisko noteiktību un sekmētu tādas ekosistēmas veidošanos Eiropā, kurā valda uzticēšanās AI. Priekšlikums saskan arī ar Komisijas vispārējo digitālo stratēģiju attiecībā uz tās ieguldījumu tehnoloģijas, kas darbojas cilvēku labā, veicināšanā, kas ir viens no trīs galvenajiem pīlāriem politikas nostādnēs un mērķos, kas pausti Komisijas paziņojumā “Eiropas digitālās nākotnes veidošana”. Tas nosaka saskaņotu, efektīvu un samērīgu satvaru, kura mērķis ir nodrošināt, ka AI tiek izstrādāts, ievērojot cilvēku tiesības un gūstot viņu uzticēšanos, veidojot digitālajam laikmetam gatavu Eiropu un pārvēršot nākamos desmit gadus digitālajā desmitgadē. Turklāt AI virzītas inovācijas veicināšana ir cieši saistīta ar Datu pārvaldības aktu, Atvērto datu direktīvu un citām Eiropas Datu stratēģijas iniciatīvām, kuras izveidos uzticamus mehānismus un pakalpojumus datu atkalizmantošanai, kopīgošanai un apvienošanai, kas ir būtiski uz datiem balstītu augstas kvalitātes AI modeļu izstrādei. Priekšlikums arī ievērojami stiprina Savienības lomu globālo normu un standartu veidošanā un tāda uzticama AI veicināšanā, kurš saskan ar Savienības vērtībām un interesēm. Tas nodrošina Savienībai spēcīgu pamatu turpmākai sadarbībai ar tās ārējiem partneriem, tostarp trešām valstīm, un darbībai starptautiskajos forumos ar AI saistītos jautājumos. 2.JURIDISKAIS PAMATS, SUBSIDIARITĀTE UN PROPORCIONALITĀTE 2.1.Juridiskais pamats Priekšlikuma juridiskais pamats pirmām kārtām ir Līguma par Eiropas Savienības darbību (LESD) 114. pants, kurš paredz pieņemt pasākumus iekšējā tirgus izveides un darbības nodrošināšanai. Šis priekšlikums ir ES digitālā vienotā tirgus stratēģijas nozīmīga daļa. Šā priekšlikuma galvenais mērķis ir nodrošināt iekšējā tirgus pareizu darbību, nosakot saskaņotus noteikumus, sevišķi tādu produktu un pakalpojumu izstrādei, laišanai Savienības tirgū un izmantošanai, kuros ietvertas AI tehnoloģijas vai kurus piedāvā kā savrupas AI sistēmas. Dažas dalībvalstis jau apsver valsts līmeņa noteikumus ar mērķi nodrošināt, ka AI ir drošs un to izstrādā un izmanto saskaņā ar pamattiesību pienākumiem. Paredzams, ka tas radīs divas galvenās problēmas: i) iekšējā tirgus sadrumstalotību būtiskos aspektos, sevišķi saistībā ar prasībām AI produktiem un pakalpojumiem, to tirdzniecību, izmantošanu, atbildību un publiskā sektora iestāžu uzraudzību; un ii) juridiskās noteiktības būtisku samazināšanos gan AI sistēmu sagādātājiem, gan lietotājiem attiecībā uz to, kā esošos un jaunos noteikumus piemēros minētajām sistēmām Savienībā. Ņemot vērā produktu un pakalpojumu plašo apriti pāri robežām, abas minētās problēmas vislabāk var atrisināt ar saskaņojošiem ES tiesību aktiem. Priekšlikums nosaka kopīgas obligātās prasības noteiktu AI sistēmu projektēšanai un izstrādei pirms to laišanas tirgū; šīs prasības tiks sīkāk precizētas caur saskaņotiem tehniskajiem standartiem. Priekšlikums attiecas arī uz situāciju pēc AI sistēmu laišanas tirgū – tiek saskaņots veids, kā veicama pēckontrole. Turklāt, ņemot vērā, ka šis priekšlikums satur dažus specifiskus noteikumus par privātpersonu aizsardzību attiecībā uz persondatu apstrādi, īpaši AI sistēmu izmantošanas ierobežojumus reāllaika biometriskajā tālidentifikācijā sabiedriskās vietās tiesībaizsardzības nolūkos, ir piemēroti par šīs regulas pamatu noteikt LESD 16. pantu, ciktāl tas attiecas uz minētajiem specifiskajiem noteikumiem. 2.2.Subsidiaritāte (neekskluzīvas kompetences gadījumā) AI būtība – tas bieži ir balstīts uz apjomīgām un dažādām datu kopām un var būt iegults jebkādā produktā vai pakalpojumā, kas ir brīvā apritē iekšējā tirgū, – nosaka to, ka dalībvalstis, rīkojoties atsevišķi, nevar iedarbīgi sasniegt šā priekšlikuma mērķus. Turklāt potenciāli atšķirīgu valstu noteikumu sadrumstalots kopums kavēs ar AI sistēmām saistītu produktu un pakalpojumu netraucētu apriti ES un nevarēs efektīvi garantēt drošību un pamattiesību un Savienības vērtību aizsardzību dažādajās dalībvalstīs. Valstu pieejas problēmu risināšanai tikai radīs papildu juridisko nenoteiktību un šķēršļus un kavēs AI ieviešanu tirgū. Šā priekšlikuma mērķus iespējams labāk sasniegt Savienības līmenī, izvairoties no turpmākas vienotā tirgus sadrumstalošanās potenciāli pretrunīgās valstu sistēmās, kas kavēs AI saturošu preču un pakalpojumu brīvu apriti. Stingrs Eiropas tiesiskais regulējums uzticamam AI nodrošinās arī vienlīdzīgus konkurences apstākļus un aizsargās visus cilvēkus, vienlaikus stiprinot Eiropas konkurētspēju un rūpniecisko bāzi AI jomā. Tāpat tikai kopīga rīcība Savienības līmenī var aizsargāt Savienības digitālo suverenitāti un palīdzēt izmantot tās rīkus un regulatīvās pilnvaras globālo noteikumu un standartu veidošanā. 2.3.Proporcionalitāte

Priekšlikums pamatojas uz esošajiem tiesiskajiem regulējumiem un ir proporcionāls un nepieciešams tā mērķu sasniegšanai, jo īsteno uz risku balstītu pieeju un uzliek regulatīvo slogu tikai gadījumos, kad AI sistēma varētu radīt augstus riskus pamattiesībām un drošībai. Citām AI sistēmām, kuras nav augsta riska sistēmas, ir noteikti tikai ļoti ierobežoti pārredzamības pienākumi, piemēram, attiecībā uz informācijas sniegšanu situācijās, kad jānorāda uz to, ka saskarsmē ar cilvēkiem tiek izmantota AI sistēma. Augsta riska AI sistēmu gadījumā prasības attiecībā uz augstas kvalitātes datiem, dokumentāciju un izsekojamību, pārredzamību, cilvēka virsvadību, precizitāti un noturību noteikti ir vajadzīgas, lai mazinātu tos AI radītos riskus pamattiesībām un drošībai, kas nav skarti citos esošajos tiesiskajos regulējumos. Saskaņoti standarti, kā arī atbalsta norādījumi un atbilstības nodrošināšanas rīki palīdzēs sagādātājiem un lietotājiem izpildīt priekšlikumā noteiktās prasības un minimalizēt izmaksas. Ekonomikas dalībniekiem radušās izmaksas ir proporcionālas sasniegtajiem mērķiem un ekonomiskajiem un reputācijas ieguvumiem, kurus tirgus dalībnieki var sagaidīt no šā priekšlikuma. 2.4.Juridiskā instrumenta izvēle Regulas kā juridiskā instrumenta izvēli pamato nepieciešamība vienoti piemērot jaunos noteikumus, piemēram, AI definīciju, atsevišķu kaitīgas AI balstītas prakses veidu aizliegumu un noteiktu AI sistēmu klasifikāciju. Regulas tiešā piemērojamība saskaņā ar LESD 288. pantu samazinās juridisko sadrumstalotību un veicinās vienota tirgus attīstību likumīgām, drošām un uzticamām AI sistēmām. Regula to paveiks, ieviešot saskaņotu pamatprasību kopu AI sistēmām, kas klasificētas kā augsta riska sistēmas, un pienākumus šo sistēmu sagādātājiem un lietotājiem, uzlabojot pamattiesību aizsardzību un nodrošinot juridisko noteiktību gan ekonomikas dalībniekiem, gan patērētājiem. Tajā pašā laikā regulas noteikumi nav pārlieku preskriptīvi un ļauj veikt dažāda līmeņa dalībvalstu darbības saistībā ar tiem elementiem, kuri nekavē iniciatīvas mērķu sasniegšanu, sevišķi tirgus uzraudzības sistēmas iekšēju organizāciju un pasākumu īstenošanu inovācijas veicināšanai. 3.RETROSPEKTĪVO IZVĒRTĒJUMU, APSPRIEŠANOS AR IEINTERESĒTAJĀM PERSONĀM UN IETEKMES NOVĒRTĒJUMU REZULTĀTI 3.1.Apspriešanās ar ieinteresētajām personām Šis priekšlikums izstrādāts pēc plašas apspriešanās ar visām galvenajām ieinteresētajām personām, kuras gaitā Komisija ievēroja vispārīgos principus un minimālos standartus attiecībā uz apspriešanos ar ieinteresētajām personām. Līdztekus Baltās grāmatas par mākslīgo intelektu publicēšanai 2020. gada 19. februārī tika sākta sabiedriskā apspriešana tiešsaistē, tā noritēja līdz 2020. gada 14. jūnijam. Minētās apspriešanas mērķis bija apkopot viedokļus un uzskatus par balto grāmatu. Tā bija vērsta uz visām publiskā un privātā sektora ieinteresētajām personām, ieskaitot valdības, pašvaldības, komerciālas un nekomerciālas organizācijas, sociālos partnerus, ekspertus, akadēmiskās aprindas un iedzīvotājus. Pēc visu saņemto atbilžu analīzes Komisija savā tīmekļa vietnē publicēja rezultātu kopsavilkumu un individuālās atbildes. Kopumā tika saņemtas 1215 atbildes, 352 no tām – no uzņēmumiem vai uzņēmēju organizācijām/apvienībām, 406 – no privātpersonām (92 % no privātpersonām bija no ES), 152 – akadēmisko/pētniecības iestāžu vārdā un 73 – no publiskā sektora iestādēm. Pilsonisko sabiedrību pārstāvēja 160 respondenti (to starpā 9 patērētāju organizācijas, 129 nevalstiskās organizācijas un 22 arodbiedrības), 72 respondenti atbildes iesniedza kategorijā “citi respondenti”. No 352 uzņēmējdarbības un nozares pārstāvjiem 222 bija uzņēmumi un uzņēmumu pārstāvji, 41,5 % no kuriem bija mikrouzņēmumi, mazi un vidēji uzņēmumi. Pārējās bija uzņēmēju apvienības. Kopumā 84 % no uzņēmējdarbības un nozares pārstāvju atbildēm nāca no ES-27. Atkarā no jautājuma 81 līdz 598 respondenti izmantoja brīvā teksta iespēju piezīmju paušanai. Caur EUSurvey tīmekļa vietni tika iesniegts vairāk nekā 450 nostājas dokumentu vai nu papildus atbildēm uz anketas jautājumiem (vairāk nekā 400), vai atsevišķi (vairāk nekā 50). Kopumā ieinteresētās personas ir vienisprātis par nepieciešamību rīkoties. Lielākā daļa ieinteresēto personu piekrīt tam, ka pastāv nepilnības likumdošanā vai ka nepieciešami jauni tiesību akti. Tomēr vairākas ieinteresētās personas brīdina Komisiju par nepieciešamību izvairīties no dublēšanās, pretrunīgiem pienākumiem un pārmērīga regulējuma. Daudzās piezīmēs bija uzsvērta tehnoloģiski neitrāla un samērīga tiesiskā regulējuma nozīme. Ieinteresētās personas lielākoties pieprasīja šauru, skaidru un precīzu AI definīciju. Ieinteresētās personas arī uzsvēra, ka papildus AI jēdziena precizēšanai ir svarīgi definēt jēdzienus “risks”, “augsts risks”, “zems risks”, “biometriska tālidentifikācija” un “kaitējums”. Lielākā daļa respondentu skaidri norādīja, ka dod priekšroku uz risku balstītai pieejai. Uz risku balstīta regulējuma izmantošana tika uzskatīta par labāku risinājumu nekā vienāds regulējums visām AI sistēmām. Risku un apdraudējumu veidus būtu jāizvērtē katrā nozarē un katrā gadījumā atsevišķi. Tāpat riski būtu jānovērtē, ņemot vērā ietekmi uz tiesībām un drošību. “Regulatīvās smilškastes” varētu būt ļoti noderīgas AI veicināšanai, un daļa ieinteresēto personu, īpaši uzņēmējdarbības apvienības, tās vērtē atzinīgi. Vairāk nekā 50 % no tiem, kas pauda viedokli par izpildes modeļiem, īpaši uzņēmēju apvienības, attiecībā uz augsta riska AI sistēmām deva priekšroku iepriekšējas riska pašnovērtēšanas un pēcizpildes kombinēšanai. 3.2.Ekspertu atzinumu pieprasīšana un izmantošana Priekšlikums pamatojas uz divu gadu gaitā veiktu analīzi un ieinteresēto personu ciešu iesaisti – to vidū bija akadēmisko aprindu pārstāvji, uzņēmumi, sociālie partneri, nevalstiskās organizācijas, dalībvalstis un iedzīvotāji. Sagatavošanās darbs sākās 2018. gadā, izveidojot Mākslīgā intelekta augsta līmeņa ekspertu grupu (ALEG), kuras iekļaujošajā un plašajā sastāvā bija 52 labi pazīstami eksperti, kuru uzdevums bija konsultēt Komisiju Mākslīgā intelekta stratēģijas īstenošanā. 2019. gada aprīlī Komisija atbalstīja galvenās prasības, kas izklāstītas ALEG ētikas vadlīnijās uzticamam AI, kuras tika pārskatītas, lai ņemtu vērā vairāk nekā 500 iesniegumu no ieinteresētajām personām. Galvenās prasības atspoguļo plaši izplatītu un kopīgu pieeju, kā to apliecina virkne ētikas kodeksu un principu, kurus izstrādājušas daudzas publiskas un privātas organizācijas Eiropā un ārpus tās un kuros noteikts, ka AI izstrādē un izmantošanā būtu jāvadās pēc dažiem būtiskiem, uz vērtībām orientētiem principiem. Uzticama mākslīgā intelekta novērtējuma saraksts (The Assessment List for Trustworthy Artificial Intelligence, ALTAI) iedzīvināja minētās prasības darbībā izmēģinājuma procesā, kurā piedalījās vairāk nekā 350 organizācijas. Papildus tika izveidota Mākslīgā intelekta alianse – platforma AI tehnoloģisko un sociālo seku apspriešanai, kurā piedalās aptuveni 4000 ieinteresēto personu un kuras kulminācija ir ikgadējā AI asambleja. Baltajā grāmatā par mākslīgo intelektu šī iekļaujošā pieeja tika izstrādāta sīkāk, saņemot piezīmes no vairāk nekā 1250 ieinteresētajām personām, tostarp papildus saņemot vairāk nekā 450 nostājas dokumentus. Tā rezultātā Komisija publicēja sākotnējo ietekmes novērtējumu, par kuru savukārt tika saņemts vairāk nekā 130 piezīmju. Tika organizēti arī papildu ieinteresēto personu darbsemināri un pasākumi, kuru rezultāti apstiprina ietekmes novērtējumā veikto analīzi un šajā priekšlikumā izdarītās politikas izvēles. Ietekmes novērtējuma izstrādāšanai tika pasūtīts arī ārējais pētījums. 3.3.Ietekmes novērtējums Saskaņā ar labāka regulējuma politiku Komisija veica šā priekšlikuma ietekmes novērtējumu, kuru izskatīja Komisijas Regulējuma kontroles padome. 2020. gada 16. decembrī notika sanāksme ar Regulējuma kontroles padomi, pēc kuras tika sniegts negatīvs atzinums. Pēc apjomīgas ietekmes novērtējuma pārskatīšanas ar mērķi novērst saņemtajās piezīmēs norādītos trūkumus un ietekmes novērtējuma atkārtotas iesniegšanas Regulējuma kontroles padome 2021. gada 21. martā sniedza pozitīvu atzinumu. Regulējuma kontroles padomes atzinumi, ieteikumi un skaidrojums par to, kā tie ņemti vērā, ir atspoguļoti ietekmes novērtējuma 1. pielikumā.

Komisija izskatīja dažādus politikas variantus, ar ko varētu sasniegt priekšlikuma vispārīgo mērķi – nodrošināt pareizu vienotā tirgus darbību, Savienībā radot uzticama AI izstrādei un izmantošanai nepieciešamos apstākļus. Tika novērtēti četri politikas varianti ar atšķirīgu regulatīvās iejaukšanās pakāpi: ·1. variants: ES likumdošanas instruments, ar ko izveido brīvprātīgu marķējuma sistēmu, ·2. variants: speciāla sektoriāla pieeja, ·3. variants: horizontāls ES likumdošanas instruments, kas atbilst samērīgai, uz risku balstītai pieejai, ·3.+ variants: horizontāls ES likumdošanas instruments, kas atbilst samērīgai, uz risku balstītai pieejai, un rīcības kodeksi AI sistēmām, kuras nerada augstu risku, ·4. variants: horizontāls ES likumdošanas instruments, kurā noteiktas obligātās prasības visām AI sistēmām neatkarīgi no riska pakāpes. Saskaņā ar Komisijas iedibināto metodiku tika izvērtēta katra politikas varianta ekonomiskā un sociālā ietekme, īpaši koncentrējoties uz ietekmi uz pamattiesībām. Vēlamais variants ir 3.+ variants – tiesiskais regulējums tikai augsta riska AI sistēmām ar iespēju visiem tādu AI sistēmu sagādātājiem, kuras nerada augstu risku, īstenot rīcības kodeksu. Prasības attieksies uz datiem, dokumentāciju un izsekojamību, informācijas sniegšanu par pārredzamību, cilvēka virsvadību, noturību un precizitāti, un tās būs obligātas augsta riska AI sistēmām. Uzņēmumi, kas ieviestu rīcības kodeksus attiecībā uz citām AI sistēmām, to darītu brīvprātīgi. Vēlamais variants tika uzskatīts par piemērotu šā priekšlikuma mērķu sasniegšanai visefektīvākajā veidā. Pieprasot AI izstrādātājiem un lietotājiem veikt ierobežotu, taču efektīvu darbību kopumu, vēlamais variants ierobežo pamattiesību un cilvēku drošības pārkāpšanas risku un sekmē efektīvu uzraudzību un izpildi, prasības nosakot tikai tām sistēmām, kurās pastāv augsts minēto pārkāpumu risks. Tā rezultātā atbilstības nodrošināšanas izmaksas minētā varianta ietvaros ir minimālas, un tādējādi sistēmu ieviešana netiek lieki kavēta ar augstākām cenām un atbilstības nodrošināšanas izmaksām. Lai risinātu iespējamos trūkumus MVU gadījumā, šis variants ietver vairākus noteikumus atbilstības sekmēšanai un izmaksu samazināšanai, tostarp “regulatīvo smilškastu” izveidi un pienākumu ņemt vērā MVU intereses, nosakot ar atbilstības novērtēšanu saistīto maksu apmēru. Vēlamais variants vairos cilvēku uzticēšanos AI, uzņēmumi gūs juridisko noteiktību, un dalībvalstīm nebūs iemesla veikt vienpusējas darbības, kas varētu sadrumstalot vienoto tirgu. Augstākam uzticēšanās līmenim radot augstāku pieprasījumu, juridiskajai noteiktībai radot vairāk pieejamu piedāvājumu un nepastāvot šķēršļiem AI sistēmu pārrobežu apritei, AI vienotais tirgus, visticamāk, plauks. Eiropas Savienība turpinās attīstīt strauji augošu AI ekosistēmu inovatīviem, AI tehnoloģijas saturošiem produktiem un pakalpojumiem vai savrupām AI sistēmām, tā vairojot digitālo autonomiju. Uzņēmumiem vai publiskā sektora iestādēm, kas izstrādā vai izmanto AI lietojumus, kuri rada augstu risku iedzīvotāju drošībai vai pamattiesībām, būs jāizpilda specifiskas prasības un pienākumi. Atbilstības šīm prasībām nodrošināšana radītu izmaksas aptuveni 6000–7000 EUR apmērā par parastas augsta riska AI sistēmas piegādi aptuveni 170 000 EUR vērtībā līdz 2025. gadam. AI lietotājiem rastos ikgadējās izmaksas par laiku, kas veltīts cilvēka virsvadības nodrošināšanai attiecīgā gadījumā atkarā no lietojuma. Aplēsts, ka minētās izmaksas varētu būt aptuveni 5000–8000 EUR gadā. Pārbaudes izmaksas augsta riska AI piegādātājiem varētu būt vēl 3000–7500 EUR. Uzņēmumiem vai publiskā sektora iestādēm, kas izstrādā vai izmanto AI lietojumus, kuri nav klasificēti kā augsta riska lietojumi, būti vienīgi minimāli informēšanas pienākumi. Tomēr tie varētu izvēlēties apvienoties un kopīgi pieņemt rīcības kodeksu, lai izpildītu attiecīgas prasības un nodrošinātu, ka to AI sistēmas ir uzticamas. Minētajā gadījumā maksimālās izmaksas varētu būt tikpat lielas kā saistībā ar augsta riska AI sistēmām, taču, visticamāk, tās būtu zemākas. Politikas variantu ietekme uz dažādām ieinteresēto personu kategorijām (ekonomikas dalībnieki / uzņēmumi; atbilstības novērtēšanas struktūras, standartizācijas iestādes un citas publiskas struktūras; privātpersonas/iedzīvotāji; pētnieki) ir sīki paskaidrota šim priekšlikumam pievienotā ietekmes novērtējuma 3. pielikumā. 3.4.Normatīvā atbilstība un vienkāršošana Šis priekšlikums nosaka pienākumus, kas attieksies uz augsta riska AI sistēmu sagādātājiem un lietotājiem. Tiem sagādātājiem, kuri šādas sistēmas izstrādā un laiž Savienības tirgū, priekšlikums dos juridisko noteiktību un novērsīs šķēršļus ar AI saistītu pakalpojumu un produktu pārrobežu apritei. Uzņēmumiem, kuri izmanto AI, tas vairos klientu uzticēšanos. No valstu publiskās pārvaldes iestāžu viedokļa – tas vairos sabiedrības uzticēšanos AI izmantošanai un stiprinās izpildes panākšanas mehānismus (ieviešot Eiropas koordinācijas mehānismu, paredzot pienācīgas spējas un vienkāršojot AI sistēmu revīzijas ar jaunām prasībām par dokumentāciju, izsekojamību un pārredzamību). Turklāt regulējums paredzēs specifiskus pasākumus inovācijas atbalstam, to starpā “regulatīvās smilškastes”, un specifiskus pasākumus, kas palīdzēs mazapjoma lietotājiem un augsta riska AI sistēmu sagādātājiem izpildīt jaunos noteikumus. Tāpat priekšlikuma īpašs mērķis ir stiprināt Eiropas konkurētspēju un rūpniecisko bāzi AI jomā. Ir nodrošināta pilnīga atbilstība pašreizējiem Savienības nozaru tiesību aktiem, kuri attiecas uz AI sistēmām (piemēram, par produktiem un pakalpojumiem), tādējādi radot lielāku skaidrību un vienkāršojot jauno noteikumu izpildi. 3.5.Pamattiesības AI izmantošana, ņemot vērā tam raksturīgās iezīmes (piemēram, nepārredzamība, sarežģītība, atkarība no datiem, autonoma darbība), var negatīvi ietekmēt virkni pamattiesību, kas nostiprinātas ES Pamattiesību hartā (“Pamattiesību harta”). Šā priekšlikuma nolūks ir nodrošināt minēto pamattiesību aizsardzību augstā līmenī, un tā mērķis ir risināt dažādus risku avotus caur skaidri noteiktu, uz risku balstītu pieeju. Ar prasību kopumu uzticamam AI un samērīgiem pienākumiem visiem vērtības ķēdes dalībniekiem priekšlikums uzlabos un veicinās Pamattiesību hartā nostiprināto tiesību aizsardzību: cilvēka cieņas aizsardzību (1. pants), privātās dzīves neaizskaramību un persondatu aizsardzību (7. un 8. pants), nediskriminēšanu (21. pants) un sieviešu un vīriešu līdztiesību (23. pants). Tā mērķis ir novērst atturošu ietekmi uz tiesībām uz vārda brīvību (11. pants) un pulcēšanās brīvību (12. pants), nodrošināt tiesību uz efektīvu tiesību aizsardzību un taisnīgu tiesu, tiesību uz aizstāvību un nevainīguma prezumpcijas (47. un 48. pants) aizsardzību, kā arī vispārējā labas pārvaldības principa aizsardzību. Turklāt, tā kā priekšlikumu piemēro noteiktās jomās, tas pozitīvi ietekmēs vairāku īpašu grupu tiesības, piemēram, darba ņēmēju tiesības uz godīgiem un taisnīgiem darba apstākļiem (31. pants), augstu patērētāju tiesību aizsardzības līmeni (28. pants), bērnu tiesības (24. pants) un invalīdu integrāciju (26. pants). Tas skar arī tiesības uz augstu vides aizsardzības līmeni un vides kvalitātes uzlabošanu (37. pants), tostarp attiecībā uz cilvēku veselību un drošību. Priekštestēšanas, riska pārvaldības un cilvēka virsvadības pienākumi veicinās arī citu pamattiesību ievērošanu, minimalizējot kļūdainu vai neobjektīvu AI balstītu lēmumu pieņemšanu tādās īpaši svarīgās jomās kā izglītība un apmācība, nodarbinātība, svarīgi pakalpojumi, tiesībaizsardzība un tiesu vara. Ja pamattiesības tomēr tikušas pārkāptas, pārkāpumu skartajām personām būs pieejama iedarbīga tiesiskā aizsardzība, jo tiks nodrošināta AI sistēmu pārredzamība un izsekojamība līdztekus stingrām pēcpārbaudēm. Šis priekšlikums nosaka dažus darījumdarbības brīvības (16. pants) un humanitāro un eksakto zinātņu brīvības (13. pants) ierobežojumus ar mērķi augsta riska AI tehnoloģiju izstrādē un izmantošanā nodrošināt atbilstību tādiem sevišķi svarīgu vispārības interešu apsvērumiem kā veselība, drošība, patērētāju aizsardzība un citu pamattiesību aizsardzība (“atbildīga inovācija”). Minētie ierobežojumi ir samērīgi un aprobežojas ar būtisku drošības risku un iespējamu pamattiesību pārkāpumu novēršanai un mazināšanai nepieciešamo minimumu. Arī pastiprinātie pārredzamības pienākumi nesamērīgi neietekmēs tiesības uz intelektuālā īpašuma aizsardzību (17. panta 2. punkts), jo tie aprobežosies ar informācijas minimumu, kas privātpersonām nepieciešama savu tiesību uz efektīvu tiesību aizsardzību īstenošanai, un ar nepieciešamo pārredzamību attiecībā uz uzraudzības un izpildes iestādēm saskaņā ar to pilnvarām. Jebkāda informācijas izpaušana notiks saskaņā ar attiecīgajiem jomas tiesību aktiem, ieskaitot Direktīvu (ES) 2016/943 par zinātības un darījumdarbības neizpaužamas informācijas (komercnoslēpumu) aizsardzību pret nelikumīgu iegūšanu, izmantošanu un izpaušanu. Gadījumos, kad piekļuve konfidenciālai informācijai vai pirmkodam ir jāpiešķir publiskā sektora iestādēm un pieteiktajām struktūrām, lai tās varētu pārbaudīt būtisku pienākumu izpildi, tām nosaka saistošus konfidencialitātes pienākumus. 4.IETEKME UZ BUDŽETU

Dalībvalstīm būs jānorīko uzraudzības iestādes, kuras atbildēs par regulatīvo prasību īstenošanu. To pienākumu izpilde uzraudzības jomā varētu būt balstīta jau esošā kārtībā, piemēram, saistībā ar atbilstības novērtēšanas struktūrām vai tirgus uzraudzību, taču tai būtu nepieciešama pietiekama tehnoloģiskā zinātība, cilvēkresursi un finanšu resursi. Atkarā no katrā dalībvalstī jau izveidotajām struktūrām tam varētu būt nepieciešams 1 līdz 25 pilnslodzes ekvivalenti uz vienu dalībvalsti. Detalizēts pārskats par attiecīgajām izmaksām ir sniegts šim priekšlikumam pievienotajā finanšu pārskatā. 5.CITI ELEMENTI 5.1.Īstenošanas plāni un uzraudzīšanas, izvērtēšanas un ziņošanas kārtība Stingra uzraudzības un izvērtēšanas mehānisma ieviešana ir ļoti svarīga, lai panāktu to, ka priekšlikums efektīvi sasniedz savus specifiskos mērķus. Komisija atbildēs par priekšlikuma ietekmes uzraudzību. Tā izveidos sistēmu savrupu augsta riska AI lietojumu reģistrēšanai publiskā ES mēroga datubāzē. Minētā reģistrēšana ļaus arī kompetentajām iestādēm, lietotājiem un citiem ieinteresētajiem indivīdiem pārbaudīt, vai attiecīgā augsta riska AI sistēma atbilst priekšlikumā noteiktajām prasībām, un īstenot pastiprinātu to AI sistēmu uzraudzību, kuras rada augstus riskus pamattiesībām. Lai nodrošinātu minētās datubāzes saturu, AI sagādātājiem būs pienākums sniegt būtisko informāciju par savām sistēmām un to atbilstības novērtējumu. Turklāt AI sagādātājiem būs jāinformē valstu kompetentās iestādes par nopietniem incidentiem vai darbības traucējumiem, kas pārkāpj ar pamattiesībām saistītos pienākumus, tiklīdz viņiem tie kļūs zināmi, kā arī par jebkādu AI sistēmu atsaukšanu vai izņemšanu no tirgus. Valstu kompetentās iestādes izmeklēs šos incidentus / darbības traucējumus, apkopos visu nepieciešamo informāciju un regulāri to nodos Komisijai kopā ar atbilstošiem metadatiem. Komisija šo informāciju par incidentiem papildinās ar visaptverošu kopējā AI tirgus analīzi. Komisija publicēs ziņojumu par ierosinātā regulējuma izvērtēšanu un pārskatīšanu piecus gadus pēc dienas, kad tas kļūs piemērojams. 5.2.Detalizēts priekšlikuma specifisko noteikumu skaidrojums 5.2.1.DARBĪBAS JOMA UN DEFINĪCIJAS (I SADAĻA) I sadaļā definēts regulas priekšmets un jauno noteikumu piemērošanas joma, kas aptver AI sistēmu laišanu tirgū, nodošanu ekspluatācijā un izmantošanu. Tajā arī sniegtas aktā izmantotās definīcijas. AI sistēmas definīcija veidota iespējami tehnoloģiski neitrāla un nākotnes prasībām atbilstoša, ņemot vērā ar AI saistīto tehnoloģiju un tirgus straujo attīstību. Lai nodrošinātu nepieciešamo juridisko noteiktību, I sadaļu papildina I pielikums, kurš satur detalizētu AI izstrādes pieeju un metožu sarakstu, kuru Komisija pielāgos atbilstoši tehnoloģiju attīstībai. Skaidri definēti ir arī tādi AI vērtības ķēdes galvenie dalībnieki kā AI sistēmu sagādātāji un lietotāji, kas ietver gan publiskus, gan privātus dalībniekus vienlīdzīgu konkurences apstākļu nodrošināšanai. 5.2.2.AIZLIEGTA MĀKSLĪGĀ INTELEKTA PRAKSE (II SADAĻA) II sadaļā noteikts aizliegtā AI saraksts. Regulā īstenota uz risku balstīta pieeja, nošķirot AI lietojumus, kuru riska līmenis ir (i) nepieņemams; (ii) augsts; vai (iii) zems vai minimāls. Aizliegtās prakses saraksts II sadaļā ietver visas tās AI sistēmas, kuru izmantošanu uzskata par nepieņemamu, jo tā ir pretrunā Savienības vērtībām, piemēram, pārkāpj pamattiesības. Aizliegumi ietver praksi, kurai var būt ievērojams potenciāls manipulēt ar personām, izmantojot subliminālus paņēmienus, personām to neapzinoties, vai izmantojot kādu neaizsargātu grupu, piemēram, bērnu vai invalīdu, ietekmējamību ar mērķi būtiski iespaidot viņu uzvedību veidā, kas var nodarīt fizisku vai psiholoģisku kaitējumu viņiem vai kādai citai personai. Citāda manipulatīva vai ekspluatatīva prakse, kas ietekmē pieaugušos un ko var veicināt AI sistēmas, varētu tikt iekļauta esošajos datu aizsardzības, patērētāju aizsardzības un digitālo pakalpojumu tiesību aktos, kuri garantē fizisku personu pienācīgu informēšanu un brīvu izvēli netikt pakļautām profilēšanai vai citai praksei, kas var ietekmēt viņu uzvedību. Priekšlikums arī aizliedz AI bāzētu sociālo novērtēšanu, ko vispārējiem mērķiem veic publiskā sektora iestādes. Visbeidzot, aizliegta ir arī reāllaika biometriskās tālidentifikācijas sistēmu izmantošana sabiedriskās vietās tiesībaizsardzības nolūkos, ja vien nav piemērojami kādi ierobežoti izņēmumi. 5.2.3.AUGSTA RISKA AI SISTĒMAS (III SADAĻA) III sadaļā ir specifiski noteikumi par AI sistēmām, kuras rada augstu risku fizisku personu veselībai un drošībai vai pamattiesībām. Atbilstoši uz risku balstītai pieejai šādas augsta riska AI sistēmas ir atļautas Eiropas tirgū, ja ir nodrošināta atbilstība noteiktām obligātām prasībām un veikta atbilstības priekšnovērtēšana. AI sistēmu klasificē kā augsta riska sistēmu, pamatojoties uz attiecīgās AI sistēmas paredzēto nolūku saskaņā ar esošo produktu drošuma regulējumu. Tādējādi AI sistēmu klasificē kā augsta riska sistēmu ne tikai atkarā no AI sistēmas veiktās funkcijas, bet arī pamatojoties uz īpašo lietojumu un kārtību, kādā sistēmu izmanto. III sadaļas 1. nodaļā aprakstīti klasifikācijas noteikumi un noteiktas divas galvenās augsta riska AI sistēmu kategorijas: ·AI sistēmas, kuras paredzēts izmantot kā drošības sastāvdaļas produktos, kas pakļauti trešo personu atbilstības priekšnovērtēšanai, ·citas savrupas AI sistēmas, kurām galvenokārt ir ietekme uz pamattiesībām un kuras ir skaidri uzskaitītas III pielikumā. Augsta riska AI sistēmu sarakstā III pielikumā norādīts ierobežots skaits AI sistēmu, kuru riski jau ir realizējušies vai, visticamāk, realizēsies tuvākā nākotnē. Lai nodrošinātu, ka regulu iespējams pielāgot AI jauna veida izmantošanai un lietojumiem, Komisija var paplašināt augsta riska AI sistēmu sarakstu kādu iepriekš noteiktu jomu ietvaros, piemērojot kritēriju kopumu un riska novērtēšanas metodiku. 2. nodaļā aprakstītas juridiskās prasības augsta riska AI sistēmām saistībā ar datiem un datu pārvaldi, dokumentāciju un uzskaiti, pārredzamību un informācijas sniegšanu lietotājiem, cilvēka virsvadību, noturību, precizitāti un drošību. Ierosinātās minimālās prasības daudzi rūpīgi ekonomikas dalībnieki faktiski izpilda jau tagad, un tās ir divus gadus ilga sagatavošanās darba rezultāts, kas izriet no ALEG ētikas vadlīnijām, kuras tika izmēģinātas vairāk nekā 350 organizācijās. Tāpat tās lielā mērā saskan ar citiem starptautiskiem ieteikumiem un principiem, kas nodrošina to, ka ierosinātais AI regulējums ir saderīgs ar ES starptautiskās tirdzniecības partneru pieņemto regulējumu. Precīzus tehniskos risinājumus atbilstības prasībām nodrošināšanai var noteikt standartos vai citās tehniskajās specifikācijās vai izstrādāt citā veidā saskaņā ar vispārējām inženierzinātnes vai zinātniskajām atziņām pēc AI sistēmas sagādātāja ieskatiem. Šī elastība ir īpaši svarīga, jo tā ļauj AI sistēmu sagādātājiem izvēlēties veidu, kas atbilst viņu prasībām, ņemot vērā jaunāko tehnoloģisko un zinātnisko progresu šajā jomā. 3. nodaļā noteikti skaidrs horizontālu pienākumu kopums augsta riska AI sistēmu sagādātājiem. Samērīgus pienākumus nosaka arī lietotājiem un citiem AI vērtības ķēdes dalībniekiem (piemēram, importētājiem, izplatītājiem, pilnvarotajiem pārstāvjiem).

4. nodaļā noteikta sistēma pieteikto struktūru kā neatkarīgu trešo personu iesaistei atbilstības novērtēšanas procedūrās, savukārt 5. nodaļā sīki paskaidrotas atbilstības novērtēšanas procedūras katram augsta riska AI sistēmas veidam. Atbilstības novērtēšanas pieejas mērķis ir minimalizēt slogu ekonomikas dalībniekiem, kā arī pieteiktajām struktūrām, kuru spējas ir pakāpeniski jāpalielina laika gaitā. Uz AI sistēmām, kuras paredzēts izmantot kā drošības sastāvdaļas produktos, kurus regulē Jaunā tiesiskā regulējuma tiesību akti (piemēram, mašīnās, rotaļlietās, medicīniskās ierīcēs utt.), attieksies tādi paši iepriekšēji un pēcāki atbilstības un izpildes mehānismi, kā uz produktiem, kuru sastāvā minētās sistēmas iekļautas. Galvenā atšķirība ir tāda, ka iepriekšējas un pēcākas kontroles mehānismi nodrošinās atbilstību ne tikai nozaru tiesību aktos noteiktajām prasībām, bet arī šajā regulā noteiktajām prasībām. Savrupām augsta riska AI sistēmām, kuras minētas III pielikumā, tiks izveidota jauna atbilstības un izpildes sistēma. Tas atbilst Jaunā tiesiskā regulējuma modelim, kuru īsteno caur iekšējām kontroles pārbaudēm, ko veic sagādātāji; izņēmums ir biometriskas tālidentifikācijas sistēmas, uz kurām attiektos trešās personas veikta atbilstības novērtēšana. Visaptveroša atbilstības priekšnovērtēšana iekšējās pārbaudēs kombinācijā ar spēcīgu pēcāku izpildes panākšanu varētu būt iedarbīgs un saprātīgs risinājums minēto sistēmu gadījumā, ņemot vērā regulatīvās iejaukšanās agrīno stadiju un to, ka AI nozare ir ļoti inovatīva un revīzijas zinātība vēl tikai tiek uzkrāta. Savrupu augsta riska AI sistēmu novērtēšanai caur iekšējām pārbaudēm būtu nepieciešama pilnīga, iedarbīga un pienācīgi dokumentēta iepriekšēja atbilstība visām regulas prasībām un atbilstība stingrām kvalitātes un riska pārvaldības sistēmām un pēctirgus uzraudzībai. Pēc attiecīgās atbilstības novērtēšanas pabeigšanas sagādātājam būtu jāreģistrē minētās savrupās augsta riska AI sistēmas ES datubāzē, kuru pārvaldīs Komisija, ar nolūku vairot publisko pārskatāmību un pārraudzību un stiprināt kompetento iestāžu veikto pēcāko uzraudzību. Turpretī, lai nodrošinātu saskanību ar esošajiem produktu drošuma tiesību aktiem, uz AI sistēmu, kuras izmanto kā drošības sastāvdaļas produktos, atbilstības novērtēšanu attieksies sistēma, kuru veido trešās personas veiktas atbilstības novērtēšanas procedūras, kas jau noteiktas attiecīgo nozaru produktu drošuma tiesību aktos. No jauna veikta atbilstības atkārtota priekšnovērtēšana būs nepieciešama gadījumā, ja tiks veiktas būtiskas modifikācijas AI sistēmās (īpaši, ja izmaiņas pārsniegs to, ko sagādātājs iepriekš noteicis savā tehniskajā dokumentācijā atbilstības priekšnovērtēšanas brīdī). 5.2.4.PĀRREDZAMĪBAS PIENĀKUMI, KAS ATTIECAS UZ NOTEIKTĀM AI SISTĒMĀM (IV SADAĻA) IV sadaļa attiecas uz noteiktām AI sistēmām ar mērķi ņemt vērā to radīto īpašo manipulācijas risku. Pārredzamības pienākumi attieksies uz sistēmām, kuras (i) ir saskarsmē ar cilvēkiem; (ii) izmanto emociju konstatēšanai vai saiknes noteikšanai ar (sociālajām) kategorijām, pamatojoties uz biometriskajiem datiem; vai (iii) rada vai manipulē saturu (“dziļviltošana”). Kad cilvēki ir saskarsmē ar AI sistēmu vai viņu emocijas vai iezīmes tiek noteiktas ar automatizētiem līdzekļiem, viņi par to ir jāinformē. Ja AI sistēmu izmanto attēla, audio vai video satura radīšanai vai manipulēšanai un tās radītais rezultāts ievērojami atgādina autentisku saturu, būtu jānosaka pienākums izpaust to, ka saturs radīts ar automatizētiem līdzekļiem, leģitīmu nolūku (tiesībaizsardzība, vārda brīvība) gadījumā piemērojot izņēmumus. Tas ļauj personām izdarīt apzinātu izvēli vai pamest attiecīgo situāciju. 5.2.5.PASĀKUMI INOVĀCIJAS ATBALSTAM (V SADAĻA) V sadaļa sekmē mērķi radīt tādu tiesisko regulējumu, kurš ir inovācijai labvēlīgs, nākotnes prasībām atbilstošs un noturīgs pret traucējumiem. Šim nolūkam minētajā sadaļā valstu kompetentās iestādes ir mudinātas izveidot “regulatīvās smilškastes” un noteikta pamata sistēma attiecībā uz pārvaldi, uzraudzību un atbildību. AI “regulatīvās smilškastes” rada kontrolētu vidi inovatīvu tehnoloģiju testēšanai ierobežotā laikposmā, pamatojoties uz testēšanas plānu, kas saskaņots ar kompetentajām iestādēm. V sadaļa satur arī pasākumus regulatīvā sloga mazināšanai MVU un jaunuzņēmumiem. 5.2.6.PĀRVALDE UN ĪSTENOŠANA (VI, VII UN VIII SADAĻA) VI sadaļā noteiktas pārvaldes sistēmas Savienības un valstu līmenī. Savienības līmenī ar šo priekšlikumu izveido Eiropas Mākslīgā intelekta padomi (“AI padome”), kurā piedalās dalībvalstu un Komisijas pārstāvji. AI padome veicinās šīs regulas netraucētu, efektīvu un saskaņotu īstenošanu, sekmējot valstu uzraudzības iestāžu un Komisijas produktīvu sadarbību un nodrošinot Komisijai ieteikumus un zinātību. Tāpat tā apkopos dalībvalstu paraugpraksi un dalīsies ar to. Valstu līmenī dalībvalstīm būs jānorīko viena vai vairākas valsts kompetentās iestādes, savukārt no to vidus – valsts uzraudzības iestāde regulas piemērošanas un īstenošanas uzraudzībai. Eiropas Datu aizsardzības uzraudzītājs darbosies kā kompetentā iestāde Savienības iestāžu, aģentūru un struktūru uzraudzībai gadījumos, kad uz tām attieksies šīs regulas noteikumi. VII sadaļas mērķis ir atvieglot Komisijas un valstu iestāžu veikto uzraudzību, izveidojot tādu savrupu augsta riska AI sistēmu ES mēroga datubāzi, kurām ir ietekme galvenokārt uz pamattiesībām. Datubāzi uzturēs Komisija, un datus sniegs tie AI sistēmu sagādātāji, kuriem būs pienākums reģistrēt savas sistēmas pirms to laišanas tirgū vai nodošanas ekspluatācijā citā veidā. VIII sadaļā noteikti uzraudzības un ziņošanas pienākumi AI sistēmu sagādātājiem attiecībā uz pēctirgus uzraudzību un ziņošanu un ar AI saistītu incidentu un darbības traucējumu izmeklēšanu. Tirgus uzraudzības iestādes arī kontrolētu tirgu un izmeklētu visu jau tirgū laisto augsta riska AI sistēmu atbilstību prasībām un pienākumiem. Tirgus uzraudzības iestādēm būtu visas pilnvaras saskaņā ar Regulu (ES) 2019/1020 par tirgus uzraudzību. Izpildes panākšanai pēc AI sistēmas laišanas tirgū jānodrošina, ka publiskā sektora iestādēm ir nepieciešamās pilnvaras un resursi, lai varētu iejauktos gadījumā, ja AI sistēmas rada neparedzētus riskus, kuru novēršana prasa ātru rīcību. Minētās iestādes arī uzraudzīs, vai ekonomikas dalībnieki izpilda attiecīgos pienākumus saskaņā ar šo regulu. Priekšlikumā nav paredzēta automātiska jaunu iestāžu vai struktūru veidošana dalībvalstu līmenī. Dalībvalstis var izraudzīties jau pastāvošas nozaru iestādes (un izmantot to zinātību), kurām piešķirt arī pilnvaras uzraudzīt un panākt šīs regulas noteikumu izpildi. Iepriekš minētais neskar pastāvošās sistēmas un pēctirgus izpildes nodrošināšanas pilnvaru sadalījumu attiecībā uz pienākumiem dalībvalstīs, kas saistīti ar pamattiesībām. Kad tas nepieciešams to funkciju veikšanai, esošās uzraudzības un izpildes iestādes būs arī pilnvarotas pieprasīt jebkādu dokumentāciju, kas tiek saglabāta saskaņā ar šo regulu, un piekļūt tai, un nepieciešamības gadījumā lūgt tirgus uzraudzības iestādēm organizēt augsta riska AI sistēmas testēšanu ar tehniskiem līdzekļiem. 5.2.7.RĪCĪBAS KODEKSI (IX SADAĻA) IX sadaļā izveidota sistēma tādu rīcības kodeksu izstrādei, kuru mērķis ir mudināt zema riska AI sistēmu sagādātājus brīvprātīgi piemērot tās prasības, kas augsta riska AI sistēmām ir obligātas (noteiktas III sadaļā). Tādu AI sistēmu sagādātāji, kas nav augsta riska sistēmas, var paši izstrādāt un īstenot rīcības kodeksus. Minētie kodeksi var ietvert brīvprātīgas saistības, piemēram, attiecībā uz vides ilgtspēju, pieejamību invalīdiem, ieinteresēto personu līdzdalību AI sistēmu projektēšanā un izstrādē un daudzveidību izstrādes grupās. 5.2.8.NOBEIGUMA NOTEIKUMI (X, XI UN XII SADAĻA) X sadaļā uzsvērts visu iesaistīto personu pienākums ievērot datu un informācijas konfidencialitāti un izklāstīti noteikumi regulas īstenošanas laikā iegūtās informācijas apmaiņai. X sadaļa ietver arī pasākumus regulas efektīvas īstenošanas nodrošināšanai, nosakot iedarbīgus, samērīgus un atturošus sodus par noteikumu pārkāpumiem. XI sadaļā izklāstīti noteikumi par deleģēšanas un īstenošanas pilnvaru izmantošanu. Priekšlikums pilnvaro Komisiju pieņemt īstenošanas aktus ar mērķi nodrošināt regulas vienotu piemērošanu vai deleģētos aktus I–VII pielikuma sarakstu atjaunināšanai vai papildināšanai. XII sadaļā noteikts Komisijas pienākums regulāri novērtēt nepieciešamību atjaunināt III pielikumu un sagatavot regulārus ziņojumus par regulas izvērtēšanu un pārskatīšanu. Tāpat tajā izklāstīti nobeiguma noteikumi, ieskaitot diferencētu pārejas periodu regulas piemērošanas sākuma dienai ar mērķi atbalstīt sekmīgu īstenošanu visām iesaistītajām personām. 2021/0106 (COD) Priekšlikums

EIROPAS PARLAMENTA UN PADOMES REGULA KAS NOSAKA SASKAŅOTAS NORMAS MĀKSLĪGĀ INTELEKTA JOMĀ (MĀKSLĪGĀ INTELEKTA AKTS) UN GROZA DAŽUS SAVIENĪBAS LEĢISLATĪVOS AKTUS EIROPAS PARLAMENTS UN EIROPAS SAVIENĪBAS PADOME, ņemot vērā Līgumu par Eiropas Savienības darbību un jo īpaši tā 16. un 114. pantu, ņemot vērā Eiropas Komisijas priekšlikumu, pēc leģislatīvā akta projekta nosūtīšanas valstu parlamentiem, ņemot vērā Eiropas Ekonomikas un sociālo lietu komitejas atzinumu, ņemot vērā Reģionu komitejas atzinumu, saskaņā ar parasto likumdošanas procedūru, tā kā: (1)Šīs regulas mērķis ir uzlabot iekšējā tirgus darbību, nosakot vienotu tiesisko regulējumu, it īpaši mākslīgā intelekta izstrādei, laišanai tirgū un izmantošanai saskaņā ar Savienības vērtībām. Šī regula kalpo virknei sevišķi svarīgu vispārības interešu, piemēram, veicina augstu veselības, drošības un pamattiesību aizsardzības līmeni, un nodrošina uz AI bāzētu preču un pakalpojumu brīvu pārvietošanos pāri robežām, tādējādi nepieļaujot dalībvalstu ierobežojumus AI sistēmu izstrādei, laišanai tirgū un izmantošanai, ja tie šajā regulā nav nepārprotami atļauti. (2)Mākslīgā intelekta sistēmas (AI sistēmas) var viegli ieviest vairākās ekonomikas nozarēs un sabiedrībā, arī pāri robežām, un tās var būt apritē visā Savienībā. Dažas dalībvalstis jau ir izskatījušas iespēju pieņemt valsts līmeņa noteikumus ar mērķi nodrošināt to, ka mākslīgais intelekts ir drošs un to izstrādā un izmanto saskaņā ar pienākumiem ievērot pamattiesības. Atšķirīgi valstu noteikumi var izraisīt iekšējā tirgus sadrumstalotību un mazināt juridisko noteiktību ekonomikas dalībniekiem, kuri izstrādā vai izmanto AI sistēmas. Tāpēc visā Savienībā būtu jānodrošina konsekvents un augsts aizsardzības līmenis, turpretim atšķirības, kuras kavē AI sistēmu un saistīto produktu brīvu apriti iekšējā tirgū, būtu jānovērš, nosakot vienotus pienākumus operatoriem un visā iekšējā tirgū garantējot sevišķi svarīgu vispārības interešu un personu tiesību vienotu aizsardzību, pamatojoties uz Līguma par Eiropas Savienības darbību (LESD) 114. pantu. Ciktāl šī regula satur īpašus noteikumus par privātpersonu aizsardzību attiecībā uz persondatu apstrādi saistībā ar AI sistēmu izmantošanu reāllaika biometriskajai tālidentifikācijai sabiedriskās vietās tiesībaizsardzības nolūkos, ir piemēroti par šīs regulas pamatu noteikt LESD 16. pantu, ciktāl tas attiecas uz minētajiem īpašajiem noteikumiem. Ņemot vērā minētos īpašos noteikumus un LESD 16. panta izmantošanu, ir lietderīgi apspriesties ar Eiropas Datu aizsardzības kolēģiju. (3)Mākslīgais intelekts ir tehnoloģiju kopa, kas strauji attīstās un var sniegt dažādus ekonomiskos un sociālos ieguvumus visās nozarēs un sociālajās darbībās. Uzlabojot prognozēšanas spēju, optimizējot darbības un resursu sadali un personalizējot indivīdiem un organizācijām pieejamos digitālos risinājumus, mākslīgā intelekta izmantošana var nodrošināt būtiskas konkurences priekšrocības uzņēmumiem un sekmēt sabiedrībai un videi labvēlīgus rezultātus, piemēram, veselības aprūpē, lauksaimniecībā, izglītībā un apmācībā, infrastruktūras apsaimniekošanā, enerģētikā, transportā un loģistikā, sabiedriskajos pakalpojumos, drošībā, tieslietās, resursefektivitātē un energoefektivitātē un klimata pārmaiņu mazināšanas un pielāgošanās jomā. (4)Tajā pašā laikā atkarā no mākslīgā intelekta konkrētā lietojuma un izmantošanas apstākļiem tas var radīt riskus un nodarīt kaitējumu vispārības interesēm un tiesībām, kuras aizsargā Savienības tiesību akti. Minētais kaitējums var būt materiāls vai nemateriāls. (5)Tāpēc ir nepieciešams Savienības tiesiskais regulējums, kas nosaka saskaņotus noteikumus mākslīgā intelekta jomā ar mērķi veicināt mākslīgā intelekta izstrādi, ieviešanu un izmantošanu iekšējā tirgū, vienlaikus nodrošinot augstu aizsardzības līmeni tādām vispārības interesēm kā veselība un drošība, un pamattiesību aizsardzība, kā tas atzīts un aizsargāts Savienības tiesību aktos. Lai sasniegtu minēto mērķi, būtu jānosaka noteikumi par noteiktu AI sistēmu laišanu tirgū un nodošanu ekspluatācijā, tādējādi nodrošinot netraucētu iekšējā tirgus darbību un ļaujot saistībā ar minētajām sistēmām izmantot preču un pakalpojumu brīvas pārvietošanās principa radītos ieguvumus. Nosakot minētos noteikumus, šī regula atbalsta Eiropadomes nosprausto Savienības mērķi – Savienībai būt pasaules līderei droša, uzticama un ētiska mākslīgā intelekta attīstīšanā – un nodrošina ētikas principu aizsardzību, kā to īpaši lūdzis Eiropas Parlaments. (6)AI sistēmas jēdziens būtu skaidri jādefinē juridiskās noteiktības labad, vienlaikus nodrošinot elastību, kas vajadzīga, lai pielāgotos tehnoloģiju attīstībai nākotnē. Definīcija būtu jāpamato uz programmatūras galvenajām funkcionālajām iezīmēm, it sevišķi spēju konkrēta cilvēku noteikta mērķu kopuma ietvaros radīt tādus iznākumus kā saturs, prognozes, ieteikumi vai lēmumi, kuri ietekmē vidi, ar ko sistēma mijiedarbojas fiziskā vai digitālā dimensijā. AI sistēmas var projektēt darbībai dažādās autonomijas pakāpēs, un tās var izmantot kā savrupas sistēmas vai kā produkta sastāvdaļu neatkarīgi no tā, vai sistēma ir fiziski integrēta produktā (iegulta) vai nodrošina produkta funkcionalitāti, nebūdama tajā integrēta (neiegulta). AI sistēmas definīcija būtu jāpapildina ar konkrētu tās izstrādē izmantotu metožu un pieeju sarakstu, kurš būtu jāatjaunina saskaņā ar tirgus un tehnoloģiju attīstību, Komisijai pieņemot deleģētos aktus minētā saraksta grozīšanai. (7)Šajā regulā izmantotais biometrisko datu jēdziens saskan ar biometrisko datu jēdziena definīciju Eiropas Parlamenta un Padomes Regulas (ES) 2016/679 4. panta 14. punktā, Eiropas Parlamenta un Padomes Regulas (ES) 2018/1725 3. panta 18. punktā un Eiropas Parlamenta un Padomes Direktīvas (ES) 2016/680 3. panta 13. punktā un būtu jāinterpretē saskaņā ar to. (8)Biometriskās tālidentifikācijas sistēmas jēdziens, kā tas izmantots šajā regulā, būtu jādefinē funkcionāli kā AI sistēma, kas paredzēta fizisku personu identifikācijai no attāluma, salīdzinot personas biometriskos datus ar atsauces datubāzē esošiem biometriskajiem datiem, iepriekš nezinot, vai attiecīgā persona atradīsies attiecīgajā vietā un var tikt identificēta, neatkarīgi no izmantotās tehnoloģijas, procesa vai biometrisko datu veida. Ņemot vērā to atšķirīgās iezīmes un izmantošanas veidus, kā arī dažādos saistītos riskus, būtu jānošķir “reāllaika” un “vēlāklaika” biometriskās tālidentifikācijas sistēmas. Reāllaika sistēmu gadījumā biometrisko datu iegūšana, salīdzināšana un identifikācija notiek uzreiz, gandrīz uzreiz vai, jebkurā gadījumā, bez būtiskas aiztures. Šajā ziņā nevajadzētu būt iespējai apiet šīs regulas noteikumus par attiecīgo AI sistēmu izmantošanu reāllaikā, iestrādājot sistēmā nelielu aizturi. Reāllaika sistēmās izmanto “tiešraides” vai “gandrīz tiešraides” materiālu, piemēram, videomateriālu, ko uzņem kamera vai cita ierīce ar līdzīgu funkciju. Turpretī vēlāklaika sistēmu gadījumā biometriskie dati jau ir iegūti, un salīdzināšana un identifikācija notiek tikai pēc būtiskas aiztures. Tās izmanto materiālu, piemēram, attēlus vai videomateriālus, ko uzņēmušas videonovērošanas sistēmas kameras vai privātas ierīces pirms sistēmas izmantošanas attiecībā uz attiecīgajām fiziskajām personām. (9)Šajā regulā sabiedriskas vietas jēdziens būtu jāsaprot kā fiziska vieta, kas ir publiski pieejama neatkarīgi no tā, vai minētā vieta ir publisks vai privāts īpašums. Tāpēc šis jēdziens neietver privāta rakstura vietas, piemēram, mājokļus, privātus klubus, birojus, noliktavas un rūpnīcas, kuras parasti nav brīvi pieejamas trešām personām, ieskaitot tiesībaizsardzības iestādes, ja vien šīs personas nav īpaši aicinātas vai attiecīgi pilnvarotas. Arī tiešsaistes vietas nav ietvertas, jo tās nav fiziskas vietas. Tomēr tas vien, ka piekļuvi vietai ierobežo zināmi nosacījumi, piemēram, ieejas biļete vai vecuma ierobežojums, nenozīmē, ka vieta nav sabiedriska vieta šīs regulas nozīmē. Līdz ar to papildus tādām sabiedriskām vietām kā ielas, attiecīgās valdības ēku daļas un lielākā daļa transporta infrastruktūras tādas vietas kā kinoteātri, teātri, veikali un iepirkšanās centri parasti arī ir sabiedriskas vietas. Tomēr tas, vai konkrēta vieta ir sabiedriska vieta, būtu jānosaka katrā gadījumā atsevišķi, ņemot vērā konkrētās individuālās situācijas specifiku. (10)Lai nodrošinātu vienlīdzīgus konkurences apstākļus un indivīdu tiesību un brīvību efektīvu aizsardzību visā Savienībā, šīs regulas noteikumiem būtu jāattiecas uz AI sistēmu sagādātājiem nediskriminējošā veidā neatkarīgi no tā, vai tie iedibināti Savienībā vai trešā valstī, un uz Savienībā esošiem AI sistēmu lietotājiem.

(11)Ņemot vērā to digitālo raksturu, šai regulai būtu jāattiecas uz dažām AI sistēmām, pat ja tās nav ne laistas tirgū, ne nodotas ekspluatācijā, ne izmantotas Savienībā. Tā tas ir, piemēram, ja Savienībā iedibināts ekonomikas dalībnieks iepērk pakalpojumus no ārpussavienības ekonomikas dalībnieka saistībā ar darbību, ko veic AI sistēma, kura uzskatāma par augsta riska sistēmu un ietekmē fiziskas personas Savienībā. Minētajos apstākļos ārpus Savienības esošā ekonomikas dalībnieka izmantotā AI sistēma varētu apstrādāt datus, kas likumīgi savākti Savienībā un nosūtīti ārpus tās, un nodot pakalpojumus iepirkušajam Savienības ekonomikas dalībniekam attiecīgās AI sistēmas iznākumus, kas izriet no minētās datu apstrādes, nelaižot attiecīgo AI sistēmu tirgū, nenododot to ekspluatācijā vai neizmantojot to Savienībā. Lai novērstu šīs regulas noteikumu apiešanu un nodrošinātu iedarbīgu Savienībā esošo fizisko personu aizsardzību, šai regulai būtu jāattiecas uz AI sistēmu sagādātājiem un lietotājiem, kuri iedibināti trešā valstī, ciktāl attiecīgo sistēmu radītie iznākumi tiek izmantoti Savienībā. Tomēr, lai ņemtu vērā esošo kārtību un īpašu nepieciešamību sadarboties ar ārvalstu partneriem, ar kuriem notiek informācijas un pierādījumu apmaiņa, šai regulai nebūtu jāattiecas uz trešo valstu publiskā sektora iestādēm un starptautiskām organizācijām, ja darbība notiek tādu starptautisku nolīgumu ietvaros, kas noslēgti valstu vai Eiropas līmenī tiesībaizsardzības un tiesu iestāžu sadarbības nolūkā ar Savienību vai tās dalībvalstīm. Šādi nolīgumi ir noslēgti divpusēji starp dalībvalstīm un trešām valstīm vai starp Eiropas Savienību, Eiropolu un citām ES aģentūrām un trešām valstīm vai starptautiskām organizācijām. (12)Šai regulai būtu jāattiecas arī uz Savienības iestādēm, birojiem, struktūrām un aģentūrām, kad tās rīkojas kā AI sistēmas sagādātājs vai lietotājs. AI sistēmas, ko izstrādā vai izmanto tikai militāriem nolūkiem, būtu jāizslēdz no šīs regulas darbības jomas, ja attiecīgā izmantošana ietilpst kopīgās ārpolitikas un drošības politikas ekskluzīvā kompetencē, ko regulē Līguma par Eiropas Savienību (LES) V sadaļa. Šai regulai nevajadzētu skart noteikumus par starpnieku pakalpojumu sniedzēju atbildību, kas izklāstīti Eiropas Parlamenta un Padomes Direktīvā 2000/31/EK (kas grozīta ar digitālo pakalpojumu tiesību aktu). (13)Lai nodrošinātu konsekventu un augstu vispārības interešu aizsardzības līmeni attiecībā uz veselību, drošību un pamattiesībām, būtu jāizveido kopīgi normatīvie standarti visām augsta riska AI sistēmām. Minētajiem standartiem būtu jāsaskan ar Eiropas Savienības Pamattiesību hartu (“Pamattiesību harta”), jābūt nediskriminējošiem un saskaņā ar Savienības starptautiskās tirdzniecības saistībām. (14)Lai ieviestu samērīgu un iedarbīgu saistošu noteikumu kopumu AI sistēmām, būtu jāizmanto skaidri noteikta, uz risku balstīta pieeja. Minētajai pieejai šādu noteikumu veids un saturs būtu jāpielāgo AI sistēmu potenciāli radīto risku intensitātei un apmēram. Tāpēc ir nepieciešams aizliegt dažas mākslīgā intelekta prakses, noteikt prasības augsta riska AI sistēmām un pienākumus attiecīgajiem operatoriem un noteikt pārredzamības pienākumus attiecībā uz noteiktām AI sistēmām. (15)Līdztekus daudziem lietderīgiem mākslīgā intelekta izmantošanas veidiem šo tehnoloģiju var arī izmantot ļaunprātīgi, un tā var sniegt nebijušus un spēcīgus rīkus manipulatīvas, ekspluatatīvas un sociālās kontroles prakses īstenošanai. Šāda prakse ir īpaši kaitējoša un būtu jāaizliedz, jo tā ir pretrunā Savienības vērtībām attiecībā uz cilvēka cieņu, brīvību, līdztiesību, demokrātiju un tiesiskumu un Savienības pamattiesībām, ieskaitot tiesības uz nediskriminēšanu, datu aizsardzību un privātumu un bērna tiesības. (16)Jāaizliedz laist tirgū, nodot ekspluatācijā vai izmantot noteiktas cilvēka uzvedības iespaidošanai domātas AI sistēmas, kuru dēļ var rasties fizisks vai psiholoģisks kaitējums. Tādas AI sistēmas izmanto zemapziņai adresētus elementus, kurus indivīdi nespēj uztvert, vai izmanto bērnu un tādu cilvēku ietekmējamību, kas rodas viņu vecuma vai fiziskas vai garīgas nevarības dēļ. Sistēmas to dara ar nolūku būtiski iespaidot personas uzvedību un tā, ka tiek nodarīts vai var tikt nodarīts kaitējums attiecīgajai personai vai citai personai. Nevar pieņemt, ka nolūks pastāv, ja cilvēka uzvedības iespaidošana izriet no AI sistēmai ārpusējiem faktoriem, kuri nav sistēmas sagādātāja vai lietotāja varā. Aizliegumam nebūtu jākavē ar šādām AI sistēmām saistītu pētniecību leģitīmos nolūkos, ja šīs pētniecības ietvaros AI sistēma netiek izmantota cilvēka un mašīnas saskarsmē, kas fiziskas personas pakļauj kaitējumam, un pētniecību veic saskaņā ar atzītiem ētiskajiem standartiem zinātniskās pētniecības jomā. (17)AI sistēmas, kas publiskā sektora iestādēm vai to vārdā vispārējiem mērķiem nodrošina fizisko personu sociālo novērtēšanu, var radīt diskriminējošus iznākumus un dažu grupu atstumtību. Tās var pārkāpt tiesības uz cilvēka cieņas neaizskaramību un nediskriminēšanu un līdztiesības un tiesiskuma vērtības. Šādas AI sistēmas izvērtē vai klasificē fizisku personu uzticamību, pamatojoties uz viņu sociālo uzvedību dažādos kontekstos vai zināmām vai prognozētām personiskajām vai rakstura iezīmēm. Šādu AI sistēmu radītais sociālā novērtējuma rezultāts var izraisīt kaitējošu vai nelabvēlīgu attieksmi pret fiziskām personām vai veselām fizisku personu grupām sociālos kontekstos, kas nav saistīti ar to kontekstu, kurā dati tika sākotnēji radīti vai savākti, vai kaitējošu attieksmi, kas nav pamatota vai samērīga ar personu sociālās uzvedības “smagumu”. Tāpēc šādas AI sistēmas būtu jāaizliedz. (18)AI sistēmu izmantošanu fizisku personu reāllaika biometriskajai tālidentifikācijai sabiedriskās vietās tiesībaizsardzības nolūkos uzskata par īpaši aizskarošu attiecībā uz konkrēto personu tiesībām un brīvībām, ciktāl tā var ietekmēt lielas sabiedrības daļas privāto dzīvi, izraisīt pastāvīgas uzraudzības sajūtu un netieši atturēt no pulcēšanās brīvības un citu pamattiesību īstenošanas. Turklāt tūlītējā ietekme un ierobežotas iespējas veikt turpmākas pārbaudes vai labojumus attiecībā uz šādu reāllaikā darbojošos sistēmu izmantošanu rada pastiprinātu risku to personu tiesībām un brīvībām, pret kurām vērstas tiesībaizsardzības darbības. (19)Tāpēc minēto sistēmu izmantošana tiesībaizsardzības nolūkos būtu jāaizliedz, izņemot trīs precīzi uzskaitītas un šauri definētas situācijas, kurās sistēmu izmantošana ir absolūti nepieciešama tādu būtisku vispārības interešu īstenošanai, kuru nozīme atsver riskus. Minētās situācijas ietver noziegumos potenciāli cietušo, tostarp pazudušu bērnu, meklēšanu; nepārprotamu apdraudējumu fizisku personu dzīvībai vai fiziskajai drošībai vai teroristiska uzbrukuma draudus; un Padomes pamatlēmumā 2002/584/TI minēto noziedzīgo nodarījumu izdarītāju vai aizdomās turamo atklāšanu, atrašanās vietas noteikšanu, identifikāciju vai saukšanu pie atbildības, ja minētie noziedzīgie nodarījumi attiecīgajā dalībvalstī ir sodāmi ar brīvības atņemšanas sodu vai ar brīvības atņemšanu saistītu drošības līdzekli vismaz uz trim gadiem, un kā noteikts attiecīgās dalībvalsts tiesību aktos. Šāda robežvērtība brīvības atņemšanas sodam vai ar brīvības atņemšanu saistītam drošības līdzeklim saskaņā ar valstu tiesību aktiem palīdz nodrošināt, ka noziedzīgajam nodarījumam jābūt pietiekami smagam, lai potenciāli pamatotu reāllaika biometriskās tālidentifikācijas sistēmas izmantošanu. Turklāt no 32 noziedzīgajiem nodarījumiem, kas uzskaitīti Padomes pamatlēmumā 2002/584/TI, daži praksē, visticamāk, būs būtiskāki nekā citi, proti, paredzams, ka reāllaika biometriskās tālidentifikācijas sistēmas izmantošana būs nepieciešama un samērīga ļoti atšķirīgā pakāpē atkarā no praktiskajām darbībām dažādo uzskaitīto noziedzīgo nodarījumu izdarītāja vai aizdomās turamā atklāšanai, atrašanās vietas noteikšanai, identifikācijai vai saukšanai pie atbildības, ņemot vērā paredzamās atšķirības kaitējuma smaguma, iespējamības un apmēra vai iespējamo negatīvo seku ziņā. (20)Lai nodrošinātu, ka minētās sistēmas tiek izmantotas atbildīgi un samērīgi, ir svarīgi arī noteikt, ka katrā no trim precīzi uzskaitītajām un šauri definētajām situācijām jāņem vērā noteikti elementi, it īpaši situācijas raksturs, kurš pamato sistēmas izmantošanu, izmantošanas ietekme uz visu iesaistīto personu tiesībām un brīvībām, un izmantošanai nodrošinātie apstākļi un aizsardzības pasākumi. Turklāt reāllaika biometriskās tālidentifikācijas sistēmu izmantošanai sabiedriskās vietās tiesībaizsardzības nolūkos būtu jānosaka atbilstoši ierobežojumi laikā un telpā, galvenokārt ņemot vērā pierādījumus vai norādes par apdraudējumiem, cietušajiem vai noziedzīgo nodarījumu izdarītājiem. Personu atsauces datubāzei vajadzētu būt pielāgotai katram izmantošanas gadījumam katrā no trim iepriekš minētajām situācijām. (21)Katram reāllaika biometriskās tālidentifikācijas sistēmas izmantošanas gadījumam sabiedriskās vietās tiesībaizsardzības nolūkos vajadzētu saņemt skaidru un precīzu atļauju no tiesu iestādes vai dalībvalsts neatkarīgas administratīvās iestādes. Šādu atļauju būtībā vajadzētu saņemt pirms izmantošanas, izņemot pienācīgi pamatotas, steidzamas situācijas, proti, situācijas, kurās nepieciešamība izmantot attiecīgās sistēmas padara atļaujas iegūšanu pirms izmantošanas sākšanas faktiski un objektīvi neiespējamu. Šādās steidzamās situācijās izmantošanai būtu jāaprobežojas ar absolūti nepieciešamo minimumu un jānodrošina atbilstoši aizsardzības pasākumi un apstākļi, kā to nosaka valstu tiesību akti un precizē pati tiesībaizsardzības iestāde katra atsevišķa steidzamas izmantošanas gadījuma kontekstā. Papildus tam tiesībaizsardzības iestādei šādās situācijās būtu jācenšas saņemt atļauju pēc iespējas ātrāk, vienlaikus norādot iemeslus, kāpēc atļauju nebija iespējams pieprasīt agrāk. (22)Turklāt šīs regulas izveidotajā izsmeļošajā sistēmā ir lietderīgi noteikt, ka minētajai izmantošanai dalībvalsts teritorijā saskaņā ar šo regulu vajadzētu būt iespējamai tikai, ja un ciktāl attiecīgā dalībvalsts ir nolēmusi valsts tiesību aktu noteikumos skaidri paredzēt iespēju atļaut minēto izmantošanu. Tādējādi dalībvalstis saskaņā ar šo regulu var neparedzēt šādu iespēju nemaz vai paredzēt to attiecībā uz dažiem mērķiem, ar kuriem var pamatot šajā regulā noteikto atļauto izmantošanu. (23)AI sistēmu izmantošana fizisku personu reāllaika biometriskajai tālidentifikācijai sabiedriskās vietās tiesībaizsardzības nolūkos neizbēgami ietver biometrisko datu apstrādi. Šīs regulas noteikumi, kas aizliedz (ar dažiem izņēmumiem) minēto izmantošanu un pamatojas uz LESD 16. pantu, būtu jāpiemēro kā speciālās normas attiecībā uz Direktīvas (ES) 2016/680 10. panta noteikumiem par biometrisko datu apstrādi, tādā veidā izsmeļoši regulējot minēto izmantošanu un ar to saistīto biometrisko datu apstrādi. Tāpēc minētajai izmantošanai un datu apstrādei vajadzētu būt iespējamai, tikai ciktāl tā ir saderīga ar šajā regulā noteikto sistēmu, bez darbības jomas ārpus minētās sistēmas, kurā kompetentās iestādes, rīkojoties tiesībaizsardzības nolūkā, varētu izmantot šādas sistēmas un apstrādāt saistītos datus, pamatojoties uz Direktīvas (ES) 2016/680 10. pantā uzskaitītajiem iemesliem. Minētajā kontekstā šīs regulas mērķis nav nodrošināt juridisko pamatu persondatu apstrādei saskaņā ar Direktīvas (ES) 2016/680 8. pantu. Tomēr reāllaika biometriskās tālidentifikācijas sistēmu izmantošana sabiedriskās vietās nolūkos, kas nav saistīti ar tiesībaizsardzību, tostarp no kompetento iestāžu puses, nebūtu jāiekļauj šajā regulā noteiktajā attiecīgajā sistēmā, kas regulē minēto izmantošanu tiesībaizsardzības nolūkos. Tāpēc šajā regulā noteiktā prasība saņemt atļauju un piemērojamie valstu tiesību aktu noteikumi, kas varētu to ieviest, nebūtu jāattiecina uz minēto izmantošanu nolūkos, kas nav saistīti ar tiesībaizsardzību. (24)Biometrisko datu un citu persondatu apstrādei saistībā ar AI sistēmu izmantošanu biometriskajai identifikācijai, kas nav saistīta ar reāllaika biometriskās tālidentifikācijas sistēmu izmantošanu sabiedriskās vietās tiesībaizsardzības nolūkos, kā to nosaka šī regula, ieskaitot gadījumus, kad kompetentās iestādes izmanto minētās sistēmas sabiedriskās vietās nolūkos, kas nav saistīti ar tiesībaizsardzību, būtu arī turpmāk jāatbilst visām piemērojamajām prasībām, kas izriet no Regulas (ES) 2016/679 9. panta 1. punkta, Regulas (ES) 2018/1725 10. panta 1. punkta un Direktīvas (ES) 2016/680 10. panta. (25)Saskaņā ar LES un LESD pievienotā Protokola (Nr. 21) par Apvienotās Karalistes un Īrijas nostāju saistībā ar brīvības, drošības un tiesiskuma telpu 6.a pantu Īrijai nav saistoši šīs regulas 5. panta 1. punkta d) apakšpunkta un 2. un 3. punkta noteikumi, kuri pieņemti, pamatojoties uz LESD 16. pantu, un ir saistīti ar persondatu apstrādi dalībvalstīs, veicot darbības, uz kurām attiecas LESD trešās daļas V sadaļas 4. un 5. nodaļa, kurās noteikts, ka uz Īriju neattiecas noteikumi, kas regulē tiesu iestāžu sadarbības krimināllietās formas vai policijas sadarbību, kam nepieciešama atbilstība noteikumiem, kuri noteikti, pamatojoties uz LESD 16. pantu. (26)Saskaņā ar LES un LESD pievienotā Protokola (Nr. 22) par Dānijas nostāju 2. un 2.a pantu Dānijai nav saistoši un nav jāpiemēro šīs regulas 5. panta 1. punkta d) apakšpunkta un 2. un 3. punkta noteikumi, kuri pieņemti, pamatojoties uz LESD 16. pantu, un ir saistīti ar persondatu apstrādi dalībvalstīs, veicot darbības, uz kurām attiecas LESD trešās daļas V sadaļas 4. un 5. nodaļa. (27)Augsta riska AI sistēmas būtu jālaiž Savienības tirgū vai jānodod ekspluatācijā tikai tad, ja tās atbilst noteiktām obligātām prasībām. Minētajām prasībām būtu jānodrošina, ka augsta riska AI sistēmas, kuras pieejamas Savienībā vai kuru iznākumus citādā veidā izmanto Savienībā, nerada nepieņemamus riskus svarīgām Savienības sabiedriskajām interesēm, kas ir atzītas un aizsargātas Savienības tiesību aktos. Kā augsta riska sistēmas būtu jāklasificē tikai tās AI sistēmas, kurām ir ievērojama kaitējoša ietekme uz personu veselību, drošību un pamattiesībām Savienībā, un šādai klasificēšanai būtu pēc iespējas jāsamazina iespējamu starptautiskās tirdzniecības ierobežojumu rašanās. (28)AI sistēmas var radīt personu veselībai un drošībai kaitīgu iznākumu, īpaši tad, ja šādas sistēmas darbojas kā produktu sastāvdaļas. Saskaņā ar Savienības saskaņošanas tiesību aktu mērķiem veicināt produktu brīvu apriti iekšējā tirgū un gādāt, ka tirgū nonāk tikai droši un cita veida prasībām atbilstoši produkti, ir svarīgi pienācīgi novērst un mazināt drošības riskus, kurus var radīt produkts kopumā tā digitālo sastāvdaļu, arī AI sistēmu, dēļ. Piemēram, arvien autonomākiem robotiem gan ražošanas, gan personīgās palīdzības un aprūpes kontekstā vajadzētu spēt droši darboties un veikt savas funkcijas sarežģītās vidēs. Tāpat veselība aprūpes nozarē, kur runa ir par veselību un dzīvību, arvien sarežģītākām diagnostikas sistēmām un cilvēka lēmumus atbalstošām sistēmām vajadzētu būt ticamām un pareizām. AI sistēmas izraisītās kaitējošās ietekmes uz Pamattiesību hartā aizsargātajām pamattiesībām apmērs ir īpaši nozīmīgs, klasificējot AI sistēmu kā augsta riska sistēmu. Minētās tiesības ietver cilvēka cieņas aizsardzību, privātās un ģimenes dzīves neaizskaramību un persondatu aizsardzību, vārda un informācijas brīvību, pulcēšanās un biedrošanās brīvību, nediskriminēšanu, patērētāju aizsardzību, darba ņēmēju tiesības, invalīdu tiesības, tiesības uz efektīvu tiesību aizsardzību un taisnīgu tiesu, nevainīguma prezumpciju un tiesības uz aizstāvību, tiesības uz labu pārvaldību. Papildus minētajām tiesībām ir svarīgi izcelt, ka bērniem ir īpašas tiesības, kas noteiktas ES Pamattiesību hartas 24. pantā un ANO Konvencijā par bērna tiesībām (sīkāk izstrādātas minētās ANO konvencijas Vispārējā komentārā Nr. 25 par digitālo vidi); abi dokumenti nosaka, ka ir jāņem vērā bērnu neaizsargātība un viņu labklājības labad nepieciešams nodrošināt aizsardzību un aprūpi. Novērtējot kaitējuma smagumu, ko AI sistēma var nodarīt, arī attiecībā uz personu veselību un drošību, būtu jāņem vērā arī Pamattiesības uz augstu vides aizsardzības līmeni, kuras ir nostiprinātas Pamattiesību hartā un iestrādātas Savienības politikā. (29)Attiecībā uz augsta riska AI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas Eiropas Parlamenta un Padomes Regula (EK) Nr. 300/2008, Eiropas Parlamenta un Padomes Regula (ES) Nr. 167/2013, Eiropas Parlamenta un Padomes Regula (ES) Nr. 168/2013, Eiropas Parlamenta un Padomes Direktīva 2014/90/ES, Eiropas Parlamenta un Padomes Direktīva (ES) 2016/797, Eiropas Parlamenta un Padomes Regula (ES) 2018/858, Eiropas Parlamenta un Padomes Regula (ES) 2018/1139, un Eiropas Parlamenta un Padomes Regula (ES) 2019/2144, ir lietderīgi grozīt minētos aktus, lai nodrošinātu, ka Komisija, pamatojoties uz katras nozares tehniskajām un regulatīvajām īpatnībām un neiejaucoties nozarēs pastāvošajos pārvaldes, atbilstības novērtēšanas un izpildes mehānismos un iestādēs, ņem vērā šajā regulā noteiktās obligātās prasības augsta riska AI sistēmām, kad tā pieņem turpmākus attiecīgus deleģētos vai īstenošanas aktus, pamatojoties uz minētajiem tiesību aktiem. (30)Attiecībā uz augsta riska AI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas konkrēti Savienības saskaņošanas tiesību akti, ir lietderīgi tās klasificēt kā augsta riska sistēmas saskaņā ar šo regulu, ja attiecīgajam produktam piemēro atbilstības novērtēšanas struktūras, kas ir trešā persona, veiktu atbilstības novērtēšanas procedūru saskaņā ar attiecīgajiem Savienības saskaņošanas tiesību aktiem. Proti, tādi produkti ir mašīnas, rotaļlietas, lifti, iekārtas un aizsardzības sistēmas, kas paredzētas lietošanai sprādzienbīstamā vidē, radioiekārtas, spiediena iekārtas, atpūtas kuģu aprīkojums, trošu ceļu iekārtas, iekārtas, kurās izmanto gāzveida kurināmo, medicīniskās ierīces un in vitro diagnostikas medicīniskās ierīces.

(31)Tam, ka AI sistēmu klasificē kā augsta riska sistēmu saskaņā ar šo regulu, nebūtu obligāti jānozīmē, ka produktu, kura drošības sastāvdaļa ir attiecīgā AI sistēma, vai pašu AI sistēmu kā produktu uzskata par augstu risku radošu saskaņā ar kritērijiem, kas noteikti attiecīgajos Savienības saskaņošanas tiesību aktos, kurus piemēro minētajam produktam. Tā tas ir īpaši ar Eiropas Parlamenta un Padomes Regulu (ES) 2017/745 un Eiropas Parlamenta un Padomes Regulu (ES) 2017/746, kurās paredzēta trešās personas veikta atbilstības novērtēšana vidēja riska augsta riska produktiem. (32)Savrupas AI sistēmas, proti, augsta riska AI sistēmas, kuras nav produktu drošības sastāvdaļas vai kuras pašas ir produkti, ir lietderīgi klasificēt kā augsta riska sistēmas, ja, pamatojoties uz to paredzēto nolūku, tās rada augstu kaitējuma risku personu veselībai, drošībai vai pamattiesībām, ņemot vērā gan iespējamā kaitējuma smagumu, gan iespējamību, un ja tās izmanto vairākās iepriekš īpaši noteiktās jomās, kā precizēts regulā. Minēto sistēmu identifikācija pamatojas uz tādu pašu metodiku un kritērijiem, kādus paredzēts izmantot jebkādos turpmākos augsta riska AI sistēmu saraksta grozījumos. (33)Fizisku personu biometriskajai tālidentifikācijai paredzētu AI sistēmu tehniskās neprecizitātes var radīt neobjektīvus rezultātus un diskriminējošu ietekmi. Īpaši tas var būt saistīts ar vecumu, tautību, dzimumu vai invaliditāti. Tāpēc reāllaika un vēlāklaika biometriskās tālidentifikācijas sistēmas būtu jāklasificē kā augsta riska sistēmas. Ņemot vērā to radītos riskus, abu veidu biometriskās tālidentifikācijas sistēmām būtu jāpiemēro zināmas prasības par reģistrēšanas iespējām un cilvēka virsvadību. (34)Attiecībā uz kritiskās infrastruktūras apsaimniekošanu un darbību ir lietderīgi kā augsta riska sistēmas klasificēt tās AI sistēmas, kuras paredzēts izmantot kā drošības sastāvdaļas ceļu satiksmes pārvaldībā un darbībā, kā arī ūdens, gāzes un elektroenerģijas piegādē un apkures nodrošināšanā, jo sistēmu darbības atteice vai traucējumi var plašā mērogā apdraudēt cilvēku veselību un dzīvību un izraisīt ievērojamus traucējumus sociālo un saimniecisko darbību parastajā norisē. (35)Izglītībā un apmācībā izmantotās AI sistēmas, īpaši piekļuves noteikšanai vai personu uzņemšanai izglītības un arodmācību iestādēs, vai personu izvērtēšanai tādu pārbaudījumu ietvaros, kas ir daļa no izglītības procesa vai priekšnosacījums izglītības iegūšanai, būtu jāuzskata par augsta riska sistēmām, jo tās var noteikt izglītības vai profesionālo ievirzi personas dzīvē un tādējādi ietekmēt personas iespēju nopelnīt iztiku. Ja šādas sistēmas ir nepareizi projektētas un izmantotas, tās var pārkāpt tiesības uz izglītību un apmācību, kā arī tiesības uz nediskriminēšanu, un nostiprināt vēsturiskos diskriminācijas modeļus. (36)AI sistēmas, kuras izmanto nodarbinātībā, darba ņēmēju pārvaldībā un piekļuvē pašnodarbinātībai, īpaši personu darbā līgšanas un atlases nolūkos, lēmumu pieņemšanā par paaugstināšanu amatā vai atlaišanu no darba, uzdevumu sadalē un darba līgumattiecībās esošu personu pārraudzībā vai izvērtēšanā, arī būtu jāklasificē kā augsta riska sistēmas, jo tās var ievērojami ietekmēt karjeras iespējas nākotnē un attiecīgo personu labklājību. Attiecīgajām darba līgumattiecībām būtu jāietver darba ņēmēji un personas, kuras sniedz pakalpojumus caur platformām, kā norādīts Komisijas darba programmā 2021. gadam. Šādas personas faktiski nebūtu jāuzskata par lietotājiem šīs regulas nozīmē. Darbā līgšanas procesa un izvērtēšanas, paaugstināšanas amatā vai darba līgumattiecību uzturēšanas ietvaros minētās sistēmas var nostiprināt vēsturiskos diskriminācijas modeļus, piemēram, attiecībā uz sievietēm, noteiktām vecuma grupām, invalīdiem vai personām ar noteiktu etnisko vai rasisko piederību vai dzimumorientāciju. AI sistēmas, ko izmanto šo personu snieguma un uzvedības pārraudzībai, var arī ietekmēt viņu tiesības uz datu aizsardzību un privātumu. (37)Cita joma, kurā AI sistēmu izmantošanai ir jāpievērš īpaša uzmanība, ir piekļuve noteiktiem privātiem un sabiedriskiem pamatpakalpojumiem un pabalstiem, kas cilvēkiem nepieciešami, lai viņi varētu pilnvērtīgi piedalīties sabiedrības norisēs vai uzlabot savu dzīves līmeni, un šādu pakalpojumu un pabalstu izmantošana. Tā, AI sistēmas, ko izmanto fizisku personu kredītnovērtējuma vai kredītspējas izvērtēšanai, būtu jāklasificē kā augsta riska AI sistēmas, jo tās nosaka minēto personu piekļuvi finanšu resursiem vai tādiem būtiskiem pakalpojumiem kā mājoklis, elektroenerģija un telesakaru pakalpojumi. Šim nolūkam izmantotās AI sistēmas var izraisīt personu vai grupu diskrimināciju un atkārtot vēsturiskos diskriminācijas modeļus, piemēram, pamatojoties uz rasisko vai etnisko izcelsmi, invaliditāti, vecumu vai dzimumorientāciju, vai radīt jaunas diskriminējošas ietekmes formas. Ņemot vērā ietekmes ļoti ierobežoto apmēru un tirgū pieejamās alternatīvas, ir lietderīgi noteikt izņēmumu attiecībā uz tām kredītspējas novērtēšanai un kredītnovērtējuma noteikšanai paredzētajām AI sistēmām, kuras pašu vajadzībām ekspluatācijā nodevuši mazapjoma sagādātāji. Fiziskas personas, kuras piesakās sociālās palīdzības pabalstiem un pakalpojumiem vai saņem tos no publiskā sektora iestādēm, parasti ir atkarīgas no šiem pabalstiem un pakalpojumiem un atrodas neaizsargātā pozīcijā attiecībā pret atbildīgajām iestādēm. Ja AI sistēmas izmanto, lai noteiktu, vai šādi pabalsti un pakalpojumi būtu jāatsaka, jāsamazina, jāatsauc vai jāatgūst, tām var būt ievērojama ietekme uz personu labklājību un tās var pārkāpt tādas personu pamattiesības kā tiesības uz sociālo aizsardzību, nediskriminēšanu, cilvēka cieņas neaizskaramību vai efektīvu tiesību aizsardzību. Tāpēc minētās sistēmas būtu jāklasificē kā augsta riska sistēmas. Tomēr šai regulai nevajadzētu kavēt inovatīvu pieeju izstrādi un izmantošanu valsts pārvaldē, kas gūtu labumu no prasībām atbilstošu un drošu AI sistēmu plašākas izmantošanas ar nosacījumu, ka minētās sistēmas nerada augstu risku fiziskām un juridiskām personām. Visbeidzot, AI sistēmas, ko izmanto ārkārtas pirmās reaģēšanas dienestu nosūtīšanai vai šo dienestu nosūtīšanas prioritāšu noteikšanai, arī būtu jāklasificē kā augsta riska sistēmas, jo tās pieņem lēmumus personu veselībai un dzīvībai un to īpašumam izšķirīgi svarīgās situācijās. (38)Tiesībaizsardzības iestāžu darbībām, kuras ietver noteiktus AI sistēmu izmantošanas veidus, ir raksturīga ievērojama varas nelīdzsvarotības pakāpe, un to rezultāts var būt novērošana, aizturēšana vai fiziskas personas brīvības atņemšana, kā arī cita veida nelabvēlīga ietekme uz Pamattiesību hartā nostiprinātajām pamattiesībām. Proti, ja AI sistēma nav apmācīta ar augstas kvalitātes datiem, neatbilst precizitātes vai noturības prasībām vai nav pienācīgi projektēta un testēta pirms laišanas tirgū vai citādas nodošanas ekspluatācijā, tā var norādīt uz cilvēkiem diskriminējošā vai kā citādi nekorektā vai netaisnīgā veidā. Bez tam var tikt traucēta būtisku procesuālo pamattiesību, piemēram, tiesību uz efektīvu tiesību aizsardzību un taisnīgu tiesu, kā arī tiesību uz aizstāvību un nevainīguma prezumpcijas, īstenošana, it īpaši, ja minētās AI sistēmas nav pietiekami pārredzamas, izskaidrojamas un dokumentētas. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas vairākas AI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības kontekstā, kurā precizitāte, uzticamība un pārredzamība ir īpaši svarīga, lai novērstu kaitējošu ietekmi, saglabātu sabiedrības uzticēšanos un nodrošinātu pārskatatbildību un efektīvu tiesisko aizsardzību. Ņemot vērā attiecīgo darbību raksturu un ar tām saistītos riskus, pie minētajām augsta riska AI sistēmām būtu galvenokārt jāpieskaita AI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības iestādēs individuālam riska novērtējumam, melu detektoros un līdzīgos rīkos fiziskas personas emocionālā stāvokļa noteikšanai, “dziļviltojumu” konstatēšanai, pierādījumu uzticamības izvērtēšanai kriminālprocesa ietvaros, faktiska vai potenciāla noziedzīga nodarījuma izdarīšanas vai atkārtotas izdarīšanas prognozēšanai, pamatojoties uz fizisku personu profilēšanu vai novērtējot fizisku personu vai grupu personiskās īpašības un rakstura iezīmes vai iepriekšēju noziedzīgu rīcību, profilēšanai noziedzīgu nodarījumu atklāšanas, izmeklēšanas vai kriminālvajāšanas gaitā, kā arī noziegumu analīzei attiecībā uz fiziskām personām. AI sistēmas, kuras īpaši paredzētas izmantošanai administratīvajā procesā nodokļu un muitas iestādēs, nebūtu jāuzskata par augsta riska AI sistēmām, ko tiesībaizsardzības iestādes izmanto noziedzīgu nodarījumu novēršanai, atklāšanai, izmeklēšanai un kriminālvajāšanai par tiem. (39)Migrācijas un patvēruma jomā un robežkontroles pārvaldībā izmantotās AI sistēmas ietekmē cilvēkus, kuri bieži ir īpaši neaizsargātā pozīcijā un ir atkarīgi no kompetento publiskā sektora iestāžu darbības rezultāta. Tāpēc minētajos kontekstos izmantoto AI sistēmu precizitāte, nediskriminējošais raksturs un pārredzamība ir īpaši svarīga skarto personu pamattiesību ievērošanas garantēšanai, proti, viņu tiesību brīvi pārvietoties, tiesību uz nediskrimināciju, privātuma un persondatu aizsardzību, starptautisko aizsardzību un labu pārvaldību īstenošanai. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas tās AI sistēmas, ko kompetentajās publiskā sektora iestādēs, kurām uzticēti pienākumi migrācijas, patvēruma un robežkontroles pārvaldības jomā, paredzēts izmantot kā melu detektorus un līdzīgus rīkus vai nolūkā noteikt fiziskas personas emocionālo stāvokli; novērtēt noteiktus riskus, kurus rada fiziskas personas, kas ieceļo dalībvalsts teritorijā vai piesakās vīzai vai patvērumam; pārbaudīt fizisku personu attiecīgo dokumentu autentiskumu; sniegt palīdzību kompetentām publiskā sektora iestādēm patvēruma, vīzu un uzturēšanās atļauju pieteikumu un saistīto sūdzību izskatīšanā ar mērķi noteikt fizisku personu, kuras iesniegušas pieteikumu noteikta statusa iegūšanai, atbilstību kritērijiem. AI sistēmām migrācijas, patvēruma un robežkontroles pārvaldības jomā, uz kurām attiecas šī regula, būtu jāatbilst attiecīgajām procesuālajām prasībām, kas noteiktas Eiropas Parlamenta un Padomes Direktīvā 2013/32/ES, Eiropas Parlamenta un Padomes Regulā (EK) Nr. 810/2009 un citos attiecīgajos tiesību aktos. (40)Dažas AI sistēmas, kas paredzētas izmantošanai tiesvedībā un demokrātiskajos procesos, būtu jāklasificē kā augsta riska sistēmas, ņemot vērā to potenciāli ievērojamo ietekmi uz demokrātiju, tiesiskumu, individuālajām brīvībām, kā arī tiesībām uz efektīvu tiesību aizsardzību un taisnīgu tiesu. Proti, lai mazinātu potenciālu neobjektivitātes, kļūdu un nepārredzamības risku, ir lietderīgi uzskatīt par augsta riska sistēmām tās AI sistēmas, kuru mērķis ir palīdzēt tiesu iestādēm faktu un tiesību normu izpētē un interpretēšanā un tiesību normu piemērošanā konkrētam faktu kopumam. Tomēr šāda klasifikācija nebūtu jāattiecina uz AI sistēmām, kuras paredzētas tikai tādu administratīvu papilddarbību veikšanai, kam nav ietekmes uz faktisko tiesvedību atsevišķās lietās, piemēram, tiesas nolēmumu, dokumentu vai datu anonimizācijai vai pseidonimizācijai, saziņai starp darbiniekiem, administratīvu uzdevumu veikšanai vai resursu sadalei. (41)Fakts, ka AI sistēma saskaņā ar šo regulu ir klasificēta kā augsta riska sistēma, nebūtu jāinterpretē kā norāde, ka sistēmas izmantošana obligāti ir likumīga citu Savienības tiesību aktu vai ar tiem saderīgu valsts tiesību aktu ietvaros, piemēram, attiecībā uz persondatu aizsardzību, melu detektoru un tamlīdzīgu rīku vai citu sistēmu izmantošanu fizisku personu emocionālā stāvokļa noteikšanai. Tāda izmantošana būtu jāturpina tikai saskaņā ar piemērojamajām prasībām, kas izriet no Pamattiesību hartas un attiecīgajiem Savienības sekundārajiem tiesību aktiem un dalībvalstu tiesību aktiem. Nebūtu jāuzskata, ka šī regula nodrošina juridisko pamatu persondatu apstrādei, attiecīgā gadījumā ieskaitot īpašu kategoriju persondatus. (42)Lai mazinātu Savienības tirgū laisto vai citādi ekspluatācijā nodoto augsta riska AI sistēmu radītos riskus lietotājiem un skartajām personām, būtu jāpiemēro dažas obligātas prasības, ņemot vērā paredzēto sistēmas izmantošanas nolūku un saskaņā ar riska pārvaldības sistēmu, kura sagādātājam jāizveido. (43)Prasībām būtu jāattiecas uz augsta riska AI sistēmām saistībā ar izmantoto datu kopu kvalitāti, tehnisko dokumentāciju un uzskaiti, pārredzamību un informācijas sniegšanu lietotājiem, cilvēka virsvadību un noturību, precizitāti un kiberdrošību. Minētās prasības ir nepieciešamas, lai efektīvi mazinātu riskus veselībai, drošībai un pamattiesībām, tās ir piemērojamas, ņemot vērā sistēmas paredzēto nolūku, un citi tirdzniecību mazāk ierobežojoši pasākumi nav pienācīgi pieejami, tādējādi netiek radīti nepamatoti tirdzniecības ierobežojumi. (44)Augsta datu kvalitāte ir nepieciešama daudzu AI sistēmu veiktspējai, it īpaši, ja tiek izmantotas metodes, kas ietver modeļu apmācīšanu, ar mērķi nodrošināt, ka augsta riska AI sistēma darbojas, kā paredzēts, un droši un tā nekļūst par Savienības tiesību aktos aizliegtas diskriminācijas avotu. Augstas kvalitātes apmācības, validēšanas un testēšanas datu kopām ir svarīga atbilstošas datu pārvaldes un pārvaldības īstenošana. Apmācības, validēšanas un testēšanas datu kopām vajadzētu būt pietiekami atbilstošām, reprezentatīvām, bez kļūdām un pilnīgām, ņemot vērā sistēmas paredzēto nolūku. Tām vajadzētu piemist arī atbilstošiem statistiskajiem raksturlielumiem, arī attiecībā uz personām vai personu grupām, ar kurām paredzēts izmantot konkrēto augsta riska AI sistēmu. Proti, apmācības, validēšanas un testēšanas datu kopās apmērā, ko nosaka to paredzētais nolūks, vajadzētu ņemt vērā iezīmes, raksturlielumus vai elementus, kas raksturīgi konkrētajai ģeogrāfiskajai, uzvedības vai funkcionālajai videi vai kontekstam, kurā paredzēts izmantot AI sistēmu. Lai citu tiesības aizsargātu pret diskrimināciju, kas varētu izrietēt no AI sistēmu neobjektivitātes, sagādātājiem būtu jāvar apstrādāt arī īpašu kategoriju persondatus svarīgās vispārības interesēs ar mērķi nodrošināt neobjektivitātes uzraudzību, atklāšanu un korekciju augsta riska AI sistēmās. (45)Augsta riska AI sistēmu izstrādes nolūkā noteiktiem dalībniekiem, piemēram, sagādātājiem, pieteiktajām struktūrām un citām attiecīgajām struktūrām, piemēram, digitālās inovācijas centriem, testēšanas un eksperimentēšanas struktūrām un pētniekiem, jāvar piekļūt augstas kvalitātes datu kopām un izmantot tās savās attiecīgajās darbības jomās, kas ir saistītas ar šo regulu. Komisijas izveidotās Eiropas vienotās datu telpas un datu kopīgošanas atvieglošana uzņēmumu starpā un ar valdības iestādēm vispārības interešu labā būs ļoti būtiska, lai nodrošinātu uzticēšanos raisošu, pārskatāmu un nediskriminējošu piekļuvi augstas kvalitātes datiem AI sistēmu apmācībai, validēšanai un testēšanai. Piemēram, veselības jomā Eiropas veselības datu telpa veicinās nediskriminējošu piekļuvi veselības jomas datiem un mākslīgā intelekta algoritmu apmācībai šajās datu kopās privātumu saglabājošā, drošā, laicīgā, pārredzamā un uzticamā veidā ar pienācīgu iestāžu pārvaldi. Arī attiecīgās kompetentās iestādes, ieskaitot nozaru iestādes, nodrošinot vai atbalstot piekļuvi datiem, var atbalstīt augstas kvalitātes datu piegādāšanu AI sistēmu apmācībai, validēšanai un testēšanai. (46)Informācija par to, kā izstrādātas augsta riska AI sistēmas un kā tās darbojas to darbmūžā, ir ļoti būtiska, lai pārbaudītu atbilstību šajā regulā noteiktajām prasībām. Tam nepieciešama uzskaite un tādas tehniskās dokumentācijas pieejamība, kura satur informāciju, kas nepieciešama, lai novērtētu AI sistēmas atbilstību attiecīgajām prasībām. Šādai informācijai būtu jāietver ziņas par sistēmas vispārīgajiem raksturlielumiem, spējām un ierobežojumiem, algoritmiem, datiem, apmācību, izmantotajiem testēšanas un validēšanas procesiem, kā arī attiecīgās riska pārvaldības sistēmas dokumentācija. Tehniskā dokumentācija būtu pastāvīgi jāaktualizē. (47)Lai mazinātu nepārredzamību, kas dažas AI sistēmas padara fiziskām personām nesaprotamas vai pārāk sarežģītas, augsta riska AI sistēmām būtu jānosaka noteikta pārredzamības pakāpe. Lietotājiem būtu jāspēj interpretēt sistēmas iznākumus un tos atbilstoši izmantot. Tāpēc augsta riska AI sistēmām būtu jāpievieno attiecīgā dokumentācija un lietošanas instrukcijas, kā arī īsa un skaidra informācija, tostarp attiecīgā gadījumā par iespējamiem pamattiesību riskiem un diskrimināciju. (48)Augsta riska AI sistēmas būtu jāprojektē un jāizstrādā tā, lai fiziskas personas varētu pārraudzīt to funkcionēšanu. Šajā nolūkā sistēmas sagādātājam pirms sistēmas laišanas tirgu vai nodošanas ekspluatācijā būtu jānosaka piemēroti cilvēka virsvadības pasākumi. Tā, attiecīgā gadījumā šādiem pasākumiem jāgarantē, ka sistēmai ir iebūvēti ierobežojumi, kurus pati sistēma nevar neievērot, un ka tā reaģē uz cilvēka virsvadību un ka fiziskām personām, kurām uzticēta šī virsvadība, ir uzdevuma veikšanai nepieciešamā kompetence, apmācība un pilnvaras. (49)Augsta riska AI sistēmām jādarbojas konsekventi visā to darbmūžā un jānodrošina atbilstošs precizitātes, noturības un kiberdrošības līmenis saskaņā ar vispāratzīto tehnoloģiju attīstības līmeni. Precizitātes līmenis un tā rādītāji jādara zināmi lietotājiem. (50)Tehniskā noturība ir viena no galvenajām prasībām augsta riska AI sistēmām. Minētajām sistēmām jābūt noturīgām pret riskiem, kas ir saistīti ar sistēmas ierobežojumiem (piemēram, kļūdas, nepilnības, neatbilstības, negaidītas situācijas), kā arī pret ļaunprātīgām darbībām, kuras var apdraudēt AI sistēmas drošību un izraisīt kaitējošu vai citādi nevēlamu sistēmas darbību. Nespēja aizsargāt pret šiem riskiem varētu ietekmēt drošību vai negatīvi ietekmēt pamattiesības, piemēram, AI sistēmas radītu kļūdainu lēmumu vai nepareizu vai neobjektīvu iznākumu dēļ.

(51)Kiberdrošībai ir būtiska loma, nodrošinot, ka AI sistēmas ir noturīgas pret mēģinājumiem mainīt to lietojumu, uzvedību vai veiktspēju vai apdraudēt to drošības iezīmes, ļaunprātīgām trešām personām ekspluatējot sistēmas vājās vietas. Kiberuzbrukumi AI sistēmām var izmantot AI raksturīgos aktīvus, piemēram, apmācībā izmantotās datu kopas (piemēram, datu saindēšana) vai apmācītos modeļus (piemēram, adversatīvie uzbrukumi) vai ekspluatēt AI sistēmas digitālo aktīvu vai pamatā esošās IKT infrastruktūras vājās vietas. Lai nodrošinātu riskiem atbilstošu kiberdrošības līmeni, augsta riska AI sistēmu sagādātājiem būtu jāveic piemēroti pasākumi, attiecīgi ņemot vērā arī pamatā esošo IKT infrastruktūru. (52)Kā daļa no Savienības saskaņošanas tiesību aktiem augsta riska AI sistēmu laišanai tirdzniecībā, nodošanai ekspluatācijā un izmantošanai piemērojamie noteikumi būtu jānosaka saskaņā ar Eiropas Parlamenta un Padomes Regulu (EK) Nr. 765/2008, ar ko nosaka akreditācijas un tirgus uzraudzības prasības produktiem, Eiropas Parlamenta un Padomes Lēmumu Nr. 768/2008/EK par produktu tirdzniecības vienotu sistēmu un Eiropas Parlamenta un Padomes Regulu (ES) 2019/1020 par tirgus uzraudzību un produktu atbilstību (“produktu tirdzniecības Jaunais tiesiskais regulējums”). (53)Ir lietderīgi, ka konkrēta fiziska vai juridiska persona, kas definēta kā sagādātājs, uzņemas atbildību par augsta riska AI sistēmas laišanu tirgū vai nodošanu ekspluatācijā neatkarīgi no tā, vai attiecīgā fiziskā vai juridiskā persona pati ir šīs sistēmas projektētājs vai izstrādātājs. (54)Sagādātājam jāizveido stabila kvalitātes vadības sistēma, jānodrošina nepieciešamās atbilstības novērtēšanas procedūras pabeigšana, jāizstrādā attiecīgā dokumentācija un jāizveido spēcīga pēctirgus uzraudzības sistēma. Publiskā sektora iestādes, kuras nodod ekspluatācijā augsta riska AI sistēmu pašu izmantošanai, var pieņemt un īstenot kvalitātes vadības sistēmas noteikumus valsts vai reģionālā līmenī pieņemtas kvalitātes vadības sistēmas ietvaros, attiecīgi ņemot vērā nozares īpatnības un attiecīgās publiskā sektora iestādes kompetences un struktūru. (55)Ja augsta riska AI sistēma, kas ir drošības sastāvdaļa produktā, kuru skar attiecīgi Jaunā tiesiskā regulējuma nozaru tiesību akti, nav laista tirgū vai nodota ekspluatācijā neatkarīgi no produkta, attiecīgajā Jaunā tiesiskā regulējuma tiesību aktā definētajam gatavā produkta ražotājam būtu jāizpilda šajā regulā noteiktie sagādātāja pienākumi un, galvenais, jānodrošina, ka gatavajā produktā iegultā AI sistēma atbilst šīs regulas prasībām. (56)Lai nodrošinātu šīs regulas izpildi un radītu vienlīdzīgus konkurences apstākļus ekonomikas dalībniekiem, un ņemot vērā dažādās formas, kā digitālos produktus var darīt pieejamus,