EUROPOS KOMISIJA Briuselis, 2021 04 21 COM(2021) 206 final 2021/0106(COD) Pasiūlymas EUROPOS PARLAMENTO IR TARYBOS REGLAMENTAS KURIUO NUSTATOMOS SUDERINTOS DIRBTINIO INTELEKTO TAISYKLĖS (DIRBTINIO INTELEKTO AKTAS) IR IŠ DALIES KEIČIAMI TAM TIKRI SĄJUNGOS TEISĖKŪROS PROCEDŪRA PRIIMTI AKTAI {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



AIŠKINAMASIS MEMORANDUMAS 1.PASIŪLYMO APLINKYBĖS 1.1.Pasiūlymo pagrindimas ir tikslai Šis aiškinamasis memorandumas pridedamas prie pasiūlymo dėl reglamento, kuriuo nustatomos suderintos dirbtinio intelekto taisyklės (Dirbtinio intelekto aktas). Dirbtinis intelektas (DI) – tai greitai vystoma technologijų grupė. Šios technologijos gali duoti visokeriopą ekonominę ir visuomeninę naudą pačiose įvairiausiose pramonės šakose ir socialinės veiklos srityse. Dirbtinis intelektas prisideda prie geresnės predikcijos, operacijų optimizavimo, išteklių paskirstymo ir paslaugų pritaikymo prie individualių poreikių, todėl jis gali padėti siekti socialiniu ir aplinkos požiūriu naudingų rezultatų ir suteikti įmonėms bei Europos ekonomikai svarbių konkurencinių pranašumų. Tokie veiksmai ypač reikalingi didelį poveikį darančiuose sektoriuose, kaip antai klimato kaitos, aplinkos ir sveikatos, viešojo sektoriaus, finansų, judumo, vidaus reikalų ir žemės ūkio. Tačiau tie patys aspektai ir metodai, kurie sudaro sąlygas siekti socialinės ir ekonominės naudos panaudojant DI, taip pat gali sukelti naują riziką arba neigiamas pasekmes asmenims arba visuomenei. Atsižvelgdama į sparčius technologinius pokyčius ir galimas problemas, ES yra įsipareigojusi siekti subalansuoto požiūrio. Sąjunga suinteresuota užtikrinti tolesnį ES technologinį pirmavimą bei užtikrinti, kad europiečiai galėtų naudotis naujomis technologijomis, kurios yra sukurtos ir veikia laikantis Sąjungos vertybių, pagrindinių teisių ir principų. Šis pasiūlymas grindžiamas Komisijos pirmininkės U. von der Leyen politiniu įsipareigojimu, apie kurį ji pranešė savo 2019–2024 m. Komisijos politinėse gairėse „Daugiau siekianti Sąjunga“. Vykdydama šį politinį įsipareigojimą, Komisija turi pateikti teisės aktą dėl suderinto Europos požiūrio į DI poveikį žmogui ir etikai. Po šio pranešimo 2020 m. vasario 19 d. Komisija paskelbė baltąją knygą „Dirbtinis intelektas. Europos požiūris į kompetenciją ir pasitikėjimą“. Baltojoje knygoje nustatytos politikos galimybės, kaip pasiekti dvejopą tikslą, t. y. skatinti plačiau diegti DI ir mažinti su tam tikrais tokios technologijos naudojimo būdais susijusią riziką. Šiuo pasiūlymu siekiama antrojo tikslo, susijusio su pasitikėjimo ekosistemos sukūrimu pasiūlant teisinę sistemą, kuria reglamentuojamas patikimas DI. Pasiūlymas grindžiamas ES vertybėmis ir pagrindinėmis teisėmis ir juo siekiama suteikti asmenims ir kitiems naudotojams pasitikėjimo priimti DI pagrįstus sprendimus, kartu skatinant įmones juos plėtoti. DI turėtų būti žmonėms skirta ir visuomenės poreikius tenkinanti priemonė, kurios galutinis tikslas – didinti žmonių gerovę. Todėl Sąjungos rinkoje prieinamą ar kitaip Sąjungoje esantiems asmenims poveikį darantį DI reglamentuojančios taisyklės turėtų būti orientuotos į žmogų, kad žmonės galėtų būti tikri, jog technologija naudojama saugiai ir laikantis teisės aktų bei gerbiant pagrindines teises. Paskelbusi baltąją knygą, Komisija pradėjo didelį suinteresuotųjų subjektų susidomėjimą sukėlusias plataus masto konsultacijas su suinteresuotaisiais subjektais, kurie iš esmės pritarė reglamentavimo intervencijai, siekiant spręsti su vis dažnesniu DI naudojimu susijusias problemas ir klausimus. Pasiūlyme taip pat atsižvelgiama į aiškius Europos Parlamento (EP) ir Europos Vadovų Tarybos prašymus, kuriuose ne kartą buvo raginama imtis teisėkūros veiksmų, siekiant užtikrinti gerai veikiančią dirbtinio intelekto sistemų (DI sistemos) vidaus rinką, kurioje Sąjungos lygmeniu būtų tinkamai sprendžiami tiek DI naudos, tiek keliamos rizikos klausimai. Jame pritariama siekiui, kad Sąjunga pirmautų pasaulyje plėtojant saugų, patikimą ir etišką dirbtinį intelektą, kaip nurodė Europos Vadovų Taryba, ir užtikrintų etinių principų apsaugą, kaip to konkrečiai prašė Europos Parlamentas. 2017 m. Europos Vadovų Taryba paragino „suvok[ti], kad reikia skubiai reaguoti į besiformuojančias tendencijas“, įskaitant „klausimus, susijusius su dirbtiniu intelektu, <...> kartu užtikrinant aukšto lygio duomenų apsaugą, skaitmenines teises ir etikos standartus“. Savo 2019 m. išvadose dėl suderinto Europoje kuriamo dirbtinio intelekto plėtros ir naudojimo plano Taryba dar kartą pabrėžė, kad svarbu užtikrinti visapusišką pagarbą Europos piliečių teisėms, ir paragino peržiūrėti dabartinius atitinkamus teisės aktus, kad jie būtų tikslingi atsižvelgiant į naujas DI suteikiamas galimybes ir keliamas problemas. Europos Vadovų Taryba taip pat paragino aiškiai nuspręsti, kurios DI prietaikos turėtų būti laikomos keliančiomis didelę riziką. Naujausiose 2020 m. spalio 21 d. išvadose dar kartą paraginta spręsti tam tikrų DI sistemų neskaidrumo, sudėtingumo, šališkumo, tam tikro laipsnio nenuspėjamumo ir iš dalies autonomiško veikimo klausimus, siekiant užtikrinti jų suderinamumą su pagrindinėmis teisėmis ir palengvinti teisinių taisyklių vykdymo užtikrinimą. Europos Parlamentas taip pat nemažai nuveikė DI srityje. 2020 m. spalio mėn. jis priėmė įvairias rezoliucijas, susijusias su DI, įskaitant rezoliucijas dėl etikos, atsakomybės ir autorių teisių. 2021 m. po minėtų rezoliucijų buvo priimtos rezoliucijos dėl DI baudžiamosiose bylose ir DI švietimo, kultūros ir audiovizualiniame sektoriuje. EP rezoliucijoje dėl dirbtinio intelekto, robotikos ir susijusių technologijų etinių aspektų sistemos Komisijai konkrečiai rekomenduojama pasiūlyti teisėkūros veiksmus siekiant išnaudoti DI teikiamas galimybes ir privalumus, kartu užtikrinant etikos principų apsaugą. Rezoliucijoje pateiktas pasiūlymo dėl teisėkūros procedūra priimamo reglamento dėl etikos principų, kurių reikia laikytis plėtojant, diegiant ir naudojant DI, robotiką ir susijusias technologijas, tekstas. Remiantis politiniu įsipareigojimu, kurį, atsižvelgdama į Europos Parlamento pagal SESV 225 straipsnį priimtas rezoliucijas, savo politinėse gairėse davė Pirmininkė U. von der Leyen, šiame pasiūlyme į minėtą Europos Parlamento rezoliuciją atsižvelgiama visapusiškai paisant proporcingumo, subsidiarumo ir geresnio reglamentavimo principų. Atsižvelgdama į šį politinį kontekstą, Komisija teikia siūlomą dirbtinio intelekto reglamentavimo sistemą, kuria siekia šių konkrečių tikslų: ·užtikrinti, kad Sąjungos rinkai pateikiamos ir naudojamos DI sistemos būtų saugios ir derėtų su dabartiniais pagrindines teises ir Sąjungos vertybes reglamentuojančiais teisės aktais; ·užtikrinti teisinį tikrumą, siekiant sudaryti palankesnes sąlygas investicijoms ir inovacijoms DI srityje; ·gerinti valdymą ir veiksmingą dabartinių teisės aktų, kuriais reglamentuojamos pagrindinės teisės ir DI sistemoms taikytini saugos reikalavimai, vykdymo užtikrinimą; ·palengvinti bendrosios teisėtų, saugių ir patikimų DI prietaikų rinkos plėtrą ir užkirsti kelią rinkos susiskaidymui. Siekiant šių tikslų, šiame pasiūlyme pateikiamas subalansuotas ir proporcingas horizontalusis požiūris į DI reglamentavimą, apimantis minimalius būtinus reikalavimus, kad būtų pašalinta su DI susijusi rizika ir problemos, nepagrįstai neapribojant ir netrukdant technologinės plėtros arba kitaip neproporcingai nepadidinant DI sprendimų pateikimo rinkai išlaidų. Pasiūlymu nustatoma patikima ir lanksti teisinė sistema. Viena vertus, ji, atsižvelgiant į pagrindinius sprendimus reglamentavimo srityje, įskaitant principais grindžiamus reikalavimus, kuriuos turėtų atitikti DI sistemos, yra išsami ir orientuota į ateitį. Kita vertus, ja nustatoma proporcinga reglamentavimo sistema, grindžiama tinkamai apibrėžtu, rizika pagrįstu reglamentavimo metodu, kuriuo nesukuriami nereikalingi apribojimai prekybai, pagal kurį teisinė intervencija pritaikoma prie tų konkrečių situacijų, kuriose yra pagrįsta priežastis susirūpinti arba kai tokį susirūpinimą galima pagrįstai numatyti artimiausioje ateityje. Kartu teisinėje sistemoje numatyti lankstūs mechanizmai, kurie sudaro sąlygas ją dinamiškai pritaikyti prie technologinių pokyčių ir naujų susirūpinimą keliančių situacijų. Pasiūlyme, vadovaujantis proporcingu rizika pagrįstu metodu, nustatytos suderintos DI sistemų plėtojimo, pateikimo rinkai ir naudojimo Sąjungoje taisyklės. Jame pasiūlyta bendra į ateitį orientuota DI apibrėžtis. Tam tikra ypač žalinga DI praktika draudžiama, kaip prieštaraujanti Sąjungos vertybėms, o tam tikram nuotolinio biometrinio tapatybės nustatymo sistemų naudojimui teisėsaugos tikslais siūlomi konkretūs apribojimai ir apsaugos priemonės. Pasiūlyme nustatyta patikima rizikos metodika, kuria remiantis apibrėžiamos didelės rizikos DI sistemos, keliančios didelę riziką asmenų sveikatai ir saugai arba pagrindinėms teisėms. Šios DI sistemos turės atitikti patikimam DI taikomą rinkinį horizontalių privalomų reikalavimų ir prieš šias sistemas pateikiant Sąjungos rinkai turės būti atliktos atitikties vertinimo procedūros. Šių sistemų tiekėjams ir naudotojams taip pat nustatomos nuspėjamos, proporcingos ir aiškios pareigos, siekiant per visą DI sistemų gyvavimo ciklą užtikrinti saugumą ir atitiktį galiojantiems teisės aktams, kuriais saugomos pagrindinės teisės. Dėl kai kurių konkrečių DI sistemų siūlomos tik minimalios skaidrumo pareigos, visų pirma tais atvejais, kai naudojami pokalbių robotai arba sintetinė sankaita (angl. deep fakes). Pasiūlytų taisyklių vykdymas bus užtikrinamas naudojant valstybės narės lygmens valdymo sistemą, pagrįstą jau esamomis struktūromis, ir Sąjungos lygmens bendradarbiavimo mechanizmu, kartu įsteigiant Europos dirbtinio intelekto valdybą. Siekiant paremti inovacijas, taip pat siūlomos papildomos priemonės, visų pirma per DI apribotą bandomąją reglamentavimo aplinką, ir kitos priemonės, kuriomis siekiama sumažinti reglamentavimo naštą ir paremti mažąsias ir vidutines įmones (MVĮ) bei startuolius. 1.2.Suderinamumas su toje pačioje politikos srityje galiojančiomis nuostatomis Atsižvelgiant į pasiūlymo horizontalųjį pobūdį, būtina užtikrinti visišką nuoseklumą su dabartiniais Sąjungos teisės aktais, taikomais sektoriuose, kuriuose jau naudojamos arba artimiausioje ateityje gali būti naudojamos didelės rizikos DI sistemos.

Taip pat užtikrinamas nuoseklumas su ES pagrindinių teisių chartija ir esamais antriniais Sąjungos teisės aktais, reglamentuojančiais duomenų apsaugą, vartotojų apsaugą, nediskriminavimą ir lyčių lygybę. Pasiūlymas nedaro poveikio Bendrajam duomenų apsaugos reglamentui (Reglamentas (ES) 2016/679) ir Teisėsaugos direktyvai (Direktyva (ES) 2016/680) ir juos papildo suderintų taisyklių, taikomų tam tikrų didelės rizikos DI sistemų projektavimui, plėtojimui ir naudojimui, rinkiniu ir tam tikrų nuotolinio biometrinio tapatybės nustatymo sistemų naudojimo būdų apribojimais. Be to, pasiūlymas papildo esamus Sąjungos teisės aktus dėl nediskriminavimo, taikant konkrečius reikalavimus, kuriais siekiama kuo labiau sumažinti algoritminės diskriminacijos riziką, visų pirma atsižvelgiant į duomenų rinkinių, naudojamų kuriant DI sistemas, struktūrą ir kokybę, kartu šias sistemas papildant bandymo, rizikos valdymo, dokumentacijos ir žmogiškosios priežiūros per visą DI sistemų gyvavimo ciklą pareigomis. Pasiūlymas nedaro poveikio Sąjungos konkurencijos teisės taikymui. Kalbant apie didelės rizikos DI sistemas, kurios yra gaminių saugos komponentai, pažymėtina, kad šis pasiūlymas bus integruotas į esamus sektorių saugumo teisės aktus, siekiant užtikrinti nuoseklumą, išvengti dubliavimo ir kuo labiau sumažinti papildomą naštą. Visų pirma dėl didelės rizikos DI sistemų, susijusių su gaminiais, kuriems taikomi naujosios teisės aktų sistemos teisės aktai (pvz., mašinos, medicinos prietaisai, žaislai), pažymėtina, kad šiame pasiūlyme išdėstyti DI sistemoms taikomi reikalavimai bus patikrinti pagal naująją teisės aktų sistemą atliekant dabartines atitikties vertinimo procedūras. Dėl reikalavimų sąveikos pažymėtina, kad nors būtent su DI sistemomis susijusi saugumo rizika turi būti šalinama laikantis šio pasiūlymo reikalavimų, naujosios teisės aktų sistemos teisės aktais siekiama užtikrinti bendrą galutinio gaminio saugumą, todėl jame gali būti nustatyti konkretūs reikalavimai, susiję su saugiu DI sistemos integravimu į galutinį gaminį. Pasiūlymas dėl mašinų reglamento, kuris priimamas tą pačią dieną kaip ir šis pasiūlymas, visiškai dera su šiuo metodu. Dėl didelės rizikos DI sistemų, susijusių su gaminiais, kuriems taikomi atitinkami senojo požiūrio teisės aktai (pvz., aviacija, automobiliai), pažymėtina, kad šis pasiūlymas nebus tiesiogiai taikomas tokiems gaminiams. Tačiau į šiame pasiūlyme išdėstytus ex ante esminius reikalavimus didelės rizikos DI sistemoms reikės atsižvelgti pagal tuos aktus priimant įgyvendinimo arba deleguotuosius teisės aktus. Dėl DI sistemų, kurias teikia arba naudoja reguliuojamos kredito įstaigos, pažymėtina, kad už Sąjungos finansines paslaugas reglamentuojančių teisės aktų priežiūrą atsakingos institucijos turėtų būti paskirtos kompetentingomis šio pasiūlymų reikalavimų priežiūros institucijomis, siekiant užtikrinti nuoseklų šiame pasiūlyme ir Sąjungos finansines paslaugas reglamentuojančiuose teisės aktuose nustatytų pareigų vykdymą tais atvejais, kai DI sistemos turi būti tam tikru mastu numanomai reguliuojamos atsižvelgiant į kredito įstaigų vidaus valdymo sistemą. Siekiant toliau didinti nuoseklumą, šiame pasiūlyme nustatyta atitikties vertinimo procedūra ir kai kurios tiekėjų procedūrinės pareigos integruojamos į Direktyvoje 2013/36/ES dėl galimybės verstis kredito įstaigų veikla ir dėl riziką ribojančios priežiūros numatytas procedūras. Šis pasiūlymas taip pat dera su taikytinais Sąjungos teisės aktais dėl paslaugų, įskaitant tarpininkavimo paslaugas, kurios reglamentuojamos E. prekybos direktyva 2000/31/EB, ir su naujausiu Komisijos pasiūlymu dėl Skaitmeninių paslaugų akto (SPA). Dėl DI sistemų, kurios yra Europos Sąjungos didelės apimties IT sistemų laisvės, saugumo ir teisingumo erdvėje operacijų valdymo agentūros (eu-LISA) valdomų didelės apimties IT sistemų laisvės, saugumo ir teisingumo erdvėje sudedamosios dalys, pažymėtina, kad pasiūlymas nebus taikomas toms DI sistemoms, kurios rinkai buvo pateiktos arba pradėtos naudoti anksčiau nei praėjus vieniems metams nuo šio reglamento įsigaliojimo, išskyrus atvejus, kai dėl tų teisės aktų panaikinimo arba pakeitimo atsiranda esminių DI sistemos arba atitinkamų DI sistemų struktūros arba numatytosios paskirties pokyčių. 1.3.Suderinamumas su kitomis Sąjungos politikos sritimis Pasiūlymas yra išsamesnio priemonių, kuriomis sprendžiamos DI kūrimo ir naudojimo keliamos problemos, rinkinio sudedamoji dalis, kaip aprašyta Baltojoje knygoje dėl DI. Todėl nuoseklumas ir papildomumas užtikrinami kitomis įgyvendinamomis ar planuojamomis Komisijos iniciatyvomis, kuriomis taip pat siekiama spręsti šias problemas, įskaitant sektorinių gaminių teisės aktų (pvz., Mašinų direktyvos, Bendrosios gaminių saugos direktyvos) peržiūrą ir iniciatyvas, kuriomis sprendžiami atsakomybės klausimai, susiję su naujosiomis technologijomis, įskaitant DI sistemas. Šios iniciatyvos bus grindžiamos šiuo pasiūlymu ir jį papildys, siekiant suteikti teisinį tikrumą ir skatinti pasitikėjimo DI ekosistemos plėtrą Europoje. Pasiūlymas taip pat dera su Komisijos bendra skaitmenine strategija, nes juo padedama skatinti žmonėms tarnaujančią technologiją, kuri yra vienas iš trijų pagrindinių politikos gairių ir tikslų, paskelbtų komunikate „Europos skaitmeninės ateities formavimas“, ramsčių. Jame nustatyta nuosekli, veiksminga ir proporcinga sistema, kuria siekiama užtikrinti, kad DI būtų kuriamas gerbiant žmogaus teises ir užsitarnaujant žmonių pasitikėjimą, taip padedant Europai prisitaikyti prie skaitmeninio amžiaus ir artimiausius dešimt metų paversti skaitmeniniu dešimtmečiu. Be to, DI grindžiamų inovacijų skatinimas yra glaudžiai susijęs su Duomenų valdymo aktu, Atvirųjų duomenų direktyva ir kitomis ES duomenų strategijos iniciatyvomis, kurios padės sukurti patikimus mechanizmus ir paslaugas, skirtas pakartotiniam duomenų, turinčių esminę reikšmę duomenimis grindžiamų kokybiškų DI modelių kūrimui, naudojimui, dalijimuisi jais ir jų kaupimui. Pasiūlymu taip pat sustiprinamas Sąjungos vaidmuo padedant formuoti pasaulines normas ir standartus, taip pat skatinti patikimą DI, kuris dera su Sąjungos vertybėmis ir interesais. Juo Sąjungai suteikiamas tvirtas pagrindas toliau bendradarbiauti su savo išorės partneriais, įskaitant trečiąsias valstybes, ir tarptautiniu mastu sprendžiant su DI susijusius klausimus. 2.TEISINIS PAGRINDAS, SUBSIDIARUMO IR PROPORCINGUMO PRINCIPAI 2.1.Teisinis pagrindas Pasiūlymo teisinis pagrindas visų pirma yra Sutarties dėl Europos Sąjungos veikimo (toliau – SESV) 114 straipsnis, kuriame numatyta galimybė priimti priemones, siekiant užtikrinti vidaus rinkos sukūrimą ir veikimą. Pasiūlymas yra pagrindinė ES bendrosios skaitmeninės rinkos strategijos dalis. Pagrindinis šio pasiūlymo tikslas – užtikrinti tinkamą vidaus rinkos veikimą nustatant suderintas taisykles, visų pirma susijusias su gaminių ir paslaugų, kuriuose naudojamos DI technologijos arba kurie tiekiami kaip atskiros DI sistemos, kūrimu, pateikimu Sąjungos rinkai ir naudojimu. Kai kurios valstybės narės jau svarsto galimybę priimti nacionalines taisykles, siekiant užtikrinti, kad AI būtų saugus ir kuriamas bei naudojamas laikantis pagrindinių teisių ir pareigų. Tikėtina, kad dėl to kils dvi pagrindinės problemos: i) vidaus rinkos susiskaidymas dėl esminių elementų, susijusių visų pirma su DI gaminiams ir paslaugoms keliamais reikalavimais, prekyba šiais gaminiais ir paslaugomis, valdžios institucijų atsakomybe ir priežiūra, ir ii) gerokai sumažėjęs DI sistemų tiekėjų ir naudotojų teisinis tikrumas, susijęs su tuo, kaip esamos ir naujos taisyklės Sąjungoje bus taikomos šioms sistemoms. Turint omeny, kad ir paslaugos gaminiai plačiai tiekiami tarpvalstybiniu mastu, šias dvi problemas geriausiai galima išspręsti priimant suderintą ES teisės aktą. Iš tiesų pasiūlyme apibrėžiami bendri privalomi reikalavimai, taikomi tam tikrų DI sistemų projektavimui ir kūrimui prieš jas pateikiant rinkai; jie bus toliau rengiami nustatant suderintus techninius standartus. Pasiūlyme taip pat aptariama padėtis po DI sistemų pateikimo rinkai, šiuo tikslu suderinant ex post kontrolės priemonių įgyvendinimo būdą. Be to, atsižvelgiant į tai, kad šiame pasiūlyme yra tam tikrų konkrečių taisyklių dėl asmenų apsaugos tvarkant asmens duomenis, visų pirma kiek tai susiję su apribojimais naudoti DI sistemas tikralaikiam nuotoliniam biometriniam tapatybės nustatymui viešosiose erdvėse teisėsaugos tikslais, šį reglamentą, kiek tai susiję su konkrečiomis taisyklėmis, būtų tinkama grįsti SESV 16 straipsniu. 2.2.Subsidiarumo principas (neišimtinės kompetencijos atveju) DI, kuris dažnai grindžiamas dideliais ir įvairiais duomenų rinkiniais ir gali būti integruotas į bet kurį laisvai vidaus rinkoje platinamą gaminį arba paslaugą, pobūdis lemia tai, kad valstybės narės negali veiksmingai pasiekti šio pasiūlymo tikslų veikdamos atskirai. Be to, gali būti, kad bus kuriamos skirtingos nacionalinės taisyklės, kurios trukdys sklandžiam su DI sistemomis susijusių gaminių ir paslaugų judėjimui ES ir veiksmingai neužtikrins pagrindinių teisių ir Sąjungos vertybių įvairiose valstybėse narėse saugumą ir apsaugą. Dėl nacionalinių problemų sprendimo metodų paprasčiausiai atsiras daugiau teisinio netikrumo ir kliūčių, o DI įsisavinimas rinkoje bus lėtesnis. Šio pasiūlymo tikslą galima geriau pasiekti Sąjungos lygmeniu, siekiant išvengti tolesnio bendrosios rinkos susiskaidymo į potencialiai prieštaraujančias nacionalines sistemas, kurios užkirstų kelią laisvam DI grindžiamų prekių ir paslaugų judėjimui. Tvirta patikimo DI Europos reglamentavimo sistema taip pat padės užtikrinti vienodas sąlygas ir visų žmonių apsaugą, kartu stiprinant Europos konkurencingumą ir DI pramoninį pagrindą. Tik imantis bendrų veiksmų Sąjungos lygmeniu taip pat galima apsaugoti Sąjungos skaitmeninį suverenitetą ir suderinti priemones ir reglamentavimo įgaliojimus, siekiant formuoti pasaulines taisykles ir standartus. 2.3.Proporcingumo principas

Pasiūlymas grindžiamas esamomis teisinėmis sistemomis ir yra proporcingas bei būtinas siekiant nustatytų tikslų, nes jame vadovaujamasi rizika pagrįstu metodu ir reglamentavimo našta nustatoma tik kai DI sistema gali kelti didelę riziką pagrindinėms teisėms ir saugumui. Dėl kitų didelės rizikos nekeliančių DI sistemų nustatomos tik labai ribotos skaidrumo pareigos, pavyzdžiui, susijusios su informacijos teikimu, siekiant paženklinti su žmonėmis sąveikaujančios DI sistemos naudojimą. Didelės rizikos DI sistemų atveju griežtai būtina parengti kokybiškų duomenų, dokumentacijos, atsekamumo, skaidrumo, žmogiškosios priežiūros, tikslumo ir patikimumo reikalavimus, siekiant sumažinti riziką pagrindinėms teisėms ir saugumui, kurią kelia DI ir kuri neaptariama kitose esamose teisinėse sistemose. Darnieji standartai ir pagalbinės gairės bei atitikties priemonės padės tiekėjams ir naudotojams laikytis pasiūlyme nustatytų reikalavimų ir kuo labiau sumažinti patiriamas išlaidas. Veiklos vykdytojų patiriamos išlaidos yra proporcingos pasiektiems tikslams ir ekonominei bei reputacinei naudai, kurios veiklos vykdytojai gali tikėtis iš šio pasiūlymo. 2.4.Priemonės pasirinkimas Reglamento, kaip teisinės priemonės, pasirinkimas grindžiamas poreikiu vienodai taikyti naujas taisykles, pavyzdžiui, dėl DI apibrėžties, draudimo taikyti tam tikrą žalingą DI grindžiamą praktiką ir tam tikrų DI sistemų klasifikavimo. Tiesioginis reglamento taikymas pagal SESV 288 straipsnį padės sumažinti teisinį susiskaidymą ir teisėtų, saugių ir patikimų DI sistemų bendrosios rinkos plėtrą. Tai visų pirma bus daroma nustatant suderintų pagrindinių reikalavimų, susijusių su DI sistemomis, kurios klasifikuojamos kaip didelės rizikos, ir šių sistemų tiekėjams ir naudotojams taikomų pareigų rinkinį, taip pagerinant pagrindinių teisių apsaugą ir suteikiant vienodą teisinį tikrumą tiek veiklos vykdytojams, tiek vartotojams. Kartu reglamento nuostatos nėra pernelyg griežtos ir jomis valstybėms narėms paliekama erdvės įvairiais lygmenimis imtis veiksmų dėl aspektų, kuriais nepažeidžiamas iniciatyvos tikslas, visų pirma tai pasakytina apie rinkos priežiūros sistemos vidaus organizavimą ir inovacijų skatinimo priemonių panaudojimą. 3.EX POST VERTINIMO, KONSULTACIJŲ SU SUINTERESUOTOSIOMIS ŠALIMIS IR POVEIKIO VERTINIMO REZULTATAI 3.1.Konsultacijos su suinteresuotosiomis šalimis Šis pasiūlymas – tai plataus masto konsultacijų su visomis pagrindinėmis suinteresuotosiomis šalimis rezultatas. Jų metu buvo taikomi Komisijos konsultacijų su suinteresuotosiomis šalimis bendrieji principai ir būtinieji standartai. Internetinės viešos konsultacijos buvo pradėtos 2020 m. vasario 19 d. tuo pat metu, kai buvo paskelbta Baltoji knyga dėl dirbtinio intelekto, ir tęsėsi iki 2020 m. birželio 14 d. Šių konsultacijų tikslas buvo išsiaiškinti požiūrį ir nuomonę apie baltąją knygą. Jos buvo skirtos visoms viešojo ir privačiojo sektoriaus suinteresuotosioms šalims, įskaitant vyriausybes, vietos valdžios institucijas, komercines ir nekomercines organizacijas, socialinius partnerius, ekspertus, akademinės bendruomenės narius ir piliečius. Išanalizavusi visus gautus atsakymus, Komisija savo svetainėje paskelbė rezultatų santrauką ir pavienius atsakymus. Iš viso gauta 1 215 atsakymų, iš kurių 352 atsakymus pateikė įmonės arba verslo organizacijos ir (arba) asociacijos, 406 atsakymus – pavieniai asmenys (92 proc. asmenų iš ES), 152 atsakymai pateikti mokslo / mokslinių tyrimų įstaigų vardu ir 73 atsakymus pateikė valdžios institucijos. Pilietinės visuomenės nuomonę pareiškė 160 respondentų (tarp kurių 9 vartotojų organizacijos, 129 nevyriausybinės organizacijos ir 22 profesinės sąjungos), 72 respondentai savo nuomonę pareiškė kaip „kiti“ respondentai. Iš 352 verslo ir pramonės atstovų, 222 buvo įmonių ir verslo atstovai, 41,5 proc. iš jų – labai mažos, mažosios ir vidutinės įmonės. Likę respondentai – verslo asociacijos. Iš viso 84 proc. įmonių ir pramonės sektoriaus atsakymų gauta iš ES 27. Priklausomai nuo klausimo, 81–598 respondentų pasinaudojo galimybe pastabas pateikti laisvo teksto laukelyje. Iš viso ES apklausos svetainėje buvo pateikta 450 pozicijos dokumentų, kurie pridėti prie klausimyno atsakymų (daugiau nei 400) arba pateikti kaip atskiri dokumentai (daugiau nei 50). Apskritai suinteresuotieji subjektai iš esmės sutaria, kad reikia imtis veiksmų. Dauguma suinteresuotųjų subjektų sutaria, kad esama teisės aktų spragų arba kad reikia naujų teisės aktų. Tačiau keletas suinteresuotųjų subjektų perspėjo Komisiją vengti dubliavimo, prieštaraujančių pareigų ir perteklinio reglamentavimo. Buvo pateikta nemažai pastabų, kuriose pažymima technologiškai neutralios ir proporcingos reglamentavimo sistemos svarba. Suinteresuotieji subjektai dažniausiai reikalavo siaurai, aiškiai ir tiksliai apibrėžti DI. Suinteresuotieji subjektai taip pat pabrėžė, kad be DI sąvokos paaiškinimo, svarbu apibrėžti sąvokas „rizika“, „didelė rizika“, „nedidelė rizika“, „nuotolinis biometrinis tapatybės nustatymas“ ir „žala“. Akivaizdu, kad dauguma respondentų palankiai vertina rizika pagrįstą metodą. Rizika pagrįstos sistemos naudojimas buvo laikomas geresne galimybe nei visų DI sistemų išsamus reglamentavimas. Rizikos ir grėsmių rūšys turėtų būti grindžiamos požiūriu į kiekvieną konkretų sektorių ir atvejį. Rizika taip pat turėtų būti įvertinama atsižvelgiant į poveikį teisėms ir saugumui. Apribota reglamentavimo bandomoji aplinka galėtų būti labai naudinga skatinant DI ir ją palankiai vertina tam tikri suinteresuotieji subjektai, visų pirma verslo asociacijos. Tarp respondentų, kurie pareiškė savo nuomonę dėl vykdymo užtikrinimo modelių, t. y. daugiau nei 50 proc., ypač tai pasakytina apie verslo asociacijas, palankiai vertino savarankiško ex ante rizikos vertinimo ir didelės rizikos DI sistemoms taikomų reikalavimų ex post vykdymo užtikrinimą. 3.2.Tiriamųjų duomenų rinkimas ir naudojimas Pasiūlymas grindžiamas dvejų metų trukmės analize ir glaudžiu bendradarbiavimu su suinteresuotaisiais subjektais, įskaitant akademinės bendruomenės narius, įmones, socialinius partnerius, nevyriausybines organizacijas, valstybes nares ir piliečius. Parengiamieji darbai pradėti 2018 m. sudarius Aukšto lygio ekspertų grupę dirbtinio intelekto klausimais (HLEG), kurią, užtikrinant įtraukią ir plačią sudėtį, sudarė 52 gerai žinomi ekspertai, kuriems pavesta užduotis konsultuoti Komisiją jos dirbtinio intelekto strategijos įgyvendinimo klausimais. 2019 m. balandžio mėn. Komisija parėmė pagrindinius reikalavimus, išdėstytus Aukšto lygio ekspertų grupės dirbtinio intelekto klausimais parengtose patikimo DI gairėse, kurios buvo peržiūrėtos siekiant atsižvelgti į daugiau nei 500 pastabų, kurias pateikė suinteresuotieji subjektai. Pagrindiniuose reikalavimuose atsispindi plataus masto bendras požiūris, pagal kurį DI kūrimas ir naudojimas turi būti grindžiamas tam tikrais esminiais į vertybes orientuotais principais, kaip buvo pastebėta daugybėje įvairių Europos ir užsienio privačių ir viešųjų organizacijų parengtų etikos kodeksų ir principų. Dirbtinio intelekto patikimumo vertinimo kriterijų sąraše (angl. ALTAI) šie reikalavimai buvo taikomi bandomajame procese, kuriame dalyvavo daugiau nei 350 organizacijų. Be to, buvo suformuotas DI aljansas, kuris tapo apytiksliai 4 000 suinteresuotųjų subjektų vienijanti platforma, skirta technologinėms ir visuomeninėms DI pasekmėms aptarti, kurios svarbiausias renginys metinė asamblėja DI klausimais. Baltojoje knygoje dėl DI toliau plėtojamas šis įtraukus požiūris, dėl kurio pastabas pateikė daugiau nei 1 250 suinteresuotųjų šalių, taip pat pateikta daugiau nei 450 papildomų pozicijos dokumentų. Todėl Komisija paskelbė įžanginį poveikio vertinimą, dėl kurio paskui sulaukta daugiau nei 130 pastabų. Taip pat buvo surengti papildomi suinteresuotųjų subjektų praktiniai seminarai ir renginiai, kurių rezultatai padeda atlikti su poveikio vertinimu susijusią analizę ir įvertinti šiame pasiūlyme pateiktas politikos galimybes. Taip pat buvo surengti viešieji pirkimai dėl išorės tyrimo, kuriuo buvo siekiama gauti informacijos poveikio vertinimui. 3.3.Poveikio vertinimas Laikydamasi savo geresnio reglamentavimo politikos, Komisija atliko šio pasiūlymo poveikio vertinimą, kurį išnagrinėjo Komisijos reglamentavimo patikros valdyba. Susitikimas su Reglamentavimo patikros valdyba buvo surengtas 2020 m. gruodžio 16 d. ir jame buvo priimta neigiama nuomonė. Reglamentavimo patikros valdyba, iš esmės peržiūrėjusi poveikio vertinimą, siekdama atsižvelgti į pastabas, ir pakartotinai pateikus poveikio vertinimą, 2021 m. kovo 21 d. priėmė teigiamą nuomonę. Reglamentavimo patikros valdybos nuomonės, rekomendacijos ir paaiškinimai, kaip į jas buvo atsižvelgta, pateikti poveikio vertinimo 1 priede.

Komisija išnagrinėjo įvairias politikos galimybes siekiant bendro pasiūlymo tikslo – užtikrinti tinkamą bendrosios rinkos veikimą sukuriant sąlygas patikimo AI kūrimo ir naudojimo Sąjungoje sąlygas. Buvo įvertintos keturios skirtingo reglamentavimo intervencijos laipsnio politikos galimybės: ·1 galimybė – ES teisėkūros priemonė, kuria nustatoma savanoriška ženklinimo sistema; ·2 galimybė – sektorinis ad hoc metodas; ·3 galimybė – horizontali ES teisėkūros priemonė, parengta vadovaujantis proporcingu rizika pagrįstu metodu; ·3+ galimybė – horizontali ES teisėkūros priemonė, parengta vadovaujantis proporcingu rizika pagrįstu metodu, įskaitant elgesio kodeksus didelės rizikos nekeliančioms DI sistemoms; ·4 galimybė – horizontali ES teisėkūros priemonė, nustatanti visoms DI sistemoms privalomus reikalavimus, nepaisant jų keliamos rizikos. Remiantis Komisijos nustatyta metodika, kiekviena politikos galimybė buvo įvertinta atsižvelgiant į ekonominį ir visuomeninį poveikį, ypatingą dėmesį skiriant poveikiui pagrindinėms teisėms. Tinkamiausia galimybė yra 3+ galimybė, t. y. tik didelės rizikos DI sistemoms taikomai reglamentavimo sistemai, įskaitant galimybę visiems didelės rizikos nekeliančių DI sistemų tiekėjams vadovautis elgesio kodeksu. Reikalavimai bus susiję su duomenimis, dokumentavimu ir atsekamumu, informacijos teikimu ir skaidrumu, žmogaus atliekama priežiūra, patvarumu ir tikslumu, ir jie būtų privalomi didelės rizikos DI sistemoms. Įmonės, nustačiusios kitų DI sistemų elgesio kodeksus, tai darytų savanoriškai. Tinkamiausia galimybė įvertinta, kaip tinkama, siekiant veiksmingiausiai įgyvendinti šios iniciatyvos tikslus. Pagal tinkamiausią galimybę reikalaujama, kad DI kūrėjai ir naudotojai imtųsi ribotų, tačiau veiksmingų veiksmų – taip ribojama žmogaus pagrindinių teisių ir saugumo pažeidimo rizika bei skatinama veiksminga priežiūra ir vykdymo užtikrinimas; šiuo tikslu reikalavimai taikomi tik toms sistemoms, kuriose kyla didelė tokių pažeidimų rizika. Todėl pagal tą galimybę reikalavimų laikymosi išlaidos išlaikomos kuo mažesnės, kartu išvengiant bereikalingų didesnių kainų ir reikalavimų laikymosi išlaidų sukeltų kliūčių greitam įsisavinimui. Siekiant pašalinti galimus neigiamus aspektus MVĮ, šią galimybę sudaro keletas nuostatų, kuriomis remiamas MVĮ reikalavimų laikymasis ir sumažinamos jų išlaidos, įskaitant apribotos bandomosios reglamentavimo aplinkos sukūrimą ir pareigą atsižvelgti į MVĮ interesus nustatant su atitikties vertinimu susijusius mokesčius. Tinkamiausia galimybė padės padidinti žmonių pasitikėjimą DI, įmonėms bus naudingas teisinis tikrumas, o valstybės narės neturės pagrindo imtis vienašališkų veiksmų, dėl kurių gali atsirasti susiskaidymas bendrojoje rinkoje. Tikėtina, kad DI bendroji rinka suklestės dėl didesnės paklausos, kurią lems didesnis pasitikėjimas, platesnio prieinamų pasiūlymų asortimento, kurį lems teisinis tikrumas, ir kliūčių tarpvalstybiniam DI sistemų judėjimui nebuvimo. Europos Sąjunga toliau plėtos sparčiai augančią novatoriškų paslaugų ir gaminių, kuriuose naudojama DI technologija, arba atskirų DI sistemų DI ekosistemą, kuri prisidės prie didesnės skaitmeninės autonomijos. Įmonės arba valdžios institucijos, kurios kuria ar naudoja DI prietaikas, keliančias ypač didelę riziką piliečių saugumui ar pagrindinėms teisėms, turėtų atitikti konkrečius reikalavimus ir dėl jų turėtų būti taikomi konkretūs įpareigojimai. Šių reikalavimų laikymasis reikštų maždaug 6 000–7 000 EUR išlaidas iki 2025 m. tiekiant vidutinę didelės rizikos DI sistemą, kurios apytikslė vertė – 170 000 EUR. DI naudotojai taip pat patirtų metines išlaidas, susijusias su žmogaus užtikrinama priežiūra, kai tai yra tinkama ir priklausomai nuo naudojimo būdo. Apskaičiuota, kad šios išlaidos siektų maždaug 5 000–8 000 EUR per metus. Didelės rizikos DI paslaugų teikėjų tikrinimo išlaidos galėtų siekti dar 3 000–7 500 EUR. Įmonėms arba valdžios institucijoms, kurios kuria arba naudoja bet kokias DI prietaikas, kurios neklasifikuojamos kaip didelės rizikos, bus nustatytos tik minimalios pareigos teikti informaciją. Vis dėlto jos gali nuspręsti drauge su kitais priimti elgesio kodeksą, siekdamos vadovautis tinkamais reikalavimais ir užtikrinti, kad jų DI sistemos būtų patikimos. Tokiu atveju išlaidos galėtų būti tokio pat dydžio, kaip ir didelės rizikos DI sistemų atveju, tačiau labiau tikėtina, kad jos būtų mažesnės. Politikos galimybių poveikis įvairioms suinteresuotųjų subjektų kategorijoms (ekonominės veiklos vykdytojams / įmonėms; atitikties vertinimo įstaigoms, standartizacijos įstaigoms ir kitoms viešosioms įstaigoms; asmenims / piliečiams; tyrėjams) išsamiai paaiškintas prie šio pasiūlymo pridėto poveikio vertinimo 3 priede. 3.4.Reglamentavimo tinkamumas ir supaprastinimas Šiuo pasiūlymu nustatomos pareigos, kurios bus taikomos didelės rizikos DI sistemų tiekėjams ir naudotojams. Tokias sistemas kuriantiems ir Sąjungos rinkai pateikiantiems tiekėjams šiuo pasiūlymu bus sukurtas teisinis tikrumas ir užtikrinama, kad neatsirastų jokių kliūčių tarpvalstybiniam su DI susijusių paslaugų ir gaminių tiekimui. DI naudojančioms įmonėms tai padės skatinti pasitikėjimą tarp jų klientų. Nacionalinių viešojo administravimo institucijų atžvilgiu pasiūlymas padės skatinti visuomenės pasitikėjimą DI naudojimu ir stiprinti vykdymo užtikrinimo mechanizmus (nustatant Europos koordinavimo mechanizmą, suteikiant tinkamus pajėgumus ir palengvinant DI sistemų auditus nustatant naujus dokumentacijos, atsekamumo ir skaidrumo reikalavimus). Be to, sistemoje bus numatytos konkrečios inovacijų paramos priemonės, įskaitant apribotą bandomąją reglamentavimo aplinką ir konkrečias paramos priemones, skirtas smulkiesiems didelės rizikos DI sistemų naudotojams ir tiekėjams, kad būtų laikomasi naujų taisyklių. Pasiūlymu taip pat konkrečiai siekiama stiprinti Europos konkurencingumą ir pramoninį pagrindą DI srityje. Užtikrinamas visiškas nuoseklumas su dabartiniais sektoriaus Sąjungos teisės aktais, taikomais DI sistemoms (pvz., gaminius ir paslaugas reglamentuojantys teisės aktai), ir tai padės suteikti dar daugiau aiškumo ir supaprastins naujų taisyklių vykdymo užtikrinimą. 3.5.Pagrindinės teisės DI naudojimas, atsižvelgiant į jo konkrečius ypatumus (pvz., neskaidrumas, sudėtingumas, priklausomybė nuo duomenų, autonomiškas veikimas), gali daryti neigiamą poveikį įvairioms ES pagrindinių teisių chartijoje (toliau – Chartija) nustatytoms pagrindinėms teisėms. Šiuo pasiūlymu siekiama užtikrinti aukšto lygio šių pagrindinių teisių apsaugą ir siekiama pašalinti įvairius rizikos šaltinius, aiškiai apibrėžiant rizika pagrįstą metodą. Pasiūlyme nustatant patikimo DI reikalavimus ir proporcingas pareigas visiems vertės grandinės dalyviams bus stiprinama ir skatinama pagal Chartiją saugomų teisių apsauga: teisė į žmogaus orumą (1 straipsnis), teisė į privatų gyvenimą ir asmens duomenų apsaugą (7 ir 8 straipsniai), nediskriminavimas (21 straipsnis) ir moterų ir vyrų lygybė (23 straipsnis). Juo siekiama užkirsti kelią tam, kad nebūtų atgrasoma naudotis saviraiškos teise (11 straipsnis) ir susirinkimų laisve (12 straipsnis), taip pat užtikrinti teisės į veiksmingą teisių gynimo priemonę ir teisės į teisingą bylos nagrinėjimą, teisės į gynybą ir nekaltumo prezumpciją (47 ir 48 straipsniai) apsaugą, taip pat bendrąjį gero administravimo principą. Be to, atsižvelgiant į tai, kad pasiūlymas taikomos tam tikrose srityse, jis darys teigiamą poveikį įvairių socialinių grupių teisėms, pavyzdžiui, darbuotojų teisėms į sąžiningas ir teisingas darbo sąlygas (31 straipsnis), aukšto lygio vartotojų apsaugai (28 straipsnis), vaiko teisėms (24 straipsnis) ir neįgaliųjų integracijai (26 straipsnis). Teisė į aukšto lygio aplinkos apsaugą ir aplinkos kokybės gerinimą (37 straipsnis) taip pat yra svarbi, įskaitant šios teisės ryšį su žmonių sauga ir sveikata. Ex ante patikrinimo, rizikos valdymo ir žmogaus atliekamos priežiūros pareigos taip pat sudarys palankesnes sąlygas paisyti kitų pagrindinių teisių, nes padės kuo labiau sumažinti klaidingų arba šališkų sprendimų, priimamų naudojant DI, riziką tokiose svarbiose srityse kaip švietimas ir mokymas, užimtumas, svarbios paslaugos, teisėsauga ir teismai. Jei pagrindinės teisės vis dėlto bus pažeidžiamos, veiksminga nukentėjusių asmenų gynyba bus įmanoma užtikrinant DI sistemų skaidrumą ir atsekamumą, kartu numatant griežtą ex post kontrolę. Šiuo pasiūlymu nustatomi tam tikri laisvės užsiimti verslu (16 straipsnis) ir menų ir mokslo laisvės (13 straipsnis) apribojimai, siekiant užtikrinti atitiktį viršesniems su viešuoju interesu susijusiems tikslams, pavyzdžiui, sveikatai, saugai, vartotojų apsaugai ir kitoms pagrindinėms teisėms („atsakingos inovacijos“) tais atvejais, kai kuriama arba naudojama didelės rizikos DI technologija. Šie apribojimai yra proporcingi ir apima tik tai, kas yra griežtai būtina siekiant užkirsti kelią ir sumažinti didelę riziką saugai ir tikėtiniems pagrindinių teisių pažeidimams. Griežtesni įpareigojimai skaidrumo srityje taip pat neturės neproporcingo poveikio teisei į intelektinės nuosavybės apsaugą (17 straipsnio 2 dalis), nes jie bus susiję tik su būtiniausia informacija asmenims, kad jie galėtų pasinaudoti savo teise į veiksmingą teisių gynimą, būtinu priežiūros ir vykdymo užtikrinimo institucijų skaidrumu, atsižvelgiant į jų įgaliojimus. Bet kokia informacija bus atskleidžiama laikantis atitinkamų šioje srityje galiojančių teisės aktų, įskaitant Direktyvą 2016/943 dėl neatskleistos praktinės patirties ir verslo informacijos (komercinių paslapčių) apsaugos nuo neteisėto jų gavimo, naudojimo ir atskleidimo. Kai valdžios institucijoms ir notifikuotosioms įstaigoms reikia suteikti prieigą prie konfidencialios informacijos arba pirminio kodo, kad būtų galima išnagrinėti atitiktį esminėms pareigoms, joms taikomos privalomos konfidencialumo pareigos. 4.POVEIKIS BIUDŽETUI

Valstybės narės turės paskirti priežiūros institucijas, atsakingas už teisės aktų reikalavimų įgyvendinimą. Jų priežiūros funkcija galėtų būti grindžiama dabartinėmis taisyklėmis, pavyzdžiui, susijusiomis su atitikties vertinimo įstaigomis arba rinkos priežiūra, tačiau reikėtų pakankamų technologinių ekspertinių žinių ir žmogiškųjų bei finansinių išteklių. Priklausomai nuo kiekvienoje valstybėje narėje jau esamos struktūros, tai galėtų reikšti 1–25 etato ekvivalentus kiekvienoje valstybėje narėje. Išsami susijusių išlaidų apžvalga pateikta su šiuo pasiūlymu susijusioje finansinėje pažymoje. 5.KITI ELEMENTAI 5.1.Įgyvendinimo planai ir stebėsena, vertinimas ir ataskaitų teikimo tvarka Patikimo stebėsenos ir įvertinimo mechanizmo numatymas turi esminę reikšmę užtikrinant, kad pasiūlymas būtų veiksmingas siekiant jame nustatytų konkrečių veiksmų. Komisija bus atsakinga už pasiūlymo poveikio stebėseną. Ji nustatys atskirų didelės rizikos DI prietaikų registravimo viešoje ES masto duomenų bazėje sistemą. Ši registracija taip pat sudarys sąlygas kompetentingoms institucijoms, naudotojams ir kitiems suinteresuotiems asmenims patikrinti, ar didelės rizikos DI sistema atitinka pasiūlyme nustatytus reikalavimus, ir vykdyti sustiprintą šių DI sistemų, keliančių didelę riziką pagrindinėms teisėms, priežiūrą. Kad suteiktų duomenų į šią duomenų bazę, DI tiekėjai bus įpareigoti teikti reikšmingą informaciją apie savo sistemas ir atlikti šių sistemų atitikties vertinimą. Be to, DI tiekėjai bus įpareigoti informuoti nacionalines kompetentingas institucijas apie didelius incidentus arba veikimo sutrikimus, dėl kurių pažeidžiami pagrindinių teisių įsipareigojimai, iš karto, kai apie juos sužinoma, taip pat informuoti apie bet kokius DI sistemų atšaukimus ir pašalinimus iš rinkos. Tuomet nacionalinės kompetentingos institucijos atliks tyrimus dėl incidentų ir (arba) veikimo sutrikimų, surinks visą būtiną informaciją ir nuolat ją perduos Komisijai, įskaitant atitinkamus metaduomenis. Komisija šią informaciją apie incidentus papildys išsamia visos DI rinkos analize. Komisija paskelbs ataskaitą, kurioje, praėjus penkeriems metams nuo siūlomos DI sistemos taikymo pradžios, ją įvertins ir peržiūrės. 5.2.Išsamus konkrečių pasiūlymo nuostatų paaiškinimas 5.2.1.TAIKYMO SRITIS IR APIBRĖŽTYS (I ANTRAŠTINĖ DALIS) I antraštinėje dalyje apibrėžiamas naujų taisyklių, taikomų DI sistemų pateikimui rinkai, pradėjimui naudoti ir naudojimui, reglamentavimo dalykas ir taikymo sritis. Joje taip pat pateikiamos visame dokumente vartojamos apibrėžtys. Siekiama, kad DI sistemos apibrėžtis teisinėje sistemoje būtų technologiniu požiūriu kuo neutralesnė ir kuo labiau orientuota į ateitį, atsižvelgiant į sparčius su DI susijusius technologinius ir rinkos pokyčius. Siekiant suteikti reikalingą teisinį tikrumą, I antraštinę dalį papildo I priedas, kuriame pateiktas išsamus DI kūrimo principų ir metodų sąrašas, kurį Komisija turės pritaikyti atsižvelgdama į naujas kuriamas technologijas. Taip pat aiškiai apibrėžiami pagrindiniai DI vertės grandinės dalyviai, pavyzdžiui, DI sistemų tiekėjai ir naudotojai, t. y. viešojo ir privačiojo sektoriaus veiklos vykdytojai, taip užtikrinant vienodas veiklos sąlygas. 5.2.2.DRAUDŽIAMA SU DIRBTINIU INTELEKTU SUSIJUSI PRAKTIKA (II ANTRAŠTINĖ DALIS) II antraštinėje dalyje nustatytas draudžiamo DI sąrašas. Reglamentavimo srityje laikomasi rizika pagrįsto metodo, darant skirtumą tarp DI, kuris kelia i) nepriimtiną riziką, ii) didelę riziką ir iii) mažą arba minimalią riziką, naudojimo. II antraštinėje dalyje pateiktas draudžiamos praktikos sąrašas apima visas DI sistemas, kurių naudojimas laikomas nepriimtinu dėl prieštaravimo Sąjungos vertybėms, pavyzdžiui, DI sistemomis pažeidžiamos pagrindinės teisės. Draudimai taikomi praktikai, kuri gali turėti reikšmingą potencialą manipuliuoti asmenimis naudojant pasąmonę veikiančius metodus, kurių jie nesuvokia, arba išnaudojant konkrečių pažeidžiamų grupių, pavyzdžiui, vaikų arba neįgaliųjų, pažeidžiamumo aspektus, siekiant iš esmės pakeisti jų elgesį taip, kad jie patys ar kitas asmuo patirtų psichologinę arba fizinę žalą. Kita manipuliavimo arba išnaudojimo praktika, daranti poveikį suaugusiesiems, kurią gali palengvinti DI sistemos, gali būti reglamentuojama pagal galiojančius duomenų apsaugos, vartotojų apsaugos ir skaitmeninių paslaugų teisės aktus, kuriais garantuojamas tinkamas fizinių asmenų informavimas ir suteikiama galimybė nuspręsti, kad jiems nebūtų taikomas profiliavimas arba kita poveikį jų elgesiui galinti daryti praktika. Pasiūlymu taip pat draudžiama valdžios institucijoms bendraisiais tikslais vykdyti DI pagrįstą socialinio reitingavimo. Galiausiai taip pat draudžiamas tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų naudojimas viešosiose erdvėse teisėsaugos tikslais, išskyrus atvejus, kai taikomos tam tikros ribotos išimtys. 5.2.3.DIDELĖS RIZIKOS DI SISTEMOS (III ANTRAŠTINĖ DALIS) III antraštinėje dalyje pateiktos konkrečios taisyklės dėl DI sistemų, kurios kelia didelę riziką fizinių asmenų sveikatai ir saugai arba pagrindinėms teisėms. Laikantis rizika pagrįsto metodo, šiomis didelės rizikos DI sistemomis Europos rinkoje leidžiama prekiauti užtikrinant atitiktį tam tikriems privalomiems reikalavimams ir atlikus ex ante atitikties vertinimą. DI sistema priskiriama didelės rizikos sistemoms remiantis numatytąja DI sistemos paskirtimi, laikantis galiojančių gaminių saugos teisės aktų. Todėl sistemos priskyrimas didelės rizikos DI sistemai priklauso ne tik nuo DI sistemos atliekamos funkcijos, bet ir konkrečios tos sistemos paskirties ir jos naudojimo būdų. III antraštinės dalies 1 skyriuje nustatytos klasifikavimo taisyklės ir įvardijamos dvi pagrindinės didelės rizikos DI sistemų kategorijos: ·DI sistemos, naudojamos kaip gaminio saugos komponentas ir kurių ex ante atitikties vertinimą atlieka trečioji šalis; ·kitos atskiros DI sistemos, iš esmės darančios poveikį pagrindinėms teisėms, kurios aiškiai išvardijamos III priede. Šiame didelės rizikos DI sistemų sąraše, pateiktame III priede, yra kelios DI sistemos, kurių rizika jau pasireiškė arba tikėtina, kad ji pasireikš artimiausioje ateityje. Siekdama užtikrinti, kad reglamentavimą būtų galima pritaikyti prie naujų DI naudojimo būdų ir prietaikų, Komisija gali praplėsti didelės rizikos DI sistemų, naudojamų tam tikrose iš anksto apibrėžtose srityse, sąrašą taikydama kriterijų rinkinį ir rizikos vertinimo metodiką. 2 skyriuje išdėstyti didelės rizikos DI sistemoms taikomi teisiniai reikalavimai, susiję su duomenimis ir duomenų valdymu, dokumentacija ir įrašų saugojimu, skaidrumu ir informacijos teikimu naudotojams, žmogaus atliekama priežiūra, patikimumu, tikslumu ir saugumu. Siūlomi minimalūs reikalavimai jau atitinka rūpestingų veiklos vykdytojų naudojamas pažangiausias technologijas ir yra dvejų metų parengiamojo darbo rezultatas, kurį pasiekė Aukšto lygio ekspertų grupė dirbtinio intelekto klausimais ir išbandė daugiau nei 350 organizacijų. Šie reikalavimai taip pat iš esmės dera su kitomis tarptautinėmis rekomendacijomis ir principais, kuriais užtikrinama, kad siūloma DI sistema derėtų su ES tarptautinės prekybos partnerių priimtomis rekomendacijomis ir principais. Tikslūs techniniai sprendimai, padedantys užtikrinti atitiktį šiems reikalavimams, gali būti numatomi nustatant standartus ar kitas technines specifikacijas arba kitaip parengiami, remiantis bendrosiomis inžinerijos arba mokslinėmis žiniomis, kurias savo nuožiūra panaudoja DI sistemos tiekėjas. Lankstumas yra ypač svarbus, nes sudaro sąlygas DI sistemų tiekėjams nuspręsti, kaip laikytis jiems keliamų reikalavimų, kartu atsižvelgiant į pažangiausias technologijas ir technologijų ir mokslo pažangą šioje srityje. 3 skyriuje nustatomos aiškios horizontaliosios pareigos didelės rizikos DI sistemų tiekėjams. Naudotojams ir kitiems DI vertės grandinės dalyviams (pvz., importuotojams, platintojams, įgaliotiesiems atstovams) taip pat nustatytos proporcingos pareigos.

4 skyriuje nustatoma sistema, taikoma notifikuotosioms įstaigoms, kurios dalyvauja kaip nepriklausomos trečiosios šalys atitikties vertinimo procedūrose, o 5 skyriuje išsamiai paaiškinamos atitikties vertinimo procedūros, kuriomis reikia vadovautis dėl kiekvienos rūšies didelės rizikos DI sistemos. Atitikties vertinimu grindžiamo metodo paskirtis – kuo labiau sumažinti naštą ekonominės veiklos vykdytojams, taip pat notifikuotosioms įstaigoms, kurių pajėgumai ilgainiui turi būti didinami. DI sistemoms, kurias numatoma naudoti kaip gaminių saugos komponentus ir kurioms taikomi naujosios teisės aktų sistemos teisės aktai (pvz., mašinos, žaislai, medicinos prietaisai ir pan.), bus taikomi tie patys gaminių, kurių komponentais yra šios sistemos, ex ante ir ex post atitikties ir vykdymo užtikrinimo mechanizmai. Pagrindinis skirtumas yra tas, kad ex ante ir ex post mechanizmai padės užtikrinti atitiktį ne tik sektoriaus teisės aktuose, bet ir šiame reglamente nustatytiems reikalavimams. Dėl atskirų didelės rizikos DI sistemų, kurios nurodytos III priede, bus sukurta nauja atitikties ir vykdymo užtikrinimo sistema. Šiuo atveju vadovaujamasi naujosios teisės aktų sistemos teisės aktais, kurie įgyvendinami tiekėjams atliekant vidaus kontrolės patikras, išskyrus nuotolinio biometrinio tapatybės nustatymo sistemas, kurioms turėtų būti taikomas trečiosios šalies atitikties vertinimas. Išsamus ex ante atitikties vertinimas atliekant vidaus patikras kartu su griežtu ex post vykdymo užtikrinimu galėtų būti veiksmingas ir pagrįstas šioms sistemoms taikomas sprendimas, atsižvelgiant į ankstyvąjį reglamentavimo intervencijos etapą ir tai, kad DI sektorius yra labai novatoriškas, o su auditu susijusios specialiosios žinios tik dabar pradedamos kaupti. Vertinimas atliekant atskirų didelės rizikos DI sistemų vidaus patikras turėtų būti neatskiriamas nuo išsamios, veiksmingos ir tinkamai dokumentuotos ex ante atitikties, įskaitant visus reglamentavimo ir atitikties reikalavimus kartu su patikimomis kokybės ir rizikos valdymo sistemomis ir priežiūra po pateikimo rinkai. Tiekėjui atlikus atitinkamą atitikties vertinimą, jis turėtų užregistruoti šias atskiras didelės rizikos DI sistemas ES duomenų bazėje, kurią tvarkys Komisija, kad padidintų visuomeninį skaidrumą ir priežiūrą ir sustiprintų kompetentingų institucijų vykdomą ex post priežiūrą. Siekiant užtikrinti nuoseklumą su dabartiniais gaminių saugą reglamentuojančiais teisės aktais, DI sistemų, kurios yra gaminių saugos komponentai, atitikties vertinimai bus atliekami naudojant sistemą, kurioje trečioji šalis taiko atitikties vertinimo procedūras, kurios jau nustatytos pagal atitinkamo sektoriaus gaminių saugą reglamentuojančius teisės aktus. Nauji ex ante pakartotiniai atitikties vertinimai bus reikalingi atlikus esminius DI sistemų pakeitimus (visų pirma pakeitimus, kurie nėra susiję su tiekėjo parengtuose techniniuose dokumentuose iš anksto nustatytais reikalavimais ir yra patikrinami ex ante atitikties vertinimo metu). 5.2.4.TAM TIKROMS DI SISTEMOMS TAIKOMI SKAIDRUMO ĮPAREIGOJIMAI (IV ANTRAŠTINĖ DALIS) IV antraštinė dalis yra susijusi su tam tikromis DI sistemomis, siekiant atsižvelgti į konkrečią jų keliamą manipuliavimo riziką. Pareigos skaidrumo srityje bus taikomos sistemoms, kurios i) sąveikauja su žmonėmis, ii) naudojamos emocijoms arba asociacijoms su (socialinėmis) kategorijomis nustatyti remiantis biometriniais duomenimis arba iii) kuria turinį arba juo manipuliuoja (sintetinė sankaita). Tais atvejais, kai asmenys sąveikauja su DI sistema arba jų emocijos ar savybės atpažįstamos automatinėmis priemonėmis, žmonės apie šias aplinkybes turi būti informuojami. Jeigu DI sistema naudojama kurti judamo bei nejudamo vaizdo ir garso turinį, kuris yra labai panašus į autentišką turinį, turėtų būti nustatyta pareiga atskleisti, kad turinys kuriamas automatinėmis priemonėmis, išskyrus su teisėtais tikslais susijusias išimtis (teisėsaugos tikslai, saviraiškos laisvė). Taip asmenims sudaromos sąlygos priimti informacija pagrįstus sprendimus arba pasitraukti iš atitinkamos padėties. 5.2.5.PRIEMONĖS INOVACIJOMS REMTI (V ANTRAŠTINĖ DALIS) V antraštine dalimi prisidedama prie tikslo sukurti inovacijoms palankią, į ateitį orientuotą ir sutrikimams atsparią teisinę sistemą. Šiuo tikslu joje nacionalinės kompetentingos institucijos skatinamos sukurti apribotą bandomąją reglamentavimo aplinką ir nustatoma bazinė valdymo, priežiūros ir atsakomybės sistema. DI apribotoje bandomojoje reglamentavimo aplinkoje sukuriama kontroliuojama aplinka, kurioje ribotą laikotarpį, remiantis bandymų planu, dėl kurio susitarta su kompetentingomis institucijomis, išbandomos naujoviškos technologijos. V antraštinėje dalyje taip pat nustatytos priemonės, kuriomis sumažinama reglamentavimo našta MVĮ ir startuoliams. 5.2.6.VALDYMAS IR ĮGYVENDINIMAS (VI, VII IR VIII ANTRAŠTINĖS DALYS) VI antraštinėje dalyje nustatytos Sąjungos ir nacionalinio lygmens valdymo sistemos. Sąjungos lygmeniu pasiūlymu sukuriama Europos dirbtinio intelekto valdyba (toliau – Valdyba), kurią sudaro valstybių narių ir Komisijos atstovai. Valdyba palengvins sklandų, veiksmingą ir suderintą šio reglamento įgyvendinimą prisidėdama prie veiksmingo nacionalinių priežiūros institucijų ir Komisijos bendradarbiavimo ir patardama Komisijai bei teikdama jai ekspertinių žinių. Ji taip pat kaups geriausią patirtį ir dalysis ja su valstybėmis narėmis. Nacionaliniu lygmeniu valstybės narės turės paskirti vieną arba daugiau nacionalinių kompetentingų institucijų, įskaitant nacionalinę priežiūros instituciją, siekiant vykdyti reglamento taikymo ir įgyvendinimo priežiūrą. Europos duomenų apsaugos priežiūros pareigūnas veiks kaip kompetentinga Sąjungos institucijų, agentūrų ir įstaigų priežiūros institucija tais atvejais, kai joms taikomas šis reglamentas. VII antraštinės dalies tikslas – palengvinti Komisijos ir nacionalinių institucijų stebėsenos darbą sukuriant ES masto duomenų bazę, skirtą atskiroms didelės rizikos DI sistemoms, kurių poveikis iš esmės yra susijęs su pasekmėmis pagrindinėms teisėms. Duomenų bazę tvarkys Komisija, o duomenis jai teiks DI sistemų tiekėjai, kurie turės užregistruoti savo sistemas prieš pateikdami jas rinkai arba kitaip užtikrindami jų naudojimo pradžią. VIII antraštinėje dalyje nustatytos DI sistemų tiekėjams taikomos stebėsenos ir pranešimų teikimo pareigos, susijusios su priežiūra po pateikimo rinkai ir pranešimų teikimu bei su DI susijusių incidentų ir veikimo sutrikimų tyrimu. Rinkos priežiūros institucijos taip pat turėtų kontroliuoti rinką ir tirti visoms didelės rizikos DI sistemoms, kurios jau pateiktos rinkai, taikomas pareigas ir reikalavimus. Rinkos priežiūros institucijos turėtų turėti visus įgaliojimus pagal Reglamentą (ES) 2019/1020 dėl rinkos priežiūros. Ex post vykdymo užtikrinimo metu turėtų būti užtikrinama, kad rinkai pateikus DI sistemą, valdžios institucijos turėtų įgaliojimus ir išteklius imtis intervencinių veiksmų, jeigu DI sistemos sukelia netikėtą riziką, dėl kurios galima imtis pateisinamų greitų veiksmų. Jos taip pat stebės, kaip veiklos vykdytojai laikosi savo atitinkamų pagal reglamentą nustatytų pareigų. Pagal pasiūlymą nenumatoma automatiškai sukurti kokių nors papildomų įstaigų ar institucijų valstybių narių lygmeniu. Todėl valstybės narės gali paskirti esamas sektoriaus institucijas (ir naudotis jų patirtimi), kurioms taip pat būtų suteikti įgaliojimai stebėti reglamento nuostatų įgyvendinimą ir užtikrinti jų vykdymą. Visa tai nedaro poveikio esamai sistemai ir įgaliojimų įgyvendinti ex post vykdymo užtikrinimo pareigas, susijusias su pagrindinėmis teisėmis, paskirstymui valstybėse narėse. Kai tai yra būtina atsižvelgiant į jų įgaliojimus, esamos priežiūros ir vykdymo užtikrinimo institucijos taip pat turės įgaliojimus prašyti pateikti bet kurį pagal šį reglamentą laikomą dokumentą bei su juo susipažinti ir prireikus prašyti rinkos priežiūros institucijų pasirūpinti didelės rizikos DI sistemos bandymu panaudojant technines priemones. 5.2.7.ELGESIO KODEKSAI (IX ANTRAŠTINĖ DALIS) IX antraštinėje dalyje sukuriama elgesio kodeksų rengimo sistema, siekiant paskatinti didelės rizikos nekeliančių DI sistemų tiekėjus savanoriškai taikyti didelės rizikos DI sistemoms galiojančius privalomus reikalavimus (kaip nustatyta III antraštinėje dalyje). Didelės rizikos nekeliančių DI sistemų tiekėjai gali patys parengti ir įgyvendinti elgesio kodeksus. Šiuose kodeksuose taip pat gali būti nustatyti savanoriški įsipareigojimai, susiję, pavyzdžiui, su aplinkos tvarumu, neįgaliųjų asmenų prieiga, suinteresuotųjų subjektų dalyvavimu projektuojant ir kuriant DI sistemas, taip pat kūrimo komandų įvairove. 5.2.8.BAIGIAMOSIOS NUOSTATOS (X, XI IR XII ANTRAŠTINĖS DALYS) X antraštinėje dalyje pabrėžiama visų šalių pareiga gerbti informacijos ir duomenų konfidencialumą ir nustatomos keitimosi informacija, gauta įgyvendinant reglamentą, taisyklės. X antraštinėje dalyje taip pat nustatytos priemonės, kuriomis užtikrinamas veiksmingas reglamento įgyvendinimas taikant veiksmingas, proporcingas ir atgrasomąsias nuobaudas už nuostatų pažeidimus. XI antraštinėje dalyje nustatytos įgaliojimų delegavimo ir naudojimosi įgyvendinimo įgaliojimais taisyklės. Pasiūlymu Komisija įgaliojama, kai tinkama, priimti įgyvendinimo aktus, kad užtikrintų vienodą reglamento arba deleguotųjų aktų taikymą ir atnaujintų arba papildytų I–VII priedų sąrašus. XII antraštinėje dalyje nustatyta Komisijos pareiga nuolat įvertinti poreikį atnaujinti III priedą ir parengti reguliarias reglamento vertinimo ir peržiūros ataskaitas. Joje taip pat nustatytos baigiamosios nuostatos, įskaitant skirtingą pradinės reglamento taikymo dienos pereinamąjį laikotarpį, kad visoms suinteresuotosioms šalims jį būtų lengviau įgyvendinti. 2021/0106 (COD) Pasiūlymas

EUROPOS PARLAMENTO IR TARYBOS REGLAMENTAS KURIUO NUSTATOMOS SUDERINTOS DIRBTINIO INTELEKTO TAISYKLĖS (DIRBTINIO INTELEKTO AKTAS) IR IŠ DALIES KEIČIAMI TAM TIKRI SĄJUNGOS TEISĖKŪROS PROCEDŪRA PRIIMTI AKTAI EUROPOS PARLAMENTAS IR EUROPOS SĄJUNGOS TARYBA, atsižvelgdami į Sutartį dėl Europos Sąjungos veikimo, ypač į jos 16 ir 114 straipsnius, atsižvelgdami į Europos Komisijos pasiūlymą, teisėkūros procedūra priimamo akto projektą perdavus nacionaliniams parlamentams, atsižvelgdami į Europos ekonomikos ir socialinių reikalų komiteto nuomonę, atsižvelgdami į Regionų komiteto nuomonę, laikydamiesi įprastos teisėkūros procedūros, kadangi: (1)šio reglamento paskirtis – pagerinti vidaus rinkos veikimą nustatant vienodą teisinę sistemą, visų pirma skirtą dirbtinio intelekto kūrimui, pateikimui rinkai ir naudojimui paisant Sąjungos vertybių. Šiuo reglamentu siekiama įvairių svarbių su viešuoju interesu susijusių tikslų, pavyzdžiui, aukšto lygio sveikatos, saugumo ir pagrindinių teisių apsaugos, ir juo užtikrinamas laisvas DI pagrįstų prekių ir paslaugų tarpvalstybinis judėjimas, taip užkertant kelią valstybėms narėms nustatyti apribojimus kuriant, pateikiant rinkai ir naudojant DI sistemas, išskyrus atvejus, kai tai aiškiai leidžiama pagal šį reglamentą; (2)dirbtinio intelekto sistemos (DI sistemos) gali būti lengvai įdiegtos įvairiuose ekonomikos ir visuomenės sektoriuose, taip pat tarpvalstybiniu mastu, ir jos gali plisti visoje Sąjungoje. Tam tikros valstybės narės jau išnagrinėjo galimybę priimti nacionalines taisykles, siekiant užtikrinti, kad dirbtinis intelektas būtų saugus ir kuriamas bei naudojamas laikantis pagrindinių teisių ir pareigų. Dėl skirtingų nacionalinių taisyklių vidaus rinkoje gali atsirasti susiskaidymas ir sumažėti DI sistemas kuriančių ar naudojančių veiklos vykdytojų teisinis tikrumas. Todėl visoje Sąjungoje reikėtų užtikrinti nuoseklią ir aukšto lygio apsaugą ir reikėtų užkirsti kelią skirtumams, trukdantiems DI sistemoms ir susijusiems gaminiams ir paslaugoms laisvai cirkuliuoti vidaus rinkoje, nustatant vienodas pareigas veiklos vykdytojams ir garantuojant vienodą svarbių viešojo intereso priežasčių ir asmenų teisių apsaugą visoje vidaus rinkoje, remiantis Sutarties dėl Europos Sąjungos (toliau – SESV) veikimo 114 straipsniu. Tiek, kiek šiame reglamente yra konkrečių taisyklių dėl asmenų apsaugos asmens duomenų tvarkymo srityje, susijusių su DI sistemų naudojimo apribojimais, susijusiais su tikruoju laiku viešosiose erdvėse teisėsaugos tikslais naudojamomis nuotolinio biometrinio tapatybės nustatymo sistemomis, šį reglamentą konkrečių taisyklių atveju būtų tinkama grįsti SESV 16 straipsniu. Atsižvelgiant į tas konkrečias taisykles ir rėmimusi SESV 16 straipsniu, yra tinkama konsultuotis su Europos duomenų apsaugos valdyba; (3)dirbtinis intelektas – tai greitai vystoma technologijų grupė. Šios technologijos gali duoti visokeriopą ekonominę ir visuomeninę naudą įvairiose pramonės šakose ir socialinės veiklos srityse. Dirbtinio intelekto naudojimas dėl geresnės predikcijos, operacijų optimizavimo ir išteklių paskirstymo, taip pat asmenims ir organizacijoms prieinamo skaitmeninių sprendimų personalizavimo, įmonėms gali suteikti esminius konkurencinius pranašumus ir prisidėti prie socialiniu požiūriu ir aplinkai naudingų pasekmių, pavyzdžiui, sveikatos priežiūros, ūkininkavimo, švietimo ir mokymo, infrastruktūros valdymo, energijos, transporto ir logistikos, viešųjų paslaugų, teisingumo, išteklių ir energijos vartojimo efektyvumo, klimato kaitos ir prisitaikymo prie klimato kaitos srityse; (4)kartu, priklausomai nuo aplinkybių, susijusių su jo konkrečiu taikymu ir naudojimu, dirbtinis intelektas gali kelti riziką ir padaryti žalos viešiesiems interesams ir teisėms, kurių apsauga užtikrinama Sąjungos teisėje. Tokia žala gali būti reikšminga arba nereikšminga; (5)todėl Sąjungos teisinė sistema, kuria nustatomos suderintos dirbtinio intelekto taisyklės, yra reikalinga siekiant vidaus rinkoje skatinti kurti, naudoti ir įsisavinti dirbtinį intelektą, kartu užtikrinant aukšto lygio viešųjų interesų, kaip antai saugos ir sveikatos apsaugą, ir pagrindinių teisių apsaugą, kaip pripažįstama ir saugoma Sąjungos teisėje. Kad šis tikslas būtų pasiektas, reikėtų nustatyti taisykles, kuriomis reglamentuojamas tam tikrų DI sistemų pateikimas rinkai ir pradėjimas naudojimo, taip užtikrinant sklandų vidaus rinkos veikimą ir leidžiant išnaudoti tų sistemų privalumus, atsižvelgiant į prekių ir paslaugų laisvo judėjimo principą. Šios taisyklės šiame reglamente nustatomos siekiant remti Sąjungos tikslą pirmauti pasaulyje kuriant saugų, patikimą ir etišką dirbtinį intelektą, kaip nurodė Europos Vadovų Taryba, ir juo užtikrinama etikos principų apsauga, atsižvelgiant į konkretų Europos Parlamento prašymą; (6)DI sistemos sąvoka turėtų būti aiškiai apibrėžta, siekiant užtikrinti teisinį tikrumą, kartu suteikiant lankstumo prisitaikyti prie būsimų technologinių pokyčių. Apibrėžtis turėtų būti grindžiama pagrindinėmis funkcinėmis programinės įrangos charakteristikomis, visų pirma gebėjimu, atsižvelgiant į žmogaus apibrėžtų tikslų rinkinį, kurti tokius išvedinius, kaip antai turinį, predikcijas, rekomendacijas arba sprendimus, kurie turi įtakos aplinkai, su kuria sąveikauja sistema, nepaisant to, ar tai yra fizinė, ar skaitmeninė aplinka. DI sistemos gali būti projektuojamos taip, kad veiktų įvairiais autonomijos lygmenimis ir veiktų atskirai arba kaip gaminio komponentas, nepaisant to, ar sistema yra fiziškai integruota (įmontuota) į gaminį arba atlieka gaminio funkciją, tačiau nėra į jį integruota (neįmontuota). DI sistemos apibrėžtį turėtų papildyti konkrečių metodų ir principų, naudojamų ją kuriant, sąrašas, ir jis, Komisijai priimant deleguotuosius aktus, kuriais iš dalies keičiamas tas sąrašas, turėtų būti nuolat atnaujinamas atsižvelgiant į rinkos ir technologinius pokyčius; (7)šiame reglamente vartojama biometrinių domenų sąvoka atitinka ir turi būti nuosekliai aiškinama, atsižvelgiant į biometrinių duomenų sąvoką, apibrėžtą Europos Parlamento ir Tarybos reglamento (ES) 2016/679 4 straipsnio 14 dalyje, Europos Parlamento ir Tarybos reglamento (ES) 2018/1725 3 straipsnio 18 dalyje ir Europos Parlamento ir Tarybos direktyvos (ES) 2016/680 3 straipsnio 13 dalyje; (8)šiame reglamente vartojama nuotolinio biometrinio tapatybės nustatymo sistemos sąvoka turėtų būti apibrėžta funkciniu požiūriu, kaip DI sistema, skirta fizinių asmenų tapatybei nuotoliniu būdu nustatyti, šiuo tikslu palyginant asmens biometrinius duomenis su informacinėje duomenų bazėje esančiais biometriniais duomenimis iš anksto neturint žinių, ar asmuo, kuriam taikoma tikslinė priemonė bus ir ar galima nustatyti jo tapatybę, nepriklausomai nuo naudojamos konkrečios technologijas, procesų arba biometrinių duomenų rūšies. Atsižvelgiant į skirtingus ypatumus ir naudojimo būdus, taip pat į įvairią susijusią riziką, reikėtų daryti skirtumą tarp tikralaikio ir netikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų. Jeigu naudojamos tikralaikės sistemos, biometrinių duomenų rinkimas, lyginimas ir tapatybės nustatymas visuomet vyksta momentiškai, beveik momentiškai arba bet kuriuo atveju be didesnės delsos. Šiuo atžvilgiu neturėtų būti jokių galimybių apeiti šio reglamento taisyklių dėl tikralaikio atitinkamų DI sistemų naudojimo numatant nedidelę delsą. Tikralaikės sistemos yra susijusios su medžiagos naudojimu tiesiogiai arba beveik tiesiogiai, pavyzdžiui, filmuota medžiaga, sukurta naudojant kamerą arba kitą panašią funkciją atliekantį prietaisą. Kita vertus netikralaikių sistemų atveju biometriniai duomenys jau buvo surinkti ir palyginimas bei tapatybės nustatymas atliekami po ilgos delsos. Ji apima medžiagą, pavyzdžiui, nuotraukas arba vaizdo medžiagą, sukurtą naudojant apsaugines vaizdo stebėjimo sistemas arba asmeninius prietaisus prieš pradedant naudoti sistemą atitinkamų fizinių asmenų atžvilgiu; (9)šiame reglamente sąvoka „viešoji erdvė“ turėtų būti suprantama kaip reiškianti bet kokią visuomenei prieinamą fizinę vietą, nepriklausomai, ar atitinkama vieta valdoma viešai, ar privačiai. Todėl sąvoka netaikoma vietoms, kurios yra privataus pobūdžio ir paprastai nėra viešai prieinamos trečiosioms šalims, įskaitant teisėsaugos institucijas, išskyrus atvejus, kai tos šalys gavo kvietimą arba joms suteikti įgaliojimai, pavyzdžiui, namai, privatūs klubai, biurai, sandėliai ir gamyklos. Ši nuostata netaikoma internetinei erdvei, nes tai nėra fizinė erdvė. Tačiau vien faktas, kad gali būti taikomos tam tikros patekimo į konkrečią vietą sąlygos, pavyzdžiui, leidimai įeiti arba amžiaus apribojimai, nereiškia, kad erdvė nėra viešai prieinama, kaip apibrėžta šiame reglamente. Todėl be viešųjų erdvių, pavyzdžiui, gatvių, atitinkamų valdžios įstaigų pastatų dalių ir daugumos transporto infrastruktūros objektų, tokios vietos kaip kino teatrai, teatrai, parduotuvės ir prekybos centrai, paprastai taip pat yra viešai prieinami. Tačiau tai, ar atitinkama vieta yra viešai prieinama, turėtų būti nustatyta kiekvienu konkrečiu atveju atsižvelgiant į konkrečios nagrinėjamos situacijos ypatumus; (10)siekiant užtikrinti vienodas sąlygas ir veiksmingą asmenų teisių ir laisvių apsaugą visoje Sąjungoje, šiame reglamente nustatytos taisyklės turėtų būti taikomos DI sistemų tiekėjams nediskriminuojamai, nepaisant to, ar jie įsisteigę Sąjungoje, ar trečiojoje valstybėje, taip pat Sąjungoje įsisteigusiems DI sistemų naudotojams;

(11)tam tikroms DI sistemoms, atsižvelgiant į jų skaitmeninį pobūdį, šis reglamentas turėtų būti taikomas net jei jos nepateikiamos rinkai, nepradeda veikti ir nepradedamos naudoti Sąjungoje. Taip, pavyzdžiui, yra tuo atveju, kai Sąjungoje įsisteigęs veiklos vykdytojas sudaro sutartis dėl tam tikrų paslaugų su už Sąjungos ribų įsisteigusiu veiklos vykdytoju ir šios paslaugos yra susijusios su veikla, kurią turi atlikti DI sistema, kuri laikoma didelę riziką keliančia sistema ir ji sukeltų pasekmių Sąjungoje esantiems fiziniams asmenims. Šiomis aplinkybėmis už Sąjungos ribų esančio veiklos vykdytojo naudojama DI sistema galėtų tvarkyti duomenis, kurie buvo teisėtai surinkti Sąjungoje ir iš jos perduoti, ir pateikti Sąjungoje esančiam pagal sutartį veikiančiam veiklos vykdytojui, tos DI sistemos, kuri nebuvo pateikta rinkai, nepradėjo veikti ar nebuvo pradėta naudoti Sąjungoje, išvedinį, sukurtą tvarkant tuos duomenis. Siekiant užkirsti kelią šio reglamento reikalavimo apėjimui ir užtikrinti veiksmingą Sąjungoje esančių fizinių asmenų apsaugą, šis reglamentas DI sistemų tiekėjams ir naudotojams, kurie yra įsisteigę trečiojoje valstybėje, taip pat turėtų būti taikomas, jei šių sistemų sugeneruotas išvedinys naudojamas Sąjungoje. Vis dėlto, siekiant atsižvelgti į dabartines taisykles ir specialius bendradarbiavimo su užsienio partneriais, su kuriais keičiamasi informacija ir įrodymais, poreikius, šis reglamentas neturėtų būti taikomas trečiosios valstybės valdžios institucijoms ir tarptautinėms organizacijoms, kai veikiama pagal nacionaliniu arba Europos lygmeniu sudarytus tarptautinius susitarimus teisėsaugos ir teisminio bendradarbiavimo su Sąjunga arba jos valstybėmis narėmis tikslais. Tokius dvišalius susitarimus sudarė valstybės narės ir trečiosios valstybės arba Europos Sąjunga, Europolas ir kitos ES agentūros ir trečiosios šalys bei tarptautinės organizacijos; (12)šis reglamentas taip pat turėtų būti taikomas Sąjungos institucijoms, tarnyboms, įstaigoms ir agentūroms, kai jos veikia kaip DI sistemos tiekėjai arba naudotojai. DI sistemoms, kurios sukuriamos arba naudojamos tik kariniais tikslais, šis reglamentas neturėtų būti taikomas, jeigu tas naudojimas patenka į išimtinę bendros užsienio ir saugumo politikos taikymo sritį pagal Europos Sąjungos sutarties (ES sutartis) V antraštinę dalį. Šis reglamentas neturėtų daryti poveikio nuostatoms dėl tarpininkavimo tiekėjų atsakomybės, nustatytos Europos Parlamento ir Tarybos direktyvoje 2000/31/EB [iš dalies pakeistoje Skaitmeninių paslaugų aktu]; (13)siekiant užtikrinti nuoseklią ir aukšto lygio viešųjų interesų, susijusių su sveikata, saugumu ir pagrindinėmis teisėmis, apsaugą, reikėtų nustatyti bendrus norminius standartus, taikomus visoms didelės rizikos DI sistemoms. Šie standartai turėtų derėti su Europos Sąjungos pagrindinių teisių chartija (toliau – Chartija), būti nediskriminuojantys ir atitikti Sąjungos tarptautinius prekybos srities įsipareigojimus; (14)siekiant nustatyti proporcingų ir veiksmingų DI sistemoms taikomų taisyklių rinkinį, reikėtų vadovautis aiškiai apibrėžtu rizika pagrįstu metodu. Laikantis to metodo tokių taisyklių rūšį ir turinį reikėtų pritaikyti prie rizikos, kurią gali sukelti DI sistemos, intensyvumo ir masto. Todėl būtina uždrausti tam tikrą su dirbtiniu intelektu susijusią praktiką, nustatyti didelės rizikos DI sistemoms taikomus reikalavimus, o atitinkamiems veiklos vykdytojams – pareigas, taip pat nustatyti skaidrumo pareigas tam tikroms DI sistemoms; (15)be daugybės naudingų dirbtinio intelekto panaudojimo būdų, šia technologija taip pat gali būti piktnaudžiaujama ir ji gali suteikti naujoviškų ir galingų manipuliavimo, išnaudojimo ir socialinės kontrolės praktikos įrankių. Tokia praktika yra ypač žalinga ir turėtų būti draudžiama, nes prieštarauja Sąjungos vertybėms, susijusioms su pagarba žmogaus orumui, laisve, lygybe, demokratija ir teisinės valstybės principu ir Sąjungos pagrindinėmis teisėmis, be kita ko, teisėms į nediskriminavimą, duomenų apsaugą bei privatumą ir vaiko teisėms; (16)tam tikrų DI sistemų, kuriomis siekiama pakeisti žmogaus elgesį, sukeliant tikėtiną fizinę arba psichologinę žalą, pateikimas rinkai, pradėjimas naudoti arba naudojimas turėtų būti draudžiamas. Tokiose DI sistemose naudojami pasąmonę veikiantys komponentai, kurių asmenys negali suprasti arba kuriais išnaudojamas amžiaus arba fizinių arba psichinių sutrikimų nulemtas vaikų ir žmonių pažeidžiamumas. Šios DI sistemos naudojamos siekiant iš esmės pakeisti asmens elgesį, taip sukeliant faktinę arba potencialią žalą tam ar kitam asmeniui. Prielaidos dėl tokio siekio negalima daryti, jeigu žmogaus elgesys pakeičiamas dėl su DI sistema nesusijusių išorės veiksnių, kurių tiekėjas arba naudotojas negali kontroliuoti. Teisėtų tikslų, susijusių su tokiomis DI sistemomis, tyrimams neturėtų būti trukdoma draudimu tuo atveju, jeigu po tokių tyrimų nepradedamas naudoti DI palaikant žmogaus ir mašinų sąveiką, dėl kurios fiziniams asmenims kyla žalos rizika, ir tyrimai atliekami laikantis pripažintų mokslinių tyrimų etinių standartų; (17)valdžios institucijoms arba jų vardu bendruoju tikslu naudojant DI sistemas, kurių paskirtis vykdyti fizinių asmenų socialinį reitingavimą, gali būti pasiekti diskriminuojantys rezultatai, o tam tikros grupės gali patirti atskirtį. Taip gali būti pažeista teisė į orumą ir nediskriminavimą ir lygybės bei teisingumo vertybės. Tokiomis DI sistemomis vertinamas arba klasifikuojamas fizinių asmenų patikimumas, remiantis jų socialiniu elgesiu įvairiomis aplinkybėmis arba žinomomis arba nuspėjamomis asmeninėmis ar asmenybės savybėmis. Dėl tokių DI sistemų sukurto socialinio reitingavimo balo gali būti žalingai arba nepalankiai elgiamasi su fiziniais asmenimis arba ištisomis jų grupėmis ir tai gali būti daroma socialinėmis aplinkybėmis, kurios nėra susijusios su aplinkybėmis, kuriomis duomenys buvo iš pradžių sukurti arba surinkti, arba žalingai elgiantis, kai toks elgesys yra neproporcingas arba nepagrįstas atsižvelgiant į jų socialinio elgesio rimtumą. Todėl tokios DI sistemos turėtų būti draudžiamos; (18)tikralaikio nuotolinio biometrinio fizinių asmenų tapatybės nustatymo DI sistemų naudojimas viešosiose erdvėse teisėsaugos tikslais laikomas ypač ribojančiu atitinkamų asmenų teises ir laisves tiek, kiek jos gali daryti poveikį didelės gyventojų dalies privačiam gyvenimui, sukelti nuolatinį sekimo jausmą ir netiesiogiai atgrasyti nuo naudojimosi susirinkimų teise ir kitomis pagrindinėmis teisėmis. Be to, poveikio betarpiškumas ir ribotos galimybės atlikti tolesnes patikras ar taisymus, susijusius su tokiomis tikruoju laiku veikiančiomis sistemomis, kelia didelę riziką asmenų, kurių atžvilgiu vykdoma teisėsaugos veikla, teisėms ir laisvėms; (19)todėl šių sistemų naudojimas teisėsaugos tikslais turėtų būti draudžiamas, išskyrus tris išsamiai išvardytas ir siaurai apibrėžtas situacijas, kai sistemas naudoti griežtai būtina siekiant apginti esminį viešąjį interesą, kurio svarba nusveria riziką. Šios situacijos apima potencialių nusikaltimo aukų, įskaitant dingusius vaikus, paieška, tam tikromis grėsmėmis fizinių asmenų gyvybei arba fiziniam saugumui, arba teroristinio išpuolio grėsmėmis ir Tarybos pamatiniame sprendime 2002/584/TVR nurodytų nusikalstamų veikų vykdytojų arba įtariamųjų radimu, buvimo vietos ir tapatybės nustatymu ar baudžiamuoju persekiojimu, jeigu tos nusikalstamos veikos atitinkamoje valstybėje narėje yra baudžiamos skiriant laisvės atėmimo bausmę arba priimant nutartį dėl sulaikymo ne trumpiau nei trejiems metams ir atsižvelgiant į tai, kaip jos apibrėžtos tos valstybės narės teisėje. Tokia laisvės atėmimo bausmės arba nutarties dėl sulaikymo riba, kuri nustatyta nacionalinėje teisėje, padeda užtikrinti, kad nusikalstama veika būtų pakankamai rimta, siekiant pateisinti galimą tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų naudojimą. Be to, iš 32 nusikalstamų veikų, išvardytų Tarybos pamatiniame sprendime 2002/584/TVR, kai kurios praktiniu požiūriu gali būti svarbesnės, palyginti su kitomis, atsižvelgiant į tai, kad tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų naudojimas gali būti būtinas ir proporcingas labai įvairiu mastu siekiant praktiškai išaiškinti įvairių išvardytų nusikalstamų veikų vykdytoją arba įtariamąjį, nustatyti jo buvimo vietą ir tapatybę ar vykdyti baudžiamąjį persekiojimą, kartu atsižvelgiant į tikėtinus žalos arba galimų neigiamų pasekmių rimtumo, tikėtinumo ir masto skirtumus; (20)siekiant užtikrinti, kad tos sistemos būtų naudojamos atsakingai ir proporcingai, taip pat svarbu nustatyti, kad kiekvienoje iš šių trijų išsamiai nurodytų ir siaurai apibrėžtų situacijų būtų atsižvelgta į tam tikrus aspektus, visų pirma susijusius su situacijos, kurioje pateikiamas prašymas, pobūdžiu ir tokio naudojimo pasekmėmis visų susijusių asmenų teisėms ir laisvėms, taip pat su tokiu naudojimu susijusiomis apsaugos priemonėmis ir sąlygomis. Be to, tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų naudojimui viešosiose erdvėse teisėsaugos tikslais turėtų būti taikomos atitinkamos laiko ir erdvės ribos, atsižvelgiant visų pirma į įrodymus arba požymius, susijusius su grėsmėmis, aukomis arba nusikaltėliu. Su kiekviena iš trijų pirmiau nurodytų situacijų susijusiu atveju yra tinkama informacinė asmenų duomenų bazė; (21)kiekvieną kartą viešosiose erdvėse teisėsaugos tikslais naudojant tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemą, reikėtų gauti aiškų ir konkretų valstybės narės teismo institucijos arba bet kurios nepriklausomos administracinės institucijos leidimą. Toks leidimas iš esmės turėtų būti gautas iki naudojimo pradžios, išskyrus tinkamai pagrįstas neatidėliotinas situacijas, t. y. situacijas, kuriose poreikis naudoti atitinkamas sistemas yra toks, kad faktiškai ir objektyviai neįmanoma gauti leidimo prieš pradedant jas naudoti. Tokiose neatidėliotinose situacijose naudojimas turėtų apimti tik tai, kas absoliučiai minimaliai būtina, įskaitant tinkamų apsaugos priemonių ir sąlygų taikymą, kaip apibrėžta nacionalinėje teisėje ir kaip konkrečiai nurodė pati teisėsaugos institucija, atsižvelgdama į kiekvieną pavienį neatidėliotino naudojimo atvejį. Be to, tokiose situacijose teisėsaugos institucija turėtų stengtis kuo greičiau gauti leidimą, kartu nurodant priežastis, dėl kurių ji negalėjo leidimo prašyti anksčiau; (22)be to, atsižvelgiant į šiame reglamente nustatytą išsamią sistemą, tinkama numatyti, kad toks naudojimas valstybės narės teritorijoje pagal šį reglamentą turėtų būti įmanomas tik tais atvejais ir tiek, kiek atitinkama valstybė narė nusprendė savo išsamiose nacionalinės teisės taisyklėse aiškiai numatyti galimybę leisti tokį naudojimą. Todėl valstybės narės pagal šį reglamentą gali apskritai nenumatyti tokios galimybės arba numatyti ją tik kai kuriems tikslams, kuriais remiantis būtų galima pateisinti pagal šį reglamentą leistiną naudojimo būdą; (23)viešosiose erdvėse teisėsaugos tikslais naudojant tikralaikes nuotolinio biometrinio fizinių asmenų tapatybės nustatymo DI sistemas neišvengiamai tvarkomi biometriniai duomenys. Šio reglamento taisyklės, kuriomis, išskyrus tam tikras išimtis, draudžiamas toks naudojimas, kuris yra pagrįstas SESV 16 straipsniu, turėtų būti taikomos kaip lex specialis, atsižvelgiant į biometrinių duomenų tvarkymo taisykles, nustatytas Direktyvos (ES) 2016/680 10 straipsnyje, taip išsamiai reguliuojant tokį naudojimą ir atitinkamų biometrinių duomenų tvarkymą. Todėl toks naudojimas ir tvarkymas turėtų būti įmanomi tik tiek, kiek tai suderinama su šiuo reglamentu nustatyta sistema, už kurios ribų kompetentingos institucijos, savo veiksmais siekdamos teisėsaugos tikslų, negali naudoti tokių sistemų ir tvarkyti su tuo susijusių tokių duomenų, remdamosi Direktyvos (ES) 2016/680 10 straipsnyje išvardytais pagrindais. Šiomis aplinkybėmis šiuo reglamentu nesiekiama nustatyti asmens duomenų tvarkymo pagal Direktyvos 2016/680 8 straipsnį teisinio pagrindo. Tačiau tikralaikių nuotolinio biometrinio tapatybės nustatymo sistemų naudojimas viešosiose erdvėse kitais nei teisėsaugos tikslais, įskaitant atvejus, kai tai daro kompetentingos institucijos, neturėtų patekti į konkrečios sistemos, susijusios su tokiu naudojimu teisėsaugos tikslu, kuris nustatytas šiame reglamente, taikymo sritį. Todėl tokiam naudojimui kitais nei teisėsaugos tikslais neturėtų būti taikomas leidimo pagal šį reglamentą ir galiojančias nacionalinės teisės išsamias taisykles, kuriomis gali būti įgyvendinamas reglamentas, reikalavimas; (24)bet koks biometrinių duomenų ir kitų asmens duomenų, susijusių su DI sistemų naudojimu biometrinio tapatybės nustatymo tikslais, naudojimas, išskyrus atvejus, kai viešosiose erdvėse teisėsaugos tikslais naudojamos tikralaikės nuotolinio biometrinio tapatybės nustatymo sistemos, kaip nustatyta šiame reglamente, ir kai šias sistemas viešosiose erdvėse kitais nei teisėsaugos tikslais naudoja kompetentingos institucijos, toliau turi derėti su visais reikalavimais, taikomais pagal Reglamento (ES) 2016/679 9 straipsnio 1 dalį, Reglamento (ES) 2018/1725 10 straipsnio 1 dalį ir Direktyvos (ES) 2016/680 10 straipsnį; (25)pagal prie ES sutarties ir SESV pridėto Protokolo Nr. 21 dėl Jungtinės Karalystės ir Airijos pozicijos dėl laisvės, saugumo ir teisingumo erdvės 6a straipsnį Airijai nėra privalomos šio reglamento 5 straipsnio 1 dalies d punkte, 2 ir 3 dalyse nustatytos taisyklės, priimtos remiantis SESV 16 straipsniu, kurios yra susijusios su valstybių narių vykdomu asmens duomenų tvarkymu vykdant veiklą, kuriai taikomas SESV trečiosios dalies V antraštinės dalies 4 arba 5 skyrius, tais atvejais, kai Airijai nėra privalomos taisyklės, kuriomis reglamentuojamos teisminio bendradarbiavimo baudžiamosiose bylose ar policijos bendradarbiavimo, kurį vykdant turi būti laikomasi pagal SESV 16 straipsnį nustatytų nuostatų, formos; (26)pagal prie ES sutarties ir SESV pridėto Protokolo Nr. 22 dėl Danijos pozicijos 2 ir 2a straipsnius Danijai nėra privalomos ar taikomos šio reglamento 5 straipsnio 1 dalies d punkte, 2 ir 3 dalyse nustatytos taisyklės, priimtos remiantis SESV 16 straipsniu, kurios yra susijusios su valstybių narių vykdomu asmens duomenų tvarkymu atliekant veiklą, kuriai taikomas SESV trečiosios dalies V antraštinės dalies 4 arba 5 skyrius; (27)didelės rizikos DI sistemos Sąjungos rinkai turėtų būti pateikiamos arba pradedamos naudoti tik jeigu jos atitinka tam tikrus privalomus reikalavimus. Šiais reikalavimais turėtų būti užtikrinama, kad Sąjungoje prieinamos didelės rizikos DI sistemos arba sistemos, kurių išvedinys kitu atveju naudojamas Sąjungoje, nekeltų nepriimtinos rizikos svarbiems Sąjungos interesams, kurie pripažįstami ir saugomi pagal Sąjungos teisę. DI sistemos, kurios įvardytos kaip keliančios didelę riziką, turėtų apimti tik tas sistemas, kurios daro didelį žalingą poveikį Sąjungoje esančių asmenų sveikatai, saugumui ir pagrindinėms teisėms, ir tokiu apribojimu kuo labiau sumažinamas galimas tarptautinės prekybos suvaržymas, jei toks yra; (28)DI sistemos galėtų sukelti neigiamas pasekmes asmenų sveikatai ir saugumui, visų pirma tais atvejais, kai tokios sistemos veikia kaip gaminių komponentai. atsižvelgiant į Sąjungos derinamųjų teisės aktų tikslus, kuriais siekiama palengvinti laisvą gaminių judėjimą vidaus rinkoje ir užtikrinti, kad tik saugūs ir kitus reikalavimus atitinkantys gaminiai patektų į rinką, svarbu, kad būtų tinkamai užkirstas kelias ir sumažinta saugumo rizika, kurią gali sukelti visas gaminys dėl savo skaitmeninių komponentų, įskaitant DI sistemas. Pavyzdžiui, vis savarankiškesni robotai, veikiantys gamybos ar asmeninės pagalbos ir priežiūros srityje, turėtų sugebėti saugiai veikti ir atlikti savo funkcijas sudėtingomis sąlygomis. Taip pat sveikatos sektoriuje, kuriame pasekmės gyvybei ir sveikatai yra itin rimtos, vis dažniau naudojamos sudėtingos diagnozavimo sistemos ir žmonėms sprendimus padedančios priimti sistemos turėtų būti patikimos ir tikslios. DI sistemos neigiamas poveikis pagal Chartiją saugomoms pagrindinėms teisėms yra ypač svarbus tuomet, kai DI sistema klasifikuojama kaip kelianti didelę riziką. Šioms teisėms priklauso teisė į žmogaus orumą, teisė į privatų ir šeimos gyvenimą, teisė į asmens duomenų apsaugą, saviraiškos laisvė ir teisė gauti informaciją, susirinkimų ir asociacijų laisvė, taip pat nediskriminavimas, vartotojų apsauga, darbuotojų teisės, neįgaliųjų teisės, teisė į veiksmingą teisių gynimą ir teisingą bylos nagrinėjimą, teisė į gynybą ir nekaltumo prezumpcija, teisė į gerą administravimą. Be šių teisių, svarbu atkreipti dėmesį į tai, kad vaikai turi specialias teises, kaip numatyta ES chartijos 24 straipsnyje ir Jungtinių Tautų vaiko teisių konvencijoje (šios teisės išplėtotos JT VTK bendrojoje pastaboje Nr. 25 dėl skaitmeninės aplinkos), pagal kuriuos reikia atsižvelgti į vaikų pažeidžiamumo aspektus ir suteikti tokią apsaugą ir priežiūrą, kuri yra būtina jų gerovei užtikrinti. Vertinant žalos, kurią gali sukelti DI sistema, rimtumą, įskaitant žalą asmenų sveikatai ir saugumui, taip pat reikėtų atsižvelgti į pagrindinę teisę į aukšto lygio aplinkos apsaugą, kaip numatyta Chartijoje ir įgyvendinta Sąjungos politikoje; (29)dėl didelės rizikos DI sistemų, kurios yra gaminių arba sistemų saugos komponentai, arba pačios yra gaminiai arba sistemos, kuriems taikomas Europos Parlamento ir Tarybos reglamentas (EB) Nr. 300/2008, Europos Parlamento ir Tarybos reglamentas (ES) Nr. 167/2013, Europos Parlamento ir Tarybos reglamentas (ES) Nr. 168/2013, Europos Parlamento ir Tarybos direktyva 2014/90/ES, Europos Parlamento ir Tarybos reglamentas direktyva (ES) 2016/797, Europos Parlamento ir Tarybos reglamentas (ES) 2018/858, Europos Parlamento ir Tarybos reglamentas (ES) 2018/1139 ir Europos Parlamento ir Tarybos reglamentas (ES) 2019/2144, tinkama iš dalies pakeisti šiuos aktus, siekiant užtikrinti, kad Komisija, paisydama kiekvieno sektoriaus techninių ir reglamentavimo ypatumų ir nedarydama poveikio esamiems valdymo, atitikties vertinimo ir vykdymo užtikrinimo mechanizmams ir jais nustatytiems įgaliojimams, atsižvelgia į šiame reglamente nustatytus privalomus reikalavimus didelės rizikos DI sistemoms tuo atveju, kai, remdamasi šiais išvardytais aktais, priima bet kokį būsimą deleguotąjį ar įgyvendinimo aktą; (30)dėl DI sistemų, kurios yra gaminių saugos komponentai arba kurios pačios yra gaminiai, kuriems taikomi tam tikri Sąjungos derinamieji teisės aktai, pažymėtina, kad jas pagal šį reglamentą tinkama klasifikuoti kaip keliančias didelę riziką, jeigu atitinkamam gaminiui taikoma atitikties vertinimo procedūra, kurią pagal tą atitinkamą Sąjungos derinamąjį teisės aktą atlieka trečiosios šalies atitikties vertinimas įstaiga. Tokie gaminiai visų pirma yra mašinos, žaislai, liftai, įranga ir apsaugos sistemos, skirtos naudoti potencialiai sprogioje aplinkoje, radijo įranga, slėginiai įrenginiai, pramoginių laivų įreginiai, lynų kelio įrenginiai, dujinį kurą deginantys prietaisai, medicininiai prietaisai ir in vitro diagnostiniai medicinos prietaisai;

(31)DI sistemos klasifikavimas kaip keliančios didelę riziką pagal šį reglamentą nebūtinai turėtų reikšti, kad gaminys, kurio saugos komponentas yra DI sistema, arba pati DI sistema yra gaminys, laikomas keliančiu didelę riziką pagal atitinkamame Sąjungos derinamajame teisės akte nustatytus kriterijus, kurie taikomi gaminiui. Tai visų pirma pasakytina apie Europos Parlamento ir Tarybos reglamentą (ES) 2017/745 ir Europos Parlamento ir Tarybos reglamentą (ES) 2017/746, kuriuose numatyta galimybė trečiajai šaliai atlikti vidutinės rizikos ir didelės rizikos gaminių atitikties vertinimą; (32)atskiras DI sistemas, t. y. didelės rizikos DI sistemas, išskyrus sistemas, kurios yra gaminių saugos komponentai arba kurios pačios yra gaminiai, tinkama klasifikuoti kaip keliančias didelę riziką, jeigu, atsižvelgiant į jų numatytąją paskirtį, jos kelia žalos asmenų sveikatai ir saugumui arba pagrindinėms teisėms riziką, atsižvelgiant į galimos žalos dydį ir jos pasireiškimo tikimybę, ir į tai, kad šios sistemos naudojamos įvairiose šiame reglamente iš anksto konkrečiai apibrėžtose srityse. Šių sistemų identifikavimas yra grindžiamas ta pačia metodika ir kriterijais, kurie taip pat numatyti bet kuriuose būsimuose didelės rizikos DI sistemų sąrašo pakeitimuose; (33)DI sistemų, skirtų nuotoliniam fizinių asmenų biometriniam tapatybės nustatymui, techniniai netikslumai gali lemti šališkus rezultatus ir daryti diskriminacinį poveikį. Tai ypač svarbu tuomet, kai kalbama apie amžių, tautybę, lytį arba negalią. Todėl tikralaikės ir netikralaikės nuotolinio biometrinio tapatybės nustatymo sistemos turėtų būti klasifikuojamos kaip keliančios didelę riziką. Atsižvelgiant į riziką, kurią jos gali kelti, abiejų rūšių nuotolinio biometrinio tapatybės nustatymo sistemoms turėtų būti taikomi konkretūs reikalavimai dėl registravimo pajėgumų ir žmogaus atliekamos priežiūros; (34)dėl ypatingos svarbos infrastruktūros objektų valdymo ir veikimo pažymėtina, kad juos tinkama klasifikuoti kaip didelės rizikos DI sistemas, skirtas naudoti kaip saugos komponentus valdant ir naudojant kelių transportą ir vandens, dujų, šilumos ir elektros energijos tiekimą, nes joms sugedus arba sutrikus gali kilti rizika daugelio žmonių gyvybei ir sveikatai ir sukelti didelių įprastos socialinės ir ekonominės veiklos sutrikimų; (35)švietimo ar profesinio mokymo srityje naudojamos DI sistemos, visų pirma suteikiant prieigą arba skiriant asmenis į švietimo ir profesinio mokymo įstaigas arba siekiant įvertinti asmenis įpareigojant juos atlikti priėmimo į švietimo įstaigą testus, turėtų būti laikomos keliančiomis didelę riziką, nes gali nulemti asmens švietimo ir profesinio kelio kryptį, taigi ir daryti poveikį jų gebėjimui užsitikrinti pragyvenimo šaltinį. Tokios sistemos, jeigu jos netinkamai sukuriamos ir naudojamos, gali pažeisti teisę į švietimą ir mokymą, taip pat teisę nebūti diskriminuojamam ir jose gali būti atkartojami istoriniai diskriminacijos modeliai; (36)užimtumo, darbuotojų valdymo ir galimybės dirbti savarankiškai srityse naudojamos DI sistemos, visų pirma susijusios su asmenų įdarbinimu ir atranka, sprendimų dėl paaukštinimo ir darbo sutarties nutraukimo, užduočių paskirstymo, asmenų stebėsena ar vertinimu sutartiniuose darbo santykiuose priėmimu, taip pat turėtų būti klasifikuojamos kaip keliančios didelę riziką, nes tos sistemos gali daryti pastebimą poveikį tų asmenų būsimoms karjeros galimybėms ir pragyvenimo šaltiniui. Atitinkamuose sutartiniuose darbo santykiuose turėtų dalyvauti darbuotojai ir per platformas paslaugas teikiantys asmenys, kaip nurodyta 2021 m. Komisijos darbo programoje. Tokie asmenys iš esmės neturėtų būti laikomi naudotojais pagal šį reglamentą. Per darbuotojų įdarbinimo procesą ir juos vertinant, paaukštinant arba išsaugant darbo vietą, atsižvelgiant į sutartinius darbo santykius, tokios sistemos gali atkartoti istorinius diskriminacijos modelius, pavyzdžiui, tai pasakytina apie moteris, tam tikras amžiaus grupes, neįgaliuosius arba tam tikros rasinės ar etninės kilmės arba seksualinės orientacijos asmenis. DI sistemos, kurios naudojamos šių asmenų veiklos rezultatams ir elgesiui stebėti, taip pat gali daryti poveikį jų teisėms į duomenų apsaugą ir privatumą; (37)kita sritis, kurioje DI sistemų naudojimui reikia skirti ypatingą dėmesį, yra prieiga prie tam tikrų esminių privačių ir viešųjų paslaugų ir išmokų, būtinų žmonėms tam, kad jie galėtų visapusiškai dalyvauti visuomenėje arba pagerinti savo pragyvenimo lygį, ir galimybė jomis pasinaudoti. Visų pirma DI sistemos, kurios naudojamos fizinių asmenų kredito reitingui arba kreditingumui įvertinti, turėtų būti klasifikuojamos kaip didelės rizikos DI sistemos, nes jomis remiantis asmenims suteikiama prieiga prie finansinių išteklių arba esminių paslaugų, pavyzdžiui, apgyvendinimo, elektros energijos ir telekomunikacijų paslaugų. Dėl šiuo tikslu naudojamų DI sistemų gali būti diskriminuojami asmenys arba grupės ir atkartojami istoriniai diskriminacijos modeliai, pavyzdžiui, dėl rasinės ar etninės kilmės, negalios, amžiaus, seksualinės orientacijos, arba gali būti sukuriamos naujas diskriminacinis poveikis. Atsižvelgiant į labai ribotą poveikio mastą ir rinkoje prieinamas alternatyvas, tinkama taikyti išimtį DI sistemoms, kurias kreditingumo patikimumo ir vertinimo tikslu pradėjo naudoti smulkieji tiekėjai savo reikmėms. Fiziniai asmenys, prašantys valdžios institucijų suteikti viešosios paramos išmokas ir paslaugas, paprastai yra priklausomi nuo šių išmokų ir paslaugų ir santykyje su atsakingomis institucijomis yra pažeidžiamoje padėtyje. Jeigu DI sistemos naudojamos siekiant nustatyti, ar institucija turėtų neskirti tokių išmokų ir paslaugų, sumažinti jų dydį ar apimtį, panaikinti arba susigrąžinti, tai gali turėti reikšmingą poveikį asmenų pragyvenimui ir gali pažeisti jų pagrindines teises, pavyzdžiui, teisę į socialinę apsaugą, nediskriminavimą, žmogaus orumą arba veiksmingą teisių gynimą. Todėl šios sistemos turėtų būti klasifikuojamos kaip keliančios didelę riziką. Vis dėlto šis reglamentas neturėtų trukdyti kurti ir naudoti naujoviškus viešojo administravimo metodus, kuriuos būtų galima pritaikyti platesniu mastu naudojant reikalavimus atitinkančias ir saugias DI sistemas, jeigu jos nekelia didelės rizikos juridiniams ir fiziniams asmenims. Galiausiai DI sistemos, kurios naudojamos suteikiant arba nustatant prioritetą teikiant pirmojo skubaus atsako į incidentą paslaugą, taip pat turėtų būti klasifikuojamos kaip keliančios didelę riziką, nes jos sprendimus priima ypač kritinėse situacijose, susijusiose su asmenų gyvybe ir sveikata bei jų turtu; (38)teisėsaugos institucijų veiksmams, kuriuos vykdant tam tikru būdu naudojamos DI sistemos, būdingas didelis galios disbalanso laipsnis ir po šių veiksmų fizinis asmuo gali būti sekamas, areštuojamas arba gali būti apribota jo laisvė, taip pat daromas kitoks neigiamas poveikis Chartijoje garantuojamoms pagrindinėms teisėms. Jeigu DI sistema mokoma naudojant nekokybiškus duomenis, jeigu ji neatitinka jai keliamų pakankamų tikslumo ar patikimumo reikalavimų arba nėra tinkamai sukurta ir išbandyta prieš pateikiant ją rinkai arba kitaip pradedant naudoti, ji gali atrinkti asmenis diskriminuojančiai arba kitokiu neteisingu arba nesąžiningu būdu. Be to, tuo atveju, kai DI sistemos nėra pakankamai skaidrios, suprantamos ir dokumentuojamos, gali būti trukdoma užtikrinti svarbias procesines pagrindines teises, pavyzdžiui, teisę į veiksmingą teisių gynimo priemonę ir sąžiningą bylos nagrinėjimą, taip pat teisę į gynybą ir nekaltumo prezumpciją. Todėl įvairias DI sistemas, skirtas naudoti teisėsaugos tikslais, kai tikslumas, patikimumas ir skaidrumas yra ypač svarbūs siekiant išvengti neigiamų pasekmių, išlaikyti visuomenės pasitikėjimą ir užtikrinti atskaitomybę bei veiksmingą teisių gynimą, tinkama klasifikuoti kaip keliančias didelę riziką. Atsižvelgiant į aptariamos veiklos pobūdį ir su ja susijusią riziką, šios didelės rizikos DI sistemos visų pirma turėtų apimti DI sistemas, skirtas naudoti teisėsaugos institucijose individualios rizikos vertinimams, poligrafams ir panašioms priemonėms, arba DI sistemas, skirtas fizinio asmens emocinei būklei nustatyti, sintetinei sankaitai nustatyti, įrodymų baudžiamojoje byloje patikimumui įvertinti, faktinių ar potencialių nusikalstamų veikų padarymo arba pakartotinio padarymo tikimybei įvertinti, remiantis fizinių asmenų profiliavimu, arba asmenybės savybėms ir bruožams arba ankstesniam fizinių asmenų ar grupių nusikalstamam elgesiui įvertinti, profiliavimui nustatant, tiriant nusikalstamas veikas arba vykdant jų baudžiamąjį persekiojimą, taip pat fizinių asmenų nusikaltimų analizės tikslais. DI sistemos, kurios skirtos konkrečiai naudoti mokesčių inspekcijų ir muitinių administracinėse bylose, neturėtų būti laikomos didelės rizikos DI sistemomis, teisėsaugos institucijų naudojamomis nusikalstamų veikų prevencijos, nustatymo, tyrimo ir baudžiamojo persekiojimo tikslais; (39)migracijos, prieglobsčio ir sienų kontrolės valdymo srityje naudojamos DI sistemos daro poveikį žmonėms, kurie dažnai būna ypač pažeidžiamoje padėtyje ir yra priklausomi nuo kompetentingų valdžios institucijų veiksmų rezultato. Todėl šiomis aplinkybėmis naudojamų DI sistemų tikslumas, nediskriminacinis pobūdis ir skaidrumas yra labai svarbūs, siekiant garantuoti pagarbą asmenų, kuriems daromas poveikis, pagrindinėms teisėms, ypač jų teisei laisvai judėti, teisei nebūti diskriminuojamiems, teisei į privataus gyvenimo ir asmens duomenų apsaugą, teisei į tarptautinę apsaugą ir gerą administravimą. Todėl DI sistemas, skirtas naudoti kompetentingoms institucijoms, kurioms pavestos užduotys migracijos, prieglobsčio ir sienų valdymo srityje, kaip poligrafus ir panašias priemones arba siekiant nustatyti fizinio asmens emocinę būklę, įvertinti tam tikrą riziką, kurią fiziniai asmenys kelia atvykdami į valstybės narės teritoriją arba prašydami išduoti vizą arba suteikti prieglobstį, patikrinti fizinių asmenų dokumentų autentiškumą, padėti kompetentingoms valdžios institucijoms išnagrinėti prašymus suteikti prieglobstį, išduoti vizą ir leidimą gyventi, ir susijusius skundus, siekiant nustatyti fizinių asmenų tinkamumą prašyti suteikti pabėgėlio statusą, tinkama klasifikuoti kaip didelės rizikos DI sistemas. Migracijos, prieglobsčio ir sienų kontrolės valdymo srityje naudojamos DI sistemos, kurioms taikomas šis reglamentas, turėtų atitikti susijusius procedūrinius reikalavimus, nustatytus Europos Parlamento ir Tarybos direktyvoje 2013/32/ES, Europos Parlamento ir Tarybos reglamente (EB) Nr. 810/2009 ir kituose susijusiuose teisės aktuose; (40)tam tikros DI sistemos, skirtos teisingumui vykdyti ir demokratiniams procesams, turėtų būti klasifikuojamos kaip keliančios didelę riziką, atsižvelgiant į tai, kad jos gali daryti reikšmingą poveikį demokratijai, teisinės valstybės principui, individualioms laisvėms, taip pat teisei į veiksmingą teisių gynimo priemonę ir teisingą bylos nagrinėjimą. Visų pirma siekiant šalinti galimą šališkumo, klaidų ir neskaidrumo riziką, didelės rizikos DI sistemoms tinkama priskirti sistemas, kurių paskirtis – padėti teisminėms institucijoms tirti ir aiškinti faktus ir teisės aktus ir taikyti įstatymus konkretiems faktų rinkiniams. Tačiau toks klasifikavimas neturėtų būti taikomas DI sistemoms, skirtoms tik papildomai administracinei veiklai, kuri nedaro poveikio faktiniam teisingumo vykdymui individualiais atvejais, pavyzdžiui, teismo sprendimų, dokumentų arba duomenų anoniminimui arba pseudoniminimui, darbuotojų tarpusavio ryšiams, administracinėms užduotims arba išteklių paskirstymui; (41)tai, kad DI sistema pagal šį reglamentą klasifikuojama kaip kelianti didelę riziką, neturėtų būti vertinama kaip požymis, iš kurio matyti, kad sistemos naudojimas būtinai yra teisėtas pagal kitus Sąjungos teisės aktus arba nacionalinę teisę, kuri yra suderinama su Sąjungos teise, pavyzdžiui, dėl asmens duomenų apsaugos, poligrafų ir panašių priemonių ar kitų sistemų naudojimo siekiant nustatyti fizinių asmenų emocinę būklę. Bet kuris toks naudojimas turėtų būti tęsiamas tik laikantis iš Chartijos ir taikomų Sąjungos antrinės teisės aktų ir nacionalinės teisės kylančių taikytinų reikalavimų. Nereikėtų manyti, kad šiame reglamente nustatytas teisinis asmens duomenų, kai tinkama, įskaitant specialias asmens duomenų kategorijas, tvarkymo pagrindas; (42)siekiant sumažinti didelės rizikos DI sistemų, pateikiamų arba kitaip pradėtų naudoti Sąjungos rinkoje, naudotojams arba paveiktiems asmenims keliamą riziką, reikėtų taikyti tam tikrus privalomus reikalavimus, atsižvelgiant į numatytąją sistemos naudojimo paskirtį ir paisant rizikos valdymo sistemos, kurią privalo nustatyti tiekėjas; (43)reikalavimai turėtų būti taikomi didelės rizikos DI sistemoms tiek, kiek tai susiję su naudojamų duomenų rinkinių kokybe, techniniais dokumentais ir įrašų saugojimu, skaidrumu ir informacijos teikimu naudotojams, žmogaus vykdoma priežiūra, patikimumu, tikslumu ir kibernetiniu saugumu. Šie reikalavimai yra būtini siekiant veiksmingai sumažinti riziką sveikatai, saugumui ir pagrindinėms teisėms kartu atsižvelgiant į numatytąją sistemos paskirtį, ir jeigu nėra pagrįstai prieinamų jokių kitų mažiau prekybą ribojančių priemonių, taip išvengiant nepagrįstų prekybos apribojimų; (44)kokybiški duomenys turi esminę reikšmę užtikrinant daugybės DI sistemų efektyvų veikimą, ypač tais atvejais, kai naudojami su mokymo modeliais susiję metodai, siekiant užtikrinti, kad didelės rizikos DI sistema veiktų kaip numatyta ir saugiai ir netaptų pagal Sąjungos teisę draudžiamos diskriminacijos šaltiniu. Kokybiškų mokymų, validavimo ir bandymo duomenų rinkinių srityje reikia įgyvendinti tinkamą duomenų valdymo ir administravimo praktiką. Mokymų, validavimo ir bandymo duomenų rinkiniai turėtų būti pakankamai aktualūs, reprezentatyvūs ir be klaidų bei išsamūs, kad būtų užtikrinta numatytoji sistemos paskirtis. Jie taip pat turėtų turėti tinkamus statistinius ypatumus, įskaitant duomenis apie asmenis arba asmenų grupes, kurių atžvilgiu numatyta naudoti didelės rizikos DI sistemą. Visų pirma reikėtų atsižvelgti į mokymų, validavimo ir bandymo duomenų rinkinius tiek, kiek to reikia atsižvelgiant į jų numatytąją paskirtį, ypatumus, savybes arba elementus, kurie yra būdingi konkrečioje geografinėje, elgsenos ar funkcinėje aplinkoje arba aplinkybėmis, kuriomis numatoma naudoti DI sistemą. Siekiant apsaugoti kitų asmenų teises nuo diskriminacijos, kurią gali sukelti šališkos DI sistemos, tiekėjai turėtų turėti galimybę tvarkyti ir specialių kategorijų asmens duomenis, jei tai yra susiję su esminiu viešuoju interesu, siekdami užtikrinti didelės rizikos DI sistemų šališkumo stebėseną, nustatymą ir ištaisymą; (45)kad galėtų kurti didelės rizikos