·skaidrumas,

·įvairovė, nediskriminavimas ir teisingumas,

·visuomenės ir aplinkos gerovė,

·atskaitomybė.

Gairėse taip pat pateikiamas praktinėms įmonių reikmėms skirtas vertinimo klausimų sąrašas. Per antrąjį 2019 m. pusmetį šį vertinimo klausimų sąrašą išbandė ir atsiliepimus atsiuntė daugiau kaip 350 organizacijų. Aukšto lygio grupė gaires šiuo metu peržiūri atsižvelgdama į gautus atsiliepimus ir baigs šį darbą iki 2020 m. birželio mėn. Iš atsiliepimų visų pirma aiškėja, kad nors galiojančiais teisės aktais ar reguliavimo tvarka daug reikalavimų jau yra nustatyti, dabartiniuose daugelio ekonomikos sektorių teisės aktuose nėra konkrečių skaidrumo, atsekamumo ir žmogaus atliekamos priežiūros reikalavimų.

Kartu su šiomis neprivalomomis Aukšto lygio ekspertų grupės gairėmis ir Pirmininkės politinėmis gairėmis aiški Europos reglamentavimo sistema sustiprintų vartotojų ir įmonių pasitikėjimą dirbtiniu intelektu ir jo technologijos būtų diegiamos sparčiau. Tokia reglamentavimo sistema turėtų derėti su kitais veiksmais Europos inovaciniam pajėgumui ir konkurencingumui šioje srityje didinti. Be to, ji turi užtikrinti socialiniu, aplinkos ir ekonominiu požiūriu optimalius rezultatus ir atitiktį ES teisės aktams, principams ir vertybėms. Tai ypač svarbu tose srityse, kuriose piliečių teisėms gali būti daromas didžiausias tiesioginis poveikis, pavyzdžiui, naudojant DI prietaikas teisėsaugos ir teisminių institucijų reikmėms.

DI kūrėjams ir diegėjams jau taikomi Europos teisės aktai dėl pagrindinių teisių (pvz., duomenų apsaugos, privatumo, nediskriminavimo), vartotojų apsaugos, gaminių saugos ir atsakomybės taisyklės. Vartotojai tikisi tokio pat saugos lygio ir pagarbos jų teisėms, nepriklausomai nuo to, ar produktas arba sistema grindžiamas DI, ar ne. Tačiau dėl tam tikrų DI ypatumų (pvz., neskaidrumo) šiuos teisės aktus gali būti sunkiau taikyti ir užtikrinti jų vykdymą. Dėl šios priežasties reikia išnagrinėti, ar galiojančiais teisės aktais galima mažinti DI keliamą riziką ir ar galima veiksmingai užtikrinti jų vykdymą, ar teisės aktus reikia pritaikyti, o gal reikia naujų teisės aktų.

Atsižvelgiant į sparčią DI plėtotę, reglamentavimo sistemoje turi būti numatyta vėlesnių patobulinimų galimybė. Pakeitimai turėtų apsiriboti aiškiai nustatytomis problemomis, kurias galima racionaliai išspręsti.

Valstybės narės atkreipia dėmesį į tai, kad šiuo metu bendros europinės sistemos nėra. Vokietijos duomenų etikos komisija paragino sukurti rizika grindžiamą reglamentavimo sistemą, sudarytą iš penkių lygmenų: visai nereglamentuoti nekenksmingiausių DI sistemų, o pavojingiausias visiškai uždrausti. Danija ką tik sukūrė duomenų etikos ženklo prototipą. Malta įvedė savanoriško DI sertifikavimo sistemą. Jei ES nesuformuluos europinio požiūrio, yra realus vidaus rinkos susiskaidymo pavojus ir tai trukdytų siekti pasitikėjimo, teisinio tikrumo ir diegimo rinkoje tikslų.

Tvirta europinė patikimo DI reglamentavimo sistema apsaugos visus Europos piliečius ir padės kurti sklandžiai veikiančią vidaus rinką, kad būtų galima toliau plėtoti ir diegti DI ir stiprinti Europos pramoninę DI bazę.

A.Problemų apibūdinimas

Nors DI gali būti labai naudingas, be kita ko, padaryti produktus ir procesus saugesnius, jis gali padaryti ir žalos. Ši žala gali būti materialinė (žala asmenų saugai ir sveikatai, įskaitant gyvybės praradimą, turtinė žala) ir nematerialinė (privatumo netekimas, teisės į saviraiškos laisvę apribojimai, žmogaus orumo pažeidimas, diskriminacija, pavyzdžiui, įsidarbinant) ir gali būti susijusi su įvairiausiais pavojais. Reglamentavimo sistemoje daugiausia dėmesio turėtų būti skiriama tam, kaip kuo labiau sumažinti įvairią galimos žalos riziką, visų pirma pačią didžiausią.

Pagrindinė DI keliama rizika yra susijusi su taisyklių, skirtų pagrindinėms teisėms (įskaitant asmens duomenų ir privatumo apsaugą bei nediskriminavimą) apsaugoti, taikymu, taip pat su sauga ir atsakomybe.

Pagrindinėms teisėms, įskaitant teisę į asmens duomenų bei privatumo apsaugą ir nediskriminavimą, kylanti rizika

DI naudojimas gali daryti poveikį pamatinėms ES vertybėms ir pažeisti pagrindines teises, įskaitant teisę į saviraiškos laisvę, susirinkimų laisvę, žmogaus orumą, nediskriminavimą dėl lyties, rasinės arba etninės kilmės, religijos ar tikėjimo, negalios, amžiaus arba seksualinės orientacijos, kai tai aktualu tam tikrose srityse, teisę į asmens duomenų ir privatumo apsaugą arba teisę į veiksmingą teisminę gynybą ir teisingą bylos nagrinėjimą, taip pat neatitikti vartotojų apsaugos taisyklių. Ši rizika gali kilti dėl to, kad yra bendrųjų DI sistemų projektavimo trūkumų (be kita ko, susijusių su žmogaus atliekama priežiūra), arba dėl to, kad naudojami neobjektyvūs duomenys (pvz., sistemai mokyti naudojami tik arba daugiausia vyrų duomenys, todėl moterų atžvilgiu gaunami neoptimalūs rezultatai).

DI gali atlikti daug funkcijų, kurias anksčiau galėjo atlikti tik žmogus. Todėl fiziniai ir juridiniai asmenys vis dažniau susidurs su veiksmais ir sprendimais, kurie bus priimami DI sistemų arba jomis naudojantis ir kuriuos kartais gali būti sunku suprasti ir prireikus veiksmingai užginčyti. Be to, DI suteikia daugiau galimybių stebėti ir analizuoti kasdienius žmonių įpročius. Pavyzdžiui, esama rizikos, kad valstybės institucijos ar kiti subjektai, pažeisdami ES duomenų apsaugos ir kitas taisykles, gali naudoti DI masinio sekimo tikslais, o darbdaviai – stebėti, kaip elgiasi jų darbuotojai. Analizuojant didelius duomenų kiekius ir nustatant jų sąsajas, DI taip pat gali būti naudojamas asmens duomenims atsekti ir išanoniminti, taip iškiltų naujo pobūdžio pavojus asmens duomenų apsaugai net ir tada, kai pačiuose duomenų rinkiniuose asmens duomenų nėra. Interneto tarpininkai taip pat naudoja DI siekdami nustatyti naudotojus dominančios informacijos prioritetus ir parinkti jiems turinį. Tai, kaip tvarkomi duomenys, projektuojamos prietaikos ir kokią galimybę įsikišti turi žmogus, gali turėti įtakos teisėms į saviraiškos laisvę, asmens duomenų apsaugą bei privatumą ir politinėms laisvėms.

Kai kuriems DI algoritmams, naudojamiems nusikaltimų recidyvui prognozuoti, gali būti būdingas neobjektyvumas lyties ar rasės pagrindu, dėl kurio skirtingai nustatoma moterų ir vyrų arba piliečių ir užsieniečių recidyvo tikimybė. Šaltinis: Tolan S., Miron M., Gomez E. and Castillo C. „Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia“, Best Paper Award, International Conference on AI and Law, 2019

Kai kurioms veido analizei skirtoms DI programoms būdingas neobjektyvumas lyties ar rasės pagrindu, dėl kurio analizuojant šviesesnės odos vyrų veidus daroma nedaug lyties nustatymo klaidų, tačiau daug jų daroma analizuojant tamsesnės odos moterų veidus. Šaltinis: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.