6.12.2022
SL
Uradni list Evropske unije
C 465/89 torek 3. maja 2022
134. navaja, da bi morala uvrstitev umetnointeligenčnih sistemov med sisteme velikega tveganja temeljiti na njihovi konkretni uporabi ter kontekstu, naravi, verjetnosti, resnosti in morebitni nepovratnosti škode, za katero se lahko pričakuje, da bo nastala pri kršitvah temeljnih pravic ter zdravstvenih in varnostnih predpisov, kot so opredeljeni v pravu Unije; poudarja, da bi morali to klasifikacijo spremljati smernice in spodbujanje izmenjave primerov dobre prakse za razvijalce umetne inteligence; poudarja, da je treba vedno spoštovati pravico do zasebnosti in da bi morali razvijalci umetne inteligence zagotoviti, da se pravila o varstvu podatkov v celoti spoštujejo;
135. poudarja, da morajo umetnointeligenčni sistemi, za katere je verjetno, da bodo z njo v stiku otroci ali da bodo kako drugače vplivali nanje, upoštevati njihove pravice in šibke točke ter da morajo biti zasnova in privzete nastavitve teh sistemov v skladu z najvišjimi standardi varnosti in zasebnosti, ki so na voljo;
136. ugotavlja, da lahko pri okoljih, v katerih umetnointeligenčni sistemi delujejo, obstajajo razlike glede na to, ali gre za okolje medpodjetniškega poslovanja ali okolje poslovanja med podjetji in potrošniki; poudarja, da je treba pravice potrošnikov pravno zaščititi z zakonodajo o varstvu potrošnikov; poudarja, da podjetja sicer lahko vprašanje odgovornosti in druge pravne težave hitro in stroškovno učinkovito rešijo prek pogodb, ki jih sklenejo neposredno s poslovnimi partnerji, da pa bo morda potrebna zakonodaja, da se manjša podjetja zaščiti pred tem, da bi prevladujoči akterji prek poslovne ali tehnološke vezanosti, ovir za vstop na trg ali težav z asimetričnim obveščanjem zlorabili svojo tržno moč; poudarja, da je treba upoštevati tudi potrebe malih in srednjih ter zagonskih podjetij, kar zadeva kompleksne zahteve, da ne bodo v slabšem položaju kot večja podjetja, ki imajo dovolj sredstev za velike pravne službe in službe za varovanje zakonitosti poslovanja;
137. poudarja, da je treba za še nerešena etična vprašanja, povezana z novimi tehnološkimi možnostmi, ki izhajajo iz prodaje in uporabe umetne inteligence, uporabiti pristop, ki temelji na načelih, med drugim z uporabo temeljnih, obveznih načel, kot so načelo neškodovanja, načelo spoštovanja človekovega dostojanstva in temeljnih pravic ter varstvo demokratičnega procesa; ugotavlja, da so primeri dobre prakse pri razvoju umetne inteligence, kot so umetna inteligenca, osredotočena na človeka, odgovorno upravljanje ter načeli preglednosti in razložljivosti, pa tudi načela trajnostne umetne inteligence, ki so v celoti v skladu z agendo OZN za trajnostni razvoj do leta 2030, drugi pomembni elementi pri oblikovanju gospodarstva umetne inteligence;
138. priznava, da pri algoritmih umetne inteligence ni vedno mogoče zagotoviti, da bi bili popolnoma nepristranski, saj je idealni cilj, da bi bili podatki brez napak, zelo težko oziroma skoraj nemogoče doseči; ugotavlja, da se bo tudi preizkušen umetnointeligenčni sistem v praksi znašel v situacijah, ki bi lahko privedle do pristranskih rezultatov, če bo uporabljen v drugačnem okolju, kot so podatki, na podlagi katerih se je učil in bil preizkušen; poudarja, da bi si morala EU prizadevati za izboljšanje preglednosti naborov podatkov in algoritmov, zelo tesno sodelovati z razvijalci umetne inteligence, da bi preprečila in ublažila strukturne družbene predsodke, ter razmisliti o zavezujočih pravilih o potrebni skrbnosti na področju človekovih pravic že v zgodnji fazi razvoja;
139. pojasnjuje, da so lahko razumne obveznosti za umetnointeligenčne sisteme glede preglednosti in razložljivosti v številnih primerih koristne, a morda niso vedno izvedljive; ugotavlja, da je treba pravice intelektualne lastnine in poslovne skrivnosti zaščititi pred nezakonitimi praksami, kot je industrijsko vohunjenje;
140. navaja, da mora zakonodajni okvir za intelektualno lastnino še naprej zagotavljati spodbude in zaščito za inovatorje na področju umetne inteligence, tako da se razvoj in objava njihovih stvaritev nagradita s podelitvijo patenta; meni, da je veljavna zakonodaja večinoma primerna za prihodnost, a priporoča nekatere prilagoditve, med drugim vključitev odprtokodnih elementov in uporabo javnih naročil, da se rešitve umetne inteligence po potrebi zagotovijo z odprtokodno programsko opremo; predlaga, da se uvedejo nove oblike podeljevanja licenc za patente, da bodo regijam na voljo orodja in pobude, ki si jih sicer ne bi mogle privoščiti;
141.
meni, da bi lahko bilo za zagotovitev, da so umetnointeligenčni sistemi na trgu varni in verodostojni, koristno uvesti obvezno predhodno samooceno tveganj na podlagi jasnih pravil in standardov ter oceno učinka v zvezi z varstvom podatkov, ki bi jo spremljala ocena skladnosti, ki bi jo opravila tretja stran, z relevantno in ustrezno oznako CE, in sicer v kombinaciji z naknadnim izvrševanjem prek nadzora trga; meni, da bi bilo treba za preprečitev izrinjanja malih in srednjih podjetij s trga v tesnem sodelovanju z njimi razviti standarde in smernice za skladnost z zakonodajo o umetni inteligenci ter jih čim bolj usklajevati na mednarodni ravni in jih dati na voljo brezplačno;