6.12.2022.
HR
Službeni list Europske unije
C 465/89 utorak, 3. svibnja 2022.
134. navodi da se klasificiranje sustava umjetne inteligencije kao „visokorizičnih” treba temeljiti na njihovoj konkretnoj upotrebi kao i kontekstu, prirodi, vjerojatnosti, ozbiljnosti i mogućoj nepovratnosti štete koja se može očekivati kao posljedica povrede temeljnih prava te pravila zdravlja i sigurnosti kako su navedena u pravu Unije; naglašava da bi takvu klasifikaciju trebalo nadopuniti smjernicama i poticanjem razmjene najboljih praksi za razvojne programere u području umjetne inteligencije; naglašava da je uvijek potrebno poštovati pravo na privatnost te da bi razvojni programeri u području umjetne inteligencije trebali jamčiti potpunu sukladnost s pravilima o zaštiti podataka;
135.
ističe da sustavi umjetne inteligencije za koje postoji vjerojatnost da će stupiti u interakciju s djecom ili na neki drugi način utjecati na djecu moraju u obzir uzeti njihova prava i ranjivosti te zadovoljiti najviše dostupne integrirane i zadane standarde u pogledu sigurnosti, zaštite i privatnosti;
136. napominje da se okruženja u kojima djeluju sustavi umjetne inteligencije mogu razlikovati u odnosima između poduzeća (B2B) u usporedbi s odnosima poduzeća i potrošača (B2C); naglašava da se prava potrošača trebaju pravno zaštititi zakonodavstvom o zaštiti potrošača; ističe da, iako poduzeća mogu brzo i ekonomično riješiti izazove koji se odnose na odgovornost i druge pravne izazove ugovornim putem izravno s poslovnim partnerima, zakonodavstvo može biti potrebno kako bi se manja poduzeća zaštitilo od zlouporabe tržišne moći koju provode dominantni akteri ovisnošću o odabranim komercijalnim uslugama ili tehnologijama, preprekama ulasku na tržište ili kroz probleme asimetričnih informacija; ističe da je nužno i uzeti u obzir potrebe MSP-ova i star-up poduzeća sa složenim zahtjevima kako ih ne bi stavili u nepovoljan položaj u odnosu na veća poduzeća koja imaju resurse za održavanje velikih pravnih odjela i odjela za praćenje usklađenosti;
137. naglašava da je potrebno primijeniti pristup koji se temelji na načelima na otvorena etička pitanja koja se postavljaju uslijed novih tehnoloških mogućnosti, a koja su rezultat prodaje i upotrebe aplikacija umjetne inteligencije, uključujući upotrebom temeljnih, obveznih načela kao što su načelo nenanošenja štete, načelo poštovanja ljudskog dostojanstva i temeljnih prava te zaštita demokratskog procesa; napominje da su dobre prakse u razvoju umjetne inteligencije, kao što su antropocentrična umjetna inteligencija, odgovorno upravljanje, načela transparentnosti i objašnjivosti te načela održive umjetne inteligencije koja su u potpunosti usklađena s UN-ovim Programom održivog razvoja do 2030., druge važne komponente u oblikovanju ekonomije umjetne inteligencije;
138. potvrđuje da nije uvijek moguće algoritme umjetne inteligencije u potpunosti osloboditi pristranosti jer je idealan cilj podataka bez pogreški teško ili gotovo nemoguće postići; napominje da će čak i sustav umjetne inteligencije koji je testiran sigurno naići na scenarije u stvarnom svijetu koji bi mogli proizvesti pristrane rezultate kad se upotrijebe u kontekstu koji se razlikuje od sastava podataka iz obuke i testiranja tog sustava; naglašava da bi EU trebao nastojati poboljšati transparentnost skupova podataka i algoritama, usko surađivati s razvojnim programerima u području umjetne inteligencije i smanjiti strukturalne društvene pristranosti te razmotriti pravila temeljne analize obveznih ljudskih prava u ranoj fazi razvoja;
139. objašnjava da se smislene obveze transparentnosti i objašnjivosti za sustave umjetne inteligencije, iako su u brojnim slučajevima korisne, možda neće moći provesti u svim slučajevima; napominje da prava intelektualnog vlasništva i poslovne tajne, moraju biti zaštićena od nezakonitih praksi kao što je industrijska špijunaža;
140. navodi da se zakonodavnim okvirom za intelektualno vlasništvo moraju i dalje poticati i štititi inovatori u području umjetne inteligencije tako da im se odobravaju patenti kao nagrada za razvoj i objavljivanje njihovih djela; smatra da su postojeći zakoni uglavnom dugoročno održivi, ali predlaže određene prilagodbe, uključujući ugradnju elemenata otvorenog koda, kao i upotrebu javne nabave da se odobri, gdje je to prikladno, softver otvorenog koda za rješenja koja se temelje na umjetnoj inteligenciji; predlaže nove oblike licenciranja patenata kako bi se osigurala dostupnost instrumenata regijama i inicijativama koji si ih inače ne bi mogli priuštiti;
141. smatra da bi obvezne samoprocjene ex ante rizika na temelju jasnih pravila i normi, kao i procjene učinka zaštite podataka, zajedno s procjenama sukladnosti treće strane s relevantnom i odgovarajućom oznakom CE, u kombinaciji s ex post provedbom tržišnog nadzora, mogle biti korisne da se osigura sigurnost i pouzdanost sustava umjetne inteligencije na tržištu; smatra da bi se, kako bi se spriječilo istiskivanje MSP-ova s tržišta, norme i smjernice o usklađivanju sa zakonodavstvom u području umjetne inteligencije trebale razvijati u bliskoj suradnji s malim poduzećima, da bi u najvećoj mogućoj mjeri trebale biti usklađene s međunarodnim normama te dostupne bez naknade;