Što se određeni automatizirani alat u ostvarivanju rezultata više oslanja na vanjske čimbenike, kao što su podaci, doprinosi ljudi ili drugih sustava, to je teže osigurati da se tim alatom prava ne krše već od samog početka, na primjer zbog određenih ukorijenjenih pristranosti koje mogu utjecati na donošenje odluka u kontekstu rada. Što se više podataka prikuplja o ljudima, to je lakše pratiti te ljude i narušavati njihovu privatnost. Mrežni učinci mogu smanjiti moć pojedinaca u odnosu na velike organizacije, na primjer na internetskim tržištima ili platformama za rad, na kojima pojedinci imaju malu pregovaračku moć ili male mogućnosti da se organiziraju. Istodobno, društvene mreže koriste se za širenje mržnje i nezakonitog sadržaja, primjerice kad se njima širi nezakonit govor mržnje, materijal koji sadržava seksualno zlostavljanje djece ili teroristički sadržaj. Nadalje, potrebno je još mnogo rada da bi se svima pomoglo u ostvarivanju koristi od novih i korisnih alata u situacijama u kojima je pristup internetu nedostatan ili nema dovoljno opreme ili znanja o načinu upotrebe tih alata.

Širenje dezinformacija, pogrešnih informacija i teorija zavjere može dovesti do polarizirajućih rasprava i ugroziti zdravlje, sigurnost i okoliš. Širenjem dezinformacija može se i otežati sposobnost ljudi da donose odluke utemeljene na točnim činjenicama. U nekim slučajevima dezinformacije čine govor koji država može legitimno ograničiti (poput rasističkog i ksenofobičnog poticanja na nasilje i mržnju). Međutim, širenje dezinformacija vrlo je često zaštićeno pravom na slobodu izražavanja, čak i ako za te dezinformacije ne postoje nikakvi znanstveni dokazi niti se one temelje na stvarnim događajima. Kad je riječ o zaštićenom govoru, države se moraju suzdržavati od cenzure. Kako bi bile učinkovite, mjere za ograničavanje dosega dezinformacija i teorija zavjere moraju biti popraćene poticanjem povoljnog okruženja za uključivu i pluralističku javnu raspravu. To je osobito relevantno kad je riječ o izborima.

Prijedlog nove uredbe o općoj sigurnosti proizvoda

Osim toga, kako bi se osigurali dodatni sektorski zahtjevi, Komisija je u lipnju 2021., kao dio preispitivanja okvira EU-a za sigurnost proizvoda, donijela i objavila Prijedlog nove uredbe o općoj sigurnosti proizvoda. Tim prijedlogom, koji se temelji na Prijedlogu akta o digitalnim uslugama, uveli bi se dodatni zahtjevi za internetska tržišta u pogledu nesigurnih proizvoda kao posebne kategorije nezakonitog sadržaja. Suzakonodavci trenutačno raspravljaju o prijedlogu.

5.Zaštita temeljnih prava u okviru primjene umjetne inteligencije

Primjena tehnologija umjetne inteligencije može imati znatne pozitivne učinke na naša društva. Njome se može povećati učinkovitost raznih postupaka ili se mogu poticati inovacije i istraživanja. Može se upotrebljavati i za promicanje različitih temeljnih prava, kao što su pravo na slobodu izražavanja i informiranja ili pravo na zdravstvenu zaštitu te za ostvarivanje napretka u važnim pitanjima od javnog interesa kao što su javna sigurnost ili javno zdravlje.

S druge strane, ako se umjetna inteligencija bez odgovarajućih zaštitnih mjera i kontrola kvalitete upotrebljava za automatiziranje ili podupiranje procesa donošenja odluka ili za aktivnosti kao što je nadzor, to može dovesti i do kršenja prava pojedinaca. Takva kršenja prava mogu biti velikih razmjera, ovisno o tome koliko široko se sustav upotrebljava, te ih može biti teško spriječiti ili otkriti ako sustav umjetne inteligencije nije dovoljno transparentan ili ljudi nisu svjesni da se takav sustav primjenjuje. Primjerice, upotreba umjetne inteligencije za izvođenje informacija o ljudima može utjecati na zaštitu podataka i privatnost. Pristranost u algoritmima ili podacima za učenje, kao što je rodna pristranost ili pristranost u odnosu na etničko ili rasno podrijetlo, može dovesti do nepravednih i diskriminirajućih ishoda. Ako je sustav za procjenjivanje potencijalnog uspjeha u radu poučen uglavnom podacima o muškarcima, vjerojatno će imati lošije rezultate ako ga se primijeni za analiziranje podataka o ženama, pa će to vjerojatno dovesti do diskriminacije. Osim toga, primjena umjetne inteligencije može utjecati i na prava na ljudsko dostojanstvo, dobru upravu, zaštitu potrošača, socijalnu sigurnost i socijalnu pomoć, slobodu izražavanja, slobodu okupljanja, obrazovanje, azil, kolektivno pregovaranje i djelovanje, poštene i pravične radne uvjete, pristup preventivnoj zdravstvenoj zaštiti, kulturnu i jezičnu raznolikost, zaštitu podataka i poštovanje privatnog života te na prava ranjivih skupina kao što su djeca. Ako se ti sustavi upotrebljavaju u kontekstu kaznenog progona ili pravosuđa, mogu utjecati i na pretpostavku nedužnosti te na pravo na pravično suđenje i pravo na obranu. Nadalje, nedostupnost ili nepostojanje relevantnih informacija o automatiziranim sustavima otežava djelotvorno izvršavanje obveza povezanih s temeljnim pravima i pristup pojedinaca pravnim lijekovima.

Što je umjetna inteligencija i koje njezine specifične karakteristike mogu dovesti do rizika?



– Umjetna inteligencija naziv je za skup tehnologija koje se posljednjih godina vrlo brzo razvijaju. U slučaju određenih vrsta sustava umjetne inteligencije njihove funkcije izvršavaju se prema pravilima koja se automatski generiraju i nisu ih izričito programirali ljudi. To ponekad može dovesti do impresivnih rezultata, ali isto tako i do problema. Na temelju OECD-ove definicije, umjetna inteligencija u Aktu o umjetnoj inteligenciji definira se kao softver koji je razvijen uz pomoć pristupa strojnog učenja, pristupa koji se temelje na logici i pristupa koji se temelje na znanju ili statističkih pristupa i koji može, za zadani skup ciljeva koje odredi čovjek, generirati izlazne rezultate, kao što su sadržaj, predviđanja, preporuke ili odluke, koji utječu na okruženja s kojima je umjetna inteligencija u interakciji. – Zbog netransparentnosti i složenosti (u rad sustava uključeni su mnogi sastavni dijelovi i procesi) određenih sustava umjetne inteligencije teško je utvrditi i dokazati moguća kršenja propisa, uključujući odredbe kojima se osigurava poštovanje temeljnih prava, te ući u trag mogućim pogreškama ili neispravnostima sustava. – Određena podskupina aplikacija umjetne inteligencije može se neprekidno prilagođavati, čak i tijekom njihove upotrebe, te mijenjati i razvijati na nepredviđene načine, a to se ne može lako pratiti. To dovodi do određenog stupnja nepredvidivosti, koja može utjecati na sigurnost ili temeljna prava. – Sposobnost tih sustava za autonomni rad može utjecati na sigurnost jer je nekim sustavima umjetne inteligencije za obavljanje njihovih zadaća potrebno vrlo malo ljudske intervencije ili im ona uopće nije potrebna. – Ovisnost određenih sustava o podacima i moguće pristranosti ugrađene u algoritme mogu prouzročiti ili povećati sistemske pristranosti i pogreške. Ako ti sustavi nisu pravilno projektirani i testirani i ako se ne upotrebljavaju pravilno, mogu dovesti do pogoršanja negativnih posljedica kao što je diskriminacija.

5.1.Stanje i mjere na razini država članica

Države članice EU-a posljednjih su godina nastojale riješiti probleme koji proizlaze iz primjene tehnologija umjetne inteligencije. Mnoge su izradile nacionalne strategije za umjetnu inteligenciju u kojima su istaknule potrebu da se poštuju temeljna prava. Osim toga, države članice izradile su ili planiraju izraditi smjernice i etičke standarde kojima se korisnicima alata umjetne inteligencije pomaže u osiguravanju transparentnosti, sljedivosti i otpornosti te u otklanjanju potencijalnih pristranosti i pronalaženju djelotvornih načina za ispunjavanje njihovih obveza poštovanja temeljnih prava. U nekim su slučajevima za izradu smjernica i razvoj stručnog znanja zaduženi članovi akademske zajednice ili stručne skupine osnovane u tu svrhu.

Države članice, djelujući zajedno na razini EU-a, istaknule su da je potrebno osigurati da se prava iz Povelje poštuju u potpunosti te su pozvale na preispitivanje postojećeg relevantnog zakonodavstva kako bi se osiguralo da je svrsishodno radi iskorištavanja novih mogućnosti i rješavanja problema nastalih upotrebom umjetne inteligencije. U listopadu 2020., 26 od 27 država članica donijelo je dokument pod naslovom „Povelja o temeljnim pravima u kontekstu umjetne inteligencije i digitalnih promjena”, u kojem su pozvale na rješavanje problema netransparentnosti, složenosti, pristranosti, određenog stupnja nepredvidivosti i djelomično autonomnog ponašanja određenih sustava umjetne inteligencije kako bi se osigurala njihova usklađenost s temeljnim pravima i olakšala provedba pravnih propisa. Države članice naglasile su da je važno da se u to uključe razni dionici, među ostalim i iz civilnog društva, kako bi mogli pridonijeti svojim stručnim znanjem.

U trenutku donošenja ovog izvješća ni jedna država članica EU-a nije donijela posebno zakonodavstvo kojim bi se rješavala pitanja povezana s temeljnim pravima proizišla iz upotrebe umjetne inteligencije. Umjesto toga čini se da su se tijela u državama članicama oslanjala na postojeće zakonodavstvo. Jedan je talijanski sud 2017. talijanskom Ministarstvu obrazovanja naložio da objavi algoritam za automatizirano donošenje odluka koji je upotrebljavalo za upravljanje mobilnošću radnika, i to na temelju prava na pristup dokumentima, koje omogućuje i pravo na djelotvoran pravni lijek. Finski Nacionalni sud za nediskriminaciju i jednakost u odluci iz 2018. smatrao je da je u slučaju ocjenjivanja kreditne sposobnosti na temelju statističkih podataka koji se odnose na spol, boravište, dob i jezik umjesto na temelju pojedinačne procjene riječ o diskriminaciji. Nizozemski sud ukinuo je u veljači 2020. zakonodavni akt kojim je uspostavljen sustav za otkrivanje prijevara i to na temelju temeljnog prava na privatni život kako je ugrađeno u Europsku konvenciju o ljudskim pravima. Sustav SyRI (engl. System Risk Indication) upotrebljavao se za analiziranje podataka koje su prikupila razna javna tijela u svrhu otkrivanja osoba koje bi mogle počiniti prijevaru povezanu sa socijalnim naknadama. Nizozemski sud utvrdio je da upotreba sustava SyRI nije bila dovoljno transparentna i da zadiranje u pravo na privatnost primjenom tog sustava nije bilo proporcionalno cilju otkrivanja prijevara.

Ti primjeri pokazuju da su se države članice već suočile s problemima proizišlima iz upotrebe umjetne inteligencije u odnosu na temeljna prava. Pristupom za rješavanje problema povezanih s umjetnom inteligencijom koji je Komisija predložila nastoji se ojačati djelotvorna zaštita temeljnih prava te istodobno poticati inovacije u području umjetne inteligencije.