Nacionalne strategije za umjetnu inteligenciju pokazuju da nekoliko država članica razmatra ili čak konkretno planira poduzeti zakonodavne mjere u pogledu građanskopravne odgovornosti za umjetnu inteligenciju. Stoga se očekuje da će države članice, ako EU ne bude djelovao, prilagoditi svoja nacionalna pravila o odgovornosti izazovima povezanima s umjetnom inteligencijom. To će dovesti do daljnje rascjepkanosti i povećanja troškova za poduzeća koja posluju u cijelom EU-u.

Ciljevi ovog Prijedloga ne mogu se na odgovarajući način ostvariti na nacionalnoj razini jer bi se donošenjem novih različitih nacionalnih pravila povećale pravna nesigurnost i rascjepkanost, čime bi se stvorile prepreke uvođenju proizvoda i usluga koji se temelje na umjetnoj inteligenciji na cijelom unutarnjem tržištu. Pravna nesigurnost posebno bi utjecala na poduzeća koja posluju prekogranično jer bi dovela do potrebe za dodatnim pravnim informiranjem/zastupanjem te dodatnih troškova upravljanja rizikom i neostvarenih prihoda. Usto bi se zbog različitih nacionalnih pravila o odštetnim zahtjevima za štete prouzročene umjetnom inteligencijom povećali transakcijski troškovi za poduzeća, osobito za prekograničnu trgovinu, što bi dovelo do znatnih prepreka na unutarnjem tržištu. Nadalje, pravna nesigurnost i rascjepkanost nerazmjerno utječu na start-up poduzeća i MSP-ove, koji čine većinu poduzeća i zaslužni su za najveći udio ulaganja na relevantnim tržištima.

Direktiva će pridonijeti uvođenju umjetne inteligencije. Uvjeti za uvođenje i razvoj tehnologija umjetne inteligencije na unutarnjem tržištu mogu se znatno poboljšati ako se usklađenim mjerama na razini EU-a spriječi rascjepkanost i poveća pravna sigurnost umjesto da se pravila o odgovornosti prilagođavaju na nacionalnoj razini. U gospodarskoj studiji na kojoj se temelji procjena učinka ovog Prijedloga zaključeno je, kao konzervativna procjena, da bi ciljane mjere usklađivanja građanskopravne odgovornosti za umjetnu inteligenciju imale pozitivan učinak od 5 do 7 % na proizvodnu vrijednost relevantne prekogranične trgovine u usporedbi s osnovnim scenarijem. Ta bi se dodana vrijednost ostvarila osobito smanjenjem rascjepkanosti i povećanjem pravne sigurnosti u pogledu izloženosti dionika odgovornosti. Smanjili bi se troškovi pravnog informiranja / pravnog zastupanja dionika, interni troškovi za upravljanje rizicima i troškovi za usklađivanje, a olakšalo bi se financijsko planiranje i procjene rizika za potrebe osiguranja te poduzećima, osobito MSP-ovima, omogućilo da istražuju nova prekogranična tržišta. Na temelju ukupne vrijednosti tržišta umjetne inteligencije u EU-u na koje utječu problemi povezani s obvezama koji se rješavaju ovom Direktivom procjenjuje se da će se njome ostvariti dodatna tržišna vrijednost od oko 500 milijuna EUR do oko 1,1 milijarde EUR.

Prva faza ograničena je na mjere povezane s teretom dokazivanja kako bi se riješili utvrđeni problemi povezani s umjetnom inteligencijom. Temelji se na materijalnim uvjetima odgovornosti koji trenutačno postoje u nacionalnim pravilima, kao što su uzročnost ili krivnja, ali je usmjerena na ciljane mjere povezane s dokazivanjem, čime se žrtvama osigurava jednaka razina zaštite kao u slučajevima koji ne uključuju UI sustave. Osim toga, od različitih alata dostupnih u nacionalnom pravu za smanjenje tereta dokazivanja za ovaj su Prijedlog odabrane oborive pretpostavke kao alat kojim se najmanje intervenira. Takve se pretpostavke obično primjenjuju u nacionalnim sustavima odgovornosti i s pomoću njih se uspostavlja ravnoteža među interesima tužitelja i tuženika. Namijenjene su i poticanju poštovanja postojećih obveza dužne pažnje utvrđenih na razini Unije ili na nacionalnoj razini. Prijedlog ne dovodi do prebacivanja tereta dokazivanja kako se dobavljače, operatore i korisnike UI sustava ne bi izložilo većem riziku od odgovornosti, što bi moglo ugroziti inovacije i dovesti do smanjenja uporabe proizvoda i usluga koji se temelje na umjetnoj inteligenciji.

U članku 1. navode se predmet i područje primjene ove Direktive: primjenjuje se na izvanugovorne građanskopravne zahtjeve za naknadu štete prouzročene sustavom umjetne inteligencije ako se takvi zahtjevi podnose u okviru sustava odgovornosti na temelju krivnje. To se odnosi na sustave kojima se predviđa zakonska odgovornost za naknadu štete prouzročene namjerno, nemarom ili propustom. Mjere predviđene ovom Direktivom mogu se neometano uklopiti u postojeće sustave građanskopravne odgovornosti jer ne utječu na definiciju temeljnih pojmova kao što su „krivnja” ili „šteta”, s obzirom na to da se značenje tih pojmova znatno razlikuje među državama članicama. Stoga ova Direktiva izvan pretpostavki koje se njome utvrđuju ne utječe na pravila Unije ili nacionalna pravila kojima se određuje, na primjer, koja strana snosi teret dokazivanja, koji je stupanj sigurnosti potreban u pogledu standarda dokazivanja ili kako se definira krivnja.

U skladu s člankom 3. stavkom 4. prvim podstavkom sud može naložiti takvo otkrivanje samo u mjeri u kojoj je to potrebno da bi se potkrijepio zahtjev s obzirom na to da bi te informacije mogle biti ključni dokazi za potraživanje oštećene osobe u slučaju štete koja je povezana sa sustavima umjetne inteligencije.

(3)Ako oštećena osoba traži naknadu za pretrpljenu štetu, općim pravilima država članica o odgovornosti na temelju krivnje obično se od te osobe zahtijeva da dokaže nemar ili namjernu štetnu radnju ili propust („krivnju”) osobe koja bi mogla biti odgovorna za tu štetu, kao i uzročno-posljedičnu vezu između tog čina i relevantne štete. Međutim, kad se između čina ili propusta osobe i štete nalazi umjetna inteligencija, specifičnosti određenih UI sustava, kao što su netransparentnost, autonomno ponašanje i složenost, mogu oštećenoj osobi pretjerano otežati, ako ne i onemogućiti, da ispuni zahtjeve tog tereta dokazivanja. Konkretno, moglo bi biti pretjerano teško dokazati da je određeni ulazni podatak za koji je odgovorna osoba koja je potencijalno odgovorna za štetu doveo do određenog izlaznog rezultata UI sustava koji je doveo do predmetne štete.

(12)[Aktom o digitalnim uslugama] u potpunosti se usklađuju pravila koja se primjenjuju na pružatelje posredničkih usluga na unutarnjem tržištu, što obuhvaća društvene rizike koji proizlaze iz usluga koje ti pružatelji nude, među ostalim u pogledu UI sustava koje upotrebljavaju. Ova Direktiva ne utječe na odredbe [Akta o digitalnim uslugama] kojima se osigurava sveobuhvatan i potpuno usklađen okvir za obveze dužne pažnje pružatelja usluga smještaja na poslužitelju u pogledu algoritamskog donošenja odluka, uključujući izuzeće od odgovornosti za širenje nezakonitog sadržaja koji su učitali korisnici njihovih usluga ako su ispunjeni uvjeti iz te uredbe.

(13)Izvan pretpostavki koje se njome utvrđuju, ovom se Direktivom ne usklađuju nacionalni zakoni kojima se određuje koja strana snosi teret dokazivanja ili koji je stupanj sigurnosti potreban u pogledu standarda dokazivanja.

(14)Ova Direktiva trebala bi slijediti pristup minimalnog usklađivanja. Takav pristup omogućuje tužiteljima da se u slučaju štete prouzročene sustavima umjetne inteligencije pozovu na povoljnija pravila nacionalnog prava. Stoga bi se nacionalnim zakonima, na primjer, moglo zadržati prebacivanje tereta dokazivanja u okviru nacionalnih sustava odgovornosti na temelju krivnje ili nacionalnih sustava odgovornosti bez krivnje (tzv. „objektivna odgovornost”) koji se već znatno razlikuju u nacionalnim zakonodavstvima, a koji bi se mogli primijeniti na štetu prouzročenu sustavima umjetne inteligencije.

(15)Trebalo bi osigurati i usklađenost s [Aktom o umjetnoj inteligenciji]. Stoga je primjereno da se u ovoj Direktivi primjenjuju iste definicije za UI sustave, dobavljače i korisnike. Osim toga, ovom bi se Direktivom trebali obuhvatiti zahtjevi za naknadu štete samo ako je šteta prouzročena izlaznim rezultatom ili nedostatkom izlaznog rezultata UI sustava krivnjom osobe, na primjer dobavljača ili korisnika u skladu s [Aktom o umjetnoj inteligenciji]. Nije potrebno obuhvatiti zahtjeve za naknadu u slučajevima kad je šteta prouzročena ljudskim činom ili propustom nakon ljudske procjene, dok je UI sustav pružao samo informacije ili savjete koje je relevantni ljudski akter uzeo u obzir. U potonjem slučaju moguće je pripisati štetu ljudskom činu ili propustu jer između njega i štete ne postoji izlazni rezultat UI sustava te stoga utvrđivanje uzročno-posljedične veze nije teže nego u situacijama koje ne uključuju UI sustave.

(16)Pristup informacijama o određenim visokorizičnim UI sustavima za koje se sumnja da su prouzročili štetu važan je čimbenik za utvrđivanje treba li tražiti naknadu i za potkrepljivanje zahtjeva za naknadu štete. Nadalje, [Aktom o umjetnoj inteligenciji] predviđaju se posebni zahtjevi za visokorizične UI sustave u pogledu dokumentacije, informacija i bilježenja događaja, ali se oštećenoj osobi ne daje pravo na pristup tim informacijama. Stoga je za potrebe utvrđivanja odgovornosti primjereno utvrditi pravila o otkrivanju relevantnih dokaza za one koji njima raspolažu. Time bi se trebao pružiti i dodatan poticaj za ispunjavanje relevantnih zahtjeva utvrđenih u [Aktu o umjetnoj inteligenciji] za dokumentiranje ili evidentiranje relevantnih informacija.

(17)U projektiranju, razvoju, uvođenju i radu visokorizičnih UI sustava obično sudjeluje velik broj osoba, što oštećenim osobama otežava utvrđivanje potencijalno odgovorne osobe za prouzročenu štetu i dokazivanje uvjeta za podnošenje zahtjeva za naknadu štete. Kako bi se oštećenim osobama omogućilo da utvrde je li zahtjev za naknadu štete osnovan, primjereno je potencijalnim tužiteljima dati pravo da od suda zatraže da naloži otkrivanje relevantnih dokaza prije podnošenja zahtjeva za naknadu štete. Takvo otkrivanje trebalo bi naložiti samo ako potencijalni tužitelj iznese činjenice i informacije dostatne za dokazivanje utemeljenosti zahtjeva za naknadu štete i ako je prethodno od dobavljača, osobe koja podliježe obvezama dobavljača ili korisnika zatražio da otkriju dokaze kojima raspolažu o određenim visokorizičnim UI sustavima za koje se sumnja da su prouzročili štetu, a oni su odbili taj zahtjev. Izdavanje naloga za otkrivanje trebalo bi pridonijeti smanjenju broja nepotrebnih sudskih sporova i troškova za moguće stranke u sporu prouzročenih neopravdanim zahtjevima ili zahtjevima s velikom vjerojatnosti neuspjeha. Ako dobavljač, osoba koja podliježe obvezama dobavljača ili korisnik odbiju otkriti dokaze prije izdavanja sudskog naloga, to ne bi trebalo dovesti do pretpostavke da oni ne poštuju relevantne obveze dužne pažnje.

(18)Ograničenje otkrivanja dokaza o visokorizičnim UI sustavima u skladu je s [Aktom o umjetnoj inteligenciji], kojim se predviđaju posebne obveze u pogledu dokumentacije, vođenja evidencije i pružanja informacija za operatore uključene u projektiranje, razvoj i uvođenje visokorizičnih UI sustava. Time se osigurava i nužna proporcionalnost tako što se od operatera UI sustava koji su niskorizični ili ne predstavljaju rizik ne zahtijeva da dokumentiraju informacije na razini sličnoj onoj koja se zahtijeva za visokorizične UI sustave na temelju [Akta o umjetnoj inteligenciji].

(19)Nacionalni sudovi trebali bi tijekom građanskog postupka moći naložiti da osobe koje već imaju obvezu dokumentirati ili evidentirati informacije u skladu s [Aktom o umjetnoj inteligenciji] otkriju ili čuvaju relevantne dokaze povezane sa štetom prouzročenom visokorizičnim UI sustavima bez obzira na to jesu li te osobe dobavljači, osobe koje imaju iste obveze kao dobavljači ili korisnici UI sustava, bilo kao tuženici ili treće strane u tužbi. Može se dogoditi da su dokazi koji su relevantni za predmet u posjedu subjekata koji nisu stranke u zahtjevu za naknadu štete, ali su obvezni dokumentirati ili evidentirati takve dokaze u skladu s [Aktom o umjetnoj inteligenciji]. Stoga je potrebno predvidjeti uvjete pod kojima se tim trećim stranama može naložiti otkrivanje relevantnih dokaza.

(20)Kako bi se održala ravnoteža između interesa stranaka uključenih u zahtjev za naknadu štete i interesa dotičnih trećih strana, sudovi bi trebali naložiti otkrivanje dokaza samo ako je to nužno i razmjerno za podupiranje zahtjeva ili mogućeg zahtjeva za naknadu štete. U tom bi se smislu otkrivanje trebalo odnositi samo na dokaze koji su potrebni za donošenje odluke o predmetnom zahtjevu za naknadu štete, na primjer samo na dijelove relevantne evidencije ili skupove podataka koji su potrebni za dokazivanje neusklađenosti sa zahtjevom utvrđenim u [Aktu o umjetnoj inteligenciji]. Kako bi se osigurala proporcionalnost takvih mjera otkrivanja ili čuvanja, nacionalni sudovi trebali bi imati učinkovita sredstva za zaštitu legitimnih interesa svih uključenih strana, na primjer zaštitu poslovnih tajni u smislu Direktive (EU) 2016/943 Europskog parlamenta i Vijeća i povjerljivih informacija, kao što su informacije koje se odnose na javnu ili nacionalnu sigurnost. Za poslovne tajne ili navodne poslovne tajne za koje je sud utvrdio da su povjerljive u smislu Direktive (EU) 2016/943, nacionalni sudovi trebali bi biti ovlašteni poduzeti posebne mjere kako bi se osigurala povjerljivost poslovnih tajni tijekom postupka i nakon njega te istodobno postigla poštena i proporcionalna ravnoteža između interesa nositelja poslovne tajne u pogledu čuvanja tajnosti i interesa oštećene osobe. To bi trebalo uključivati mjere kojima se pristup dokumentima koji sadržavaju poslovne tajne, saslušanjima ili njihovim prijepisima ili dokumentima ograničava na određeni broj osoba. Prilikom odlučivanja o takvim mjerama nacionalni sudovi trebali bi uzeti u obzir potrebu za osiguravanjem prava na djelotvoran pravni lijek i pošteno suđenje, legitimne interese stranaka i, prema potrebi, trećih osoba, te svu moguću štetu za bilo koju od stranaka i, prema potrebi, za treće osobe, koja može nastati prihvaćanjem ili odbijanjem tih mjera. Nadalje, kako bi se osigurala proporcionalna primjena mjere otkrivanja na treće strane u zahtjevima za naknadu štete, nacionalni sudovi trebali bi trećim stranama naložiti otkrivanje samo ako nije moguće dobiti dokaze od tuženika.

(21)Iako nacionalni sudovi mogu provesti svoje naloge za otkrivanje različitim mjerama, sve bi takve provedbene mjere mogle dovesti do odgode zahtjeva za naknadu štete i time potencijalno stvoriti dodatne troškove za stranke u sporu. Takve odgode i dodatni troškovi mogu oštećenim osobama otežati učinkovito korištenje pravnim lijekom. Stoga, ako tuženik u zahtjevu za naknadu štete ne otkrije dokaze kojima raspolaže nakon što mu to naloži sud, primjereno je utvrditi pretpostavku o nepoštovanju obveze dužne pažnje koju su ti dokazi trebali dokazati. Tom oborivom pretpostavkom skratit će se trajanje sudskih sporova i olakšati učinkovitiji sudski postupci. Tuženik bi trebao moći oboriti tu pretpostavku podnošenjem dokaza o suprotnom.

(22)Kako bi se olakšalo dokazivanje da je određeni ulazni podatak za koji je odgovorna osoba koja je potencijalno odgovorna za štetu doveo do određenog izlaznog rezultata UI sustava koji je doveo do predmetne štete, primjereno je pod određenim uvjetima predvidjeti pretpostavku o postojanju uzročno-posljedične veze. Iako tužitelj u tužbi na temelju krivnje obično mora dokazati štetu, ljudski čin ili propust koji su doveli do štete i uzročno-posljedičnu vezu između njih, ovom se Direktivom ne usklađuju uvjeti pod kojima nacionalni sudovi utvrđuju krivnju. Oni su i dalje uređeni primjenjivim nacionalnim pravom i, ako su zakoni usklađeni, primjenjivim pravom Unije. Slično tome, ovom se Direktivom ne usklađuju uvjeti povezani sa štetom, na primjer vrste štete koja je nadoknadiva, nego su i oni uređeni primjenjivim nacionalnim pravom i pravom Unije. Kako bi se primjenjivala pretpostavka o postojanju uzročno-posljedične veze u skladu s ovom Direktivom, krivnju tuženika trebalo bi utvrditi kao ljudski čin ili propust kojima se krši obveza dužne pažnje u skladu s pravom Unije ili nacionalnim pravom koji su izravno namijenjeni zaštiti od nastale štete. Stoga se ta pretpostavka može primijeniti, na primjer, u zahtjevu za naknadu štete za tjelesnu ozljedu ako sud utvrdi krivnju tuženika zbog nepoštovanja uputa za uporabu kojima se nastoji spriječiti šteta za fizičke osobe. Nepoštovanje obveza dužne pažnje koje nisu izravno namijenjene zaštiti od nastale štete ne dovodi do primjene pretpostavke. Primjerice, u slučaju da pružatelj usluga nadležnim tijelima ne podnese potrebnu dokumentaciju, to ne bi dovelo do primjene pretpostavke u zahtjevima za naknadu štete zbog tjelesne ozljede. Nadalje, trebalo bi utvrditi da se na temelju okolnosti slučaja može smatrati razumno vjerojatnim da je ta štetna radnja utjecala na izlazne rezultate UI sustava ili na njihov nedostatak. Naposljetku, od tužitelja bi se i dalje trebalo zahtijevati da dokaže da je šteta prouzročena izlaznim rezultatom ili nedostatkom rezultata.

(23)Takva se krivnja može utvrditi s obzirom na neusklađenosti s pravilima Unije kojima se posebno uređuju visokorizični UI sustavi, kao što su zahtjevi za određene visokorizične UI sustave uvedeni [Aktom o umjetnoj inteligenciji], zahtjevi koji se mogu uvesti budućim sektorskim zakonodavstvom za druge visokorizične UI sustave u skladu s [člankom 2. stavkom 2. Akta o umjetnoj inteligenciji] ili obveze dužne pažnje koje su povezane s određenim aktivnostima i koje se primjenjuju neovisno o tome upotrebljava li se umjetna inteligencija za tu aktivnost. S druge strane, ovom se Direktivom ne stvaraju niti usklađuju zahtjevi ili odgovornosti subjekata čija je djelatnost uređena tim pravnim aktima i stoga se njome ne stvaraju novi zahtjevi za naknadu štete. Utvrđivanje povrede takvog zahtjeva koja predstavlja krivnju provest će se u skladu s odredbama tih primjenjivih pravila prava Unije jer se ovom Direktivom ne uvode novi zahtjevi niti se njome utječe na postojeće zahtjeve. Na primjer, ova Direktiva ne utječe na izuzeće od odgovornosti za pružatelje posredničkih usluga ni na obveze dužne pažnje kojima podliježu na temelju [Akta o digitalnim uslugama]. Slično tome, Direktivom (EU) 2019/790 o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu i drugim relevantnim zakonodavstvom Unije o autorskom pravu treba utvrditi usklađenost sa zahtjevima propisanima za internetske platforme kako bi se izbjeglo neovlašteno stavljanje djela zaštićenih autorskim pravom na raspolaganje javnosti.

(24)U područjima koja nisu usklađena pravom Unije i dalje se primjenjuje nacionalno pravo, a krivnja se utvrđuje primjenjivim nacionalnim pravom. Svi nacionalni sustavi odgovornosti imaju obvezu dužne pažnje, a pritom se u njima kao standard ponašanja primjenjuju različite primjene načela djelovanja razumne osobe, čime se osigurava i siguran rad UI sustava kako bi se spriječilo nanošenje štete priznatim pravnim interesima. Takve obveze dužne pažnje mogle bi, na primjer, uključivati zahtjev da korisnici UI sustava za određene zadaće odaberu određeni UI sustav s posebnim značajkama ili da se određeni dijelovi stanovništva ne izlažu određenom UI sustavu. Nacionalnim pravom mogu se uvesti i posebne obveze namijenjene sprečavanju rizika za određene aktivnosti, koje se primjenjuju neovisno o tome upotrebljava li se umjetna inteligencija za tu aktivnost, na primjer prometna pravila ili obveze posebno osmišljene za UI sustave, kao što su dodatni nacionalni zahtjevi za korisnike visokorizičnih UI sustava u skladu s člankom 29. stavkom 2. [Akta o umjetnoj inteligenciji]. Ovom se Direktivom ne uvode takvi zahtjevi niti se njome utječe na uvjete za utvrđivanje krivnje u slučaju kršenja takvih zahtjeva.

(25)Čak i ako se utvrdi krivnja koja se sastoji od nepoštovanja obveze dužne pažnje koja je izravno namijenjena zaštiti od nastale štete, ne bi svaka krivnja trebala dovesti do primjene oborive pretpostavke koja je povezuje s izlaznim rezultatima umjetne inteligencije. Takva bi se pretpostavka trebala primjenjivati samo ako se na temelju okolnosti u kojima je nastala šteta može smatrati razumno vjerojatnim da je dotična krivnja utjecala na izlazni rezultat UI sustava ili na njegov nedostatak na način koji je prouzročio štetu. Na primjer, može se smatrati razumno vjerojatnim da je krivnja utjecala na izlazne rezultate ili na njihov nedostatak ako se ona sastoji od kršenja obveze dužne pažnje u pogledu ograničavanja opsega rada UI sustava i ako je šteta nastala izvan opsega rada. S druge strane, ne može se smatrati razumno vjerojatnim da je povreda obveze podnošenja određenih dokumenata ili registracije kod određenog tijela utjecala na izlazni rezultat UI sustava ili na njegov nedostatak, iako bi to moglo biti predviđeno za tu određenu aktivnost ili čak izričito primjenjivo na rad UI sustava.

(26)Ova Direktiva obuhvaća krivnju na temelju neusklađenosti s određenim zahtjevima utvrđenima u poglavljima 2. i 3. [Akta o umjetnoj inteligenciji] za dobavljače i korisnike visokorizičnih UI sustava koja pod određenim uvjetima može dovesti do primjene pretpostavke o postojanju uzročno-posljedične veze. Aktom o umjetnoj inteligenciji predviđa se potpuno usklađivanje zahtjeva za UI sustave, osim ako je u njemu izričito navedeno drukčije. Njime se usklađuju posebni zahtjevi za visokorizične UI sustave. Stoga se za potrebe zahtjeva za naknadu štete u kojima se primjenjuje pretpostavka o postojanju uzročno-posljedične veze u skladu s ovom Direktivom moguća krivnja dobavljača ili osoba koje podliježu obvezama dobavljača u skladu s [Aktom o umjetnoj inteligenciji] utvrđuje samo na temelju neusklađenosti s tim zahtjevima. S obzirom na to da u praksi tužitelju može biti teško dokazati takvu neusklađenost ako je tuženik dobavljač UI sustava, a u potpunosti u skladu s logikom [Akta o umjetnoj inteligenciji], ovom bi Direktivom trebalo predvidjeti i da bi se pri utvrđivanju je li dobavljač ispunio relevantne zahtjeve iz Akta o umjetnoj inteligenciji navedene u ovoj Direktivi trebali uzeti u obzir koraci koje je dobavljač poduzeo u okviru sustava upravljanja rizicima i rezultati sustava upravljanja rizicima, odnosno odluka o donošenju ili nedonošenju određenih mjera upravljanja rizicima. Sustav upravljanja rizicima koji je uspostavio dobavljač u skladu s [Aktom o umjetnoj inteligenciji] kontinuiran je iterativni postupak koji se odvija tijekom cijelog životnog ciklusa visokorizičnog UI sustava, a dobavljač u okviru tog sustava osigurava usklađenost s obveznim zahtjevima namijenjenima ublažavanju rizika, te stoga može biti koristan element za procjenu te usklađenosti. Ova Direktiva obuhvaća i slučajeve krivnje korisnika kad se ona sastoji od neusklađenosti s određenim posebnim zahtjevima utvrđenima [Aktom o umjetnoj inteligenciji]. Osim toga, krivnja korisnika visokorizičnih UI sustava može se utvrditi na temelju neusklađenosti s drugim obvezama dužne pažnje utvrđenima u pravu Unije ili nacionalnom pravu s obzirom na članak 29. stavak 2. [Akta o umjetnoj inteligenciji].

(27)Iako bi specifičnosti određenih UI sustava, kao što su autonomija i netransparentnost, tužitelju mogle pretjerano otežati ispunjavanje zahtjeva tereta dokazivanja, mogle bi postojati situacije u kojima takve poteškoće ne postoje jer bi podnositelju pritužbe mogli biti dostupni dostatni dokazi i stručno znanje za dokazivanje uzročno-posljedične veze. Do toga bi, primjerice, moglo doći u slučajevima koji uključuju visokorizične UI sustave u kojima je tužitelj mogao razumno pristupiti dostatnim dokazima i stručnom znanju zahvaljujući zahtjevima u pogledu dokumentacije i evidentiranja u skladu s [Aktom o umjetnoj inteligenciji]. U takvim situacijama sud ne bi trebao primijeniti pretpostavku.

(28)Pretpostavka o postojanju uzročno-posljedične veze mogla bi se primjenjivati i na UI sustave koji nisu visokorizični jer bi tužitelj mogao biti suočen s prekomjernim poteškoćama u dokazivanju. Na primjer, takve bi se poteškoće mogle procijeniti s obzirom na značajke određenih UI sustava, kao što su autonomija i netransparentnost, zbog kojih je u praksi vrlo teško objasniti unutarnje funkcioniranje UI sustava, što negativno utječe na sposobnost tužitelja da dokaže uzročno-posljedičnu vezu između krivnje tuženika i izlaznih rezultata umjetne inteligencije. Nacionalni sud trebao bi primijeniti pretpostavku ako je tužitelju pretjerano teško dokazati uzročnost jer je potrebno objasniti kako je ljudski čin ili propust doveo do izlaznog rezultata ili nedostatka rezultata UI sustava koji je prouzročio štetu. Međutim, od tužitelja se ne bi trebalo zahtijevati da objasni značajke predmetnog UI sustava ni način na koji te značajke otežavaju utvrđivanje uzročno-posljedične veze.

(29)Primjenom pretpostavke o postojanju uzročno-posljedične veze nastoji se oštećenoj osobi osigurati slična razina zaštite kao u situacijama u kojima umjetna inteligencija nije uključena i u kojima se takva veza stoga može lakše dokazati. Ipak, smanjenje tereta dokazivanja uzročno-posljedične veze nije uvijek primjereno u skladu s ovom Direktivom ako tuženik nije profesionalni korisnik, nego osoba koja upotrebljava UI sustav za svoje privatne aktivnosti. Kako bi se uravnotežili interesi između oštećene osobe i neprofesionalnog korisnika, u takvim je okolnostima potrebno uzeti u obzir mogu li takvi neprofesionalni korisnici povećati rizik da UI sustav zbog njihova ponašanja prouzroči štetu. Ako je dobavljač UI sustava ispunio sve svoje obveze i stoga se taj sustav smatrao dovoljno sigurnim da se stavi na tržište za određenu uporabu među neprofesionalnim korisnicima te se on zatim upotrebljava u tu svrhu, pretpostavka o postojanju uzročno-posljedične veze ne bi se trebala primjenjivati na korisnikov čin jednostavnog pokretanja rada takvog sustava. Neprofesionalni korisnik koji kupuje UI sustav i jednostavno ga pokreće u skladu s njegovom svrhom, ali pritom bitno ne utječe na uvjete njegova rada, ne bi trebao biti obuhvaćen pretpostavkom o postojanju uzročno-posljedične veze utvrđenom ovom Direktivom. Međutim, ako nacionalni sud utvrdi da je neprofesionalni korisnik bitno utjecao na uvjete rada UI sustava ili da je bio obvezan i sposoban utvrditi uvjete rada tog sustava, ali to nije učinio, tada bi se trebala primjenjivati pretpostavka o postojanju uzročno-posljedične veze, ako su ispunjeni svi ostali uvjeti. Do toga bi, primjerice, moglo doći ako neprofesionalni korisnik ne poštuje upute za uporabu ili druge primjenjive obveze dužne pažnje pri odabiru područja rada ili pri postavljanju uvjeta rada UI sustava. Time se ne dovodi u pitanje činjenica da bi dobavljač trebao odrediti namjenu UI sustava, uključujući poseban kontekst i uvjete uporabe, i prema potrebi ukloniti ili smanjiti rizike tog sustava u trenutku projektiranja i razvoja te pritom uzeti u obzir znanje i stručnost predviđenog korisnika.

(30)Budući da se ovom Direktivom uvodi oboriva pretpostavka, tuženik bi je trebao moći oboriti, osobito dokazivanjem da šteta nije mogla biti prouzročena njegovom krivnjom.

(31)Potrebno je predvidjeti preispitivanje ove Direktive [pet godina] nakon završetka razdoblja prenošenja. Konkretno, tim bi se preispitivanjem trebalo ispitati postoji li potreba za stvaranjem pravila o odgovornosti bez krivnje za potraživanja prema operateru, ako ona već nisu obuhvaćena drugim pravilima Unije o odgovornosti, osobito Direktivom 85/374/EEZ, u kombinaciji s obveznim osiguranjem za rad određenih UI sustava, kako je predložio Europski parlament. U skladu s načelom proporcionalnosti primjereno je procijeniti takvu potrebu s obzirom na relevantan tehnološki i regulatorni razvoj u nadolazećim godinama, pritom uzimajući u obzir učinak i utjecaj na uvođenje i prihvaćanje UI sustava, osobito za MSP-ove. U okviru tog preispitivanja trebalo bi, među ostalim, uzeti u obzir rizike od povreda važnih pravnih vrijednosti kao što su život, zdravlje i vlasništvo trećih strana prouzročenih uporabom proizvoda ili usluga koji se temelje na umjetnoj inteligenciji. Tim bi preispitivanjem trebalo analizirati i učinkovitost mjera predviđenih ovom Direktivom u otklanjanju takvih rizika te razvoj odgovarajućih rješenja na tržištu osiguranja. Kako bi se osigurala dostupnost informacija potrebnih za provođenje takvog preispitivanja, potrebno je prikupiti podatke i druge potrebne dokaze koji obuhvaćaju relevantna pitanja.