Tehokkaat vastuusäännöt tarjoavat myös taloudellisen kannustimen noudattaa turvallisuussääntöjä ja auttavat siten estämään vahingon syntymistä. Lisäksi tällä ehdotuksella edistetään tekoälysäädöksessä asetettujen suuririskisiä tekoälyjärjestelmiä koskevien vaatimusten täytäntöönpanoa, koska näiden vaatimusten noudattamatta jättäminen on tärkeä todistustaakan keventämistä edistävä tekijä. Ehdotus on myös yhdenmukainen ehdotettujen yleisten ja alakohtaisten tuoteturvallisuussääntöjen kanssa, joita sovelletaan tekoälyä hyödyntäviin konetuotteisiin ja radiolaitteisiin.

Tekoälysäädöstä koskevassa ehdotuksessa komissio on ehdottanut sääntöjä, joilla pyritään vähentämään turvallisuusriskejä ja suojaamaan perusoikeuksia. Turvallisuus ja vastuu ovat saman kolikon kaksi eri puolta: niillä on merkitystä eri ajankohtina ja ne tukevat toisiaan. Vaikka turvallisuuden takaamista ja perusoikeuksien suojaamista koskevat säännöt vähentävät riskejä, ne eivät poista niitä kokonaan. Jos tällainen riski toteutuu, vahinkoja voi edelleen tapahtua. Tällaisissa tapauksissa sovelletaan tämän ehdotuksen mukaisia vastuusääntöjä.

Nykyiset, erityisesti tuottamukseen perustuvat kansalliset vastuusäännöt eivät sovellu tekoälyä hyödyntävien tuotteiden ja palvelujen aiheuttamia vahinkoja koskevien korvausvaateiden käsittelyyn. Tällaisten sääntöjen mukaan uhrin on todistettava, että vahingon aiheuttanut henkilö on toiminut sääntöjenvastaisesti tai laiminlyönyt velvollisuutensa. Tekoälyn erityispiirteet, kuten monimutkaisuus, itsenäisyys ja läpinäkymättömyys (niin sanottu musta laatikko -vaikutus), voivat tehdä vastuussa olevan henkilön yksilöimisestä ja vahingonkorvausvaateen hyväksymiseen tarvittavien vaatimusten täyttymisen todistamisesta uhreille vaikeaa tai kohtuuttoman kallista. Vahingonkorvausta vaativille uhreille voi erityisesti aiheutua hyvin korkeita aloituskustannuksia, ja oikeudenkäynnit ovat huomattavasti pidempiä verrattuna tapauksiin, joissa ei ole kyse tekoälystä. Tämä voi kokonaan estää uhreja vaatimasta korvausta. Myös Euroopan parlamentti on maininnut nämä huolenaiheet 3. toukokuuta 2022 antamassaan päätöslauselmassa tekoälystä digitaalisella aikakaudella.

Lisäksi näkyvissä on konkreettisia merkkejä siitä, että jotkin jäsenvaltiot harkitsevat yksipuolisia lainsäädäntötoimenpiteitä vastatakseen tekoälyyn liittyviin erityisiin vastuukysymyksiin. Esimerkiksi Tšekissä, Italiassa, Maltassa, Puolassa ja Portugalissa hyväksytyissä tekoälystrategioissa mainitaan vastuun selventämiseen liittyviä aloitteita. Koska jäsenvaltioiden voimassa olevien siviilioikeudellista vastuuta koskevien sääntöjen välillä on suuria eroja, on todennäköistä, että kaikissa kansallisissa tekoälyyn liittyvissä vastuutoimenpiteissä noudatettaisiin voimassa olevia ja toisistaan poikkeavia kansallisia lähestymistapoja, mikä lisäisi oikeudellista pirstaloitumista.

Ehdotus on unionin yleisen digitaalistrategian mukainen, koska sillä edistetään ihmisen hyväksi toimivaa teknologiaa, joka on yksi tiedonannossa Euroopan digitaalista tulevaisuutta rakentamassa esitettyjen poliittisten suuntaviivojen ja tavoitteiden kolmesta pääpilarista.

Ensimmäinen vaihe rajoittuu todistustaakkaa koskeviin toimenpiteisiin havaittujen tekoälykohtaisten ongelmien ratkaisemiseksi. Se perustuu kansallisiin sääntöihin tällä hetkellä sisältyviin vastuun aineellisiin edellytyksiin, kuten syy-yhteyteen tai tuottamukseen, mutta siinä keskitytään näyttöön perustuviin kohdennettuihin toimenpiteisiin, joilla varmistetaan, että uhreilla on sama suojelun taso kuin tapauksissa, joihin ei liity tekoälyjärjestelmien myötävaikutusta. Lisäksi kansallisessa lainsäädännössä todistustaakan keventämiseksi käytettävissä olevista eri välineistä on tässä ehdotuksessa päätetty käyttää kumottavissa olevia olettamia, koska ne ovat vähiten interventionistinen väline. Tällaiset olettamat ovat yleinen osa kansallisia vastuujärjestelmiä, ja ne tasapainottavat kantajien ja vastaajien etuja. Samalla ne on suunniteltu kannustamaan nykyisten unionin tai kansallisella tasolla säädettyjen huolellisuusvelvoitteiden noudattamiseen. Ehdotus ei johda todistustaakan kääntymiseen, jotta ei lisättäisi tekoälyjärjestelmien tarjoajiin, toiminnanharjoittajiin ja käyttäjiin kohdistuvia vastuuriskejä, jotka voisivat haitata innovointia ja vähentää tekoälyä hyödyntävien tuotteiden ja palvelujen käyttöönottoa.

Direktiivin 1 artiklassa määritellään tämän direktiivin kohde ja soveltamisala: sitä sovelletaan sopimuksenulkoisiin siviilioikeudellisiin korvausvaateisiin, jotka koskevat tekoälyjärjestelmän aiheuttamia vahinkoja, kun tällaiset korvausvaateet esitetään tuottamukseen perustuvaa vastuuta koskevien järjestelmien puitteissa. Tämä tarkoittaa nimenomaan järjestelmiä, joissa säädetään lakisääteisestä velvollisuudesta korvata vahingot, jotka on aiheutettu tahallisesti tai jotka ovat aiheutuneet huolimattomuuden tai laiminlyönnin seurauksena. Direktiivissä säädetyt toimenpiteet voivat sopia kitkattomasti nykyisiin siviilioikeudellisiin vastuujärjestelmiin, koska niissä noudatetaan lähestymistapaa, jossa ei puututa ’tuottamuksen’ tai ’vahingon’ kaltaisten peruskäsitteiden määritelmiin. Näiden käsitteiden merkitys vaihtelee nimittäin huomattavasti jäsenvaltioiden välillä. Näin ollen direktiivi ei siinä käyttöön otettavien olettamien lisäksi vaikuta unionin tai kansallisiin sääntöihin, joilla määritetään esimerkiksi se, millä osapuolella on todistustaakka, mikä varmuusaste vaaditaan todistustaakan osalta tai miten tuottamus määritellään.

Tällaiset välineet eivät ole uusia; niitä on käytössä kansallisissa lainsäädäntöjärjestelmissä. Näin ollen näistä kansallisista välineistä on hyötyä pohdittaessa, miten tekoälyyn nykyisten vastuusääntöjen puitteissa liittyviä ongelmia voidaan ratkaista siten, että eri kansallisiin oikeusjärjestelmiin puututaan mahdollisimman vähän.

Sopivien oikeudellisten välineiden valikoima on rajallinen, kun otetaan huomioon todistustaakkakysymyksen luonne ja tekoälyn erityispiirteet, joihin liittyy ongelmia nykyisten vastuusääntöjen kannalta. Tältä osin tällä direktiivillä kevennetään todistustaakkaa hyvin kohdennetulla ja oikeasuhteisella tavalla todisteiden esittämisen ja kumottavissa olevien olettamien avulla. Siinä säädetään vahingonkorvausta hakevien mahdollisuudesta saada suuririskisiä tekoälyjärjestelmiä koskevia tietoja, jotka on tallennettava/dokumentoitava tekoälysäädöksen mukaisesti. Lisäksi kumottavissa olevat olettamat antavat tekoälyjärjestelmien aiheuttamista vahingoista korvausta hakeville kohtuullisemman todistustaakan ja mahdollisuuden saada perustellut korvausvaateet hyväksyttyä.

Ehdotetun direktiivin tarkoituksena on parantaa sisämarkkinoiden toimintaa asettamalla yhdenmukaiset vaatimukset tietyille sopimuksenulkoisen siviilioikeudellisen vastuun näkökohdille tekoälyjärjestelmien myötävaikutuksella aiheutuneiden vahinkojen osalta. Se on jatkotoimi Euroopan parlamentin päätöslauselmalle 2020/2014(INL), ja sillä mukautetaan yksityisoikeutta digitaalitalouteen siirtymisen tarpeisiin.

Direktiivin 3 artiklan 5 kohdassa esitetään olettama huolellisuusvelvoitteen noudattamatta jättämisestä. Tämä on menettelyllinen väline, jolla on merkitystä vain tapauksissa, joissa vahingonkorvausvaateen tosiasiallinen vastaaja kantaa seuraukset siitä, ettei ole noudattanut todisteiden esittämistä tai säilyttämistä koskevaa pyyntöä. Vastaajalla on oikeus kumota tämä olettama. Tässä kohdassa esitetyllä toimenpiteellä pyritään edistämään todisteiden esittämistä mutta myös nopeuttamaan oikeudenkäyntiä.

Samoin 3 artiklan 4 kohdan neljännen alakohdan tarkoituksena on varmistaa, että tietojen esittämis- tai säilyttämismääräyksen kohteena olevalla henkilöllä on käytettävissään asianmukaiset menettelylliset oikeussuojakeinot.

Lisäksi 2 artiklan 6 kohdan c alakohdassa säädetään, että vahingonkorvauskanteen voi nostaa myös henkilö, joka toimii yhden tai useamman vahinkoa kärsineen osapuolen puolesta unionin tai kansallisen lainsäädännön mukaisesti. Tämän säännöksen tarkoituksena on antaa tekoälyjärjestelmän vahingoittamille paremmat mahdollisuudet saada vaateensa tuomioistuimen arvioitavaksi myös tapauksissa, joissa yksittäisten kanteiden nostaminen voi vaikuttaa liian kalliilta tai hankalalta tai joissa yhteisten kanteiden avulla voidaan saavuttaa mittakaavaetuja. Jotta tekoälyjärjestelmien aiheuttamien vahinkojen uhrit voisivat vaatia tähän direktiiviin perustuvien oikeuksiensa täytäntöönpanoa edustajakanteilla, direktiivin 6 artiklassa muutetaan direktiivin (EU) 2020/1828 liitettä I.

Direktiivin 2 artiklan 6 kohdan b alakohdassa säädetään, että vahingonkorvausvaateita voivat esittää vahinkoa kärsineen lisäksi henkilöt, jotka ovat vahinkoa kärsineen oikeusseuraajia tai joille oikeudet ovat siirtyneet. Sijaantulo on kolmannen osapuolen (kuten vakuutusyhtiön) olettama toisen osapuolen laillisesta oikeudesta periä velka tai saada vahingonkorvausta. Tämä tarkoittaa, että henkilöllä on oikeus panna täytäntöön toiselle henkilölle kuuluvat oikeudet omaksi edukseen. Sijaantulo koskisi myös kuolleen uhrin perillisiä.

Tämä direktiiviehdotus on hyväksytty yhdessä tuotevastuudirektiivin 85/374/ETY tarkistamista koskevan ehdotuksen kanssa paketissa, jonka tarkoituksena on mukauttaa vastuusääntöjä digiaikaan ja tekoälyyn ja varmistaa näiden kahden toisiaan täydentävän säädöksen tarvittava yhdenmukaistaminen.

Muiden kuin suuririskisten tekoälyjärjestelmien osalta 4 artiklan 5 kohdassa vahvistetaan syy-yhteyttä koskevan olettaman sovellettavuutta koskeva edellytys, jonka mukaan tuomioistuimen on todettava, että kantajan on kohtuuttoman vaikea todistaa syy-yhteyttä. Tällaisia vaikeuksia on arvioitava tekoälyjärjestelmien tiettyjen ominaispiirteiden, kuten itsenäisyyden ja läpinäkymättömyyden, perusteella. Nämä tekevät tekoälyjärjestelmän sisäisen toiminnan selittämisestä käytännössä erittäin vaikeaa, mikä heikentää kantajan kykyä todistaa syy-yhteys vastaajan tuottamuksen ja tekoälyn tuotoksen välillä.

Artiklan 2 ja 3 kohdassa erotetaan toisistaan vaateet, jotka esitetään suuririskisen tekoälyjärjestelmän tarjoajaa tai sellaista henkilöä vastaan, johon sovelletaan tekoälysäädöksen mukaisia tarjoajan velvollisuuksia, ja toisaalta vaateet, jotka esitetään tällaisten järjestelmien käyttäjää vastaan. Tältä osin artiklassa noudatetaan tekoälysäädöksen vastaavia säännöksiä ja asiaankuuluvia edellytyksiä. Kun on kyse 4 artiklan 2 kohtaan perustuvista vaateista, vastaajien kyseisessä kohdassa lueteltujen velvollisuuksien noudattamista on arvioitava myös tekoälysäädöksen mukaisen riskinhallintajärjestelmän ja sen tulosten eli riskinhallintatoimenpiteiden perusteella.

Kantajan on osoitettava vastaajan tuottamus sovellettavien unionin tai kansallisten sääntöjen mukaisesti. Tällainen tuottamus voidaan todeta esimerkiksi, jos henkilö on jättänyt noudattamatta huolellisuusvelvoitetta, joka perustuu tekoälysäädökseen tai muihin unionin tasolla vahvistettuihin sääntöihin, esimerkiksi niihin, joilla säännellään automaattisen seurannan ja päätöksenteon käyttöä alustatyössä tai miehittämättömien ilma-alusten käyttöä. Tuomioistuin voi myös olettaa tällaisen tuottamuksen sen perusteella, että todisteiden esittämistä tai säilyttämistä koskevaa 3 artiklan 5 kohdan mukaista tuomioistuimen määräystä ei ole noudatettu. Syy-yhteyttä koskevan olettaman käyttöönotto on kuitenkin asianmukaista vain, jos voidaan pitää todennäköisenä, että kyseinen tuottamus on vaikuttanut kyseiseen tekoälyjärjestelmän tuotokseen tai sen puuttumiseen, mitä voidaan arvioida tapauksen yleisten olosuhteiden perusteella. Samalla kantajan on kuitenkin osoitettava, että vahingon aiheutti tekoälyjärjestelmä (eli sen tuotos tai tuotoksen puuttuminen).

(7)Tämän direktiivin tarkoituksena on edistää sisämarkkinoiden moitteetonta toimintaa yhdenmukaistamalla tiettyjä kansallisia sääntöjä, jotka koskevat sopimuksenulkoista tuottamukseen perustuvaa vastuuta. Näin pyritään varmistamaan, että henkilöillä, jotka hakevat korvausta tekoälyjärjestelmän heille aiheuttamasta vahingosta, on samantasoinen suoja kuin henkilöillä, jotka hakevat korvausta ilman tekoälyjärjestelmän myötävaikutusta aiheutuneista vahingoista. Jäsenvaltiot eivät voi riittävällä tavalla saavuttaa tätä tavoitetta, koska asiaankuuluvat sisämarkkinoiden esteet liittyvät kansallisella tasolla toteutettavien yksipuolisten ja pirstaloituneiden sääntelytoimenpiteiden riskiin. Kun otetaan huomioon tämän direktiivin soveltamisalaan kuuluvien tuotteiden ja palvelujen digitaalinen luonne, viimeksi mainitulla riskillä on merkitystä erityisesti rajatylittävissä tilanteissa.

(3)Kun vahinkoa kärsinyt hakee korvausta kärsimästään vahingosta, jäsenvaltioiden yleisissä tuottamukseen perustuvaa vastuuta koskevissa säännöissä edellytetään yleensä, että kyseinen henkilö todistaa mahdollisesti vastuussa olevan henkilön huolimattomuuden tai tahallisesti vahinkoa aiheuttavan teon tai laiminlyönnin (’tuottamuksen’) sekä syy-yhteyden kyseisen tuottamuksen ja vahingon välillä. Jos henkilön teon tai laiminlyönnin ja vahingon välillä on tekoälyä, tiettyjen tekoälyjärjestelmien erityispiirteet, kuten läpinäkymättömyys, itsenäinen käyttäytyminen ja monimutkaisuus, voivat kuitenkin aiheuttaa sen, että vahinkoa kärsineen on kohtuuttoman vaikeaa tai jopa mahdotonta täyttää tätä todistustaakkaa. Kohtuuttoman vaikeaa voi olla erityisesti sen osoittaminen, että tietyt syöttötiedot, joista mahdollisesti vastuussa oleva henkilö vastaa, olivat aiheuttaneet tekoälyjärjestelmän tietyn tuotoksen, joka johti kyseessä olevaan vahinkoon.

(2)Toisaalta tekoäly voi sen soveltamiseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa riskejä ja vahingoittaa unionin tai jäsenvaltioiden lainsäädännöllä suojattuja etuja ja oikeuksia. Tekoälyn käyttö voi esimerkiksi vaikuttaa haitallisesti useisiin perusoikeuksiin, kuten oikeuteen elämään, ruumiilliseen koskemattomuuteen sekä syrjimättömyyteen ja yhdenvertaiseen kohteluun. Euroopan parlamentin ja neuvoston asetuksessa (EU) …/… [tekoälysäädös] säädetään vaatimuksista, joiden tarkoituksena on vähentää turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä, kun taas muissa unionin säädöksissä säädetään yleisistä ja alakohtaisista tuoteturvallisuussäännöistä, joita sovelletaan myös tekoälyä hyödyntäviin konetuotteisiin ja radiolaitteisiin. Vaikka tällaisilla vaatimuksilla, joiden tarkoituksena on vähentää turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä, pyritään ehkäisemään, seuraamaan ja torjumaan riskejä ja siten käsittelemään yhteiskunnallisia huolenaiheita, ne eivät takaa yksilöllistä korvausta niille, jotka ovat kärsineet tekoälystä johtuvia vahinkoja. Voimassa olevissa vaatimuksissa säädetään erityisesti tekoälyjärjestelmiin liittyvistä luvista, tarkastuksista, seurannasta ja hallinnollisista seuraamuksista vahinkojen ehkäisemiseksi. Niissä ei säädetä vahinkoa kärsineen oikeudesta saada korvausta tekoälyjärjestelmän tuottaman tuotoksen tai sen puuttumisen aiheuttamasta vahingosta.

(13)Direktiivillä käyttöön otettuja olettamia lukuun ottamatta sillä ei yhdenmukaisteta kansallisia säädöksiä, jotka koskevat sitä, millä osapuolella on todistustaakka tai minkä tasoinen varmuus todistustaakan osalta vaaditaan.

(14)Direktiivissä olisi noudatettava vähimmäistason yhdenmukaistamiseen perustuvaa lähestymistapaa. Tällaisen lähestymistavan ansiosta tapauksissa, joissa vahingot ovat tekoälyjärjestelmien aiheuttamia, kantajat voivat vedota kansallisen lainsäädännön suotuisampiin sääntöihin. Näin ollen kansallisissa säädöksissä voitaisiin esimerkiksi säilyttää todistustaakan kääntäminen kansallisten tuottamukseen perustuvien järjestelmien puitteissa tai kansalliset tuottamuksesta riippumattomat järjestelmät (niin kutsuttu objektiivinen vastuu), joita kansallisissa säädöksissä on jo monenlaisia ja joita mahdollisesti sovelletaan tekoälyjärjestelmien aiheuttamiin vahinkoihin.

(15)Myös yhdenmukaisuus [tekoälysäädöksen] kanssa olisi varmistettava. Sen vuoksi on aiheellista, että tässä direktiivissä käytetään samoja määritelmiä tekoälyjärjestelmien, tarjoajien ja käyttäjien osalta. Lisäksi tämän direktiivin olisi katettava ainoastaan vahingonkorvausvaateet, jotka aiheutuvat tekoälyjärjestelmän tuottamasta tuotoksesta tai siitä, ettei se ole tuottanut tarvittavaa tuotosta, mikä johtuu henkilön, esimerkiksi [tekoälysäädöksen] mukaisen tarjoajan tai käyttäjän, tuottamuksesta. Direktiivillä ei tarvitse kattaa korvausvaateita tapauksissa, joissa vahinko johtuu ihmisen tekemästä arviosta, jota seuraa ihmisen toimi tai laiminlyönti, kun tekoälyjärjestelmä on vain antanut tietoja tai neuvoja, jotka asianomainen ihmistoimija on ottanut huomioon. Jälkimmäisessä tapauksessa on mahdollista jäljittää vahinko ihmisen toimeen tai laiminlyöntiin, koska tekoälyjärjestelmän tuotos ei ole ihmisen toimen tai laiminlyönnin ja vahingon välissä eikä syy-yhteyden osoittaminen siten ole vaikeampaa kuin tilanteissa, joihin ei liity tekoälyjärjestelmän myötävaikutusta.

(16)Tiedonsaanti tietyistä suuririskisistä tekoälyjärjestelmistä, joiden epäillään aiheuttaneen vahinkoa, on tärkeä tekijä sen varmistamisessa, haetaanko korvausta, ja korvausvaatimusten perustelemisessa. Lisäksi [tekoälysäädöksessä] säädetään suuririskisten tekoälyjärjestelmien osalta erityisistä dokumentointi-, tiedotus- ja lokinpitovaatimuksista mutta ei anneta vahinkoa kärsineelle oikeutta tutustua näihin tietoihin. Sen vuoksi vastuun määrittämiseksi on aiheellista vahvistaa säännöt asiaankuuluvien todisteiden esittämisestä niiden toimesta, joilla on todisteet käytettävissään. Tämän pitäisi myös tarjota lisäkannustin niiden [tekoälysäädöksessä] säädettyjen asiaankuuluvien vaatimusten täyttämiseksi, jotka koskevat asiaankuuluvien tietojen dokumentointia tai tallentamista.

(17)Suuririskisten tekoälyjärjestelmien suunnitteluun, kehittämiseen, käyttöönottoon ja käyttöön yleensä osallistuvien henkilöiden suuri määrä tekee aiheutuneesta vahingosta mahdollisesti vastuussa olevan henkilön yksilöimisestä ja vahingonkorvausvaateen edellytysten todistamisesta vaikeaa vahinkoa kärsineille. Jotta vahinkoa kärsineet voivat varmistaa, onko vahingonkorvausvaade perusteltu, on aiheellista myöntää mahdollisille kantajille oikeus pyytää tuomioistuinta määräämään asiaankuuluvien todisteiden esittämisestä ennen vahingonkorvausvaateen esittämistä. Tällainen esittämismääräys olisi annettava vain jos mahdollinen kantaja esittää riittävät tosiseikat ja tiedot, jotka tukevat vahingonkorvausvaateen uskottavuutta, ja kantaja on aiemmin pyytänyt tarjoajaa, henkilöä, johon sovelletaan tarjoajan velvollisuuksia, tai käyttäjää esittämään tällaiset käytössään olevat todisteet tietyistä suuririskisistä tekoälyjärjestelmistä, joiden epäillään aiheuttaneen vahinkoa, ja pyyntö on evätty. Todisteiden esittämismääräyksen odotetaan vähentävän tarpeettomia oikeudenkäyntejä ja kustannuksia, joita mahdollisille asianosaisille aiheutuu perusteettomista tai todennäköisesti tuloksettomista vaateista. Jos tarjoaja, henkilö, johon tarjoajan velvollisuuksia sovelletaan, tai käyttäjä on kieltäytynyt todisteiden esittämisestä ennen tuomioistuimelle esitettävää pyyntöä, tämän ei pitäisi johtaa olettamaan siitä, että henkilö, joka on kieltäytynyt esittämästä todisteita, ei ole noudattanut asiaankuuluvia huolellisuusvelvoitteita.

(18)Suuririskisiä tekoälyjärjestelmiä koskevan todisteiden esittämisen rajoittaminen on yhdenmukaista [tekoälysäädöksen] kanssa. Säädöksessä asetetaan suuririskisten tekoälyjärjestelmien suunnitteluun, kehittämiseen ja käyttöönottoon osallistuville toimijoille tiettyjä erityisiä dokumentointi-, säilyttämis- ja tiedotusvelvollisuuksia. Yhdenmukaisuus takaa myös tarvittavan oikeasuhteisuuden, kun vältetään se, että vähäriskisten tai riskittömien tekoälyjärjestelmien toiminnanharjoittajien odotettaisiin dokumentoivan tietoja tasolla, joka vastaa [tekoälysäädöksen] mukaista suuririskisten tekoälyjärjestelmien kohdalla vaadittua tasoa.

(19)Kansallisten tuomioistuinten olisi siviilioikeudellisissa menettelyissä voitava määrätä suuririskisten tekoälyjärjestelmien aiheuttamaan vahinkoon liittyvien todisteiden esittämisestä tai säilyttämisestä. Määräys koskisi henkilöitä, joilla on jo [tekoälysäädöksen] nojalla velvollisuus dokumentoida tai tallentaa tietoja, olivatpa kyseessä tekoälyjärjestelmän tarjoajat, henkilöt jotka noudattavat samoja velvoitteita kuin tarjoajat, tai tekoälyjärjestelmän käyttäjät, joko vastaajina tai vaateen kolmansina osapuolina. Joissakin tilanteissa asian kannalta merkitykselliset todisteet voivat olla sellaisten tahojen hallussa, jotka eivät olisi vahingonkorvausvaateen osapuolia mutta joiden on [tekoälysäädöksen] nojalla dokumentoitava tai tallennettava tällaiset todisteet. Sen vuoksi on tarpeen säätää edellytyksistä, joiden täyttyessä tällaiset kolmannet osapuolet voidaan määrätä esittämään asiaa koskevat todisteet.

(20)Jotta vahingonkorvausvaateeseen osallistuvien osapuolten ja asianomaisten kolmansien osapuolten edut pysyisivät tasapainossa, tuomioistuinten olisi määrättävä todisteiden esittämisestä vain jos se on tarpeen ja oikeasuhteista vahingonkorvausvaateen tai mahdollisen vahingonkorvausvaateen tueksi. Tältä osin esittämismääräyksen tulisi koskea ainoastaan todisteita, jotka ovat tarpeen asianomaisesta vahingonkorvausvaateesta tehtävää päätöstä varten, esimerkiksi vain niitä osia asiaankuuluvista tiedoista tai datajoukoista, jotka ovat tarpeen [tekoälysäädöksessä] säädetyn vaatimuksen noudattamatta jättämisen osoittamiseksi. Tällaisten esittämis- tai säilyttämistoimenpiteiden oikeasuhteisuuden varmistamiseksi kansallisilla tuomioistuimilla olisi oltava tehokkaat keinot kaikkien osapuolten oikeutettujen etujen suojaamiseksi, esimerkiksi Euroopan parlamentin ja neuvoston direktiivissä (EU) 2016/943 tarkoitettujen liikesalaisuuksien ja luottamuksellisten tietojen suojaamiseksi. Kun on kyse liikesalaisuuksista tai väitetyistä liikesalaisuuksista, jotka tuomioistuin on todennut luottamuksellisiksi direktiivissä (EU) 2016/943 tarkoitetussa merkityksessä, kansallisilla tuomioistuimilla olisi oltava valtuudet toteuttaa erityisiä toimenpiteitä liikesalaisuuksien luottamuksellisuuden varmistamiseksi oikeudenkäynnin aikana ja sen jälkeen. Samalla olisi saavutettava oikeudenmukainen ja oikeasuhteinen tasapaino liikesalaisuuden haltijan salassapitoa koskevan edun ja vahinkoa kärsineen edun välillä. Tähän olisi sisällyttävä toimenpiteitä, joilla pääsy liikesalaisuuksia sisältäviin asiakirjoihin sekä pääsy oikeuskäsittelyihin tai niitä koskeviin asiakirjoihin ja selostuksiin rajataan rajoitettuun määrään henkilöitä. Päättäessään tällaisista toimenpiteistä kansallisten tuomioistuinten olisi otettava huomioon tarve varmistaa oikeus tehokkaisiin oikeussuojakeinoihin ja oikeudenmukaiseen oikeudenkäyntiin, asianosaisten ja tarvittaessa kolmansien osapuolten oikeutetut edut sekä jommallekummalle asianosaiselle tai tarvittaessa kolmansille osapuolille mahdollisesti aiheutuva vahinko, joka johtuu tällaisten toimenpiteiden määräämisestä tai määräämättä jättämisestä. Sen varmistamiseksi, että esittämistoimenpidettä sovelletaan oikeasuhteisesti vahingonkorvausvaateiden kolmansiin osapuoliin, kansallisten tuomioistuinten olisi määrättävä kolmannet osapuolet esittämään todisteet vain jos niitä ei voida saada vastaajalta.

(21)Vaikka kansallisilla tuomioistuimilla on keinot panna esittämismääräyksensä täytäntöön eri toimenpiteillä, tällaiset täytäntöönpanotoimenpiteet voivat viivästyttää vahingonkorvausvaateita ja aiheuttaa siten mahdollisesti lisäkustannuksia asianosaisille. Tällaiset viivästykset ja lisäkustannukset voivat vaikeuttaa vahinkoa kärsineiden tehokkaiden oikeussuojakeinojen käyttöä. Jos vahingonkorvausvaateen vastaaja ei esitä tuomioistuimen määräämiä käytettävissään olevia todisteita, on sen vuoksi aiheellista lähteä siitä olettamasta, ettei niitä huolellisuusvelvoitteita, jotka kyseisillä todisteilla oli tarkoitus osoittaa, ole noudatettu. Tämä kumottavissa oleva olettama lyhentää oikeudenkäyntien kestoa ja tehostaa tuomioistuinmenettelyjä. Vastaajan olisi voitava kumota tämä olettama esittämällä päinvastaisia todisteita.

(22)Jotta voidaan puuttua vaikeuksiin osoittaa, että tietyt syöttötiedot, joista mahdollisesti vastuussa oleva henkilö vastaa, olivat aiheuttaneet tietyn tekoälyjärjestelmän tuotoksen, joka johti kyseessä olevaan vahinkoon, on aiheellista säätää tietyin edellytyksin syy-yhteyttä koskevasta olettamasta. Vaikka kantajan on tuottamukseen perustuvassa vaateessa yleensä todistettava vahinko ja ihmisen teko tai laiminlyönti, joka muodostaa vastaajan tuottamuksen, sekä syy-yhteys näiden kahden välillä, tällä direktiivillä ei yhdenmukaisteta edellytyksiä, joiden täyttyessä kansallinen tuomioistuin toteaa tuottamuksen. Näihin edellytyksiin sovelletaan edelleen kansallista lainsäädäntöä ja tapauksissa, joissa säädökset on yhdenmukaistettu, unionin lainsäädäntöä. Vastaavasti tällä direktiivillä ei yhdenmukaisteta vahinkoon liittyviä edellytyksiä, esimerkiksi sitä, mitkä vahingot ovat korvattavissa. Myös tätä säännellään sovellettavalla kansallisella ja unionin lainsäädännöllä. Jotta tällä direktiivillä käyttöön otettavaa, syy-yhteyttä koskevaa olettamaa voitaisiin soveltaa, vastaajan tuottamus olisi todettava ihmisen teoksi tai laiminlyönniksi, joka ei täytä unionin tai kansallisen lainsäädännön mukaista huolellisuusvelvoitetta, jonka välittömänä tarkoituksena on tapahtuneelta vahingolta suojaaminen. Tätä olettamaa voidaan siten soveltaa esimerkiksi silloin, kun tuomioistuin toteaa vastaajan tuottamuksellisuuden, koska tämä ei ole noudattanut käyttöohjeita, joiden tarkoituksena on estää luonnollisille henkilöille aiheutuva vahinko. Sen sijaan olettamaa ei sovelleta, jos noudattamatta jätetyn huolellisuusvelvoitteen välittömänä tarkoituksena ei ole tapahtuneelta vahingolta suojaaminen, Esimerkiksi se, että palveluntarjoaja ei toimita vaadittuja asiakirjoja toimivaltaisille viranomaisille, ei johtaisi olettaman soveltamiseen fyysisestä vammasta johtuvissa vahingonkorvauskanteissa. Olisi myös oltava tarpeen todeta, että tapauksen olosuhteiden perusteella voidaan kohtuudella olettaa, että tuottamus on vaikuttanut tekoälyjärjestelmän tuottamaan tuotokseen tai siihen, ettei tekoälyjärjestelmä tuottanut tuotosta. Kantajaa olisi silti vaadittava osoittamaan, että vahingon aiheutti tuotos tai tuotoksen puuttuminen.

(23)Tällainen tuottamus voidaan todeta suhteessa sellaisten unionin sääntöjen noudattamatta jättämiseen, joilla säännellään erityisesti suuririskisiä tekoälyjärjestelmiä. Näitä sääntöjä ovat esimerkiksi tietyille suuririskisille tekoälyjärjestelmille [tekoälysäädöksellä] asetetut vaatimukset, vaatimukset, jotka voidaan ottaa käyttöön tulevassa alakohtaisessa lainsäädännössä muiden suuririskisten tekoälyjärjestelmien osalta [tekoälysäädöksen 2 artiklan 2 kohdan] mukaisesti, tai tiettyihin toimintoihin liittyvät huolellisuusvelvoitteet, joita sovelletaan riippumatta siitä, käytetäänkö kyseisessä toiminnassa tekoälyä. Toisaalta tällä direktiivillä ei luoda eikä yhdenmukaisteta sellaisia tahoja koskevia vaatimuksia tai vastuuta, joiden toimintaa kyseisillä säädöksillä säännellään, eikä siten luoda uudentyyppisiä korvausvaateita. Tällaisen vaatimuksen rikkomisesta muodostuvan tuottamuksen toteaminen tapahtuu kyseisten unionin oikeuden sovellettavien sääntöjen mukaisesti, koska tällä direktiivillä ei oteta käyttöön uusia vaatimuksia eikä se vaikuta nykyisiin vaatimuksiin. Tämä direktiivi ei esimerkiksi vaikuta välityspalvelujen tarjoajia koskevaan vastuuvapautukseen eikä niihin [digipalvelusäädöksen] nojalla sovellettaviin huolellisuusvelvoitteisiin. Vastaavasti niiden verkkoalustoille asetettujen vaatimusten noudattaminen, joilla estetään tekijänoikeudella suojattujen teosten luvaton välittäminen yleisölle, todetaan tekijänoikeudesta ja lähioikeuksista digitaalisilla sisämarkkinoilla annetun direktiivin (EU) 2019/790 ja muun asiaankuuluvan unionin tekijänoikeuslainsäädännön perusteella.

(24)Aloilla, joita ei ole yhdenmukaistettu unionin lainsäädännöllä, sovelletaan edelleen kansallista lainsäädäntöä ja tuottamus todetaan sovellettavan kansallisen lainsäädännön perusteella. Kaikkiin kansallisiin vastuujärjestelmiin sisältyy huolellisuusvelvoitteita, joihin liittyvät käytänteet perustuvat erilaisiin tulkintoihin siitä, miten järkevän henkilön olisi toimittava, ja joilla myös varmistetaan tekoälyjärjestelmien turvallinen toiminta tunnustetuille oikeudellisille eduille aiheutuvien vahinkojen ehkäisemiseksi. Tällaiset huolellisuusvelvoitteet voivat esimerkiksi edellyttää, että tekoälyjärjestelmien käyttäjät valitsevat tiettyjä tehtäviä varten tietyn tekoälyjärjestelmän, jolla on konkreettisia ominaisuuksia, tai sulkevat pois tiettyjen väestönosien altistumisen tietylle tekoälyjärjestelmälle. Kansallisessa lainsäädännössä voidaan myös ottaa käyttöön erityisiä velvoitteita, joiden tarkoituksena on ehkäistä tietyille toiminnoille aiheutuvia riskejä, joita voidaan soveltaa riippumatta siitä, käytetäänkö kyseiseen toimintaan tekoälyä. Esimerkkejä tästä ovat liikennesäännöt tai erityisesti tekoälyjärjestelmiä varten suunnitellut velvoitteet, kuten suuririskisten tekoälyjärjestelmien käyttäjille [tekoälysäädöksen] 29 artiklan 2 kohdan nojalla asetetut kansalliset lisävaatimukset. Tällä direktiivillä ei oteta käyttöön tällaisia vaatimuksia eikä se vaikuta edellytyksiin, joiden täyttyessä todetaan tuottamus, jos näitä vaatimuksia rikotaan.

(25)Vaikka todettaisiin tuottamus, joka johtuu suoraan tapahtuneelta vahingolta suojautumiseen tarkoitetun huolellisuusvelvoitteen noudattamatta jättämisestä, jokaisen tuottamuksen ei pitäisi johtaa siihen, että sovellettaisiin kumottavissa olevaa olettamaa, joka yhdistää sen tekoälyn tuotokseen. Tällaista olettamaa olisi sovellettava vain jos vahingon tapahtumiseen liittyvien olosuhteiden perusteella voidaan kohtuudella olettaa, että tällainen tuottamus on vaikuttanut tekoälyjärjestelmän tuottamaan tuotokseen tai sen puuttumiseen, mikä aiheutti vahingon. Voidaan esimerkiksi kohtuudella olettaa, että tuottamus on vaikuttanut tuotokseen tai sen puuttumiseen, kun tuottamus on tekoälyjärjestelmän toiminta-alueen rajoittamista koskevan huolellisuusvelvoitteen rikkominen ja vahinko on tapahtunut toiminta-alueen ulkopuolella. Sitä vastoin tiettyjen asiakirjojen toimittamista tai tietyn viranomaisen järjestelmään rekisteröitymistä koskevan vaatimuksen rikkomisen ei voitaisi kohtuudella katsoa vaikuttaneen tekoälyjärjestelmän tuottamaan tuotokseen tai sen puuttumiseen, vaikka tämän voitaisiin olettaa koskevan kyseistä toimintaa tai sitä voitaisiin jopa soveltaa nimenomaisesti tekoälyjärjestelmän toimintaan.

(26)Tämä direktiivi kattaa tuottamuksen, joka tarkoittaa [tekoälysäädöksen] 2 ja 3 luvussa lueteltujen tiettyjen suuririskisten tekoälyjärjestelmien tarjoajille ja käyttäjille asetettujen vaatimusten noudattamatta jättämistä. Näiden vaatimusten noudattamatta jättäminen voi tietyissä olosuhteissa johtaa syy-yhteyttä koskevaan olettamaan. Tekoälysäädöksessä säädetään tekoälyjärjestelmiä koskevien vaatimusten yhdenmukaistamisesta kaikilta osin, jollei siinä nimenomaisesti toisin säädetä. Sillä yhdenmukaistetaan suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset. Näin ollen sellaisten vahingonkorvausvaateiden osalta, joissa sovelletaan tämän direktiivin mukaista syy-yhteyttä koskevaa olettamaa, [tekoälysäädöksen] mukaisten tarjoajien tai tarjoajan velvollisuuksien piiriin kuuluvien henkilöiden mahdollinen tuottamus todetaan ainoastaan tällaisten vaatimusten noudattamatta jättämisen perusteella. Kun otetaan huomioon, että kantajan voi olla käytännössä vaikea todistaa tällaista noudattamatta jättämistä, kun vastaaja on tekoälyjärjestelmän tarjoaja, ja kun pyritään täydelliseen yhdenmukaisuuteen [tekoälysäädöksen] logiikan kanssa, tässä direktiivissä olisi myös säädettävä, että tarjoajan riskinhallintajärjestelmän puitteissa toteuttamat toimet ja riskinhallintajärjestelmän tulokset eli päätös tiettyjen riskinhallintatoimenpiteiden toteuttamisesta tai toteuttamatta jättämisestä olisi otettava huomioon määritettäessä, onko tarjoaja noudattanut niitä tekoälysäädöksen mukaisia asiaankuuluvia vaatimuksia, joihin tässä direktiivissä viitataan. Tarjoajan [tekoälysäädöksen] nojalla käyttöön ottama riskinhallintajärjestelmä on jatkuva, iteratiivinen prosessi, joka etenee suuririskisen tekoälyjärjestelmän koko elinkaaren ajan. Sen avulla tarjoaja varmistaa, että riskejä lieventäviä pakollisia vaatimuksia noudatetaan, ja se voi näin ollen olla hyödyllinen tekijä tämän vaatimustenmukaisuuden arvioinnissa. Tämä direktiivi kattaa myös käyttäjän tuottamukseen liittyvät tapaukset, joissa tuottamus johtuu siitä, ettei käyttäjä noudata tiettyjä [tekoälysäädöksessä] asetettuja erityisvaatimuksia. Lisäksi suuririskisten tekoälyjärjestelmien käyttäjien tuottamus voidaan todeta sen jälkeen, kun muita unionin tai kansallisessa lainsäädännössä säädettyjä huolellisuusvelvoitteita ei ole noudatettu, [tekoälysäädöksen] 29 artiklan 2 kohta huomioon ottaen.

(27)Vaikka tiettyjen tekoälyjärjestelmien erityispiirteet, kuten itsenäisyys ja läpinäkymättömyys, voivat vaikeuttaa kantajan todistustaakan täyttämistä, joissakin tilanteissa tällaisia vaikeuksia ei välttämättä ole, koska kantajan käytössä voi olla riittävästi todisteita ja asiantuntemusta syy-yhteyden osoittamiseksi. Näin voisi olla esimerkiksi sellaisten suuririskisten tekoälyjärjestelmien kohdalla, joiden osalta kantaja voisi kohtuudella saada riittävästi todisteita ja asiantuntemusta [tekoälysäädöksen] mukaisten dokumentointi- ja lokinpitovaatimusten avulla. Tällaisissa tilanteissa tuomioistuimen ei pitäisi soveltaa olettamaa.

(28)Syy-yhteyttä koskevaa olettamaa voitaisiin soveltaa myös tekoälyjärjestelmiin, jotka eivät ole suuririskisiä tekoälyjärjestelmiä, koska kantajalla voi olla kohtuuttomia todistamisvaikeuksia. Tällaisia vaikeuksia voitaisiin arvioida esimerkiksi tekoälyjärjestelmien tiettyjen ominaispiirteiden, kuten itsenäisyyden ja läpinäkymättömyyden, perusteella. Nämä tekevät tekoälyjärjestelmän sisäisen toiminnan selittämisestä käytännössä erittäin vaikeaa, mikä heikentää kantajan kykyä todistaa syy-yhteys vastaajan tuottamuksen ja tekoälyn tuotoksen välillä. Kansallisen tuomioistuimen olisi sovellettava olettamaa, jos kantajan on kohtuuttoman vaikeaa osoittaa syy-yhteyttä selittämällä, miten tuottamuksen muodostava ihmisen toimi tai laiminlyönti johti tekoälyjärjestelmän tuottamaan tuotokseen tai sen puuttumiseen, mistä aiheutui vahinko. Kantajaa ei kuitenkaan pitäisi velvoittaa selittämään kyseisen tekoälyjärjestelmän ominaispiirteitä eikä sitä, miten nämä ominaispiirteet vaikeuttavat syy-yhteyden määrittämistä.

(29)Syy-yhteyttä koskevan olettaman soveltamisen tarkoituksena on varmistaa vahinkoa kärsineelle samantasoinen suoja kuin tilanteissa, joihin ei liity tekoälyä ja joissa syy-yhteyden osoittaminen voi olla helpompaa. Syy-yhteyttä koskevan todistamistaakan keventäminen tämän direktiivin nojalla ei kuitenkaan ole aina asianmukaista, jos vastaaja ei ole ammattikäyttäjä vaan henkilö, joka käyttää tekoälyjärjestelmää yksityiseen toimintaansa. Tällaisissa olosuhteissa on vahinkoa kärsineen ja muun kuin ammattikäyttäjän etujen tasapainottamiseksi otettava huomioon se, voivatko tällaiset muut kuin ammattikäyttäjät lisätä toiminnallaan riskiä, että tekoälyjärjestelmä aiheuttaa vahinkoa. Jos tekoälyjärjestelmän tarjoaja on noudattanut kaikkia velvoitteitaan ja järjestelmä on näin ollen katsottu riittävän turvalliseksi, jotta se voidaan saattaa markkinoille muiden kuin ammattikäyttäjien tiettyyn käyttötarkoitukseen, ja sitä käytetään sen jälkeen kyseiseen tehtävään, syy-yhteyttä koskevaa olettamaa ei pitäisi soveltaa pelkkään tällaisen järjestelmän toiminnan käynnistämiseen tällaisten muiden kuin ammattikäyttäjien toimesta. Muu kuin ammattikäyttäjä, joka ostaa tekoälyjärjestelmän ja vain käynnistää sen käyttötarkoituksen mukaisesti puuttumatta olennaisesti toimintaedellytyksiin, ei saisi kuulua tässä direktiivissä säädetyn syy-yhteyttä koskevan olettaman piiriin. Jos kansallinen tuomioistuin kuitenkin toteaa, että muu kuin ammattikäyttäjä on puuttunut olennaisesti tekoälyjärjestelmän toimintaedellytyksiin tai häntä on vaadittu määrittämään tekoälyjärjestelmän toimintaedellytykset ja hän olisi pystynyt siihen mutta ei tehnyt sitä, syy-yhteyttä koskevaa olettamaa olisi sovellettava, jos kaikki muut edellytykset täyttyvät. Näin voi olla esimerkiksi silloin, kun muu kuin ammattikäyttäjä ei noudata käyttöohjeita tai muita sovellettavia huolellisuusvelvoitteita valitessaan tekoälyjärjestelmän toiminta-aluetta tai määrittäessään sen toimintaedellytyksiä. Tämä ei vaikuta siihen, että tarjoajan olisi määriteltävä tekoälyjärjestelmän käyttötarkoitus, mukaan lukien erityinen konteksti ja käyttöedellytykset, ja poistettava tai minimoitava kyseisen järjestelmän riskit tarpeen mukaan suunnittelu- ja kehitysvaiheessa ottaen huomioon aiotun käyttäjän tietämyksen ja asiantuntemuksen.

(30)Koska tällä direktiivillä otetaan käyttöön kumottavissa oleva olettama, vastaajan olisi voitava kumota se erityisesti osoittamalla, ettei sen tuottamus olisi voinut aiheuttaa vahinkoa.

(31)On tarpeen säätää tämän direktiivin uudelleentarkastelusta [viiden vuoden] kuluttua sen saattamista osaksi kansallista lainsäädäntöä koskevan määräajan päättymisestä. Uudelleentarkastelussa olisi erityisesti tutkittava, onko tarpeen luoda toiminnanharjoittajaan kohdistuvia vahingonkorvausvaateita varten tuottamuksesta riippumatonta vastuuta koskevat säännöt, mikäli ne eivät jo kuulu muiden unionin vastuusääntöjen, erityisesti direktiivin 85/374/ETY, soveltamisalaan, yhdistettynä tiettyjen tekoälyjärjestelmien toimintaa koskevaan pakolliseen vakuutukseen, kuten Euroopan parlamentti on ehdottanut. Suhteellisuusperiaatteen mukaisesti on aiheellista arvioida tällainen tarve tulevina vuosina tapahtuvan teknisen ja sääntelyyn liittyvän kehityksen perusteella ottaen huomioon tekoälyjärjestelmien saataville asettamisen ja käyttöönoton vaikutukset erityisesti pk-yrityksiin. Uudelleentarkastelussa olisi otettava huomioon muun muassa riskit, jotka liittyvät merkittävien oikeudellisten arvojen, kuten tietämättään asiaan liittyvien kolmansien osapuolten hengen, terveyden ja omaisuuden, vahingoittumiseen tekoälyä hyödyntävien tuotteiden tai palvelujen toiminnan takia. Uudelleentarkastelussa olisi myös analysoitava tässä direktiivissä säädettyjen toimenpiteiden tehokkuutta tällaisten riskien käsittelyssä sekä asianmukaisten ratkaisujen kehittämistä vakuutusmarkkinoilla. Tällaisen uudelleentarkastelun suorittamiseksi tarvittavan tiedon saatavuuden varmistamiseksi on tarpeen kerätä tietoja ja muuta tarvittavaa näyttöä asiaankuuluvista seikoista.

(32)Koska kansallisia siviilioikeudellista vastuuta ja menettelyjä koskevia sääntöjä on mukautettava, jotta voidaan edistää tekoälyä hyödyntävien tuotteiden ja palvelujen käyttöönottoa suotuisissa sisämarkkinaolosuhteissa sekä niiden yhteiskunnallista hyväksyntää ja kuluttajien luottamusta tekoälyteknologiaan ja oikeusjärjestelmään, on aiheellista asettaa määräaika, joka päättyy [kahden vuoden kuluttua tämän direktiivin voimaantulosta], jotta jäsenvaltiot voivat toteuttaa tarvittavat toimenpiteet direktiivin saattamiseksi osaksi kansallista lainsäädäntöään.