Vaikutustenarvioinnin tiivistelmä

Tekoälyn aiheuttamia vahinkoja koskevaa siviilioikeudellista vastuuta koskevan aloitteen vaikutustenarviointi

A. Toimenpiteen tarve

Mikä on ongelma ja miksi se on ongelma EU:n tasolla?

Tekoälyn käyttöönotto on sekä komission tavoite että odotettu suuntaus. Vaikka tekoälyä hyödyntävien tuotteiden/palvelujen odotetaan olevan turvallisempia kuin perinteisten, vahinkoja sattuu edelleen. Nykyisiä vastuusääntöjä, etenkään tuottamukseen perustuvia kansallisia sääntöjä, ei ole mukautettu tekoälyä hyödyntävien tuotteiden/palvelujen aiheuttamia vahinkoja koskevien korvausvaateiden käsittelyyn. Tällaisten sääntöjen mukaan uhrien on todistettava vahingon aiheuttaneen henkilön sääntöjenvastainen toimi/laiminlyönti. Tekoälyn erityispiirteet, mukaan lukien itsenäisyys ja läpinäkymättömyys (musta laatikko -vaikutus), tekevät vastuussa olevan henkilön yksilöimisestä ja vahingonkorvausvaatimuksen hyväksymiseen tarvittavien vaatimusten täyttymisen todistamisesta vaikeaa tai kohtuuttoman kallista. Komissio haluaa välttää sen, että tekoälyn aiheuttaman vahingon uhrit, jotka voivat olla sekä kansalaisia että yrityksiä, saavat heikomman suojan kuin perinteisen teknologian aiheuttamien vahinkojen uhrit. Tällainen korvausten puuttuminen voisi heikentää heidän luottamustaan tekoälyyn ja viime kädessä tekoälyä hyödyntävien tuotteiden/palvelujen käyttöönottoon. On epävarmaa, miten kansallisia vastuusääntöjä voidaan soveltaa tekoälyn erityispiirteisiin. Jos tulos olisi uhrille epäoikeudenmukainen, tuomioistuimet saattaisivat myös soveltaa nykyisiä sääntöjä tapauskohtaisesti päästäkseen oikeudenmukaiseen lopputulokseen. Tämä aiheuttaisi oikeudellista epävarmuutta. Tämän vuoksi yritysten on vaikea ennustaa, miten nykyisiä vastuusääntöjä sovelletaan vahinkotapauksissa. Näin ollen niiden on vaikea arvioida ja vakuuttaa vastuuriskinsä. Tämä vaikutus suurenee, jos yritykset toimivat yli rajojen, koska epävarmuus ulottuu eri lainkäyttöalueille. Se vaikuttaa erityisesti pk-yrityksiin, jotka eivät voi tukeutua yrityksen sisäiseen oikeudelliseen asiantuntemukseen tai pääomavarantoihin. On myös odotettavissa, että jos EU ei toimi, jäsenvaltiot mukauttavat kansalliset vastuusääntönsä tekoälyn haasteisiin itsenäisesti. Tämä lisää pirstaloitumista ja rajojen yli toimivien yritysten kustannuksia.

Mitä on tarkoitus saada aikaan?

Aloitteella edistetään digitaalista siirtymää koskevaa komission tavoitetta. Yleisenä tavoitteena on edistää luotettavan tekoälyn käyttöönottoa tekoälyn kaikkien etujen hyödyntämiseksi. Siksi tekoälyä koskevalla valkoisella kirjalla pyritään luomaan luottamuksen ekosysteemi tekoälyn käyttöönoton edistämiseksi. Vastuuta koskeva aloite on tekoälyyn mukautettujen turvallisuussääntöjen välttämätön seuraus ja täydentää siten tekoälysäädöstä. Tekoälyaloitteen tavoitteena on -varmistaa, että tekoälyä hyödyntävien tuotteiden/palvelujen uhreja suojellaan samalla tavoin kuin perinteisten teknologioiden uhreja -vähentää oikeudellista epävarmuutta tekoälyä kehittävien tai käyttävien yritysten vastuuriskistä -ehkäistä oikeudellinen pirstaloituminen eli se, että siviilioikeudellista vastuuta koskevia kansallisia sääntöjä mukautettaisiin tekoälyn vaatimuksiin eri jäsenvaltioissa eri tavoin.

Mitä lisäarvoa saadaan toimenpiteen toteuttamisesta EU:n tasolla (toissijaisuusperiaate)?

Tekoälyn käyttöönoton edistäminen Euroopassa tarkoittaa, että EU:n sisämarkkinat on avattava niille talouden toimijoille, jotka haluavat kehittää tekoälyä tai ottaa sen käyttöön yrityksissään. Edellytyksenä on oikeudellisen epävarmuuden vähentäminen ja pirstaloitumisen estäminen, jos jäsenvaltiot alkavat mukauttaa kansallisia sääntöjään toisistaan poikkeavasti. Varovaisten arvioiden mukaan tekoälyyn liittyvää vastuuta koskevilla EU:n tason toimilla olisi perusskenaarioon verrattuna 5–7 prosentin myönteinen vaikutus asianomaisen rajatylittävän kaupan tuotantoarvoon.

B. Ratkaisut

Mitkä ovat vaihtoehdot tavoitteiden saavuttamiseksi? Onko jokin vaihtoehto arvioitu parhaaksi? Jos ei, miksi ei?

Toimintavaihtoehto 1: kolme toimenpidettä uhrien vahingonkorvausvaadetta koskevan todistustaakan keventämiseksi: a) Yhdenmukaistetaan sitä, miten tekoälysäädöksen tuoteturvallisuussääntöjen mukaisesti tallennetut/dokumentoidut tiedot voidaan esittää oikeudenkäynnissä, jotta uhri voi yksilöidä ja todistaa, mikä toimi/laiminlyönti johti vahingon aiheutumiseen. b) Jos uhri osoittaa, että vastuussa oleva henkilö ei noudattanut vahinkojen ehkäisemiseen tarkoitettuja tekoälysäädöksen turvallisuusvaatimuksia, tuomioistuimet voivat olettaa, että vahingon aiheutti tämä noudattamatta jättäminen. Mahdollisesti vastuussa olevalla henkilöllä olisi mahdollisuus kumota tällainen olettama esimerkiksi todistamalla, että vahinko aiheutui muusta syystä. c) Jos uhri voi todistaa korvausvaateen vain osoittamalla, mitä tekoälyn sisällä tapahtui, uhrin todistustaakkaa kevennettäisiin. Mahdollisesti vastuussa olevalla henkilöllä olisi mahdollisuus osoittaa, ettei hän toiminut huolimattomasti. Toimintavaihtoehto 2: vaihtoehdon 1 + mukaiset toimenpiteet sekä sellaisiin tekoälyn käyttötapauksiin, joilla on erityinen riskiprofiili, sovellettavan objektiivista vastuuta koskevan järjestelmän yhdenmukaistaminen. Objektiivinen vastuu tarkoittaa, että henkilö, joka altistaa yleisön riskille (joka kohdistuu usein arvokkaisiin oikeudellisiin intresseihin, kuten henkeen, terveyteen tai omaisuuteen) ja hyötyy siitä, on vastuussa, jos tällainen riski toteutuu. Esimerkkinä on auton omistajan vastuu. Tällaisissa tapauksissa uhrin tarvitsee vain osoittaa, että aiheutunut vahinko kuuluu vastuussa olevan henkilön riskin piiriin. Tähän voidaan yhdistää pakollinen vakuutus. Toimintavaihtoehto 3: vaiheittainen lähestymistapa (parhaaksi arvioitu toimintavaihtoehto), joka koostuu seuraavista: – ensimmäinen vaihe: vaihtoehdon 1 mukaiset toimenpiteet – toinen vaihe: uudelleentarkastelumekanismi, jonka avulla arvioidaan uudelleen tarvetta yhdenmukaistaa sellaisiin tekoälyn käyttötapauksiin, joilla on erityinen riskiprofiili, sovellettava objektiivinen vastuu (mahdollisesti yhdistettynä pakolliseen vakuutukseen).

Mitkä ovat sidosryhmien näkemykset? Mitkä toimijat kannattavat mitäkin vaihtoehtoa?

Kaiken kaikkiaan suurin osa sidosryhmistä oli havaituista ongelmista samaa mieltä ja kannatti EU:n tason toimia. EU:n kansalaiset, kuluttajajärjestöt ja akateemiset laitokset vahvistivat erittäin selvästi, että EU:n on ryhdyttävä toimiin todistustaakasta uhreille aiheutuvien ongelmien helpottamiseksi. Vaikka yritykset myönsivät vastuusääntöjen soveltamiseen liittyvän epävarmuuden kielteiset vaikutukset, ne olivat varovaisempia ja pyysivät kohdennettua toimenpidettä, jotta vältettäisiin innovoinnin rajoittamisen. Eri toimintavaihtoehdoista muodostui samankaltainen kuva. EU:n kansalaiset, kuluttajajärjestöt ja akateemiset laitokset kannattivat voimakkaasti vähintään todistustaakkaa koskevia toimenpiteitä. Ne kannattivat myös voimakkainta toimenpidettä, jolla yhdenmukaistettaisiin objektiivinen vastuu yhdistettynä pakolliseen vakuutukseen. Yritysten näkemykset olivat jakautuneempia, mihin vaikutti myös niiden koko. Objektiivista vastuuta pidettiin yrityksissä suhteettomana. Todistustaakan keventämisen yhdenmukaistaminen sai enemmän kannatusta erityisesti pk-yritysten keskuudessa. Yritykset varoittivat kuitenkin todistustaakan siirtämisestä kokonaan.

C. Parhaaksi arvioidun vaihtoehdon vaikutukset

Mitkä ovat parhaaksi arvioidun vaihtoehdon hyödyt (jos parhaaksi arvioitua vaihtoehtoa ei ole, päävaihtoehtojen hyödyt)?

Parhaaksi arvioidulla toimintavaihtoehdolla varmistettaisiin, että tekoälyä hyödyntävien tuotteiden ja palvelujen uhrit (luonnolliset henkilöt, yritykset ja muut julkiset tai yksityiset tahot) saavat vähintään yhtä hyvän suojan kuin perinteisen teknologian uhrit. Se lisäisi luottamusta tekoälyyn ja edistäisi sen käyttöönottoa. Lisäksi aloite vähentäisi oikeudellista epävarmuutta ja ehkäisisi pirstaloitumista, mikä auttaisi yrityksiä – ennen kaikkea pk-yrityksiä –, jotka haluavat hyödyntää EU:n sisämarkkinoiden koko potentiaalin ottamalla käyttöön tekoälyä hyödyntäviä tuotteita ja palveluja yli rajojen. Aloite myös parantaisi edellytyksiä sille, että vakuutuksenantajat voivat tarjota tekoälyyn liittyvälle toiminnalle vakuutussuojan, mikä on ratkaisevan tärkeää erityisesti pk-yrityksille, jotta ne voivat hallita riskejään. Ympäristöhyötyjen osalta aloitteen odotetaan lisäävän tehokkuutta ja edistävän ympäristöystävällisiin teknologioihin liittyvää innovointia. Huipputason tuotteita tai palveluja, joita tällä aloitteella pyritään edistämään, ei juurikaan vielä ole markkinoilla. Ehdotetut toimenpiteet ovat kehityksen kärjessä, koska niillä mukautetaan oikeudellista kehystä tekoälyn erityistarpeisiin ja -haasteisiin luottamuksen ja oikeusvarmuuden ekosysteemin luomiseksi. Tämän tulevaisuuteen suuntautuvan toimintapolitiikan vuoksi saatavilla ei ole riittävästi tietoja parhaaksi arvioidun toimintavaihtoehdon vaikutusten määrän ilmaisemiseksi. Näin ollen näitä vaikutuksia arvioitiin pääasiassa laadullisesti ottaen huomioon kaikki saatavilla olevat tiedot, asiantuntija-arviot ja sidosryhmien kannanotot. Perusteltujen oletusten perusteella pyrittiin tekemään joitakin määrällisiä arvioita. Arvioiden mukaan parhaaksi arvioitu toimintavaihtoehto lisäisi tekoälymarkkinoiden arvoa EU-27:ssä vähintään noin 500 miljoonaa euroa ja enintään noin 1,1 miljardia euroa vuonna 2025. Lisäksi robottipölynimureita koskeviin markkinatietoihin perustuvan mikrotaloudellisen analyysin mukaan aloite lisäisi kokonaishyvinvointia 30,11–53,74 miljoonan euron verran pelkästään tämän tuoteryhmän osalta EU-27:ssä.

Mitkä ovat parhaaksi arvioidun vaihtoehdon kustannukset (jos parhaaksi arvioitua vaihtoehtoa ei ole, päävaihtoehtojen kustannukset)?

Parhaaksi arvioitu toimintavaihtoehto ehkäisee tekoälyn erityispiirteiden aiheuttamia vastuuongelmia. Se varmistaisi, että silloin kun uhri ei pystyisi todistamaan tarvittavia tosiseikkoja tekoälyn erityispiirteiden vuoksi, kustannukset maksaisi uhrin sijaan vahingon aiheutumisesta vastaava henkilö. Tämä on yhdenmukaista yhden vastuulainsäädännön perustarkoituksen kanssa, mikä on sen varmistaminen, että henkilö, joka vahingoittaa toista henkilöä laittomasti, korvaa uhrille aiheutuneen vahingon. Komission toimintapoliittiseen tavoitteeseen kuuluu myös varmistaa, että tekoälyjärjestelmien myötävaikutuksella aiheutuneiden vahinkojen uhreilla on sama suojelun taso kuin perinteisten teknologioiden aiheuttamien vahinkojen uhreilla. Se johtaa tehokkaampaan kustannusten kohdentamiseen vahingon todellisuudessa aiheuttaneelle henkilölle, jolla on parhaat mahdollisuudet ehkäistä vahingon syntyminen. Mahdollisesti vastuussa olevat henkilöt (erityisesti tekoälymarkkinoilla toimivat yritykset) kuuluvat hyvin todennäköisesti vakuutuksen piiriin. Vakuutusratkaisut mahdollistavat vastuutaakan jakamisen vakuutetun koko yhteisölle ja rajaavat siten vastuussa olevien henkilöiden kustannukset vuotuisiin vakuutusmaksuihin. Vakuutetut vastuussa olevat henkilöt näkisivät näin ollen uhrin korvauksen aiheuttamat kustannukset vain vähäisenä vakuutusmaksujen korotuksena. Erittäin luotettava, tarkka arvio kustannusten määrästä ei ollut mahdollinen, koska tällä aloitteella edistettäviä huipputason tuotteita ja palveluja ei juurikaan vielä ole markkinoilla. Saatavilla olevien tietojen, asiantuntija-analyysien ja perusteltujen oletusten perusteella arvioitiin, että parhaaksi arvioitu toimintavaihtoehto voi johtaa siihen, että EU:ssa vuosittain maksettavien yleisten vastuuvakuutusmaksujen kokonaismäärä kasvaa 5,35–16,1 miljoonaa euroa.

Mitkä ovat vaikutukset pk-yrityksiin ja kilpailukykyyn?

Koska aloite parantaisi tekoälyä hyödyntävien tuotteiden ja palvelujen sisämarkkinoiden toimintaedellytyksiä, sillä olisi myönteinen vaikutus Euroopan tekoälymarkkinoilla toimivien yritysten kilpailukykyyn. Näistä yrityksistä tulisi maailmanlaajuisesti kilpailukykyisempiä, mikä vahvistaisi EU:n asemaa suhteessa kilpailijoihinsa (pääasiassa Yhdysvallat ja Kiina) maailmanlaajuisessa tekoälykilpailussa. Koska tekoäly on monialainen mahdollistava teknologia, nämä edut eivät rajoittuisi tiettyihin aloihin, vaan ne koskisivat – vaikkakin eri mittakaavoissa – kaikkia aloja, joilla tekoälyä kehitetään tai käytetään. Pk-yritykset hyötyisivät oikeudellisen epävarmuuden ja pirstaloitumisen vähenemisestä jopa muita sidosryhmiä enemmän, koska nämä ongelmat vaikuttavat niihin enemmän nykyisten vastuusääntöjen puitteissa. Tällä aloitteella parannettaisiin erityisesti niiden pk-yritysten edellytyksiä, jotka haluavat ottaa käyttöön tekoälyä hyödyntäviä tuotteita tai palveluja muissa jäsenvaltioissa. Tämä on ratkaisevan tärkeää, koska EU:n tekoälymarkkinoita ohjaavat suurelta osin tekoälyteknologioita kehittävät, hyödyntävät tai käyttävät pk-yritykset. Pk-yritykset hyötyisivät tästä aloitteesta myös tekoälyn aiheuttamien vahinkojen uhreina, koska ne voisivat luottaa siihen, että niiden korvausten hakemiseen liittyvä todistustaakka kevenisi.

Kohdistuuko jäsenvaltioiden budjettiin ja julkishallintoon merkittäviä vaikutuksia?

Jäsenvaltioiden budjettiin ja julkishallintoon ei uskota kohdistuvan merkittäviä vaikutuksia. Uhrien todistustaakan keventämiseksi suunnitellut toimenpiteet voitaisiin sisällyttää kitkattomasti jäsenvaltioiden nykyisiin menettelyjä ja siviilioikeudellista vastuuta koskeviin kehyksiin. Jäsenvaltioiden on raportoitava aloitteen täytäntöönpanosta ja toimitettava määrättyjä tietoja komission kohdennettua uudelleenarviointia varten. Nämä raportointivaatimukset rajoittuvat kuitenkin tietoihin, jotka ovat saatavilla jäsenvaltioiden nykyisistä tietokannoista ja muiden oikeudellisten välineiden (esimerkiksi tekoälysäädöksen tai liikennevakuutusdirektiivin) nojalla ilmoitetuista tiedoista. Näin saadaan aikaan synergioita ja voidaan taata tulevien politiikkatoimien johdonmukaisuus politiikan eri aloilla.

Onko toimenpiteellä muita merkittäviä vaikutuksia?

Perusoikeudet: Aloitteella tuetaan osaltaan perusoikeuksien tehokasta yksityistä täytäntöönpanoa ja säilytetään oikeus tehokkaisiin oikeussuojakeinoihin tilanteissa, joissa on tapahtunut tekoälyn aiheuttamia perusoikeuksiin liittyviä riskejä (esimerkiksi syrjintää). Kansainvälinen ulottuvuus: Kun EU esittää tasapainoista lähestymistapaa tekoälyn aiheuttamiin vahinkoihin liittyvään vastuuseen, sillä on mahdollisuus määrittää maailmanlaajuinen vertailuarvo ja edistää lähestymistapaansa maailmanlaajuisena ratkaisuna, mikä lopulta tuottaisi kilpailuedun ”Euroopassa tuotetulle tekoälylle”.

Miten suhteellisuusperiaate toteutuu?

Parhaaksi arvioitu vaihtoehto on suunniteltu valmistelemaan tekoälyn kehittämistä ja käyttöä samalla kun saavutetaan sen käyttöönoton edistämistä EU:ssa koskeva päätavoite. Tämä vaihtoehto ei kuitenkaan ylitä sitä, mikä on tarpeen. Ensinnäkin EU:n toimi on kohdennettu, koska sillä vain kevennetään uhrien todistustaakkaa. Sillä vain yhdenmukaistetaan niitä vastuun osatekijöitä, joihin liittyy tekoälystä johtuvia ongelmia, ja jätetään muut osatekijät, kuten tuottamuksen ja syy-yhteyden määrittäminen, nykyisten kansallisten säädösten tehtäväksi. Toiseksi parhaaksi arvioitu vaihtoehto siirtää objektiivisen vastuun yhdenmukaistamistarpeen arvioinnin myöhempään vaiheeseen, jossa tekoälystä ja sen käyttötarkoituksista voidaan kerätä lisätietoja (ks. jäljempänä). Kolmanneksi parhaaksi arvioidussa vaihtoehdossa ehdotetaan vähimmäistason yhdenmukaistamiseen perustuvaa lähestymistapaa. Vähimmäistason yhdenmukaistaminen ei luo täysin tasapuolisia toimintaedellytyksiä, mutta sillä varmistetaan, että uudet säännöt voidaan sisällyttää kitkattomasti kunkin jäsenvaltion nykyiseen siviilioikeudellisen vastuun kehykseen. Näin jäsenvaltiot voivat sisällyttää parhaaksi arvioidun toimintavaihtoehdon kohdennetut EU:n toimet kansalliseen lainsäädäntöönsä ja aloite lisää oikeusvarmuutta kaikkialla EU:ssa, estää oikeudellisen pirstaloitumisen jatkumisen ja varmistaa uhrien tehokkaan suojelun, joka on verrattavissa muita vahinkoja koskevan suojelun tasoon.

D. Seuranta

Milloin asiaa tarkastellaan uudelleen?