Tekoälyllä, esineiden internetillä ja robottitekniikalla on monia yhteisiä ominaispiirteitä, kuten yhteenliitettävyys, autonomisuus ja riippuvuus datasta. Niiden ansiosta tehtäviä voidaan suorittaa joko kokonaan tai lähes ilman ihmisen ohjausta tai valvontaa. Tekoälyyn perustuvat teknologiat voivat myös parantaa suoritustaan itse oppimalla kokemuksista. Ne ovat monimutkaisia, minkä vuoksi toimitusketjussa on mukana monenlaisia talouden toimijoita, ja ne koostuvat mitä moninaisimmista komponenteista, osista, ohjelmista, järjestelmistä ja palveluista, jotka yhdessä muodostavat uusia teknologisia ekosysteemejä. Lisäksi ne ovat avoimia erilaisille päivityksille ja parannuksille markkinoille saattamisen jälkeen. Tekoälyä hyödyntävien tuotteiden käyttäytymistä on vaikeampi ennustaa ja mahdollisia vahinkojen syitä on vaikeampi selvittää, koska niihin liittyvän datan määrä on valtava ja toiminta perustuu algoritmeihin ja koska tekoälyyn perustuva päätöksenteko on läpinäkymätöntä. Tekoälyä ja esineiden internetiä hyödyntävät tuotteet ovat yhteenliitettävyytensä ja avoimuutensa vuoksi myös alttiita kyberuhkille.

Unionissa on jo vakaa ja luotettava turvallisuutta ja tuotevastuuta koskeva sääntelykehys ja vankat turvallisuusnormit. Niitä täydentävät kunkin jäsenvaltion kansalliset vastuuvelvollisuutta koskevat säännökset, joita ei ole yhdenmukaistettu. Yhdessä nämä säännökset ja normit takaavat kansalaisten hyvinvoinnin sisämarkkinoilla ja kannustavat innovointiin ja teknologian käyttöönottoon. Monien tuotteiden ja palvelujen luonne on kuitenkin muuttumassa tekoälyn, esineiden internetin ja robotiikan vuoksi.

Turvallisuutta ja vastuuta koskevan lainsäädäntökehyksen tavoitteena on varmistaa, että myös kehittyvää digitaaliteknologiaa hyödyntävät tuotteet ja palvelut toimivat turvallisesti, luotettavasti ja yhdenmukaisesti ja että aiheutuneet vahingot korvataan tehokkaasti. Uutta digitaaliteknologiaa hyödyntävien tuotteiden ja järjestelmien korkeatasoinen turvallisuus ja aiheutuneiden vahinkojen korvaamista säätelevät vankat mekanismit (esimerkiksi vastuuvelvollisuutta koskeva lainsäädäntö) edistävät osaltaan kuluttajansuojan parantamista. Ne myös luovat luottamusta näihin teknologioihin, mikä on edellytys sille, että teollisuus ja käyttäjät haluavat ottaa ne käyttöön. Tämä puolestaan edistää eurooppalaisen teollisuuden kilpailukykyä ja unionin tavoitteita. Selkeä turvallisuus- ja vastuukehys on erityisen tärkeä silloin, kun kehitetään tekoälyn, esineiden internetin ja robotiikan kaltaisia uusia teknologioita, jotta voidaan varmistaa sekä kuluttajansuoja että oikeusvarmuus yritysten kannalta.

Tekoäly, esineiden internet ja robotiikka tarjoavat yhteiskunnassamme uusia mahdollisuuksia ja etuja. Komissio on tunnustanut näiden teknologioiden merkityksen ja niiden tarjoamat mahdollisuudet sekä tarpeen tehdä näillä aloilla merkittäviä investointeja. Se on asettanut tavoitteeksi nostaa Eurooppa johtoasemaan maailmassa tekoälyn, esineiden internetin ja robotiikan alalla. Tavoitteen saavuttaminen edellyttää, että siihen liittyvät teknologiset haasteet ratkaistaan selkeän ja ennakoitavissa olevan oikeudellisen kehyksen avulla.

Siltä osin kuin tekoälytuotteiden käyttäytyminen voidaan määrittää ennalta valmistajan ennen tuotteiden markkinoille saattamista tekemän riskinarvioinnin perusteella, unionin tuoteturvallisuuslainsäädännössä asetetaan jo tuottajille velvollisuus ottaa riskinarvioinnissa huomioon tuotteiden käyttö koko niiden elinkaaren ajan. Lisäksi valmistajien on annettava käyttäjille ohjeita ja turvallisuustietoja tai varoituksia. Esimerkiksi radiolaitedirektiivissä edellytetään, että valmistaja sisällyttää ohjeisiin tietoa siitä, miten laitetta on käytettävä sen käyttötarkoituksen mukaisesti.

Myös teollisuuden sovellukset voivat olla alttiina kyberuhkille, jotka vaikuttavat ihmisten turvallisuuteen laajemminkin, jos sovellukset eivät ole riittävän turvallisia. Esimerkkinä tästä on tilanne, jossa teollisuuslaitoksen elintärkeään ohjausjärjestelmään kohdistetaan kyberhyökkäys. Tarkoituksena on aiheuttaa räjähdys, joka voi aiheuttaa kuolonuhreja.

Tästä on esimerkkinä Islannissa tehty lasten älykelloa koskeva ilmoitus EU:n RAPEX-hälytysjärjestelmässä. Älykello ei voi aiheuttaa välitöntä haittaa sitä käyttävälle lapselle, mutta riittävän turvallisuustason puuttuessa sitä voidaan helposti käyttää välineenä lapsen tavoittamiseksi. Koska yksi älykellon käyttötarkoituksista on lapsen turvallisuuden varmistaminen paikannuksen avulla, kuluttajat eivät odota sen aiheuttavan lapsille turvallisuusuhkia sen vuoksi, että kuka tahansa voi sen avulla jäljittää lapsen ja/tai ottaa tähän yhteyttä.

Yhteenliitettävyys on yhä useampien tuotteiden ja palvelujen keskeinen ominaisuus. Yhteenliitettävyys tuo haasteita perinteiselle turvallisuuskäsitykselle, sillä se voi vaarantaa tuotteen turvallisuuden sekä välittömästi että välillisesti, jos tuote on alttiina hakkeroinnille, mistä aiheutuu turvallisuusuhkia, jotka vaarantavat käyttäjien turvallisuuden.

Unionin tuoteturvallisuuslainsäädäntö on suurelta osin laadittu ennen tekoälyn, esineiden internetin ja robotiikan kaltaisten digitaaliteknologioiden syntyä. Siksi siitä ei aina löydy säännöksiä, jotka koskisivat nimenomaisesti näiden kehittyvien teknologioiden tuomia uusia haasteita ja riskejä. Voimassa oleva tuoteturvallisuuslainsäädäntö on kuitenkin teknologianeutraalia, minkä vuoksi sitä voidaan soveltaa myös tällaista teknologiaa sisältäviin tuotteisiin. Lisäksi tähän sääntelykehykseen kuuluu myös myöhemmin annettuja säädöksiä, jotka koskevat esimerkiksi lääkinnällisiä laitteita ja autoja ja joissa on jo nimenomaisesti otettu huomioon tiettyjä digitaaliteknologioihin liittyviä näkökohtia, kuten automatisoitu päätöksenteko, ohjelmisto erillisenä tuotteena ja yhteenliitettävyys.

Unionin tuoteturvallisuuslainsäädännöllä pyritään varmistamaan, että unionin markkinoille saatetut tuotteet täyttävät korkeat terveys-, turvallisuus- ja ympäristövaatimukset ja että ne voivat liikkua vapaasti kaikkialla unionissa. Alakohtaista lainsäädäntöä täydentää yleinen tuoteturvallisuusdirektiivi, jossa edellytetään, että kaikkien kulutustavaroiden on oltava turvallisia, vaikka ne eivät kuuluisikaan unionin alakohtaisen lainsäädännön piiriin. Turvallisuussääntöjä täydentävät markkinavalvonta ja toimivalta, joka kansallisille viranomaisille on myönnetty markkinavalvonta-asetuksen ja yleisen tuoteturvallisuusdirektiivin nojalla. Liikenteen alalla sovelletaan lisäksi sekä unionin että kansallisen tason sääntöjä, jotka koskevat moottoriajoneuvon, ilma-aluksen tai aluksen käyttöönottoa, ja selkeitä sääntöjä, jotka koskevat turvallisuutta käytön aikana sekä liikenteenharjoittajien tehtäviä ja viranomaisten valvontatehtäviä.

Tätä monimutkaisuutta tarkastellaan järjestelmätasolla myös liikennelainsäädännössä. Autojen, junien ja lentokoneiden tyyppihyväksyntä ja sertifiointi tehdään paitsi koko ajoneuvon tai ilma-aluksen osalta myös jokaisen komponentin osalta erikseen. Ajoneuvojen katsastus, ilma-alusten lentokelpoisuus ja rautateiden yhteentoimivuus ovat osa turvallisuusarviointia. Liikenteen alalla järjestelmien on saatava viranomaisen hyväksyntä joko kolmannen osapuolen suorittaman, selkeisiin teknisiin vaatimuksiin perustuvan vaatimustenmukaisuusarvioinnin pohjalta tai sen jälkeen kun on osoitettu, miten riskejä käsitellään. Ratkaisu on yleensä tuote- ja järjestelmätason yhdistelmä.

Unionin tuoteturvallisuuslainsäädännössä ei nimenomaisesti käsitellä algoritmeihin perustuvien järjestelmien läpinäkymättömyydestä johtuvia kasvavia riskejä. Sen vuoksi on tarpeen tarkastella vaatimuksia, jotka koskevat algoritmien läpinäkyvyyttä sekä varmuutta ja vastuuvelvollisuutta ja tarvittaessa ihmisen suorittamaa valvontaa ja vääristymättömiä tuloksia, mikä on erityisen tärkeää täytäntöönpanon jälkivalvonnan yhteydessä ja jotta voidaan parantaa luottamusta näiden teknologioiden käyttöön. Yksi keino tarttua tähän haasteeseen olisi velvoittaa algoritmien kehittäjät paljastamaan suunnittelussa käytetyt parametrit ja data-aineistojen metadata onnettomuuksien sattuessa.

Läpinäkymättömyys on eräiden tekoälytuotteiden ja -järjestelmien keskeinen ominaisuus, joka voi seurata niiden kyvystä parantaa suorituksiaan itse oppimalla kokemuksista. Käytetystä metodologiasta riippuen tekoälytuotteet ja -järjestelmät voidaan jakaa eri ryhmiin läpinäkymättömyyden asteen mukaan. Läpinäkymättömyyden vuoksi järjestelmän päätöksentekoprosessia voi olla vaikea seurata (”musta laatikko” -vaikutus). Ihmisen ei välttämättä tarvitse ymmärtää päätöksentekoprosessin jokaista vaihetta, mutta sitä mukaa kun tekoälyalgoritmit kehittyvät ja niitä aletaan käyttää kriittisillä aloilla, on ratkaisevan tärkeää, että ihmiset pystyvät ymmärtämään, miten järjestelmän algoritmiin perustuvat päätökset syntyvät. Tämä on erityisen tärkeää täytäntöönpanon jälkivalvonnan yhteydessä, sillä sen ansiosta valvontaviranomaiset voivat jäljittää tekoälyjärjestelmän käyttäytymiseen ja valintoihin liittyvän vastuun. Tämä todetaan myös komission tiedonannossa Luottamuksen rakentaminen ihmiskeskeiseen tekoälyyn.

Tekoälysovellusten tuleva ”käyttäytyminen” saattaa myös aiheuttaa käyttäjille mielenterveysongelmia , jotka voivat johtua esimerkiksi siitä, että he joutuvat joko kotona tai työelämässä toimimaan yhteistyössä humanoidirobottien ja -järjestelmien kanssa. Tätä nykyä turvallisuudella tarkoitetaan yleensä kehittyvän digitaaliteknologian käyttäjälle aiheuttamaa fyysisen vahingon uhkaa. Toisaalta turvalliset tuotteet ovat unionin säädöskehyksen mukaan tuotteita, joihin ei liity mitään riskiä ihmisen terveydelle ja turvallisuudelle tai joihin liittyvä riski on mahdollisimman vähäinen. Terveyden määritelmän katsotaan yleensä kattavan sekä fyysisen terveyden että mielenterveyden. Säädöskehyksessä olisi kuitenkin mainittava tuoteturvallisuuden yhteydessä nimenomaisesti myös mielenterveyteen kohdistuvat riskit.

Joissakin unionin tuoteturvallisuussäädöksissä viitataan nimenomaisesti tuotteeseen integroituun ohjelmistoon. Esimerkiksi konedirektiivissä edellytetään, että ohjausjärjestelmän ohjelmistovika ei saa aiheuttaa vaaratilanteita.

Unionin tuoteturvallisuuslainsäädäntöä sovellettaessa ohjelmistopäivityksiä voitaisiin verrata turvallisuussyistä tehtäviin kunnossapitotöihin, edellyttäen että ne eivät merkittävästi muuta jo markkinoille saatettua tuotetta eivätkä aiheuta uusia riskejä, joita ei ole otettu huomioon alustavassa riskinarvioinnissa. Jos ohjelmistopäivitys muuttaa merkittävästi tuotetta, johon se ladataan, koko tuotetta voidaan kuitenkin pitää uutena tuotteena. Tällöin on arvioitava uudelleen, täyttääkö se asiaa koskevan tuoteturvallisuuslainsäädännön vaatimukset silloin kun muutos tehdään.

Sen sijaan unionin alakohtaisessa harmonisoidussa tuoteturvallisuuslainsäädännössä ei yleensä säädetä erikseen itsenäisistä ohjelmistoista, jotka saatetaan markkinoille sellaisenaan tai ladataan sen jälkeen kun tuote on jo saatettu markkinoille. Itsenäisistä ohjelmistoista säädetään kuitenkin joissakin unionin säädöksissä, kuten lääkinnällisiä laitteita koskevassa asetuksessa. Lisäksi itsenäisiä ohjelmistoja, jotka ladataan sellaisiin verkkoon liitettyihin tuotteisiin, joiden viestintä perustuu tiettyihin radiomoduuleihin, voidaan säännellä radiolaitedirektiivillä delegoitujen säädösten välityksellä. Radiolaitedirektiivissä edellytetään, että tiettyjen luokkien radiolaitteet tukevat ominaisuuksia, joilla taataan, ettei ohjelmiston lataaminen vaaranna laitteen vaatimustenmukaisuutta.

Unionin tuoteturvallisuuslainsäädännössä otetaan jo huomioon turvallisuusriskit, jotka johtuvat tuotteeseen ennen markkinoille saattamista integroiduista ohjelmistoista, ja valmistajan suunnittelemista myöhemmistä päivityksistä johtuvat mahdolliset riskit, voisi lisäksi olla tarpeen määrittää erityiset ja/tai nimenomaiset vaatimukset, jotka koskisivat itsenäisiä ohjelmistoja (esimerkiksi ladattavia sovelluksia). Erityistä huomiota olisi kiinnitettävä itsenäisiin ohjelmistoihin, joilla varmistetaan tekoälytuotteiden ja -järjestelmien turvallisuustoiminnot. Saattaa olla tarpeen asettaa valmistajille lisävelvoitteita sen varmistamiseksi, että tuotteisiin lisätään ominaisuuksia, jotka estävät lataamasta tekoälytuotteisiin ohjelmistoja, jotka vaikuttavat turvallisuuteen tuotteen elinkaaren aikana.

Kehittyviin digitaaliteknologioihin vaikuttavat myös monimutkaiset arvoketjut. Ne eivät kuitenkaan ole mikään uusi asia eivätkä ne koske pelkästään tekoälyn tai esineiden internetin kaltaisia kehittyviä digitaaliteknologioita, vaan myös muun muassa tietokoneita, palvelurobotteja ja liikennejärjestelmiä.

Unionin tuoteturvallisuuslainsäädännön nojalla vastuu tuotteen turvallisuudesta on sillä valmistajalla, joka asettaa tuotteen markkinoille – riippumatta siitä, kuinka monimutkainen tuotteen arvoketju on. Valmistajat vastaavat lopputuotteen turvallisuudesta, myös tuotteeseen integroiduista osista, kuten tietokoneen ohjelmistosta.

Joissakin unionin tuoteturvallisuussäädöksissä viitataan jo nimenomaisesti tilanteisiin, joissa tietyn tuotteen valmistukseen osallistuu useita talouden toimijoita ennen kuin tuote saatetaan markkinoille. Esimerkiksi hissidirektiivissä edellytetään, että se talouden toimija, joka suunnittelee ja valmistaa hissin, toimittaa asentajalle ”kaikki tarvittavat asiakirjat ja tiedot, jotta tämä kykenee takaamaan hissin oikean ja turvallisen asentamisen ja testaamisen.”. Konedirektiivissä edellytetään, että laitteiden valmistajat toimittavat käyttäjälle ohjeet, joiden avulla laite pannaan kokoon toisen koneen kanssa.

Arvoketjujen monimutkaisuus on otettu huomioon unionin tuoteturvallisuuslainsäädännössä asettamalla velvoitteita useille talouden toimijoille jaetun vastuun periaatteen mukaisesti. Valmistajan vastuu lopputuotteen turvallisuudesta on todettu asianmukaiseksi käytännöksi nykyisissä monimutkaisissa arvoketjuissa. Jos arvoketjut muuttuvat tulevaisuudessa vielä monimutkaisemmiksi, oikeusvarmuutta voitaisiin parantaa antamalla nimenomaisia säännöksiä, joissa arvoketjuun kuuluvia eri talouden toimijoita vaaditaan tekemään yhteistyötä käyttäjien kanssa. Kaikki arvoketjuun kuuluvat toimijat, jotka vaikuttavat tuotteen turvallisuuteen (esim. ohjelmiston valmistajat), ja käyttäjät (jotka mukauttavat tuotetta) olisivat osaltaan vastuussa ja velvollisia antamaan ketjun seuraavalle toimijalle tarvittavat tiedot ja toteuttamaan tarvittavat toimenpiteet.

3.Vastuu

Unionin tasolla vahvistetut tuoteturvallisuutta ja -vastuuta koskevat säännökset muodostavat kaksi toisiaan täydentävää mekanismia. Molempien tavoitteena on edistää tavaroiden sisämarkkinoiden toimintaa varmistamalla korkeatasoinen turvallisuus eli minimoimalla käyttäjille aiheutuvien vahinkojen riski ja säätämällä viallisista tavaroista aiheutuvien vahinkojen vuoksi myönnettävistä korvauksista.

Kansallisella tasolla näitä unionin sääntöjä täydentävät eri jäsenvaltioiden erilaiset siviilioikeudellista vastuuta koskevat kehykset, joissa säädetään eri syistä (esimerkiksi viallisten tuotteiden ja palvelujen vuoksi) myönnettävistä vahingonkorvauksista. Nämä säännökset koskevat eri vastuutahoja (kuten omistajia, toiminnanharjoittajia ja palveluntarjoajia).

Unionin turvallisuussääntöjen kehittäminen tekoälyn ominaisuuksien huomioon ottamiseksi voi auttaa vähentämään onnettomuuksia, mutta niitä ei kuitenkaan voida kokonaan välttää. Onnettomuuden sattuessa tarvitaan siviilioikeudellista vastuujärjestelmää. Tällaisilla säännöillä on yhteiskunnassamme kahtalainen merkitys: ensinnäkin niillä varmistetaan, että muiden aiheuttamien vahinkojen uhrit saavat korvauksen, ja toisaalta ne muodostavat korvausvastuussa olevan osapuolen kannalta taloudellisen kannustimen välttää tällaisten vahinkojen aiheuttamista. Vastuusäännöissä on aina löydettävä tasapaino siinä, miten kansalaisia suojellaan vahingoilta samalla kun annetaan yrityksille mahdollisuus innovointiin.

Vastuusäännöt ovat toimineet unionissa hyvin. Ne perustuvat siihen, että sovelletaan rinnakkain tuotevastuudirektiiviä (direktiivi 85/374/ETY), jolla on yhdenmukaistettu tuottajan vastuu viallisista tuotteista, ja muita kansallisia vastuujärjestelmiä, joita ei ole yhdenmukaistettu.

Tuotevastuudirektiivi tarjoaa suojelutason, jota kansalliset tuottamukseen perustuvat vastuusäännöt eivät voi tarjota yksinään. Direktiivillä otetaan käyttöön järjestelmä, jonka mukaan valmistajalla on objektiivinen vastuu tuotteissaan olevien vikojen aiheuttamista vahingoista. Vahingonkärsijällä on oikeus saada korvaus fyysisestä tai aineellisesta vahingosta, jos hän voi näyttää toteen vahingon ja tuotteen viallisuuden (eli että tuote ei ollut niin turvallinen kuin yleisöllä on oikeus odottaa) ja näiden välisen syy-yhteyden.

Kansallisissa, yhdenmukaistamattomissa järjestelmissä on tuottamukseen perustuvia vastuusääntöjä, joiden mukaan vahingonkärsijän on esitettävä näyttöä siitä, että vastuullinen taho on syyllistynyt virheeseen ja on aiheutunut vahinko ja että näiden välillä on syy-yhteys. Vasta tämän jälkeen hän voi esittää vahingonkorvausvaatimuksen. Kansallisissa järjestelmissä on myös objektiiviseen vastuuseen perustuvia järjestelmiä, joissa kansallinen lainsäätäjä on osoittanut vastuun tietystä riskistä määrätylle henkilölle. Tällöin uhrin ei tarvitse näyttää toteen tuottamusta/vikaa eikä syy-yhteyttä tuottamuksen/vian ja vahingon välillä.

Kansallisissa vastuujärjestelmissä säädetään tuotteiden ja palvelujen aiheuttamien vahinkojen uhreja varten useista rinnakkaisista vahingonkorvausvaatimuksista, jotka perustuvat joko tuottamukseen tai objektiiviseen vastuuseen. Nämä vaatimukset kohdistuvat usein eri vastuuhenkilöihin ja niihin liittyy erilaisia ehtoja.

Esimerkiksi auto-onnettomuuden uhrilla on yleensä oikeus esittää objektiiviseen vastuuseen perustuva vahingonkorvausvaatimus auton omistajaa (eli moottoriajoneuvon vastuuvakuutuksen ottajaa) vastaan ja tuottamukseen perustuva vahingonkorvausvaatimus auton kuljettajaa vastaan. Molemmat kanteet perustuvat kansalliseen siviilioikeuteen. Lisäksi uhri voi esittää tuotevastuudirektiivin nojalla kanteen auton valmistajaa vastaan, jos onnettomuus johtui autossa olleesta viasta.

Moottoriajoneuvovakuutuksia koskevien yhdenmukaistettujen sääntöjen mukaan ajoneuvon käyttöä varten on oltava vakuutus, ja vakuutuksenantaja on käytännössä ensimmäisenä vastuussa aineellisten ja henkilövahinkojen perusteella maksettavista vahingonkorvauksista. Näiden sääntöjen mukaan pakollinen vakuutus takaa uhrille maksettavan korvauksen ja suojaa vakuutettua, joka on kansallisen siviilioikeuden sääntöjen nojalla velvollinen maksamaan vahingonkorvausta onnettomuudesta, jossa ajoneuvo on ollut osallisena. Tuotevastuudirektiivissä ei velvoiteta valmistajia ottamaan vakuutusta. Itseohjautuvia ajoneuvoja ei kohdella unionin lainsäädännössä liikennevakuutuksen osalta eri tavoin kuin muita autoja. Itseohjautuvilla autoilla on oltava liikennevakuutus niin kuin muillakin autoilla, ja se on vahingonkärsijälle helpoin keino saada vahingonkorvaus.