Komisjoni teatises „Usalduse loomine inimkeskse tehisintellekti vastu“ on öeldud, et tehisintellekti süsteemidel peaksid olema sisseprojekteeritud ohutus- ja turbemehhanismid, mis tagaksid, et süsteemid on igas etapis kontrollitavalt ohutud ning lähtuvad sellest, et olulisim on kõigi asjaosaliste füüsiline ja vaimne turvalisus.

Ühest küljest võivad tehisintellekt, asjade internet ja robootika luua majanduse ja ühiskonna jaoks uusi võimalusi, kuid teisalt võivad kaasnevad riskid kahjustada seadusega kaitstud huve, nii materiaalseid kui ka moraalseid. Rakendusvaldkonna laienedes sellise kahju risk üha kasvab. Seoses sellega on oluline analüüsida, kas ja mil määral on praegune ohutust ja vastutust reguleeriv õigusraamistik kasutajate kaitsmiseks endiselt sobiv.

Kirjeldatud tehnoloogiad võivad tuua palju kasu tänu tooteohutuse parandamisele, mis vähendab vastuvõtlikkust teatavatele riskidele. Näiteks võib sõidukite ühenduvuse ja automatiseerimisega paraneda liiklusohutus, sest praegu on liiklusõnnetuste põhjuseks enamasti inimlik viga . Pealegi on asjade interneti süsteemid loodud selliseks, et nad suudavad võtta vastu ja töödelda eri allikatest pärit suuri andmehulki. Suuremat teabehulka võib kasutada selleks, et tooted ise kohaneksid ja muutuksid seega ohutumaks. Uued tehnoloogiad võivad tõhustada toodete tagasikutsumist, näiteks võiks toode edastada kasutajatele hoiatuse, et aidata neil ohutusega seotud probleemi vältida . Kui ühendatud toote kasutamisel tekib mingi oht, saavad tootjad kasutajatega otse suhelda nii selleks, et kasutajaid riskide eest hoiatada, kui ka selleks, et võimaluse korral probleem otse lahendada näiteks ohutusseadete uuendamisega. Näiteks üks nutitelefonide tootja kasutas 2017. aastal ühe oma seadme tagasikutsumiseks tarkvarauuendust, millega vähendati tagasikutsutud telefonidel akude mahtuvus nullini, et kasutajad lõpetaksid ohtlike seadmete kasutamise.

Tehisintellektil, asjade internetil ja robootikal on palju ühiseid tunnuseid. Neis võivad kokku saada ühenduvus, autonoomsus ja andmesõltuvus, et täita mingeid ülesandeid nii, et inimeste juhtimine või järelevalve puudub täiesti või on minimaalne. Tehisintellekti kasutavad süsteemid saavad oma töö tulemuslikkust parandada ka kogemustest õppimisega. Nende valdkondade keerukust näitab nii tarneahelas osalevate ettevõtjate arvukus kui ka uusi tehnoloogilisi ökosüsteeme moodustavate komponentide, osade, tarkvara, süsteemide ja teenuste paljusus. Sellele lisandub asjaolu, et pärast turule laskmist on lahendused avatud uuendustele ja täiendustele. Suurte andmehulkade kasutamise, algoritmipõhisuse ning tehisintellekti otsustusprotsessi läbipaistmatuse tõttu on keeruline prognoosida tehisintellekti kasutava toote käitumist ja mõista kahju võimalikke põhjuseid. Lisaks kõigele muule võivad ühenduvuse ja avatuse tõttu ähvardada asjade internetti ja tehisintellektitooteid küberohud.

25. aprillil 2018 vastu võetud teatises „Tehisintellekt Euroopa huvides“ anti teada, et komisjon esitab aruande, milles hinnatakse kujunemisjärgus digitehnoloogiate mõju olemasolevatele ohutus- ja vastutusraamistikele. Selles aruandes tahetakse välja selgitada tehisintellekti, asjade interneti ja robootika vastutus- ja ohutusraamistikega seotud laiem mõju ja võimalikud lüngad neis raamistikes ning neid analüüsida. Käesolevas, tehisintellekti valgele raamatule lisatud aruandes kirjeldatud suundumused on mõeldud arutelu ainesena ja esitatud laiema sidusrühmadega konsulteerimise raames. Ohutust käsitlev osa põhineb masinadirektiivi hindamisel ja asjaomaste eksperdirühmadega tehtud koostööl. Vastutust käsitlev osa põhineb tootevastutuse direktiivi hindamisel, asjaomaste eksperdirühmade sisendil ja suhetel sidusrühmadega. Aruande eesmärk ei ole anda ammendavat ülevaadet ohutuse ja vastutuse normidest, pigem keskendutakse peamistele seni kindlaks tehtud küsimustele.

Liidul on kindel ja usaldusväärne ohutus- ja tootevastutuse õigusraamistik ning kindlad ohutusstandardid, mida täiendavad ühtlustamata riiklikud õigusaktid vastutuse reguleerimise kohta. Koos tagavad need kodanike heaolu ühtsel turul ning soodustavad innovatsiooni ja tehnoloogiliste lahenduste kasutuselevõttu. Samas muudavad tehisintellekt, asjade internet ja robootika paljude toodete ja teenuste omadusi.

Ohutuse ja vastutuse õigusraamistike üldine eesmärk on tagada, et kõik tooted ja teenused, ka need, milles kasutatakse kujunemisjärgus digitehnoloogiat, töötavad ohutult, usaldusväärselt ja stabiilselt ning et tekkinud kahju heastatakse tõhusalt. Uusi digitehnoloogiaid kasutavate toodete ja süsteemide ohutuse kõrge tase ning tekkinud kahju heastamise töökindlad mehhanismid (st vastutusraamistik) aitavad tarbijaid paremini kaitsta. See tekitab selliste tehnoloogiate vastu usaldust, mis on eeltingimus, et tööstus ja kasutajad neid tehnoloogiaid kasutama hakkaksid. See omakorda suurendab meie tööstuse konkurentsivõimet ja aitab saavutada liidu eesmärke. Tehisintellekti, asjade interneti ja robootika taoliste uute tehnoloogiate kujunemise ajal on selge ohutus- ja vastutusraamistik eriti oluline nii tarbijakaitse kui ka ettevõtjate õiguskindluse tagamiseks.

Tehisintellekt, asjade internet ja robootika loovad meie ühiskonna jaoks uusi võimalusi ja hüvesid. Komisjon on tunnistanud nende tehnoloogiate tähtsust ja potentsiaali ning vajadust teha neis valdkondades märkimisväärseid investeeringuid . Komisjonil on kindel kavatsus teha Euroopast tehisintellekti, asjade interneti ja robootika valdkonna eestvedaja kogu maailmas. Selle eesmärgi saavutamiseks on vaja selget ja prognoositavat õigusraamistikku, mis aitaks lahendada tehnoloogilisi probleeme.

Liidu tooteohutusalaste õigusaktide eesmärk on tagada, et liidu turule lastud tooted vastaksid rangetele tervishoiu-, ohutus- ja keskkonnanõuetele ning et sellised tooted saaksid kogu liidus vabalt ringelda. Valdkondlikke õigusakte täiendab üldise tooteohutuse direktiiv, milles on sätestatud nõue, et kõik tarbekaubad peavad olema ohutud ka siis, kui nende suhtes ei kohaldata liidu valdkondlikke õigusakte. Ohutusnorme täiendavad turujärelevalve ja õigused, mis on riikide ametiasutustele antud turujärelevalve määruse ja üldise tooteohutuse direktiivi alusel. Transpordi valdkonnas on olemas liidu ja liikmesriikide täiendavad õigusnormid mootorsõidukite, õhusõidukite ja laevade kasutuselevõtmise kohta ning samuti on olemas selged normid, mis reguleerivad käitamisaegset ohutust, sh käitajate ülesanded ja ametiasutuste järelevalvealased ülesanded.

Ka Euroopa standardimisalane tegevus on liidu tooteohutusalaste õigusaktide oluline element. Arvestades, et digitaliseerimine ja kujunemisjärgus digitehnoloogia on olemuselt ülemaailmsed, on rahvusvaheline standardimisalane koostöö Euroopa tööstuse konkurentsivõime seisukohast eriti oluline.

Suur osa liidu tooteohutuse raamistikust on koostatud enne selliste digitehnoloogiate esilekerkimist nagu tehisintellekt, asjade internet ja robootika. Seega ei sisalda see alati sätteid, milles käsitletaks sõnaselgelt nende kujunemisjärgus tehnoloogiatega seotud uusi probleeme ja riske. Kuid kuna kehtiv tooteohutuse raamistik on tehnoloogianeutraalne, ei jää neid tehnoloogiaid sisaldavad tooted seepärast veel kehtivate õigusaktide kohaldamisalast üldse välja. Pealegi on hilisemates sellesse raamistikku kuuluvates õigusaktides (nt meditsiiniseadmete või autode valdkonnas) juba sõnaselgelt nimetatud mõningaid digitehnoloogiate kasutuselevõtu aspekte (nt automatiseeritud otsuste tegemine, tarkvara kui eraldi toode ning ühenduvus).

Kehtivate liidu tooteohutusalaste õigusaktide loogiline raamistik

Allpool kirjeldatakse probleeme, mida kujunemisjärgus digitehnoloogiad liidu tooteohutuse raamistiku seisukohast kaasa toovad.

Ühenduvus on üha rohkemate toodete ja teenuste üks põhiomadus. See omadus on ohutuse tavapärase käsituse seisukohast problemaatiline, sest ühenduvus võib kahjustada toote ohutust otseselt või ka kaudselt, kui seda saab häkkida, mis põhjustab turvaohte ja kahjustab kasutajate turvalisust.

Võtame näiteks juhtumi, kui Island teatas ELi kiire teabevahetuse süsteemi kaudu lastele mõeldud nutikellast. Selline toode ei kahjusta otseselt last, kes seda kannab, kuid kuna see ei vasta minimaalsetele turvanõuetele, siis saab seda kergesti kasutada vahendina lapsega suhtlemiseks. Üks sellise toote kavandatud eesmärk on tagada lapse asukoha kindlaksmääramisega tema turvalisus ning seega eeldavad tarbijad, et seade ei ohusta lapse turvalisust näiteks seeläbi, et tema asukoha saab kindlaks määrata ja/või temaga ühendust võtta ükskõik kes.

Veel üks näide on pärit teatisest, mille Saksamaa esitas sõiduauto kohta. Sõidukis oleva raadio tarkvaras võivad olla teatavad turvaaugud, mille kaudu võivad volitamata kolmandad isikud saada juurdepääsu sõiduki omavahel ühendatud juhtimissüsteemidele. Kui kolmas isik otsustaks neid turvaauke kuritarvitada, võib tagajärjeks olla liiklusõnnetus.

Küberohtudele võivad avatud olla ka tööstusrakendused ning kui selliste rakenduste turvalisuse tase jätab soovida, võib see mõjutada paljude inimeste turvalisust. Nii võib juhtuda näiteks siis, kui tööstusrajatise elutähtsat juhtimissüsteemi tabab küberrünne, mille eesmärk on tekitada plahvatus, milles inimesed võivad hukka saada.

Üldiselt ei sisalda liidu tooteohutusalased õigusaktid konkreetseid kohustuslikke olulisi nõudeid, mis puudutaksid kasutajate ohutust mõjutavaid küberohte. Küll aga sisaldavad turvalisusaspekte käsitlevaid sätteid meditsiiniseadmete määrus, mõõtevahendite direktiiv, raadioseadmete direktiiv ja sõidukite tüübikinnitust käsitlevad õigusaktid. Küberturvalisuse määrusega on loodud info- ja kommunikatsioonitehnoloogia (IKT) toodete, teenuste ja protsesside küberturvalisuse vabatahtliku sertifitseerimise raamistik, samas kui kohustuslikud nõuded on ette nähtud liidu asjaomaste tooteohutusalaste õigusaktidega.

Ohutusega seotud riskid võivad kaasneda ka sellega, kui kujunemisjärgus digitehnoloogia peaks minetama võrkuühenduvuse. Näiteks juhul, kui võrku ühendatud tuletõrjealarm minetab ühenduvuse, ei pruugi see kasutajat tulekahju korral hoiatada.

Liidu praeguste tooteohutusalaste õigusaktide ohutuse käsitus on kooskõlas ohutuse laiendatud käsitusega, et oleks võimalik kaitsta tarbijaid ja kasutajaid. Seega hõlmab tooteohutuse käsitus kaitset igasuguste tootest tulenevate riskide eest – mitte ainult mehhaaniliste, keemiliste ja elektriliste riskide, vaid ka küberriskide ja seadmete ühenduvuse kadumisega seotud riskide eest. Võiks kaaluda, kas asjaomased liidu õigusaktid peaksid sisaldama selle kohta sõnaselgeid sätteid, et pakkuda kasutajatele paremat kaitset ja suuremat õiguskindlust.

Üks tehisintellekti olulisi omadusi on autonoomsus. Tehisintellektist tulenevad soovimatud tagajärjed võivad kahjustada kasutajaid ja teisi kokkupuutuvaid isikuid.

Kuivõrd tehisintellektitoodete tulevast „käitumist“ saab ette kindlaks määrata riskihindamisega, mille tootja teeb enne toodete turule laskmist, siis on liidu tooteohutuse raamistikus niigi sätestatud kohustus, et tootjad peavad oma riskihindamises võtma arvesse toodete kasutamist kogu nende elutsükli käigus. Ühtlasi on seal sätestatud, et tootjad peavad andma kasutajatele juhiseid ja ohutusteavet või neid hoiatama. Sellega seoses nõutakse näiteks raadioseadmete direktiivis, et tootja esitatud juhised sisaldaks teavet selle kohta, kuidas raadioseadmeid kavandatud kasutust silmas pidades kasutada.

Tulevikus võib ette tulla ka olukordi, kus tehisintellekti süsteemi töö tulemusi ei ole võimalik täielikult ette kindlaks määrata. Sellises olukorras ei pruugi enne toote turule laskmist tehtud riskihindamine enam kajastada toote kasutamist, toimimist ega käitumist. Kui sellistel juhtudel peaks tootja poolt algselt ette nähtud kasutusotstarve autonoomse käitumise tõttu muutuma ning kui see peaks mõjutama vastavust ohutusnõuetele, võib kaaluda, kas nõuda iseõppiva toote uut hindamist.

Praeguse raamistikuga on juba ette nähtud, et kui tootja saab teada, et toode tekitab oma olelusringi jooksul riske, mis mõjutavad ohutust, peab ta viivitamata teavitama pädevaid asutusi ja võtma meetmeid, et hoida ära kasutajate ohtu sattumine.