Poročilo o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika

1.Uvod

Umetna inteligenca, internet stvari in robotika bodo ustvarili nove priložnosti in koristi za našo družbo. Komisija je prepoznala pomen in potencial teh tehnologij, pa tudi potrebo po znatnih naložbah na teh področjih . Zavezana je cilju, da Evropa postane vodilna v svetu na področjih umetne inteligence, interneta stvari in robotike. Za dosego tega cilja je potreben jasen in predvidljiv pravni okvir, ki bo obravnaval tehnološke izzive.

1.1.Obstoječi okvir za varnost in odgovornost

Splošni cilj pravnih okvirov za varnost in odgovornost je zagotoviti, da vsi proizvodi in storitve, vključno s tistimi z integriranimi digitalnimi tehnologijami v vzponu, delujejo varno, zanesljivo in dosledno ter da se morebitna nastala škoda učinkovito odpravi. Visoka raven varnosti proizvodov in sistemov z integriranimi novimi digitalnimi tehnologijami ter trdni mehanizmi za odpravljanje nastale škode (tj. okvir za odgovornost) prispevajo k boljšemu varstvu potrošnikov. Prav tako ustvarjajo zaupanje v te tehnologije, kar je predpogoj za njihovo sprejemanje v industriji in pri uporabnikih. To bo posledično spodbudilo konkurenčnost naše industrije in prispevalo k uresničevanju ciljev Unije. Jasen okvir za varnost in odgovornost je še posebej pomemben, ko se pojavijo nove tehnologije, kot so umetna inteligenca, internet stvari in robotika, in sicer zato, da se zagotovita varstvo potrošnikov in pravna varnost podjetij.

Unija ima robusten in zanesljiv regulativni okvir na področju varnosti in odgovornosti za proizvode ter trden sklop varnostnih standardov, ki jih dopolnjujejo nacionalne, neharmonizirane zakonodaje o odgovornosti. Skupaj zagotavljajo blaginjo naših državljanov na enotnem trgu ter spodbujajo inovacije in uvajanje novih tehnologij. Vendar pa umetna inteligenca, internet stvari in robotika spreminjajo značilnosti številnih proizvodov in storitev.

V sporočilu o umetni inteligenci za Evropo , sprejetem 25. aprila 2018, je bilo napovedano, da bo Komisija predložila poročilo z oceno posledic digitalnih tehnologij v vzponu za obstoječa okvira varnosti in odgovornosti. Namen tega poročila je opredeliti in preučiti širše posledice in morebitne vrzeli v okvirih odgovornosti in varnosti za umetno inteligenco, internet stvari in robotiko. Smernice iz tega poročila, ki spremlja belo knjigo o umetni inteligenci, so predvidene za razpravo in so del širšega posvetovanja z deležniki. Oddelek o varnosti temelji na oceni direktive o strojih in delu z zadevnimi strokovnimi skupinami. Oddelek o odgovornosti temelji na oceni direktive o odgovornosti za proizvode, prispevkih zadevnih strokovnih skupin in stikih z deležniki. Namen tega poročila ni, da se zagotovi izčrpen pregled obstoječih pravil o varnosti in odgovornosti, temveč da se pozornost nameni ključnim doslej opredeljenim vprašanjem.

1.2.Značilnosti tehnologij umetne inteligence, interneta stvari in robotike

Umetna inteligenca, internet stvari in robotika imajo veliko skupnih značilnosti. Z združevanjem povezljivosti, avtonomnosti in podatkovne odvisnosti lahko izvajajo naloge z malo ali nič človeškega nadzora. Sistemi, ki so opremljeni z umetno inteligenco, lahko izboljšajo svojo zmogljivost z učenjem iz izkušenj. Njihova kompleksnost se odraža v množici gospodarskih subjektov, vključenih v dobavno verigo, in raznovrstnosti sestavnih delov, elementov, programske opreme, sistemov ali storitev, ki skupaj tvorijo nove tehnološke ekosisteme. Poleg tega so po tem, ko so dani na trg, odprti za posodobitve in nadgradnje. Velike količine podatkov, zanašanje na algoritme in nepreglednost postopka odločanja umetne inteligence otežujejo napovedovanje vedenja proizvodov, podprtih z umetno inteligenco, in razumevanje možnih vzrokov za škodo. Povezljivost in odprtost pa lahko tudi povzročita, da so proizvodi, ki temeljijo na umetni inteligenci in internetu stvari, izpostavljeni kibernetskim grožnjam.

1.3.Priložnosti, ki jih ustvarjajo umetna inteligenca, internet stvari in robotika

Povečanje zaupanja uporabnikov in družbenega sprejemanja tehnologij v vzponu, izboljšanje proizvodov, postopkov in poslovnih modelov ter pomoč evropskim proizvajalcem, da postanejo učinkovitejši, so le nekatere priložnosti, ki jih ponujajo umetna inteligenca, internet stvari in robotika.

Poleg izboljšanja produktivnosti in učinkovitosti naj bi umetna inteligenca ljudem omogočila razvoj še ne dosežene inteligence, odprla vrata novim odkritjem in pomagala pri reševanju nekaterih največjih svetovnih izzivov: od zdravljenja kroničnih bolezni, napovedovanja izbruhov bolezni ali zmanjšanja števila smrtnih žrtev v prometnih nesrečah do boja proti podnebnim spremembam ali predvidevanja kibernetskih groženj.

Te tehnologije lahko z izboljšanjem varnosti proizvodov prinesejo številne koristi, saj bodo ti manj izpostavljeni določenim tveganjem. Povezana in avtomatizirana vozila bi lahko na primer izboljšala varnost v cestnem prometu, saj je večina prometnih nesreč trenutno posledica človeških napak . Poleg tega so sistemi interneta stvari zasnovani za sprejemanje in obdelavo velikih količin podatkov iz različnih virov. To veliko količino informacij bi lahko izkoristili, da bi se proizvodi sami prilagajali in s tem postali varnejši. Nove tehnologije lahko prispevajo k učinkovitejšemu odpoklicu proizvodov, saj bi lahko na primer proizvodi sami opozarjali uporabnike na varnostne težave . Če se med uporabo povezanega proizvoda pojavi varnostno vprašanje, lahko proizvajalci neposredno stopijo v stik z uporabniki, da jih opozorijo na tveganja in, če je to mogoče, takoj odpravijo težavo, na primer z varnostno posodobitvijo. Tako je na primer proizvajalec pametnega telefona leta 2017 med odpoklicem ene od svojih naprav izvedel posodobitev programske opreme, da bi zmogljivost baterije v odpoklicanih telefonih zmanjšal na 0 % , tako da bi uporabniki prenehali uporabljati nevarne naprave.

Poleg tega lahko nove tehnologije prispevajo k boljši sledljivosti proizvodov. Funkcije povezljivosti interneta stvari lahko na primer podjetjem in organom za nadzor trga omogočijo, da spremljajo nevarne proizvode in ugotovijo tveganja v dobavnih verigah .

Poleg tega, da umetna inteligenca, internet stvari in robotika prinašajo priložnosti za gospodarstvo in naše družbe, pa lahko tudi ogrozijo pravno zaščitene interese, tako materialne kot nematerialne. Tveganje za take grožnje se bo povečalo s širjenjem uporabe teh tehnologij. V zvezi s tem je treba analizirati, ali in v kolikšni meri je sedanji pravni okvir varnosti in odgovornosti še vedno primeren za zaščito uporabnikov.

2.Varnost

V sporočilu Komisije o krepitvi zaupanja v umetno inteligenco, osredotočeno na človeka, je navedeno, da morajo imeti sistemi umetne inteligence zaščitne in vgrajene varnostne mehanizme, ki zagotavljajo, da so sistemi preverljivo varni na vsakem koraku, pri čemer mora biti glavna skrb fizična in psihična varnost vseh zadevnih oseb.

Pri oceni zakonodaje Unije o varnosti proizvodov v tem oddelku je analizirano, ali sedanji zakonodajni okvir Unije vsebuje ustrezne elemente za zagotovitev, da imajo tehnologije v vzponu in zlasti sistemi umetne inteligence vgrajene zaščitne in varnostne mehanizme.

To poročilo obravnava predvsem direktivo o splošni varnosti proizvodov in harmonizirano zakonodajo o proizvodih, ki upošteva horizontalna pravila „novega pristopa“ in/ali „novega zakonodajnega okvira“ (v nadaljnjem besedilu: zakonodaja ali okvir Unije za varnost proizvodov). Horizontalna pravila zagotavljajo skladnost med sektorskimi pravili o varnosti proizvodov.