Be to, naujos technologijos gali padėti pagerinti produktų atsekamumą. Pavyzdžiui, naudodamosi daiktų interneto sąsajumu, įmonės ir rinkos priežiūros institucijos galėtų atsekti pavojingus produktus ir nustatyti tiekimo grandinėse kylančią riziką .

Šios technologijos gali būti labai naudingos – jos gali pagerinti produktų saugą, kad jie taptų atsparesni tam tikrai rizikai. Pavyzdžiui, dauguma kelių eismo įvykių šiuo metu įvyksta dėl žmogaus klaidų , todėl susietosios ir automatizuotos transporto priemonės galėtų padidinti kelių eismo saugumą. Be to, daiktų interneto sistemos gali priimti ir apdoroti didžiulius iš įvairių šaltinių gaunamų duomenų kiekius. Tokį didelį informacijos kiekį galima panaudoti tam, kad juo remdamiesi produktai galėtų patys prisitaikyti ir atitinkamai taptų saugesni. Naudojantis naujomis technologijomis būtų galima veiksmingiau atšaukti produktus iš rinkos, nes, pavyzdžiui, jie patys galėtų įspėti naudotojus vengti saugos problemų . Jei naudojant susietąjį produktą kiltų saugos problemų, gamintojai galėtų tiesiogiai bendrauti su naudotojais: viena vertus, įspėtų juos apie riziką, kita vertus, jei įmanoma, tiesiogiai išspręstų problemą, pavyzdžiui, įdiegtų su sauga susijusį naujinį. Pavyzdžiui, 2017 m. norėdamas atšaukti iš rinkos vieną iš savo prietaisų, išmaniųjų telefonų gamintojas atnaujino programinę įrangą ir atšaukiamų telefonų akumuliatorių talpą sumažino iki nulio , kad naudotojai tų pavojingų prietaisų nebenaudotų.

Būtų galima nustatyti naują rizikos vertinimo procedūrą, kuri, be rizikos vertinimo, atliekamo prieš pateikiant gaminį rinkai, būtų taikoma tuo atveju, jei gaminys per savo gyvavimo laikotarpį iš esmės pasikeistų, pavyzdžiui, įgytų kitokią funkciją, kurios gamintojas nenumatė pradiniame rizikos vertinime. Taikant tą procedūrą turėtų būti vertinamas produkto autonomiškumo poveikis saugai per visą jo gyvavimo laikotarpį. Tokį rizikos vertinimą turėtų atlikti atitinkamas ekonominės veiklos vykdytojas. Be to, atitinkamuose Sąjungos teisės aktuose gamintojams galėtų būti nustatyti griežtesni reikalavimai dėl naudotojams skirtų instrukcijų ir įspėjimų.

Be to, sauga taip pat gali nukentėti dėl rizikos, kad besiformuojančios skaitmeninės technologijos gali prarasti tarpusavio ryšį. Pavyzdžiui, susietasis gaisro signalizatorius nutrūkus ryšiui gali neperspėti naudotojo apie kilusį gaisrą.

Dauguma Sąjungos gaminių saugos sistemos nuostatų buvo parengta prieš atsirandant tokioms skaitmeninėms technologijoms kaip dirbtinis intelektas, daiktų internetas ar robotika. Todėl toje sistemoje ne visuomet yra nuostatų, kuriomis išsamiai sprendžiamos naujos šių besiformuojančių technologijų keliamos problemos ir mažinama su jomis susijusi rizika. Nors dabartinė gaminių saugos sistema technologijų atžvilgiu yra neutrali, tai nereiškia, kad ji netaikoma produktams, kuriuose yra šių technologijų. Be to, vėlesniuose tos sistemos teisės aktuose, pavyzdžiui, medicinos priemonių ar automobilių sektorių teisės aktuose, jau išsamiai atsižvelgta į kai kuriuos su skaitmeninių technologijų atsiradimu susijusius aspektus, pavyzdžiui, automatizuotus sprendimus, autonominę programinę įrangą ir sąsajumą.

Dar viena svarbi kai kurių dirbtiniu intelektu grindžiamų produktų ir sistemų savybė, kurią lemia tų produktų ir sistemų gebėjimas tobulėti mokantis iš patirties, yra neskaidrumas. Priklausomai nuo metodologinių sprendimų, dirbtiniu intelektu grindžiamiems produktams ir sistemoms gali būti būdingas įvairaus laipsnio neskaidrumas. Dėl to gali būti sunku atsekti, kaip sistema priima sprendimus (juodosios dėžės reiškinys). Gal žmonėms ir nebūtina perprasti kiekvieno sprendimų priėmimo proceso etapo, tačiau dirbtinio intelekto algoritmai tampa vis pažangesni ir yra diegiami itin svarbiose srityse, todėl labai svarbu, kad žmonės pajėgtų suvokti, kaip sistemos priima algoritminius sprendimus. Tai labai padėtų įgyvendinti ex post vykdymo užtikrinimo mechanizmą, nes vykdymo užtikrinimo institucijoms būtų suteikta galimybė atsekti dirbtinio intelekto sistemų elgseną ir pasirinkimus. Tai pripažįstama ir Komisijos komunikate „Pasitikėjimo į žmogų orientuotu dirbtiniu intelektu didinimas“.

Būsimas dirbtinio intelekto prietaikų elgesys taip pat galėtų kelti pavojų naudotojų psichikos sveikatai, pavyzdžiui, jei naudotojai namuose ar darbe bendrauja su humanoidiniais dirbtinio intelekto robotais ir sistemomis. Kalbant apie tai, šiandieninė saugos samprata dažniausiai reiškia naudotojo numanomą besiformuojančių skaitmeninių technologijų keliamą fizinės žalos grėsmę. Be to, Sąjungos teisinėje sistemoje saugiais gaminiais laikomi gaminiai, nekeliantys jokio arba keliantys tik minimalų pavojų žmonių saugai ir sveikatai. Visuotinai pripažįstama, kad sveikatos apibrėžtis apima tiek fizinę, tiek psichinę gerovę. Tačiau psichikos sveikatai keliamas pavojus turėtų būti aiškiai įtrauktas į teisės aktų sistemoje vartojamą gaminių saugos sąvoką.

Dirbtinio intelekto produktai ir sistemos mokosi savarankiškai, todėl mašinos gali priimti sprendimus, nukrypstančius nuo to, ką iš pradžių numatė gamintojai, taigi ir nuo to, ko tikisi naudotojai. Tai kelia klausimų dėl žmogaus vykdomos kontrolės: žmonėms turėtų būti suteikta galimybė rinktis, ar leisti dirbtinio intelekto produktams ir sistemoms patiems priimti sprendimus siekiant žmogaus nustatytų tikslų ir kaip tai padaryti. Žmogaus vykdoma savarankiškai besimokančių dirbtinio intelekto produktų ir sistemų priežiūra dabartiniuose Sąjungos gaminių saugos teisės aktuose išsamiai nereglamentuojama.

Pavyzdžiui, per automobilio avariją nukentėjęs asmuo paprastai pagal nacionalinę civilinę teisę automobilio savininkui (t. y. asmeniui, kuris yra apsidraudęs motorinių transporto priemonių valdytojų civilinės atsakomybės draudimu) teikia ieškinį dėl atsakomybės be kaltės, vairuotojui – ieškinį dėl kalte grindžiamos atsakomybės, o jei automobilis yra su defektu, teikia ieškinį ir automobilio gamintojui pagal Atsakomybės už gaminius direktyvą.

Atskiriems sektoriams skirtuose suderintuose Sąjungos gaminių saugos teisės aktuose konkrečių nuostatų dėl autonominės programinės įrangos, kuri atskirai pateikiama rinkai arba diegiama į rinkai jau pateiktą gaminį, iš esmės nėra. Tačiau tokia įranga reglamentuojama tam tikruose Sąjungos teisės aktuose, pavyzdžiui, Medicinos priemonių reglamente. Be to, į tam tikrais radijo moduliais susietus gaminius įdiegta autonominė programinė įranga taip pat gali būti reglamentuojama pagal Radijo įrenginių direktyvą priimtais deleguotaisiais aktais. Toje direktyvoje reikalaujama, kad tam tikrų klasių ar kategorijų radijo renginiuose būtų funkcijų, kuriomis užtikrinama, kad diegiant programinę įrangą nebūtų pažeista tų įrenginių atitiktis reikalavimams.

Tinkamas draudimas gali sušvelninti neigiamus eismo įvykių padarinius, nes juo užtikrinama, kad nukentėjusiajam bus atlyginta be jokių nesklandumų. Aiškios atsakomybės taisyklės padeda draudimo bendrovėms įvertinti riziką ir reikalauti, kad žalą atlygintų galutinai už ją atsakinga šalis. Pavyzdžiui, jeigu eismo įvykis įvyko dėl transporto priemonės defekto, tos transporto priemonės draudikas, atlyginęs žalą nukentėjusiajam, gali reikalauti kompensacijos iš gamintojo.

Tačiau dėl naujų skaitmeninių technologijų, tokių kaip dirbtinis intelektas, daiktų internetas ir robotika, savybių keičiasi tam tikri Sąjungos ir nacionalinių atsakomybės sistemų aspektai ir dėl to gali sumažėti tų sistemų veiksmingumas. Dėl kai kurių iš šių savybių gali būti sunku atsekti žmogaus elgesio sukeltą žalą, kurią pagal nacionalines taisykles būtų galima išieškoti iš atsakingo asmens. Tai reiškia, kad pagal nacionalinę deliktų teisę teikiamus ieškinius dėl atsakomybės gali būti sudėtinga arba pernelyg brangu pagrįsti, todėl nukentėjusiesiems gali būti atlyginta nepakankamai. Svarbu, kad nuo nelaimingų atsitikimų, kurie įvyksta dėl produktų ir paslaugų, įskaitant besiformuojančias skaitmenines technologijas (pvz., dirbtinį intelektą), nukentėjusiems asmenims būtų taikoma ne žemesnio lygio apsauga nei nuo kitų panašių produktų ir paslaugų nukentėjusiems asmenims, kuriems žala atlyginama pagal nacionalinę deliktų teisę. Kitaip sumažėtų visuomenės pritarimas šioms besiformuojančioms technologijoms ir pritrūktų ryžto jomis naudotis.

Reikės įvertinti, ar naujų technologijų keliamos problemos galėtų esamose sistemose lemti teisinį netikrumą dėl to, kaip taikyti galiojančius teisės aktus (pvz., kaip kaltės sąvoka būtų taikoma dėl dirbtinio intelekto patirtos žalos atveju). Tai taip pat galėtų atgrasyti nuo investicijų, be to, gamintojai ir kitos tiekimo grandinėje dalyvaujančios įmonės, ypač Europos MVĮ, patirtų daugiau su informacija ir draudimu susijusių išlaidų. Kita vertus, jei valstybės narės galiausiai imtųsi spręsti nacionalinėms atsakomybės sistemoms kylančius uždavinius, tai galėtų lemti tolesnį susiskaidymą, dėl kurio padidėtų inovacinių dirbtinio intelekto sprendimų diegimo sąnaudos ir sumenktų tarpvalstybinė prekyba bendrojoje rinkoje. Svarbu, kad įmonės žinotų savo civilinės atsakomybės riziką visoje vertės grandinėje ir galėtų ją sumažinti ar jos išvengti ir veiksmingai nuo jos apsidrausti.

Šiame skyriuje aiškinama, kokių problemų besiformuojančios technologijos kelia esamoms sistemoms ir kaip jas būtų galima spręsti. Be to, gali prireikti papildomai apsvarstyti kai kurių sektorių, pavyzdžiui, sveikatos priežiūros sektoriaus, ypatumus.

Produktų, paslaugų ir vertės grandinės sudėtingumas. Per pastaruosius dešimtmečius technologijos ir pramonė iš esmės pasikeitė. Pirmiausia produktai ir paslaugos yra vis labiau tarpusavyje susiję, todėl gali būti nebe taip paprasta juos atskirti vienus nuo kitų, kaip buvo anksčiau. Nors sudėtingi produktai ir vertės grandinės nėra naujas Europos pramonės ar jos reguliavimo modelio reiškinys, reglamentuojant atsakomybę už gaminius ypatingas dėmesys turėtų būti skiriamas programinei įrangai ir dirbtiniam intelektui. Daugelio gaminių veikimas grindžiamas programine įranga, o ji gali turėti įtakos tų gaminių saugai. Programinė įranga, būtina tam, kad gaminį būtų galima naudoti kaip numatyta, gali būti ne tik į jį įdiegta, bet ir tiekiama atskirai. Be programinės įrangos nei kompiuteris, nei išmanusis telefonas nebūtų naudingi. Tai reiškia, kad tokia įranga gali nulemti materialaus gaminio defektus ir fizinę žalą (žr. programinei įrangai skirtą laukelį ataskaitos dalyje, kurioje aptariami saugos aspektai). Dėl šios priežasties produkto gamintojas galiausiai galėtų būti laikomas atsakingu pagal Atsakomybės už gaminius direktyvą.

Tačiau programinė įranga yra įvairių rūšių ir formų, todėl ne visuomet gali būti paprasta nuspręsti, ar programinė įranga laikytina paslauga ar produktu. Taigi, nors programinė įranga, kuria grindžiamas materialaus produkto veikimas, galėtų būti laikoma to produkto dalimi arba komponentu, kai kurių formų autonominę programinę įrangą klasifikuoti gali būti sudėtingiau.

Nors Atsakomybės už gaminius direktyvoje pateikta gaminio apibrėžtis yra plati, būtų galima labiau patikslinti jos taikymo sritį, kad ji geriau atspindėtų besiformuojančių technologijų sudėtingumą, ir taip užtikrinti, kad dėl gaminių, kurių defektus nulėmė programinė įranga ar kitos skaitmeninės jų ypatybės, patirta žala visuomet būtų atlyginta. Tuo remdamiesi ekonominės veiklos vykdytojai, pavyzdžiui, programinės įrangos kūrėjai, galėtų geriau įvertinti, ar jie gali būti laikomi gamintojais pagal Atsakomybės už gaminius direktyvą.

Dirbtinio intelekto prietaikos dažnai diegiamos sudėtingoje daiktų interneto aplinkoje, kurioje tarpusavyje sąveikauja daug įvairių susietųjų prietaisų ir paslaugų. Dėl skirtingų šios sudėtingos ekosistemos skaitmeninių komponentų ir dalyvaujančių subjektų įvairovės gali būti sunku nustatyti, kas nulemia galimą žalą ir kuris asmuo yra už ją atsakingas. Dėl šių technologijų sudėtingumo gali būti labai sudėtinga nukentėjusiems asmenims įvertinti, kas yra atsakingas už žalą, ir laikytis visų nacionalinėje teisėje nustatytų sąlygų, kad būtų galima sėkmingai ją išieškoti. Tokio vertinimo išlaidos gali būti ekonomiškai nepagrįstos, todėl nukentėjusieji gali nedrįsti reikalauti, kad jų patirta žala būtų atlyginta.

Be to, tais atvejais, kai dirbtiniu intelektu grindžiami produktai ir paslaugos sąveikaus su tradicinėmis technologijomis, bus dar sudėtingiau nustatyti, kas atsakingas už žalą. Pavyzdžiui, autonominiai automobiliai kurį laiką važiuos tais pačiais keliais kaip ir įprasti automobiliai. Kai kuriuose paslaugų sektoriuose (pvz., eismo valdymo ir sveikatos priežiūros) panašaus sudėtingumo situacija susiklostys dėl dalyvių sąveikos, nes juose žmonės priims sprendimus naudodamiesi iš dalies automatizuotomis dirbtinio intelekto sistemomis.

Remiantis Atsakomybės ir naujų technologijų ekspertų grupės naujų technologijų klausimais pateikta ataskaita, būtų galima apsvarstyti galimybę pritaikyti nacionalinius įstatymus, kad jais remdamiesi nukentėjusieji galėtų lengviau įrodyti kaltę dėl dirbtinio intelekto patirtos žalos atveju. Pavyzdžiui, pareiga įrodyti kaltę galėtų būti susieta su (atitinkamo veiklos vykdytojo) atitiktimi konkretiems teisės aktuose nustatytiems kibernetinio saugumo ar kitiems saugos įpareigojimams: jei šių taisyklių nesilaikoma, pareiga įrodyti kaltę ir priežastinį ryšį galėtų būti pakeista.

Komisija įgyvendina atitinkamą ES iniciatyvą, kuria siekia išsiaiškinti, ar ir kokiu mastu reikėtų sušvelninti tokių sudėtingų situacijų pasekmes, t. y. palengvinti ir (arba) perkelti nacionalinėse civilinės atsakomybės taisyklėse nustatytą pareigą įrodyti žalą, kai ta žala padaroma naudojantis dirbtinio intelekto prietaikomis. Pagal Sąjungos teisės aktus, pavyzdžiui, Direktyvą dėl atsakomybės už gaminius, privalomų saugos taisyklių neatitinkantis gaminys laikomas defektiniu gaminiu, nepriklausomai nuo gamintojo kaltės. Tačiau gali būti priežasčių apsvarstyti, kaip pagal direktyvą palengvinti nukentėjusiųjų pareigą įrodyti kaltę: toje direktyvoje remiamasi nacionalinėmis taisyklėmis dėl įrodymų ir priežastinio ryšio nustatymo.

Sąsajumas ir atvirumas. Šiuo metu nėra iki galo aišku, kokie lūkesčiai dėl saugos gali būti susiję su žala, patiriama dėl gaminio kibernetinio saugumo pažeidimų, ir ar tokia žala būtų tinkamai atlyginta pagal Direktyvą dėl atsakomybės už gaminius.

Kibernetinio saugumo spragų gali būti ne tik produktą išleidžiant į apyvartą – jų gali atsirasti ir gerokai vėliau.

Jei kalte grindžiamose atsakomybės sistemose nustatomi aiškūs su kibernetiniu saugumu susiję įpareigojimai, veiklos vykdytojai žino, ką jie turi daryti, kad išvengtų su atsakomybe susijusių pasekmių.

Taikant Direktyvą dėl atsakomybės už gaminius, gali vis dažniau kilti klausimas, ar gamintojas, atsižvelgdamas į pagrįstai numanomą gaminio naudojimą, galėjo numatyti tam tikrus jo pasikeitimus. Pavyzdžiui, gali būti dažniau naudojamasi nuostata dėl apsaugos nuo vėlesnių defektų, pagal kurią gamintojas nelaikomas atsakingu už defektą, kurio nebuvo gaminio išleidimo į apyvartą metu, arba nuostata dėl apsaugos nuo gaminio pasikeitimo rizikos, jei defekto nebuvo galima numatyti remiantis naujausiomis tuometinėmis žiniomis. Be to, atsakomybė galėtų būti sumažinta tais atvejais, kai nukentėjusioji šalis neįdiegia su sauga susijusių naujinių. Tai galėtų būti laikoma paties nukentėjusio asmens aplaidumu ir dėl jo sumažėtų gamintojo atsakomybė. Numanomo pagrįsto naudojimo sąvoka ir su aplaidumu susiję klausimai, pavyzdžiui, saugos naujinio neįdiegimas, gali tapti vis svarbesni, todėl nukentėjusiems asmenims gali būti sunkiau išieškoti dėl gaminio defekto patirtą žalą.

Autonomiškumas ir neskaidrumas. Autonomiškos dirbtinio intelekto prietaikos atlieka užduotis pačios, joms nereikia iš anksto nustatyti kiekvieno etapo ir galima sumažinti žmogaus vykdomą kontrolę ar priežiūrą arba galiausiai visiškai jos atsisakyti. Tačiau savarankiškai besimokančių mašinų algoritmus suprasti gali būti sudėtinga, o gal net neįmanoma (vadinamasis juodosios dėžės reiškinys).

Ne tik dėl pirmiau aptarto sudėtingumo, bet ir dėl kai kurioms dirbtinio intelekto prietaikoms būdingo juodosios dėžės reiškinio gali būti sunku išieškoti autonomiškų dirbtinio intelekto prietaikų nulemtą žalą. Tam, kad būtų galima suprasti dirbtinio intelekto naudojamus algoritmus ir duomenis, reikia analitinių gebėjimų ir techninių žinių, o nukentėjusiems asmenims tai gali pasirodyti pernelyg brangu. Be to, gauti prieigą prie algoritmų ir duomenų gali būti įmanoma tik bendradarbiaujant su galimai atsakinga šalimi. Todėl nukentėjusieji gali būti praktiškai nepajėgūs išieškoti žalą iš atsakingos šalies. Be to, nėra aišku, kaip įrodyti autonomiškai veikiančio dirbtinio intelekto kaltę arba kokia yra dirbtiniu intelektu besinaudojančio asmens kaltė.

Nacionalinės teisės aktuose jau priimta sprendimų, kaip palengvinti panašiose situacijose atsidūrusiems nukentėjusiesiems tenkančią pareigą įrodyti kaltę.

Pagrindinis principas, kuriuo grindžiama Sąjungos gaminių sauga ir atsakomybė už gaminius, išlieka tas pats – gamintojai privalo užtikrinti, kad visi rinkai tiekiami gaminiai būtų saugūs per visą savo gyvavimo ciklą ir būtų naudojami taip, kaip galima pagrįstai tikėtis. Tai reiškia, kad gamintojas turėtų užtikrinti, jog dirbtiniu intelektu grindžiamas gaminys atitiktų tam tikrus saugos parametrus. Jei gaminiui būdingos dirbtinio intelekto funkcijos, naudotojas taip pat turi teisę tikėtis, kad tas gaminys (ar tai būtų automatinė vejapjovė, ar robotas chirurgas) yra saugus.