Mindazon lehetőségek mellett, amelyeket az MI, a dolgok internete és a robotika jelent a gazdaság és társadalmaink számára, ezek az új technológiák a jogilag védett – anyagi és nem anyagi – érdekek sérülésének kockázatát is hordozhatják. Az alkalmazási terület bővülésével nőni fog az ilyen károk előfordulásának kockázata. Ebben az összefüggésben alapvető fontosságú annak elemzése, hogy a biztonságra és felelősségre vonatkozó jelenlegi jogi keret alkalmas-e még a felhasználók védelmére, és ha igen, milyen mértékben.

A termelékenység és a hatékonyság fokozásán túl az MI annak az ígéretét is magában hordozza, hogy az emberek képessé válnak eddig még el nem ért intelligencia kifejlesztésére, ami új felfedezések előtt nyitná meg az utat, és elősegítené a világ előtt álló legnagyobb kihívások megoldását, legyen szó akár a krónikus betegségek kezeléséről, a járványok előrejelzéséről, a halálos közlekedési balesetet szenvedők arányának csökkentéséről, az éghajlatváltozás elleni küzdelemről vagy a kiberbiztonsági fenyegetések előrejelzéséről.

Az MI, a dolgok internete és a robotika számos közös jellemzővel rendelkezik. Képesek kombinálni a hálózati összekapcsoltságot, az autonómiát és az adatfüggőséget, hogy ily módon alacsony mértékű emberi ellenőrzés vagy felügyelet, illetve ennek teljes hiánya mellett végezzenek el feladatokat. A mesterséges intelligenciával ellátott rendszerek tapasztalatokból való tanulás útján is képesek javítani saját teljesítményüket. Összetettségük egyaránt tükröződik az ellátási láncban részt vevő gazdasági szereplők sokszínűségében, valamint az új technológiai ökoszisztémákat együttesen alkotó elemek, alkatrészek, szoftverek, rendszerek vagy szolgáltatások sokféleségében. Mindezt kiegészíti a piaci forgalomba hozatalukat követő frissítések és fejlesztések iránti nyitottság. Az érintett adatok hatalmas mennyisége, az algoritmusokra való támaszkodás és a mesterséges intelligenciával kapcsolatos döntéshozatal átláthatatlansága megnehezíti az MI-hátterű termékek viselkedésének előrejelzését és a kár lehetséges okainak megértését. Végezetül a hálózati összekapcsoltság és a nyitottság kiberfenyegetéseknek is kiteheti a mesterséges intelligencián és a dolgok internetén alapuló termékeket.

A Bizottság a Mesterséges intelligencia Európa számára című, 2018. április 25-én elfogadott közleményében bejelentette, hogy jelentést nyújt be, amelyben értékeli a kialakulóban lévő digitális technológiáknak a meglévő biztonsági és felelősségi keretekre gyakorolt hatását. E jelentés célja, hogy azonosítsa és megvizsgálja a mesterséges intelligenciára, a dolgok internetére és a robotikára vonatkozó felelősségi és biztonsági keretek tágabb értelemben vett következményeit és esetleges hiányosságait. A mesterséges intelligenciáról szóló fehér könyvet kísérő szóban forgó jelentésben meghatározott irányvonalakról vita indul, és azok az érdekelt felekkel folytatott szélesebb körű konzultáció részét képezik. A biztonságról szóló szakasz a gépekről szóló irányelv értékelésére és a megfelelő szakértői csoportokkal folytatott munkára épül. A felelősségről szóló szakasz a termékfelelősségről szóló irányelv értékelésére, a releváns szakértői csoportok észrevételeire és az érdekelt felekkel való kapcsolattartásra támaszkodik. E jelentésnek nem célja, hogy kimerítő áttekintést nyújtson a biztonságot és felelősséget érintő meglévő szabályokról, hanem az eddig azonosított kulcsfontosságú kérdésekre összpontosít.

A biztonságra és a felelősségre vonatkozó jogi keret általános célja annak biztosítása, hogy valamennyi termék és szolgáltatás – beleértve a kialakulóban lévő digitális technológiákat integrálókat is – biztonságosan, megbízhatóan és következetesen működjön, és hogy a bekövetkezett károkat hatékonyan orvosolják. Az új digitális technológiákat integráló termékek és rendszerek magas szintű biztonsága, valamint a bekövetkezett károk orvoslására szolgáló szilárd mechanizmusok (azaz a felelősségi keret) hozzájárulnak a fogyasztók hatékonyabb védelméhez. Emellett megteremtik a bizalmat e technológiák iránt, ami előfeltétele az ipar területén és a felhasználók körében való elterjedésüknek. Ez pedig fellendíti iparunk versenyképességét, és hozzájárul az uniós célkitűzések eléréséhez. Az egyértelmű biztonsági és felelősségi keret különösen fontos az olyan új technológiák megjelenésekor, mint az MI, a dolgok internete és a robotika – a fogyasztóvédelem és a vállalkozások jogbiztonságának biztosítása érdekében egyaránt.

A jelenlegi keretek között, amikor a gyártók tudomást szereznek arról, hogy egy termék az életciklusa során veszélyt jelent a biztonságra, már most is kötelesek haladéktalanul tájékoztatni az illetékes hatóságokat, és intézkedéseket tenni a felhasználókat érintő kockázatok megelőzése érdekében.

A jövőben előfordulhatnak olyan helyzetek is, amikor az MI-rendszerek eredményeit nem lehet előre teljes mértékben meghatározni. Ilyen helyzetben előfordulhat, hogy a termék forgalomba hozatala előtt elvégzett kockázatértékelés már nem tükrözi a termék használatát, működését vagy viselkedését. Ezekben az esetekben, amennyiben a gyártó által eredetileg tervezett felhasználás az autonóm viselkedés miatt módosul, és az kihat a biztonsági követelményeknek való megfelelésre, fontolóra lehet venni az öntanuló termék újbóli értékelését.

Mivel a mesterséges intelligenciával rendelkező termékek jövőbeli „viselkedését” előre meg lehet határozni a gyártó által a termékek forgalomba hozatala előtt elvégzett kockázatértékelés alapján, az uniós termékbiztonsági keret már most is arra kötelezi a gyártókat, hogy a kockázatértékelés során vegyék figyelembe a termékek „használatát” azok teljes élettartama alatt. Előírja továbbá, hogy a gyártóknak használati utasítást és biztonsági tájékoztatót vagy figyelmeztetést kell biztosítaniuk a felhasználók számára. Ezzel összefüggésben például a rádióberendezésekről szóló irányelv értelmében a gyártó köteles olyan használati utasítást mellékelni a termékhez, amely tájékoztatást nyújt arról, hogyan kell a rádióberendezést rendeltetésszerűen használni.

A hatályos uniós termékbiztonsági jogszabályokban szereplő biztonsági koncepció a fogyasztók és a felhasználók védelme érdekében összhangban áll a biztonság kibővített koncepciójával. Ezért a termékbiztonság koncepciójának a termékből eredő valamennyi kockázat elleni védelemre ki kell terjednie, így nem csak a mechanikai, vegyi és elektromos kockázatokra, hanem a kiberkockázatokra és az eszközök hálózati összekapcsoltságának elvesztésével kapcsolatos kockázatokra is.

Ezen túlmenően a kialakulóban lévő digitális technológiák hálózati összekapcsoltságának elvesztésével kapcsolatos kockázat egyben biztonsági kockázatot is jelenthet. Ha például egy összekapcsolt tűzjelző elveszíti a hálózati kapcsolatot, előfordulhat, hogy tűz esetén nem figyelmezteti a felhasználót.

Az ipari alkalmazások a személyek biztonságát nagyobb mértékben érintő kiberfenyegetéseknek is ki lehetnek téve, ha az ilyen alkalmazások nem rendelkeznek a szükséges biztonsági szinttel. Ilyen eset lehet például az, ha valamilyen ipari létesítmény kritikus irányítási rendszerével szemben kibertámadást indítanak robbanás előidézése céljából, amely emberáldozatokkal is járhat.

Egy másik példa: Németország egy személygépkocsira vonatkozó ügyben nyújtott be értesítést. A járműben lévő rádiónak bizonyos szoftverbiztonsági hiányosságai lehetnek, amelyek miatt illetéktelen harmadik felek férhetnek hozzá a jármű összekapcsolt vezérlőrendszereihez. Ha ezeket a szoftverbiztonsági hiányosságokat valamely harmadik fél rosszindulatú célokra használja ki, közúti baleset következhet be.

A hálózati összekapcsoltság a termékek és szolgáltatások egyre növekvő számának központi eleme. Ez a jellemző megkérdőjelezi a biztonság hagyományos koncepcióját, mivel a hálózati összekapcsoltság közvetlenül veszélyeztetheti a termék biztonságát, és közvetett veszélyt is magában hordozhat, amennyiben feltörhető, ami biztonsági fenyegetésekhez vezet és érinti a felhasználók biztonságát.

Az uniós termékbiztonsági jogszabályok célja annak biztosítása, hogy az uniós piacon forgalomba hozott termékek megfeleljenek a magas szintű egészségügyi, biztonsági és környezetvédelmi követelményeknek, és hogy az ilyen termékek szabadon mozoghassanak az Unió egész területén. Az ágazati jogszabályokat az általános termékbiztonsági irányelv egészíti ki, amely előírja, hogy minden fogyasztási cikknek biztonságosnak kell lennie, még akkor is, ha azt az uniós ágazati jogszabályok nem szabályozzák. A biztonsági szabályokat a piacfelügyelet, valamint a piacfelügyeleti rendelet és az általános termékbiztonsági irányelv értelmében a nemzeti hatóságokra ruházott hatáskörök egészítik ki. A közlekedés területén további uniós és nemzeti szabályok vonatkoznak a gépjárművek, légi járművek vagy hajók üzembe helyezésére, továbbá egyértelmű szabályok alkalmazandók az üzemeltetés közbeni biztonságra, beleértve az üzemeltetők feladatait és a hatóságok felügyeleti feladatait is.

A rendszerek összetettségével az ágazati biztonsági jogszabályok – például az orvostechnikai eszközökről szóló rendelet – és bizonyos mértékben az általános termékbiztonságról szóló jogszabályok is konkrétabban foglalkoznak. Például az intelligens otthonok ökoszisztémájának részét képező összekapcsolt eszköz gyártójától észszerűen elvárható, hogy előre lássa, hogy a termékei hatással lesznek más termékek biztonságára.

A mesterséges intelligencián alapuló termékek és rendszerek némelyikének másik fő jellemzője az átláthatatlanság, amely e termékek és rendszerek azon képességére vezethető vissza, hogy a teljesítményüket a tapasztalatokból való tanulás révén javítják. A módszertani megközelítéstől függően a mesterséges intelligencián alapuló termékeket és rendszereket különböző fokú átláthatatlanság jellemezheti. Ez azt eredményezheti, hogy a rendszer döntéshozatali folyamata nehezen nyomon követhető („feketedoboz-hatás”). Az embereknek adott esetben nem kell feltétlenül megérteniük a döntéshozatali folyamat minden egyes lépését, de mivel az MI-algoritmusok egyre fejlettebbek lesznek és kritikus területeken kerülnek alkalmazásra, döntő fontosságú, hogy az emberek képesek legyenek megérteni, hogy a rendszer milyen alapon hozta meg algoritmikus döntéseit. Ez különösen fontos lenne a jogérvényesítés utólagos mechanizmusa szempontjából, mivel lehetővé teszi majd a végrehajtó hatóságok számára, hogy nyomon kövessék az MI-hátterű rendszerek viselkedését és döntéseit. Ezt „Az emberközpontú mesterséges intelligencia iránti bizalom növelése” című bizottsági közlemény is elismeri.

Például előfordulhat, hogy egy mesterséges intelligencián alapuló rendszer, amelyet bizonyos tárgyak észlelésére terveztek, rossz világítási körülmények között nehezen képes felismerni a tárgyakat, ezért a tervezőknek mind a tipikus, mind a rosszul megvilágított környezetben végzett termékvizsgálatok során kapott adatokat is ismertetniük kell.

A közlekedési jogszabályok már előírnak hasonló kockázatértékelést; például a vasúti közlekedésre vonatkozó jogszabályokban, ha egy vasúti járművet a tanúsítása után módosítanak, külön eljárást írnak elő a változtatás indítványozójával szemben, és egyértelmű kritériumokat határoznak meg annak megállapítására, hogy a hatóságot be kell-e vonni vagy sem.

Egyes uniós termékbiztonsági jogszabályok kifejezetten hivatkoznak a termékbe beépített szoftverre. A gépekről szóló irányelv például előírja, hogy a vezérlőrendszer szoftverének hibája nem vezethet veszélyes helyzetekhez.

Az uniós termékbiztonsági jogszabályokban a szoftverfrissítések a biztonsági okokból végzett karbantartási műveletekhez hasonlíthatók, feltéve, hogy a frissítések nem módosítják jelentősen a már forgalomba hozott terméket, és nem idéznek elő olyan új kockázatokat, amelyekkel az eredeti kockázatértékelésben nem számoltak. Ha azonban a szoftverfrissítés lényegesen módosítja azt a terméket, amelybe letöltik, a teljes termék új terméknek tekinthető, és a termékbiztonságra vonatkozó releváns jogszabályoknak való megfelelést a módosítás végrehajtásakor újra kell értékelni.

A termék forgalomba hozatalát követően forgalomba hozott vagy feltöltött önálló szoftverekre vonatkozóan az uniós ágazatspecifikus harmonizált termékbiztonsági jogszabályok általában nem tartalmaznak különös rendelkezéseket. Mindazonáltal egyes uniós jogszabályok – például az orvostechnikai eszközökről szóló rendelet – érintik az önálló szoftverek kérdését. Ezen túlmenően a rádióberendezésekről szóló irányelv felhatalmazáson alapuló jogi aktusok révén szabályozhatja a bizonyos rádiómodulokon keresztül kommunikáló összekapcsolt termékekbe feltöltött önálló szoftvereket is. Ez az irányelv előírja, hogy a rádióberendezések meghatározott osztályainak vagy kategóriáinak támogatniuk kell az olyan funkciókat, amelyek biztosítják, hogy a szoftver feltöltése ne veszélyeztesse a berendezés megfelelőségét.

Jóllehet az uniós termékbiztonsági jogszabályok figyelembe veszik a forgalomba hozatal időpontjában a termékbe beépített szoftverből eredő, valamint a gyártó által esetlegesen kilátásba helyezett későbbi frissítésekkel járó biztonsági kockázatokat, az önálló szoftverekre vonatkozó konkrét és/vagy kifejezett követelményekre (pl. letölthető alkalmazás) lehet szükség. Különös figyelmet kell fordítani az MI-hátterű termékek és rendszerek biztonsági funkcióit biztosító önálló szoftverre. A gyártókkal szemben további kötelezettségek megállapítására lehet szükség annak érdekében, hogy azok a termékeiket olyan funkciókkal lássák el, amelyek megakadályozzák az MI-hátterű termékek élettartama alatt a biztonságra hatást gyakorló szoftverek feltöltését.

Végezetül a kialakulóban lévő digitális technológiákat befolyásolják az összetett értékláncok. Ez az összetettség azonban nem új, és nem is kizárólag a mesterséges intelligenciához vagy a dolgok internetéhez hasonló új, kialakulóban lévő digitális technológiák kapcsán felmerült kérdés. Bizonyos más termékek – például a számítógépek, a szolgáltató robotok vagy a közlekedési rendszerek – esetében ugyanez a helyzet.

Az uniós termékbiztonsági keret értelmében a termék biztonságosságáért az értéklánc összetettségétől függetlenül továbbra is a terméket forgalomba hozó gyártó felel. A gyártó felelős a végtermék biztonságáért, ideértve a termékbe beépített alkatrészeket, például a számítógép szoftverét is.

Az uniós termékbiztonsági jogszabályok némelyike már tartalmaz olyan rendelkezéseket, amelyek kifejezetten olyan helyzetekre vonatkoznak, amikor egy adott termékkel a forgalomba hozatala előtt több gazdasági szereplő is foglalkozik. Például a felvonókról szóló irányelv értelmében a felvonó tervezését és gyártását végző gazdasági szereplőnek az üzembe helyező rendelkezésére kell bocsátania „minden olyan dokumentumot és információt [...], amelyekre ez utóbbinak a felvonó megfelelő és biztonságos üzembe helyezéséhez és teszteléséhez szüksége van”. A gépekről szóló irányelv szerint a berendezések gyártóinak tájékoztatniuk kell az üzemeltetőt arról, hogy a berendezést hogyan szereljék össze egy másik géppel.

Az uniós termékbiztonsági jogszabályok figyelembe veszik az értékláncok összetettségét, és a „megosztott felelősség” elvét követve kötelezettségeket rónak több gazdasági szereplőre. Jóllehet a gyártónak a végtermék biztonságosságával kapcsolatos felelőssége megfelelőnek bizonyult a jelenlegi összetett értékláncok esetében, az ellátási láncban részt vevő gazdasági szereplők és a felhasználók közötti együttműködést kifejezetten előíró rendelkezések garantálhatnák a jogbiztonságot az esetleg még összetettebb értékláncok tekintetében is. Konkrétabban, az értéklánc minden olyan szereplője, amely hatással van a termékbiztonságra (pl. a szoftvergyártók) és a felhasználókra (a termék módosítása útján) vállalná a felelősséget, és közölné a lánc következő szereplőjével a szükséges információkat és a végrehajtandó intézkedéseket.

3.Felelősség

Uniós szinten a termékbiztonságra és a termékfelelősségre vonatkozó rendelkezések két egymást kiegészítő mechanizmust jelentenek, amelyek ugyanazt a szakpolitikai célt, az áruk működőképes egységes piacát szolgálják, amely magas szintű biztonságot nyújt, azaz a lehető legkisebbre csökkenti a felhasználókat érő károk kockázatát, és kártérítést ír elő a hibás árukból eredő károkért.

Nemzeti szinten ezeket az uniós szabályokat nem harmonizált polgári jogi felelősségi keretek egészítik ki, amelyek különböző okokból (például termékek és szolgáltatások esetében) kártérítést biztosítanak, és különböző felelős személyeket (például tulajdonosokat, üzemeltetőket vagy szolgáltatókat) céloznak meg.

Bár a mesterséges intelligenciára vonatkozó uniós termékbiztonsági szabályok optimalizálása segíthet elkerülni a baleseteket, még ha azok nem is zárhatók ki teljesen.. Ekkor merül fel a polgári jogi felelősség. A polgári jogi felelősségre vonatkozó szabályok kettős szerepet játszanak társadalmunkban: egyrészt biztosítják, hogy a mások által okozott kár károsultjai kártérítésben részesüljenek, másrészt pedig gazdasági ösztönzőket nyújtanak a felelős fél számára, hogy elkerülje az ilyen kárt. A felelősségre vonatkozó szabályoknak mindig egyensúlyt kell teremteniük a polgárok károkkal szembeni védelme és a vállalkozások innovációjának lehetővé tétele között.

Az uniós felelősségi keretek jól működnek. Ezek a termékfelelősségről szóló irányelv (85/374/EGK irányelv) – amely harmonizálta a hibás termékek gyártóinak felelősségét – és a nem harmonizált nemzeti felelősségi rendszerek párhuzamos alkalmazására épülnek.

A termékfelelősségről szóló irányelv olyan védelmi szintet biztosít, amelyet a vétkességen alapuló felelősségre vonatkozó nemzeti rendszerek önmagukban nem garantálnak. Olyan rendszert vezet be, amely szerint a gyártók objektív felelősséggel tartoznak a hibás termékeik által okozott károkért. Fizikai vagy anyagi kár esetén a károsult kártérítésre jogosult, ha bizonyítja a kárt, a termék hibáját (azaz hogy a termék nem biztosította a nyilvánosság által jogosan elvárható biztonságot), valamint a hibás termék és a kár közötti ok-okozati összefüggést.

A nem harmonizált nemzeti rendszerek a vétkességen alapuló felelősségi szabályokat írnak elő, amelyek szerint a károsultaknak a felelősség megállapítása érdekében bizonyítaniuk kell a felelős személy vétkességét, a kárt, valamint a vétkesség és a kár közötti ok-okozati összefüggést ahhoz, hogy a felelősség megállapítása iránti sikeres keresetet nyújtsanak be. Objektív felelősségi rendszereket is biztosítanak azokra az esetekre, amikor a nemzeti jogalkotó egy bizonyos kockázatért egy adott személyre hárította a felelősséget, és a károsultnak nem kell bizonyítania a vétkesség/hiba és a kár közötti ok-okozati összefüggést.

A nemzeti termékfelelősségi rendszerek a termékek és szolgáltatások által okozott károk károsultjai számára több párhuzamos kártérítési kereset benyújtását teszik lehetővé, amelyek a vétkességen vagy az objektív felelősségen alapulnak. Ezek a keresetek gyakran különböző felelősök ellen irányulnak, és eltérőek a feltételeik.

Például egy gépjárműbaleset károsultja jellemzően az objektív felelősség terén előterjesztett keresetet nyújt be a gépjármű tulajdonosával (azaz a gépjármű-felelősségbiztosítást kötő személlyel) szemben, a gépjármű vezetőjével szemben pedig vétkességen alapuló felelősség terén előterjesztett keresetet nyújthat be – mindkettőt a nemzeti polgári jog alapján –, illetve a gyártóval szemben a termékfelelősségről szóló irányelv alapján nyújthat be keresetet, ha a gépjármű műszaki hibás volt.

A gépjármű-biztosításra vonatkozó harmonizált szabályoknak megfelelően a gépjárművet a használat során biztosítani kell, és a gyakorlatban mindig a biztosítóval kell először felvenni a kapcsolatot a személyi sérülés vagy anyagi kár megtérítése iránti kereset benyújtásakor. E szabályok szerint a kötelező biztosítás kártalanítja a károsultat, és védi azt a biztosított személyt, aki a nemzeti polgári jogi szabályok szerint az anyagi kár megtérítésére kötelezett a gépjármű által okozott balesetért. A gyártókra nem vonatkozik a termékfelelősségről szóló irányelv szerinti kötelező biztosítás. Az önvezető járműveket az uniós jogszabályok a gépjármű-biztosítás tekintetében nem kezelik másként, mint a nem önvezető járműveket. Az ilyen járművekre – az összes többi járműhöz hasonlóan – gépjármű-felelősségbiztosítást kell kötni, ami a legegyszerűbb módja annak, hogy a károsult kártérítéshez jusson.