A Régiók Európai Bizottsága véleménye – A mesterséges intelligenciával kapcsolatos európai megközelítés – A mesterséges intelligenciáról szóló jogszabály

(átdolgozott vélemény)

(2022/C 97/12)

Előadó: Guido RINK (NL/PES), Emmen tanácsnoka Hivatkozás: A Bizottság közleménye az Európai Parlamentnek, a Tanácsnak, az Európai Gazdasági és Szociális Bizottságnak és a Régiók Bizottságának – A mesterséges intelligenciával kapcsolatos európai megközelítés előmozdítása COM(2021) 205 Javaslat európai parlamenti és tanácsi rendeletre a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról és egyes uniós jogalkotási aktusok módosításáról COM(2021) 206

I. MÓDOSÍTÁSOKRA VONATKOZÓ AJÁNLÁSOK

1.módosítás

(1) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása E rendelet célja a belső piac működésének javítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt. E rendelet célja a belső piac működésének javítása és a polgárok alapvető jogainak biztosítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt.

Indokolás

Az alapvető jogokra való hivatkozás célja az Európai Unió Alapjogi Chartájával való kapcsolat hangsúlyozása.

2. módosítás

Új preambulumbekezdés a (6) preambulumbekezdés után

Az Európai Bizottság által javasolt szöveg Az RB módosítása A mesterségesintelligencia-rendszerek meghatározása olyan állandó folyamat, amely figyelembe veszi azt a kontextust, amelyben a mesterséges intelligencia működik, lépést tart az e területen zajló társadalmi fejleményekkel, és nem veszíti szem elől a kiválósági ökoszisztéma és a bizalmi ökoszisztéma közötti kapcsolatot.

Indokolás

A mesterséges intelligencia és a technológia terén tapasztalható fejlődés alkalmazkodó és folyamatosan változó megközelítést igényel. Ezzel a preambulumbekezdéssel azt kívánjuk kifejezésre juttatni, hogy a mesterséges intelligencia fogalommeghatározásának lépést kell tartania a korral és a mesterségesintelligencia-rendszerek és -alkalmazások fejlesztésének állapotával.

3. módosítás

(20) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára megfelelő időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie. Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Az érintett helyi és regionális önkormányzatokkal e rendszerek kivételes használatát megelőzően kell konzultálni. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára szigorú időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie.

Indokolás

A „valós idejű” távoli biometrikus azonosító rendszerek használatát nem szabad félvállról venni.

4. módosítás

(21) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt főszabályként a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Az ilyen sürgős helyzetekben a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben a lehető leghamarabb meg kell próbálnia megszerezni az engedélyt, ugyanakkor meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy az engedélyt korábban megkérje . A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Mindenesetre a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak haladéktalanul tájékoztatnia kell az érintett helyi és regionális önkormányzatokat, és az illetékes hatóságoknál meg kell próbálnia megszerezni az engedélyt.

Indokolás

A nyilvánosság számára hozzáférhető helyek kezelésével és felügyeletével kapcsolatos politikai és adminisztratív felelősség a helyi és regionális önkormányzatokat terheli. Ezért megfelelően be kell vonni őket az ilyen rendszerek nyilvánosság számára hozzáférhető helyeken történő alkalmazásakor. Sürgős helyzetekben, amikor észszerűen nem lehet megvárni az előzetes konzultációt, az érintett helyi vagy regionális önkormányzatokat haladéktalanul tájékoztatni kell a biometrikus rendszerek nyilvánosság számára hozzáférhető helyeken történő alkalmazásáról.

5. módosítás

(39) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben, a 810/2009/EK európai parlamenti és tanácsi rendeletben és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek. A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért szükséges nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben, a 810/2009/EK európai parlamenti és tanácsi rendeletben és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek.

Indokolás

Ez a módosítás rávilágít arra, hogy az érintett mesterségesintelligencia-rendszereket mindenképpen az MI-rendszerek fokozott, magas kockázatú rendszerére vonatkozó követelményeinek kell alávetni.

6. módosítás

(43) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai. A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot , az adatbiztonságot, a fogyasztói jogokat és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai. Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, magas kockázatú MI-rendszerek által érintett természetes személyeket vagy személyek csoportjait megfelelő, könnyen hozzáférhető és érthető módon tájékoztatni kell arról, hogy ilyen rendszerekkel állnak kapcsolatban, és egyértelmű, könnyen elérhető, nyilvános információkat kell rendelkezésükre bocsátani erről.

Indokolás

A szolgáltatókra és felhasználókra alkalmazandó átláthatósági és tájékoztatási követelményeket ki kell terjeszteni a nagy kockázatú MI-rendszerek használata által potenciálisan érintett személyekre vagy személyek csoportjaira, a rendelet III. mellékletében felsoroltak szerint. Az „érthető módon” kifejezés magában foglalja „a felhasználó számára érthető és hozzáférhető nyelvezetet, beleértve a beszélt és hallható, valamint a manuális-vizuális nyelveket is”.

7. módosítás

Új preambulumbekezdés a (44) preambulumbekezdés után

Az Európai Bizottság által javasolt szöveg Az RB módosítása Az MI-rendszerszolgáltatóknak tartózkodniuk kell minden olyan intézkedéstől, amely minőségirányítási rendszerükben elősegíti a nemen, származáson, valláson vagy meggyőződésen, fogyatékosságon, életkoron, szexuális irányultságon alapuló vagy bármely más alapon történő indokolatlan megkülönböztetést.

Indokolás

A jogellenes megkülönböztetés emberi tevékenységből ered. Az MI-rendszerek szolgáltatóinak tartózkodniuk kell minden olyan intézkedéstől minőségbiztosítási rendszerükben, amely elősegítheti a megkülönböztetést.

8. módosítás

(47) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Annak az átláthatatlanságnak a kezelése érdekében, amely miatt egyes MI-rendszerek a természetes személyek számára érthetetlenek vagy túlságosan összetettek lehetnek, bizonyos fokú átláthatóságot kell előírni a nagy kockázatú MI-rendszerek tekintetében. A felhasználóknak képesnek kell lenniük arra, hogy értelmezzék és megfelelően használják a rendszer kimenetét. A nagy kockázatú MI-rendszereket ezért megfelelő dokumentációnak és használati utasításoknak kell kísérniük, és azoknak tömör és egyértelmű információkat kell tartalmazniuk, többek között adott esetben az alapvető jogokat és a megkülönböztetést érintő lehetséges kockázatokról. Annak az átláthatatlanságnak a kezelése érdekében, amely miatt egyes MI-rendszerek a természetes személyek vagy a kormányzat bármely szintjén elhelyezkedő hatóságok számára érthetetlenek vagy túlságosan összetettek lehetnek, magas fokú átláthatóságot kell előírni a nagy kockázatú MI-rendszerek tekintetében. A felhasználóknak képesnek kell lenniük arra, hogy értelmezzék és megfelelően használják a rendszer kimenetét. A nagy kockázatú MI-rendszereket ezért megfelelő dokumentációnak és használati utasításoknak kell kísérniük, és azoknak tömör és egyértelmű információkat kell tartalmazniuk, többek között adott esetben az alapvető jogokat és a megkülönböztetést érintő lehetséges kockázatokról.

Indokolás

A nagy kockázatú MI-rendszereket tervezők elszámoltathatóságát gyengíti a „bizonyos fokú átláthatóság” kifejezés használata.

9. módosítás

(48) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy a természetes személyek felügyelhessék működésüket. E célból a rendszer szolgáltatójának a forgalomba hozatalt vagy üzembe helyezést megelőzően megfelelő emberi felügyeleti intézkedéseket kell meghatároznia. Az ilyen intézkedéseknek adott esetben garantálniuk kell különösen azt, hogy a rendszer olyan beépített működési korlátokkal rendelkezzen, amelyeket maga a rendszer nem tud felülbírálni, és reagáljon az emberi üzemeltetőre, valamint hogy az emberi felügyeletet ellátó természetes személyek rendelkezzenek az e feladat ellátásához szükséges szakértelemmel, képzéssel és felhatalmazással. A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy a természetes személyek és a kormányzat bármely szintjén elhelyezkedő hatóságok felügyelhessék működésüket. E célból a rendszer szolgáltatójának a forgalomba hozatalt vagy üzembe helyezést megelőzően megfelelő emberi felügyeleti intézkedéseket kell meghatároznia. Az ilyen intézkedéseknek adott esetben garantálniuk kell különösen azt, hogy a rendszer olyan beépített működési korlátokkal rendelkezzen, amelyeket maga a rendszer nem tud felülbírálni, és reagáljon az emberi üzemeltetőre, valamint hogy az emberi felügyeletet ellátó természetes személyek rendelkezzenek az e feladat ellátásához szükséges szakértelemmel, képzéssel és felhatalmazással.

Indokolás

Magától értetődik.

10. módosítás

(67) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva. A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek, és CE-jelöléssel vannak ellátva. A tagállamok hatáskörrel rendelkeznek arra, hogy kizárólag kényszerítő és kellően megalapozott közbiztonsági és nemzetbiztonsági érdekek alapján szabályozzák a nagy kockázatú MI-gyakorlatokat és MI-rendszereket.

Indokolás

Bár a tagállamoknak nem szabadna akadályozniuk a rendelet alkalmazását, meg kell őrizniük a jogot a nagy kockázatú mesterségesintelligencia-rendszerek szabályozására, amennyiben köz- és nemzetbiztonsági érdekek forognak kockán.

11. módosítás

(70) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Bizonyos MI-rendszerek, amelyek rendeltetése a természetes személyekkel való interakció vagy tartalom létrehozása, különleges kockázatot jelenthetnek a hasonmássággal való visszaélés vagy a megtévesztés szempontjából, függetlenül attól, hogy nagy kockázatúnak minősülnek-e vagy sem. Bizonyos körülmények között e rendszerek használatára egyedi átláthatósági kötelezettségeket kell alkalmazni, a nagy kockázatú MI-rendszerekre vonatkozó követelmények és kötelezettségek sérelme nélkül. Különösen, a természetes személyeket figyelmeztetni kell, hogy MI-rendszerrel lépnek kapcsolatba , kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló . Ezenkívül a természetes személyeket figyelmeztetni kell, ha érzelemfelismerő rendszerrel vagy biometrikus kategorizálási rendszerrel kerülnek kapcsolatba. Ezeket az információkat és figyelmeztetéseket a fogyatékossággal élő személyek számára hozzáférhető formátumban kell biztosítani. Ezenfelül azoknak a felhasználóknak, akik MI-rendszert használnak arra, hogy meglévő személyekre, helyekre vagy eseményekre észrevehetően hasonlító, és egy személy számára hamisan hitelesnek tűnő kép, audio- vagy videotartalmat állítsanak elő vagy manipuláljanak, az MI-kimenet ennek megfelelő címkézésével és mesterséges eredetének nyilvánosságra hozatalával kell nyilvánvalóan jelezniük, hogy az adott tartalom mesterségesen került létrehozásra vagy manipulálásra. Bizonyos MI-rendszerek, amelyek rendeltetése a természetes személyekkel való interakció vagy tartalom létrehozása, különleges kockázatot jelenthetnek a hasonmássággal való visszaélés vagy a megtévesztés szempontjából, függetlenül attól, hogy nagy kockázatúnak minősülnek-e vagy sem. E rendszerek használatára egyedi átláthatósági kötelezettségeket kell alkalmazni, a nagy kockázatú MI-rendszerekre vonatkozó követelmények és kötelezettségek sérelme nélkül. Különösképpen a természetes személyeket rendszerszerűen tájékoztatni kell arról , hogy MI-rendszerrel lépnek kapcsolatba. Ezenkívül a természetes személyeket figyelmeztetni kell, ha érzelemfelismerő rendszerrel vagy biometrikus kategorizálási rendszerrel kerülnek kapcsolatba. Ezeket az információkat és figyelmeztetéseket a fogyatékossággal élő személyek számára hozzáférhető formátumban kell biztosítani. Ezenfelül azoknak a felhasználóknak, akik MI-rendszert használnak arra, hogy meglévő személyekre, helyekre vagy eseményekre észrevehetően hasonlító, és egy személy számára hamisan hitelesnek tűnő kép, audio- vagy videotartalmat állítsanak elő vagy manipuláljanak, az MI-kimenet ennek megfelelő címkézésével és mesterséges eredetének nyilvánosságra hozatalával kell nyilvánvalóan jelezniük, hogy az adott tartalom mesterségesen került létrehozásra vagy manipulálásra.

Indokolás

Nem szabad kivételt tenni az átláthatósági és tájékoztatási kötelezettség alól, ha természetes személyek lépnek kapcsolatba MI-rendszerekkel.

12. módosítás

(76) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően, valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget. E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően, valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget. A Mesterséges Intelligenciával Foglalkozó Európai Testület tagjainak az európai társadalom érdekeit kell képviselniük. A Mesterséges Intelligenciával Foglalkozó Európai Testület összetételének nemi szempontból kiegyensúlyozottnak kell lennie.

Indokolás

A Mesterséges Intelligenciával Foglalkozó Európai Testületnek megfelelően tükröznie kell az európai társadalom széles körű érdekeit. Itt többek között a következő területekre vonatkozó érdekekről van szó: emberi jogok, éghajlatvédelem és az MI-rendszerek energiatakarékos használata, biztonság, társadalmi befogadás, egészség stb. A nemek közötti egyensúly feljogosító feltétel a tanácsadás diverzitása számára, az iránymutatások meghatározásakor stb.

13. módosítás

(77) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében, hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé, minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak. A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében, hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé, minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak. A helyi és regionális önkormányzatokat – amennyiben az adott tagállam indokoltnak tartja – felügyeleti vagy végrehajtási feladatokkal bízzák meg.

Indokolás

A rendelet, valamint az abban foglalt felügyeleti és végrehajtási keret megvalósíthatóságának biztosítása érdekében a tagállamokat fel kell hatalmazni arra, hogy szükség esetén és lehetőség szerint helyi és regionális önkormányzatokat bízzanak meg felügyeleti és végrehajtási feladatok elvégzésével.

14. módosítás

(79) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz. Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak és – adott esetben – helyi és regionális önkormányzatoknak vagy hatósági szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz.

Indokolás

Ez a módosítás figyelembe veszi az uniós tagállamok eltérő irányítási struktúráit.

15. módosítás

(83) preambulumbekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét. Az illetékes hatóságok uniós, nemzeti , regionális és helyi szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét.

Indokolás

Ez a módosítás figyelembe veszi az uniós tagállamok eltérő irányítási struktúráit.

16. módosítás

I. CÍM 3. cikk 1. pont – Fogalommeghatározások

Az Európai Bizottság által javasolt szöveg Az RB módosítása „mesterségesintelligencia-rendszer (MI-rendszer)”: olyan szoftver, amelyet az I. mellékletben felsorolt technikák és megközelítések közül egy vagy több alkalmazásával fejlesztettek, és amely az ember által meghatározott célkitűzések adott csoportja tekintetében olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek; „mesterségesintelligencia-rendszer (MI-rendszer)”: olyan szoftver, amelyet az I. mellékletben nem kimerítő jelleggel felsorolt technikák és megközelítések közül egy vagy több alkalmazásával fejlesztettek ki, társadalmi gyakorlatokkal, identitással és kultúrával társítva , és amely az ember által meghatározott célkitűzések adott csoportja tekintetében környezetének adatgyűjtéssel, az összegyűjtött strukturált vagy strukturálatlan adatok értelmezésével, tudásmenedzsmenttel vagy az ezekből az adatokból leszűrt információk feldolgozásával történő megfigyelése révén olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek;

Indokolás

A mesterségesintelligencia-rendszer egy műszaki elemek kombinációjából álló, az adatokat, algoritmusokat és a számítási teljesítményt a szociális gyakorlatokkal, a társadalommal, az identitással és a kultúrával összekapcsoló egység. Egy ilyen dinamikus társadalmi-technikai kombinált meghatározásnak ezért időtállónak kell lennie, és azt rendszeresen frissíteni kell, hogy pontosan tükrözze a mesterséges intelligencia egyre növekvő társadalmi hatását, ugyanakkor azonosítsa a mesterséges intelligenciával kapcsolatos gyorsan változó kihívásokat és lehetőségeket, ideértve a tudásmenedzsment és az MI közötti kapcsolatot. A más algoritmusok által kifejlesztett algoritmusoknak szintén e rendelet hatálya alá kellene tartozniuk.

17. módosítás

5. cikk (1) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Tilosak a következő mesterségesintelligencia-gyakorlatok: Tilosak a következő mesterségesintelligencia-gyakorlatok: a) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek szubliminális technikákat alkalmaznak az adott személy tudatán kívül annak érdekében, hogy lényegesen torzítsák egy személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat; a) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek szubliminális technikákat alkalmaznak az adott személy tudatán kívül annak érdekében, hogy lényegesen torzítsák egy személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat , sérti vagy sértheti más személynek vagy személyek egy csoportjának alapvető jogait, beleértve testi vagy lelki egészségüket és biztonságukat, károkat okoz vagy okozhat a fogyasztóknak, például pénzügyi veszteséget vagy gazdasági diszkriminációt, vagy aláássa vagy alááshatja a demokráciát és a jogállamiságot ; b) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek a személyek egy meghatározott csoportjának életkor, testi vagy szellemi fogyatékosság miatt fennálló valamilyen sebezhetőségét kihasználják annak érdekében, hogy torzítsák az adott csoporthoz tartozó személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat; b) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek a személyek egy meghatározott csoportjának életkor, testi vagy szellemi fogyatékosság miatt fennálló valamilyen sebezhetőségét kihasználják annak érdekében, hogy torzítsák az adott csoporthoz tartozó személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat; c) MI-rendszerek hatóságok általi vagy nevükben történő forgalomba hozatala, üzembe helyezése vagy használata természetes személyek megbízhatóságának értékelésére vagy osztályozására egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert vagy előre jelzett személyes vagy személyiségi tulajdonságok alapján , oly módon, hogy a közösségi pontszám a következő helyzetek egyikéhez vagy mindkettőhöz vezet: i. bizonyos természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmód olyan szociális kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatokat eredetileg létrehozták vagy gyűjtötték; ii. egyes természetes személyekkel vagy azok egész csoportjával szembeni olyan hátrányos vagy kedvezőtlen bánásmód, amely indokolatlan vagy aránytalan közösségi magatartásukhoz vagy annak súlyosságához képest. c) olyan MI-rendszerek hatóságok általi vagy nevükben történő forgalomba hozatala, üzembe helyezése vagy használata természetes személyek vagy személyek csoportjai megbízhatóságának értékelésére vagy osztályozására egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert vagy előre jelzett személyes vagy személyiségi tulajdonságok alapján , amelyek mesterséges intelligencián alapuló, általános célú társadalmi pontozáshoz vezetnek ; d) „valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból, kivéve, ha és amennyiben az ilyen használat az alábbi célok egyikéhez feltétlenül szükséges: i. a bűncselekmények konkrét potenciális áldozatainak célzott felkutatása, ideértve az eltűnt gyermekeket is; ii. természetes személyek életét vagy fizikai biztonságát fenyegető konkrét, jelentős és közvetlen veszély, illetve terrortámadás megelőzése; iii. a 2002/584/IB tanácsi kerethatározat ([62]) 2. cikkének (2) bekezdésében említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés. d) olyan MI-rendszerek hatóságok általi vagy nevükben történő forgalomba hozatala, üzembe helyezése vagy használata, amelyek mesterséges intelligencián alapú társadalmi pontozást alkalmaznak emberi felügyelet nélkül, specifikus célból, azaz olyan társadalmi kontextusban, amely összefügg azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, természetes személyek vagy személyek csoportjai megbízhatóságának értékelésére vagy osztályozására egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert vagy előre jelzett személyes vagy személyiségi tulajdonságok alapján, ahol a közösségi pontszám egyes természetes személyekkel vagy azok egész csoportjával szembeni olyan hátrányos vagy kedvezőtlen bánásmódhoz vezet, amely indokolatlan vagy aránytalan közösségi magatartásukhoz vagy annak súlyosságához képest; e) „valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból, kivéve, ha és amennyiben az ilyen használat az alábbi célok egyikéhez feltétlenül szükséges: i. a bűncselekmények konkrét potenciális áldozatainak célzott felkutatása, ideértve az eltűnt gyermekeket is; ii. természetes személyek életét vagy fizikai biztonságát fenyegető konkrét, jelentős és közvetlen veszély, illetve terrortámadás megelőzése; iii. a 2002/584/IB tanácsi kerethatározat ([62]) 2. cikkének (2) bekezdésében említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés.

Indokolás

A szubliminális technikák általában véve alááshatják a szabadságot, az emberi jogokat és ezáltal a demokratikus jogállamiság működését. Ugyanakkor a mesterséges intelligencia alááshatja a fogyasztói jogokat. A kiegészítések célja ennek tisztázása.

Ami a hatóságok vagy a nevükben eljáró hatóságok közösségi osztályozást illeti, ezt meg kell tiltani, ha általános célból végzik, tekintettel az ilyen gyakorlatokból eredő veszélyekre, amint azt a (17) preambulumbekezdés kifejti. Az adatok meghatározott célokra történő létrehozása vagy gyűjtése csak emberi felügyelet mellett engedélyezhető, feltéve, hogy az nem sérti a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit.

18. módosítás

5. cikk (4) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A tagállamok dönthetnek úgy, hogy az (1) bekezdés d) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatának teljes vagy részleges engedélyezését. Az említett tagállam nemzeti jogában meghatározza a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés d) pontjában felsorolt célok közül melyek tekintetében, és az (1) bekezdés d) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata. A tagállamok dönthetnek úgy, hogy az (1) bekezdés d) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatának teljes vagy részleges engedélyezését. Az említett tagállam nemzeti jogában meghatározza a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés d) pontjában felsorolt célok közül melyek tekintetében, és az (1) bekezdés d) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata. Ezek a szabályok meghatározzák az érintett helyi és regionális önkormányzatok tájékoztatására és a velük folytatott konzultációra vonatkozó előírásokat. Erre a konzultációra e rendszereknek a nyilvánosság számára hozzáférhető helyeken történő kivételes használata előtt kell sort keríteni. Sürgős helyzetekben, amikor észszerűen nem lehet megvárni az előzetes konzultációt, az illetékes helyi és regionális önkormányzatot haladéktalanul tájékoztatják az érintett MI-gyakorlat alkalmazásáról.

Indokolás

A nyilvánosság számára hozzáférhető helyek kezelésével és felügyeletével kapcsolatos politikai és adminisztratív felelősség a helyi és regionális önkormányzatokat terheli. Ezért lehetővé kell tenni számukra, hogy az ilyen mesterségesintelligencia-gyakorlatok bevezetése előtt elmondhassák véleményüket, és megfelelően tájékoztassák őket az MI-rendszerek bűnüldözési célú kivételes használatáról.

Sürgős esetben, amikor nem lehet ésszerűen megvárni az előzetes konzultációt, az érintett helyi vagy regionális önkormányzatot haladéktalanul tájékoztatni kell.

19. módosítás

13. cikk

Az Európai Bizottság által javasolt szöveg Az RB módosítása 13 . cikk – Átláthatóság és a felhasználók tájékoztatása 13a . cikk – Átláthatóság és a felhasználók tájékoztatása (1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen ahhoz, hogy a felhasználók értelmezhessék a rendszer kimenetét és megfelelően használhassák azt. A felhasználó és a szolgáltató e cím 3. fejezetében meghatározott vonatkozó kötelezettségeinek való megfelelés érdekében megfelelő típusú és mértékű átláthatóságot kell biztosítani. (1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen ahhoz, hogy a felhasználók értelmezhessék a rendszer kimenetét és megfelelően használhassák azt. A felhasználó és a szolgáltató e cím 3. fejezetében meghatározott vonatkozó kötelezettségeinek való megfelelés érdekében megfelelő típusú és mértékű átláthatóságot , valamint érthető magyarázatot kell biztosítani . A magyarázatnak legalább annak az országnak a nyelvén rendelkezésre kell állnia, ahol az MI-rendszert alkalmazzák. (2) A nagy kockázatú MI-rendszerekhez megfelelő digitális formátumú vagy egyéb használati utasítást kell mellékelni, amely tömör, teljes körű, pontos és egyértelmű, a felhasználók számára releváns, hozzáférhető és érthető információkat tartalmaz. (2) A nagy kockázatú MI-rendszerekhez nyilvános, érthető és a nyilvánosság számára hozzáférhető, megfelelő digitális formátumú vagy egyéb használati utasítást kell mellékelni, amely tömör, teljes körű, pontos és egyértelmű, a felhasználók számára releváns, hozzáférhető és érthető információkat tartalmaz. (3) A (2) bekezdésben említett információk a következőket határozzák meg: (3) A (2) bekezdésben említett információk a következőket határozzák meg: a) a szolgáltatónak és – ha van ilyen – a meghatalmazott képviselőjének a kiléte és elérhetőségei; a) a szolgáltatónak és – ha van ilyen – a meghatalmazott képviselőjének a kiléte és elérhetőségei; b) a nagy kockázatú MI-rendszer jellemzői, képességei és teljesítményének korlátai, beleértve a következőket: b) a nagy kockázatú MI-rendszer jellemzői, képességei és teljesítményének korlátai, beleértve a következőket: i. a rendszer rendeltetése; i. a rendszer rendeltetése; ii. a 15. cikkben említett pontosság, stabilitás és kiberbiztonság azon várható szintje, amelyhez viszonyítva a nagy kockázatú MI-rendszert tesztelték és érvényesítették, valamint minden olyan ismert és előre látható körülmény, amely befolyásolhatja a pontosság, a stabilitás és a kiberbiztonság várható szintjét; ii. a 15. cikkben említett (a modellek értékelésére vonatkozó releváns mérőszámokban kifejezett) pontosság, stabilitás és kiberbiztonság azon várható szintje, amelyhez viszonyítva a nagy kockázatú MI-rendszert tesztelték és érvényesítették, valamint minden olyan ismert és előre látható körülmény, amely befolyásolhatja a pontosság, a stabilitás és a kiberbiztonság várható szintjét; iii. bármely ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával összefüggő körülmény, amely kockázatot jelenthet az egészségre és a biztonságra vagy az alapvető jogokra nézve; iii. bármely ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával összefüggő körülmény, amely kockázatot jelenthet az egészségre és a biztonságra vagy az alapvető jogokra nézve; iv. a rendszer teljesítménye azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a rendszert használni kívánják; iv. a rendszer teljesítménye azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a rendszert használni kívánják; v. adott esetben a bemeneti adatokra vonatkozó előírások vagy az alkalmazott tanulóadat-, érvényesítésiadat- és tesztadatkészletekre vonatkozó egyéb releváns információk, figyelembe véve az MI-rendszer rendeltetését; v. adott esetben a bemeneti adatokra vonatkozó előírások vagy az alkalmazott tanulóadat-, érvényesítésiadat- és tesztadatkészletekre vonatkozó egyéb releváns információk, figyelembe véve az MI-rendszer rendeltetését; vi. a modell finomhangolására használt paraméterek, valamint a túltanulás és az alultanulás megelőzésére hozott intézkedések. c) a nagy kockázatú MI-rendszert és annak teljesítményét érintő, a szolgáltató által az első megfelelőségértékelés időpontjában előre meghatározott változások, ha vannak ilyenek; c) a nagy kockázatú MI-rendszert és annak teljesítményét érintő, a szolgáltató által az első megfelelőségértékelés időpontjában előre meghatározott változások, ha vannak ilyenek; d) a 14. cikkben említett emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek felhasználók általi értelmezését megkönnyítő technikai intézkedéseket; d) a 14. cikkben említett emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek felhasználók általi értelmezését megkönnyítő technikai intézkedéseket; e) a nagy kockázatú MI-rendszer várható élettartama, valamint az említett MI-rendszer megfelelő működésének biztosításához szükséges karbantartási és gondozási intézkedések, többek között a szoftverfrissítések tekintetében. e) a nagy kockázatú MI-rendszer várható élettartama, valamint az említett MI-rendszer megfelelő működésének biztosításához szükséges karbantartási és gondozási intézkedések, többek között a szoftverfrissítések tekintetében. 13b. cikk – Átláthatóság és az érintett személyek tájékoztatása Azokat a személyeket vagy személyek csoportjait, akik esetében nagy kockázatú MI-rendszert szándékoznak használni, könnyen elérhető, megfelelő és érthető módon tájékoztatni kell és egyértelmű, könnyen hozzáférhető és nyilvános információkat kell rendelkezésükre bocsátani erről.

Indokolás

A bizalmi ökoszisztéma megerősítése érdekében a nagy kockázatú MI-rendszerek használati utasításait hozzáférhetővé kell tenni a nyilvánosság számára. Ezeket az utasításokat az MI-rendszer alkalmazása szerinti ország olvasója számára érthető nyelven kell megfogalmazni.

Az algoritmusok átláthatóságával és értelmezhetőségével összefüggésben lehetővé kell tenni annak kifejtését, hogy milyen paraméterekkel finomhangolták a modellt, és milyen intézkedéseket hoztak a túltanulás és az alultanulás megelőzése érdekében.

A 13b. cikk az átláthatóság és a tájékoztatás kötelezettségét szabályozza azon személyek számára, akik kapcsolatba lépnek az MI-rendszerekkel, vagy akiket esetlegesen érinthet az MI-rendszer.

20. módosítás

14. cikk (4) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A (3) bekezdésben említett intézkedéseknek lehetővé kell tenniük az emberi felügyeletet ellátó személyek számára, hogy a körülményeknek megfelelően: A (3) bekezdésben említett intézkedéseknek lehetővé kell tenniük az emberi felügyeletet ellátó személyek számára, hogy a körülményeknek megfelelően: a) teljes mértékben megértsék a nagy kockázatú MI-rendszer kapacitásait és korlátait, és képesek legyenek megfelelően nyomon követni annak működését annak érdekében, hogy a rendellenességek, zavarok és váratlan teljesítmény jeleit a lehető leghamarabb fel lehessen tárni és kezelni lehessen; a) teljes mértékben megértsék a nagy kockázatú MI-rendszer kapacitásait és korlátait, és képesek legyenek megfelelően nyomon követni annak működését annak érdekében, hogy a rendellenességek, zavarok és váratlan teljesítmény jeleit a lehető leghamarabb fel lehessen tárni és kezelni lehessen; b) tudatában legyenek annak, hogy előfordulhat, hogy automatikusan vagy túlzott mértékben támaszkodnak egy nagy kockázatú MI-rendszer által előállított kimenetre („automatizálási torzítás”), különösen azon nagy kockázatú MI-rendszerek esetében, amelyek információval vagy ajánlásokkal szolgálnak a természetes személyek által meghozandó döntésekhez; b) tudatában legyenek annak, hogy előfordulhat, hogy automatikusan vagy túlzott mértékben támaszkodnak egy nagy kockázatú MI-rendszer által előállított kimenetre („automatizálási torzítás”) , illetve tudatában legyenek bármely más típusú torzításnak , különösen azon nagy kockázatú MI-rendszerek esetében, amelyek információval vagy ajánlásokkal szolgálnak a természetes személyek által meghozandó döntésekhez; c) képesek legyenek a nagy kockázatú MI-rendszer kimenetének helyes értelmezésére, figyelembe véve különösen a rendszer jellemzőit, valamint a rendelkezésre álló értelmezési eszközöket és módszereket; c) képesek legyenek a nagy kockázatú MI-rendszer kimenetének helyes értelmezésére, figyelembe véve különösen a rendszer jellemzőit, valamint a rendelkezésre álló értelmezési eszközöket és módszereket; d) képesek legyenek arra, hogy bármely konkrét helyzetben úgy döntsenek, hogy nem használják a nagy kockázatú MI-rendszert vagy más módon figyelmen kívül hagyják, felülírják vagy visszafordítják a nagy kockázatú MI-rendszer kimenetét; d) képesek legyenek arra, hogy bármely konkrét helyzetben úgy döntsenek, hogy nem használják a nagy kockázatú MI-rendszert vagy más módon figyelmen kívül hagyják, felülírják vagy visszafordítják a nagy kockázatú MI-rendszer kimenetét; e) képesek legyenek beavatkozni a nagy kockázatú MI-rendszer működésébe, vagy megszakítani a rendszert egy „stop” gomb vagy hasonló eljárás segítségével. e) képesek legyenek beavatkozni a nagy kockázatú MI-rendszer működésébe, vagy megszakítani a rendszert egy „stop” gomb vagy hasonló eljárás segítségével.

Indokolás

A torzítás több formája is problémás lehet. Ilyenek például a saját tervezői vagy felhasználói torzítás (társadalmi torzítás), az azzal kapcsolatos torzítás, hogy az alkalmazott mesterségesintelligencia-rendszer megfelelő megoldást jelent-e a problémára (technológiai torzítás), valamint az torzítás statisztikai formái.

21. módosítás

14. cikk, új bekezdés az (5) bekezdés után

Az Európai Bizottság által javasolt szöveg Az RB módosítása A III. melléklet (5) bekezdésének a) és b) pontjában említett mesterségesintelligencia-rendszerek által hozott döntésekhez emberi beavatkozás szükséges, és ezeknek alapos döntéshozatali folyamaton kell alapulniuk. E döntések esetében biztosítani kell az emberi részvételt.

Indokolás

A 14. cikk csak a nagy kockázatú MI-rendszerek emberi felügyeletével foglalkozik. A hatósági döntések esetében fontos hangsúlyozni, hogy biztosított az emberi beavatkozás, a részvétel és a jogszerű eljárás.

22. módosítás

17. cikk (1) bekezdés, új pont az m) pont után

Az Európai Bizottság által javasolt szöveg Az RB módosítása A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszert vezetnek be, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie: A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszert vezetnek be, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie: a) a jogszabályi rendelkezések tiszteletben tartását célzó stratégia, beleértve a megfelelőségértékelési eljárásoknak, valamint a nagy kockázatú MI-rendszer módosításának kezelését célzó eljárásoknak való megfelelést is; a) a jogszabályi rendelkezések tiszteletben tartását célzó stratégia, beleértve a megfelelőségértékelési eljárásoknak, valamint a nagy kockázatú MI-rendszer módosításának kezelését célzó eljárásoknak való megfelelést is; b) a nagy kockázatú MI-rendszer tervezéséhez, tervezés-ellenőrzéséhez és tervezés-igazolásához alkalmazandó technikák, eljárások és módszeres intézkedések; b) a nagy kockázatú MI-rendszer tervezéséhez, tervezés-ellenőrzéséhez és tervezés-igazolásához alkalmazandó technikák, eljárások és módszeres intézkedések; c) a nagy kockázatú MI-rendszer fejlesztésére, minőség-ellenőrzésére és minőségbiztosítására alkalmazandó technikák, eljárások és módszeres intézkedések; c) a nagy kockázatú MI-rendszer fejlesztésére, minőség-ellenőrzésére és minőségbiztosítására alkalmazandó technikák, eljárások és módszeres intézkedések; d) a nagy kockázatú MI-rendszer fejlesztése előtt, alatt és után végrehajtandó vizsgálati, tesztelési és érvényesítési eljárások, valamint azok elvégzésének gyakorisága; d) a nagy kockázatú MI-rendszer fejlesztése előtt, alatt és után végrehajtandó vizsgálati, tesztelési és érvényesítési eljárások, valamint azok elvégzésének gyakorisága; e) az alkalmazandó műszaki előírások, beleértve a szabványokat, valamint – amennyiben a vonatkozó harmonizált szabványokat nem alkalmazzák teljes mértékben – az annak biztosítására szolgáló eszközök, hogy a nagy kockázatú MI-rendszer megfeleljen az e cím 2. fejezetében meghatározott követelményeknek; e) az alkalmazandó műszaki előírások, beleértve a szabványokat, valamint – amennyiben a vonatkozó harmonizált szabványokat nem alkalmazzák teljes mértékben – az annak biztosítására szolgáló eszközök, hogy a nagy kockázatú MI-rendszer megfeleljen az e cím 2. fejezetében meghatározott követelményeknek; f) adatgazdálkodási rendszerek és eljárások, beleértve az adatgyűjtést, az adatelemzést, az adatcímkézést, az adattárolást, az adatszűrést, az adatbányászatot, az adatösszesítést, az adatmegőrzést és a nagy kockázatú MI-rendszerek forgalomba hozatala vagy üzembe helyezése előtt és céljából végzett, bármely más, adatokkal kapcsolatos műveletet; f) adatgazdálkodási rendszerek és eljárások, beleértve az adatgyűjtést, az adatelemzést, az adatcímkézést, az adattárolást, az adatszűrést, az adatbányászatot, az adatösszesítést, az adatmegőrzést és a nagy kockázatú MI-rendszerek forgalomba hozatala vagy üzembe helyezése előtt és céljából végzett, bármely más, adatokkal kapcsolatos műveletet; g) a 9. cikkben említett kockázatkezelési rendszer; g) a 9. cikkben említett kockázatkezelési rendszer; h) a forgalomba hozatal utáni nyomonkövetési rendszer kidolgozása, végrehajtása és fenntartása a 61. cikknek megfelelően; h) a forgalomba hozatal utáni nyomonkövetési rendszer kidolgozása, végrehajtása és fenntartása a 61. cikknek megfelelően; i) a súlyos váratlan események és a hibás működés 62. cikk szerinti bejelentésével kapcsolatos eljárások; i) a súlyos váratlan események és a hibás működés 62. cikk szerinti bejelentésével kapcsolatos eljárások; j) az adatokhoz való hozzáférést biztosító vagy támogató nemzeti illetékes hatóságokkal, illetékes hatóságokkal, többek között ágazati hatóságokkal, a bejelentett szervezetekkel, más üzemeltetőkkel, ügyfelekkel vagy más érdekelt felekkel folytatott kommunikáció kezelése; j) az adatokhoz való hozzáférést biztosító vagy támogató nemzeti illetékes hatóságokkal, illetékes hatóságokkal, többek között ágazati hatóságokkal, a bejelentett szervezetekkel, más üzemeltetőkkel, ügyfelekkel vagy más érdekelt felekkel folytatott kommunikáció kezelése; k) összes vonatkozó dokumentáció és információ nyilvántartására szolgáló rendszerek és eljárások; k) összes vonatkozó dokumentáció és információ nyilvántartására szolgáló rendszerek és eljárások; l) erőforrás-gazdálkodás, beleértve az ellátás biztonságával kapcsolatos intézkedéseket; l) erőforrás-gazdálkodás, beleértve az ellátás biztonságával kapcsolatos intézkedéseket; m) elszámoltathatósági keret, amely meghatározza a vezetőség és az egyéb alkalmazottak felelősségi körét az e bekezdésben felsorolt valamennyi szempont tekintetében. m) elszámoltathatósági keret, amely meghatározza a vezetőség és az egyéb alkalmazottak felelősségi körét az e bekezdésben felsorolt valamennyi szempont tekintetében; n) a nemen, etnikai származáson, valláson vagy meggyőződésen, fogyatékosságon, életkoron, szexuális irányultságon alapuló vagy bármilyen egyéb alapon történő indokolatlan megkülönböztetés megelőzésére irányuló intézkedések; o) annak kifejtése, hogy a nagy kockázatú MI-rendszer tervezése során hogyan vették figyelembe az etikai kérdéseket.

Indokolás

A kiegészítés hangsúlyozza, hogy az inkluzivitásnak és az indokolatlan megkülönböztetés elleni küzdelemnek a minőségbiztosítási rendszer fontos elemét kell képeznie.

A rendszernek meg kell felelnie azoknak az etikai értékeknek, amelyeket az MI-rendszer felhasználója meg kíván állapítani, vagy amelyekkel kapcsolatban a szolgáltató észszerűen elvárhatja, hogy azok egy magas kockázatú MI-rendszerhez kapcsolódjanak. A szolgáltatónak képesnek kell lennie annak kifejtésére, hogy ezt a szempontot hogyan vette figyelembe.

23. módosítás

19. cikk (1) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A nagy kockázatú MI-rendszerek szolgáltatói biztosítják, hogy rendszereiket forgalomba hozataluk vagy üzembe helyezésük előtt alávessék a 43. cikk szerinti megfelelőségértékelési eljárásnak. Amennyiben az említett megfelelőségértékelés után bizonyítást nyer, hogy az MI-rendszerek megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, a szolgáltatók a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot állítanak ki, és a 49. cikkel összhangban feltüntetik a CE megfelelőségi jelölést. A nagy kockázatú MI-rendszerek szolgáltatói biztosítják, hogy rendszereiket forgalomba hozataluk vagy üzembe helyezésük előtt alávessék a 43. cikk szerinti megfelelőségértékelési eljárásnak. Amennyiben az említett megfelelőségértékelés után bizonyítást nyer, hogy az MI-rendszerek megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, a szolgáltatók a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot állítanak ki, és a 49. cikkel összhangban feltüntetik a CE megfelelőségi jelölést. A nagy kockázatú MI-rendszerek szolgáltatója nyilvánosan hozzáférhető helyen közzéteszi az EU-megfelelőségi nyilatkozatot és a megfelelőségértékelés összefoglalóját.

Indokolás

A mesterségesintelligencia-rendszerekbe vetett bizalom ökoszisztémájának megerősítése érdekében a nagy kockázatú MI-rendszerek szolgáltatóinak nyitottságra kell törekedniük. A nyilvánosság számára ezért lehetővé kell tenni annak ellenőrzését, hogy a megfelelőségértékelést pontosan, a rendelet szabályaival összhangban állították-e össze.

24. módosítás

29. cikk, új bekezdés a (6) bekezdés után

Az Európai Bizottság által javasolt szöveg Az RB módosítása A nagy kockázatú MI-rendszerek felhasználói felelősek azért, hogy etikai értékelést végezzenek a rendszer használatba helyezését megelőzően. Képesnek kell lenniük arra, hogy elmagyarázzák a technológia bevezetésének az emberekre és a társadalomra gyakorolt lehetséges hatásait. Meg kell határozniuk az MI-rendszer alkalmazásának rendeltetését, az átfogó értékeket, valamint annak módját, ahogyan ezeket az értékeket súlyozták, illetve megvalósították vagy nem valósították meg a rendszerben. Az MI-rendszer teljes életciklusa során értékelik, hogy a rendszer milyen tényleges hatást gyakorol az emberekre és a társadalomra.

Indokolás

Az etika tág fogalom. A technológiai etika gyakorlásának számos módja van, mind az elméleti alapok, mind pedig a konkrét módszertanok, eszközök és tervezési értékek tekintetében. Az értékek olyan dolgok, amelyeket bizonyos személyek (csoportok) fontosnak tartanak: lehetnek konkrétabbak, de inkább fogalmi formát is ölthetnek. Fontos nyitva tartani a bevezetendő lehetséges erkölcsi értékek körét, és folytatni kell az MI-rendszer életciklusának értékelését.

25. módosítás

52. cikk (1) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A szolgáltatók biztosítják, hogy a természetes személyekkel való interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy a természetes személyek tájékoztatást kapjanak arról, hogy valamely MI-rendszerrel állnak kapcsolatban , kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló . Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők. A szolgáltatók biztosítják, hogy a természetes személyekkel való interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy a természetes személyek tájékoztatást kapjanak arról, hogy valamely MI-rendszerrel állnak kapcsolatban. Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők. A mesterségesintelligencia-rendszerekkel kapcsolatban álló természetes személyek választási lehetőségeit és jogállását nem korlátozhatja ez az interakció.

Indokolás

Amennyiben technológiai műtermékeket használnak a természetes személyekkel való interakció eszközeként, fennállhat annak a kockázata, hogy korlátozzák az e műtermékekkel kapcsolatban álló természetes személyek döntéseit. A természetes személyeket megfelelően tájékoztatni kell minden olyan esetben, amikor MI-rendszerekkel találkoznak, és ez nem képezheti egy adott helyzet értelmezésének tárgyát. A mesterségesintelligencia-rendszerekkel történő interakciók során mindenkor garantálni kell jogaikat.

26. módosítás

57. cikk (1) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása A Testület tagjai a nemzeti felügyeleti hatóságok, amelyeket e hatóságok vezetője vagy annak megfelelő magas rangú tisztviselője képvisel, valamint az európai adatvédelmi biztos. Más nemzeti hatóságok is meghívhatók az ülésekre, ha a megvitatott kérdések relevánsak számukra. A Testület tagjai a nemzeti felügyeleti hatóságok, amelyeket e hatóságok vezetője vagy annak megfelelő magas rangú tisztviselője képvisel, valamint az európai adatvédelmi biztos. Más nemzeti , regionális és helyi hatóságok is meghívhatók az ülésekre, ha a megvitatott kérdések relevánsak számukra.

Indokolás

A helyi és regionális önkormányzatok számára lehetővé kell tenni, hogy részt vegyenek az MI-rendszerek felügyeletében, és beszámoljanak azok helyi működtetéséről.

27. módosítás

58. cikk

Az Európai Bizottság által javasolt szöveg Az RB módosítása A Bizottság számára az 56. cikk (2) bekezdésével összefüggésben nyújtott tanácsadás és segítségnyújtás során a Testület különösen: A Bizottság számára az 56. cikk (2) bekezdésével összefüggésben nyújtott tanácsadás és segítségnyújtás során a Testület különösen: a) összegyűjti és megosztja a tagállamok között a szaktudást és a bevált gyakorlatokat; a) összegyűjti és megosztja a tagállamok , valamint a regionális és helyi önkormányzatok között a szaktudást és a bevált gyakorlatokat; b) hozzájárul a tagállamok egységes közigazgatási gyakorlataihoz, többek között az 53. cikkben említett szabályozói tesztkörnyezetek működéséhez; b) hozzájárul a tagállamok egységes közigazgatási gyakorlataihoz, többek között az 53. cikkben említett szabályozói tesztkörnyezetek működéséhez; c) véleményeket, ajánlásokat vagy írásbeli észrevételeket ad ki az e rendelet végrehajtásával kapcsolatos ügyekben, különösen: c) véleményeket, ajánlásokat vagy írásbeli észrevételeket ad ki az e rendelet végrehajtásával kapcsolatos ügyekben, különösen: i. a III. cím 2. fejezetében meghatározott követelményekre vonatkozó műszaki előírásokról vagy meglévő szabványokról, ii. a 40. és 41. cikkben említett harmonizált szabványok vagy egységes előírások használatáról, iii. iránymutatásokat tartalmazó dokumentáció elkészítéséről, a 71. cikkben említett, a közigazgatási bírságok megállapítására vonatkozó iránymutatásokat is beleértve. i. a III. cím 2. fejezetében meghatározott követelményekre vonatkozó műszaki előírásokról vagy meglévő szabványokról, ii. a 40. és 41. cikkben említett harmonizált szabványok vagy egységes előírások használatáról, iii. iránymutatásokat tartalmazó dokumentáció elkészítéséről, a 71. cikkben említett, a közigazgatási bírságok megállapítására vonatkozó iránymutatásokat is beleértve.

Indokolás

A helyi és regionális önkormányzatok állnak a legközelebb a helyi lakosokhoz és gazdaságokhoz. Fontos, hogy kifejezetten jó helyzetben legyenek, ha ismereteik megosztásáról van szó.

28. módosítás

59. cikk (1) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Az egyes tagállamok e rendelet alkalmazásának és végrehajtásának biztosítása céljából nemzeti illetékes hatóságokat hoznak létre vagy jelölnek ki. A nemzeti illetékes hatóságokat úgy kell megszervezni és működtetni, hogy biztosított legyen tevékenységeik objektivitása és pártatlansága. Az egyes tagállamok e rendelet alkalmazásának és végrehajtásának biztosítása céljából nemzeti illetékes hatóságokat hoznak létre vagy jelölnek ki. A nemzeti illetékes hatóságokat úgy kell megszervezni és működtetni, hogy biztosított legyen tevékenységeik objektivitása és pártatlansága. A helyi és regionális önkormányzatokat – amennyiben az adott tagállam indokoltnak tartja – felhatalmazzák arra, hogy felügyeleti vagy végrehajtási feladatokat lássanak el.

Indokolás

A rendelet, valamint az adott felügyeleti és végrehajtási keret megvalósítatóságának biztosítása érdekében a tagállamokat fel kell hatalmazni arra, hogy szükség esetén és lehetőség szerint helyi és regionális önkormányzatokat bízzanak meg felügyeleti és végrehajtási feladatokkal. Ebben az összefüggésben a helyi és regionális önkormányzatoknak támogatást és képzést kell kapniuk annak érdekében, hogy teljes körű felhatalmazással rendelkezhessenek a felügyeleti vagy végrehajtási feladatok elvégzésére.

29. módosítás

69. cikk (3) bekezdés

Az Európai Bizottság által javasolt szöveg Az RB módosítása Magatartási kódexeket készíthetnek az MI-rendszerek egyes szolgáltatói vagy az azokat képviselő szervezetek vagy mindkettő, többek között a felhasználók és az érdekelt felek, valamint képviseleti szervezeteik bevonásával. A magatartási kódexek vonatkozhatnak egy vagy több MI-rendszerre, figyelembe véve az adott rendszerek rendeltetésének hasonlóságát. Magatartási kódexeket készíthetnek a nemzeti, helyi vagy regionális hatóságok, az MI-rendszerek egyes szolgáltatói vagy az azokat képviselő szervezetek vagy mindkettő, többek között a felhasználók és az érdekelt felek, valamint képviseleti szervezeteik bevonásával. A magatartási kódexek vonatkozhatnak egy vagy több MI-rendszerre, figyelembe véve az adott rendszerek rendeltetésének hasonlóságát.

Indokolás

A nemzeti, helyi és regionális hatóságokat fel kell jogosítani arra, hogy magatartási kódexeket dolgozzanak ki az általuk kifejlesztett vagy használt mesterségesintelligencia-rendszerekre vonatkozóan.

30. módosítás

I. MELLÉKLET – A mesterséges intelligenciával kapcsolatos technikák és megközelítések a 3. cikk 1. pontjának megfelelően

Az Európai Bizottság által javasolt szöveg Az RB módosítása Tekintettel a tudomány jelenlegi állására a mesterséges intelligencia a következő technikákat és módszereket foglalja magában: a) Gépi tanulási megközelítések, ideértve a felügyelt, a felügyelet nélküli és a megerősítő tanulást, a módszerek széles skálájának, többek között a mélytanulásnak az alkalmazásával; a) Gépi tanulási megközelítések, ideértve a felügyelt, a felügyelet nélküli és a megerősítő tanulást, a módszerek széles skálájának, többek között a mélytanulásnak az alkalmazásával; b) Logikai és tudásalapú megközelítések, beleértve a tudás megjelenítését, az induktív (logikai) programozást, a tudásbázisokat, a következtetőmotorokat, a(z) (szimbolikus) érvelést és a szakértői rendszereket; b) Logikai és tudásalapú megközelítések, beleértve a tudás megjelenítését, az induktív (logikai) programozást, a tudásbázisokat, a következtetőmotorokat, a(z) (szimbolikus) érvelést és a szakértői rendszereket; c) Statisztikai megközelítések, Bayes-féle becslés, keresési és optimalizálási módszerek. c) Statisztikai megközelítések, Bayes-féle becslés, keresési és optimalizálási módszerek.

Indokolás

Az MI-technikák fogalommeghatározásának és listájának időtállónak kell lennie. Az MI-rendszerek fejlesztéséhez használt konkrét technikák és megközelítések felsorolása nem kell, hogy teljes körű felsorolás legyen, de egyértelművé kell tenni, hogy az a tudomány jelenlegi állásán alapul.

31. módosítás

III. melléklet, 1–5.

Az Európai Bizottság által javasolt szöveg Az RB módosítása A 6. cikk (2) bekezdése szerinti nagy kockázatú MI-rendszerek az alábbi területek valamelyikén felsorolt MI-rendszerek: A 6. cikk (2) bekezdése szerinti nagy kockázatú MI-rendszerek az alábbi területek valamelyikén felsorolt MI-rendszerek: 1. Természetes személyek biometrikus azonosítása és kategorizálása: 1. Természetes személyek biometrikus azonosítása és kategorizálása: a) természetes személyek „valós idejű” és „nem valós idejű” távoli biometrikus azonosítására szolgáló MI-rendszerek. a) természetes személyek „valós idejű” és „nem valós idejű” távoli biometrikus azonosítására szolgáló MI-rendszerek. 2. A kritikus infrastruktúra irányítása és működtetése: 2. A kritikus infrastruktúra irányítása és működtetése: a) a közúti forgalom irányításában és működtetésében, valamint a víz-, gáz-, fűtési és villamosenergia-szolgáltatás során biztonsági alkatrészként használt MI-rendszerek. a) a közúti forgalom irányításában és működtetésében, valamint a víz-, gáz-, fűtési és villamosenergia-szolgáltatás , illetve a távközlési, víz- és internetinfrastruktúra biztosítása során biztonsági alkatrészként használt MI-rendszerek. 3. Oktatás és szakképzés: 3. Oktatás és szakképzés: a) a természetes személyek oktatási és szakképzési intézményekhez való hozzáférésének vagy hozzárendelésének meghatározására szolgáló MI-rendszerek; a) a természetes személyek oktatási és szakképzési intézményekhez való hozzáférésének vagy hozzárendelésének meghatározására szolgáló MI-rendszerek; b) az oktatási és szakképzési intézmények hallgatóinak értékelésére, valamint az oktatási intézményekbe való felvételhez általában szükséges tesztek résztvevőinek értékelésére szolgáló MI-rendszerek. b) az oktatási és szakképzési intézmények hallgatóinak értékelésére, valamint az oktatási intézményekbe való felvételhez általában szükséges tesztek résztvevőinek értékelésére szolgáló MI-rendszerek. 4. Foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés: 4. Foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés: a) természetes személyek toborzására vagy kiválasztására, különösen az üres álláshelyek meghirdetésére, a pályázatok előszűrésére vagy szűrésére, valamint a jelöltek interjúk vagy tesztek során történő értékelésére szolgáló MI-rendszerek; a) természetes személyek toborzására vagy kiválasztására, különösen az üres álláshelyek meghirdetésére, a pályázatok előszűrésére vagy szűrésére, valamint a jelöltek interjúk vagy tesztek során történő értékelésére szolgáló MI-rendszerek; b) olyan MI-rendszerek, amelyeknek célja a munkával kapcsolatos szerződéses kapcsolatok előmozdítására és megszüntetésére vonatkozó döntések meghozatala, a feladatok kiosztása, valamint az ilyen kapcsolatokban részt vevő személyek teljesítményének és magatartásának nyomon követése és értékelése. b) olyan MI-rendszerek, amelyeknek célja a munkával kapcsolatos szerződéses kapcsolatok előmozdítására és megszüntetésére vonatkozó döntések meghozatala, a feladatok kiosztása, valamint az ilyen kapcsolatokban részt vevő személyek teljesítményének és magatartásának nyomon követése és értékelése. 5. Az alapvető magánszolgáltatásokhoz, valamint a közszolgáltatásokhoz és előnyökhöz való hozzáférés és ezek igénybevétele: 5. Az alapvető magánszolgáltatásokhoz, valamint a közszolgáltatásokhoz és előnyökhöz való hozzáférés és ezek igénybevétele: a) olyan MI-rendszerek, amelyeket hatóságok vagy hatóságok nevében használnak a természetes személyek állami segítségnyújtási ellátásokra és szolgáltatásokra való jogosultságának értékelésére , valamint az ilyen ellátások és szolgáltatások nyújtására, csökkentésére, visszavonására vagy visszaigénylésére; a) olyan MI-rendszerek, amelyeket hatóságok vagy hatóságok nevében használnak a természetes személyek állami segítségnyújtási ellátásokra és szolgáltatásokra való jogosultságának értékelésére és megállapítására , valamint az ilyen ellátások és szolgáltatások nyújtására, csökkentésére, visszavonására vagy visszaigénylésére; b) a természetes személyek hitelképességének értékelésére vagy hitelpontszámuk megállapítására szolgáló MI-rendszerek, kivéve a kis méretű szolgáltatók által saját használatra üzembe helyezett MI-rendszereket; b) a természetes személyek hitelképességének vagy hitelpontszámának meghatározására szolgáló MI-rendszerek, kivéve a kis méretű szolgáltatók által saját használatra üzembe helyezett MI-rendszereket; c) olyan MI-rendszerek, amelyeket a vészhelyzeti első reagálási szolgáltatások – többek között tűzoltók és orvosi segítségnyújtás – biztosítására vagy a kiküldésük elsőbbségének megállapítására használnak. c) olyan MI-rendszerek, amelyeket a vészhelyzeti első reagálási szolgáltatások – többek között tűzoltók és orvosi segítségnyújtás – biztosítására vagy a kiküldésük elsőbbségének megállapítására használnak.

Indokolás

A távközlési, a víz- és az internetinfrastruktúra a kritikus infrastruktúra szerves részét képezi.

A nagy kockázatú rendszerek minősítésekor az a lényegi kérdés, hogy az ilyen rendszerek valós kockázatot jelenthetnek-e a polgárokra nézve. A lakosok közszolgáltatásokra való jogosultságának puszta elemzése és elméleti értékelése önmagában nem jelent magas kockázatot. Az „értékelésére” szónak a „megállapítására” kifejezéssel való kiegészítése hangsúlyozza, hogy ez a kockázat ténylegesen a döntéshozatalban nyilvánul meg, különösen a helyi lakosok esetében.

II. POLITIKAI AJÁNLÁSOK

A RÉGIÓK EURÓPAI BIZOTTSÁGA

Kiválósági ökoszisztéma

1. hangsúlyozza, hogy az Európai Bizottság azon törekvése, hogy az EU vezető szerepet töltsön be a mesterséges intelligencia felelős és emberközpontú fejlesztésében, csak a helyi és regionális önkormányzatok erős pozíciója mellett valósítható meg. A helyi és regionális önkormányzatok vannak a legjobb helyzetben ahhoz, hogy az elkövetkező években kedvező környezetet teremtsenek a mesterséges intelligenciába történő beruházások növeléséhez, és előmozdítsák a mesterséges intelligenciába vetett bizalmat;

2. hangsúlyozza, hogy a helyi és regionális önkormányzatokat nem elég bevonni: az is fontos, hogy támogatást és képzést kapjanak a szükséges kompetenciáik bővítése érdekében, mivel előfordulhat, hogy felügyeleti és végrehajtási feladatokkal bízzák meg őket;

3. megjegyzi, hogy uniós források fognak rendelkezésre állni a mesterséges intelligencia fejlesztésére, de rámutat az e tekintetben alkalmazott megközelítés töredezettségére a programok sokfélesége miatt, ami növeli a szétaprózottság és az átfedések kockázatát;

4. ezért sürgeti az Európai Bizottságot, hogy alakítson ki és kapcsoljon össze olyan erős és sokrétű közös adattereket, amelyek a társadalmi igénybevétel eseteit köz- és magánadatok felhasználásával oldják meg. Ehhez az európai adatstratégia szerinti jogalkotási kezdeményezésekkel való koordinációra is szükség van.

Bizalmi ökoszisztéma

5. sajnálja, hogy a rendeletjavaslat nem utal a helyi és regionális önkormányzatokra, pedig a jogi keret mind a köz-, mind a magánszféra szereplőire alkalmazandó lesz;

6. e tekintetben megjegyzi, hogy az MI-rendszerek fontos szerepet játszhatnak a helyi és regionális önkormányzatok és a polgárok közötti interakcióban és a szolgáltatásnyújtásban. Emellett az MI rendszerek többek között növelhetik a közszféra hatékonyságát, és támogathatják a helyi és regionális önkormányzatokat a zöld és a digitális átálláshoz szükséges helyi és regionális szintű kiigazítások megtételében. Ezért fontos, hogy a rendelet folyamatban lévő felülvizsgálata során aktívan felhasználják a helyi és regionális önkormányzatok tapasztalatait;

7. szorgalmazza a „szolgáltató” és a „felhasználó” fogalommeghatározásának további tisztázását, különösen azokban a helyzetekben, amikor vállalatok, kutatóintézetek, hatóságok és lakosok közösen fejlesztenek és tesztelnek MI-rendszereket élő laboratóriumokban. Kellő figyelmet kell fordítani a szakmai felhasználók által alkalmazott rendszerek mesterséges intelligencián alapuló döntései által érintett polgárokra vagy fogyasztókra is;

8. hangsúlyozza, hogy előzetesen konzultálni kell az illetékes helyi és regionális önkormányzatokkal az MI-rendszereknek a természetes személyek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő, „valós idejű” távoli biometrikus azonosítására való használata esetén;

9. üdvözli az Európai Bizottság nyilvános konzultációját a polgári jogi felelősségre vonatkozó szabályoknak a digitális kor és a mesterséges intelligencia specifikus kihívásaihoz való hozzáigazításáról ( 1 ) , és reméli, hogy a konzultáció eredményeként létrejön egy aktualizált keret, amelynek célja a fogyasztói jogorvoslat biztosítása az MI-alkalmazások által okozott károk esetében;

10. felteszi a kérdést, hogy a demokratikus folyamatokban, például a választásokon használt MI-rendszerek miért nem szerepelnek a nagy kockázatú MI-rendszerek listáján;

11. kéri, hogy a nagy kockázatú MI-rendszerekre ugyanazok az átláthatósági és tájékoztatási követelmények vonatkozzanak a természetes személyek tekintetében, mint jelenleg a felhasználók esetében;

12. felhívja a figyelmet a közösségi osztályozási rendszerek alkalmazásával kapcsolatos főbb emberi jogi kockázatokra és következményekre;

13. ebben az összefüggésben meglehetősen szkeptikusan szemléli a rendeletben ( 2 ) említett azon két okot, amelyek alapján meghatározzák, hogy a közösségi osztályozás mikor vezet egyénekkel vagy személyek csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz, mivel rendkívül nehéz megállapítani ezen okok fennállását. Ezzel összefüggésben az EGSZB erős biztosítékok egyértelmű meghatározását sürgeti annak biztosítása érdekében, hogy ne lehessen megkerülni a közösségi osztályozási gyakorlatok tilalmát;

14. tudomásul veszi, hogy a rendelet preambulumbekezdései foglalkoznak azokkal a kockázatokkal, amelyeknek természetes személyek vannak kitéve a nagy kockázatú MI-rendszerekkel való interakciójuk következtében, többek között az oktatás, a képzés, a foglalkoztatás, a munkavállalók irányítása, az önfoglalkoztatáshoz való hozzáférés vagy bizonyos alapvető magán- és közszolgáltatásokhoz való hozzáférés és azok igénybevétele terén;

15. sürgeti az Európai Bizottságot, hogy gondosabban vizsgálja meg a hatóságok általi használatra szánt MI-rendszerek nagy kockázatú rendszereknek való minősítését ( 3 )

16. egy olyan hatóság mellett száll síkra, amely előzetesen lényegi tanácsadást tud nyújtani a rendelet rendelkezéseinek értelmezésével kapcsolatban, többek között az általános adatvédelmi rendelet vonatkozásában. Ez növeli a jogbiztonságot, és csökkenti az MI-rendszerek tervezési és végrehajtási költségeit;

17. hangsúlyozza ennek kapcsán, hogy milyen fontos a rendelet megfogalmazásában az egyértelműség, amely jelentős szerepet játszik a bizalom ökoszisztémájának kialakításában és az MI-rendszerek fejlesztését és használatát övező jogbizonytalanság megszüntetésében. Ez elkerülné a javasolt követelmények téves értelmezését, és minimálisra csökkentené az MI-alkalmazások későbbi helytelen kezelésének kockázatát, maximalizálva ezáltal a rendelet hatékonyságát és a szankciók hitelességét. Ugyanakkor – az Európai Bizottság minőségi jogalkotási programjával összhangban – kulcsfontosságú az esetleges átfedések és/vagy a meglévő szabályokkal való ütközések korai felismerése és megszüntetése;

18. megjegyzi, hogy számos helyi és regionális önkormányzat ugyanazokat az MI-rendszereket használja hasonló feladatok ellátására. A rendszereket az esetek túlnyomó többségében magánvállalkozások tervezik;

19. felhívja a figyelmet, hogy a rendeletjavaslat a polgárok jogainak biztosítása tekintetében nem áll egyedül, hanem a meglévő jogszabályokkal együtt értelmezendő. Ezért fontos, hogy a tagállamok folyamatosan gondoskodjanak a szükséges adminisztratív intézkedésekről, amelyekkel figyelembe lehet venni a mesterséges intelligencia közszektorbeli alkalmazásával összefüggő lehetőségeket és kockázatokat;

20. megjegyzi, hogy ez azt jelenti, hogy a megfelelőségértékelés során az európai és nemzeti szabályokat vállalatok és bejelentett szervezetek értelmezik, és ezek az értelmezések lecsapódnak a szóban forgó MI-rendszereket használó helyi és regionális önkormányzatok gyakorlatában is. Ez megnehezíti annak meghatározását, hogy a helyi és regionális politikát milyen mértékben kell figyelembe venni ezekben az MI-rendszerekben. Ezért az RB kéri, hogy fordítsanak figyelmet a helyi és regionális önkormányzatok sajátos igényeire, valamint arra a tényre, hogy az egyenmegoldások alááshatják az MI-rendszerek hatékonyságát ezen igények kielégítésében. Emellett az RB azt javasolja, hogy a tagállamokat hatalmazzák fel arra, hogy közérdeken alapuló kényszerítő és megalapozott indokok alapján szabályozzák a nagy kockázatú mesterségesintelligencia-rendszereket;

21. e tekintetben kéri, hogy a megfelelőségértékelések legyenek átláthatóak és hozzáférhetőek a nyilvánosság számára. Emellett a helyi és regionális önkormányzatok számára lehetővé kell tenni, hogy részt vegyenek az MI-rendszerek nyomon követésében, beszámoljanak azok helyszíni végrehajtásáról, és hivatalosan hozzájáruljanak a rendelet alkalmazásának Európai Bizottság általi értékeléséhez;

22. hangsúlyozza, hogy a szabályozói tesztkörnyezet alkalmazásához meg kell teremteni a megfelelő jogi, módszertani és etikai feltételeket, hogy lehetővé váljon a technológia fejlesztése, a jogszabályok kidolgozása és a joganyag értékelése. Hangsúlyozza továbbá, hogy egyértelmű kritériumokat kell megállapítani a vállalkozók szabályozói tesztkörnyezetbe való felvételéhez. Annak biztosítása érdekében, hogy a fogyasztói szervezetek érvényesíthessék a mesterséges intelligenciáról szóló jogszabály rendelkezéseit, ezeket fel kell venni a fogyasztók kollektív érdekeinek védelmére irányuló képviseleti keresetekről szóló (EU) 2020/1828 európai irányelv I. mellékletébe;

Tájékoztató kampányok

23. hangsúlyozza a nyilvános kampányok fontosságát annak érdekében, hogy a lakosság tájékoztatást kapjon a mesterségesintelligencia-rendszerek létezéséről, hasznáról és lehetséges kockázatairól, és megismerkedjen ezekkel a rendszerekkel. Hangsúlyozza továbbá a fogyasztók átfogó tájékoztatásának alapvető fontosságát a mesterséges intelligencia és a gépalapú döntéshozatal terén. E célból kéri az Európai Bizottságot, hogy biztosítson finanszírozást az ilyen kampányokhoz.

Adminisztratív terhek

24. aggodalmát fejezi ki a javasolt rendelet esetleges adminisztratív terhei miatt. Az adminisztratív terhek akadályozhatják a kis- és középvállalkozásokat, valamint a helyi és regionális önkormányzatokat az innováció előmozdításában és az MI-rendszerek alkalmazásában ( 4 )

Arányosság és szubszidiaritás

25. úgy véli, hogy a rendelettervezet megfelel az arányosság és a szubszidiaritás elvének. Az e területre vonatkozó uniós fellépés hozzáadott értéke és az Európai Bizottság által választott jogalapok megfelelősége egyértelmű és következetes. A hatásvizsgálat egy külön szakaszban foglalkozik a szubszidiaritással. Ezenkívül egyetlen nemzeti parlament sem adott ki indokolással ellátott véleményt a szubszidiaritás elvének megsértéséről a 2021. szeptember 2-i benyújtási határidőig.

Kelt Brüsszelben, 2021. december 2-án. a Régiók Európai Bizottsága elnöke Apostolos TZITZIKOSTAS

([62]) A Tanács 2002/584/IB kerethatározata (2002. június 13.) az európai elfogatóparancsról és a tagállamok közötti átadási eljárásokról (HL L 190., 2002.7.18., 1. o.).

([62]) A Tanács 2002/584/IB kerethatározata (2002. június 13.) az európai elfogatóparancsról és a tagállamok közötti átadási eljárásokról (HL L 190., 2002.7.18., 1. o.).

(1) https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_hu.

(2) 5. cikk (1) bekezdés c) pont.

(3) III. melléklet 5a) pont.

(4) Egy új keletű, az Európai Bizottság megbízásából készült tanulmány szerint (Study to Support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe, 12. o.) – észszerű feltételezések alapján – egy MI-rendszer tanúsításának megszerzése átlagosan 16 800–23 000 EUR-ba is kerülhet, ami nagyjából a fejlesztési költségek 10–14 %-ának felel meg.