EURÓPAI BIZOTTSÁG Brüsszel, 2021.4.21. COM(2021) 206 final 2021/0106(COD) Javaslat AZ EURÓPAI PARLAMENT ÉS A TANÁCS RENDELETE A MESTERSÉGES INTELLIGENCIÁRA VONATKOZÓ HARMONIZÁLT SZABÁLYOK (A MESTERSÉGES INTELLIGENCIÁRÓL SZÓLÓ JOGSZABÁLY) MEGÁLLAPÍTÁSÁRÓL ÉS EGYES UNIÓS JOGALKOTÁSI AKTUSOK MÓDOSÍTÁSÁRÓL {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



INDOKOLÁS 1.A JAVASLAT HÁTTERE 1.1.A javaslat indokai és céljai Ez az indokolás a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról szóló rendeletre irányuló javaslatot kíséri. A mesterséges intelligencia (MI) olyan gyorsan fejlődő technológiacsalád, amely széles körű gazdasági és társadalmi előnyökhöz vezethet az iparágak és a társadalmi tevékenységek teljes spektrumában. Az előrejelzések javításával, a műveletek és az erőforrások elosztásának optimalizálásával, valamint a szolgáltatásnyújtás személyre szabásával a mesterséges intelligencia használata elősegítheti a társadalmi és környezeti szempontból előnyös eredményeket, és kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások és az európai gazdaság számára. Ilyen intézkedésekre különösen a nagy hatású ágazatokban van szükség, beleértve az éghajlatváltozást, a környezetvédelmet, az egészségügyet, a közszférát, a pénzügyet, a mobilitást, a belügyet és a mezőgazdaságot. Ugyanakkor ugyanazok az elemek és technikák, amelyek elősegítik a mesterséges intelligencia társadalmi-gazdasági előnyeit, új kockázatokkal vagy negatív következményekkel is járhatnak az egyének vagy a társadalom számára. A technológiai változás sebességére és a lehetséges kihívásokra való tekintettel az EU kiegyensúlyozott megközelítés mellett kötelezte el magát. Az Unió érdeke, hogy megőrizze az EU technológiai vezető szerepét, és biztosítsa, hogy az európaiak élvezhessék az uniós értékeknek, az alapvető jogoknak és az alapelveknek megfelelően kifejlesztett és működő új technológiák előnyeit. Ez a javaslat eleget tesz Ursula von der Leyen elnök politikai kötelezettségvállalásának, mivel az elnök a 2019–2024 közötti időszakra szóló, az „Ambiciózusabb Unió” című, a Bizottság számára szóló politikai iránymutatásában bejelentette, hogy a Bizottság jogszabályt fog előterjeszteni a mesterséges intelligencia emberi és etikai vonatkozásaival kapcsolatos összehangolt európai megközelítésre vonatkozóan. E bejelentést követően a Bizottság 2020. február 19-én közzétette a „Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése” című dokumentumot. A fehér könyv szakpolitikai alternatívákat határoz meg arra vonatkozóan, hogyan érhető el a mesterséges intelligencia elterjedésének előmozdítására és az ilyen technológiák bizonyos felhasználásához kapcsolódó kockázatok kezelésére irányuló kettős célkitűzés. E javaslat célja a bizalmi ökoszisztéma kialakítására vonatkozó második célkitűzés megvalósítása azáltal, hogy javaslatot tesz a megbízható mesterséges intelligenciára vonatkozó jogi keretre. A javaslat az uniós értékeken és az alapvető jogokon alapul, és arra irányul, hogy bizalmat ébresszen az egyénekben és más felhasználókban a mesterséges intelligencián alapuló megoldások alkalmazása iránt, ugyanakkor ösztönözze a vállalkozásokat az ilyen megoldások fejlesztésére. A mesterséges intelligenciának eszközként kell szolgálnia az emberek számára, és hasznos szerepet kell játszania a társadalomban azzal a végső céllal, hogy növelje az emberek jólétét. Az uniós piacon rendelkezésre álló vagy az Unióban az embereket más módon érintő mesterséges intelligenciára vonatkozó szabályoknak ezért emberközpontúaknak kell lenniük annak érdekében, hogy az emberek bízhassanak abban, hogy a technológia használatára biztonságosan és a jogszabályoknak megfelelő módon kerül sor, többek között az alapvető jogok tiszteletben tartásával. A fehér könyv közzétételét követően a Bizottság az érdekelt felek részvételével széles körű konzultációt indított, amely nagy érdeklődést váltott ki számos érdekelt fél körében, akik nagyrészt támogatták a mesterséges intelligencia növekvő használata által felvetett kihívások és aggályok kezelésére irányuló szabályozási beavatkozást. A javaslat eleget tesz az Európai Parlament (EP) és az Európai Tanács kifejezett kéréseinek is, mivel azok több alkalommal is szorgalmazták a jogalkotási fellépést a mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) olyan jól működő belső piacának biztosítása érdekében, ahol uniós szinten megfelelően foglalkoznak a mesterséges intelligencia előnyeivel és kockázataival egyaránt. A javaslat támogatja azt a célkitűzést, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, ahogy azt az Európai Tanács is megfogalmazta, és az Európai Parlament kifejezett kérésének megfelelően biztosítja az etikai alapelvek védelmét. 2017-ben az Európai Tanács szorgalmazta „a sürgős fellépést az újonnan megjelenő tendenciák kezelése érdekében”, többek között „olyan kérdésekben, mint a mesterséges intelligencia [...] a magas szintű adatvédelem, digitális jogok és etikai normák biztosítása mellett”. Az Európában készült mesterséges intelligencia fejlesztésének és használatának összehangolt tervére vonatkozó 2019. évi következtetéseiben a Tanács hangsúlyozta továbbá annak fontosságát, hogy biztosítani kell az európai polgárok jogainak teljes körű tiszteletben tartását, és felszólított a meglévő vonatkozó jogszabályok felülvizsgálatára annak érdekében, hogy azok megfeleljenek a mesterséges intelligencia által teremtett új lehetőségeknek és kihívásoknak. Az Európai Tanács felszólított az olyan MI-alkalmazások egyértelmű meghatározására is, amelyeket nagy kockázatúnak kell tekinteni. A legutóbbi, 2020. október 21-i következtetések felszólítanak továbbá egyes MI-rendszerek átláthatatlanságának, összetettségének, elfogultságának, bizonyos fokú kiszámíthatatlanságának és részben autonóm magatartásának kezelésére az alapvető jogokkal való összeegyeztethetőségük biztosítása és a jogi szabályok végrehajtásának megkönnyítése érdekében. Az Európai Parlament is jelentős munkát végzett a mesterséges intelligencia területén. 2020 októberében számos állásfoglalást fogadott el a mesterséges intelligenciával kapcsolatban, többek között az etika, a felelősség és a szerzői jog vonatkozásában. Ezeket 2021-ben további mesterséges intelligenciáról szóló állásfoglalások követték a büntetőügyek, valamint az oktatás, a kultúra és az audiovizuális ágazat tekintetében. A mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről szóló európai parlamenti állásfoglalás kifejezetten azt ajánlja a Bizottságnak, hogy tegyen jogalkotási javaslatot a mesterséges intelligencia által nyújtott lehetőségek és előnyök kiaknázása, továbbá az etikai alapelvek védelmének biztosítása érdekében. Az állásfoglalás tartalmazza a mesterséges intelligencia, a robotika és a kapcsolódó technológiák fejlesztésére, bevezetésére és használatára vonatkozó etikai elvekről szóló rendeletre irányuló jogalkotási javaslat szövegét. Az Ursula von der Leyen elnök politikai iránymutatásában foglalt, az Európai Parlament által az EUMSZ 225. cikke alapján elfogadott állásfoglalások tekintetében tett politikai kötelezettségvállalással összhangban ez a javaslat figyelembe veszi az Európai Parlament fent említett állásfoglalását, teljes mértékben tiszteletben tartva az arányosság, a szubszidiaritás és a jogalkotás minőségének javítására vonatkozó elveket. Ebben a politikai összefüggésben a Bizottság előterjeszti a mesterséges intelligenciára vonatkozóan javasolt szabályozási keretet az alábbi konkrét célkitűzésekkel: ·annak biztosítása, hogy az Unióban forgalomba hozott és használt MI-rendszerek biztonságosak legyenek, és tiszteletben tartsák az alapvető jogokra és az uniós értékekre vonatkozó hatályos jogszabályokat; ·a jogbiztonság biztosítása a mesterséges intelligenciába történő beruházások és a mesterséges intelligenciát érintő innováció elősegítése érdekében; ·az irányításnak és az MI-rendszerek tekintetében az alapvető jogokra és biztonsági követelményekre vonatkozó hatályos jogszabályok hatékony érvényesítésének a javítása; ·a jogszerű, biztonságos és megbízható MI-alkalmazások tekintetében az egységes piac kialakításának elősegítése és a piac széttöredezettségének megelőzése. E célkitűzések elérése érdekében ez a javaslat a mesterséges intelligencia kiegyensúlyozott és arányos horizontális szabályozási megközelítését mutatja be, amely a mesterséges intelligenciához kapcsolódó kockázatok és problémák kezeléséhez szükséges minimumkövetelményekre korlátozódik anélkül, hogy indokolatlanul korlátozná vagy akadályozná a technológiai fejlődést vagy más módon aránytalanul növelné az MI-megoldások forgalomba hozatalának költségeit. A javaslat erős és rugalmas jogi keretet hoz létre. Egyrészt átfogóak és időtállóak a választott alapvető szabályozási eszközök, köztük azok az elveken alapuló követelmények, amelyeknek az MI-rendszereknek meg kell felelniük. Másrészről arányos szabályozási rendszert vezet be, amely olyan jól meghatározott, kockázatalapú szabályozási megközelítésen alapul, amely nem vezet szükségtelen kereskedelmi korlátozásokhoz, és így a jogi beavatkozás azokra a konkrét helyzetekre korlátozódik, amikor indokoltan aggodalomra okot adó eset áll fenn, vagy ha ez az aggodalom a közeljövőben észszerűen előre látható. A jogi keret ugyanakkor olyan rugalmas mechanizmusokat is tartalmaz, amelyek lehetővé teszik, hogy a technológia fejlődésével és az aggodalomra okot adó új helyzetek megjelenésével dinamikusan módosítani lehessen ezt a keretet. A javaslat arányos, kockázatalapú megközelítést követ, amikor harmonizált szabályokat állapít meg az MI-rendszerek Unión belüli fejlesztésére, forgalomba hozatalára és használatára vonatkozóan. A mesterséges intelligencia egységes, időtálló meghatározását javasolja. Egyes, a mesterséges intelligenciával kapcsolatos különösen káros gyakorlatok tiltottak, mivel ellentétesek az uniós értékekkel, ugyanakkor a javaslat a távoli biometrikus azonosító rendszerek bizonyos bűnüldözési célú felhasználásai tekintetében konkrét korlátozásokat és biztosítékokat javasol. A javaslat megbízható kockázati módszertant határoz meg az olyan „nagy kockázatú” MI-rendszerek meghatározására, amelyek jelentős kockázatot jelentenek az emberek egészségére és biztonságára vagy alapvető jogaira nézve. Ezeknek az MI-rendszereknek meg kell felelniük a megbízható mesterséges intelligenciára vonatkozó kötelező horizontális követelményeknek, és megfelelőségértékelési eljárások tárgyát kell képezniük, mielőtt forgalomba hoznák őket az uniós piacon. Kiszámítható, arányos és egyértelmű kötelezettségeket rónak az ilyen rendszerek szolgáltatóira és felhasználóira annak érdekében, hogy az MI-rendszerek teljes életciklusa során biztosítsák a biztonságot és az alapvető jogok védelmét biztosító meglévő jogszabályok tiszteletben tartását. A javaslat egyes MI-rendszerek esetében csak minimális átláthatósági kötelezettségeket javasol, különösen a csevegőrobotok vagy deepfake-ek használata esetében. A javasolt szabályok érvényesítésére egyrészt a már meglévő struktúrákra épülő tagállami szintű irányítási rendszer, másrészt a Mesterséges Intelligenciával Foglalkozó Európai Testület létrehozásával megvalósuló uniós szintű együttműködési mechanizmus révén fog sor kerülni. A javaslat további intézkedéseket is javasol az innováció támogatására, különösen a mesterséges intelligenciával kapcsolatos szabályozási tesztkörnyezetek, továbbá a szabályozási terhek csökkentésére, valamint a kis- és középvállalkozások (a továbbiakban: kkv-k) és az induló innovatív vállalkozások támogatására irányuló egyéb intézkedések révén. 1.2.Összhang a szabályozási terület jelenlegi rendelkezéseivel A javaslat horizontális jellege miatt teljes összhangra van szükség az olyan ágazatokra alkalmazandó hatályos uniós jogszabályokkal, amelyekben már alkalmaznak vagy a közeljövőben valószínűleg alkalmazni fognak nagy kockázatú MI-rendszereket.

Biztosított továbbá az összhang az Európai Unió Alapjogi Chartájával, illetve az adatvédelemre, a fogyasztóvédelemre, a megkülönböztetésmentességre és a nemek közötti egyenlőségre vonatkozóan meglévő másodlagos uniós jogszabályokkal. A javaslat nem sérti és kiegészíti az általános adatvédelmi rendeletet ((EU) 2016/679 rendelet) és a bűnüldözésben érvényesítendő adatvédelemről szóló irányelvet ((EU) 2016/680 irányelv) egyes nagy kockázatú MI-rendszerek tervezésére, fejlesztésére és használatára vonatkozó harmonizált szabályokkal, valamint a távoli biometrikus azonosító rendszerek bizonyos felhasználási módjaira vonatkozó korlátozásokkal. A javaslat kiegészíti továbbá a megkülönböztetésmentességre vonatkozó hatályos uniós jogot olyan konkrét követelményekkel, amelyek célja az algoritmikus megkülönböztetés kockázatának minimalizálása, különösen az MI-rendszerek fejlesztéséhez használt adatkészletek kialakítása és minősége tekintetében, kiegészítve a tesztelésre, a kockázatkezelésre, a dokumentációra és az emberi felügyeletre vonatkozó kötelezettségekkel az MI-rendszerek teljes életciklusa során. A javaslat nem érinti az uniós versenyjog alkalmazását. Az olyan nagy kockázatú MI-rendszerek vonatkozásában, amelyek termékek biztonsági alkatrészeit képezik, ez a javaslat a következetesség biztosítása, a duplikáció elkerülése és a további terhek minimalizálása érdekében be fog épülni a meglévő ágazati biztonsági jogszabályokba. Mindenekelőtt az új jogszabályi keret hatálya alá tartozó termékekkel (például gépekkel, orvostechnikai eszközökkel, játékokkal) kapcsolatos nagy kockázatú MI-rendszerek vonatkozásában sor fog kerülni az ebben a javaslatban az MI-rendszerekre vonatkozóan meghatározott követelmények ellenőrzésére az új jogszabályi keret értelmében vett meglévő megfelelőségértékelési eljárások részeként. A követelmények kapcsolatát illetően, az MI-rendszerekre jellemző biztonsági kockázatoknak az ebben a javaslatban szereplő követelmények hatálya alá kell tartozniuk, az új jogszabályi keret célja viszont a végtermékek általános biztonságának biztosítása, ezért konkrét követelményeket tartalmazhat az MI-rendszerek végtermékekbe történő biztonságos integrálására vonatkozóan. A gépekről szóló rendeletre irányuló javaslat, amelynek elfogadására e javaslattal egy napon kerül sor, teljes mértékben tükrözi ezt a megközelítést. A régi megközelítés szerinti vonatkozó jogszabályok hatálya alá tartozó termékekkel (például légi közlekedés, autók) kapcsolatos nagy kockázatú MI-rendszerek tekintetében ez a javaslat nem lenne közvetlenül alkalmazandó. Az ebben a javaslatban meghatározott, a nagy kockázatú MI-rendszerekre vonatkozó előzetes alapvető követelményeket azonban figyelembe kell venni az említett jogi aktusok szerinti releváns végrehajtási vagy felhatalmazáson alapuló jogi aktusok elfogadásakor. Ami a szabályozott hitelintézetek által biztosított vagy használt MI-rendszereket illeti, a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok felügyeletéért felelős hatóságokat kell kijelölni az e javaslatban foglalt követelmények felügyeletére illetékes hatóságként az e javaslatban foglalt kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok következetes végrehajtásának biztosítása érdekében, amennyiben az MI-rendszereket a hitelintézetek belső irányítási rendszerével kapcsolatban bizonyos mértékben implicit módon szabályozzák. A következetesség további fokozása érdekében a megfelelőségértékelési eljárás és a szolgáltatók e javaslat szerinti egyes eljárási kötelezettségei beépülnek a hitelintézetek tevékenységéről és a prudenciális felügyeletről szóló 2013/36/EU irányelv szerinti eljárásokba. Ez a javaslat összhangban van továbbá a szolgáltatásokra – beleértve az elektronikus kereskedelemről szóló 2000/31/EK irányelv és a digitális szolgáltatásokról szóló jogszabályra vonatkozó közelmúltbeli bizottsági javaslat által szabályozott közvetítői szolgáltatásokat – vonatkozó hatályos uniós jogszabályokkal. Az olyan MI-rendszerek tekintetében, amelyek a szabadságon, a biztonságon és a jog érvényesülésén alapuló térségben a nagy méretű IT-rendszerek üzemeltetési igazgatását végző európai uniós ügynökség (eu-LISA) által igazgatott nagy méretű IT-rendszerek alkotóelemei, a javaslat nem alkalmazandó azokra az MI-rendszerekre, amelyeket e rendelet alkalmazásának kezdőnapjától számított egy éven belül hoztak forgalomba vagy helyeztek üzembe, kivéve, ha e jogi aktusok cseréje vagy módosítása jelentősen módosítja az érintett MI-rendszer vagy MI-rendszerek tervezését vagy rendeltetését. 1.3.Összhang az Unió egyéb szakpolitikáival A javaslat egy szélesebb körű, átfogó intézkedéscsomag része, amely a mesterséges intelligenciáról szóló fehér könyvben vizsgáltak szerint kezeli a mesterséges intelligencia fejlesztése és használata által okozott problémákat. Biztosított tehát az összhang és a kiegészítő jelleg egyrészt a Bizottság egyéb folyamatban lévő vagy tervezett kezdeményezéseivel, amelyek szintén e problémák kezelésére irányulnak, beleértve a termékekre vonatkozó ágazati jogszabályok (például a gépekről szóló irányelv és az általános termékbiztonsági irányelv) felülvizsgálatát, másrészt az új technológiákhoz, többek között az MI-rendszerekhez kapcsolódó felelősségi kérdésekkel foglalkozó kezdeményezésekkel. Ezek a kezdeményezések ezen a javaslaton fognak alapulni, és kiegészítik azt annak érdekében, hogy jogi egyértelműséget teremtsenek, és előmozdítsák a mesterséges intelligenciába vetett bizalom európai ökoszisztémájának kialakulását. A javaslat összhangban áll a Bizottság általános digitális stratégiájával is, mivel hozzájárul az embereket szolgáló technológia előmozdításához, amely az „Európa digitális jövőjének megtervezése” című közleményben megfogalmazott szakpolitikai iránymutatás és célkitűzések három fő pillérjének egyike. Koherens, hatékony és arányos keretet hoz létre annak biztosítására, hogy a mesterséges intelligencia olyan módon fejlődjön, amely tiszteletben tartja az emberek jogait, elnyeri a bizalmukat, alkalmassá téve Európát a digitális korra, és a következő tíz évet digitális évtizeddé teszi. Emellett a mesterséges intelligencián alapuló innováció előmozdítása szorosan kapcsolódik az adatkormányzási rendelethez, a nyílt hozzáférésű adatokról szóló irányelvhez és az uniós adatstratégia egyéb kezdeményezéseihez, amelyek megbízható mechanizmusokat és szolgáltatásokat fognak létrehozni a kiváló minőségű, adatvezérelt MI-modellek fejlesztéséhez szükséges adatok újrafelhasználása, megosztása és összevonása érdekében. A javaslat emellett jelentősen megerősíti az Unió szerepét a globális normák és szabványok kialakításában, valamint az uniós értékekkel és érdekekkel összhangban lévő megbízható mesterséges intelligencia előmozdításában. Erőteljes alapot biztosít az Unió számára ahhoz, hogy szorosabban együttműködjön külső partnereivel, többek között harmadik országokkal, illetve nagyobb mértékben vegyen részt nemzetközi fórumokon a mesterséges intelligenciával kapcsolatos kérdésekben. 2.JOGALAP, SZUBSZIDIARITÁS ÉS ARÁNYOSSÁG 2.1.Jogalap A javaslat jogalapja elsősorban az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke, amely rendelkezik a belső piac létrehozását és működését biztosító intézkedések elfogadásáról. Ez a javaslat az EU digitális egységes piaci stratégiájának központi eleme. E javaslat elsődleges célja a belső piac megfelelő működésének biztosítása, különösen az MI-technológiákat felhasználó vagy az önálló MI-rendszerként nyújtott termékek és szolgáltatások fejlesztésére, uniós forgalomba hozatalára és használatára vonatkozó harmonizált szabályok megállapításával. Néhány tagállam már nemzeti szabályokat mérlegel annak biztosítására, hogy a mesterséges intelligencia biztonságos legyen, és az alapvető jogokra vonatkozó kötelezettségekkel összhangban kerüljön sor a fejlesztésére és használatára. Ez valószínűleg az alábbi két fő problémához fog vezetni: i. a belső piac széttöredezettsége alapvető elemek tekintetében, különösen az MI-termékekre és -szolgáltatásokra vonatkozó követelmények, a forgalmazásuk, használatuk, a hatóságok felelőssége és a hatóságok általi felügyelet vonatkozásában, valamint ii. az MI-rendszerek szolgáltatói és felhasználói számára a jogbiztonság jelentős csökkenése azzal kapcsolatban, hogyan alkalmazandók a meglévő és új szabályok ezekre a rendszerekre az Unióban. Tekintettel a termékek és szolgáltatások határokon átnyúló széles körére, ez a két probléma uniós harmonizációs jogszabályok révén oldható meg a legjobban. A javaslat olyan közös kötelező követelményeket határoz meg egyes MI-rendszerek forgalomba hozatal előtti tervezésére és fejlesztésére vonatkozóan, amelyek harmonizált műszaki szabványok révén működőképesebbek lesznek. A javaslat az MI-rendszerek forgalomba hozatala utáni helyzetet is kezeli, mivel harmonizálja az utólagos ellenőrzések elvégzésének módját. Figyelembe véve továbbá, hogy ez a javaslat a személyes adatok kezelése vonatkozásában az egyének védelmére vonatkozóan bizonyos konkrét szabályokat tartalmaz, nevezetesen korlátozza az MI-rendszerek használatát a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból történő „valós idejű” távoli biometrikus azonosítás terén, helyénvaló e rendeletet – az említett különös szabályokat illetően – az EUMSZ 16. cikkére alapozni. 2.2.Szubszidiaritás (nem kizárólagos hatáskör esetén) A mesterséges intelligencia gyakran nagy és változatos adatkészletekre támaszkodik, és beépülhet bármely, a belső piacon szabadon forgalmazott termékbe vagy szolgáltatásba, így e javaslat célkitűzéseit a tagállamok nem tudják egyedül hatékonyan megvalósítani. Emellett a potenciálisan eltérő nemzeti szabályok kialakulóban lévő mozaikja akadályozza az MI-rendszerekhez kapcsolódó termékek és szolgáltatások zökkenőmentes áramlását az EU-ban, és nem fogja tudni hatékonyan biztosítani az alapvető jogok és az uniós értékek biztonságát és védelmét a különböző tagállamokban. A problémák kezelésére irányuló nemzeti megközelítések csak további jogbizonytalansághoz és akadályokhoz vezetnek, és lassítani fogják a mesterséges intelligencia piaci elterjedését. E javaslat célkitűzései uniós szinten jobban megvalósíthatók annak érdekében, hogy elkerülhető legyen az egységes piac további, potenciálisan egymásnak ellentmondó nemzeti keretekre való felaprózódása, amely megakadályozná a mesterséges intelligencián alapuló áruk és szolgáltatások szabad mozgását. A megbízható mesterséges intelligenciára vonatkozó szilárd európai szabályozási keret emellett egyenlő versenyfeltételeket fog teremteni, és biztosítani fogja minden ember védelmét, miközben megerősíti Európa versenyképességét és ipari bázisát a mesterséges intelligencia terén. Csak az uniós szintű közös fellépés képes megvédeni az Unió digitális szuverenitását is, illetve kihasználni a globális szabályok és szabványok alakítása érdekében az uniós eszközöket és szabályozási hatásköröket. 2.3.Arányosság

A javaslat meglévő jogi keretekre épül, és arányos és szükséges a célkitűzései eléréséhez, mivel kockázatalapú megközelítést követ, és csak akkor jelent szabályozási terhet, ha az MI-rendszerek valószínűleg nagy kockázatot jelentenek az alapvető jogok vagy a biztonság szempontjából. Más, nem nagy kockázatú MI-rendszerek esetében csak nagyon korlátozott átláthatósági kötelezettségek vannak érvényben, például az MI-rendszerek emberekkel való érintkezés során történő használatának jelzésére szolgáló tájékoztatás tekintetében. A nagy kockázatú MI-rendszerek esetében a kiváló minőségű adatokra, a dokumentációra és nyomonkövethetőségre, átláthatóságra, emberi felügyeletre, pontosságra és megbízhatóságra vonatkozó követelmények szigorúan szükségesek a mesterséges intelligencia által jelentett, az alapvető jogokat és a biztonságot fenyegető olyan kockázatok csökkentéséhez, amelyekre más meglévő jogi keretek nem terjednek ki. A harmonizált szabványok, valamint a támogató iránymutatási és megfelelési eszközök segíteni fogják a szolgáltatókat és a felhasználókat a javaslatban meghatározott követelményeknek való megfelelésben, és minimálisra csökkentik a költségeiket. Az üzemeltetők részéről felmerülő költségek arányosak az elért célkitűzésekkel, valamint azokkal a gazdasági és hírnévvel kapcsolatos előnyökkel, amelyeket az üzemeltetők e javaslattól várhatnak. 2.4.A jogi eszköz típusának megválasztása A rendelet mint jogi eszköz választását az indokolja, hogy az új szabályokat – például a mesterséges intelligencia fogalommeghatározását, a mesterséges intelligencián alapuló egyes káros gyakorlatok tilalmát és az egyes MI-rendszerek osztályozását – egységesen kell alkalmazni. A rendelet közvetlen alkalmazhatósága az EUMSZ 288. cikkével összhangban csökkenteni fogja a jogi széttagoltságot, és megkönnyíti a jogszerű, biztonságos és megbízható MI-rendszerek egységes piacának kialakulását. Ezt különösen azáltal éri el, hogy harmonizált alapvető követelményeket vezet be a nagy kockázatúnak minősített MI-rendszerek tekintetében, valamint kötelezettségeket ró e rendszerek szolgáltatóira és felhasználóira, javítja az alapvető jogok védelmét, és jogbiztonságot nyújt az üzemeltetők és a fogyasztók számára egyaránt. Ugyanakkor a rendelet rendelkezései nem túlzottan előíró jellegűek, és teret hagynak a különböző szintű tagállami intézkedéseknek olyan elemek esetében, amelyek nem veszélyeztetik a kezdeményezés célkitűzéseit, különösen a piacfelügyeleti rendszer belső szervezését és az innovációt előmozdító intézkedések elfogadását. 3.AZ UTÓLAGOS ÉRTÉKELÉSEK, AZ ÉRDEKELT FELEKKEL FOLYTATOTT KONZULTÁCIÓK ÉS A HATÁSVIZSGÁLATOK EREDMÉNYEI 3.1.Az érdekelt felekkel folytatott konzultáció Ez a javaslat az összes főbb érdekelt féllel folytatott széles körű konzultáció eredménye, amelynek során a Bizottság alkalmazta az érdekelt felekkel folytatott konzultációra vonatkozó általános elveket és minimumszabályokat. A mesterséges intelligenciáról szóló fehér könyv közzétételével együtt 2020. február 19-én nyilvános online konzultáció indult, amely 2020. június 14-ig tartott. A konzultáció a fehér könyvvel kapcsolatos vélemények összegyűjtésére irányult. A konzultáció valamennyi érdekelt felet megcélozta a köz- és a magánszektorban, beleértve a kormányokat, helyi önkormányzatokat, kereskedelmi és nem kereskedelmi szervezeteket, szociális partnereket, szakértőket, tudományos szakembereket és polgárokat. A beérkezett válaszok elemzését követően a Bizottság az összefoglaló eredményt és az egyes válaszokat közzétette a honlapján. Összesen 1 215 hozzászólás érkezett, ebből 352 vállalattól vagy vállalkozói szervezettől/szövetségtől, 406 magánszemélytől (e magánszemélyek 92 %-a az EU-ból származik), 152 tudományos/kutatóintézettől, 73 pedig hatóságoktól. A civil társadalom véleményét 160 válaszadó képviselte (köztük 9 fogyasztói szervezet, 129 nem kormányzati szervezet és 22 szakszervezet), 72 válaszadó pedig „egyébként” működött közre. A vállalkozások és az ipar 352 képviselőjéből 222 vállalat és üzleti képviselő volt, 41,5 %-uk pedig mikro-, kis- és középvállalkozás. A fennmaradó rész vállalkozói szövetség volt. Összességében véve az üzleti és ágazati válaszok 84 %-a az EU-27-ből érkezett. A kérdéstől függően a válaszadók közül 81–598 válaszadó élt a szabad szöveg lehetőségével, hogy észrevételeket tegyen. Több mint 450 állásfoglalás benyújtására került sor az uniós felmérés honlapján a kérdőívre adott válaszok mellett (több mint 400 állásfoglalás) vagy önálló hozzászólás (több mint 50 állásfoglalás) formájában. Általánosságban elmondható, hogy az érdekelt felek között általános egyetértés uralkodik a fellépés szükségességével kapcsolatban. Az érdekelt felek nagy többsége egyetért azzal, hogy joghézagok állnak fenn vagy új jogszabályokra van szükség. Több érdekelt fél azonban figyelmeztette a Bizottságot, hogy kerülje az átfedéseket, az egymásnak ellentmondó kötelezettségeket és a túlszabályozást. Számos észrevétel hangsúlyozta a technológiasemleges és arányos szabályozási keret fontosságát. Az érdekelt felek többsége a mesterséges intelligencia szűk, egyértelmű és pontos meghatározását kérte. Az érdekelt felek azt is kiemelték, hogy a mesterséges intelligencia fogalmának tisztázása mellett fontos a „kockázat”, a „nagy kockázatú”, az „alacsony kockázatú”, a „távoli biometrikus azonosítás” és a „kár” meghatározása is. A válaszadók többsége kifejezetten támogatja a kockázatalapú megközelítést. A válaszadók a kockázatalapú keret alkalmazását jobb megoldásnak tekintették, mint a valamennyi MI-rendszert érintő általános szabályozást. A kockázatok és fenyegetések típusainak ágazati és eseti alapú megközelítésen kell alapulniuk. A kockázatokat a jogokra és a biztonságra gyakorolt hatás figyelembevételével kell kiszámítani. A szabályozási tesztkörnyezetek nagyon hasznosak lehetnek a mesterséges intelligencia előmozdítása szempontjából, és bizonyos érdekelt felek, különösen a vállalkozói szövetségek üdvözlik őket. A végrehajtási modellekkel kapcsolatos véleményüket megfogalmazó válaszadók több mint 50 %-a – különösen a vállalkozói szövetségek részéről – támogatta az előzetes kockázati önértékelés és az utólagos végrehajtás együttes alkalmazását a nagy kockázatú MI-rendszerek esetében. 3.2.Szakértői vélemények összegyűjtése és felhasználása A javaslat két év elemzésén és az érdekelt felek – köztük tudományos szakemberek, vállalkozások, szociális partnerek, nem kormányzati szervezetek, tagállamok és polgárok – szoros bevonásán alapul. Az előkészítő munka 2018-ban kezdődött egy olyan, mesterséges intelligenciával foglalkozó magas szintű szakértői csoport felállításával, amely inkluzív és széles körű összetétellel rendelkezik, és 52 jól ismert szakértőjének az volt a feladata, hogy tanáccsal lássa el a Bizottságot a mesterséges intelligenciára vonatkozó bizottsági stratégia végrehajtásával kapcsolatban. 2019 áprilisában a Bizottság támogatta a magas szintű szakértői csoport megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásában meghatározott kulcsfontosságú követelményeket, amelyeket felülvizsgáltak az érdekelt felek több mint 500 beadványának figyelembevétele érdekében. A kulcsfontosságú követelmények azt a széles körű és közös megközelítést tükrözik – ahogy azt a számos európai és Európán kívüli magán- és állami szervezet által kidolgozott nagy számú etikai kódex és alapelv bizonyítja –, hogy a mesterséges intelligencia fejlesztését és használatát bizonyos alapvető értékközpontú elveknek kell vezérelniük. A megbízható mesterséges intelligencia értékelési listája (ALTAI) alkalmazni kezdte ezeket a követelményeket egy több mint 350 szervezet részévételével zajló kísérleti folyamatban. Emellett a mesterséges intelligencia technológiai és társadalmi következményeinek megvitatása céljából mintegy 4000 érdekelt fél fórumaként létrejött a mesterséges intelligenciával foglalkozó szövetség, amely éves közgyűlést tart. A mesterséges intelligenciáról szóló fehér könyv továbbfejlesztette ezt az inkluzív megközelítést, s erre reagálva több mint 1250 érdekelt fél tett észrevételeket, és több mint 450 további állásfoglalás született. Ennek eredményeként a Bizottság bevezető hatásvizsgálatot tett közzé, amelyre több mint 130 észrevétel érkezett. További műhelytalálkozókat és rendezvényeket is szervezett az érdekelt felek számára, s ezek eredményei alátámasztják a hatásvizsgálatban szereplő elemzést, illetve az ebben a javaslatban szereplő szakpolitikai döntéseket. A hatásvizsgálathoz külső tanulmány is készült. 3.3.Hatásvizsgálat A Bizottság a jogalkotás minőségének javítására irányuló politikájával összhangban elvégezte a javaslat hatásvizsgálatát, amelyet a Bizottság Szabályozói Ellenőrzési Testülete megvizsgált. A Szabályozói Ellenőrzési Testülettel való, 2020. december 16-i találkozó elutasító véleménnyel zárult. A hatásvizsgálatnak az észrevételek figyelembevétele érdekében történő alapos felülvizsgálatát és a hatásvizsgálat újbóli benyújtását követően a Szabályozói Ellenőrzési Testület 2021. március 21-én kedvező véleményt adott. A Szabályozói Ellenőrzési Testület véleményeit, az ajánlásokat és azok figyelembevételének ismertetését a hatásvizsgálat 1. melléklete tartalmazza.

A Bizottság különböző szakpolitikai alternatívákat vizsgált meg a javaslat általános célkitűzésének elérése, vagyis annak tekintetében, hogy a megbízható mesterséges intelligencia Unión belüli fejlesztéséhez és használatához szükséges feltételek megteremtése révén biztosítsa az egységes piac megfelelő működését. Négy, különböző szintű szabályozási beavatkozással járó szakpolitikai alternatíva vizsgálatára került sor: ·1. alternatíva: önkéntes címkézési rendszert létrehozó uniós jogalkotási eszköz; ·2. alternatíva: ágazati, „ad hoc” megközelítés; ·3. alternatíva: arányos és kockázatalapú megközelítést követő horizontális uniós jogalkotási eszköz; ·3+. alternatíva: arányos és kockázatalapú megközelítést követő horizontális uniós jogalkotási eszköz + a nem nagy kockázatú MI-rendszerekre vonatkozó magatartási kódexek; ·4. alternatíva: horizontális uniós jogalkotási eszköz, amely kötelező követelményeket állapít meg valamennyi MI-rendszer vonatkozásában, függetlenül az általuk jelentett kockázattól. A Bizottság bevált módszertanának megfelelően minden egyes szakpolitikai alternatíva értékelésére a gazdasági és társadalmi hatások alapján került sor, különös tekintettel az alapvető jogokra gyakorolt hatásokra. Az előnyben részesített alternatíva a 3+. alternatíva – a kizárólag a nagy kockázatú MI-rendszerekre vonatkozó szabályozási keret – , amely lehetővé teszi a nem nagy kockázatú MI-rendszerek valamennyi szolgáltatója számára, hogy magatartási kódexet kövessen. A követelmények az adatokra, a dokumentációra és nyomonkövethetőségre, az információszolgáltatásra és átláthatóságra, az emberi felügyeletre, valamint a megbízhatóságra és pontosságra vonatkoznak, és a nagy kockázatú MI-rendszerek esetében kötelezőek lesznek. Azok a vállalatok, amelyek más MI-rendszerekre vonatkozóan magatartási kódexeket vezetnének be, ezt önkéntes alapon tennék. Az előnyben részesített alternatíva megfelelőnek minősült a javaslat célkitűzéseinek leghatékonyabb kezelésére. Az előnyben részesített alternatíva korlátozott, de hatékony intézkedéseket ír elő a mesterséges intelligencia fejlesztői és felhasználói számára, ezáltal korlátozza az alapvető jogok megsértésének kockázatát és az emberek biztonságát fenyegető kockázatokat, és előmozdítja a hatékony felügyeletet és végrehajtást azáltal, hogy a követelmények csak azokra a rendszerekre vonatkoznak, amelyek esetében nagy a kockázata az ilyen jogsértések előfordulásának. Ennek eredményeképpen ez az alternatíva minimalizálja a megfelelési költségeket, elkerülve ezáltal azt, hogy a magasabb árak és a megfelelési költségek szükségtelenül lelassítsák a felhasználást. A kkv-kat érintő esetleges hátrányok kezelése érdekében ez az alternatíva számos rendelkezést tartalmaz a megfelelésük támogatása és költségeik csökkentése érdekében, ideértve a szabályozási tesztkörnyezetek létrehozását, illetve a megfelelőségértékeléssel kapcsolatos díjak megállapításakor a kkv-k érdekeinek figyelembevételére vonatkozó kötelezettséget. Az előnyben részesített alternatíva növelni fogja az emberek mesterséges intelligenciába vetett bizalmát, a vállalkozások számára nő a jogbiztonság, és a tagállamok nem látnak okot olyan egyoldalú fellépésre, amely az egységes piac széttöredezettségéhez vezethetne. A nagyobb bizalomnak köszönhető nagyobb kereslet, a jogbiztonság miatt rendelkezésre álló több ajánlat, valamint az MI-rendszerek határokon átnyúló mozgása előtt álló akadályok hiánya hatására valószínűleg virágozni fog a mesterséges intelligencia egységes piaca. Az Európai Unió folytatni fogja a mesterséges intelligencián alapuló technológiákat vagy az önálló MI-rendszereket magában foglaló innovatív szolgáltatásokból és termékekből álló, gyorsan növekvő MI-ökoszisztéma kifejlesztését, ami növeli a digitális önállóságot. Azoknak a vállalkozásoknak vagy hatóságoknak, amelyek olyan MI-alkalmazásokat fejlesztenek ki vagy használnak, amelyek nagy kockázatot jelentenek a polgárok biztonságára vagy alapvető jogaira nézve, konkrét követelményeknek és kötelezettségeknek kellene megfelelniük. Az e követelményeknek való megfelelés 2025-ig körülbelül 6000–7000 EUR költséget jelentene egy átlagos nagy kockázatú, mintegy 170 000 EUR értékű MI-rendszer vonatkozásában. A mesterséges intelligencia felhasználói számára – adott esetben – a felhasználási esettől függően felmerülne az emberi felügyelet biztosítására fordított idő éves költsége is. Ennek éves becsült költsége körülbelül 5000–8000 EUR. A nagy kockázatú mesterséges intelligencia beszállítói esetében az ellenőrzési költségek további 3000–7500 EUR nagyságú összeget jelenthetnek. A nem nagy kockázatúnak minősülő MI-alkalmazásokat kifejlesztő vagy használó vállalkozásokra vagy hatóságokra csak minimális tájékoztatási kötelezettségek vonatkoznának. A megfelelő követelmények alkalmazása és az MI-rendszereik megbízhatóságának biztosítása érdekében azonban dönthetnek úgy, hogy csatlakoznak másokhoz, és közösen magatartási kódexet fogadnak el. Ilyen esetben a költségek legfeljebb olyan magasak lennének, mint a nagy kockázatú MI-rendszerek esetében, de minden valószínűség szerint alacsonyabbak lennének. A szakpolitikai alternatívák által az érdekelt felek különböző kategóriáira (gazdasági szereplők/vállalkozások, megfelelőségértékelő szervezetek, szabványügyi testületek és egyéb közjogi szervek, egyének/polgárok, kutatók) gyakorolt hatásokat az e javaslatot támogató hatásvizsgálat 3. melléklete ismerteti részletesen. 3.4.Célravezető szabályozás és egyszerűsítés Ez a javaslat olyan kötelezettséget állapít meg, amely a nagy kockázatú MI-rendszerek szolgáltatóira és felhasználóira vonatkozik. Az ilyen rendszereket kifejlesztő és az uniós piacon forgalomba hozó szolgáltatók számára ez jogbiztonságot teremt, és biztosítja, hogy a mesterséges intelligenciához kapcsolódó szolgáltatások és termékek határokon átnyúló nyújtása ne ütközzön akadályokba. A mesterséges intelligenciát használó vállalatok számára növelni fogja az ügyfeleik közötti bizalmat. A nemzeti közigazgatások számára növelni fogja a mesterséges intelligencia használatába vetett közbizalmat, és erősíteni fogja a végrehajtási mechanizmusokat (európai koordinációs mechanizmus bevezetésével, megfelelő kapacitások biztosításával, valamint az MI-rendszerek ellenőrzésének elősegítésével a dokumentációra, a nyomonkövethetőségre és az átláthatóságra vonatkozó új követelmények mellett). A keret emellett innovációt támogató konkrét intézkedéseket irányoz elő, ideértve a szabályozási tesztkörnyezeteket, illetve a nagy kockázatú MI-rendszerek kis méretű felhasználóit és szolgáltatóit az új szabályoknak való megfelelésben támogató egyedi intézkedéseket. A javaslat továbbá kifejezetten törekszik arra, hogy megerősítse Európa versenyképességét és ipari bázisát a mesterséges intelligencia terén. Biztosított a teljes összhang az MI-rendszerekre alkalmazandó meglévő uniós ágazati jogszabályokkal (például a termékekre és szolgáltatásokra vonatkozóan), ami még egyértelműbbé teszi a helyzetet, és egyszerűsíti az új szabályok végrehajtását. 3.5.Alapvető jogok A sajátos jellemzőkkel (például átláthatatlanság, összetettség, adatoktól való függés, autonóm magatartás) rendelkező mesterséges intelligencia használata hátrányosan érinthet számos, az Európai Unió Alapjogi Chartájában (a továbbiakban: Charta) rögzített alapvető jogot. Ez a javaslat biztosítani kívánja ezen alapvető jogok magas szintű védelmét, és egyértelműen meghatározott kockázatalapú megközelítéssel kezelni kívánja a kockázatok különböző forrásait. A megbízható mesterséges intelligenciára vonatkozó követelményekkel és az értéklánc valamennyi résztvevőjére vonatkozó arányos kötelezettségekkel a javaslat megerősíti és előmozdítja a Charta által védett jogok védelmét: az emberi méltósághoz való jogot (1. cikk), a magánélet tiszteletben tartását és a személyes adatok védelmét (7. és 8. cikk), a megkülönböztetésmentességet (21. cikk), valamint a nők és férfiak közötti egyenlőséget (23. cikk). Célja a véleménynyilvánítás szabadságához (11. cikk) és a gyülekezés szabadságához (12. cikk) való jog biztosítása, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme védelmének biztosítása (47. és 48. cikk), valamint a megfelelő ügyintézés általános elve. Továbbá, amint egyes területeken alkalmazandó, a javaslat pozitívan fogja befolyásolni számos különleges csoport jogait, például a munkavállalók tisztességes és igazságos munkafeltételekhez való jogát (31. cikk), a magas szintű fogyasztóvédelmet (28. cikk), a gyermekek jogait (24. cikk) és a fogyatékossággal élő személyek integrációját (26. cikk). A magas szintű környezetvédelemhez és a környezet minőségének javításához való jog (37. cikk) szintén releváns, többek között az emberek egészsége és biztonsága tekintetében. Az előzetes tesztelésre, a kockázatkezelésre és az emberi felügyeletre vonatkozó kötelezettségek is elő fogják segíteni egyéb alapvető jogok tiszteletben tartását azáltal, hogy minimálisra csökkentik a mesterséges intelligencián alapuló téves vagy elfogult döntések kockázatát olyan kritikus területeken, mint az oktatás és képzés, foglalkoztatás, fontos szolgáltatások, bűnüldözés és igazságszolgáltatás. Abban az esetben, ha továbbra is sor kerül az alapvető jogok megsértésére, az MI-rendszerek átláthatóságának és nyomon követhetőségének biztosítása, valamint a szigorú utólagos ellenőrzés lehetővé teszi a hatékony jogorvoslatot az érintett személyek számára. Ez a javaslat bizonyos korlátozásokat vezet be a vállalkozás szabadságára (16. cikk), valamint a művészet és a tudomány szabadságára (13. cikk) vonatkozóan annak biztosítása érdekében, hogy a nagy kockázatú MI-technológiák kifejlesztése és használata során érvényesüljenek a közérdeken alapuló kényszerítő indokok, például az egészség, a biztonság, a fogyasztóvédelem és az egyéb alapvető jogok védelme („felelős innováció”). Ezek a korlátozások arányosak, és a súlyos biztonsági kockázatok és az alapvető jogok valószínű megsértésének megelőzéséhez és enyhítéséhez szükséges minimumra korlátozódnak. A fokozott átláthatósági kötelezettségek a szellemi tulajdon védelméhez való jogot (17. cikk (2) bekezdés) sem érintik aránytalanul, mivel csak az egyének hatékony jogorvoslathoz való jogának gyakorlásához szükséges minimális információkra, valamint a felügyeleti és végrehajtó hatóságok számára szükséges átláthatóságra korlátozódnak, megbízatásuknak megfelelően. Az információk közzététele az e területre vonatkozó jogszabályoknak – többek között a nem nyilvános know-how és üzleti információk (üzleti titkok) jogosulatlan megszerzésével, felhasználásával és felfedésével szembeni védelemről szóló (EU) 2016/943 irányelvnek – megfelelően történik. Ha a lényeges kötelezettségeknek való megfelelés vizsgálata céljából hozzáférést kell biztosítani a hatóságok és a bejelentett szervezetek számára a bizalmas információkhoz vagy a forráskódhoz, akkor kötelező titoktartási kötelezettség vonatkozik rájuk. 4.KÖLTSÉGVETÉSI VONZATOK

A tagállamoknak ki kell jelölniük a jogszabályi követelmények végrehajtásáért felelős felügyeleti hatóságokat. Felügyeleti funkciójuk a meglévő megállapodásokon alapulhatna, például a megfelelőségértékelő szervezetek vagy a piacfelügyelet vonatkozásában, de megfelelő technológiai szakértelmet, valamint emberi és pénzügyi erőforrást igényelne. Az egyes tagállamokban már meglévő struktúráktól függően ez tagállamonként 1–25 teljes munkaidős egyenértéket jelenthet. A költségek részletes áttekintése az ehhez a javaslathoz tartozó „pénzügyi kimutatásban” található. 5.EGYÉB ELEMEK 5.1.Végrehajtási tervek, valamint a nyomon követés, az értékelés és a jelentéstétel szabályai A megbízható nyomonkövetési és értékelési mechanizmus elengedhetetlen annak biztosításához, hogy a javaslat hatékonyan elérje konkrét célkitűzéseit. A javaslat hatásainak nyomon követése a Bizottság feladata. A Bizottság olyan rendszert fog létrehozni, amelynek keretében az önálló, nagy kockázatú MI-alkalmazások bekerülnek egy nyilvános uniós adatbázisban. A nyilvántartásba vétel lehetővé teszi továbbá az illetékes hatóságok, a felhasználók és más érdekelt személyek számára egyrészt annak ellenőrzését, hogy a nagy kockázatú MI-rendszerek megfelelnek-e a javaslatban meghatározott követelményeknek, másrészt azt, hogy fokozott felügyeletet gyakorolhassanak az alapvető jogokra nagy kockázatot jelentő MI-rendszerek felett. Az adatbázis feltöltése érdekében az MI-szolgáltatók kötelesek lesznek érdemi információkat szolgáltatni rendszereikről és az e rendszerekkel kapcsolatban végzett megfelelőségértékelésről. Ezen túlmenően az MI-szolgáltatók kötelesek lesznek tájékoztatni az illetékes nemzeti hatóságokat az alapvető jogokkal kapcsolatos kötelezettségek megsértésének minősülő súlyos incidensekről vagy hibás működésről – amint tudomást szereznek azokról –, valamint az MI-rendszerek visszahívásáról vagy piacról történő kivonásáról. Az illetékes nemzeti hatóságok ezt követően kivizsgálják a váratlan eseményeket vagy a hibás működést, majd összegyűjtik és a megfelelő metaadatokkal együtt rendszeresen továbbítják a Bizottságnak az összes szükséges információt. A Bizottság ezeket a váratlan eseményekre vonatkozó információkat kiegészíti a mesterséges intelligencia teljes piacának átfogó elemzésével. A Bizottság öt évvel a keret hatálybalépésének kezdő időpontját követően jelentést tesz közzé, amelyben értékeli és felülvizsgálja a mesterséges intelligenciára vonatkozóan javasolt keretet. 5.2.A javaslat egyes rendelkezéseinek részletes magyarázata 5.2.1.HATÁLY ÉS FOGALOMMEGHATÁROZÁSOK (I. CÍM) Az I. cím meghatározza a rendelet tárgyát és az MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó új szabályok hatályát. Megadja továbbá az eszköz egészében használt fogalommeghatározásokat. A jogi keretben az MI-rendszer fogalommeghatározása a lehető legnagyobb mértékben technológiasemleges és időtálló kíván lenni, figyelembe véve a mesterséges intelligenciával kapcsolatban gyorsan bekövetkező technológiai és piaci fejleményeket. A szükséges jogbiztonság biztosítása érdekében az I. címet kiegészíti az I. melléklet, amely tartalmazza a mesterséges intelligencia fejlesztésére vonatkozó megközelítések és technikák részletes listáját, amelyet a Bizottságnak az új technológiai fejleményekhez kell igazítania. Az egyenlő versenyfeltételek biztosítása érdekében a mesterséges intelligenciával kapcsolatos értéklánc kulcsfontosságú résztvevői is egyértelműen meghatározásra kerülnek, például az MI-rendszerek szolgáltatói és felhasználói, beleértve mind az állami, mind a magánszereplőket. 5.2.2.TILTOTT MI-GYAKORLATOK (II. CÍM) A II. cím összeállítja a tiltott mesterséges intelligencia jegyzékét. A rendelet kockázatalapú megközelítést alkalmaz, különbséget téve a mesterséges intelligencia azon felhasználásai között, amelyek i. elfogadhatatlan kockázattal, ii. nagy kockázattal, illetve iii. alacsony vagy minimális kockázattal járnak. A tiltott gyakorlatok II. címben szereplő jegyzéke magában foglalja mindazokat az MI-rendszereket, amelyek használata elfogadhatatlannak minősül, mert ellentmond az uniós értékeknek, például az alapvető jogok megsértése miatt. A tilalmak azokra a gyakorlatokra vonatkoznak, amelyek képesek öntudatlanul, szubliminális technikák alkalmazásával nagymértékben manipulálni a személyeket, vagy kihasználni bizonyos veszélyeztetett csoportok, például a gyermekek vagy a fogyatékossággal élő személyek sebezhetőségét, hogy oly módon torzítsák magatartásukat, amely számukra vagy más személy számára valószínűsíthetően pszichológiai vagy fizikai károsodást okoz. A felnőtteket érintő egyéb olyan manipulatív vagy kizsákmányoló gyakorlatok, amelyeket az MI-rendszerek elősegíthetnek, az adatvédelemre, fogyasztóvédelemre és digitális szolgáltatásokra vonatkozó hatályos jogszabályok hatálya alá tartozhatnak, amelyek garantálják, hogy a természetes személyek megfelelő tájékoztatásban részesüljenek, és szabadon dönthessenek arról, hogy nem kívánnak profilalkotás vagy más olyan gyakorlat tárgya lenni, amely befolyásolhatja magatartásukat. A javaslat tiltja továbbá a hatóságok által végzett, mesterséges intelligencián alapuló, általános célú társadalmi pontozást. Végezetül, a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő, bűnüldözési célú használata szintén tilos, eltekintve bizonyos korlátozott kivételektől. 5.2.3.NAGY KOCKÁZATÚ MI-RENDSZEREK (III. CÍM) A III. cím szabályokat tartalmaz az olyan MI-rendszerekre vonatkozóan, amelyek nagy kockázatot jelentenek a természetes személyek egészségére és biztonságára vagy alapvető jogaira nézve. A kockázatalapú megközelítéssel összhangban ezek a nagy kockázatú MI-rendszerek bizonyos kötelező követelményeknek való megfelelés és előzetes megfelelőségértékelés mellett hozhatók forgalomba az európai piacon. Az MI-rendszerek nagy kockázatúként való besorolása az MI-rendszer rendeltetésén alapul, összhangban a meglévő termékbiztonsági jogszabályokkal. Ezért a nagy kockázatúként való besorolás nemcsak az MI-rendszer által ellátott funkciótól függ, hanem attól is, hogy a rendszert milyen konkrét célra és módokon használják. A III. cím 1. fejezete meghatározza az osztályozási szabályokat, és a nagy kockázatú MI-rendszerek két fő kategóriáját határozza meg: ·olyan MI-rendszerek, amelyeket harmadik fél által végzett előzetes megfelelőségértékelés hatálya alá tartozó termékek biztonsági alkatrészeként kívánnak használni; ·egyéb, főként alapjogi vonatkozású, önálló MI-rendszerek, amelyeket a III. melléklet kifejezetten felsorol. A nagy kockázatú MI-rendszerek III. mellékletben található felsorolásában korlátozott számban olyan MI-rendszerek szerepelnek, amelyeknek kockázatai már jelentkeztek vagy a közeljövőben valószínűsíthetően jelentkeznek. Annak biztosítása érdekében, hogy a rendeletet hozzá lehessen igazítani a mesterséges intelligencia új felhasználási módjaihoz és alkalmazásaihoz, a Bizottság kritériumok és kockázatértékelési módszertan alkalmazásával kibővítheti az egyes előre meghatározott területeken használt nagy kockázatú MI-rendszerek listáját. A 2. fejezet meghatározza a nagy kockázatú MI-rendszerekre vonatkozó jogszabályi követelményeket az adatok és adatkormányzás, dokumentálás és nyilvántartás, átláthatóság és felhasználói tájékoztatás, emberi felügyelet, megbízhatóság, pontosság és biztonság tekintetében. A javasolt minimumkövetelmények számos gondos üzemeltető számára már most is a legkorszerűbbek, és a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport etikai iránymutatásából eredő kétéves előkészítő munka eredményeként születtek meg, majd több mint 350 szervezet tesztelte őket. Nagymértékben összhangban vannak más nemzetközi ajánlásokkal és elvekkel is, ami biztosítja, hogy a mesterséges intelligenciára vonatkozóan javasolt keret összeegyeztethető legyen az EU nemzetközi kereskedelmi partnerei által elfogadott keretekkel. Az e követelményeknek való megfelelést biztosító pontos műszaki megoldások szabványok vagy egyéb műszaki előírások révén biztosíthatók, vagy az MI-rendszer szolgáltatójának belátása szerint az általános mérnöki vagy tudományos ismereteknek megfelelően más módon fejleszthetők ki. Ez a rugalmasság különösen fontos, mivel lehetővé teszi az MI-rendszerek szolgáltatói számára, hogy megválasszák a követelmények teljesítésének módját, figyelembe véve az e téren bekövetkező legújabb fejleményeket, illetve a technológiai és tudományos fejlődést. A 3. fejezet egyértelmű horizontális kötelezettségeket ír elő a nagy kockázatú MI-rendszerek szolgáltatói számára. Emellett arányos kötelezettségeket ró a felhasználókra és más résztvevőkre a mesterséges intelligencia értékláncában (például az importőrökre, forgalmazókra, meghatalmazott képviselőkre).

A 4. fejezet meghatározza azt a keretet, amelynek alapján a bejelentett szervezeteket független harmadik félként be kell vonni a megfelelőségértékelési eljárásokba, az 5. fejezet pedig részletesen ismerteti a nagy kockázatú MI-rendszerek egyes típusai esetében követendő megfelelőségértékelési eljárásokat. A megfelelőségértékelési megközelítés célja, hogy minimálisra csökkentse a gazdasági szereplőkre és a bejelentett szervezetekre nehezedő terheket, és ezek kapacitásait idővel fokozatosan növelni kell. Az új jogszabályi keretben szabályozott termékek (például gépek, játékok, orvostechnikai eszközök stb.) biztonsági alkatrészeként szolgáló MI-rendszerekre ugyanazok az előzetes és utólagos megfelelési és végrehajtási mechanizmusok vonatkoznak, mint azokra a termékekre, amelyek részét képezik. A legfontosabb különbség az, hogy az előzetes és utólagos mechanizmusok nemcsak az ágazati jogszabályokban meghatározott követelményeknek, hanem az e rendeletben megállapított követelményeknek való megfelelést is biztosítják. A III. mellékletben említett önálló, nagy kockázatú MI-rendszerek tekintetében új megfelelési és végrehajtási rendszer jön létre. Ez az új jogszabályi keret modelljét követi, amelyet a szolgáltatók belső ellenőrzési vizsgálatok révén hajtanak végre, kivéve a távoli biometrikus azonosító rendszereket, amelyek harmadik fél által végzett megfelelőségértékelés tárgyát képeznék. A belső ellenőrzéseken alapuló, átfogó és előzetes megfelelőségértékelés, valamint a szigorú utólagos végrehajtás hatékony és észszerű megoldást jelenthet e rendszerek esetében, tekintettel a szabályozási beavatkozás korai szakaszára, illetve arra, hogy az MI-ágazat rendkívül innovatív, és az ellenőrzéshez szükséges szakértelem még csak most halmozódik fel. Az „önálló”, nagy kockázatú MI-rendszerek belső ellenőrzések révén történő értékeléséhez a rendelet valamennyi követelményének való teljes körű, hatékony és megfelelően dokumentált előzetes megfelelésre, valamint megbízható minőségirányítási és kockázatkezelési rendszereknek való megfelelésre, továbbá forgalomba hozatal utáni nyomon követésre lenne szükség. Miután a szolgáltató elvégezte a vonatkozó megfelelőségértékelést, az önálló, nagy kockázatú MI-rendszereket nyilvántartásba kell vetetnie egy olyan uniós adatbázisban, amelyet a Bizottság kezel a nyilvános átláthatóság és felügyelet fokozása, valamint az illetékes hatóságok általi utólagos felügyelet megerősítése érdekében. Ezzel szemben a meglévő termékbiztonsági jogszabályokkal való összhang érdekében a termékek biztonsági alkatrészének minősülő MI-rendszerek megfelelőségértékelését a vonatkozó ágazati termékbiztonsági jogszabályok alapján már létrehozott, harmadik fél által végzett megfelelőségértékelési eljárásokkal összhangban kell elvégezni. Az MI-rendszerek jelentős módosítása esetében (és különösen olyan változások esetében, amelyek túlmutatnak a szolgáltató által a műszaki dokumentációban előre meghatározott és az előzetes megfelelőségértékelés időpontjában ellenőrzött módosításokon) szükség lesz a megfelelőség új előzetes újraértékelésére. 5.2.4.EGYES MI-RENDSZEREKRE VONATKOZÓ ÁTLÁTHATÓSÁGI KÖTELEZETTSÉGEK (IV. CÍM) A IV. cím egyes MI-rendszerekre vonatkozik az általuk jelentett manipulációs kockázatok figyelembevétele érdekében. Az átláthatósági kötelezettségek olyan rendszerekre vonatkoznak, amelyek i. emberekkel érintkeznek, ii. az érzelmek észlelésére vagy a biometrikus adatokon alapuló (szociális) kategóriákkal való kapcsolat meghatározására szolgálnak, vagy iii. tartalmakat hoznak létre vagy manipulálnak („deepfake”). Ha a személyek MI-rendszerrel érintkeznek, vagy érzéseiket vagy jellemzőiket automatizált eszközökkel ismerik fel, az embereket tájékoztatni kell erről. Ha az MI-rendszert olyan képek, audio- vagy videotartalmak létrehozására vagy manipulálására használják, amelyek érzékelhetően hasonlítanak hiteles tartalmakra, kötelezővé kell tenni annak közlését, hogy a tartalom automatizált módon jött létre, eltekintve a jogszerű célokat szolgáló kivételektől (bűnüldözés, véleménynyilvánítás szabadsága). Ez lehetővé teszi a személyek számára, hogy megalapozott döntéseket hozzanak, vagy visszalépjenek adott helyzetből. 5.2.5.AZ INNOVÁCIÓT TÁMOGATÓ INTÉZKEDÉSEK (V. CÍM) Az V. cím hozzájárul az innovációbarát, időtálló és a fennakadásokkal szemben ellenálló jogi keret létrehozására irányuló célkitűzéshez. Ennek érdekében arra ösztönzi az illetékes nemzeti hatóságokat, hogy szabályozási tesztkörnyezeteket hozzanak létre, és meghatározza az irányítás, a felügyelet és a felelősség alapvető keretét. A mesterséges intelligenciával kapcsolatos szabályozási tesztkörnyezetek az illetékes hatóságokkal egyeztetett tesztelési terv alapján korlátozott időre szóló, ellenőrzött környezetet hoznak létre az innovatív technológiák tesztelésére. Az V. cím emellett olyan intézkedéseket tartalmaz, amelyek a kkv-kra és az induló innovatív vállalkozásokra nehezedő szabályozási terhek csökkentésére irányulnak. 5.2.6.IRÁNYÍTÁS ÉS VÉGREHAJTÁS (VI., VII. ÉS VIII. CÍM) A VI. cím uniós és nemzeti szintű irányítási rendszereket hoz létre. Uniós szinten a javaslat létrehozza a Mesterséges Intelligenciával Foglalkozó Európai Testületet (a továbbiakban: Testület), amely a tagállamok és a Bizottság képviselőiből áll. A Testület elősegíti e rendelet zökkenőmentes, hatékony és összehangolt végrehajtását azáltal, hogy hozzájárul a nemzeti felügyeleti hatóságok és a Bizottság közötti hatékony együttműködéshez, valamint tanácsadást és szakértelmet nyújt a Bizottságnak. Emellett összegyűjti és megosztja a tagállamok között a bevált gyakorlatokat. Nemzeti szinten a tagállamoknak ki kell jelölniük egy vagy több illetékes nemzeti hatóságot, köztük a nemzeti felügyeleti hatóságot a rendelet alkalmazásának és végrehajtásának felügyelete céljából. Az európai adatvédelmi biztos jár el az uniós intézmények, ügynökségek és szervek felügyeletéért felelős illetékes hatóságként, amennyiben azok e rendelet hatálya alá tartoznak. A VII. cím célja, hogy megkönnyítse a Bizottság és a nemzeti hatóságok nyomonkövetési munkáját azáltal, hogy létrehozza a főként alapjogi vonatkozású, önálló, nagy kockázatú MI-rendszerek uniós adatbázisát. Az adatbázist a Bizottság üzemelteti, a betáplált adatokat pedig az MI-rendszerek szolgáltatói bocsátják rendelkezésre, akiknek nyilvántartásba kell vetetniük rendszereiket, mielőtt forgalomba hozzák vagy más módon üzembe helyezik őket. A VIII. cím az MI-rendszerek szolgáltatóira vonatkozó nyomonkövetési és jelentéstételi kötelezettségeket határozza meg a mesterséges intelligenciával kapcsolatos váratlan események és hibás működés forgalomba hozatal utáni nyomon követése, jelentése és kivizsgálása tekintetében. A piacfelügyeleti hatóságok ellenőriznék a piacot is, és valamennyi, már forgalomba hozott nagy kockázatú MI-rendszer esetében megvizsgálnák a kötelezettségeknek és követelményeknek való megfelelést. A piacfelügyeleti hatóságok a piacfelügyeletről szóló (EU) 2019/1020 rendelet értelmében vett minden hatáskörrel rendelkeznének. Az utólagos végrehajtásnak biztosítania kell, hogy az MI-rendszerek forgalomba hozatalát követően a hatóságok rendelkezzenek az abban az esetben történő beavatkozáshoz szükséges hatáskörrel és erőforrásokkal, ha az MI-rendszerek váratlan kockázatokhoz vezetnének, ami gyors fellépést tesz szükségessé. Nyomon fogják követni azt is, hogy az üzemeltetők teljesítik-e a rendelet értelmében vett vonatkozó kötelezettségeiket. A javaslat nem irányozza elő további tagállami szintű szervek vagy hatóságok automatikus létrehozását. A tagállamok ezért meglévő ágazati hatóságokat jelölhetnek ki (és támaszkodhatnak azok szakértelmére), amelyeket a rendelet rendelkezéseinek nyomon követésére és végrehajtására vonatkozó hatáskörrel is felruháznának. Mindez nem érinti az alapvető jogokkal kapcsolatos kötelezettségek utólagos érvényesítésére vonatkozó jelenlegi rendszert és hatáskörmegosztást a tagállamokban. Amennyiben a megbízatásuk miatt szükséges, a meglévő felügyeleti és végrehajtó hatóságok hatáskörrel fognak rendelkezni arra is, hogy bekérjék az e rendelet alapján megőrzött valamennyi dokumentációt, illetve hozzáférjenek azokhoz, és szükség esetén felkérjék a piacfelügyeleti hatóságokat, hogy műszaki eszközökkel szervezzék meg a nagy kockázatú MI-rendszerek tesztelését. 5.2.7.MAGATARTÁSI KÓDEXEK (IX. CÍM) A IX. cím létrehozza a magatartási kódexek létrehozásának keretét, ami arra kívánja ösztönözni a nem nagy kockázatú MI-rendszerek szolgáltatóit, hogy önkéntes alapon alkalmazzák a nagy kockázatú MI-rendszerekre vonatkozó kötelező követelményeket (a III. címben meghatározottak szerint). A nem nagy kockázatú MI-rendszerek szolgáltatói maguk dolgozhatják ki és alkalmazhatják a magatartási kódexeket. Ezek a kódexek önkéntes kötelezettségvállalásokat is tartalmazhatnak például a környezeti fenntarthatósággal, a fogyatékossággal élő személyek esetében az akadálymentességgel, az érdekelt feleknek az MI-rendszerek tervezésében és fejlesztésében való részvételével, valamint a fejlesztési csoportok sokszínűségével kapcsolatban. 5.2.8.ZÁRÓ RENDELKEZÉSEK (X., XI. ÉS XII. CÍM) A X. cím hangsúlyozza, hogy valamennyi fél köteles tiszteletben tartani az információk és adatok titkosságát, és meghatározza a rendelet végrehajtása során szerzett információk cseréjére vonatkozó szabályokat. A X. cím emellett olyan intézkedéseket tartalmaz, amelyek a rendelkezések megsértése esetében hatékony, arányos és visszatartó erejű szankciókkal biztosítják a rendelet hatékony végrehajtását. A XI. cím meghatározza a felhatalmazási és végrehajtási hatáskörök gyakorlására vonatkozó szabályokat. A javaslat felhatalmazza a Bizottságot arra, hogy adott esetben végrehajtási aktusokat fogadjon el a rendelet vagy a felhatalmazáson alapuló jogi aktusok egységes alkalmazásának biztosítása érdekében az I–VII. mellékletben szereplő jegyzékek naprakésszé tétele vagy kiegészítése céljából. A XII. cím arra kötelezi a Bizottságot, hogy rendszeresen értékelje a III. melléklet aktualizálásának szükségességét, és rendszeres jelentéseket készítsen a rendelet értékeléséről és felülvizsgálatáról. Továbbá záró rendelkezéseket állapít meg, beleértve a rendelet alkalmazhatóságának kezdő időpontjára vonatkozó differenciált átmeneti időszakot, hogy valamennyi érintett fél számára megkönnyítse a zökkenőmentes végrehajtást. 2021/0106 (COD) Javaslat

AZ EURÓPAI PARLAMENT ÉS A TANÁCS RENDELETE A MESTERSÉGES INTELLIGENCIÁRA VONATKOZÓ HARMONIZÁLT SZABÁLYOK (A MESTERSÉGES INTELLIGENCIÁRÓL SZÓLÓ JOGSZABÁLY) MEGÁLLAPÍTÁSÁRÓL ÉS EGYES UNIÓS JOGALKOTÁSI AKTUSOK MÓDOSÍTÁSÁRÓL AZ EURÓPAI PARLAMENT ÉS AZ EURÓPAI UNIÓ TANÁCSA, tekintettel az Európai Unió működéséről szóló szerződésre és különösen annak 16. és 114. cikkére, tekintettel az Európai Bizottság javaslatára, a jogalkotási aktus tervezetének a nemzeti parlamenteknek való megküldését követően, tekintettel az Európai Gazdasági és Szociális Bizottság véleményére, tekintettel a Régiók Bizottságának véleményére, rendes jogalkotási eljárás keretében, mivel: (1)E rendelet célja a belső piac működésének javítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt. (2)A mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) a gazdaság és a társadalom számos ágazatában könnyen alkalmazhatók, többek között a határokon átnyúlóan is, és az egész Unióban forgalomban lehetnek. Egyes tagállamok már megvizsgálták olyan nemzeti szabályok elfogadását, amelyek biztosítják a mesterséges intelligencia biztonságosságát, valamint az alapvető jogokra vonatkozó kötelezettségekkel összhangban történő fejlesztését és használatát. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő vagy használó üzemeltetők jogbiztonságát. Ezért az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását akadályozó különbségeket, és ennek érdekében az üzemeltetők számára egységes kötelezettségeket kell megállapítani, és az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon. Amennyiben e rendelet különös szabályokat tartalmaz az egyéneknek a személyes adatok kezelése tekintetében való védelméről, az MI-rendszereknek a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, „valós idejű” távoli biometrikus azonosításra történő használatát érintő korlátozásokkal kapcsolatban, helyénvaló e rendeletet az említett különös szabályok tekintetében az EUMSZ 16. cikkére alapozni. E különös szabályokra és az EUMSZ 16. cikkének alkalmazására tekintettel helyénvaló konzultálni az Európai Adatvédelmi Testülettel. (3)A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági és társadalmi előnyök széles skálájához járulhat hozzá. Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával a mesterséges intelligencia használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az oktatás és képzés, az infrastruktúra-irányítás, az energia, a közlekedés és a logisztika, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság, valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén. (4)Ugyanakkor a mesterséges intelligencia – a konkrét alkalmazás és használat körülményeitől függően – kockázatokkal is járhat, és sértheti a közérdeket és az uniós jog által védett jogokat. Az ilyen kár lehet vagyoni vagy nem vagyoni kár. (5)Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja a uniós jog által elismert és oltalmazott közérdek – például az egészség és a biztonság –, valamint az alapvető jogok magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára és üzembe helyezésére vonatkozóan, ezáltal biztosítva a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. E szabályok megállapításával e rendelet támogatja azt a célkitűzést, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, amint azt az Európai Tanács megállapította, és biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte. (6)A jogbiztonság biztosítása végett egyértelműen meg kell határozni az MI-rendszer fogalmát, ugyanakkor rugalmasságot kell biztosítani a jövőbeli technológiai fejlődéshez való alkalmazkodás érdekében. A fogalommeghatározásnak a szoftver alapvető működési jellemzőin kell alapulnia, különösen azon a képességen, hogy ember által meghatározott célkitűzések egy adott sorozata tekintetében olyan kimeneteket tud generálni, mint például tartalom, előrejelzések, ajánlások vagy döntések, amelyek befolyásolják azt a környezetet, amellyel a rendszer kölcsönhatásban van, legyen szó akár fizikai, akár digitális dimenzióról. Az MI-rendszereket meg lehet úgy tervezni, hogy különböző szintű autonómiával működjenek, és önállóan vagy egy termék alkatrészeként is használhatók legyenek, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe (beágyazott), vagy hogy anélkül szolgálja-e a termék funkcionalitását, hogy abba beépítenék (nem beágyazott). Az MI-rendszer fogalommeghatározását ki kell egészíteni a fejlesztéséhez használt konkrét technikák és megközelítések listájával, amelyet a piaci és technológiai fejlődés fényében naprakészen kell tartani azáltal, hogy a Bizottság felhatalmazáson alapuló jogi aktusokat fogad el a lista módosítása céljából. (7)A biometrikus adatok e rendeletben használt fogalma összhangban van a biometrikus adatoknak az (EU) 2016/679 európai parlamenti és tanácsi rendelet 4. cikkének 14. pontjában, az (EU) 2018/1725 európai parlamenti és tanácsi rendelet 3. cikkének 18. pontjában és az (EU) 2016/680 európai parlamenti és tanácsi irányelv 3. cikkének 13. pontjában meghatározott fogalmával, és azzal összhangban kell értelmezni. (8)A távoli biometrikus azonosító rendszer e rendeletben használt fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek távolról történő azonosítása a személy biometrikus adatainak egy referencia-adatbázisban szereplő biometrikus adatokkal való összevetése révén, anélkül, hogy előzetesen tudomása lenne arról, hogy a célszemély jelen lesz-e és azonosítható-e, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy a biometrikus adatok típusától. Figyelembe véve eltérő jellemzőiket és használati módjaikat, valamint a különböző kockázatokat, különbséget kell tenni a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszerek között. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, összehasonlítása és azonosítása azonnal, majdnem azonnal vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem engedhető meg, hogy a szóban forgó MI-rendszerek „valós idejű” használatára vonatkozó kisebb késleltetésekre legyen lehetőség, és ezáltal az e rendeletben foglalt szabályokat bárki megkerülje. A „valós idejű” rendszerek olyan „élő” vagy megközelítőleg „élő” anyagot, például videofelvételt használnak, amelyet kamera vagy hasonló funkciójú más eszköz generál. A „nem valós idejű” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által előállított képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek. (9)E rendelet alkalmazásában a nyilvánosság számára hozzáférhető hely fogalma alatt bármely, a nyilvánosság számára hozzáférhető fizikai területet kell érteni, függetlenül attól, hogy a szóban forgó hely magán- vagy állami tulajdonban van-e. Ezért a fogalom nem terjed ki a magánjellegű helyekre, amelyek általában szabadon nem hozzáférhetők harmadik felek, köztük a bűnüldöző hatóságok számára, kivéve, ha ezeket a feleket kifejezetten meghívták vagy felhatalmazták; ilyenek például az otthonok, a magánklubok, az irodák, a raktárak és a gyárak. Az online terek sem tartoznak ide, mivel nem fizikai területek. Ugyanakkor önmagában az a tény, hogy egy adott helyhez való hozzáférés bizonyos feltételekhez – például belépőjegyekhez vagy életkori korlátozásokhoz – köthető, nem jelenti azt, hogy a hely e rendelet értelmében a nyilvánosság számára nem hozzáférhető. Következésképpen az olyan nyilvános helyeken kívül, mint az utcák, a kormányzati épületek releváns részei és a közlekedési infrastruktúra többsége, az olyan helyek, mint a mozik, a színházak, az üzletek és a bevásárlóközpontok általában szintén a nyilvánosság számára hozzáférhetők. Azt azonban, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait. (10)Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett felhasználóira.

(11)Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe és nem használják az Unióban. Ez a helyzet például egy olyan, az Unióban letelepedett üzemeltető esetében, amely bizonyos szolgáltatásokra egy Unión kívül letelepedett üzemeltetővel köt szerződést egy MI-rendszer által végzendő olyan tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne, és amelynek hatása az Unióban tartózkodó természetes személyeket is érintené. Ilyen körülmények között az Unión kívüli üzemeltető által használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és a szóban forgó MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött üzemeltető rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és felhasználóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unióban használják. Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok az Unióval vagy annak tagállamaival folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – nemzeti vagy európai szinten kötött – nemzetközi megállapodások keretében járnak el. E megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között. (12)Ezt a rendeletet az uniós intézményekre, hivatalokra, szervekre és ügynökségekre is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy felhasználójaként járnak el. A kizárólag katonai célokra fejlesztett vagy használt MI-rendszereket ki kell zárni e rendelet hatálya alól, amennyiben e használat az Európai Unióról szóló szerződés (EUSZ) V. címében szabályozott közös kül- és biztonságpolitika kizárólagos hatáskörébe tartozik. Ez a rendelet nem érinti a [digitális szolgáltatásokról szóló jogszabály által módosított] 2000/31/EK európai parlamenti és tanácsi irányelvben foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezéseket. (13)A közérdek következetes és magas szintű védelmének az egészség, a biztonság és az alapvető jogok tekintetében történő biztosítása érdekében egységes normatív előírásokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Ezeknek az előírásoknak összhangban kell lenniük az Európai Unió Alapjogi Chartájával (a továbbiakban: a Charta), megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kereskedelmi kötelezettségvállalásainak. (14)Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos mesterségesintelligencia-gyakorlatokat, követelményeket kell megállapítani a nagy kockázatú MI-rendszerekre vonatkozóan és kötelezettségeket az érintett üzemeltetők számára, valamint átláthatósági kötelezettségeket bizonyos MI-rendszereket érintően. (15)A mesterséges intelligenciának számos hasznos felhasználási módja van, azonban ezzel a technológiával vissza is lehet élni, emellett új és hatékony eszközöket biztosíthat a manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak, és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, valamint az uniós alapvető jogokkal, ideértve a megkülönböztetésmentességhez való jogot, az adatvédelmet és a magánélet tiszteletben tartásához való jogot, valamint a gyermekek jogait. (16)Meg kell tiltani azon MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát, amelyek célja az emberi magatartás oly módon való befolyásolása, hogy az nagy valószínűséggel testi vagy lelki kárt okoz. Az ilyen MI-rendszerek az egyének számára tudatosan nem érzékelhető módszereket alkalmaznak, vagy kihasználják a gyermekek, valamint életkoruk, illetve csökkent testi vagy mentális képességeik miatt bizonyos felnőttek sebezhetőségét. Ezt azzal a szándékkal teszik, hogy jelentősen torzítsák egy személy magatartását, oly módon, amely kárt okoz vagy okozhat az adott személynek vagy más személynek. A szándék nem vélelmezhető, ha az emberi magatartás torzulása az MI-rendszerhez képest külső, a szolgáltatón vagy a felhasználón kívül álló tényezőkből ered. A tilalom nem nyomhatja el az ilyen MI-rendszerekhez kapcsolódó törvényes célú kutatást, amennyiben az ilyen kutatás nem jár azzal, hogy az MI-rendszer úgy kerül alkalmazásra az ember és a gép közötti kapcsolatokban, hogy kárt okozzon természetes személyeknek, és amennyiben az ilyen kutatás a tudományos kutatás elismert etikai normáival összhangban történik. (17)Azok az MI-rendszerek, amelyek lehetőséget biztosítanak természetes személyek hatóságok általi vagy nevükben történő, általános célú közösségi pontozására, diszkriminációhoz és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sérthetik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyek megbízhatóságát bizonyos összetett körülmények között, közösségben tanúsított magatartásuk, illetve ismert vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján értékelik vagy osztályozzák. Az ilyen MI-rendszerek által adott közösségi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen MI-rendszereket ezért be kell tiltani. (18)Az MI-rendszereknek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata különösen betolakodik az érintett személyek jogaiba és szabadságába, mivel hatással lehet a lakosság nagy részének magánéletére, az állandó megfigyelés érzetét keltheti, és közvetve visszatarthat a gyülekezési szabadság és más alapvető jogok gyakorlásától. Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek a bűnüldözési tevékenységek által érintett személyek jogaira és szabadságaira nézve. (19)E rendszerek bűnüldözési célú használatát ezért meg kell tiltani, kivéve három, kimerítő jelleggel felsorolt és szűken meghatározott helyzetet, amelyekben a használat feltétlenül szükséges egy olyan jelentős közérdek érvényesítéséhez, amelynek fontossága meghaladja a kockázatokat. Az ilyen helyzetek közé tartozik a bűncselekmények potenciális áldozatainak, köztük az eltűnt gyermekeknek a felkutatása; a természetes személyek életét vagy fizikai biztonságát fenyegető bizonyos veszélyek vagy a terrortámadás veszélye; valamint a 2002/584/IB tanácsi kerethatározatban említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés. A szabadságvesztés vagy szabadságelvonással járó intézkedés nemzeti joggal összhangban álló e küszöbértéke hozzájárul annak biztosításához, hogy a bűncselekmény kellően súlyos legyen ahhoz, hogy potenciálisan indokolhassa a „valós idejű” távoli biometrikus azonosító rendszerek használatát. Ezenfelül a 2002/584/IB tanácsi kerethatározatban felsorolt 32 bűncselekmény közül néhány a gyakorlatban valószínűleg relevánsabb lesz, mint mások, azaz a „valós idejű” távoli biometrikus azonosítás alkalmazása előreláthatóan rendkívül eltérő mértékben lesz szükséges és arányos eszköz a felsorolt különböző bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítésére, lokalizálására, azonosítására vagy büntetőeljárás alá vonására irányuló gyakorlati lépések tekintetében, és az alkalmazást befolyásolják majd a kár súlyosságának, valószínűségének és mértékének valószínűsíthető különbségei vagy az esetleges negatív következmények. (20)Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára megfelelő időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie. (21)A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt főszabályként a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Az ilyen sürgős helyzetekben a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben a lehető leghamarabb meg kell próbálnia megszerezni az engedélyt, ugyanakkor meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy az engedélyt korábban megkérje. (22)Helyénvaló továbbá – az e rendeletben meghatározott kimerítő keretek között – előírni, hogy az ilyen használat egy tagállam területén e rendelettel összhangban csak akkor és annyiban legyen lehetséges, ha és amennyiben az érintett tagállam úgy határozott, hogy nemzeti jogának részletes szabályaiban kifejezetten rendelkezik az ilyen használat engedélyezésének lehetőségéről. Következésképpen a tagállamok e rendelet értelmében továbbra is szabadon dönthetnek arról, hogy egyáltalán nem, vagy csak az e rendeletben meghatározott engedélyezett használat indoklására alkalmas egyes célkitűzések tekintetében rendelkeznek ilyen lehetőségről. (23)Az MI-rendszerek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata szükségszerűen magában foglalja biometrikus adatok feldolgozását. E rendelet azon, az EUMSZ 16. cikkén alapuló szabályait, amelyek – bizonyos kivételekre is figyelemmel – tiltják az ilyen használatot, lex specialisként kell alkalmazni az (EU) 2016/680 irányelv 10. cikkében foglalt, a biometrikus adatok kezelésére vonatkozó szabályok tekintetében, ennélfogva ezek kimerítően szabályozzák az ilyen használatot és az érintett biometrikus adatok kezelését. Ezért az ilyen használat és adatkezelés csak annyiban lehetséges, amennyiben összeegyeztethető az e rendeletben meghatározott kerettel, és nincs lehetőség arra, hogy e kereten kívül az illetékes hatóságok – amennyiben bűnüldözési célból járnak el – az (EU) 2016/680 irányelv 10. cikkében felsorolt okokból használják az ilyen rendszereket és kezeljék a kapcsolódó adatokat. Ebben az összefüggésben e rendeletnek nem célja, hogy jogalapot biztosítson a személyes adatoknak az (EU) 2016/680 irányelv 8. cikke szerinti kezeléséhez. A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési céloktól eltérő célokra történő, többek között az illetékes hatóságok általi használatára azonban nem terjedhet ki az e rendeletben meghatározott, a bűnüldözési célú használatra vonatkozó különös keret. Az ilyen, nem bűnüldözési célú használat ezért nem köthető az e rendelet szerinti, engedéllyel kapcsolatos követelményhez és a nemzeti jog azon hatályos, részletes szabályaihoz, amelyek e követelményt alkalmazzák. (24)A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célból történő, e rendeletben szabályozott használatával összefüggő adatkezelés kivételével –, ideértve azt az esetet is, amikor ezeket a rendszereket az illetékes hatóságok nyilvánosság számára hozzáférhető helyen, a bűnüldözéstől eltérő célokra használják, továbbra is meg kell felelnie az (EU) 2016/679 rendelet 9. cikkének (1) bekezdéséből, az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdéséből és adott esetben az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek. (25)Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az e rendelet 5. cikke (1) bekezdésének d) pontjában, (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy a rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását. (26)Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandóak az e rendelet 5. cikke (1) bekezdésének d) pontjában, valamint (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak. (27)A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba vagy helyezhetők üzembe, ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre nézve. A nagy kockázatúként azonosított MI-rendszereket azokra a rendszerekre kell korlátozni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és ez a korlátozás minimalizálja a nemzetközi kereskedelem bármely esetleges korlátozását, ha van ilyen. (28)Az MI-rendszerek káros hatással lehetnek az emberek egészségére és biztonságára, különösen akkor, ha ezek a rendszerek termékek alkatrészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, amelyek a termékek belső piacon való szabad mozgásának megkönnyítésében, valamint annak garantálásában állnak, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos, hogy a termék egésze által a digitális alkatrészei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelően meg lehessen előzni és csökkenteni. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük. A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. E jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentesség, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. E jogok mellett fontos kiemelni, hogy a gyermekek az Európai Unió Alapjogi Chartájának 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt (a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett) különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Az MI-rendszerek által – többek között a személyek egészségével és biztonságával összefüggésben – okozott károk súlyosságának értékelésekor a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban érvényesített alapvető jogot is figyelembe kell venni. (29)Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet, a 167/2013/EU európai parlamenti és tanácsi rendelet, a 168/2013/EU európai parlamenti és tanácsi rendelet, a 2014/90/EU európai parlamenti és tanácsi irányelv, az (EU) 2016/797 európai parlamenti és tanácsi irányelv, az (EU) 2018/858 európai parlamenti és tanácsi rendelet, az (EU) 2018/1139 európai parlamenti és tanácsi rendelet, valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek maguk is ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátoságai alapján, és anélkül, hogy beavatkozna az ott létrehozott meglévő irányítási, megfelelőségértékelési és végrehajtási mechanizmusokba és hatóságokba – figyelembe vegye a nagy kockázatú MI-rendszerekre az e rendeletben megállapított kötelező követelményeket, amikor ezen aktusok alapján a jövőben releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el. (30)Az olyan MI-rendszereket, amelyek bizonyos uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha a szóban forgó terméket a vonatkozó uniós harmonizációs jogszabály értelmében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Ilyen termékek különösen a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök és az in vitro diagnosztikai orvostechnikai eszközök.

(31)Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem feltétlenül jelenti azt, hogy az a termék, amelynek biztonsági alkatrésze az MI-rendszer, vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján „nagy kockázatúnak” minősül. Ez különösen igaz az (EU) 2017/745 európai parlamenti és tanácsi rendeletre és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre, amelyek a közepes kockázatú és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést. (32)Az önálló MI-rendszereket, vagyis azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkatrészei vagy maguk is termékek, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük alapján nagy kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, figyelembe véve a lehetséges kár súlyosságát és előfordulásának valószínűségét, és ha azokat számos, a rendeletben megadott, kifejezetten előre meghatározott területen használják. E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket a nagy kockázatú MI-rendszerek listájának jövőbeli módosításaira is előirányoztak. (33)A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Ez különösen releváns az életkor, az etnikai hovatartozás, a nem vagy a fogyatékosságok tekintetében. Ezért a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszereket nagy kockázatúnak kell minősíteni. Tekintettel az általuk jelentett kockázatokra, a távoli biometrikus azonosító rendszerek mindkét típusára a naplózási képességekkel és az emberi felügyelettel kapcsolatos különös követelményeknek kell vonatkozniuk. (34)Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés- és villamosenergia-ellátásban biztonsági alkatrészeként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében. (35)Az oktatásban vagy szakképzésben használt MI-rendszereket, különösen a személyek oktatási és szakképzési intézményekbe való bejutásának meghatározására vagy ilyen intézményekhez való hozzárendelésére, illetve az oktatásuk részeként vagy előfeltételeként vizsgáztatott személyek értékelésére használt MI-rendszereket nagy kockázatúnak kell tekinteni, mivel meghatározhatják az adott személy életének oktatási és szakmai pályáját, és ezáltal hatással lehetnek megélhetésük biztosítására való képességükre. Helytelen tervezés és használat esetén az ilyen rendszerek sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait. (36)Nagy kockázatúnak kell tekinteni azokat az MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, az előléptetéssel és felmentéssel kapcsolatos döntések meghozatala, valamint a munkával kapcsolatos szerződéses jogviszonyban lévő személyek részére történő feladatkiosztás, továbbá az ilyen személyek nyomon követése vagy értékelése során használnak, mivel ezek a rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését. A vonatkozó, munkával kapcsolatos szerződéses jogviszonyoknak magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen személyek főszabályként nem tekintendők e rendelet értelmében vett felhasználóknak. Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban részt vevő személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az e személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek hatással lehetnek a személyek adatvédelemhez és a magánélethez való jogaira is. (37)Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Különösen a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket kell nagy kockázatú MI-rendszereknek minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés korábbról eredő mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Figyelembe véve a hatás igen korlátozott mértékét és a piacon rendelkezésre álló alternatívákat, helyénvaló mentességet biztosítani a pontozásos hitelbírálat és a hitelképességi vizsgálat céljára használt olyan MI-rendszerek számára, amelyeket kis szolgáltatók saját maguk számára helyeznek üzembe. Azok a természetes személyek, akik állami támogatásért és szolgáltatásokért folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően ezen ellátásoktól és szolgáltatásoktól függenek, és az illetékes hatóságoknak kiszolgáltatott helyzetben vannak. Ha a hatóságok MI-rendszerek igénybevételével határozzák meg, hogy megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e ezeket az ellátásokat és szolgált