Opinjoni tal-Kumitat Ewropew tar-Reġjuni — Approċċ Ewropew għall-Intelliġenza Artifiċjali — Att dwar l-Intelliġenza Artifiċjali

(opinjoni riveduta)

(2022/C 97/12)

Relatur: Guido RINK (NL/PSE), Membru tal-Kunsill Eżekuttiv ta’ Emmen Dokumenti ta’ referenza: Komunikazzjoni tal-Kummissjoni lill-Parlament Ewropew, lill-Kunsill, lill-Kumitat Ekonomiku u Soċjali Ewropew u lill-Kumitat tar-Reġjuni – Inrawmu approċċ Ewropew għall-Intelliġenza Artifiċjali COM(2021) 205 Proposta għal Regolament tal-Parlament Ewropew u tal-Kunsill li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali (l-Att dwar l-Intelliġenza Artifiċjali) u li jemenda ċerti atti leġiżlattivi tal-Unjoni COM(2021) 206

I. RAKKOMANDAZZJONIJIET SABIEX JITRESSQU EMENDI

Emenda 1

Premessa 1

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Dan ir-Regolament għandu l-iskop li jtejjeb il-funzjonament tas-suq intern billi jistabbilixxi qafas legali uniformi b’mod partikolari għall-iżvilupp, il-kummerċjalizzazzjoni u l-użu tal-intelliġenza artifiċjali bi qbil mal-valuri tal-Unjoni. Dan ir-Regolament isegwi għadd ta’ raġunijiet prevalenti ta’ interess pubbliku, fosthom livell għoli ta’ protezzjoni tas-saħħa u s-sikurezza, u ta’ ħarsien tad-drittijiet fundamentali, u jiżgura l-moviment liberu transfruntier tal-prodotti u s-servizzi bbażati fuq l-AI, u b’hekk jevita li l-Istati Membri jimponu restrizzjonijiet fuq l-iżvilupp, il-kummerċjalizzazzjoni u l-użu tas-sistemi tal-AI, sakemm ma jkunux awtorizzati espliċitament minn dan ir-Regolament. Dan ir-Regolament għandu l-iskop li jtejjeb il-funzjonament tas-suq intern u jiggarantixxi d-drittijiet fundamentali taċ-ċittadini billi jistabbilixxi qafas legali uniformi b’mod partikolari għall-iżvilupp, il-kummerċjalizzazzjoni u l-użu tal-intelliġenza artifiċjali bi qbil mal-valuri tal-Unjoni. Dan ir-Regolament isegwi għadd ta’ raġunijiet prevalenti ta’ interess pubbliku, fosthom livell għoli ta’ protezzjoni tas-saħħa u s-sikurezza, u ta’ ħarsien tad-drittijiet fundamentali, u jiżgura l-moviment liberu transfruntier tal-prodotti u s-servizzi bbażati fuq l-AI, u b’hekk jevita li l-Istati Membri jimponu restrizzjonijiet fuq l-iżvilupp, il-kummerċjalizzazzjoni u l-użu tas-sistemi tal-AI, sakemm ma jkunux awtorizzati espliċitament minn dan ir-Regolament.

Raġuni

L-għan tar-referenza għad-drittijiet fundamentali huwa li tiġi enfasizzata r-rabta mal-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea.

Emenda 2

Premessa ġdida wara Premessa 6

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Id-definizzjoni tas-sistemi tal-AI hija proċess kontinwu, li jqis il-kuntest tal-AI, isegwi l-pass tal-iżviluppi soċjetali f’dan il-qasam u ma jinsiex ir-rabta bejn l-ekosistema ta’ eċċellenza u l-ekosistema ta’ fiduċja.

Raġuni

L-iżviluppi teknoloġiċi u dawk fil-qasam tal-IA jeħtieġu approċċ adattiv u li jevolvi. Din il-premessa għandha l-għan li tiċċara li d-definizzjoni tal-IA jeħtieġ li tevolvi maż-żmien u f’konformità mal-progress fis-sistemi u l-applikazzjonijiet tal-IA.

Emenda 3

Premessa 20

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Biex ikun żgurat li dawk is-sistemi jintużaw b’mod responsabbli u proporzjonat, hu importanti wkoll li jiġi stabbilit li, f’kull waħda minn dawk it-tliet sitwazzjonijiet elenkati b’mod eżawrjenti u definiti b’mod ristrett, jenħtieġ jitqiesu ċerti elementi, b’mod partikolari fir-rigward tan-natura tas-sitwazzjoni li twassal għat-talba u l-konsegwenzi tal-użu għad-drittijiet u għal-libertajiet tal-persuni kollha kkonċernati u s-salvagwardji u l-kundizzjonijiet previsti fl-użu. Barra minn hekk, jenħtieġ li l-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal limiti xierqa fiż-żmien u fl-ispazju, filwaqt li jitqiesu b’mod partikolari l-evidenza jew l-indikazzjonijiet dwar it-theddidiet, il-vittmi jew l-awtur. Jenħtieġ li l-bażi tad-data ta’ referenza tal-persuni tkun adattata għal kull każ ta’ użu f’kull waħda mit-tliet sitwazzjonijiet imsemmija hawn fuq. Biex ikun żgurat li dawk is-sistemi jintużaw b’mod responsabbli u proporzjonat, hu importanti wkoll li jiġi stabbilit li, f’kull waħda minn dawk it-tliet sitwazzjonijiet elenkati b’mod eżawrjenti u definiti b’mod ristrett, jenħtieġ jitqiesu ċerti elementi, b’mod partikolari fir-rigward tan-natura tas-sitwazzjoni li twassal għat-talba u l-konsegwenzi tal-użu għad-drittijiet u għal-libertajiet tal-persuni kollha kkonċernati u s-salvagwardji u l-kundizzjonijiet previsti fl-użu. L-awtoritajiet lokali u reġjonali kkonċernati għandhom jiġu kkonsultati qabel l-użu eċċezzjonali ta’ dawn is-sistemi. Barra minn hekk, jenħtieġ li l-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal limiti stretti fiż-żmien u fl-ispazju, filwaqt li jitqiesu b’mod partikolari l-evidenza jew l-indikazzjonijiet dwar it-theddidiet, il-vittmi jew l-awtur. Jenħtieġ li l-bażi tad-data ta’ referenza tal-persuni tkun adattata għal kull każ ta’ użu f’kull waħda mit-tliet sitwazzjonijiet imsemmija hawn fuq.

Raġuni

Għandu jkun hemm restrizzjonijiet għall-użu tas-sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali”.

Emenda 4

Premessa 21

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Jenħtieġ li kull użu tas-sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal awtorizzazzjoni espliċita u speċifika minn awtorità ġudizzjarja jew minn awtorità amministrattiva indipendenti ta’ Stat Membru. Jenħtieġ li , fil-prinċipju, din l-awtorizzazzjoni tinkiseb qabel l-użu, għajr f’sitwazzjonijiet ta’ urġenza debitament ġustifikati, jiġifieri, f’sitwazzjonijiet meta l-ħtieġa li jintużaw is-sistemi inkwistjoni tkun tali li tagħmilha effettivament u oġġettivament impossibbli li tinkiseb awtorizzazzjoni qabel ma jibda l-użu. F’sitwazzjonijiet ta’ urġenza bħal dawn, jenħtieġ li l-użu jkun ristrett għall-minimu assolut meħtieġ u jkun soġġett għal salvagwardji u għal kundizzjonijiet xierqa, kif determinati fil-liġi nazzjonali u speċifikati fil-kuntest ta’ kull każ individwali ta’ użu urġenti mill-awtorità tal-infurzar tal-liġi nnifisha. Barra minn hekk, jenħtieġ li f’sitwazzjonijiet bħal dawn l-awtorità tal-infurzar tal-liġi tfittex li tikseb awtorizzazzjoni mill-aktar fis possibbli, filwaqt li tipprovdi r-raġunijiet għalfejn ma setgħetx titlobha qabel. Jenħtieġ li kull użu tas-sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal awtorizzazzjoni espliċita u speċifika minn awtorità ġudizzjarja jew minn awtorità amministrattiva indipendenti ta’ Stat Membru. Jenħtieġ li din l-awtorizzazzjoni tinkiseb qabel l-użu, għajr f’sitwazzjonijiet ta’ urġenza debitament ġustifikati, jiġifieri, f’sitwazzjonijiet meta l-ħtieġa li jintużaw is-sistemi inkwistjoni tkun tali li tagħmilha effettivament u oġġettivament impossibbli li tinkiseb awtorizzazzjoni qabel ma jibda l-użu. Fi kwalunkwe każ, jenħtieġ li l-użu jkun ristrett għall-minimu assolut meħtieġ u jkun soġġett għal salvagwardji u għal kundizzjonijiet xierqa, kif determinati fil-liġi nazzjonali. Barra minn hekk, jenħtieġ li l-awtorità tal-infurzar tal-liġi tinforma minnufih lill-awtoritajiet lokali u reġjonali kkonċernati u tfittex li tikseb awtorizzazzjoni mingħand l-awtoritajiet kompetenti .

Raġuni

Ir-responsabbiltà politika u amministrattiva għall-ġestjoni u l-monitoraġġ tal-ispazji pubbliċi hija tal-awtoritajiet lokali u reġjonali. Għalhekk għandhom ikunu involuti b’mod adatt fl-implimentazzjoni ta’ sistemi bħal dawn fi spazji pubbliċi. F’sitwazzjonijiet ta’ emerġenza fejn ma tistax tkun mistennija konsultazzjoni minn qabel b’mod raġonevoli, l-awtorità lokali jew reġjonali kkonċernata għandha tiġi infurmata minnufih dwar l-implimentazzjoni ta’ sistemi bijometriċi fl-ispazju pubbliku.

Emenda 5

Premessa 39

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Is-sistemi tal-AI użati fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll tal-fruntieri jaffettwaw lil persuni li spiss ikunu f’pożizzjoni partikolarment vulnerabbli u li jiddependu fuq l-eżitu tal-azzjonijiet tal-awtoritajiet pubbliċi kompetenti. Għalhekk, l-eżattezza, in-natura nondiskriminatorja u t-trasparenza tas-sistemi tal-AI użati f’dawk il-kuntesti huma partikolarment importanti biex ikun żgurat ir-rispett tad-drittijiet fundamentali tal-persuni affettwati, b’mod partikolari d-drittijiet tagħhom ta’ moviment liberu, ta’ nondiskriminazzjoni, ta’ protezzjoni tal-ħajja privata u ta’ data personali, ta’ protezzjoni internazzjonali u ta’ amministrazzjoni tajba. Għalhekk jixraq jiġu kklassifikati li għandhom riskju kbir, dawk is-sistemi maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti inkarigati b’kompiti fl-oqsma tal-migrazzjoni, tal-ażil u tal-ġestjoni tal-kontroll fil-fruntieri bħal poligrafi u għodod simili jew biex jidentifikaw l-istat emozzjonali ta’ persuna fiżika; għall-valutazzjoni ta’ ċerti riskji ppreżentati minn persuni fiżiċi li jidħlu fit-territorju ta’ Stat Membru jew li japplikaw għal viża jew għal ażil; għall-verifika tal-awtentiċità tad-dokumenti rilevanti ta’ persuni fiżiċi; għall-assistenza lill-awtoritajiet pubbliċi kompetenti għall-eżaminar tal-applikazzjonijiet għal ażil, għal viża u għal permessi ta’ residenza u tal-ilmenti assoċjati fir-rigward tal-objettiv li tiġi stabbilita l-eliġibbiltà ta’ persuni fiżiċi li japplikaw għal status. Jenħtieġ li s-sistemi tal-AI fil-qasam tal-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri koperti b’dan ir-Regolament ikunu konformi mar-rekwiżiti proċedurali rilevanti stabbiliti mid-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill, mir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill u minn leġiżlazzjoni rilevanti oħra. Is-sistemi tal-AI użati fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll tal-fruntieri jaffettwaw lil persuni li spiss ikunu f’pożizzjoni partikolarment vulnerabbli u li jiddependu fuq l-eżitu tal-azzjonijiet tal-awtoritajiet pubbliċi kompetenti. Għalhekk, l-eżattezza, in-natura nondiskriminatorja u t-trasparenza tas-sistemi tal-AI użati f’dawk il-kuntesti huma partikolarment importanti biex ikun żgurat ir-rispett tad-drittijiet fundamentali tal-persuni affettwati, b’mod partikolari d-drittijiet tagħhom ta’ moviment liberu, ta’ nondiskriminazzjoni, ta’ protezzjoni tal-ħajja privata u ta’ data personali, ta’ protezzjoni internazzjonali u ta’ amministrazzjoni tajba. Għalhekk huwa indispensabbli li jiġu kklassifikati li għandhom riskju kbir, dawk is-sistemi maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti inkarigati b’kompiti fl-oqsma tal-migrazzjoni, tal-ażil u tal-ġestjoni tal-kontroll fil-fruntieri bħal poligrafi u għodod simili jew biex jidentifikaw l-istat emozzjonali ta’ persuna fiżika; għall-valutazzjoni ta’ ċerti riskji ppreżentati minn persuni fiżiċi li jidħlu fit-territorju ta’ Stat Membru jew li japplikaw għal viża jew għal ażil; għall-verifika tal-awtentiċità tad-dokumenti rilevanti ta’ persuni fiżiċi; għall-assistenza lill-awtoritajiet pubbliċi kompetenti għall-eżaminar tal-applikazzjonijiet għal ażil, għal viża u għal permessi ta’ residenza u tal-ilmenti assoċjati fir-rigward tal-objettiv li tiġi stabbilita l-eliġibbiltà ta’ persuni fiżiċi li japplikaw għal status. Jenħtieġ li s-sistemi tal-AI fil-qasam tal-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri koperti b’dan ir-Regolament ikunu konformi mar-rekwiżiti proċedurali rilevanti stabbiliti mid-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill, mir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill u minn leġiżlazzjoni rilevanti oħra.

Raġuni

Din l-emenda għandha l-għan li tenfasizza l-ħtieġa li s-sistemi tal-IA kkonċernati jkunu soġġetti għar-reġim imsaħħaħ applikabbli għas-sistemi tal-IA b’riskju kbir.

Emenda 6

Premessa 43

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Jenħtieġ li r-rekwiżiti applikabbli għas-sistemi tal-AI b’riskju kbir fir-rigward tal-kwalità tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-utenti, is-sorveljanza umana, u r-robustezza, l-eżattezza u ċ-ċibersigurtà. Dawk ir-rekwiżiti huma meħtieġa biex itaffu b’mod effettiv ir-riskji għas-saħħa u s-sikurezza u għad-drittijiet fundamentali, kif applikabbli fid-dawl tal-għan maħsub tas-sistema, u l-ebda miżura oħra anqas restrittiva għall-kummerċ ma tkun raġonevolment disponibbli, u b’hekk jiġu evitati restrizzjonijiet mhux ġustifikati għall-kummerċ. Jenħtieġ li r-rekwiżiti applikabbli għas-sistemi tal-AI b’riskju kbir fir-rigward tal-kwalità tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-utenti, is-sorveljanza umana, u r-robustezza, l-eżattezza u ċ-ċibersigurtà. Dawk ir-rekwiżiti huma meħtieġa biex itaffu b’mod effettiv ir-riskji għas-saħħa u s-sikurezza , is-sikurezza tad-data, id-drittijiet tal-konsumatur u d-drittijiet fundamentali, kif applikabbli fid-dawl tal-għan tas-sistema, u l-ebda miżura oħra anqas restrittiva għall-kummerċ ma tkun raġonevolment disponibbli, u b’hekk jiġu evitati restrizzjonijiet mhux ġustifikati għall-kummerċ. Jeħtieġ li l-persuni jew il-gruppi ta’ persuni fiżiċi li jiġu affettwati minn sistemi tal-AI b’riskju kbir li jitqiegħdu fis-suq tal-Unjoni jew li jiddaħħlu fis-servizz b’xi mod ieħor jiġu infurmati b’mod adatt, faċilment aċċessibbli u li jinftiehem, u li jkollhom aċċess għal informazzjoni espliċita, li hija aċċessibbli minnufih u disponibbli pubblikament li tispjega li huma soġġetti għal dawn is-sistemi.

Raġuni

Ir-rekwiżiti ta’ trasparenza u informazzjoni għall-fornituri u l-utenti jenħtieġ li jiġu estiżi għall-persuni jew il-gruppi ta’ persuni potenzjalment affettwati mill-użu ta’ sistemi tal-IA b’riskju kbir elenkati fl-Anness III għar-Regolament. B’“li jinftiehem” qed infissru, fost affarijiet oħra, “lingwa li tinftiehem u li hija aċċessibbli għall-utent, inklużi lingwi mitkellma u tas-sinjali”.

Emenda 7

Premessa ġdida wara Premessa 44

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Fis-sistema ta’ ġestjoni tal-kwalità tagħhom, il-fornituri tas-sistemi tal-AI ma għandhom jinkludu l-ebda miżura li tippromovi diskriminazzjoni mhux ġustifikata bbażata fuq il-ġeneru, l-oriġini, ir-reliġjon jew it-twemmin, id-diżabbiltà, l-età, l-orjentazzjoni sesswali jew kwalunkwe raġuni oħra.

Raġuni

Id-diskriminazzjoni illegali tirriżulta mill-azzjoni tal-bniedem. Il-fornituri tas-sistemi tal-IA jenħtieġ li joqogħdu lura milli jinkludu fis-sistema ta’ ġestjoni tal-kwalità tagħhom miżuri li jistgħu jinkoraġġixxu d-diskriminazzjoni.

Emenda 8

Premessa 47

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Biex tiġi indirizzata l-opaċità li tista’ tagħmel ċerti sistemi tal-AI inkomprensibbli għal persuni fiżiċi jew kumplessa wisq għalihom, jenħtieġ jintalab ċertu grad ta’ trasparenza fejn jidħlu s-sistemi tal-AI b’riskju kbir. Jenħtieġ li l-utenti jkunu jistgħu jinterpretaw l-output tas-sistema u jużawh kif xieraq. Għalhekk, jenħtieġ li mas-sistemi tal-AI b’riskju kbir jinhemżu dokumentazzjoni u struzzjonijiet rilevanti tal-użu b’informazzjoni konċiża u ċara, inkluż fir-rigward tar-riskji possibbli għad-drittijiet fundamentali u ta’ diskriminazzjoni, meta xieraq. Biex tiġi indirizzata l-opaċità li tista’ tagħmel ċerti sistemi tal-AI inkomprensibbli għal persuni fiżiċi jew l-awtoritajiet pubbliċi fil-livelli kollha ta’ gvern jew kumplessa wisq għalihom, jenħtieġ jintalab grad għoli ta’ trasparenza fejn jidħlu s-sistemi tal-AI b’riskju kbir. Jenħtieġ li l-utenti jkunu jistgħu jinterpretaw l-output tas-sistema u jużawh kif xieraq. Għalhekk, jenħtieġ li mas-sistemi tal-AI b’riskju kbir jinhemżu dokumentazzjoni u struzzjonijiet rilevanti tal-użu b’informazzjoni konċiża u ċara, inkluż fir-rigward tar-riskji possibbli għad-drittijiet fundamentali u ta’ diskriminazzjoni, meta xieraq.

Raġuni

Ir-responsabbiltà tal-iżviluppaturi tas-sistemi tal-IA b’riskju kbir tiddgħajjef mill-użu tal-kliem “ċertu grad ta’ trasparenza”.

Emenda 9

Premessa 48

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Jenħtieġ li s-sistemi tal-AI b’riskju kbir jitfasslu u jiġu żviluppati b’tali mod li l-persuni fiżiċi jkunu jistgħu jissorveljaw il-funzjonament tagħhom. Għal dan il-għan, jenħtieġ li l-fornitur tas-sistema jidentifika miżuri xierqa ta’ sorveljanza umana qabel ma titqiegħed fis-suq jew fis-servizz. B’mod partikolari, meta xieraq, jenħtieġ li dawn il-miżuri jkunu jiżguraw li s-sistema tkun soġġetta għal restrizzjonijiet operazzjonali inkorporati li ma jistgħux jitwarrbu mis-sistema nnifisha u li tkun risponsiva għall-operatur uman, u li l-persuni fiżiċi li lilhom tkun ġiet assenjata sorveljanza umana jkollhom il-kompetenza, it-taħriġ u l-awtorità meħtieġa biex jaqdu dak ir-rwol. Jenħtieġ li s-sistemi tal-AI b’riskju kbir jitfasslu u jiġu żviluppati b’tali mod li l-persuni fiżiċi u l-awtoritajiet pubbliċi fil-livelli kollha ta’ gvern ikunu jistgħu jissorveljaw il-funzjonament tagħhom. Għal dan il-għan, jenħtieġ li l-fornitur tas-sistema jidentifika miżuri xierqa ta’ sorveljanza umana qabel ma titqiegħed fis-suq jew fis-servizz. B’mod partikolari, meta xieraq, jenħtieġ li dawn il-miżuri jkunu jiżguraw li s-sistema tkun soġġetta għal restrizzjonijiet operazzjonali inkorporati li ma jistgħux jitwarrbu mis-sistema nnifisha u li tkun risponsiva għall-operatur uman, u li l-persuni fiżiċi li lilhom tkun ġiet assenjata sorveljanza umana jkollhom il-kompetenza, it-taħriġ u l-awtorità meħtieġa biex jaqdu dak ir-rwol.

Raġuni

Evidenti.

Emenda 10

Premessa 67

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Jenħtieġ li s-sistemi tal-AI b’riskju kbir jkollhom il-markatura CE biex jindikaw il-konformità tagħhom ma’ dan ir-Regolament b’tali mod li jkunu jistgħu jiċċaqilqu liberament fis-suq intern. Jenħtieġ li l-Istati Membri ma joħolqux xkiel mhux ġustifikat għat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir li jikkonformaw mar-rekwiżiti stabbiliti f’dan ir-Regolament u jkollhom il-markatura CE. Jenħtieġ li s-sistemi tal-AI b’riskju kbir jkollhom il-markatura CE biex jindikaw il-konformità tagħhom ma’ dan ir-Regolament b’tali mod li jkunu jistgħu jiċċaqilqu liberament fis-suq intern. Jenħtieġ li l-Istati Membri ma joħolqux xkiel għat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir li jikkonformaw mar-rekwiżiti stabbiliti f’dan ir-Regolament u jkollhom il-markatura CE. L-Istati Membri għandu jkollhom is-setgħa li jirregolaw il-prattiki u s-sistemi tal-AI b’riskju kbir biss abbażi ta’ interessi ta’ sigurtà pubblika u nazzjonali prevalenti u debitament ġustifikati.

Raġuni

Filwaqt li l-Istati Membri m’għandhomx jostakolaw l-applikazzjoni tar-Regolament, jenħtieġ li jżommu d-dritt li jirregolaw is-sistemi tal-IA b’riskju kbir jekk l-interessi ta’ sigurtà pubblika u nazzjonali jkunu f’riskju.

Emenda 11

Premessa 70

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Ċerti sistemi tal-AI maħsuba biex jinteraġixxu ma’ persuni fiżiċi jew biex jiġġeneraw xi kontenut, jistgħu joħolqu riskji speċifiċi ta’ impersonalizzazzjoni jew qerq irrispettivament minn jekk dawn jikkwalifikawx li għandhom riskju kbir jew le. Għalhekk, f’ċerti ċirkostanzi, jenħtieġ li l-użu ta’ dawn is-sistemi jkun soġġett għal obbligi speċifiċi tat-trasparenza mingħajr preġudizzju għar-rekwiżiti u l-obbligi tas-sistemi tal-AI b’riskju kbir. B’mod partikolari, il-persuni fiżiċi jenħtieġ jiġu notifikati li qed jinteraġixxu ma’ sistema tal-AI , sakemm dan ma jkunx ovvju miċ-ċirkostanzi u mill-kuntest tal-użu . Barra minn hekk, il-persuni fiżiċi jenħtieġ jiġu notifikati meta jkunu esposti għal sistema ta’ rikonoxximent tal-emozzjonijiet jew għal sistema ta’ kategorizzazzjoni bijometrika. Jenħtieġ li dawn l-informazzjoni u n-notifiki jiġu pprovduti b’formati aċċessibbli għall-persuni b’diżabbiltà. Barra minn hekk, l-utenti li jużaw sistema tal-AI biex jiġġeneraw jew jimmanipulaw kontenut ta’ immaġni, awdjo jew vidjo li sostanzjalment jixbah lil persuni, postijiet jew avvenimenti eżistenti b’tali mod li jkunu jidhru b’mod falz daqslikieku persuna awtentika, jenħtieġ jiżvelaw li l-kontenut inħoloq jew ġie mmanipulat b’mod artifiċjali billi jittikkettaw l-output tal-intelliġenza artifiċjali kif xieraq u jiżvelaw l-oriġini artifiċjali tiegħu. Ċerti sistemi tal-AI maħsuba biex jinteraġixxu ma’ persuni fiżiċi jew biex jiġġeneraw xi kontenut, jistgħu joħolqu riskji speċifiċi ta’ impersonalizzazzjoni jew qerq irrispettivament minn jekk dawn jikkwalifikawx li għandhom riskju kbir jew le. Għalhekk, jenħtieġ li l-użu ta’ dawn is-sistemi jkun soġġett għal obbligi speċifiċi tat-trasparenza mingħajr preġudizzju għar-rekwiżiti u l-obbligi tas-sistemi tal-AI b’riskju kbir. B’mod partikolari, il-persuni fiżiċi jenħtieġ jiġu notifikati b’mod sistematiku li qed jinteraġixxu ma’ sistema tal-AI. Barra minn hekk, il-persuni fiżiċi jenħtieġ jiġu notifikati meta jkunu esposti għal sistema ta’ rikonoxximent tal-emozzjonijiet jew għal sistema ta’ kategorizzazzjoni bijometrika. Jenħtieġ li dawn l-informazzjoni u n-notifiki jiġu pprovduti b’formati aċċessibbli għall-persuni b’diżabbiltà. Barra minn hekk, l-utenti li jużaw sistema tal-AI biex jiġġeneraw jew jimmanipulaw kontenut ta’ immaġni, awdjo jew vidjo li sostanzjalment jixbah lil persuni, postijiet jew avvenimenti eżistenti b’tali mod li jkunu jidhru b’mod falz daqslikieku persuna awtentika, jenħtieġ jiżvelaw li l-kontenut inħoloq jew ġie mmanipulat b’mod artifiċjali billi jittikkettaw l-output tal-intelliġenza artifiċjali kif xieraq u jiżvelaw l-oriġini artifiċjali tiegħu.

Raġuni

M’għandha ssir l-ebda eċċezzjoni għall-obbligu ta’ trasparenza u ta’ informazzjoni meta persuni fiżiċi jinteraġixxu mas-sistemi tal-IA.

Emenda 12

Premessa 76

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Biex tiġi ffaċilitata implimentazzjoni bla xkiel, effettiva u armonizzata ta’ dan ir-Regolament, jenħtieġ jiġi stabbilit Bord Ewropew għall-Intelliġenza Artifiċjali. Jenħtieġ li l-Bord ikun responsabbli għal għadd ta’ kompiti konsultattivi, inkluż il-ħruġ ta’ opinjonijiet, rakkomandazzjonijiet, pariri jew gwida dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, inkluż dwar speċifikazzjonijiet tekniċi jew standards eżistenti rigward ir-rekwiżiti stabbiliti f’dan ir-Regolament u l-għoti ta’ pariri u ta’ assistenza lill-Kummissjoni dwar kwistjonijiet speċifiċi relatati mal-intelliġenza artifiċjali. Biex tiġi ffaċilitata implimentazzjoni bla xkiel, effettiva u armonizzata ta’ dan ir-Regolament, jenħtieġ jiġi stabbilit Bord Ewropew għall-Intelliġenza Artifiċjali. Jenħtieġ li l-Bord ikun responsabbli għal għadd ta’ kompiti konsultattivi, inkluż il-ħruġ ta’ opinjonijiet, rakkomandazzjonijiet, pariri jew gwida dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, inkluż dwar speċifikazzjonijiet tekniċi jew standards eżistenti rigward ir-rekwiżiti stabbiliti f’dan ir-Regolament u l-għoti ta’ pariri u ta’ assistenza lill-Kummissjoni dwar kwistjonijiet speċifiċi relatati mal-intelliġenza artifiċjali. Il-kompożizzjoni tal-Bord Ewropew għall-Intelliġenza Artifiċjali għandha tirrifletti l-interessi tas-soċjetà Ewropea u tirrispetta l-bilanċ bejn il-ġeneri.

Raġuni

Il-Bord Ewropew għall-Intelliġenza Artifiċjali għandu jirrifletti b’mod adatt l-interessi ewlenin tas-soċjetà Ewropea. Dawn jinkludu l-interessi fil-qasam tad-drittijiet tal-bniedem, tal-klima u tal-effiċjenza enerġetika tas-sistemi tal-IA, tas-sigurtà, tal-inklużjoni soċjali, tas-saħħa, eċċ. Il-bilanċ bejn il-ġeneri huwa kundizzjoni neċessarja biex tiġi żgurata d-diversità fl-attivitajiet ta’ konsulenza, għoti ta’ gwida, eċċ.

Emenda 13

Premessa 77

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR L-Istati Membri jaqdu rwol ewlieni fl-applikazzjoni u fl-infurzar ta’ dan ir-Regolament. F’dan ir-rigward, jenħtieġ li kull Stat Membru jaħtar awtorità nazzjonali kompetenti waħda jew aktar għall-fini tas-superviżjoni tal-applikazzjoni u tal-implimentazzjoni ta’ dan ir-Regolament. Biex tiżdied l-effiċjenza tal-organizzazzjoni fuq in-naħa tal-Istati Membri u biex jiġi stabbilit punt ta’ kuntatt uffiċjali għall-pubbliku u għal kontropartijiet oħrajn fil-livelli tal-Istati Membri u tal-Unjoni, jenħtieġ li f’kull Stat Membru tinħatar awtorità nazzjonali waħda bħala awtorità superviżorja nazzjonali. L-Istati Membri jaqdu rwol ewlieni fl-applikazzjoni u fl-infurzar ta’ dan ir-Regolament. F’dan ir-rigward, jenħtieġ li kull Stat Membru jaħtar awtorità nazzjonali kompetenti waħda jew aktar għall-fini tas-superviżjoni tal-applikazzjoni u tal-implimentazzjoni ta’ dan ir-Regolament. Biex tiżdied l-effiċjenza tal-organizzazzjoni fuq in-naħa tal-Istati Membri u biex jiġi stabbilit punt ta’ kuntatt uffiċjali għall-pubbliku u għal kontropartijiet oħrajn fil-livelli tal-Istati Membri u tal-Unjoni, jenħtieġ li f’kull Stat Membru tinħatar awtorità nazzjonali waħda bħala awtorità superviżorja nazzjonali. L-awtoritajiet lokali u reġjonali għandhom jiġu fdati bil-kompiti ta’ monitoraġġ jew ta’ implimentazzjoni fejn Stat Membru jqis li dan ikun adatt.

Raġuni

Għall-finijiet tal-applikabbiltà tar-Regolament u l-arranġamenti superviżorji u ta’ implimentazzjoni tiegħu, Stat Membru għandu jingħata s-setgħa li jafda kompiti ta’ monitoraġġ jew ta’ implimentazzjoni lill-awtoritajiet lokali u reġjonali fejn meħtieġ u possibbli.

Emenda 14

Premessa 79

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Biex ikun żgurat infurzar xieraq u effettiv tar-rekwiżiti u l-obbligi stabbiliti b’dan ir-Regolament, bħal leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li s-sistema tas-sorveljanza tas-suq u tal-konformità tal-prodotti stabbilita bir-Regolament (UE) 2019/1020 tapplika fl-intier tagħha. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet jew il-korpi pubbliċi nazzjonali, li jissorveljaw l-applikazzjoni tal-liġi tal-Unjoni li tipproteġi d-drittijiet fundamentali, inkluż il-korpi tal-ugwaljanza, jenħtieġ ikollhom ukoll aċċess għal kull dokumentazzjoni maħluqa skont dan ir-Regolament. Biex ikun żgurat infurzar xieraq u effettiv tar-rekwiżiti u l-obbligi stabbiliti b’dan ir-Regolament, bħal leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li s-sistema tas-sorveljanza tas-suq u tal-konformità tal-prodotti stabbilita bir-Regolament (UE) 2019/1020 tapplika fl-intier tagħha. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet jew il-korpi pubbliċi nazzjonali, li jissorveljaw l-applikazzjoni tal-liġi tal-Unjoni li tipproteġi d-drittijiet fundamentali, inkluż il-korpi tal-ugwaljanza , u jekk ikun hemm bżonn l-awtoritajiet lokali u reġjonali, jenħtieġ ikollhom ukoll aċċess għal kull dokumentazzjoni maħluqa skont dan ir-Regolament.

Raġuni

Din l-emenda għandha l-għan li tqis l-istrutturi differenti ta’ governanza fl-Istati Membri tal-UE.

Emenda 15

Premessa 83

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Biex tkun żgurata kooperazzjoni fiduċjuża u kostruttiva tal-awtoritajiet kompetenti fil-livell tal-Unjoni u nazzjonali, jenħtieġ li l-partijiet kollha involuti fl-applikazzjoni ta’ dan ir-Regolament jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti tagħhom. Biex tkun żgurata kooperazzjoni fiduċjuża u kostruttiva tal-awtoritajiet kompetenti fil-livell tal-Unjoni, nazzjonali, reġjonali u lokali , jenħtieġ li l-partijiet kollha involuti fl-applikazzjoni ta’ dan ir-Regolament jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti tagħhom.

Raġuni

Din l-emenda għandha l-għan li tqis l-istrutturi differenti ta’ governanza fl-Istati Membri tal-UE.

Emenda 16

Titolu I, Artikolu 3 – Definizzjonijiet, punt (1)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR “sistema tal-intelliġenza artifiċjali” (sistema tal-AI) tfisser software li jiġi żviluppat b’teknika u b’approċċ wieħed jew aktar minn fost dawk elenkati fl-Anness I u li jista’, għal sett partikolari ta’ objettivi definiti mill-bniedem, jiġġenera outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet, jew deċiżjonijiet li jinfluwenzaw l-ambjenti li jinteraġixxu magħhom; “sistema tal-intelliġenza artifiċjali” (sistema tal-AI) tfisser software li jiġi żviluppat b’teknika u b’approċċ wieħed jew aktar minn fost dawk elenkati b’mod mhux eżawrjenti fl-Anness I , li huwa relatat ma’ prattiki soċjali, l-identità u l-kultura, u li jista’, għal sett partikolari ta’ objettivi definiti mill-bniedem, u abbażi tal-osservazzjoni tal-ambjent tiegħu permezz tal-ġbir tad-data, l-interpretazzjoni tad-data miġbura, li tista’ tkun strutturata jew le, il-ġestjoni ta’ għarfien jew l-ipproċessar tal-informazzjoni li tinsilet minn din id-data, jiġġenera outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet, jew deċiżjonijiet li jinfluwenzaw l-ambjenti li jinteraġixxu magħhom;

Raġuni

Sistema tal-IA tikkonsisti f’taħlita ta’ elementi tekniċi li jorbtu d-data, l-algoritmi u l-poter tal-kalkolu ma’ prattiki soċjali, mas-soċjetà, mal-identità u mal-kultura. Id-definizzjoni ta’ tali sett soċjotekniku dinamiku għandha għalhekk tibqa’ valida fil-futur u tiġi aġġornata b’mod regolari biex tirrifletti b’mod preċiż l-impatt kontinwu dejjem jikber tal-IA fuq is-soċjetà, filwaqt li jiġu identifikat sfidi u opportunitajiet relatati mal-IA u li qed jinbidlu b’mod rapidu, inkluża r-rabta bejn il-ġestjoni tal-għarfien u l-IA. F’dan il-kuntest, algoritmu żviluppat minn algoritmu ieħor għandu jkun ukoll soġġett għar-Regolament.

Emenda 17

Artikolu 5(1)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-prattiki tal-intelliġenza artifiċjali li ġejjin għandhom ikunu pprojbiti: Il-prattiki tal-intelliġenza artifiċjali li ġejjin għandhom ikunu pprojbiti: (a) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistema tal-AI li tuża tekniki subliminali lil hinn mill-konxju ta’ persuna biex materjalment tfixkel l-imġiba ta’ persuna b’mod li tikkawża jew li aktarx tikkawża dannu fiżiku jew psikoloġiku lil dik il-persuna jew lil persuna oħra; (a) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistema tal-AI li tuża tekniki subliminali lil hinn mill-konxju ta’ persuna biex materjalment tfixkel l-imġiba ta’ persuna b’mod li tikkawża jew li aktarx tikkawża dannu fiżiku jew psikoloġiku lil dik il-persuna jew lil persuna oħra , tikser, jew potenzjalment tikser, id-drittijiet fundamentali ta’ persuna jew grupp ta’ persuni oħra, inklużi s-saħħa u s-sikurezza fiżiċi jew psikoloġiċi tagħhom, ikollha, jew potenzjalment ikollha, effett detrimentali fuq il-konsumaturi, inkluż telf monetarju jew diskriminazzjoni ekonomiku, jew thedded, jew potenzjalment thedded, id-demokrazija u l-istat tad-dritt ; (b) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistema tal-AI li tisfrutta xi waħda mill-vulnerabbiltajiet ta’ grupp speċifiku ta’ persuni minħabba l-età, diżabbiltà fiżika jew mentali tagħhom, biex tfixkel materjalment l-imġiba ta’ persuna li tappartjeni għal dak il-grupp b’mod li tikkawża jew li aktarx tikkawża dannu fiżiku jew psikoloġiku lil dik il-persuna jew lil persuna oħra; (b) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistema tal-AI li tisfrutta xi waħda mill-vulnerabbiltajiet ta’ grupp speċifiku ta’ persuni minħabba l-età, diżabbiltà fiżika jew mentali tagħhom, biex tfixkel materjalment l-imġiba ta’ persuna li tappartjeni għal dak il-grupp b’mod li tikkawża jew li aktarx tikkawża dannu fiżiku jew psikoloġiku lil dik il-persuna jew lil persuna oħra; (c) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistemi tal-AI mill-awtoritajiet pubbliċi jew f’isimhom għall-evalwazzjoni jew għall-klassifikazzjoni tal-affidabbiltà ta’ persuni fiżiċi f’ċertu perjodu ta’ żmien abbażi tal-imġiba soċjali tagħhom jew tal-karatteristiċi personali jew tal-personalità magħrufa jew previsti , bil-punteġġ soċjali li jwassal għal wieħed minn dawn li ġejjin jew għat-tnejn li huma: (i) trattament detrimentali jew mhux favorevoli ta’ ċerti persuni fiżiċi jew ta’ gruppi sħaħ tagħhom f’kuntesti soċjali li mhumiex relatati mal-kuntesti li fihom id-data kienet oriġinarjament iġġenerata jew inġabret; (ii) trattament detrimentali jew mhux favorevoli ta’ ċerti persuni fiżiċi jew ta’ gruppi sħaħ tagħhom li ma jkunx ġustifikat jew li jkun sproporzjonat għall-imġiba soċjali tagħhom jew għall-gravità tagħha; (c) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistemi tal-AI mill-awtoritajiet pubbliċi jew f’isimhom għall-evalwazzjoni jew għall-klassifikazzjoni tal-affidabbiltà ta’ persuni fiżiċi jew gruppi ta’ persuni f’ċertu perjodu ta’ żmien abbażi tal-imġiba soċjali tagħhom jew tal-karatteristiċi personali jew tal-personalità magħrufa jew previsti , li jwassal għal punteġġ soċjali bbażat fuq l-AI għal skopijiet ġenerali; (d) l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi, sakemm u sa fejn tali użu jkun strettament meħtieġ għal wieħed mill-objettivi li ġejjin: (i) it-tfittxija mmirata għal vittmi potenzjali speċifiċi ta’ reati, inkluż tfal neqsin; (ii) il-prevenzjoni ta’ theddida speċifika, sostanzjali u imminenti għall-ħajja jew għas-sikurezza fiżika ta’ persuni fiżiċi jew ta’ attakk terroristiku; (iii) is-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awtur jew ta’ persuna suspettata ta’ reat kriminal msemmi fl-Artikolu 2(2) tad-Deċiżjoni Qafas tal-Kunsill 2002/584/JHA ([62]) u punibbli fl-Istat Membru kkonċernat b’piena li ċċaħħad il-libertà jew b’ordni ta’ detenzjoni għal perjodu massimu ta’ mill-inqas tliet snin, kif determinat bil-liġi ta’ dak l-Istat Membru. (d) it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistemi tal-AI mill-awtoritajiet pubbliċi jew f’isimhom, bl-applikazzjoni ta’ punteġġ soċjali bbażat fuq l-AI u mingħajr sorveljanza umana għal skopijiet speċifiċi, jiġifieri, f’kuntesti soċjali relatati mal-kuntesti li fihom id-data tkun ġiet iġġenerata jew miġbura oriġinarjament, għall-evalwazzjoni jew il-klassifikazzjoni tal-livell ta’ affidabbiltà ta’ persuni fiżiċi jew gruppi ta’ persuni fuq ċertu perjodu ta’ żmien abbażi tal-imġiba soċjali tagħhom jew tal-karatterisitiċi personali jew tal-personalità tagħhom magħrufin jew previsti, b’mod li l-punteġġ soċjali jwassal għal trattament dannuż jew sfavorevoli ta’ ċerti persuni fiżiċi jew ta’ gruppi sħaħ tagħhom li mhux ġustifikat jew huwa sproporzjonat meta mqabbel mal-imġiba soċjali tagħhom jew il-gravità tagħha; (e) l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi, sakemm u sa fejn tali użu jkun strettament meħtieġ għal wieħed mill-objettivi li ġejjin: (i) it-tfittxija mmirata għal vittmi potenzjali speċifiċi ta’ reati, inkluż tfal neqsin; (ii) il-prevenzjoni ta’ theddida speċifika, sostanzjali u imminenti għall-ħajja jew għas-sikurezza fiżika ta’ persuni fiżiċi jew ta’ attakk terroristiku; (iii) is-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awtur jew ta’ persuna suspettata ta’ reat kriminal msemmi fl-Artikolu 2(2) tad-Deċiżjoni Qafas tal-Kunsill 2002/584/JHA ([62]) u punibbli fl-Istat Membru kkonċernat b’piena li ċċaħħad il-libertà jew b’ordni ta’ detenzjoni għal perjodu massimu ta’ mill-inqas tliet snin, kif determinat bil-liġi ta’ dak l-Istat Membru.

Raġuni

It-tekniki subliminali b’mod ġenerali jistgħu jheddu l-libertà, id-drittijiet tal-bniedem u b’hekk il-funzjonament tal-istat tad-dritt demokratiku. Fl-istess ħin, l-intelliġenza artifiċjali tista’ tipperikola d-drittijiet tal-konsumatur. L-għan taż-żidiet proposti huwa li jiċċaraw dan il-punt.

Fir-rigward tal-għoti ta’ punteġġ soċjali mill-awtoritajiet pubbliċi jew f’isimhom, dan għandu jiġi pprojbit jekk jitwettaq għal skopijiet ġenerali, minħabba l-perikli li jirriżultaw minn tali prattiki, kif spjegat fil-Premessa 17. Jenħtieġ li l-ġenerazzjoni jew il-ġbir ta’ data għal finijiet speċifiċi jkunu permessi biss b’sorveljanza umana u dment li ma jiksrux id-dritt għad-dinjità u n-nondiskriminazzjoni u l-valuri tal-ugwaljanza u l-ġustizzja.

Emenda 18

Artikolu 5(4)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Stat Membru jista’ jiddeċiedi li jipprevedi l-possibbiltà li jawtorizza għalkollox jew parzjalment l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi skont il-limiti u l-kundizzjonijiet elenkati fil-punt (d) tal-paragrafu 1 u fil-paragrafi 2 u 3. Fil-liġi nazzjonali tiegħu, dak l-Istat Membru għandu jistabbilixxi r-regoli dettaljati meħtieġa għat-talba, il-ħruġ u l-eżerċitar tal-awtorizzazzjonijiet imsemmija fil-paragrafu 3, kif ukoll għas-superviżjoni relatata magħhom. Dawk ir-regoli għandhom jispeċifikaw ukoll b’rabta ma’ liema objettivi elenkati fil-punt (d) tal-paragrafu 1, inkluż liema reati kriminali msemmija fil-punt (iii) tiegħu, l-awtoritajiet kompetenti jistgħu jkunu awtorizzati jużaw dawk is-sistemi għall-finijiet ta’ infurzar tal-liġi. Stat Membru jista’ jiddeċiedi li jipprevedi l-possibbiltà li jawtorizza għalkollox jew parzjalment l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi skont il-limiti u l-kundizzjonijiet elenkati fil-punt (d) tal-paragrafu 1 u fil-paragrafi 2 u 3. Fil-liġi nazzjonali tiegħu, dak l-Istat Membru għandu jistabbilixxi r-regoli dettaljati meħtieġa għat-talba, il-ħruġ u l-eżerċitar tal-awtorizzazzjonijiet imsemmija fil-paragrafu 3, kif ukoll għas-superviżjoni relatata magħhom. Dawk ir-regoli għandhom jispeċifikaw ukoll b’rabta ma’ liema objettivi elenkati fil-punt (d) tal-paragrafu 1, inkluż liema reati kriminali msemmija fil-punt (iii) tiegħu, l-awtoritajiet kompetenti jistgħu jkunu awtorizzati jużaw dawk is-sistemi għall-finijiet ta’ infurzar tal-liġi. Dawn ir-regoli jistabbilixxu wkoll l-arranġamenti għall-informazzjoni u l-konsultazzjoni tal-awtoritajiet lokali u reġjonali kkonċernati. Din il-konsultazzjoni għandha ssir qabel l-użu eċċezzjonali ta’ dawn is-sistemi fi spazji pubbliċi. F’sitwazzjonijiet ta’ emerġenza fejn ma tistax tkun mistennija konsultazzjoni minn qabel b’mod raġonevoli, l-awtorità lokali jew reġjonali kkonċernata għandha tiġi infurmata minnufih dwar l-implimentazzjoni tal-prattika tal-AI inkwistjoni.

Raġuni

Ir-responsabbiltà politika u amministrattiva għall-ġestjoni u l-monitoraġġ tal-ispazji pubbliċi hija tal-awtoritajiet lokali u reġjonali. Għalhekk jenħtieġ li jkollhom vuċi qabel l-użu ta’ tali prattiki tal-IA u jkunu infurmati kif xieraq dwar l-użu eċċezzjonali ta’ sistemi tal-IA għal skopijiet ta’ infurzar tal-liġi.

F’sitwazzjonijiet ta’ emerġenza fejn ma tistax tkun mistennija konsultazzjoni minn qabel b’mod raġonevoli, l-awtorità lokali jew reġjonali kkonċernata għandha tiġi infurmata minnufih

Emenda 19

Artikolu 13

Test propost mill-Kummissjoni Emenda tal-KtR Artikolu 13 Trasparenza u għoti tal-informazzjoni lill-utenti Artikolu 13a – Trasparenza u għoti tal-informazzjoni lill-utenti 1. Is-sistemi tal-AI b’riskju kbir għandhom jiġu disinjati u żviluppati b’tali mod li jkun żgurat li t-tħaddim tagħhom ikun trasparenti biżżejjed biex l-utenti jkunu jistgħu jinterpretaw l-output tas-sistema u jużawh kif xieraq. Għandhom jiġu żgurati tip u grad xierqa ta’ trasparenza, biex tinkiseb konformità mal-obbligi rilevanti tal-utent u tal-fornitur stabbiliti fil-Kapitolu 3 ta’ dan it-Titolu. 1. Is-sistemi tal-AI b’riskju kbir għandhom jiġu disinjati u żviluppati b’tali mod li jkun żgurat li t-tħaddim tagħhom ikun trasparenti biżżejjed biex l-utenti jkunu jistgħu jinterpretaw l-output tas-sistema u jużawh kif xieraq. Għandhom jiġu żgurati tip u grad xierqa ta’ trasparenza u ta’ spjegazzjoni komprensibbli, biex tinkiseb konformità mal-obbligi rilevanti tal-utent u tal-fornitur stabbiliti fil-Kapitolu 3 ta’ dan it-Titolu. Din l-ispjegazzjoni għandha tingħata mill-inqas bil-lingwa tal-pajjiż fejn tiġi implimentata s-sistema tal-AI. 2. Mas-sistemi tal-AI b’riskju kbir għandhom jingħataw struzzjonijiet għall-użu b’format diġitali xieraq jew b’xi format ieħor li jinkludu informazzjoni konċiża, kompluta, korretta u ċara li tkun rilevanti, aċċessibbli u li tinftiehem mill-utenti. 2. Mas-sistemi tal-AI b’riskju kbir għandhom jingħataw struzzjonijiet għall-użu komprensibbli u aċċessibbli għal kulħadd, b’format diġitali xieraq jew b’xi format ieħor li jinkludu informazzjoni konċiża, kompluta, korretta u ċara li tkun rilevanti, aċċessibbli u li tinftiehem mill-utenti. 3. L-informazzjoni msemmija fil-paragrafu 2 għandha tispeċifika: 3. L-informazzjoni msemmija fil-paragrafu 2 għandha tispeċifika: (a) l-identità u d-dettalji ta’ kuntatt tal-fornitur u, meta applikabbli, tar-rappreżentant awtorizzat tiegħu; (a) l-identità u d-dettalji ta’ kuntatt tal-fornitur u, meta applikabbli, tar-rappreżentant awtorizzat tiegħu; (b) il-karatteristiċi, il-kapaċitajiet u l-limitazzjonijiet tal-prestazzjoni tas-sistema tal-AI b’riskju kbir, inkluż: (b) il-karatteristiċi, il-kapaċitajiet u l-limitazzjonijiet tal-prestazzjoni tas-sistema tal-AI b’riskju kbir, inkluż: (i) l-għan maħsub tagħha; (i) l-għan maħsub tagħha; (ii) il-livell ta’ eżattezza, robustezza u ċibersigurtà msemmi fl-Artikolu 15 li abbażi tiegħu tkun ġiet ittestjata u vvalidata s-sistema tal-AI b’riskju kbir u li jista’ jkun mistenni; u kull ċirkostanza magħrufa u prevedibbli li tista’ tħalli impatt fuq dak il-livell mistenni ta’ eżattezza, robustezza u ċibersigurtà; (ii) il-livell ta’ eżattezza (espress fil-metrika adattata għall-valutazzjoni tal-mudelli) , robustezza u ċibersigurtà msemmi fl-Artikolu 15 li abbażi tiegħu tkun ġiet ittestjata u vvalidata s-sistema tal-AI b’riskju kbir u li jista’ jkun mistenni; u kull ċirkostanza magħrufa u prevedibbli li tista’ tħalli impatt fuq dak il-livell mistenni ta’ eżattezza, robustezza u ċibersigurtà; (iii) kwalunkwe ċirkostanza magħrufa jew prevedibbli, relatata mal-użu tas-sistema tal-AI b’riskju kbir f’konformità mal-għan maħsub tagħha jew f’kundizzjonijiet ta’ użu ħażin raġonevolment prevedibbli, li tista’ twassal għal riskji għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali; (iii) kwalunkwe ċirkostanza magħrufa jew prevedibbli, relatata mal-użu tas-sistema tal-AI b’riskju kbir f’konformità mal-għan maħsub tagħha jew f’kundizzjonijiet ta’ użu ħażin raġonevolment prevedibbli, li tista’ twassal għal riskji għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali; (iv) il-prestazzjoni tagħha b’rabta mal-persuni jew il-gruppi ta’ persuni li fuqhom hi maħsuba li tintuża s-sistema; (iv) il-prestazzjoni tagħha b’rabta mal-persuni jew il-gruppi ta’ persuni li fuqhom hi maħsuba li tintuża s-sistema; (v) meta jkun xieraq, l-ispeċifikazzjonijiet għad-data tal-input, jew kull informazzjoni rilevanti oħra f’termini tas-settijiet tad-data għal taħriġ, validazzjoni u ttestjar użati, filwaqt li jitqies l-għan maħsub tas-sistema tal-AI. (v) meta jkun xieraq, l-ispeċifikazzjonijiet għad-data tal-input, jew kull informazzjoni rilevanti oħra f’termini tas-settijiet tad-data għal taħriġ, validazzjoni u ttestjar użati, filwaqt li jitqies l-għan maħsub tas-sistema tal-AI. (vi) il-parametri użati biex jiġi aġġustat il-mudell u l-miżuri meħuda biex jiġi evitat aġġustament żejjed jew aġġustament insuffiċjenti. (c) it-tibdiliet fis-sistema tal-AI b’riskju kbir u fil-prestazzjoni tagħha li jkunu ġew determinati minn qabel mill-fornitur waqt il-valutazzjoni inizjali tal-konformità, jekk ikun hemm; (c) it-tibdiliet fis-sistema tal-AI b’riskju kbir u fil-prestazzjoni tagħha li jkunu ġew determinati minn qabel mill-fornitur waqt il-valutazzjoni inizjali tal-konformità, jekk ikun hemm; (d) il-miżuri tas-sorveljanza umana msemmija fl-Artikolu 14, inkluż il-miżuri tekniċi stabbiliti biex jiffaċilitaw l-interpretazzjoni tal-outputs tas-sistemi tal-AI mill-utenti; (d) il-miżuri tas-sorveljanza umana msemmija fl-Artikolu 14, inkluż il-miżuri tekniċi stabbiliti biex jiffaċilitaw l-interpretazzjoni tal-outputs tas-sistemi tal-AI mill-utenti; (e) il-ħajja mistennija tas-sistema tal-AI b’riskju kbir u kull miżura ta’ manutenzjoni u kura meħtieġa biex ikun żgurat il-funzjonament xieraq ta’ dik is-sistema tal-AI, inkluż fir-rigward tal-aġġornamenti tas-software. (e) il-ħajja mistennija tas-sistema tal-AI b’riskju kbir u kull miżura ta’ manutenzjoni u kura meħtieġa biex ikun żgurat il-funzjonament xieraq ta’ dik is-sistema tal-AI, inkluż fir-rigward tal-aġġornamenti tas-software. Artikolu 13b – Trasparenza u informazzjoni għall-persuni kkonċernati Il-persuni jew il-gruppi ta’ persuni li x’aktarx ikunu soġġetti għal sistema tal-AI b’riskju kbir għandhom jiġu infurmati espliċitament, b’mod adatt, faċilment aċċessibbli u li jinftiehem, u għandu jkollhom aċċess għal informazzjoni espliċita, aċċessibbli minnufih u pubblikament disponibbli.

Raġuni

Sabiex tissaħħaħ l-ekosistema ta’ fiduċja, l-istruzzjonijiet għall-użu ta’ sistemi tal-IA b’riskju kbir għandhom ikunu disponibbli għall-pubbliku. Dawn l-istruzzjonijiet għandhom jitfasslu b’mod li jinftiehem, u bil-lingwa tal-pajjiż fejn tintuża s-sistema tal-IA.

Għall-finijiet ta’ trasparenza u komprensibbiltà tal-algoritmi, jenħtieġ li jkun possibbli li jiġi spjegat liema parametri ntużaw biex jirregolaw il-mudell u liema miżuri ttieħdu biex jiġi evitat aġġustament żejjed jew aġġustament insuffiċjenti.

L-Artikolu 13b jirregola l-obbligu ta’ trasparenza u ta’ informazzjoni għall-persuni li jinteraġixxu mas-sistemi tal-IA jew li jistgħu jiġu affettwati minn sistema tal-IA.

Emenda 20

Artikolu 14(4)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-miżuri msemmijin fil-paragrafu 3 għandhom jippermettu lill-individwi li lilhom tiġi assenjata s-sorveljanza umana jagħmlu dan li ġej, kif xieraq għaċ-ċirkostanzi: Il-miżuri msemmijin fil-paragrafu 3 għandhom jippermettu lill-individwi li lilhom tiġi assenjata s-sorveljanza umana jagħmlu dan li ġej, kif xieraq għaċ-ċirkostanzi: (a) jifhmu bis-sħiħ il-kapaċitajiet u l-limitazzjonijiet tas-sistema tal-AI b’riskju kbir u jkunu jistgħu jimmonitorjaw kif xieraq it-tħaddim tagħha, biex ikunu jistgħu jiġu identifikati u indirizzati sinjali ta’ anomaliji, diżfunzjonijiet u prestazzjoni mhux mistennija mill-aktar fis possibbli; (a) jifhmu bis-sħiħ il-kapaċitajiet u l-limitazzjonijiet tas-sistema tal-AI b’riskju kbir u jkunu jistgħu jimmonitorjaw kif xieraq it-tħaddim tagħha, biex ikunu jistgħu jiġu identifikati u indirizzati sinjali ta’ anomaliji, diżfunzjonijiet u prestazzjoni mhux mistennija mill-aktar fis possibbli; (b) jibqgħu konxji tat-tendenza possibbli li wieħed jibbaża awtomatikament jew jibbaża żżejjed fuq l-output prodott minn sistema tal-AI b’riskju kbir (“preġudizzju fl-awtomatizzazzjoni”), b’mod partikolari għas-sistemi tal-AI b’riskju kbir użati biex jagħtu informazzjoni jew rakkomandazzjonijiet għal deċiżjonijiet li jridu jieħdu persuni fiżiċi; (b) jibqgħu konxji tat-tendenza possibbli li wieħed jibbaża awtomatikament jew jibbaża żżejjed fuq l-output prodott minn sistema tal-AI b’riskju kbir (“preġudizzju fl-awtomatizzazzjoni”) jew kwalunkwe preġudizzju (“bias”) ieħor , b’mod partikolari għas-sistemi tal-AI b’riskju kbir użati biex jagħtu informazzjoni jew rakkomandazzjonijiet għal deċiżjonijiet li jridu jieħdu persuni fiżiċi; (c) ikunu jistgħu jinterpretaw b’mod korrett l-output tas-sistema AI b’riskju kbir, filwaqt li jqisu b’mod partikolari l-karatteristiċi tas-sistema u l-għodod u l-metodi ta’ interpretazzjoni disponibbli; (c) ikunu jistgħu jinterpretaw b’mod korrett l-output tas-sistema AI b’riskju kbir, filwaqt li jqisu b’mod partikolari l-karatteristiċi tas-sistema u l-għodod u l-metodi ta’ interpretazzjoni disponibbli; (d) ikunu jistgħu jiddeċiedu, f’xi sitwazzjoni partikolari, li ma jużawx is-sistema tal-AI b’riskju kbir jew jinjoraw, iwarrbu jew ireġġgħu lura l-output tas-sistema tal-AI b’riskju kbir; (d) ikunu jistgħu jiddeċiedu, f’xi sitwazzjoni partikolari, li ma jużawx is-sistema tal-AI b’riskju kbir jew jinjoraw, iwarrbu jew ireġġgħu lura l-output tas-sistema tal-AI b’riskju kbir; (e) ikunu jistgħu jintervjenu fuq it-tħaddim tas-sistema tal-AI b’riskju kbir jew jinterrompu s-sistema b’buttuna ta’ “waqfien” jew bi proċedura simili. (e) ikunu jistgħu jintervjenu fuq it-tħaddim tas-sistema tal-AI b’riskju kbir jew jinterrompu s-sistema b’buttuna ta’ “waqfien” jew bi proċedura simili.

Raġuni

Hemm diversi tipi ta’ preġudizzju li jistgħu jkunu problematiċi. Nistgħu nsemmgħu l-eżempju tal-preġudizzju tad-disinjatur jew tal-utent innifsu (“preġudizzju soċjali”), il-preġudizzju dwar jekk is-sistema tal-IA implimentata hijiex soluzzjoni adatta għall-problema (“preġudizzju teknoloġiku”) u t-tipi differenti ta’ preġudizzju statistiku.

Emenda 21

Artikolu 14, paragrafu ġdid wara paragrafu 5

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Kwalunkwe deċiżjoni meħuda mis-sistemi tal-AI msemmija fil-punti 5 (a) u (b) tal-Anness III għandha tkun soġġetta għal intervent mill-bniedem u għandha tkun ibbażata fuq proċess rigoruż ta’ teħid ta’ deċiżjonijiet. Għandu jiġi żgurat il-kuntatt uman fir-rigward ta’ dawn id-deċiżjonijiet.

Raġuni

L-Artikolu 14 jittratta biss is-sorveljanza umana ta’ sistemi tal-IA b’riskju kbir. Fir-rigward tad-deċiżjonijiet meħuda mill-awtoritajiet pubbliċi, huwa importanti li jiġi enfasizzat li l-intervent tal-bniedem, il-kuntatt uman u r-rispett għall-proċeduri għandhom jiġu ggarantiti.

Emenda 22

Artikolu 17(1) – żid żewġ punti ġodda wara l-punt (m)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-fornituri tas-sistemi tal-AI b’riskju kbir għandhom jistabbilixxu sistema tal-ġestjoni tal-kwalità li tiżgura l-konformità ma’ dan ir-Regolament. Dik is-sistema għandha tiġi dokumentata b’mod sistematiku u ordnat fil-forma ta’ politiki, proċeduri u struzzjonijiet bil-miktub, u għandha tinkludi tal-anqas l-aspetti li ġejjin: Il-fornituri tas-sistemi tal-AI b’riskju kbir għandhom jistabbilixxu sistema tal-ġestjoni tal-kwalità li tiżgura l-konformità ma’ dan ir-Regolament. Dik is-sistema għandha tiġi dokumentata b’mod sistematiku u ordnat fil-forma ta’ politiki, proċeduri u struzzjonijiet bil-miktub, u għandha tinkludi tal-anqas l-aspetti li ġejjin: (a) strateġija għall-konformità regolatorja, inkluż il-konformità mal-proċeduri ta’ valutazzjoni u mal-proċeduri għall-ġestjoni tal-modifiki fis-sistema tal-AI b’riskju kbir; (a) strateġija għall-konformità regolatorja, inkluż il-konformità mal-proċeduri ta’ valutazzjoni u mal-proċeduri għall-ġestjoni tal-modifiki fis-sistema tal-AI b’riskju kbir; (b) it-tekniki, il-proċeduri u l-azzjonijiet sistematiċi li għandhom jintużaw għad-disinn, il-kontroll tad-disinn u l-verifika tad-disinn tas-sistema tal-AI b’riskju kbir; (b) it-tekniki, il-proċeduri u l-azzjonijiet sistematiċi li għandhom jintużaw għad-disinn, il-kontroll tad-disinn u l-verifika tad-disinn tas-sistema tal-AI b’riskju kbir; (c) it-tekniki, il-proċeduri u l-azzjonijiet sistematiċi li jridu jintużaw għall-iżvilupp, il-kontroll tal-kwalità u l-garanzija tal-kwalità tas-sistema tal-AI b’riskju kbir; (c) it-tekniki, il-proċeduri u l-azzjonijiet sistematiċi li jridu jintużaw għall-iżvilupp, il-kontroll tal-kwalità u l-garanzija tal-kwalità tas-sistema tal-AI b’riskju kbir; (d) il-proċeduri ta’ eżaminazzjoni, ittestjar u validazzjoni li jridu jsiru qabel, waqt u wara l-iżvilupp tas-sistema tal-AI b’riskju kbir, u l-frekwenza li biha jridu jsiru; (d) il-proċeduri ta’ eżaminazzjoni, ittestjar u validazzjoni li jridu jsiru qabel, waqt u wara l-iżvilupp tas-sistema tal-AI b’riskju kbir, u l-frekwenza li biha jridu jsiru; (e) l-ispeċifikazzjonijiet tekniċi, inkluż l-istandards, li jridu jiġu applikati u, meta l-istandards armonizzati rilevanti ma jiġux applikati għalkollox, il-mezzi li jridu jintużaw biex ikun żgurat li s-sistema tal-AI b’riskju kbir tikkonforma mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu; (e) l-ispeċifikazzjonijiet tekniċi, inkluż l-istandards, li jridu jiġu applikati u, meta l-istandards armonizzati rilevanti ma jiġux applikati għalkollox, il-mezzi li jridu jintużaw biex ikun żgurat li s-sistema tal-AI b’riskju kbir tikkonforma mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu; (f) sistemi u proċeduri għall-ġestjoni tad-data, inkluż il-ġbir tad-data, l-analiżi tad-data, it-tikkettar tad-data, il-ħżin tad-data, il-filtrazzjoni tad-data, l-estrazzjoni tad-data, l-aggregazzjoni tad-data, iż-żamma tad-data u kwalunkwe operazzjoni oħra rigward id-data li titwettaq qabel u għall-finijiet tat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir; (f) sistemi u proċeduri għall-ġestjoni tad-data, inkluż il-ġbir tad-data, l-analiżi tad-data, it-tikkettar tad-data, il-ħżin tad-data, il-filtrazzjoni tad-data, l-estrazzjoni tad-data, l-aggregazzjoni tad-data, iż-żamma tad-data u kwalunkwe operazzjoni oħra rigward id-data li titwettaq qabel u għall-finijiet tat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir; (g) is-sistema tal-ġestjoni tar-riskju msemmija fl-Artikolu 9; (g) is-sistema tal-ġestjoni tar-riskju msemmija fl-Artikolu 9; (h) l-istabbiliment, l-implimentazzjoni u l-manutenzjoni ta’ sistema tas-sorveljanza ta’ wara t-tqegħid fis-suq, f’konformità mal-Artikolu 61; (h) l-istabbiliment, l-implimentazzjoni u l-manutenzjoni ta’ sistema tas-sorveljanza ta’ wara t-tqegħid fis-suq, f’konformità mal-Artikolu 61; (i) il-proċeduri relatati mar-rapportar ta’ inċidenti serji u funzjonament ħażin f’konformità mal-Artikolu 62; (i) il-proċeduri relatati mar-rapportar ta’ inċidenti serji u funzjonament ħażin f’konformità mal-Artikolu 62; (j) it-trattament tal-komunikazzjoni mal-awtoritajiet nazzjonali kompetenti, mal-awtoritajiet kompetenti, inkluż dawk settorjali, l-għoti jew l-appoġġ tal-aċċess għad-data, mal-korpi notifikati, ma’ operaturi oħra, ma’ klijenti jew ma’ partijiet interessati oħra; (j) it-trattament tal-komunikazzjoni mal-awtoritajiet nazzjonali kompetenti, mal-awtoritajiet kompetenti, inkluż dawk settorjali, l-għoti jew l-appoġġ tal-aċċess għad-data, mal-korpi notifikati, ma’ operaturi oħra, ma’ klijenti jew ma’ partijiet interessati oħra; (k) is-sistemi u l-proċeduri għaż-żamma tar-rekords tad-dokumentazzjoni u tal-informazzjoni rilevanti kollha; (k) is-sistemi u l-proċeduri għaż-żamma tar-rekords tad-dokumentazzjoni u tal-informazzjoni rilevanti kollha; (l) il-ġestjoni tar-riżorsi, li tinkludi miżuri relatati mas-sigurtà tal-provvista; (l) il-ġestjoni tar-riżorsi, li tinkludi miżuri relatati mas-sigurtà tal-provvista; (m) qafas ta’ responsabbiltà li jistabbilixxi r-responsabbiltajiet tal-maniġment u ta’ persunal ieħor fir-rigward tal-aspetti kollha elenkati f’dan il-paragrafu. (m) qafas ta’ responsabbiltà li jistabbilixxi r-responsabbiltajiet tal-maniġment u ta’ persunal ieħor fir-rigward tal-aspetti kollha elenkati f’dan il-paragrafu; (n) miżuri għall-prevenzjoni ta’ diskriminazzjoni mhux ġustifikata bbażata fuq il-ġeneru, l-oriġini etnika, ir-reliġjon jew it-twemmin, id-diżabbiltà, l-età, l-orjentazzjoni sesswali jew kwalunkwe raġuni oħra; (o) spjegazzjoni ta’ kif jiġu kkunsidrati kwistjonijiet etiċi fid-disinn ta’ sistema tal-AI b’riskju kbir.

Raġuni

Din iż-żieda tenfasizza li l-inklużività u l-ġlieda kontra d-diskriminazzjoni mhux ġustifikata għandhom ikunu elementi importanti tas-sistema ta’ ġestjoni tal-kwalità.

Is-sistema trid tirrispetta l-valuri etiċi li utent tas-sistema tal-IA jixtieq jassoċja jew li l-fornitur tas-sistema jista’ raġonevolment jistenna li jkunu assoċjati ma’ sistema tal-IA b’riskju kbir. Il-fornitur għandu jkun jista’ jispjega kif ikkunisdra dan kollu.

Emenda 23

Artikolu 19(1)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-fornituri ta’ sistemi tal-AI b’riskju kbir għandhom jiżguraw li s-sistemi tagħhom jgħaddu mill-proċedura rilevanti tal-valutazzjoni tal-konformità f’konformità mal-Artikolu 43, qabel ma jitqiegħdu fis-suq jew fis-servizz. Meta tkun intweriet il-konformità tas-sistemi tal-AI mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu wara dik il-valutazzjoni tal-konformità, il-fornituri għandhom ifasslu dikjarazzjoni ta’ konformità tal-UE, f’konformità mal-Artikolu 48 u jwaħħlu l-markatura tal-konformità CE, f’konformità mal-Artikolu 49. Il-fornituri ta’ sistemi tal-AI b’riskju kbir għandhom jiżguraw li s-sistemi tagħhom jgħaddu mill-proċedura rilevanti tal-valutazzjoni tal-konformità f’konformità mal-Artikolu 43, qabel ma jitqiegħdu fis-suq jew fis-servizz. Meta tkun intweriet il-konformità tas-sistemi tal-AI mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu wara dik il-valutazzjoni tal-konformità, il-fornituri għandhom ifasslu dikjarazzjoni ta’ konformità tal-UE, f’konformità mal-Artikolu 48 u jwaħħlu l-markatura tal-konformità CE, f’konformità mal-Artikolu 49. Il-fornituri ta’ sistemi tal-AI b’riskju kbir għandhom jippubblikaw id-dikjarazzjoni ta’ konformità tal-UE u sommarju tal-valutazzjoni tal-konformità f’post aċċessibbli għall-pubbliku.

Raġuni

Sabiex tissaħħaħ l-ekosistema ta’ fiduċja fis-sistemi tal-IA, il-fornituri ta’ sistemi tal-IA b’riskju kbir għandhom ikunu sinċieri. Il-pubbliku għandu għalhekk ikun jista’ jivverifika li l-valutazzjoni tal-konformità tkun ġiet stabbilita kif suppost skont id-dispożizzjonijiet tar-Regolament.

Emenda 24

Artikolu 29 – paragrafu ġdid wara paragrafu 6

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR L-utenti ta’ sistemi tal-AI b’riskju kbir huma meħtieġa jwettqu evalwazzjoni etika qabel ma s-sistema ssir operattiva. Huma għandhom ikunu kapaċi jispjegaw l-impatt possibbli tal-implimentazzjoni tat-teknoloġija fuq l-individwi u s-soċjetà. Huma għandhom jispeċifikaw l-iskop li għalih tintuża s-sistema tal-AI, il-valuri fundamentali u kif dawn ġew iddeterminati, u jekk ġewx ikkunsidrati fis-sistema jew le. Huma għandhom jivvalutaw l-impatt reali tas-sistema fuq il-bnedmin u s-soċjetà matul iċ-ċiklu kollha tal-ħajja tas-sistema tal-AI.

Raġuni

L-etika hija kunċett wiesa’. Hemm ħafna modi kif tiġi pprattikata l-etika fil-qasam tat-teknoloġija, kemm f’termini ta’ ġustifikazzjonijiet teoretiċi kif ukoll ta’ metodoloġiji, għodod u valuri tad-disinn konkreti. Il-valuri huma elementi meqjusa importanti minn ċerti individwi jew gruppi ta’ persuni; jistgħu jkunu pjuttost konkreti, jew aktar kunċettwali. Huwa importanti li tiġi ppreservata l-firxa ta’ valuri morali li jistgħu jiġu implimentati u li jiġi vvalutat kontinwament iċ-ċiklu tal-ħajja tas-sistema tal-IA.

Emenda 25

Artikolu 52(1)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-fornituri għandhom jiżguraw li s-sistemi tal-AI maħsubin biex jinteraġixxu ma’ persuni fiżiċi jkunu ddisinjati u żviluppati b’tali mod li l-persuni fiżiċi jiġu informati li qed jinteraġixxu ma’ sistema tal-AI , sakemm dan ma jkunx ovvju miċ-ċirkostanzi u mill-kuntest tal-użu . Dan l-obbligu m’għandux japplika għas-sistemi tal-AI awtorizzati bil-liġi biex jidentifikaw, jipprevjenu, jinvestigaw u jipprosegwixxu reati kriminali, sakemm dawk is-sistemi ma jkunux disponibbli għall-pubbliku biex jirrapporta reat kriminali. Il-fornituri għandhom jiżguraw li s-sistemi tal-AI maħsubin biex jinteraġixxu ma’ persuni fiżiċi jkunu ddisinjati u żviluppati b’tali mod li l-persuni fiżiċi jiġu informati li qed jinteraġixxu ma’ sistema tal-AI. Dan l-obbligu m’għandux japplika għas-sistemi tal-AI awtorizzati bil-liġi biex jidentifikaw, jipprevjenu, jinvestigaw u jipprosegwixxu reati kriminali, sakemm dawk is-sistemi ma jkunux disponibbli għall-pubbliku biex jirrapporta reat kriminali. Il-kamp ta’ applikazzjoni tal-għażliet u l-istatus legali ta’ persuni fiżiċi li jinteraġixxu mas-sistemi tal-AI ma għandhomx ikunu limitati minn din l-interazzjoni.

Raġuni

Fejn jintużaw artifatti teknoloġiċi bħala mezz ta’ interazzjoni ma’ persuni fiżiċi, jista’ jkun hemm riskju li l-għażliet magħmula minn persuni fiżiċi li jinteraġixxu ma’ dawn l-artifatti jkunu limitati. Il-persuni fiżiċi għandhom dejjem jiġu infurmati kif xieraq kull meta jkunu qed jinteraġixxu ma’ sistemi tal-IA u dan m’għandux ikun soġġett għall-interpretazzjoni ta’ sitwazzjoni partikolari. Id-drittijiet tagħhom għandhom jiġu garantiti l-ħin kollu fl-interazzjonijiet mas-sistemi tal-IA.

Emenda 26

Artikolu 57(1)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-Bord għandu jkun magħmul mill-awtoritajiet superviżorji nazzjonali, li għandhom ikunu rrappreżentati mill-kap jew minn uffiċjal ta’ livell għoli ekwivalenti ta’ dik l-awtorità, u mill-Kontrollur Ewropew għall-Protezzjoni tad-Data. Awtoritajiet nazzjonali oħrajn jistgħu jiġu mistiedna għal-laqgħat, meta l-kwistjonijiet diskussi jkunu rilevanti għalihom. Il-Bord għandu jkun magħmul mill-awtoritajiet superviżorji nazzjonali, li għandhom ikunu rrappreżentati mill-kap jew minn uffiċjal ta’ livell għoli ekwivalenti ta’ dik l-awtorità, u mill-Kontrollur Ewropew għall-Protezzjoni tad-Data. Awtoritajiet nazzjonali , reġjonali u lokali oħrajn jistgħu jiġu mistiedna għal-laqgħat, meta l-kwistjonijiet diskussi jkunu rilevanti għalihom.

Raġuni

L-awtoritajiet lokali u reġjonali għandhom ikunu jistgħu jipparteċipaw fil-monitoraġġ tas-sistemi tal-IA u jirrapportaw dwar l-implimentazzjoni tagħhom fuq il-post.

Emenda 27

Artikolu 58

Test propost mill-Kummissjoni Emenda tal-KtR Meta jipprovdi pariri u assistenza lill-Kummissjoni fil-kuntest tal-Artikolu 56(2), il-Bord għandu b’mod partikolari: Meta jipprovdi pariri u assistenza lill-Kummissjoni fil-kuntest tal-Artikolu 56(2), il-Bord għandu b’mod partikolari: (a) jiġbor u jaqsam l-għarfien espert u l-aħjar prattiki fost l-Istati Membri; (a) jiġbor u jaqsam l-għarfien espert u l-aħjar prattiki fost l-Istati Membri , l-awtoritajiet reġjonali u lokali ; (b) jikkontribwixxi għal prattiki amministrattivi uniformi fl-Istati Membri, inkluż għall-funzjonament ta’ sandboxes regolatorji msemmijin fl-Artikolu 53; (b) jikkontribwixxi għal prattiki amministrattivi uniformi fl-Istati Membri, inkluż għall-funzjonament ta’ sandboxes regolatorji msemmijin fl-Artikolu 53; (c) joħroġ opinjonijiet, rakkomandazzjonijiet jew kontributi bil-miktub dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, b’mod partikolari (c) joħroġ opinjonijiet, rakkomandazzjonijiet jew kontributi bil-miktub dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, b’mod partikolari i) dwar l-ispeċifikazzjonijiet tekniċi jew l-istandards eżistenti rigward ir-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III, ii) dwar l-użu ta’ standards armonizzati jew ta’ speċifikazzjonijiet komuni msemmijin fl-Artikoli 40 u 41, iii) dwar it-tħejjija ta’ dokumenti ta’ gwida, inklużi l-linji gwida dwar l-istabbiliment ta’ multi amministrattivi msemmijin fl-Artikolu 71. i) dwar l-ispeċifikazzjonijiet tekniċi jew l-istandards eżistenti rigward ir-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III, ii) dwar l-użu ta’ standards armonizzati jew ta’ speċifikazzjonijiet komuni msemmijin fl-Artikoli 40 u 41, iii) dwar it-tħejjija ta’ dokumenti ta’ gwida, inklużi l-linji gwida dwar l-istabbiliment ta’ multi amministrattivi msemmijin fl-Artikolu 71.

Raġuni

L-awtoritajiet lokali u reġjonali huma l-eqreb tal-popolazzjonijiet u l-ekonomiji lokali. Għandha ssir referenza espliċita u f’pożizzjoni prominenti għall-kondiviżjoni tal-għarfien tagħhom.

Emenda 28

Artikolu 59(1)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR L-awtoritajiet nazzjonali kompetenti għandhom jiġu stabbiliti jew iddiżinjati minn kull Stat Membru għall-fini li jiġu żgurati l-applikazzjoni u l-implimentazzjoni ta’ dan ir-Regolament. Awtoritajiet nazzjonali kompetenti għandhom ikunu organizzati b’mod li jkunu ssalvagwardjati l-oġġettività u l-imparzjalità tal-attivitajiet u tal-kompiti tagħhom. L-awtoritajiet nazzjonali kompetenti għandhom jiġu stabbiliti jew iddiżinjati minn kull Stat Membru għall-fini li jiġu żgurati l-applikazzjoni u l-implimentazzjoni ta’ dan ir-Regolament. Awtoritajiet nazzjonali kompetenti għandhom ikunu organizzati b’mod li jkunu ssalvagwardjati l-oġġettività u l-imparzjalità tal-attivitajiet u tal-kompiti tagħhom. L-awtoritajiet lokali u reġjonali għandhom jiġu awtonomizzati biex iwettqu l-kompiti ta’ monitoraġġ jew ta’ implimentazzjoni fejn Stat Membru jqis li dan ikun adatt.

Raġuni

Għall-finijiet tal-applikabbiltà tar-Regolament u l-arranġamenti superviżorji u ta’ implimentazzjoni tiegħu, Stat Membru għandu jkollu l-possibbiltà li jafda kompiti ta’ monitoraġġ jew ta’ implimentazzjoni lill-awtoritajiet lokali u reġjonali fejn meħtieġ u possibbli. F’dan il-kuntest, l-awtoritajiet lokali u reġjonali għandhom jirċievu appoġġ u taħriġ sabiex jiġu awtonomizzati bis-sħiħ biex iwettqu kompiti superviżorji jew ta’ infurzar.

Emenda 29

Artikolu 69(3)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Il-kodiċijiet tal-kondotta jistgħu jitfasslu minn fornituri individwali ta’ sistemi tal-AI jew minn organizzazzjonijiet li jirrappreżentawhom jew mit-tnejn li huma, inkluż bl-involviment tal-utenti u ta’ kwalunkwe parti kkonċernata u tal-organizzazzjonijiet rappreżentattivi tagħhom. Il-kodiċijiet tal-kondotta jistgħu jkopru sistema waħda jew aktar tal-AI filwaqt li titqies is-similarità tal-għan maħsub tas-sistemi rilevanti. Il-kodiċijiet tal-kondotta jistgħu jitfasslu minn awtoritajiet nazzjonali, reġjonali jew lokali, minn fornituri individwali ta’ sistemi tal-AI jew minn organizzazzjonijiet li jirrappreżentawhom jew mit-tnejn li huma, inkluż bl-involviment tal-utenti u ta’ kwalunkwe parti kkonċernata u tal-organizzazzjonijiet rappreżentattivi tagħhom. Il-kodiċijiet tal-kondotta jistgħu jkopru sistema waħda jew aktar tal-AI filwaqt li titqies is-similarità tal-għan maħsub tas-sistemi rilevanti.

Raġuni

L-awtoritajiet nazzjonali, lokali u reġjonali għandu jkollhom il-kompetenza legali biex jiżviluppaw kodiċijiet ta’ kondotta għas-sistemi tal-IA li jiżviluppaw jew jużaw.

Emenda 30

Anness I – Tekniki u approċċi tal-intelliġenza artifiċjali Imsemmija fl-Artikolu 3, il-punt 1

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Fid-dawl tal-istat attwali tax-xjenza, l-AI tinkludi t-tekniki u l-approċċi li ġejjin: (a) L-approċċi tat-tagħlim awtomatiku, inkluż tagħlim sorveljat, mhux sorveljat u rinforzat, bl-użu ta’ varjetà wiesgħa ta’ metodi, inkluż it-tagħlim profond; (a) L-approċċi tat-tagħlim awtomatiku, inkluż tagħlim sorveljat, mhux sorveljat u rinforzat, bl-użu ta’ varjetà wiesgħa ta’ metodi, inkluż it-tagħlim profond; (b) Approċċi bbażati fuq il-loġika u l-għarfien, inkluż ir-rappreżentazzjoni tal-għarfien, l-ipprogrammar induttiv (tal-loġika), il-bażijiet tal-għarfien, l-inferenza u l-magni deduttivi, ir-raġunament (simboliku) u s-sistemi tal-esperti; (b) Approċċi bbażati fuq il-loġika u l-għarfien, inkluż ir-rappreżentazzjoni tal-għarfien, l-ipprogrammar induttiv (tal-loġika), il-bażijiet tal-għarfien, l-inferenza u l-magni deduttivi, ir-raġunament (simboliku) u s-sistemi tal-esperti; (c) Approċċi statistiċi, stima Bayesjana, metodi ta’ tiftix u ottimizzazzjoni. (c) Approċċi statistiċi, stima Bayesjana, metodi ta’ tiftix u ottimizzazzjoni.

Raġuni

Id-definizzjoni u l-lista tat-tekniki tal-IA għandhom ikunu validi għall-futur. Il-lista tat-tekniki u tal-approċċi speċifiċi użati għall-iżvilupp ta’ sistemi tal-IA m’għandhiex tkun eżawrjenti u għandu jkun ċar li hija bbażata fuq is-sitwazzjoni attwali fil-qasam tax-xjenza.

Emenda 31

Anness III(1) sa (5)

Test propost mill-Kummissjoni Ewropea Emenda tal-KtR Is-sistemi tal-AI b’riskju kbir skont l-Artikolu 6(2) huma sistemi tal-AI elenkati f’xi wieħed minn dawn l-oqsma li ġejjin: Is-sistemi tal-AI b’riskju kbir skont l-Artikolu 6(2) huma sistemi tal-AI elenkati f’xi wieħed minn dawn l-oqsma li ġejjin: 1. Identifikazzjoni bijometrika u kategorizzazzjoni ta’ persuni fiżiċi: 1. Identifikazzjoni bijometrika u kategorizzazzjoni ta’ persuni fiżiċi: (a) Sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni fiżiċi “fil-ħin reali” u “f’ħin aktar tard”; (a) Sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni fiżiċi “fil-ħin reali” u “f’ħin aktar tard”; 2. Ġestjoni u tħaddim tal-infrastruttura kritika: 2. Ġestjoni u tħaddim tal-infrastruttura kritika: (a) Sistemi tal-AI maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tat-traffiku fit-toroq u l-provvista tal-ilma, il-gass, it-tisħin u l-elettriku. (a) Sistemi tal-AI maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tat-traffiku fit-toroq u l-provvista tal-ilma, il-gass, it-tisħin u l-elettriku kif ukoll fl-infrastruttura tat-telekomunikazzjoni, tad-distribuzzjoni tal-ilma u tal-internet . 3. Edukazzjoni u taħriġ vokazzjonali: 3. Edukazzjoni u taħriġ vokazzjonali: (a) Sistemi tal-AI maħsuba biex jintużaw biex jiddeterminaw l-aċċess jew l-assenjazzjoni ta’ persuni fiżiċi lil istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali; (a) Sistemi tal-AI maħsuba biex jintużaw biex jiddeterminaw l-aċċess jew l-assenjazzjoni ta’ persuni fiżiċi lil istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali; (b) Sistemi tal-AI maħsuba biex jintużaw biex issir valutazzjoni tal-istudenti f’istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali u biex issir valutazzjoni tal-parteċipanti f’testijiet li s-soltu jkunu meħtieġa għal dħul fl-istituzzjonijiet edukattivi. (b) Sistemi tal-AI maħsuba biex jintużaw biex issir valutazzjoni tal-istudenti f’istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali u biex issir valutazzjoni tal-parteċipanti f’testijiet li s-soltu jkunu meħtieġa għal dħul fl-istituzzjonijiet edukattivi. 4. Impjiegi, ġestjoni tal-ħaddiema u aċċess għal impjiegi indipendenti: 4. Impjiegi, ġestjoni tal-ħaddiema u aċċess għal impjiegi indipendenti: (a) Sistemi tal-AI maħsuba biex jintużaw għar-reklutaġġ jew għall-għażla ta’ persuni fiżiċi, b’mod partikolari għar-reklamar ta’ postijiet tax-xogħol battala, għall-iskrinjar jew l-iffiltrar tal-applikazzjonijiet, għall-evalwazzjoni tal-kandidati waqt l-intervisti jew għat-testijiet; (a) Sistemi tal-AI maħsuba biex jintużaw għar-reklutaġġ jew għall-għażla ta’ persuni fiżiċi, b’mod partikolari għar-reklamar ta’ postijiet tax-xogħol battala, għall-iskrinjar jew l-iffiltrar tal-applikazzjonijiet, għall-evalwazzjoni tal-kandidati waqt l-intervisti jew għat-testijiet; (b) L-Intelliġenza Artifiċjali maħsuba biex tintuża għat-teħid ta’ deċiżjonijiet dwar il-promozzjoni u t-terminazzjoni ta’ relazzjonijiet kuntrattwali relatati max-xogħol, għall-allokazzjoni tal-kompiti u għall-monitoraġġ u l-evalwazzjoni tal-prestazzjoni u l-imġiba ta’ persuni f’dawn ir-relazzjonijiet. (b) L-Intelliġenza Artifiċjali maħsuba biex tintuża għat-teħid ta’ deċiżjonijiet dwar il-promozzjoni u t-terminazzjoni ta’ relazzjonijiet kuntrattwali relatati max-xogħol, għall-allokazzjoni tal-kompiti u għall-monitoraġġ u l-evalwazzjoni tal-prestazzjoni u l-imġiba ta’ persuni f’dawn ir-relazzjonijiet. 5. Aċċess u tgawdija ta’ servizzi privati essenzjali u ta’ servizzi u benefiċċji pubbliċi: 5. Aċċess u tgawdija ta’ servizzi privati essenzjali u ta’ servizzi u benefiċċji pubbliċi: (a) Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet pubbliċi jew f’isem l-awtoritajiet pubbliċi biex jevalwaw l-eliġibbiltà ta’ persuni fiżiċi għal benefiċċji u servizzi ta’ assistenza pubblika, u biex jagħtu, inaqqsu, jirrevokaw, jew jitolbu lura dawn il-benefiċċji u s-servizzi; (a) Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet pubbliċi jew f’isem l-awtoritajiet pubbliċi biex jevalwaw u jiddeċiedu dwar l-eliġibbiltà ta’ persuni fiżiċi għal benefiċċji u servizzi ta’ assistenza pubblika, u biex jagħtu, inaqqsu, jirrevokaw, jew jitolbu lura dawn il-benefiċċji u s-servizzi; (b) Sistemi tal-AI maħsuba biex jintużaw għal evalwazzjoni tal-affidabbiltà kreditizja ta’ persuni fiżiċi jew biex jiġi stabbilit il-punteġġ tal-kreditu tagħhom, għajr is-sistemi tal-AI imdaħħla fis-servizz minn fornituri fuq skala żgħira għall-użu tagħhom stess; (b) Sistemi tal-AI maħsuba biex jintużaw għad-determinazzjoni tal-affidabbiltà kreditizja ta’ persuni fiżiċi jew il-punteġġ tal-kreditu tagħhom, għajr is-sistemi tal-AI imdaħħla fis-servizz minn fornituri fuq skala żgħira għall-użu tagħhom stess; (c) Sistemi tal-AI maħsuba biex jintużaw għad-dispaċċ, jew biex tiġi stabbilita prijorità fid-dispaċċ ta’ servizzi tal-ewwel rispons ta’ emerġenza, inkluż minn ħaddiema tat-tifi tan-nar u tal-għajnuna medika. (c) Sistemi tal-AI maħsuba biex jintużaw għad-dispaċċ, jew biex tiġi stabbilita prijorità fid-dispaċċ ta’ servizzi tal-ewwel rispons ta’ emerġenza, inkluż minn ħaddiema tat-tifi tan-nar u tal-għajnuna medika.

Raġuni

L-infrastruttura tat-telekomunikazzjoni, tad-distribuzzjoni tal-ilma u l-internet huma parti integrali mill-infrastruttura kritika.

Il-klassifikazzjoni ta’ sistema tal-IA bħala sistema b’riskju kbir tfisser li għandu jiġi deċiż jekk sistema bħal din hijiex suxxettibbli li toħloq riskju reali għaċ-ċittadini. Is-sempliċi valutazzjoni analitika u teoretika tal-eliġibbiltà tal-individwi għall-benefiċċji u s-servizzi tas-setgħat pubbliċi fiha nnifisha ma tinvolvix riskju kbir. Meta l-verb “jevalwaw” jiġi komplementat b’“jiddeċiedu” ssir enfasi li dan ir-riskju fil-fatt joħroġ fid-dieher meta tittieħed id-deċiżjoni, b’mod partikolari għall-persuni kkonċernati.

II. RAKKOMANDAZZJONIJIET TA’ POLITIKA

IL-KUMITAT EWROPEW TAR-REĠJUNI

Ekosistema ta’ eċċellenza

1. jenfasizza li l-ambizzjoni tal-Kummissjoni li tagħmel lill-UE mexxejja globali fl-iżvilupp responsabbli tal-intelliġenza artifiċjali (IA) li jkun iċċentrat fuq il-bniedem tista’ tinkiseb biss jekk l-awtoritajiet lokali u reġjonali jkollhom pożizzjoni b’saħħitha fil-proċess. L-awtoritajiet lokali u reġjonali qegħdin fl-aħjar pożizzjoni biex jgħinu biex jinħoloq ambjent favorevoli li jwassal għal żieda fl-investiment fl-IA fis-snin li ġejjin u biex irawmu l-fiduċja fl-IA;

2. jenfasizza li, minbarra l-involviment tal-awtoritajiet lokali u reġjonali, huwa importanti li jiġu pprovduti appoġġ u taħriġ sabiex jissaħħu l-kompetenzi tagħhom fil-qasam, speċjalment peress li jistgħu jirċievu rwoli superviżorji u ta’ infurzar;

3. jinnota li se jkunu disponibbli fondi tal-Unjoni għall-iżvilupp tal-IA, iżda jiġbed l-attenzjoni għall-frammentazzjoni tal-approċċ minħabba d-diversità tal-programmi, li żżid ir-riskju ta’ tixrid u trikkib;

4. jistieden għalhekk lill-Kummissjoni tiżviluppa u torbot spazji komuni tad-data robusti u multidimensjonali, li jistgħu jsolvu l-każijiet tal-użu tas-soċjetà permezz tad-data pubblika u privata. Dan jeħtieġ, b’mod partikolari, armonizzazzjoni ma’ inizjattivi leġiżlattivi skont l-Istrateġija Ewropea għad-Data;

Ekosistema ta’ fiduċja

5. jiddispjaċih li l-Proposta għal Regolament ma tirreferix għall-awtoritajiet lokali u reġjonali, minkejja l-fatt li l-qafas legali se japplika kemm għall-atturi pubbliċi kif ukoll għal dawk privati;

6. jinnota, f’dan ir-rigward, li s-sistemi tal-IA jistgħu jaqdu rwol importanti fl-interazzjoni tal-awtoritajiet lokali u reġjonali maċ-ċittadini u l-forniment tas-servizzi. Barra minn hekk, is-sistemi tal-IA għandhom il-potenzjal, fost affarijiet oħra, li jtejbu l-effiċjenza tas-settur pubbliku u jgħinu lill-awtoritajiet lokali u reġjonali jwieġbu għall-aġġustamenti li jeħtieġ li jsiru fil-livell lokali u reġjonali fil-kuntest tat-tranżizzjoni ekoloġika u dik diġitali. Għalhekk huwa importanti li l-esperjenza miksuba mill-awtoritajiet lokali u reġjonali tintuża b’mod attiv fir-reviżjoni li għaddejja tar-Regolament;

7. jitlob definizzjoni aktar preċiża ta’ “fornitur” u “utent”, speċjalment f’sitwazzjonijiet fejn kumpaniji, istituti ta’ riċerka, awtoritajiet pubbliċi u ċittadini jiżviluppaw u jittestjaw b’mod konġunt sistemi tal-IA f’“laboratorji ħajjin”. Għandha tingħata kunsiderazzjoni adegwata wkoll liċ-ċittadini jew konsumaturi affettwati minn deċiżjonijiet ibbażati fuq l-IA ta’ sistemi li jintużaw minn utenti professjonali;

8. jenfasizza l-ħtieġa li l-awtoritajiet lokali u reġjonali kkonċernati jiġu kkonsultati minn qabel meta jintużaw sistemi tal-IA għall-identifikazzjoni bijometrika ta’ persuni fiżiċi f’ħin reali u mill-bogħod, għal skopijiet ta’ infurzar tal-liġi, f’żoni aċċessibbli għall-pubbliku;

9. jilqa’ l-konsultazzjoni pubblika tal-Kummissjoni Ewropea dwar l-adattament tar-regoli tar-responsabbiltà ċivili għall-isfidi speċifiċi tal-era diġitali u tal-intelliġenza artifiċjali ( 1 ) u jistenna li dan se jirriżulta f’qafas aġġornat immirat lejn l-iżgurar tar-rimedju tal-konsumatur għad-danni kkawżati mill-applikazzjonijiet tal-IA;

10. jistaqsi għaliex is-sistemi tal-IA użati fi proċessi demokratiċi bħall-elezzjonijiet mhumiex inklużi fil-lista ta’ sistemi tal-IA b’riskju kbir;

11. iħeġġeġ li s-sistemi tal-IA b’riskju kbir ikunu soġġetti għall-istess rekwiżiti ta’ trasparenza u ta’ informazzjoni għall-persuni fiżiċi bħal dawk attwalment applikati għall-utenti;

12. jenfasizza li l-użu tal-punteġġ soċjali jinvolvi riskji u konsegwenzi sinifikanti għad-drittijiet tal-bniedem;

13. huwa xettiku ħafna taż-żewġ sitwazzjonijiet stabbiliti fil-Proposta għal Regolament ( 2 ) biex jiġi determinat meta punteġġ soċjali jwassal għal trattament detrimentali jew mhux favorevoli ta’ persuni jew gruppi ta’ persuni, peress li huwa estremament diffiċli li tiġi stabbilita l-eżistenza ta’ sitwazzjonijiet bħal dawn. F’dan il-kuntest, il-Kumitat iħeġġeġ il-formulazzjoni ċara ta’ salvagwardji b’saħħithom sabiex jiġi żgurat li l-projbizzjoni fuq il-prattiki ta’ punteġġ soċjali ma tiġix evitata;

14. jinnota l-fatt li l-premessi tal-Proposta għal Regolament jindirizzaw fid-dettall ir-riskji li huma esposti għalihom persuni fiżiċi bħala riżultat tal-interazzjoni tagħhom ma’ sistemi tal-IA b’riskju kbir, b’mod partikolari fil-kuntest tal-edukazzjoni, it-taħriġ, l-impjiegi, il-ġestjoni tar-riżorsi umani, l-aċċess għal impjieg indipendenti jew l-aċċess għal ċerti servizzi pubbliċi u privati essenzjali u d-dritt għalihom;

15. jistieden lill-Kummissjoni tkompli teżamina bir-reqqa l-kwalifika b’riskju kbir tas-sistemi tal-IA maħsuba għall-użu mill-awtoritajiet pubbliċi ( 3 )

16. jixtieq li awtorità tagħti, ex ante, opinjoni b’saħħitha dwar l-interpretazzjoni tad-dispożizzjonijiet tal-Proposta għal Regolament, inkluż fir-rigward tar-Regolament Ġenerali dwar il-Protezzjoni tad-Data. Dan iżid iċ-ċertezza legali u jnaqqas l-ispejjeż tat-tfassil u l-implimentazzjoni tas-sistemi tal-IA;

17. jenfasizza għal dan il-għan l-importanza taċ-ċarezza fil-formulazzjoni tar-Regolament, li hija strumentali fil-bini ta’ ekosistema ta’ fiduċja u t-tneħħija tal-inċertezza legali madwar l-iżvilupp u l-użu tas-sistemi tal-IA. Dan jevita interpretazzjonijiet ħżiena tar-rekwiżiti proposti u jimminimizza r-riskji ta’ ġestjoni ħażina sussegwenti tal-applikazzjonijiet tal-IA, u b’hekk jimmassimizza l-effettività u l-kredibbiltà tar-regolamentazzjoni tas-sanzjonijiet. Fl-istess ħin, u f’konformità mal-aġenda għal regolamentazzjoni aħjar tal-Kummissjoni Ewropea, l-identifikazzjoni bikrija u l-eliminazzjoni ta’ duplikazzjonijiet potenzjali u/jew kunflitti mar-regoli eżistenti huma ta’ importanza ewlenija;

18. jinnota li ħafna awtoritajiet lokali u reġjonali jużaw l-istess sistemi tal-IA għal kompiti simili. Fil-maġġoranza l-kbira tal-każijiet, dawn is-sistemi huma mfassla minn kumpaniji privati;

19. jinnota li l-Proposta għal Regolament mhiex l-unika li tiżgura d-drittijiet taċ-ċittadini u għandha titqies fil-kuntest tal-leġiżlazzjoni eżistenti. Għalhekk, l-Istati Membri huma mħeġġa jiżguraw li, fuq bażi kontinwa, jieħdu l-miżuri amministrattivi meħtieġa biex ikunu jistgħu jindirizzaw l-opportunitajiet u r-riskji maħluqa mill-użu tal-IA fis-settur pubbliku;

20. minn dan jirriżulta li huma l-intrapriżi u l-korpi notifikati li jinterpretaw ir-regoli Ewropej u nazzjonali fil-kuntest tal-valutazzjoni tal-konformità, u li din l-interpretazzjoni hija għalhekk riflessa fil-prattika tal-awtoritajiet lokali u reġjonali li jużaw dawn is-sistemi tal-IA. Għalhekk mhuwiex ċar sa liema punt il-politika lokali u reġjonali tista’ tiġi kkunsidrata f’dawn is-sistemi tal-IA. Għalhekk, il-Kumitat jiġbed l-attenzjoni għall-ħtiġijiet speċifiċi tal-awtoritajiet lokali u reġjonali u għall-fatt li approċċ “wieħed tajjeb għal kulħadd” jista’ jdgħajjef l-effettività tas-sistemi tal-IA biex jirrispondu għal dawk il-ħtiġijiet. Barra minn hekk, il-Kumitat jissuġġerixxi li l-Istati Membri għandhom jingħataw is-setgħa li jirregolaw is-sistemi tal-IA b’riskju għoli fid-dawl ta’ raġunijiet prevalenti u ġustifikati ta’ interess pubbliku;

21. jitlob, f’dan ir-rigward, li l-valutazzjonijiet tal-konformità jkunu trasparenti u disponibbli għall-pubbliku. Barra minn hekk, l-awtoritajiet lokali u reġjonali għandhom ukoll ikunu jistgħu jipparteċipaw fil-monitoraġġ tas-sistemi tal-IA, jirrappurtaw dwar l-implimentazzjoni tagħhom fil-post u jikkontribwixxu b’mod formali għall-valutazzjoni li ssir mill-Kummissjoni Ewropea tal-applikazzjoni tar-Regolament;

22. jenfasizza li hemm lok li jinħolqu l-kundizzjonijiet legali, metodoloġiċi u etiċi adatti għall-applikazzjoni tal-ambjent ta’ esperimentazzjoni regolatorja sabiex tkun tista’ tiġi żviluppata t-teknoloġija u tiġi abbozzata u evalwata l-leġiżlazzjoni. Barra minn hekk, għandhom jiġu stabbiliti kriterji ċari għall-ammissjoni ta’ kumpaniji fl-ambjent ta’ esperimentazzjoni regolatorja. Sabiex jiġi żgurat li l-organizzazzjonijiet tal-konsumatur jkunu jistgħu jinfurzaw id-dispożizzjonijiet tal-Att dwar l-Intelliġenza Artifiċjali, dan tal-aħħar irid jinżied mal-Anness I tad-Direttiva Ewropea dwar l-azzjonijiet rappreżentattivi għall-protezzjoni tal-interessi kollettivi tal-konsumaturi ((UE) 2020/1828);

Kampanji ta' informazzjoni

23. jenfasizza l-importanza tal-kampanji pubbliċi, sabiex il-pubbliku ġenerali jkun infurmat u ffamiljarizzat dwar l-eżistenza u s-siwi tas-sistemi tal-IA kif ukoll dwar ir-riskji potenzjali. Jenfasizza wkoll il-ħtieġa urġenti għal informazzjoni komprensiva għall-konsumaturi dwar l-Intelliġenza Artifiċjali/it-teħid ta’ deċiżjonijiet immexxi mill-magni. Jappella għal dan il-għan li l-Kummissjoni Ewropea tipprovdi finanzjament għal kampanji bħal dawn;

Piż amministrattiv

24. jesprimi t-tħassib tiegħu dwar il-piż amministrattiv potenzjali tal-Proposta għal Regolament. Il-piż amministrattiv jista’ jipprevjeni lill-intrapriżi żgħar u ta’ daqs medju u lill-awtoritajiet lokali u reġjonali milli jippromovu l-innovazzjoni u jimplimentaw sistemi tal-IA ( 4 )

Proporzjonalità u sussidjarjetà

25. iqis li l-abbozz ta’ regolament jirrispetta l-prinċipji tal-proporzjonalità u tas-sussidjarjetà. Il-valur miżjud tal-azzjoni tal-UE f’dan il-qasam u l-bażijiet legali rilevanti magħżula mill-Kummissjoni huma ċari u koerenti. Il-valutazzjoni tal-impatt inkludiet taqsima separata dwar is-sussidjarjetà. Barra minn hekk, l-ebda parlament nazzjonali ma ħareġ opinjoni motivata dwar in-nuqqas ta’ konformità mal-prinċipju tas-sussidjarjetà sal-iskadenza għas-sottomissjonijiet, stabbilita għat-2 ta’ Settembru 2021.

Brussell, it-2 ta’ Diċembru 2021. Apostolos TZITZIKOSTAS Il-President tal-Kumitat Ewropew tar-Reġjuni

([62]) Id-Deċiżjoni Kwadru tal-Kunsill 2002/584/JHA tat-13 ta’ Ġunju 2002 fuq il-mandat ta’ arrest Ewropew u l-proċeduri ta’ ċediment bejn l-Istati Membri (ĠU L 190, 18.7.2002, p. 1).

([62]) Id-Deċiżjoni Kwadru tal-Kunsill 2002/584/JHA tat-13 ta’ Ġunju 2002 fuq il-mandat ta’ arrest Ewropew u l-proċeduri ta’ ċediment bejn l-Istati Membri (ĠU L 190, 18.7.2002, p. 1).

(1) https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_mt

(2) Artikolu 5(1)(c)

(3) Anness III(5)(a)

(4) Studju reċenti kkummissjonat mill-Kummissjoni Ewropea (Study to Support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe [Studju li jappoġġja valutazzjoni tal-impatt tar-rekwiżiti regolatorji għall-Intelliġenza Artifiċjali fl-Ewropa], p. 12) stima li, abbażi ta’ suppożizzjonijiet raġonevoli, il-kisba ta’ ċertifikazzjoni ta’ sistema tal-IA tista’ tiswa medja ta’ bejn EUR 16 800 u EUR 23 000, jew madwar 10 sa 14 % tal-kostijiet tal-iżvilupp.