Dan il-Memorandum ta’ Spjegazzjoni qed jinhemeż mal-proposta għal Regolament li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali (l-Att dwar l-Intelliġenza Artifiċjali). L-Intelliġenza Artifiċjali (AI) hi familja ta’ teknoloġiji li qed tevolvi malajr u li tista’ ġġib firxa wiesgħa ta’ benefiċċji ekonomiċi u soċjetali fl-ispettru kollu tal-industriji u tal-attivitajiet soċjali. B’titjib fil-previżjoni, b’ottimizzazzjoni tal-operazzjonijiet u l-allokazzjoni tar-riżorsi, u b’personalizzazzjoni tat-twassil tas-servizzi, l-użu tal-intelliġenza artifiċjali jista’ jappoġġa eżiti b’benefiċċji soċjali u ambjentali u jipprovdi vantaġġi kompetittivi importanti lill-kumpaniji u lill-ekonomija Ewropea. Azzjoni bħal din hi meħtieġa b’mod partikolari f’setturi b’impatt qawwi, inkluż it-tibdil fil-klima, l-ambjent u s-saħħa, is-settur pubbliku, il-finanzi, il-mobbiltà, l-affarijiet interni u l-agrikoltura. Madankollu, l-istess elementi u tekniki li jżidu l-benefiċċji soċjoekonomiċi tal-AI jistgħu jġibu magħhom ukoll għadd ta’ riskji ġodda jew konsegwenzi negattivi għall-individwi jew għas-soċjetà. Fid-dawl tal-ħeffa tal-bidla teknoloġika u l-isfidi possibbli, l-UE impenjata bis-sħiħ li tikseb approċċ bilanċjat. Hu fl-interess tal-Unjoni li titħares it-tmexxija teknoloġika tal-UE u li jkun żgurat li l-Ewropej ikunu jistgħu jibbenefikaw mit-teknoloġiji ġodda żviluppati u li dawn ikunu jaqblu mal-valuri, id-drittijiet fundamentali u l-prinċipji tal-Unjoni.

Barra minn hekk, il-promozzjoni tal-innovazzjoni xprunata mill-AI hi marbuta mill-qrib mal-Att dwar il-Governanza tad-Data, mad-Direttiva dwar id-Data Miftuħa u ma’ inizjattivi oħra skont l-istrateġija tal-UE għad-data, li jistabbilixxu mekkaniżmi u servizzi affidabbli għal użu mill-ġdid, kondiviżjoni u ġbir flimkien ta’ data li hi essenzjali għall-iżvilupp ta’ mudelli tal-AI xprunati minn data ta’ kwalità għolja.

Hi żgurata wkoll il-konsistenza mal-Karta tad-Drittijiet Fundamentali tal-UE u mal-leġiżlazzjoni sekondarja eżistenti tal-Unjoni dwar il-protezzjoni tad-data, il-protezzjoni tal-konsumatur, in-nondiskriminazzjoni u l-ugwaljanza bejn il-ġeneri. Il-proposta hi mingħajr preġudizzju u tikkumplimenta r-Regolament Ġenerali dwar il-Protezzjoni tad-Data (ir-Regolament (UE) 2016/679) u d-Direttiva dwar l-Infurzar tal-Liġi (id-Direttiva (UE) 2016/680) b’sett ta’ regoli armonizzati applikabbli għad-disinn, l-iżvilupp u l-użu ta’ ċerti sistemi tal-AI b’riskju kbir u b’restrizzjonijiet fuq ċerti użi tas-sistemi tal-identifikazzjoni bijometrika remota. Barra minn hekk, il-proposta tikkumplimenta l-liġi eżistenti tal-Unjoni dwar in-nondiskriminazzjoni b’rekwiżiti speċifiċi bil-għan li jnaqqsu kemm jista’ jkun ir-riskju ta’ diskriminazzjoni algoritmika, b’mod partikolari fir-rigward tad-disinn u l-kwalità tas-settijiet tad-data użati għall-iżvilupp ta’ sistemi tal-AI, u kkumplimentati b’obbligi għall-ittestjar, il-ġestjoni tar-riskju, id-dokumentazzjoni u s-sorveljanza umana tul iċ-ċiklu tal-ħajja kollu tas-sistemi tal-AI. Il-proposta hi mingħajr preġudizzju għall-applikazzjoni tal-liġi tal-kompetizzjoni tal-Unjoni.

Fost dawk li fformulaw l-opinjoni tagħhom dwar il-mudelli tal-infurzar, aktar minn 50 %, speċjalmentl-assoċjazzjonijiet tan-negozju, kienu favur taħlita ta’ awtovalutazzjoni tar-riskji ex ante u infurzar ex post għas-sistemi tal-AI b’riskju kbir.

L-użu tal-AI bil-karatteristiċi speċifiċi tagħha (eż. l-opaċità, il-kumplessità, id-dipendenza fuq id-data, l-imġiba awtonoma) jista’ jaffettwa ħażin lil għadd ta’ drittijiet fundamentali stabbiliti fil-Karta tad-Drittijiet Fundamentali tal-UE (“il-Karta”). Din il-proposta għandha l-għan li tiżgura livell għoli ta’ ħarsien għal dawk id-drittijiet fundamentali u li tindirizza sorsi varji ta’ riskji b’approċċ definit b’mod ċar u bbażat fuq ir-riskji. B’sett ta’ rekwiżiti għal AI affidabbli u b’obbligi proporzjonati fuq il-parteċipanti kollha fil-katina tal-valur, il-proposta ttejjeb u tippromwovi l-ħarsien tad-drittijiet protetti mill-Karta: id-dritt għad-dinjità umana (l-Artikolu 1), ir-rispett għall-ħajja privata u l-protezzjoni tad-data personali (l-Artikoli 7 u 8), in-nondiskriminazzjoni (l-Artikolu 21) u l-ugwaljanza bejn in-nisa u l-irġiel (l-Artikolu 23). Għandha l-għan li tipprevjeni effett dissważiv fuq id-drittijiet għal-libertà tal-espressjoni (l-Artikolu 11) u għal-libertà ta’ għaqda (l-Artikolu 12), li tiżgura l-protezzjoni tad-dritt għal rimedju effettiv u għal proċess imparzjali, id-drittijiet għad-difiża u l-preżunzjoni ta’ innoċenza (l-Artikoli 47 u 48), kif ukoll il-prinċipju ġenerali ta’ amministrazzjoni tajba. Barra minn hekk, kif inhu applikabbli f’ċerti oqsma, il-proposta taffettwa b’mod pożittiv id-drittijiet ta’ bosta gruppi speċjali, bħad-drittijiet tal-ħaddiema għal kundizzjonijiet tax-xogħol ġusti u xierqa (l-Artikolu 31), livell għoli ta’ protezzjoni tal-konsumaturi (l-Artikolu 28), id-drittijiet tat-tfal (l-Artikolu 24) u l-integrazzjoni tal-persuni b’diżabbiltà (l-Artikolu 26). Id-dritt għal livell għoli ta’ protezzjoni ambjentali u t-titjib tal-kwalità tal-ambjent (l-Artikolu 37) huma rilevanti wkoll, inkluż fir-rigward tas-saħħa u s-sikurezza tan-nies. L-obbligi għal ittestjar ex ante, il-ġestjoni tar-riskju u s-sorveljanza umana jiffaċilitaw ukoll ir-rispett ta’ drittijiet fundamentali oħra għax inaqqsu kemm jista’ jkun ir-riskju ta’ deċiżjonijiet assistiti bl-AI li jkunu żbaljati jew preġudikati f’oqsma kritiċi bħall-edukazzjoni u t-taħriġ, l-impjiegi, servizzi importanti, l-infurzar tal-liġi u l-ġudikatura. Jekk il-ksur tad-drittijiet fundamentali jibqa’ jseħħ, isir possibbli rimedju effettiv għall-persuni affettwati billi jiġu żgurati t-trasparenza u t-traċċabbiltà tas-sistemi tal-AI flimkien ma’ kontrolli ex post sodi.

Il-Kapitolu 4 jistabbilixxi l-qafas biex il-korpi notifikati jkunu involuti bħala partijiet terzi indipendenti fil-proċeduri tal-valutazzjoni tal-konformità, filwaqt li l-Kapitolu 5 jispjega fid-dettall il-proċeduri tal-valutazzjoni tal-konformità li jridu jiġu segwiti għal kull tip ta’ sistema tal-AI b’riskju kbir. L-approċċ tal-valutazzjoni tal-konformità għandu l-għan li jnaqqas kemm jista’ jkun il-piż għall-operaturi ekonomiċi u l-korpi notifikati, li l-kapaċità tagħhom jeħtieġ tiżdied progressivament maż-żmien. Is-sistemi tal-AI maħsubin biex jintużaw bħala komponenti tas-sikurezza fi prodotti regolati bil-leġiżlazzjoni tal-Qafas Leġiżlattiv il-Ġdid (eż. makkinarju, ġugarelli, apparati mediċi, eċċ.) se jkunu soġġetti għall-istess mekkaniżmi ta’ konformità u infurzar ex ante u ex post bħall-prodotti li huma l-komponent tagħhom. Id-differenza ewlenija hi li l-mekkaniżmi ex ante u ex post jiżguraw il-konformità mhux biss mar-rekwiżiti stabbiliti bil-leġiżlazzjoni settorjali, iżda anki mar-rekwiżiti stabbiliti b’dan ir-Regolament.

Fir-rigward tas-sistemi awtonomi tal-AI b’riskju kbir imsemmija fl-Anness III, se tiġi stabbilita sistema ġdida ta’ konformità u infurzar. Din timxi bil-mudell tal-leġiżlazzjoni tal-Qafas Leġiżlattiv il-Ġdid implimentata b’verifiki ta’ kontroll intern mill-fornituri, għajr fil-każ tas-sistemi tal-identifikazzjoni bijometrika remota li se jkunu soġġetti għal valutazzjoni tal-konformità minn parti terza. Valutazzjoni komprensiva ex ante tal-konformità b’kontrolli interni, flimkien ma’ infurzar ex post sod, jistgħu jkunu soluzzjoni effettiva u raġonevoli għal dawk is-sistemi, fid-dawl tal-fażi bikrija tal-intervent regolatorju u l-fatt li s-settur tal-AI hu innovattiv ħafna u l-għarfien espert fl-awditjar issa għadu kif beda jinġabar. Valutazzjoni b’kontrolli interni għal sistemi “awtonomi” tal-AI b’riskju kbir tkun teħtieġ konformità ex ante sħiħa, effettiva u dokumentata kif xieraq mar-rekwiżiti kollha tar-Regolament u konformità ma’ sistemi sodi tal-ġestjoni tal-kwalità u tar-riskju u sorveljanza ta’ wara t-tqegħid fis-suq. Wara li l-fornitur jagħmel il-valutazzjoni tal-konformità rilevanti, jenħtieġ jirreġistra dawk is-sistemi awtonomi tal-AI b’riskju kbir f’bażi tad-data tal-UE mmexxija mill-Kummissjoni biex jiżdiedu t-trasparenza u s-sorveljanza pubbliċi u tissaħħaħ is-superviżjoni ex post mill-awtoritajiet kompetenti. B’kuntrast ma’ dan, għal raġunijiet ta’ konsistenza mal-leġiżlazzjoni eżistenti dwar is-sikurezza tal-prodotti, il-valutazzjonijiet tal-konformità tas-sistemi tal-AI li jkun komponenti tas-sikurezza fi prodotti se jimxu b’sistema bi proċeduri tal-valutazzjoni tal-konformità minn parti terzi kif diġà stabbilit fil-leġiżlazzjoni settorjali rilevanti dwar is-sikurezza tal-prodotti. Jekk isiru modifiki sostanzjali fis-sistemi tal-AI (u b’mod partikolari tibdiliet li jmorru lil hinn minn dak li jkun determinat minn qabel mill-fornitur fid-dokumentazzjoni teknika tiegħu u vverifikat waqt il-valutazzjoni tal-konformità ex ante), ikun hemm bżonn valutazzjonijiet mill-ġdid ex ante tal-konformità.

5.2.4.OBBLIGI TAT-TRASPARENZA GĦAL ĊERTI SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI (TITOLU IV)

It-Titolu IV jikkonċerna ċerti sistemi tal-AI biex jitqiesu r-riskji speċifiċi ta’ manipulazzjoni li dawn joħolqu. L-obbligi tat-trasparenza japplikaw għas-sistemi li (i) jinteraġixxu mal-bnedmin, (ii) jintużaw biex jiġu identifikati emozzjonijiet jew biex tiġi determinata assoċjazzjoni ma’ kategoriji (soċjali) abbażi ta’ data bijometrika, jew (iii) jiġġeneraw jew jimmanipulaw xi kontenut (“deep fakes”). Meta l-persuni jinteraġixxu ma’ sistema tal-AI jew meta l-emozzjonijiet jew il-karatteristiċi tagħhom jingħarfu b’mezzi awtomatizzati, in-nies iridu jiġu informati b’dik iċ-ċirkostanza. Jekk sistema tal-AI tintuża biex tiġġenera jew timmanipula kontenut ta’ immaġni, awdjo jew vidjo li jixbah sostanzjalment lil kontenut awtentiku, jenħtieġ ikun hemm obbligu ta’ żvelar li l-kontenut qed jiġi ġġenerat b’mezzi awtomatizzati, soġġetta għal eċċezzjonijiet ta’ skopijiet leġittimi (infurzar tal-liġi, libertà tal-espressjoni). B’hekk, il-persuni jkunu jistgħu jagħmlu għażliet informati jew joħorġu minn sitwazzjoni partikolari.

5.2.5.MIŻURI LI JAPPOĠĠAW L-INNOVAZZJONI (TITOLU V)

It-Titolu V jikkontribwixxi għall-objettiv li jinħoloq qafas legali favorevoli għall-innovazzjoni, validu għall-futur u reżiljenti għat-tfixkil. Għal dak il-għan, dan iħeġġeġ lill-awtoritajiet nazzjonali kompetenti jistabbilixxu sandboxes regolatorji, u jistabbilixxi qafas bażiku f’termini ta’ governanza, superviżjoni u responsabbiltà. Is-sandboxes regolatorji tal-AI jistabbilixxu ambjent ikkontrollat biex jiġu ttestjati teknoloġiji innovattivi għal żmien limitat abbażi ta’ pjan ta’ ttestjar miftiehem mal-awtoritajiet kompetenti. It-Titolu V fih ukoll miżuri biex jitnaqqas il-piż regolatorju fuq l-SMEs u fuq in-negozji ġodda.

5.2.6.GOVERNANZA U IMPLIMENTAZZJONI (TITOLI VI, VII U VII)

It-Titolu VI jistabbilixxi s-sistemi ta’ governanza fil-livell tal-Unjoni u nazzjonali. Fil-livell tal-Unjoni, il-proposta tistabbilixxi Bord Ewropew għall-Intelliġenza Artifiċjali (il-“Bord”), magħmul minn rappreżentanti tal-Istati Membri u tal-Kummissjoni. Il-Bord jiffaċilita implimentazzjoni bla xkiel, effettiva u armonizzata ta’ dan ir-Regolament billi jikkontribwixxi għall-kooperazzjoni effettiva tal-awtoritajiet nazzjonali superviżorji u tal-Kummissjoni u jipprovdi konsulenza u għarfien espert lill-Kummissjoni. Jiġbor ukoll l-aqwa prattiki u jaqsamhom mal-Istati Membri.

Fil-livell nazzjonali, l-Istati Membri se jkollhom jaħtru awtorità nazzjonali kompetenti waħda jew aktar u, fosthom, lill-awtorità superviżorja nazzjonali, għall-finijiet ta’ superviżjoni tal-applikazzjoni u tal-implimentazzjoni tar-Regolament. Il-Kontrollur Ewropew għall-Protezzjoni tad-Data jaġixxi bħala l-awtorità kompetenti għas-superviżjoni tal-istituzzjonijiet, tal-aġenziji u tal-korpi tal-Unjoni meta dawn ikunu jaqgħu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament.

It-Titolu VII għandu l-għan li jiffaċilita l-ħidma ta’ monitoraġġ tal-Kummissjoni u tal-awtoritajiet nazzjonali bl-istabbiliment ta’ bażi tad-data fl-UE għas-sistemi awtonomi tal-AI b’riskju kbir li prinċipalment ikollhom implikazzjonijiet fuq id-drittijiet fundamentali. Il-bażi tad-data tħaddimha l-Kummissjoni u tingħata data mill-fornituri tas-sistemi tal-AI, li se jkunu meħtieġa jirreġistraw is-sistemi tagħhom qabel ma jqegħduhom fis-suq jew qabel ma jqegħduhom fis-servizz b’xi mod ieħor.

It-Titolu VIII jistabbilixxi l-obbligi tal-monitoraġġ u tar-rappurtar għall-fornituri tas-sistemi tal-AI fir-rigward tas-sorveljanza ta’ wara t-tqegħid fis-suq u tar-rappurtar u tal-investigazzjoni ta’ inċidenti u funzjonament ħażin relatati mal-AI. L-awtoritajiet tas-sorveljanza tas-suq jikkontrollaw ukoll is-suq u jinvestigaw il-konformità mal-obbligi u mar-rekwiżiti għas-sistemi kollha tal-AI b’riskju kbir diġà mqiegħda fis-suq. L-awtoritajiet tas-sorveljanza tas-suq ikollhom is-setgħat kollha skont ir-Regolament (UE) 2019/1020 dwar is-sorveljanza tas-suq. L-infurzar ex post jenħtieġ jiżgura li ladarba s-sistema tal-AI titqiegħed fis-suq, l-awtoritajiet pubbliċi jkollhom is-setgħat u r-riżorsi biex jintervjenu meta s-sistemi tal-AI jiġġeneraw riskji mhux mistennija li jeżiġu azzjoni rapida. Dawn jimmonitorjaw ukoll il-konformità tal-operaturi mal-obbligi rilevanti tagħhom skont ir-Regolament. Il-proposta ma tipprevedix l-istabbiliment awtomatiku ta’ xi korp jew awtorità addizzjonali fil-livell tal-Istati Membri. Għalhekk, l-Istati Membri jistgħu jaħtru (u jistrieħu fuq l-għarfien espert ta’) awtoritajiet settorjali eżistenti biex ikunu fdati wkoll bis-setgħat li jimmonitorjaw u jinfurzaw id-dispożizzjonijiet tar-Regolament.

Dan kollu hu mingħajr preġudizzju għas-sistema eżistenti u għall-allokazzjoni tas-setgħat ta’ infurzar ex post tal-obbligi rigward id-drittijiet fundamentali fl-Istati Membri. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet tas-superviżjoni u tal-infurzar eżistenti se jkollhom ukoll is-setgħa jitolbu u jaċċessaw kull dokumentazzjoni miżmuma skont dan ir-Regolament u, meta meħtieġ, jitolbu lill-awtoritajiet tas-sorveljanza tas-suq jorganizzaw ittestjar tas-sistema tal-AI b’riskju kbir permezz ta’ mezzi tekniċi.

5.2.7.KODIĊIJIET TAL-KONDOTTA (TITOLU IX)

It-Titolu IX joħloq qafas għall-ħolqien ta’ kodiċijiet tal-kondotta bil-għan li jħeġġu lill-fornituri tas-sistemi tal-AI li m’għandhomx riskju kbir biex japplikaw b’mod volontarju r-rekwiżiti obbligatorji għas-sistemi tal-AI b’riskju kbir (kif stabbilit fit-Titolu III). Il-fornituri tas-sistemi tal-AI li m’għandhomx riskju kbir jistgħu joħolqu u jimplimentaw il-kodiċijiet tal-kondotta huma stess. Dawk il-kodiċijiet jistgħu jinkludu wkoll impenji volontarji relatati, pereżempju, mas-sostenibbiltà ambjentali, mal-aċċessibbiltà għall-persuni b’diżabbiltà, mal-parteċipazzjoni tal-partijiet ikkonċernati fit-tfassil u fl-iżvilupp tas-sistemi tal-AI, u mad-diversità tat-timijiet tal-iżvilupp.

5.2.8.DISPOŻIZZJONIJIET FINALI (TITOLI X, XI U XII)

It-Titolu X jenfasizza l-obbligu tal-partijiet kollha li jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data u jistabbilixxi regoli għall-iskambju tal-informazzjoni miksuba waqt l-implimentazzjoni tar-Regolament. It-Titolu X jinkludi wkoll miżuri biex jiżgura l-implimentazzjoni effettiva tar-Regolament permezz ta’ penali effettivi, proporzjonati u dissważivi għall-ksur tad-dispożizzjonijiet.

It-Titolu XI jistabbilixxi regoli għall-eżerċizzju tas-setgħat ta’ delega u ta’ implimentazzjoni. Il-proposta tagħti s-setgħa lill-Kummissjoni li tadotta, meta xieraq, atti ta’ implimentazzjoni biex tiżgura l-applikazzjoni uniformi tar-Regolament jew tal-atti delegati biex taġġorna jew tikkumplimenta l-listi fl-Annessi I sa VII.

It-Titolu XII fih obbligu għall-Kummissjoni li tivvaluta regolarment il-ħtieġa ta’ aġġornament tal-Anness III u tħejji rapporti regolari dwar l-evalwazzjoni u r-rieżami tar-Regolament. Jistabbilixxi wkoll id-dispożizzjonijiet finali, inkluż perjodu tranżitorju differenzjat għad-data inizjali tal-applikabbiltà tar-Regolament biex tiġi ffaċilitata l-implimentazzjoni bla xkiel għall-partijiet ikkonċernati kollha.

2021/0106 (COD)

Proposta għal