Opinjoni tal-Kumitat Ekonomiku u Soċjali Ewropew dwar il- “Komunikazzjoni tal-Kummissjoni lill-Parlament Ewropew, lill-Kunsill, lill-Kumitat Ekonomiku u Soċjali Ewropew u lill-Kumitat tar-Reġjuni — Nibnu l-fiduċja fl-intelliġenza artifiċjali ċċentrata fuq il-bniedem”

[COM(2019) 168 final]

(2020/C 47/09)

Relatur: Franca SALIS-MADINIER

Konsultazzjoni Kummissjoni Ewropea, 3.6.2019 Bażi legali Artikolu 304 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea Sezzjoni kompetenti Sezzjoni għas-Suq Uniku, il-Produzzjoni u l-Konsum Adottata fis-sezzjoni 18.10.2019 Adottata fil-plenarja 30.10.2019 Sessjoni plenarja Nru 547 Riżultat tal-votazzjoni (favur/kontra/astensjonijiet) 198/1/4

1. Konklużjonijiet u rakkomandazzjonijiet

1.1. Il-KESE jaqbel mal-fehma tal-Kummissjoni li l-intelliġenza artifiċjali (IA) mhijiex mira fiha nfisha iżda għodda li tista’ twassal għal bidliet radikali pożittivi iżda li tinvolvi wkoll riskji. Huwa għalhekk li l-użu tagħha għandu jiġi regolat.

1.2. Il-Kummissjoni għandha tieħu azzjoni dwar il-previżjoni, il-prevenzjoni u l-projbizzjoni tal-użu malizzjuż tal-intelliġenza artifiċjali u tat-tagħlim awtomatiku, u għandha tirregola aħjar il-kummerċjalizzazzjoni ta’ prodotti b’intenzjoni malizzjuża.

1.3. B’mod partikolari, l-UE għandha tippromovi l-iżvilupp ta’ sistemi tal-intelliġenza artifiċjali mmirati lejn applikazzjonijiet konkreti biex titħaffef it-tranżizzjoni ekoloġika u klimatika.

1.4. Għandhom jiġu identifikati liema huma l-isfidi li jistgħu jiġu indirizzati permezz ta’ kodiċijiet etiċi, awtoregolazzjoni u impenji volontarji, u dawk li għandhom jiġu indirizzati permezz ta’ mezzi regolatorji u leġislattivi b’segwitu u, fejn ikun hemm nuqqas ta’ konfomità, b’sanzjoni. Fi kwalunkwe każ, is-sistemi IA għandhom jikkonformaw mal-leġislazzjonijiet eżistenti.

1.5. L-IA teħtieġ approċċ li jkopri l-aspetti tekniċi, iżda wkoll l-aspetti soċjetali u etiċi. Il-KESE jilqa’ r-rieda tal-UE li tibni approċċ tal-IA ċċentrat fuq il-bniedem u konformi mal-valuri li hija bbażata fuqhom l-Unjoni: ir-rispett għad-dinjità tal-bniedem, il-libertà, id-demokrazija, l-ugwaljanza u n-nondiskriminazzjoni, l-istat tad-dritt, ir-rispett għad-drittijiet tal-bniedem.

1.6. Il-KESE jafferma mill-ġdid ( 1 ) il-ħtieġa li l-ħaddiema u r-rappreżentanti tagħhom jiġu kkonsultati u jingħataw informazzjoni meta jiġu introdotti sistemi tal-IA li jistgħu jwasslu għal bidliet fl-organizzazzjoni tax-xogħol, is-sorveljanza u l-kontroll tiegħu kif ukoll is-sistemi ta’ evalwazzjoni u r-reklutaġġ tal-ħaddiema. Il-Kummissjoni għandha tippromovi d-djalogu soċjali bil-għan li tinvolvi lill-ħaddiema fl-użu tas-sistemi tal-IA.

1.7. Il-KESE jenfasizza ( 2 ) li IA affidabbli tirrikjedi li l-bniedem ikollu kontroll fuq il-magna u li ċ-ċittadini jingħataw informazzjoni dwar l-użu tagħha. Is-sistemi tal-IA għandhom ikunu jistgħu jiġu spjegati jew, meta dan ma jkunx possibbli, iċ-ċittadini u l-konsumaturi għandhom jingħataw informazzjoni dwar il-limiti u r-riskji tagħhom.

1.8. L-UE għandha tindirizza r-“riskji emerġenti” ( 3 ) fir-rigward tas-saħħa u tas-sigurtà fuq ix-xogħol. Sabiex jiġi evitat li s-sistemi awtonomi jkunu ta’ detriment għall-persuni jew jikkawżawlhom ħsara, għandhom jiġu stabbiliti standards. Il-ħaddiema għandhom ikunu mħarrġa biex jaħdmu mal-magna u biex iwaqqfuha f’każ ta’ emerġenza.

1.9. Il-KESE jitlob li tiġi stabbilita sistema robusta ta’ ċertifikazzjoni bbażata fuq proċeduri ta’ ttestjar li tippermetti lill-kumpaniji jaffermaw il-fiduċja u s-sigurtà tas-sistemi tal-IA tagħhom. It-trasparenza, it-traċċabilità u l-ispjegazzjoni tal-proċessi tat-teħid ta’ deċiżjonijiet algoritmiċi huma sfida teknika li titlob l-appoġġ ta’ strumenti tal-UE bħall-programm Orizzont Ewropa.

1.10. Ir-rispett għall-ħajja privata u tal-protezzjoni tad-data jiddetermina l-grad ta’ fiduċja taċ-ċittadini u tal-konsumaturi fl-IA. Is-sjieda tad-data, il-kontroll u l-użu tagħha minn kumpaniji u organizzazzjonijiet għadhom fil-biċċa l-kbira tagħhom kwistjonijiet mhux solvuti (speċjalment bl-Internet tal-Oġġetti). Il-KESE jistieden lill-Kummissjoni biex tirrevedi b’mod regolari r-Regolament Ġenerali dwar il-Protezzjoni tad-Data (GDPR) ( 4 ) u r-regolamenti relatati fid-dawl tal-iżviluppi teknoloġiċi.

1.11. Il-KESE jemmen li huwa essenzjali li jitqies il-kontribut tas-sistemi tal-IA fit-tnaqqis tal-emissjonijiet ta’ gass b’effett ta’ serra, b’mod partikolari fis-setturi tal-industrija, tat-trasport, tal-enerġija, tal-bini u tal-agrikoltura. Huwa jsostni li t-tranżizzjonijiet klimatiċi u diġitali huma interkonnessi.

1.12. Il-KESE jemmen li l-kontroll tas-sistemi tal-IA jaf ma jkunx biżżejjed biex jiddefinixxi r-responsabbiltajiet u biex isaħħaħ il-fiduċja. Il-KESE jirrakkomanda li l-prijorità tkun marbuta mat-twaqqif ta’ regoli ċari li, f’każ ta’ ksur, jitfgħu r-responsabbiltà fuq il-persuni legali: persuni fiżiċi jew ġuridiċi. Il-KESE jistieden ukoll lill-Kummissjoni biex teżamina b’mod prijoritarju l-kwistjoni fundamentali ta’ assigurabbiltà tas-sistemi tal-IA.

1.13. Il-KESE jipproponi li għall-kumpaniji li jikkonformaw mal-istandards jiġi żviluppat “ċertifikat Ewropew ta’ kumpaniji affidabbli fil-qasam tal-IA”, ibbażat fost oħrajn fuq il-lista ta’ evalwazzjoni proposta mill-Grupp ta’ Esperti ta’ Livell Għoli fuq l-IA (HLG).

1.14. Billi tippromovi x-xogħol fil-G7, il-G20 u fid-djalogi bilaterali, l-UE trid tfittex li tiżgura li r-regolamentazzjoni tal-IA tmur lil hinn mill-fruntieri tal-Ewropa. Huwa ftehim internazzjonali għall-IA affidabbli li jeħtieġ li jinbena, li jiżviluppa standards internazzjonali u li jivverifika regolarment ir-rilevanza tagħhom.

2. Sommarju tal-proposta tal-Kummissjoni

2.1. Din il-Komunikazzjoni tibbaża fuq il-ħidma tal-grupp ta’ HLG li l-Kummissjoni ħatret f’Ġunju 2018. F’din il-Komunikazzjoni, il-Kummissjoni tistabbilixxi seba’ rekwiżiti essenzjali biex tinkiseb IA affidabbli li huma elenkati fil-punt 4.

2.2. Il-Kummissjoni nediet fażi pilota li tinvolvi firxa wiesgħa ta’ partijiet ikkonċernati. Dan l-eżerċizzju jiffoka b’mod partikolari fuq il-lista ta’ evalwazzjoni li l-HLG stabbilixxa għal kull waħda mir-rekwiżiti essenzjali. Fil-bidu tal-2020, l-HLG se jirrevedi u jaġġorna l-lista ta’ evalwazzjoni u l-Kummissjoni se tipproponi miżuri ġodda, kif xieraq.

2.3. Il-Kummissjoni tixtieq tpoġġi l-approċċ fil-qasam tal-IA tagħha fix-xena internazzjonali u se tkompli jkollha rwol attiv, inkluż fil-G7 u l-G20.

3. Kummenti ġenerali

3.1. L-IA ċċentrata fuq il-bniedem teħtieġ approċċ li jkopri l-aspetti tekniċi, kif ukoll l-aspetti soċjetali u etiċi. Il-KESE jilqa’ r-rieda li wrew l-istituzzjonijiet tal-Unjoni Ewropea li jibnu approċċ tal-IA konformi mal-valuri li fuqhom hija bbażata l-Unjoni: ir-rispett għad-dinjità tal-bniedem, il-libertà, id-demokrazija, l-ugwaljanza u n-nondiskriminazzjoni, l-istat tad-dritt, ir-rispett għad-drittijiet tal-bniedem. Kif tenfasizza l-Kummissjoni ( 5 ) , l-IA mhijiex mira fiha nfisha, iżda għodda li tista’ ġġib bidliet radikali pożittivi. Bħal kwalunkwe għodda, hija toħloq opportunitajiet u riskji fl-istess ħin. Huwa għalhekk li l-UE għandha tirregola l-użu tagħha u tiddefinixxi b’mod ċar ir-responsabbiltajiet.

3.2. Din il-fiduċja f’IA ċċentrata fuq il-bniedem se tirriżulta mill-affermazzjoni ta’ valuri u prinċipji, ta’ qafas regolatorju stabbilit sew u ta’ linji gwida dwar l-etika li fihom rekwiżiti essenzjali.

3.3. Fost l-għadd ta’ sfidi tal-IA, għandu jiġi ddeterminat, mal-partijiet interessati kollha, liema sfidi għandhom jiġu indirizzati permezz ta’ mezzi regolatorji u leġislattivi flimkien ma’ mekkaniżmi ta’ monitoraġġ regolatorji u, fil-każ ta’ nuqqas ta’ konformità, flimkien ma’ sanzjonijiet, u liema sfidi jistgħu jiġu indirizzati permezz ta’ kodiċijiet etiċi, ta’ awtoregolamentazzjoni u ta’ impenji volontarji. Il-KESE jilqa’ l-fatt li l-Kummissjoni adottat xi prinċipji li oriġinarjament ġew indirizzati mill-KESE, iżda jiddispjaċih li f’dan l-istadju, hi ma tipproponi l-ebda miżura speċifika biex tindirizza t-tħassib leġittimu fir-rigward tad-drittijiet tal-konsumaturi, tas-sigurtà tas-sistemi, ta’ responsabbiltà.

3.4. Is-sistemi tal-IA għandhom jirrispettaw il-qafas regolatorju eżistenti, b’mod partikolari fir-rigward tal-protezzjoni tad-data personali, ir-responsabbiltà tal-prodott, il-protezzjoni tal-konsumatur, in-nondiskriminazzjoni, kwalifiki professjonali kif ukoll informazzjoni u konsultazzjoni tal-ħaddiema fil-post tax-xogħol. Għandu jiġi żgurat li dawn il-leġislazzjonijiet jiġu adattati għall-isfidi l-ġodda tad-diġitizzazzjoni u tal-IA.

3.5. Kif tinnota l-Kummissjoni, “għandhom jiddaħħlu fis-seħħ proċessi biex jiġu ċċarati u vvalutati riskji potenzjali assoċjati mal-użu tas-sistemi ta’ IA f’diversi oqsma ta’ applikazzjoni” ( 6 ) . Il-KESE jagħti l-akbar importanza lill-metodi futuri ta’ din l-evalwazzjoni kif ukoll lill-ħolqien ta’ indikaturi li jistgħu jitqiesu sabiex tkun tista’ ssir din l-evalwazzjoni. L-abbozz ta’ lista ta’ evalwazzjoni mfassla mill-HLG huwa punt tat-tluq għall-implimentazzjoni ta’ tali proċessi.

3.6. Dan jikkonċerna wkoll il-kwistjoni tad-distribuzzjoni ġusta tal-valur miżjud mistenni tas-sistemi tal-IA. Il-KESE jqis li t-trasformazzjonijiet pożittivi tal-IA f’termini tal-iżvilupp ekonomiku, tas-sostenibbiltà tal-proċessi ta’ produzzjoni u ta’ konsum (b’mod partikolari l-enerġija), ta’ titjib tal-użu tar-riżorsi għandhom jibbenefikaw minnhom il-pajjiżi kollha u, fi ħdanhom, iċ-ċittadini kollha.

4. Kummenti speċifiċi

4.1. Intervent uman u sorveljanza umana

4.1.1. Il-Kummissjoni trid tiżgura li l-użu tas-sistemi tal-IA fl-ebda ċirkostanza ma jista’ jdgħajjef l-awtonomija tal-bniedem jew jikkawża effetti negattivi. Il-KESE jaqbel ma’ dan l-approċċ li l-bniedem ikollu kontroll fuq il-magna, kif diġà qal fl-opinjonijiet preċedenti tiegħu.

4.1.2. Dan jeħtieġ li ċ-ċittadini jiġu informati b’mod korrett dwar l-użu ta’ dawn is-sistemi, li dawn jiġu spjegati jew, meta dan ma jkunx possibbli (pereżempju fil-każ ta’ “apprendiment profond”), li l-utent jingħata informazzjoni dwar il-limiti u r-riskji tas-sistema. Fi kwalunkwe każ, iċ-ċittadini għandhom ikunu jistgħu jibqgħu liberi li jiddeċiedu li jużaw sistema oħra differenti mis-sistema tal-IA.

4.1.3. Fil-kumpaniji u fl-amministrazzjonijiet pubbliċi, il-ħaddiema u r-rappreżentanti tagħhom għandhom jiġu informati u kkonsultati kif xieraq meta jiġu introdotti sistemi tal-IA li jistgħu jbiddlu l-organizzazzjoni tax-xogħol u li jistgħu jaffettwawhom f’termini ta’ kontroll, sorveljanza, evalwazzjoni u reklutaġġ. Il-Kummissjoni għandha tippromovi djalogu soċjali bil-għan li tinvolvi lill-ħaddiema fl-użu tas-sistemi tal-IA.

4.1.4. “emergency brake”) . Fir-rigward tar-riżorsi umani, għandha tingħata attenzjoni partikolari għar-riskji ta’ użu ħażin tas-sistemi tal-IA bħal sorveljanza mingħajr limitu, il-ġbir ta’ data personali, ta’ data dwar is-saħħa, il-kondiviżjoni ta’ din id-data ma’ partijiet terzi; kif ukoll riskji emerġenti f’termini ta’ saħħa u sigurtà fuq il-post tax-xogħol ( 7 ) . Sabiex jiġi evitat li l-kollaborazzjoni bejn il-bniedem u l-magni ma tikkawżax ħsara lill-persuni, għandhom jiġu stabbiliti standards ċari. L-istandard żviluppat mill-Organizzazzjoni Internazzjonali għall-Istandardizzazzjoni (ISO) dwar ir-robots kollaborattivi ( 8 ) , li jindirizza lill-manifatturi, lill-integraturi u lill-utenti, jipprovdi linji gwida għall-ħolqien u l-organizzazzjoni ta’ spazju tax-xogħol u t-tnaqqis tar-riskji li għalihom jistgħu jiġu esposti l-persuni. Il-ħaddiema għandhom ikunu mħarrġa dwar kif jużaw l-IA u r-robotika, kif jaħdmu bihom u, b’mod partikolari, kif ikunu jistgħu jwaqqfuhom f’każ ta’ emerġenza (il-prinċipju tal-

4.2. Robustezza u sigurtà teknika

4.2.1. Il-KESE jitlob għall-introduzzjoni ta’ standards Ewropej ta’ sikurezza u għall-iżvilupp ta’ sistema robusta ta’ ċertifikazzjoni bbażata fuq proċeduri ta’ ttestjar li jippermettu lill-kumpaniji jaffermaw l-affidabbiltà tas-sistemi tal-IA tagħhom. Il-KESE jixtieq ukoll jenfasizza l-importanza tal-kwistjoni ta’ assigurabbiltà tas-sistemi tal-IA.

4.2.2. data poisoning ”), is-sigurtà fiżika (piraterija tas-sistemi awtonomi, inklużi vetturi awtonomi, inġenji tal-ajru mingħajr bdot abbord, armi awtomatiċi) jew is-sigurtà politika (ġbir massiv ta’ data personali, propaganda mmirata, manipulazzjoni bil-vidjo, eċċ.). Ir-riċerkaturi, l-inġiniera u l-awtoritajiet pubbliċi għandhom jikkollaboraw mill-qrib biex jipprevjenu dawn ir-riskji; l-esperti u partijiet ikkonċernati oħra bħal utenti u konsumaturi għandhom ikunu jistgħu jipparteċipaw f’diskussjonijiet dwar dawn l-isfidi. Il-Kummissjoni ftit li xejn tindirizza l-aspett ta’ previżjoni, ta’ prevenzjoni u ta’ projbizzjoni tal-użu ħażin tal-IA u tat-tagħlim awtomatiku, li ħafna riċerkaturi jwissu kontrih ( 9 ) . Ir-rakkomandazzjonijiet ta’ dawn tal-aħħar għandhom jitqiesu, b’mod partikolari dawk dwar l-użu doppju ta’ dawn it-teknoloġiji, li jista’ jikkonċerna s-sigurtà diġitali (tixrid tal-attakki ċibernetiċi, sfruttament tal-vulnerabbiltajiet tal-bniedem u tal-IA, “”), is-sigurtà fiżika (piraterija tas-sistemi awtonomi, inklużi vetturi awtonomi, inġenji tal-ajru mingħajr bdot abbord, armi awtomatiċi) jew is-sigurtà politika (ġbir massiv ta’ data personali, propaganda mmirata, manipulazzjoni bil-vidjo, eċċ.). Ir-riċerkaturi, l-inġiniera u l-awtoritajiet pubbliċi għandhom jikkollaboraw mill-qrib biex jipprevjenu dawn ir-riskji; l-esperti u partijiet ikkonċernati oħra bħal utenti u konsumaturi għandhom ikunu jistgħu jipparteċipaw f’diskussjonijiet dwar dawn l-isfidi.

4.3. Privatezza u governanza tad-data

4.3.1. Privacy by design ”, li l-oġġetti konnessi għandhom jikkonformaw mal-GDPR, instab li l-konsumatur għandu ftit jew l-ebda informazzjoni dwar dan is-suġġett, u li hu m’għandu l-ebda kontroll fuq din id-data. Huwa għalhekk li l-KESE jistieden lill-Kummissjoni biex tirrevedi b’mod regolari l-GDPR u r-regolamenti relatati fid-dawl tal-evoluzzjonijiet teknoloġiċi Il-Kummissjoni titlob li l-aċċess għad-data jiġi “ġestit u kkontrollat b’mod xieraq” ( 10 ) . Il-KESE jemmen li għandna bżonn li mmorru lil hinn mid-dikjarazzjonijiet ġenerali. Il-livell ta’ fiduċja li ċ-ċittadin jagħti lis-sistemi tal-IA jiddetermina wkoll l-iżvilupp tagħhom. Il-kwistjonijiet ta’ sjieda tad-data, ta’ kontroll u tal-użu tagħha minn kumpaniji u organizzazzjonijiet għadhom ma ġewx solvuti. L-ammont ta’ data trażmessa pereżempju mill-karozzi lill-manifatturi tal-karozzi kif ukoll it-tip ta’ data huma ta’ sfida ( 11 ) . Minkejja l-kunċett ta’ “”, li l-oġġetti konnessi għandhom jikkonformaw mal-GDPR, instab li l-konsumatur għandu ftit jew l-ebda informazzjoni dwar dan is-suġġett, u li hu m’għandu l-ebda kontroll fuq din id-data. Huwa għalhekk li l-KESE jistieden lill-Kummissjoni biex tirrevedi b’mod regolari l-GDPR u r-regolamenti relatati fid-dawl tal-evoluzzjonijiet teknoloġiċi ( 12 )

4.4. Trasparenza

4.4.1. Il-KESE jqis li l-ispjegazzjoni tal-proċessi tat-teħid ta’ deċiżjonijiet algoritmiċi hija essenzjali fil-fehim, mhux tal-mekkaniżmi bħala tali, iżda tal-loġika sottostanti għall-proċessi tat-teħid ta’ deċiżjonijiet, kif ukoll il-mod li bih dawn jiġu influwenzati mis-sistemi tal-IA. L-iżvilupp ta’ proċeduri standard ta’ ttestjar għal sistemi ta’ tagħlim awtomatiku jibqa’ sfida teknika li għandha tkun appoġġjata minn strumenti tal-UE bħall-programm Orizzont Ewropa.

4.4.2. Il-KESE jaqbel mal-approċċ tal-Kummissjoni li s-sistemi tal-IA għandhom ikunu jistgħu jiġu identifikati bħala tali “biex ikun żgurat li l-utenti jkunu jafu li qed jinteraġixxu ma’ sistema tal-IA” ( 13 ) , inkluż fil-kuntest tar-relazzjoni bejn il-pazjent u l-persunal tas-saħħa u s-servizzi professjonali relatati mas-saħħa u l-benesseri taċ-ċittadini. Il-KESE jinsisti wkoll fuq il-fatt li l-utent jew il-konsumatur irid ikun kapaċi jiġi infurmat ukoll dwar is-servizzi pprovduti mill-bnedmin. Ħafna sistemi tal-IA fil-fatt jinvolvu ammont kbir ta’ xogħol mill-bniedem, li ta’ spiss ikun moħbi għall-utenti finali ( 14 ) . Wara din il-kwistjoni hemm l-isfida tan-nuqqas ta’ trasparenza lejn l-utenti u l-konsumaturi tas-servizzi, iżda wkoll dik ta’ forma ta’ sfruttament ta’ xogħol moħbi u mhux rikonoxxut.

4.4.3. Barra minn hekk, il-KESE jemmen li l-konsumatur għandu dejjem jinżamm informat dwar l-integrazzjoni tas-sistemi tal-IA fil-prodotti li jixtri, u għandu dejjem ikun jista’ jaċċessa u jikkontrolla d-data tiegħu.

4.5. Diversità, nondiskriminazzjoni u ġustizzja

4.5.1. Ir-riskji f’termini ta’ diskriminazzjoni huma preżenti f’ċerti applikazzjonijiet tal-IA li jippermettu l-immudellar ta’ profili taċ-ċittadini, utenti u konsumaturi (pereżempju għar-reklutaġġ, għall-kiri ta’ proprjetà immobbli, għal ċerti servizzi għall-persuni). L-UE għandha ġabra ta’ leġislazzjonijiet dwar it-trattament ugwali u n-nondiskriminazzjoni ( 15 ) . Is-sistemi tal-IA għandhom jikkonformaw magħha. Iżda dawn il-leġislazzjonijiet għandhom ukoll jiġu adattati u, fejn xieraq, imsaħħa (inkluż f’termini ta’ monitoraġġ tal-konformità magħhom) biex ikunu jistgħu jlaħħqu mal-prattiki ġodda. Ir-riskju huwa reali li l-immudellar ta’ profili algoritmiku jsir għodda ġdida b’saħħitha ta’ diskriminazzjoni. L-UE għandha tipprevjeni dan ir-riskju.

4.5.2. Id-Direttiva kontra r-razziżmu ( 16 ) u d-Direttiva dwar it-trattament indaqs bejn is-sessi lil hinn mid-dinja tax-xogħol ( 17 ) jipprevedu l-ħolqien ta’ korpi speċjali u kompetenti għall-promozzjoni tal-ugwaljanza bejn l-irġiel u n-nisa. Il-KESE jitlob li dawn l-organiżmi jkollhom rwol attiv fil-monitoraġġ u l-kontroll tas-sistemi tal-IA fir-rigward tar-riskji ta’ diskriminazzjoni diretta jew indiretta.

4.6. Benesseri tas-soċjetà u tal-ambjent

4.6.1. Il-Kummissjoni mhijiex qed tressaq pjani speċifiċi dwar il-mod li bih jingħaqdu t-tranżizzjoni tal-klima u t-trasformazzjoni diġitali, speċjalment fl-użu tas-sistemi tal-IA. Il-KESE jemmen li huwa essenzjali li jiġi rifless il-kontribut tas-sistemi tal-IA fit-tnaqqis tal-emissjonijiet ta’ gass b’effett ta’ serra, b’mod partikolari fis-setturi tal-industrija, tat-trasport, tal-enerġija, tal-bini u tal-agrikoltura.

4.6.2. Il-Kummissjoni ssostni li s-sistemi tal-IA jistgħu jintużaw biex isaħħu l-ħiliet soċjali, iżda jistgħu wkoll jikkontribwixxu għad-deterjorament tagħhom. Il-KESE jemmen li l-UE għandha bżonn tqis aħjar uħud mill-isfidi tas-soċjetà. Studji wrew, pereżempju, li d-disinn ta’ ċerti applikazzjonijiet li jinkorporaw sistemi tal-IA huwa maħsub biex iżomm lill-utenti tas-servizzi onlajn konnessi kemm jista’ jkun (netwerks soċjali, logħob, vidjos, eċċ.). L-għan huwa li tinġabar kemm jista’ jkun data dwar l-imġiba tagħhom; u l-istrateġiji użati jvarjaw minn tiġdid bla tarf ta’ rakkomandazzjonijiet algoritmiċi, tfakkir u notifiki, għal-logħob, eċċ. L-effetti ta’ konnessjoni u solleċitazzjoni eċċessiva fuq it-tfal ġew studjati ( 18 ) u r-riżultati wrew żieda fl-ansjetà, fl-aggressjoni, fin-nuqqas ta’ rqad u fl-impatti fuq l-edukazzjoni, fir-relazzjonijiet soċjali, fis-saħħa u fil-benesseri. Biex tibni IA affidabbli, l-UE għandha tqis tali effetti u tipprevenihom.

4.6.3. Finalment, wieħed mill-fatturi tal-benesseri soċjetali huwa relatat mas-sentiment ta’ sigurtà fuq ix-xogħol. L-effetti tad-diġitizzazzjoni jistgħu jkunu li joħolqu inċertezza u sors ta’ stress ( 19 ) . Huwa għalhekk li huwa meħtieġ li jiġu pprovduti strateġiji għall-antiċipazzjoni tal-bidliet, qabel ma jseħħ kwalunkwe ristrutturar, u għal taħriġ kontinwu għall-ħaddiema kollha. Dan jeħtieġ, fi ħdan il-kumpaniji, djalogu soċjali ta’ kwalità bejn min iħaddem u r-rappreżentanti tal-ħaddiema, li jippermetti l-użu inklużiv ta’ teknoloġiji ġodda, b’mod partikolari l-IA u r-robotika. Sabiex tissaħħaħ il-fiduċja bejn il-maniġment u l-ħaddiema, is-sistemi tal-IA relatati mal-ġestjoni, l-evalwazzjonijiet u l-kontroll tal-ħaddiema għandhom jiġu spjegati, li l-parametri tagħhom jiġu rikonoxxuti u li l-funzjonament tagħhom ikun trasparenti.

4.7. Akkontabilità

4.7.1. Id-deċiżjonijiet meħuda mis-sistemi ta’ tagħlim awtomatiku ma għandhomx spjegazzjonijiet sempliċi u barra minn hekk jiġu aġġornati b’mod regolari. Il-KESE jemmen li l-kontroll tas-sistemi tal-IA jaf ma jkunx biżżejjed biex jiddefinixxi r-responsabbiltajiet u biex isaħħaħ l-fiduċja. Huwa għalhekk li l-KESE jirrakkomanda li jiġu stabbiliti regoli li, f’każ ta’ ksur, jitfgħu r-responsabbiltà fuq il-persuni legali: persuni fiżiċi jew ġuridiċi. Il-KESE jirrakkomanda li wieħed jibbaża aktar fuq kumpaniji jew professjonisti affidabbli milli fuq algoritmi, u jipproponi li, għall-kumpaniji li jikkonformaw mal-istandards kollha, jiġi żviluppat “ċertifikat Ewropew ta’ kumpaniji affidabbli fil-qasam tal-IA” bbażat inter alia fuq il-lista ta’ evalwazzjoni proposta mill-HLG.

4.7.2. Id-Direttiva dwar ir-responsabbiltà għall-prodotti ( 20 ) tistabbilixxi l-prinċipju ta’ responsabbiltà mingħajr tort li japplika għall-produtturi Ewropej: jekk prodott difettuż jikkawża ħsara lil konsumatur, il-produttur jista’ jinżamm responsabbli anke mingħajr tort jew negliġenza min-naħa tiegħu. Il-ħolqien, l-iskjerament u l-użu dejjem aktar mifrux tas-sistemi tal-IA jeħtieġu li l-UE tadotta regoli moderni ta’ responsabbiltà għas-sitwazzjonijiet li fihom il-prodotti b’kontenut diġitali u s-servizzi proposti lill-konsumaturi jistgħu jkunu perikolużi u ta’ ħsara. Il-konsumaturi għandhom ikunu jistgħu jkollhom aċċess għall-ġustizzja f’każ ta’ ħsara kkawżata minn sistema tal-IA.

5. Il-ħtieġa ta’ regolazzjoni lil hin mill-Ewropa

5.1. F’dinja globali, ir-regolamentazzjoni tal-IA għandha tmur lil hinn mill-fruntieri Ewropej. L-Ewropa għandha tippromovi ftehim wiesgħa fuq l-IA fil-G7 u l-G20 u tkompli d-djalogu bilaterali sabiex il-maġġoranza tal-pajjiżi jkunu jistgħu jipparteċipaw fil-proċessi ta’ standardizzazzjoni tal-IA u jivverifikaw b’mod regolari r-rilevanza tagħhom.

Brussell, it-30 ta’ Ottubru 2019. Luca JAHIER Il-President tal-Kumitat Ekonomiku u Soċjali Ewropew

(1) ĠU C 440, 6.12.2018, p. 1.

(2) ĠU C 288, 31.8.2017, p. 1; ĠU C 440, 6.12.2018, p. 1.

(3) https://osha.europa.eu/fr/emerging-risks.

(4) Ir-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali u dwar il-moviment liberu ta’ tali data, u li jħassar id-Direttiva 95/46/KE (Regolament Ġenerali dwar il-Protezzjoni tad-Data) (ĠU L 119, 4.5.2016, p. 1).

(5) COM(2019) 168 final.

(6) COM(2019) 168 final, p. 5.

(7) Ara b’mod partikolari “OSH and the future of work: benefits and risks of artificial intelligence tools in workplaces” (OSH u l-futur tax-xogħol: benefiċċji u riskji ta’ għodod ta’ intelliġenza artifiċjali fil-postijiet tax-xogħol).

(8) ISO/TS 15066, 2016.

(9) Ara r-rapport “The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation”, Frar 2018.

(10) COM(2019) 168 final, p. 6.

(11) “Your car knows when you gain weight”, The New York Times (International Edition), 22.5.2019.

(12) ĠU C 190, 5.6.2019, p. 17.

(13) COM(2019) 168 final, p. 6.

(14) Ara pereżempju: “A white-collar sweatshop’: Google Assistant contractors allege wage theft”, The Guardian, 29.5.2019 u “Bot technology impressive, except when it’s not the bot”, The New York Times (International Edition), 24.5.2019.

(15) ĠU L 180, 19.7.2000, p. 22; ĠU L 303, 2.12.2000, p. 16; ĠU L 373, 21.12.2004, p. 37; ĠU L 204, 26.7.2006, p. 23.

(16) Id-Direttiva tal-Kunsill 2000/43/KE tad-29 ta’ Ġunju 2000 li timplimenta l-prinċipju tat-trattament ugwali bejn il-persuni irrespettivament mill-oriġini tar-razza jew etniċità (ĠU L 180, 19.7.2000, p. 22).

(17) Id-Direttiva tal-Kunsill 2004/113/KE tat- 13 ta’ Diċembru 2004 li timplimenta l-prinċipju ta’ trattament ugwali bejn l-irġiel u n-nisa fl-aċċess għal u l-provvista ta’ merkanzija u servizzi (ĠU L 373, 21.12.2004, p. 37).

(18) Ara b’mod partikolari Kidron, Evans, Afia (2018), “Disrupted Childhood – The Cost of Persuasive Design”, 5Rights Foundation.

(19) Rapport tal-HLG dwar l-impatt tat-trasformazzjoni diġitali fuq is-swieq tax-xogħol tal-UE, 2019.

(20) Id-Direttiva tal-Kunsill tal-25 ta’ Lulju 1985 dwar l-approssimazzjoni tal-liġijiet, regolamenti u dispożizzjonijiet amministrattivi ta’ l-Istati Membri dwar responabbiltà għall-prodotti difettużi (ĠU L 210, 7.8.1985, p. 29).