P9_TA(2022)0140

Umjetna inteligencija u digitalnom dobu

Rezolucija Europskog parlamenta od 3. svibnja 2022. o umjetnoj inteligenciji u digitalnom dobu (2020/2266(INI))

(2022/C 465/06)

Europski parlament,

— uzimajući u obzir članke 4., 16., 26., 114., 169., 173., 179., 180., 181. i 187. Ugovora o funkcioniranju Europske unije (UFEU),

— uzimajući u obzir Povelju Europske unije o temeljnim pravima,

— uzimajući u obzir Konvenciju UN-a o pravima djeteta i Opću napomenu br. 25 Odbora UN-a o pravima djeteta od 2. ožujka 2021. o pravima djeteta u pogledu digitalnog okruženja,

— uzimajući u obzir preporuku Organizacije UN-a za obrazovanje, znanost i kulturu (UNESCO) o etičnosti umjetne inteligencije koju je donijela Opća skupština UNESCO-a na svom 41. zasjedanju 24. studenoga 2021.,

— uzimajući u obzir Međuinstitucijski sporazum o boljoj izradi zakonodavstva (1) od 13. travnja 2016. i smjernice Komisije za bolju regulativu,

— uzimajući u obzir komunikaciju Komisije od 24. ožujka 2021. pod naslovom „Strategija EU-a o pravima djeteta” (COM(2021)0142),

— uzimajući u obzir svoju Rezoluciju od 7. listopada 2021. o stanju kapaciteta EU-a za kiberobranu (2),

— uzimajući u obzir svoju rezoluciju o izazovima i budućnosti multilateralnih sustava za kontrolu oružja za masovno uništenje i razoružanje od 15. prosinca 2021. (3),

— uzimajući u obzir Uredbu (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (4),

— uzimajući u obzir Uredbu (EU) 2021/694 Europskog parlamenta i Vijeća od 29. travnja 2021. o uspostavi programa Digitalna Europa te o stavljanju izvan snage Odluke (EU) 2015/2240 (5),

— uzimajući u obzir Uredbu (EU) 2021/695 Europskog parlamenta i Vijeća od 28. travnja 2021. o uspostavi Okvirnog programa za istraživanja i inovacije Obzor Europa, o utvrđivanju pravila za sudjelovanje i širenje rezultata te o stavljanju izvan snage uredbi (EU) br. 1290/2013 i (EU) br. 1291/2013 (6),

— uzimajući u obzir Prijedlog uredbe Europskog parlamenta i Vijeća od 21. travnja 2021. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (COM(2021)0206),

— uzimajući u obzir Prijedlog uredbe Europskog parlamenta i Vijeća od 25. studenoga 2020. o europskom upravljanju podacima (Akt o upravljanju podacima) (COM(2020)0767),

— uzimajući u obzir Uredbu (EU) 2018/1807 Europskog parlamenta i Vijeća od 14. studenoga 2018. o okviru za slobodan protok neosobnih podataka u Europskoj uniji (7),

— uzimajući u obzir Uredbu (EU) 2021/697 Europskog parlamenta i Vijeća od 29. travnja 2021. o uspostavi Europskog fonda za obranu i stavljanju izvan snage Uredbe (EU) 2018/1092 (8),

— uzimajući u obzir Direktivu (EU) 2019/770 Europskog parlamenta i Vijeća od 20. svibnja 2019. o određenim aspektima ugovora o isporuci digitalnog sadržaja i digitalnih usluga (9),

— uzimajući u obzir Uredbu Vijeća (EU) 2021/1173 od 13. srpnja 2021. o osnivanju Zajedničkog poduzeća za europsko računalstvo visokih performansi te stavljanju izvan snage Uredbe (EU) 2018/1488 (10),

— uzimajući u obzir komunikaciju Komisije od 25. travnja 2018. naslovljenu „Umjetna inteligencija za Europu” (COM(2018)0237),

— uzimajući u obzir komunikaciju Komisije od 7. prosinca 2018. naslovljenu „Koordinirani plan o umjetnoj inteligenciji” (COM(2018)0795),

— uzimajući u obzir komunikaciju Komisije od 8. travnja 2019. naslovljenu „Izgradnja povjerenja u antropocentričnu umjetnu inteligenciju” (COM(2019)0168),

— uzimajući u obzir Bijelu knjigu Komisije od 19. veljače 2020. naslovljenu „Umjetna inteligencija – europski pristup izvrsnosti i povjerenju” (COM(2020)0065),

— uzimajući u obzir Zelenu knjigu Komisije od 27. siječnja 2021. o starenju – poticanje međugeneracijske solidarnosti i odgovornosti (COM(2021)0050),

— uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. naslovljenu „Europska strategija za podatke” (COM(2020)0066),

— uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. naslovljenu „Izgradnja digitalne budućnosti Europe” (COM(2020)0067),

— uzimajući u obzir komunikaciju Komisije od 10. ožujka 2020. naslovljenu „Nova industrijska strategija za Europu” (COM(2020)0102) te komunikaciju Komisije od 5. svibnja 2021. naslovljenu „Ažuriranje nove industrijske strategije za 2020.: izgradnja snažnijeg jedinstvenog tržišta za oporavak Europe” (COM(2021)0350),

— uzimajući u obzir komunikaciju Komisije od 30. rujna 2020. naslovljenu „Akcijski plan za digitalno obrazovanje 2021.-2027. – Prilagodba obrazovanja i osposobljavanja digitalnom dobu” (COM(2020)0624),

— uzimajući u obzir komunikaciju Komisije od 9. ožujka 2021. naslovljenu „Digitalni kompas 2030.: europski pristup za digitalno desetljeće” (COM(2021)0118),

— uzimajući u obzir prijedlog odluke Europskog parlamenta i Vijeća od 15. rujna 2021. o uspostavi programa politike za 2030. naslovljenu „Put u digitalno desetljeće” (COM(2021)0574),

— uzimajući u obzir studiju Komisije od 28. srpnja 2020. naslovljenu „Europsko istraživanje poduzeća o uporabi tehnologija temeljenih na umjetnoj inteligenciji”,

— uzimajući u obzir studiju Komisije od 26. studenoga 2020. naslovljenu „Energetski učinkovite tehnologije računalstva u oblaku i politike za ekološki prihvatljivo tržište računalstva u oblaku”,

— uzimajući u obzir izvješće Komisije upućeno Europskom parlamentu, Vijeću i Europskom gospodarskom i socijalnom odboru od 19. veljače 2020. o utjecaju umjetne inteligencije, interneta stvari i robotike na sigurnost i odgovornost (COM(2020)0064),

— uzimajući u obzir zaključke Vijeća od 22. ožujka 2021. o Strategiji EU-a za kibersigurnost za digitalno desetljeće,

— uzimajući u obzir izvješće Stručne skupine na visokoj razini za umjetnu inteligenciju od 8. travnja 2019. naslovljeno „Etičke smjernice za pouzdanu umjetnu inteligenciju”,

— uzimajući u obzir izvješće Stručne skupine na visokoj razini za umjetnu inteligenciju od 8. travnja 2019. naslovljeno „Definicija umjetne inteligencije: glavne mogućnosti i discipline”,

— uzimajući u obzir izvješće Stručne skupine na visokoj razini za umjetnu inteligenciju od 26. lipnja 2019. naslovljeno „Preporuke za politiku i ulaganja za pouzdanu umjetnu inteligenciju”,

— uzimajući u obzir studiju UNESCO-a iz ožujka 2019. naslovljenu „Pocrvenio bih da mogu: prevladavanje rodnih razlika u digitalnim vještinama obrazovanjem”,

— uzimajući u obzir izvješće Agencije Europske unije za temeljna prava od 14. prosinca 2020. naslovljeno „Oblikovanje budućnosti kakva nam odgovara – umjetna inteligencija i temeljna prava”,

— uzimajući u obzir preporuku Vijeća Organizacije za gospodarsku suradnju i razvoj (OECD) o umjetnoj inteligenciji od 22. svibnja 2019.,

— uzimajući u obzir platformu UN-a za dijalog o umjetnoj inteligenciji: sastanak na vrhu „Umjetna inteligencija za dobro”,

— uzimajući u obzir Načela o umjetnoj inteligenciji skupine G20 od 9. lipnja 2019.,

— uzimajući u obzir izvješće Svjetske zdravstvene organizacije od 28. lipnja 2021. o umjetnoj inteligenciji u zdravstvu i šest vodećih načela za njezino osmišljavanje i uporabu,

— uzimajući u obzir samoinicijativno mišljenje Europskog gospodarskog i socijalnog odbora od 31. svibnja 2017. naslovljeno „Umjetna inteligencija – posljedice umjetne inteligencije za jedinstveno (digitalno) tržište, proizvodnju, potrošnju, zapošljavanje i društvo” (11),

— uzimajući u obzir izvješće podskupine za nove tehnologije Stručne skupine za odgovornost i nove tehnologije od 21. studenoga 2019. naslovljeno „Odgovornost za umjetnu inteligenciju i druge digitalne tehnologije u nastajanju”,

— uzimajući u obzir publikaciju Ad hoc odbora za umjetnu inteligenciju (CAHAI) Vijeća Europe iz prosinca 2020. naslovljenu „Ususret regulaciji sustava umjetne inteligencije – globalne perspektive za razvoj pravnog okvira za sustave umjetne inteligencije temeljenog na standardima Vijeća Europe u pogledu ljudskih prava, demokracije i vladavine prava”,

— uzimajući u obzir radni dokument Europskog sveučilišnog instituta iz listopada 2020. naslovljen „Modeli prava i regulacija umjetne inteligencije”,

— uzimajući u obzir zajedničko izvješće poduzeća Trend Micro Research, Međuregionalnog istraživačkog instituta Ujedinjenih naroda za kriminal i pravdu i Europola od 19. studenoga 2020. naslovljeno „Zlonamjerno korištenje i zlouporaba umjetne inteligencije”,

— uzimajući u obzir političke smjernice Komisije za razdoblje 2019.-2024. naslovljene „Ambicioznija Unija: Moj plan za Europu”,

— uzimajući u obzir presudu Suda Europske unije od 16. srpnja 2020. u predmetu C-311/18 (Schrems II),

— uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici (12),

— uzimajući u obzir svoju Rezoluciju od 1. lipnja 2017. o digitalizaciji europske industrije (13),

— uzimajući u obzir svoju rezoluciju od 6. listopada 2021. o Okviru politike EU-a za sigurnost na cestama za razdoblje 2021.-2030. – preporuke za sljedeće korake u ostvarenju „vizije nula” (14),

— uzimajući u obzir svoju Rezoluciju od 12. rujna 2018. o autonomnim oružanim sustavima (15),

— uzimajući u obzir svoju Rezoluciju od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici (16),

— uzimajući u obzir svoju Rezoluciju od 12. veljače 2020. o automatiziranim postupcima donošenja odluka: osiguravanje zaštite potrošača i slobodnog kretanja robe i usluga (17),

— uzimajući u obzir svoju Rezoluciju od 20. listopada 2020. s preporukama Komisiji o sustavu građanske odgovornosti za umjetnu inteligenciju (18),

— uzimajući u obzir svoju Rezoluciju od 20. listopada 2020. o pravima intelektualnog vlasništva za razvoj tehnologija umjetne inteligencije (19),

— uzimajući u obzir svoju Rezoluciju od 20. listopada 2020. s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija (20),

— uzimajući u obzir svoju Rezoluciju od 20. siječnja 2021. o umjetnoj inteligenciji: pitanja u vezi s tumačenjem i primjenom međunarodnog prava u slučajevima koji se odnose na EU u području civilne i vojne upotrebe te državne vlasti izvan područja primjene kaznenog pravosuđa (21),

— uzimajući u obzir svoju Rezoluciju od 20. svibnja 2021. o oblikovanju digitalne budućnosti Europe: uklanjanje prepreka funkcioniranju jedinstvenog digitalnog tržišta i poboljšanje upotrebe umjetne inteligencije za europske potrošače (22),

— uzimajući u obzir svoju Rezoluciju od 25. ožujka 2021. o europskoj strategiji za podatke (23),

— uzimajući u obzir svoju Rezoluciju od 19. svibnja 2021. o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru (24),

— uzimajući u obzir svoju Rezoluciju od 6. listopada 2021. o umjetnoj inteligenciji u kaznenom pravu i njezinoj primjeni od strane policije i pravosudnih tijela u kaznenim stvarima (25),

— uzimajući u obzir studiju Glavne uprave za unutarnju politiku (GU IPOL) iz lipnja 2021. naslovljenu „Diplomacija temeljena na umjetnoj inteligenciji – upravljanje umjetnom inteligencijom kao novi instrument vanjske politike Europske unije”,

— uzimajući u obzir studiju GU IPOL-a iz svibnja 2021. naslovljenu „Izazovi i ograničenja pristupa umjetnoj inteligenciji koji počiva na otvorenom kodu”,

— uzimajući u obzir studiju GU IPOL-a iz svibnja 2021. naslovljenu „Tržište umjetne inteligencije i tokovi kapitala – umjetna inteligencija i financijski sektor na raskršću”,

— uzimajući u obzir studiju GU IPOL-a iz svibnja 2021. naslovljenu „Unapređenje radnih uvjeta s pomoću umjetne inteligencije”,

— uzimajući u obzir studiju GU IPOL-a iz svibnja 2021. naslovljenu „Uloga umjetne inteligencije u europskom zelenom planu”,

— uzimajući u obzir studiju GU IPOL-a iz srpnja 2021. naslovljenu „Umjetna inteligencija u pametnim gradovima i urbanoj mobilnosti”,

— uzimajući u obzir studiju GU IPOL-a iz srpnja 2021. naslovljenu „Umjetna inteligencija i javne usluge”,

— uzimajući u obzir studiju GU IPOL-a iz srpnja 2021. naslovljenu „Izazov s kojim se Europska unija suočava u području podataka”,

— uzimajući u obzir studiju GU IPOL-a iz lipnja 2020. naslovljenu „Mogućnosti umjetne inteligencije”,

— uzimajući u obzir studiju GU IPOL-a iz listopada 2021. naslovljenu „Digitalno desetljeće Europe i autonomija”,

— uzimajući u obzir studiju GU IPOL-a iz siječnja 2022. naslovljenu „Utvrđivanje i procjena postojećeg i predloženog zakonodavstva EU-a u digitalnom području”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz rujna 2020. naslovljenu „Sustav građanskopravne odgovornosti za umjetnu inteligenciju – ocjena europske dodane vrijednosti”,

— uzimajući u obzir studiju Odjela za znanstvena predviđanja Službe Europskog parlamenta za istraživanja iz prosinca 2020. naslovljenu „Ispitanici, digitalni nadzor, umjetna inteligencija i budućnost rada”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz rujna 2020. naslovljenu „Europski okvir o etičkim aspektima umjetne inteligencije, robotike i s njima povezanih tehnologija”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz ožujka 2020. naslovljenu „Etički aspekti umjetne inteligencije: pitanja i inicijative”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz lipnja 2020. naslovljenu „Umjetna inteligencija: kako funkcionira, zašto je važna i što možemo poduzeti u vezi s njome?”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz srpnja 2020. naslovljenu „Umjetna inteligencija i kazneni progon – utjecaj na temeljna prava”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz lipnja 2020. naslovljenu „Utjecaj Opće uredbe o zaštiti podataka na umjetnu inteligenciju”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz travnja 2020. naslovljenu „Bijela knjiga o umjetnoj inteligenciji”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz rujna 2021. naslovljenu „Regulacija prepoznavanja lica u EU-u”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz veljače 2021. naslovljenu „Budućnost rada: trendovi, izazovi i potencijalne inicijative”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz lipnja 2021. naslovljenu „Robotski savjetnici: kako se uklapaju u postojeći zakonodavni okvir EU-a, osobito u pogledu zaštite potrošača?”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz rujna 2021. naslovljenu „Ambicije Kine u području umjetne inteligencije”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz lipnja 2021. naslovljenu „Što bi se dogodilo kad bismo odabrali nove metafore za umjetnu inteligenciju?”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz siječnja 2018. naslovljenu „Razumijevanje umjetne inteligencije”,

— uzimajući u obzir studiju Službe Europskog parlamenta za istraživanja iz srpnja 2021. naslovljenu „Suočavanje s uvjerljivim krivotvorenim sadržajem u europskoj politici”,

— uzimajući u obzir radni dokument Posebnog odbora za umjetnu inteligenciju u digitalnom dobu (AIDA) iz veljače 2021. naslovljen „Umjetna inteligencija i zdravlje”,

— uzimajući u obzir radni dokument odbora AIDA iz ožujka 2021. naslovljen „Umjetna inteligencija i zeleni plan”,

— uzimajući u obzir radni dokument odbora AIDA iz ožujka 2021. naslovljen „Vanjskopolitičke dimenzije umjetne inteligencije”,

— uzimajući u obzir radni dokument odbora AIDA iz svibnja 2021. naslovljen „Umjetna inteligencija i konkurentnost”,

— uzimajući u obzir radni dokument odbora AIDA iz lipnja 2021. naslovljen „Umjetna inteligencija i budućnost demokracije”,

— uzimajući u obzir radni dokument odbora AIDA iz lipnja 2021. naslovljen „Umjetna inteligencija i tržište rada”,

— uzimajući u obzir članak 54. Poslovnika,

— uzimajući u obzir izvješće Posebnog odbora za umjetnu inteligenciju u digitalnom dobu (A9-0088/2022),

1. Uvod

1. napominje da je svijet na pragu četvrte industrijske revolucije; ističe da četvrti val, za razliku od prethodna tri, koji su bili potaknuti uvođenjem parnog stroja, električne energije, odnosno računala, pokreće obilje podataka u kombinaciji s moćnim algoritmima i računalnim kapacitetima; naglašava da današnju digitalnu revoluciju oblikuju njezini globalni razmjeri, brza konvergencija i ogromni utjecaj revolucionarnih tehnologija u nastajanju na države, gospodarstva, društva, međunarodne odnose i okoliš; uviđa da radikalna promjena tih razmjera različito utječe na različite dijelove društva, ovisno o njihovim ciljevima, zemljopisnom položaju ili socioekonomskom kontekstu; naglašava da se digitalna tranzicija mora oblikovati uz potpuno poštovanje temeljnih prava i tako da digitalne tehnologije služe čovječanstvu;

2. primjećuje da je digitalna revolucija istovremeno izazvala globalno natjecanje kao rezultat ogromne ekonomske vrijednosti i tehnoloških mogućnosti akumuliranih u gospodarstvima koje ulažu najviše sredstava u istraživanje, razvoj i stavljanje na tržište aplikacija umjetne inteligencije; primjećuje da su digitalna konkurentnost i otvorena strateška autonomija postali središnji cilj politike u nekoliko zemalja; naglašava da među donositeljima odluka raste svijest o tome da bi tehnologije u nastajanju mogle utjecati na status geopolitičke moći cijelih zemalja;

3. ističe da stoga Europa, koja je stoljećima postavljala međunarodne standarde, dominirala u tehnološkom napretku i bila predvodnik u vrhunskoj proizvodnji i primjeni, zaostaje jer razvija i ulaže u digitalno tržište znatno manje od vodećih gospodarstava kao što su SAD ili Kina, ali je i dalje relativno konkurentna u pogledu tematskih istraživanja o umjetnoj inteligenciji; prepoznaje rizik od marginalizacije europskih aktera u razvoju globalnih standarda i napretka tehnologije i dovođenja u pitanje europskih vrijednosti;

4. naglašava, prije svega, da digitalni alati sve više postaju instrument manipulacije i zlouporabe u rukama određenih korporativnih subjekata kao i u rukama autokratskih vlada u svrhu potkopavanja demokratskih političkih sustava, što može dovesti do sukoba političkih sustava; objašnjava da digitalno špijuniranje, sabotaža, ratovanje u malim razmjerima i kampanje dezinformiranja stavlja demokratska društva pred izazov;

5. naglašava da priroda digitalnih poslovnih modela omogućuje veliku razinu prilagodljivosti i mrežnih učinaka; ističe da je značajka mnogih digitalnih tržišta visoka razina tržišne koncentracije koja omogućava da mali broj tehnoloških platformi, većina kojih je trenutačno iz SAD-a, predvodi komercijalizaciju revolucionarnih tehnoloških inovacija, privlači najbolje ideje, stručnjake i poduzeća te postiže izvanrednu profitabilnost; upozorava da će se dominantni tržišni položaji iz podatkovnog gospodarstva vjerojatno preslikati na gospodarstvo umjetne inteligencije u nastajanju; naglašava da danas samo osam od 200 vodećih digitalnih poduzeća ima sjedište u EU-u; ističe da je u tom pogledu dovršetak istinskog digitalnog jedinstvenog tržišta od najveće važnosti;

6. naglašava da je zbog toga globalno natjecanje za tehnološko vodstvo postalo prioritet u EU-u; naglašava da će EU, ako ne bude djelovao brzo i odvažno, morati pratiti pravila i standarde koje će postaviti drugi te da će biti pod rizikom od štetnih učinaka na političku stabilnost, socijalnu zaštitu, temeljna prava, individualne slobode i gospodarsku konkurentnost;

7. tvrdi da je umjetna inteligencija jedna od ključnih tehnologija u nastajanju u okviru četvrte industrijske revolucije; primjećuje da umjetna inteligencija pokreće digitalnu ekonomiju jer omogućuje uvođenje inovativnih proizvoda i usluga, može potrošačima povećati izbor te poboljšati učinkovitost proizvodnih postupaka; navodi da očekivani doprinos umjetne inteligencije svjetskom gospodarstvu do 2030. iznosi više od 11 bilijuna EUR; ističe da istodobno uporaba tehnologija umjetne inteligencije donosi rizik od smanjenja ljudskog djelovanja; naglašava da bi umjetna inteligencija trebala ostati antropocentrična, vjerodostojna tehnologija te da ne bi trebala zamijeniti ljudsku autonomiju niti pretpostaviti gubitak osobne slobode; ističe da je potrebno pobrinuti se da je ova četvrta industrijska revolucija uključiva i da nikoga ne zapostavi;

8. smatra da postoji globalno natjecanje za vodstvo u umjetnoj inteligenciji; naglašava da tehnologije umjetne inteligencije obećavaju iznimnu gospodarsku vrijednost onim gospodarstvima koja profitabilno razviju, proizvedu i primijene takve tehnologije kao i onim državama u kojima se odvija takvo stvaranje gospodarske vrijednosti; naglašava da umjetna inteligencija nije svemoćna tehnologija, već učinkovit komplet alata i tehnika koji se može dobro iskoristiti za korist društva; objašnjava da način na koji tehnologije funkcioniraju ovisi o tome kako ih osmislimo; ističe da je EU iskazala namjeru da bude prva koja će donijeti regulatorni okvir za umjetnu inteligenciju; ističe, ipak, da je ključno da EU može definirati regulatorni pristup, uključujući zaštitu temeljnih prava i sloboda, te da djeluje kao globalno tijelo za postavljanje standarda; naglašava stoga važnost europske konkurentnosti u području umjetne inteligencije i sposobnost EU-a da oblikuje regulatorni krajobraz na međunarodnoj razini; naglašava da određene uporabe umjetne inteligencije mogu predstavljati individualne i društvene rizike koji mogu ugroziti temeljna prava, zbog čega bi ih donositelji politika trebali ukloniti kako bi umjetna inteligencija efektivno postala instrument koji služi pojedincima i društvu u cilju zajedničke dobrobiti i općeg interesa;

9. primjećuje da je potreban jasan regulatorni okvir, politička posvećenost i znatiželjniji način razmišljanja, kojih danas često nema, da bi europski akteri mogli biti uspješni u digitalnom dobu i postati predvodnici u umjetnoj inteligenciji; zaključuje da uz takav pristup i građani i poduzeća u EU-u mogu imati korist od umjetne inteligencije koja je dobra prilika za podizanje konkurentnosti, uključujući u pogledu blagostanja i dobrobiti; naglašava da regulatorni okviri moraju biti oblikovani na način da ne predstavljaju neopravdane prepreke zbog kojih europski akteri, osobito start-up poduzeća, mikropoduzeća te mala i srednja poduzeća (MSP-ovi) ne mogu biti uspješni u digitalnom dobu; naglašava da privatna i javna ulaganja treba značajno povećati radi stvaranja klime u kojoj nastaje i razvija se više uspješnih europskih poduzeća na našem kontinentu;

10. naglašava da se brz tehnološki napredak koji donosi umjetna inteligencija sve manje može odvojiti od većine područja ljudske aktivnosti te da će utjecati na životne uvjete svih osoba koje ne posjeduju vještine koje su im potrebne da se dovoljno brzo prilagode tim novim tehnologijama; naglašava da, iako stjecanje digitalne pismenosti kroz usavršavanje i prekvalifikaciju može pomoći u rješavanju mnogih posljedičnih socioekonomskih problema, te učinke treba sagledati i u kontekstu sustava socijalne skrbi, urbane i ruralne infrastrukture te demokratskih procesa;

11. naglašava da se u digitalnoj tranziciji moraju odražavati ciljevi i interesi žena i ranjivih skupina; u tom kontekstu naglašava da je 2018. udio žena među stručnjacima za umjetnu inteligenciju u cijelom svijetu 2018. bio samo 22 % što pridonosi nastavku i eskalaciji stereotipa i pristranosti; prepoznaje potrebu za očuvanjem prava na jednakost pred zakonom, privatnošću, slobodom izražavanja i sudjelovanjem u kulturnom i političkom životu pri uporabi tehnologija umjetne inteligencije, osobito za manjinske zajednice;

2. Potencijalne mogućnosti, rizici i prepreke u primjeni umjetne inteligencije: šest studija slučaja koje je razmotrio odbor AIDA

12. podsjeća da je umjetna inteligencija utemeljena na softveru koji upotrebljava probabilističko modeliranje i algoritamsko predviđanje za skup posebnih ciljeva; ističe da je pojam „umjetna inteligencija” krovni pojam koji obuhvaća širok spektar starih i novih tehnika i pristupa bolje poznatih kao pojam „sustavi umjetne inteligencije” koji se odnosi na bilo koje strojne sustave koji često nemaju mnogo toga zajedničkog, osim što ih usmjerava zadani skup ciljeva koji su definirali ljudi, koji u svojem djelovanju imaju različite stupnjeve autonomije te koji su uključeni u predviđanja, preporuke i donošenje odluka na temelju dostupnih podataka; napominje da, iako su neke od tih tehnologija već u širokoj primjeni, druge se još razvijaju ili su čak samo spekulativni koncepti koji će u budućnosti možda postojati, a možda i neće;

13. napominje da je velika razlika između simboličke umjetne inteligencije, koja je bila glavni pristup umjetnoj inteligenciji od pedesetih do devedesetih godina 20. stoljeća, i umjetne inteligencije temeljene na strojnom učenju i podacima, koja prevladava od prvog desetljeća 21. stoljeća; objašnjava da se u prvom valu umjetna inteligencija razvijala kodiranjem znanja i iskustva stručnjaka u skup pravila koja je zatim izvršavao stroj;

14. napominje da su u drugom valu sustavi umjetne inteligencije postali složeniji, autonomniji i netransparentniji zbog automatiziranih procesa učenja algoritama koji se temelje na obradi velikih količina podataka, na sposobnosti objedinjavanja ulaznih podataka iz više različitih izvora kako bi se dobio složen prikaz okruženja te na prepoznavanju obrazaca, što može dovesti do ishoda koji se teže mogu objasniti; naglašava da se aktualna umjetna inteligencija stoga može raščlaniti u mnogo različitih poddomena i tehnika, pa je tako duboko učenje, na primjer, potpodručje strojnog učenja, koje je pak potpodručje umjetne inteligencije;

15. naglašava da današnja umjetna inteligencija, iako je postala mnogo učinkovitija i moćnija od simboličke umjetne inteligencije zahvaljujući znatno većim računalnim kapacitetima, i dalje može rješavati samo jasno definirane zadatke u nišama karakterističnim za određene domene kao što su šah ili prepoznavanje slika te njezino programiranje nije osmišljeno da u potpunosti prepozna radnje koje sustav umjetne inteligencije izvršava; naglašava da sustavi umjetne inteligencije – iako to njihovo ime sugerira – nemaju „inteligenciju” u ljudskom smislu; ističe da se stoga o njoj govori kao o „uskoj” ili „slaboj” umjetnoj inteligenciji koja je i dalje samo instrument koji daje preporuke i predviđanja; napominje da autonomni automobili, na primjer, funkcioniraju na temelju kombinacije različitih sustava umjetne inteligencije koji obavljaju svaki po jedan zadatak i koji zajedno mogu izraditi trodimenzionalnu kartu okruženja vozila kako bi njegov operativni sustav mogao donijeti odluke;

16. napominje da se mnogi strahovi vezani uz umjetnu inteligenciju temelje na hipotetskim konceptima kao što su opća umjetna inteligencija, umjetna superinteligencija i singularnost, koji bi u teoriji mogli dovesti do toga da umjetna inteligencija nadmaši inteligenciju ljudi u mnogim područjima; ističe da postoje sumnje može li se ta spekulativna umjetna inteligencija uopće postići uz naše tehnologije i znanstvene zakone; vjeruje, međutim, da rizike koje trenutačno predstavlja donošenje odluka na temelju umjetne inteligencije moraju riješiti zakonodavci jer je posve jasno da se štetni učinci kao što su rasna i spolna diskriminacija već mogu pripisati određenim slučajevima u kojima je umjetna inteligencija primijenjena bez zaštitnih mjera;

17. naglašava da je većina sustava umjetne inteligencije koji su trenutačno u uporabi niskorizična; ukazuje, na primjer, na automatske prijevode, „Eureka” strojeve, strojeve za igranje igara i robote koji izvršavaju ponavljajuće proizvodne procese; zaključuje da se neke slučajeve primjene može okarakterizirati kao rizične i da je u takvim slučajevima potrebno regulatorno djelovanje i djelotvorne zaštitne mjere, ako se već ne primjenjuju;

18. potiče javnu raspravu o tome kako istražiti ogroman potencijal umjetne inteligencije temeljene na temeljnim europskim vrijednostima, načelima transparentnosti, objašnjivosti, pravednosti, odgovornosti i pouzdanosti kao i na načelu da umjetna inteligencija i robotika moraju biti antropocentrične i razvijene kao nadopuna ljudima; naglašava da u velikom broju područja ljudskog života, od održivosti do zdravstva, umjetna inteligencija može korisnicima i stručnjacima poslužiti kao pomoćni alat kojim se povećavaju ljudske mogućnosti i kojim se ljudima ne ograničava mogućnost da neovisno djeluju i odlučuju; ističe da bi se dogovorena etička načela i obveze u vezi umjetne inteligencije trebali operacionalizirati u svim područjima primjene umjetne inteligencije, uz uključivanje potrebnih zaštitnih mjera, za povećanje povjerenja i poticanje građana na prihvaćanje prednosti umjetne inteligencije;

19. ističe da se razina rizika koju predstavlja određena primjena umjetne inteligencije znatno razlikuje ovisno o vjerojatnosti da će do štete doći i o ozbiljnosti te štete; stoga naglašava da bi se tome trebali prilagoditi pravni propisi u skladu s pristupom koji se temelji na rizicima, uzimajući na odgovarajući način u obzir načelo opreznosti kad je to opravdano; naglašava da su u takvim sadašnjim ili budućim slučajevima u kojima, u određenom slučaju primjene, sustavi umjetne inteligencije predstavljaju velik rizik za temeljna i ljudska prava potrebni ljudski nadzor i regulatorna intervencija te da, s obzirom na brzinu tehnološkog razvoja, reguliranje visokorizičnih sustava umjetne inteligencije mora biti fleksibilno i dugoročno održivo;

20. pojašnjava da se u aktualnom izvješću detaljno razmatra šest studija slučaja iz područja umjetne inteligencije, uz iznošenje mogućnosti koje umjetna inteligencija pruža u odgovarajućim sektorima, rizika koje je potrebno razmotriti i prepreka koje Europu sprečavaju da potpuno iskoristi prednosti umjetne inteligencije; naglašava da te studije slučaja predstavljaju neke od najvažnijih slučajeva primjene umjetne inteligencije u današnje vrijeme i da istodobno odražavaju neke od glavnih tema javnih saslušanja održanih pred odborom AIDA za vrijeme njegova mandata, a to su zdravlje, zeleni plan, vanjska politika i sigurnost, konkurentnost, budućnost demokracije i tržište rada;

a) Umjetna inteligencija i zdravlje

21. smatra da metodološka analiza velikih količina podataka, uključujući s pomoću umjetne inteligencije, može dovesti do novih rješenja ili poboljšati postojeće tehnike u sektoru zdravstva koje bi mogle uvelike ubrzati znanstvena istraživanja, spasiti živote ljudi i poboljšati njegu pacijenata osiguravanjem inovativnih načina liječenja i bolje dijagnostike te razvijanjem poticajnih okruženja za zdrave načine života; naglašava da sustavi umjetne inteligencije mogu pridonijeti i pristupačnosti, otpornosti i održivosti zdravstvenih sustava, istodobno donoseći konkurentnu prednost europskih sektorima IKT-a i zdravstva ako se inherentnim rizicima upravlja na odgovarajući način;

22. naglašava da bi se upotreba umjetne inteligencije u zdravstvenom sektoru trebala temeljiti na snažnim etičkim zahtjevima kao što su jednaki pristup zdravstvu, privatnost, odgovornost, transparentnost, objašnjivost, pouzdanost, uključivost i reprezentativnost skupova podataka te stalni ljudski nadzor; naglašava da sustavi temeljeni na umjetnoj inteligenciji moraju biti oblikovani uzimajući u obzir rizik od pogrešne dodjele sredstava pojedincima na temelju pogrešne ili pristrane kategorizacije ili određivanja prednosti ili pak neispravne tehnologije, posljedica čega može biti pogrešna dijagnoza, pogrešno liječenje ili izostanak liječenja. smatra da bi se najviši etički standardi trebali primjenjivati na sve primjene za zdravstvenu zaštitu te da je potrebno uspostaviti etička načela u vrlo ranoj fazi razvoja i dizajna, tj. primjenjivati integriranu etiku; naglašava da automatizirano donošenje odluka u primjenama za zdravstvenu zaštitu može predstavljati rizike za dobrobit i temeljna prava pacijenata te da stoga umjetna inteligencija mora imati poticajnu ulogu u zdravstvu koje bi uvijek trebalo biti pod stručnim ljudskim nadzorom;- poziva da se pri svakoj upotrebi umjetne inteligencije za dijagnostiku u javnom zdravstvu očuva odnos liječnika i pacijenta te da se u svakom trenutku poštuje Hipokratova zakletva; primjećuje međutim da umjetna inteligencija već postiže bolje rezultate od dijagnoza koje postavljaju liječnici u nekoliko slučajeva; smatra da postojeći okviri odgovornosti ne pružaju dovoljno pravne sigurnosti i da ne podržavaju prava pacijenata na pravnu zaštitu u slučaju pogrešne dijagnoze i neodgovarajućeg liječenja s pomoću umjetne inteligencije; pozdravlja po tom pitanju budući zakonski prijedlog o odgovornosti umjetne inteligencije; napominje da je važno zaštititi zdravstvene radnike kao korisnike sustava umjetne inteligencije i pacijente kao krajnje korisnike te im omogućiti pristup dostatnim i transparentnim informacijama;

23. naglašava da se rješenja temeljena na umjetnoj inteligenciji već koriste ili ispituju u kliničkim okruženjima kao pomoć u postavljanju dijagnoza, prognoziranju, liječenju i angažiranju pacijenata, čime se ubrzava i poboljšava liječenje i smanjuju nepotrebne intervencije; nadalje primjećuje da umjetna inteligencija može unaprijediti personaliziranu medicinu i njegu pacijenta; napominje da umjetna inteligencija pokriva širok spektar područja zdravstva, uključujući javno zdravlje, usluge skrbi, sustave za samoskrb i zdravstvenu zaštitu; primjećuje da podaci imaju važnu ulogu; smatra da postoje obećavajuće primjene za umjetnu inteligenciju u ekstrakciji informacija iz slika i u drugim medicinskim proizvodima za potrebe nizvodne analize te nadalje primjećuje da se očekuje da algoritmi dubinskog učenja mogu dovesti do brzog i znatnog poboljšanja u raznim kliničkim zadacima;

24. naglašava da se tehnologije umjetne inteligencije mogu primjenjivati u istraživanju, razvoju i masovnoj proizvodnji lijekova i mogu ubrzati razvoj novih lijekova, liječenja i cjepiva uz manji trošak; smatra da umjetna inteligencija može pomoći u predviđanju ishoda odgovora na liječenje i da može liječnicima omogućiti da prilagode strategije liječenja individualnim genetskim ili fiziološkim karakteristikama s povećanim razinama točnosti kad se temelje na visokokvalitetnim podacima i valjanim pretpostavkama, čime se povećava učinkovitost preventivne skrbi, pod uvjetom da su zadovoljeni svi etički zahtjevi u pogledu stručnog nadzora nad kliničkom validacijom umjetnom inteligencijom, privatnosti, zaštite podataka i informiranog pristanka; primjećuje da se velike količine podataka u zdravstvu mogu analizirati s pomoću umjetne inteligencije radi njihove brže obrade; naglašava da je važno osigurati interoperabilnost računalstva visokih performansi s umjetnom inteligencijom budući da se glavni gospodarski sektori, uključujući proizvodnju, zdravstvo i farmaceutsku industriju, oslanjaju na računalstvo visokih performansi;

25. naglašava da rješenja temeljena na umjetnoj inteligenciji imaju potencijal za prilagođavanje liječenja i razvoja lijekova posebnim potrebama pacijenata i za jačanje suradnje s dionicima i sudionicima u sustavu zdravstvene skrbi; smatra da umjetna inteligencija i pristup relevantnim, ažuriranim i visokokvalitetnim anonimiziranim i reprezentativnim skupovima podataka, u skladu s pravilima EU-a o zaštiti osobnih podataka, pomaže zdravstvenim djelatnicima u pružanju bolje njege svojim pacijentima kao i personaliziranije povratne informacije, smjernice i podršku, osiguravajući veću sigurnost i učinkovitije liječenje pacijenata; ističe da bi to moglo biti posebno korisno pri odabiru i pregledu sve većeg korpusa znanstvenih spoznaja kako bi na temelju njih zdravstveni djelatnici stekli relevantne uvide; ističe da bi građani iz svih država članica trebali moći dijeliti svoje zdravstvene podatke s pružateljima zdravstvene zaštite i nadležnim tijelima po njihovu izboru; ističe u tom pogledu da je potrebno osmisliti poticaje kojima se zdravstveni djelatnici potiču na usavršavanje, prekvalifikaciju i dodatno osposobljavanje;

26. smatra da je borba protiv bolesti COVID-19 ubrzala istraživanje novih tehnologija i njihovo uvođenje, osobito primjena umjetne inteligencije, u potrazi za boljim metodama otkrivanja zaraze, kliničkom skrbi i istraživanjem liječenja, te je naglasila korisnost umjetne inteligencije kao i važnost financiranja i visokokvalitetnih podataka u svrhu učinkovitog praćenja i modeliranja širenja epidemija zaraznih bolesti, u skladu sa zakonom o zaštiti podataka; primjećuje, međutim, da su iskustva s primjenama umjetne inteligencije tijekom pandemije bolesti COVID-19 otkrila određena ograničenja u upotrebi umjetne inteligencije u medicinskoj dijagnostici ( 26 )

27. naglašava da sustavi umjetne inteligencije mogu smanjiti opterećenja na zdravstvene sustave i osobito zdravstvene djelatnike i doprinijeti rješenjima za pružanje skrbi europskom i svjetskom stanovništvu koje ubrzano stari i za njihovu zaštitu od opasnih bolesti;

28. ističe da upotrebom sigurnih i učinkovitih primjena umjetne inteligencije u administrativnim poslovima u kojima ljudsko djelovanje nije potrebno zdravstveni djelatnici mogu uštedjeti puno vremena tijekom kojeg se radije mogu posvetiti posjetima pacijenata;

29. naglašava da potrošačke aplikacije za praćenje zdravlja temeljene na umjetnoj inteligenciji mogu pomoći u praćenju zdravstvenog stanja putem svakodnevnih uređaja kao što su pametni telefoni i na taj način omogućiti korisnicima da dobrovoljno pruže podatke koji mogu biti osnova za rano upozoravanje i uzbunjivanje na po život opasna stanja kao što su moždani ili srčani udar; naglašava da aplikacije za praćenje zdravlja temeljene na umjetnoj inteligenciji također potiču zdravo ponašanje i osnažuju pojedince u odgovornoj brizi za sebe dajući pacijentima dodatna sredstva za praćenje vlastitog zdravlja i načina života i unapređenjem točnosti probira koji provode zdravstveni djelatnici; naglašava, međutim, naročitu osjetljivost osobnih podataka o zdravlju i rizik od povreda ili zloupotrebe podataka u tom pogledu te ističe da je potrebno primjenjivati snažne standarde kibersigurnosti u odnosu na bilo koju aplikaciju za praćenje zdravlja;

30. naglašava da umjetna inteligencija u sektoru zdravstva posebno ovisi o velikim količinama osobnih podataka, razmjeni i visokoj kvaliteti podataka, njihovoj pristupačnosti i interoperabilnosti za ostvarenje punog potencijala umjetne inteligencije i zdravlja; naglašava da je potrebno olakšati povezivanje elektroničkih zdravstvenih zapisa s elektroničkim sustavima za propisivanje lijekova kako bi zdravstveni djelatnici uključeni u njegu mogli pristupiti potrebnim informacijama o pacijentu, uz pristanak pacijenta.

31. pozdravlja stvaranje europskog prostora za zdravstvene podatke radi uključivanja visokokvalitetnih podataka za upotrebu u zdravstvenom sektoru; smatra da bi međusobna povezanost i interoperabilnost infrastruktura računalstva visokih performansi s europskim prostorom za zdravstvene podatke osigurala dostupnost velikih i visokokvalitetnih skupova zdravstvenih podataka koji su važni za istraživanje i liječenje patologija, posebice rijetkih bolesti i stanja u pedijatrijskoj populaciji;

32. naglašava da je potrebno izgraditi povjerenje promicanjem interoperabilnosti i snažnije suradnje između različitih zdravstvenih radnika koji skrbe za iste pacijente; naglašava da je potrebno zdravstvenim radnicima ponuditi osposobljavanje o tehnikama i pristupima umjetne inteligencije; naglašava da je potrebno suzbijati nepovjerenje, primjerice iskorištavanjem cjelokupnog potencijala anonimizacije i pseudonimizacije podataka, te bolje informirati građane, zdravstvene djelatnike i donositelje odluka o upotrebama, koristima i rizicima umjetne inteligencije u području zdravstva, kao i razvojne programere u području umjetne inteligencije o izazovima i rizicima obrade osjetljivih podataka u tom području;

33. nadalje vjeruje da su obvezujući i kvalitetni etički i pravni standardi i provediva prava na pravnu zaštitu nužni za promicanje ekosustava povjerenja među građanima i odgovarajuću zaštitu zdravstvenih podataka od potencijalne zloupotrebe i nezakonitog pristupa; slaže se s Komisijom da bi građani trebali imati siguran pristup sveobuhvatnoj elektroničkoj evidenciji svojih zdravstvenih podataka i zadržati kontrolu nad svojim osobnim zdravstvenim podacima i mogućnost da te podatke sigurno dijele s ovlaštenim trećim stranama uz učinkovitu zaštitu osobnih podataka i snažnu kibersigurnost; ističe da bi trebalo zabraniti neovlašteni pristup i širenje podataka te da mora biti zajamčena zaštita osobnih podataka pacijenata u skladu sa zakonodavstvom o zaštiti podataka;

34. u tom pogledu naglašava rizik od donošenja pristranih odluka koje dovode do diskriminacije i povrede ljudskih prava; naglašava da je stoga potrebno provesti nepristranu provjeru primijenjenih algoritama i skupova podataka te poticati daljnje istraživanje metoda i pristranosti koje su ugrađene u poučene sustave umjetne inteligencije kako bi se izbjegli neetički i diskriminirajući zaključci u području podataka o ljudskom zdravlju;

35. naglašava da je potrebno učinkovito i dosljedno primjenjivati Opću uredbu o zaštiti podataka u EU-u kako bi se riješili problemi kao što su pravna nesigurnost i izostanak suradnje u sektoru zdravstva; naglašava da takvi izazovi u nekim slučajevima dovode do kašnjenja u znanstvenim otkrićima i birokratskog opterećenja u istraživanjima u području zdravlja; ističe da bi se stvaranjem europskog prostora za zdravstvene podatke kojima se jamče prava pacijenata i prenosivost podataka mogla pojačati suradnja i potaknuti dijeljenje podataka za istraživanja i inovacije u europskom zdravstvenom sektoru;

36. primjećuje da umjetna inteligencija može doprinijeti brzom napretku novih tehnologija, kao što je snimanje mozga, koje već imaju važne primjene u medicini, ali također dovode do znatnih rizika za ljudsko djelovanje i ostvarivanje temeljnih prava, bez obveze ishođenja pristanka; zabrinut je zbog nedostatka propisa o neurološkim podacima i smatra da bi EU trebao težiti tome da postane svjetski predvodnik u razvoju sigurnih neurotehnologija;

b) Umjetna inteligencija i zeleni plan

37. naglašava da su dva ključna prioriteta Komisije u nadolazećim godinama Europa spremna za digitalno doba i zeleni plan; ističe da je potrebno osigurati da digitalna tranzicija doprinosi postizanju održivog razvoja i potiče zelenu tranziciju; smatra da je za to potrebno ubrzati inovacije kompatibilne s klimatskim ciljevima EU-a i ekološkim standardima; naglašava da bi se primjenama umjetne inteligencije mogle ostvariti ekološke i gospodarske koristi te ojačati sposobnosti predviđanja koje mogu doprinijeti borbi protiv klimatskih promjena i postizanju ciljeva europskog zelenog plana kao i cilja EU-a da postane prvi klimatski neutralni kontinent do 2050.; smatra da se globalne emisije stakleničkih plinova mogu smanjiti za do 4 % do 2030. primjenom umjetne inteligencije ( 27 ) ; utvrđuje da informatičko-komunikacijske tehnologije (IKT) prema nekim procjenama mogu smanjiti deset puta više emisija stakleničkih plinova nego što iznosi njihov vlastiti otisak ( 28 ) , ali prepoznaje da su za to potrebni svjestan odabir koncepta i regulatorne mjere; istodobno upozorava na činjenicu da povećana potrošnja energije uslijed pohrane velikih skupova podataka potrebnih za poučavanje sustava umjetne inteligencije može imati i negativan učinak; podsjeća na činjenicu da udio podatkovnog prometa i infrastrukture IKT-a u svjetskoj potrošnji električne energije trenutačno iznosi oko 7 %, a procjenjuje se da će se ta brojka bez odgovarajućih zaštitnih mjera povećati na 13 % do 2030.; dodaje da intenzivna uporaba sirovina za proizvodnju mikroprocesora i uređaja visoke tehnologije u kojima se upotrebljava umjetna inteligencija također može doprinijeti tom negativnom učinku; naglašava da je, kako bi se mogao zajamčiti „znatan pozitivni ugljični otisak i malen negativni otisak” umjetne inteligencije u okolišu i klimi, treba uzeti u obzir te izravne i neizravne negativne učinke na okoliš te dizajnirati sustave umjetne inteligencije na način kojim se potiče održiva potrošnja, ograničava upotreba resursa i potrošnja energije, izbjegavaju nepotrebne aktivnosti obrade i sprečava šteta za okoliš; naglašava da se pitanje učinka sektora IKT-a na okoliš može riješiti samo s pomoću relevantnih informacija i podataka;

38. zabrinut je zbog toga što je samo šest država članica stavilo snažan naglasak na aplikacije umjetne inteligencije u svojim naporima usmjerenim na ostvarenje ciljeva zelenog plana; utvrđuje da se umjetna inteligencija može iskoristiti za prikupljanje i organiziranje podataka relevantnih za ekološko planiranje, donošenje odluka i upravljanje napretkom politika zaštite okoliša i praćenje tog napretka, na primjer politika za čišći zrak, kod kojih aplikacije umjetne inteligencije mogu pratiti onečišćenje i upozoravati na opasnosti; naglašava da se takva rješenja umjetne inteligencije i digitalna rješenja mogu upotrijebiti u više sektora za širenje rješenja koja se odlikuju učinkovitim iskorištavanjem resursa;

39. ističe važnost sustava temeljenih na umjetnoj inteligenciji u pametnim gradovima i selima u razvoju optimiziranjem upotrebe resursa i povećanjem otpornosti infrastrukture, uključujući predviđanjem i smanjenjem prometa, upravljanjem pametnom energijom, pomoći u hitnim slučajevima i otpadom, kao što to nekoliko gradova i općina diljem EU-a već čini; naglašava da rješenja temeljena na umjetnoj inteligenciji mogu doprinijeti urbanističkom planiranju, arhitekturi i građevinarstvu kako bi se skratilo vrijeme izgradnje i kako bi se smanjili emisije, troškovi i otpad;

40. ističe da se energetska tranzicija ne može provesti bez digitalizacije; ističe da se s pomoću umjetne inteligencije može pratiti, optimizirati i smanjiti potrošnju i proizvodnju energije te se može poduprijeti integraciju obnovljive energije u postojeće elektroenergetske mreže; naglašava da pametna brojila, učinkovita rasvjeta, računalstvo u oblaku i distribuirani softveri u kombinaciji s komponentom umjetne inteligencije mogu promijeniti obrasce iskorištavanja energije i promicati odgovornu potrošnju;

41. naglašava da je zbog sve veće složenosti sustava energetske tranzicije, uz sve nestabilniju proizvodnju energije iz obnovljivih izvora i uz promjene u upravljanju opterećenjem, za sigurnost opskrbe energijom potrebna sve veća automatizirana kontrola; naglašava da se zahvaljujući umjetnoj inteligenciji mogu ostvariti koristi za sigurnost opskrbe, posebno u radu, praćenju, održavanju i kontroli vodovodnih, plinskih i električnih mreža; primjećuje, međutim, da će tehnologije mreža ojačanih umjetnom inteligencijom uvesti milijune inteligentnih komponenti sa zajedničkim ranjivostima, zbog čega će energetske mreže imati velik broj točaka podložnih mogućim napadima, a ključna infrastruktura biti ranjivija ako odgovarajuće odredbe o kibersigurnosti ne budu uspostavljene; smatra da je za pametne mreže potrebno daljnje ulaganje i istraživanje;

42. utvrđuje da se s pomoću umjetne inteligencije i ostalih digitalnih aplikacija za mobilnost i promet mogu optimizirati prometni tokovi i povećati sigurnost na cestama, među ostalim povećanjem učinkovitosti prometnih sustava; ističe da se na temelju umjetne inteligencije mogu dizajnirati energetski učinkovita vozila i upravljati njihovom energijom; naglašava da su se mogućnosti usluga prijevoza, dijeljenja prijevoza i dijeljenja automobila koje se temelje na aplikacijama znatno povećale te da se umjetna inteligencija često upotrebljava u takvim uslugama mobilnosti kroz učinkovito planiranje trase i odabir točke preuzimanja;

43. vjeruje da umjetna inteligencija može imati transformativnu ulogu u poljoprivrednom sektoru, podržavajući pojavu novih načina žetve, uključujući predviđanje žetve i upravljanje poljoprivrednim resursima; naglašava da je poljoprivreda ključni sektor u kojem umjetna inteligencija može doprinijeti smanjenju emisija i uporabe pesticida, gnojiva, kemikalija i vode usmjeravanjem njihove uporabe na točno određenu količinu i na manje područje; naglašava, nadalje, da umjetna inteligencija može doprinijeti obnovi bioraznolikosti praćenjem ugroženih vrsta ili aktivnosti krčenja šuma; naglašava da postoji potreba za osmišljavanjem smjernica za uvođenje i standardiziranih metodologija za procjenu kako bi se podržala „zelena umjetna inteligencija” u područjima kao što su pametne mreže, precizna poljoprivreda te pametni i održivi gradovi i zajednice; smatra da umjetna inteligencija u obliku precizne poljoprivrede ima potencijal za optimizaciju proizvodnje hrane na poljoprivrednom gospodarstvu, kao i za šire upravljanje zemljištem s pomoću poboljšanja planiranja upotrebe zemljišta, predviđanja prenamjene zemljišta i praćenja zdravlja usjeva kao i potencijal za uvođenje radikalnih promjena u predviđanje ekstremnih vremenskih uvjeta;

44. naglašava da umjetna inteligencija može doprinijeti kružnom gospodarstvu tako da postupke proizvodnje, potrošnje i recikliranja, ali i ponašanje, učini resursno učinkovitijima te da poveća transparentnost iskorištavanja materijala, na primjer kad je riječ o etičnoj nabavi sirovina i smanjenju otpada; naglašava da umjetna inteligencija poduzećima može omogućiti bolje razumijevanje njihovih emisija, među ostalim u lancima vrijednosti, čime im može pomoći da se prilagode i ostvare individualne ciljeve u pogledu emisija; ističe da digitalni alati poduzećima mogu pomoći u provedbi potrebnih koraka koji vode održivijem poslovanju, posebno MSP-ovima koji inače možda ne bi imali resursa za tu svrhu;

45. naglašava da trenutačno nije moguće s pomoću umjetne inteligencije u potpunosti izmjeriti učinke na okoliš; smatra da je potrebno provesti više studija o ulozi umjetne inteligencije u smanjenju učinaka na okoliš; naglašava da je potrebno više podataka o okolišu kako bi se steklo više spoznaja i kako bi se potaknuo veći napredak putem rješenja umjetne inteligencije; naglašava da bi se primjenom umjetne inteligencije za sustavno povezivanje podataka o emisijama CO 2 s podacima o obrascima proizvodnje i potrošnje, lancima opskrbe i logističkim pravcima moglo osigurati otkrivanje aktivnosti koje imaju pozitivan ili negativan utjecaj;

c) Vanjskopolitička i sigurnosna dimenzija umjetne inteligencije

46. ponavlja da EU nastoji postići globalni sporazum o zajedničkim standardima za odgovornu upotrebu umjetne inteligencije koja je iznimno važna; u načelu, međutim, vjeruje u potencijal suradnje demokratskih zemalja sličnih stavova na zajedničkom oblikovanju međunarodne rasprave o okviru umjetne inteligencije koja poštuje ljudska prava i vladavinu zakona, na uspostavi određenih zajedničkih normi i načela, tehničkih i etičkih standarda kao i smjernica za odgovorno ponašanje države, osobito pod okriljem međuvladinih organizacija kao što su UN i OECD, čime se potiče višestranost, održivi razvoj, interoperabilnost i razmjena podataka na međunarodnoj pozornici; podržava rad otvorene skupine UN-a o IKT-u i međunarodnoj sigurnosti; naglašava da su mjere za izgradnju povjerenja nužne za podizanje razine dijaloga i povjerenja; stoga poziva na veću transparentnost u upotrebi umjetne inteligencije radi osiguravanja veće odgovornosti;

47. pozdravlja nedavne višestrane inicijative za razvoj smjernica i standarda za etički odgovornu upotrebu umjetne inteligencije kao što su načela OECD-a o umjetnoj inteligenciji, Globalno partnerstvo za umjetnu inteligenciju, preporuke UNESCO-a o etičnosti umjetne inteligencije, sastanak na vrhu „Umjetna inteligencija za dobro”, preporuke Vijeća Europe za mogući pravni okvir o umjetnoj inteligenciji te političke smjernice UNICEF-a o umjetnoj inteligenciji za djecu; pozdravlja trenutačni rad na međunarodnoj razini u području standarda za umjetnu inteligenciju i napredak postignut s normama Međunarodne organizacije za normizaciju o utjecaju umjetne inteligencije na upravljanje;

48. također pozdravlja osnivanje i početak rada Vijeća za trgovinu i tehnologiju (TTC) EU-a i SAD-a; pozdravlja ishode prvog sastanka Vijeća za trgovinu i tehnologiju održanog u Pittsburghu; smatra da bi Vijeće za trgovinu i tehnologiju moglo biti forum za globalnu suradnju između Europske unije i Sjedinjenih Američkih Država u cilju utvrđivanja globalno primjenjivih pravila za umjetnu inteligenciju i globalnih tehnoloških standarda kojima se štite naše zajedničke vrijednosti, poticanja zajedničkih ulaganja, istraživanja i razvoja te uspostavljanja bliže političke suradnje međunarodnih institucija na pitanjima povezanima s tehnologijom i umjetnom inteligencijom;

49. naglašava ključnu ulogu koju EU može imati u pružanju primjera ostatku svijeta kao prva svjetska sila koja će uvesti zakonodavstvo o umjetnoj inteligenciji: naglašava da bi zbog Unijina pravnog okvira o umjetnoj inteligenciji Europa mogla postati svjetski predvodnik sektora te bi ga stoga trebalo promicati u cijelom svijetu uspostavom suradnje sa svim međunarodnim partnerima istodobno nastavljajući kritički dijalog temeljen na etičkom aspektu s trećim zemljama koje imaju drukčije modele upravljanja i standarde o umjetnoj inteligenciji;

50. primjećuje da je kineska Vlada potpisala sporazume o normama i suradnji s 52 države u okviru svoje inicijative „Jedan pojas, jedan put”; upozorava da, budući da nekoliko od tih normi, uključujući one o tehnologijama umjetne inteligencije, a posebno one povezane s vladinim nadzorom i individualnim slobodama, nije usklađeno s ljudskim pravima i vrijednostima EU-a, aktivizam Kine u pogledu normi predstavlja izazov za EU;

51. naglašava da tehnologije umjetne inteligencije, naročito one koje nisu osmišljene i razvijene s uspostavljenim izričitim postupcima kontrole te koje se upotrebljavaju nepravilno, bez nadzora u vojnim zapovjednim središtima ili u postrojenjima za lansiranje projektila, predstavljaju naročito značajne rizike i da bi mogle dovesti do eskalacije automatiziranog uzajamnog sukoba;

52. primjećuje da će upotreba sustava umjetne inteligencije u događajima u području obrane dovesti do korjenitih promjena u vojnim operacijama kroz analizu podataka, mogućnost sagledavanja šire složenosti situacije, potencijala za unapređenje ciljne točnosti, optimizacije logistike i ulaska u oružane sukobe s manjim rizikom od fizičkih ozljeda civila i vlastitog vojnog osoblja, kao i upotrebe podataka za razvoj načina djelovanja kao što su, na primjer, vojne vježbe; međutim, upozorava da bi to moglo dovesti do nižeg praga za primjenu sile te samim time do češćih sukoba; potvrđuje da strojevi i roboti ne mogu poput ljudi donositi odluke koje uključuju pravna načela razlikovanja, proporcionalnosti i mjere opreza; potvrđuje da bi ljudi trebali imati kontrolu nad odlukama o primjeni i uporabi oružja te ostati odgovorni za primjenu smrtonosne sile i donošenje odluka koje su pitanje života i smrti; smatra da bi oružani sustavi opremljeni umjetnom inteligencijom trebali biti podložni globalnim standardima i međunarodnom etičkom kodeksu ponašanja na kojima bi se temeljila primjena tehnologija umjetne inteligencije u vojnim operacijama, uz potpuno poštovanje međunarodnog humanitarnog prava i prava o ljudskim pravima te u skladu s pravom i vrijednostima Unije;

53. zabrinut je zbog vojnih istraživanja i tehnoloških napredaka na kojima neke države rade u pogledu smrtonosnih autonomnih oružanih sustava bez znatne ljudske kontrole; primjećuje da se smrtonosni autonomni oružani sustavi već rabe u vojnim sukobima; podsjeća da je Parlament više puta pozvao na uvođenje međunarodne zabrane razvoja, proizvodnje i upotrebe smrtonosnih autonomnih oružanih sustava te na početak učinkovitih pregovora o njihovoj zabrani; naglašava da se sustavima utemeljenima na umjetnoj inteligenciji ni u kojem slučaju ne smije dopustiti da umjesto ljudi donose odluke za koje je potrebna primjena pravnih načela razlikovanja, proporcionalnosti i mjera opreza;

54. osobito napominje da tehnologija umjetne inteligencije može dovesti do rizika kao sredstvo za različite oblike hibridnog ratovanja i vanjskog uplitanja; navodi da bi se ona, na primjer, mogla mobilizirati za aktivaciju dezinformiranja s pomoću botova ili lažnih računa na društvenim mrežama, za iskorištavanje međuovisnosti kao oružja prikupljanjem vrijednih informacija ili uskraćivanjem pristupa mreži neprijateljima, u cilju stvaranja poremećaja u gospodarskim i financijskim sustavima drugih država i ugrožavanja političkih rasprava, pogodovanja ekstremističkim skupinama ili manipuliranja izborima radi destabilizacije demokratskih sustava;

55. naglašava da bi tehnologije umjetne inteligencije također mogle uključivati štetni softver kojim upravlja umjetna inteligencija, krađu identiteta, trovanje podataka ili druge oblike neprijateljskog strojnog učenja koja navodi druge sustave umjetne inteligencije na pogrešno tumačenje ulaznih podataka; posebno ukazuje na rastuću pojavu uvjerljivih krivotvorenih sadržaja (eng. deepfake), koji nisu nužno kibernapadi, ali koji su već doveli do sumnji u vjerodostojnost cjelokupnog digitalnog sadržaja, uključujući videozapise te stoga zavređuju da im se posveti posebna pozornost kad je riječ o zahtjevima u pogledu transparentnosti; upozorava da bi uvjerljivi krivotvoreni sadržaji mogli doprinijeti širokoj klimi javnog nepovjerenja u umjetnu inteligenciju, kao i dubljoj društveno-političkoj polarizaciji u našim društvima;

56. objašnjava da je upotreba sustava umjetne inteligencije u velikom broju objekata ključne infrastrukture, kao što su energetske i prometne mreže, svemirski sektor, prehrambeni lanac, bankovna i financijska infrastruktura te bolnički objekti, uzrokovala nove slabosti za koje će biti potrebne robusne mjere kibersigurnosti kako bi se spriječile prijetnje; u tom pogledu naglašava važnost suradnje i razmjene informacija te djelovanja na razini EU-a, ali i među državama članicama; naglašava važnost poticanja otpornosti ključnih subjekata na hibridne prijetnje;

57. upozorava da sposobnosti umjetne inteligencije također mogu predstavljati sigurnosne rizike, budući da mogu ljude navesti da u umjetnu inteligenciju imaju toliko povjerenja da joj vjeruju više nego vlastitoj prosudbi; napominje da pristup ljudske intervencije nije moguće primijeniti kao korektivni mehanizam u svim slučajevima; napominje da su pokusi pokazali da se umjetna inteligencija zbog toga može podići na veću razinu autonomije od one za koju je prvobitno namijenjena, što znači da ljudi propuštaju prilike da steknu iskustvo i usavrše svoje vještine i poznavanje sustava umjetne inteligencije; stoga ističe da su u visokorizičnim sustavima umjetne inteligencije potrebni integrirana sigurnost i značajan ljudski nadzor na temelju odgovarajućeg osposobljavanja kao i odgovarajuće mjere sigurnosti i zaštite privatnosti kako bi se nadišla takva pristranost u automatizaciji;

58. naglašava međutim da se umjetna inteligencija može primijeniti za predviđanje nestanka energije i precizno utvrđivanje potrebe za održavanjem; navodi i da se može upotrijebiti za sintetiziranje velikih količina podataka s pomoću automatizirane ekstrakcije informacija ili automatizirane klasifikacije informacija te za otkrivanje posebnih obrazaca; naglašava da bi ti elementi omogućili bolje predviđanje i bolju procjenu razine prijetnje i slabosti sustava, brže procese donošenja odluka, bolju reaktivnost te učinkovitije osiguranje uređaja u krajnjoj točki;

59. osobito naglašava inherentni potencijal u omogućivanju tijelima kaznenog progona da otkrivaju i suzbijaju kaznene aktivnosti s pomoću tehnologija umjetne inteligencije; naglašava da su za takve aktivnosti kaznenog progona koje su povezane s umjetnom inteligencijom, međutim, potrebni potpuno poštovanje temeljnih prava, strogi nadzor demokracije, jasna pravila o transparentnosti, snažna IT infrastruktura, ljudski nadzor, visokokvalificirani zaposlenici i pristup relevantnim i visokokvalitetnim podacima;

d) Umjetna inteligencija i konkurentnost

60. napominje da će sve više proizvoda i usluga u lancu vrijednosti biti međusobno povezano u bliskoj budućnosti te da će umjetna inteligencija i automatizacija imati važnu ulogu u mnogim proizvodnim procesima, operacijama i poslovnim modelima; naglašava iznimnu važnost osnovnog istraživanja za razvoj industrijskih ekosustava umjetne inteligencije kao i značajnog ulaganja radi promicanja digitalizirane javne uprave i nadogradnje digitalne infrastrukture;

61. primjećuje da, iako je u posljednje dvije godine došlo do značajnog povećanja rizičnog kapitala i ostalog financiranja u ranoj fazi, mnoge europske industrije zaostaju i trenutačne razine financiranja u EU-u su još uvijek nedovoljne te bi ih trebalo u značajnoj mjeri povećati kako bi sustigle dinamiku vodećih ekosustava umjetne inteligencije kao što su Silikonska dolina i druge; naglašava posebnu strukturu inovacijskih ekosustava u EU-u kao mreže klastera, za razliku od centraliziranih inovacijskih ekosustava (koji primaju i potporu države);

62. ističe da umjetna inteligencija može dovesti do korjenitih promjena u konkurentnosti industrije EU-a te da ima potencijal za povećanje produktivnosti, ubrzavanje inovacije, unapređenje proizvodnih postupaka i pomaganje u nadzoru otpornosti europskih lanaca opskrbe;

63. ukazuje na rizik od poremećaja lanaca opskrbe uslijed razdvajanja gospodarskog rasta od utjecaja na okoliš ili katastrofalnih događaja kao što su pandemije ili pojave povezane s klimatskim promjenama; naglašava da upotreba umjetne inteligencije može pomoći u otkrivanju uzoraka poremećaja lanaca opskrbe i pružiti informacije o predviđenim potrebama za održavanjem, čime bi se mogla podržati diversifikacija dobavljača;

64. napominje da su poduzeća koja su pokrenula digitalne poremećaje često nagrađena značajnim porastom tržišnog udjela; napominje da nedavne studije ukazuju na to da će se taj obrazac vjerojatno ponavljati još većim intenzitetom jer poduzeća koja usvajaju umjetnu inteligenciju obično prikupljaju velike količine podataka čime obično jačaju svoj konkurentni položaj; zabrinut je zbog proizašlih rizikâ tržišne koncentracije nauštrb MSP-ova i start-up poduzeća;

65. naglašava da su ti izgledi posebno zabrinjavajući s obzirom na to da postojeća najveća tehnološka poduzeća koja će vjerojatno također dominirati tehnologijama umjetne inteligencije imaju selekcijsku ulogu u odnosu na tržišta te istovremeno uzimaju veći dio ostvarene vrijednosti; naglašava da će postojeća prevlast tih velikih tehnoloških poduzeća, koja korisnicima nude pristup uslugama u zamjenu za podatke i izlaganje ciljanim oglasima, vjerojatno sama po sebi potaknuti njihovu daljnju prevlast na tržištu jer se podaci na kojima se temelji razvoj sektora umjetne inteligencije u vrlo velikoj mjeri prikupljaju upravo od tih velikih tehnoloških poduzeća; naglašava da mnoga od tih tehnoloških poduzeća koja imaju sjedište izvan EU-a tek moraju uspjeti uzeti vrijednost proizašlu iz podataka o europskim kupcima i na taj način steći konkurentnu prednost;

66. ex ante mjera, uključujući budući Zakon o digitalnim tržištima, u stvaranju protuteže koncentraciji prije nego što do nje dođe; nadalje, ističe ulogu koju standardizacija i regulatorna suradnja mogu imati u rješavanju tog pitanja olakšavanjem globalnog razvoja proizvoda i usluga bez obzira na njihovu fizičku lokaciju; pozdravlja nedavnu komunikaciju Komisije u kojoj ona poziva na ažuriranje pravila natjecanja kako bi bila spremna za digitalno doba ( 29 ) te naglašava ključnu ulogumjera, uključujući budući Zakon o digitalnim tržištima, u stvaranju protuteže koncentraciji prije nego što do nje dođe; nadalje, ističe ulogu koju standardizacija i regulatorna suradnja mogu imati u rješavanju tog pitanja olakšavanjem globalnog razvoja proizvoda i usluga bez obzira na njihovu fizičku lokaciju;

67. ističe da mala i srednja poduzeća te start-up poduzeća imaju središnju ulogu u uvođenju tehnologija umjetne inteligencije na području EU-a, budući da čine veliku većinu ukupnog broja poduzeća i da su ključan izvor inovacija; primjećuje, međutim, da se obećavajuća start-up poduzeća suočavaju sa značajnim preprekama u širenju Europom zbog nepotpunog jedinstvenog digitalnog tržišta i regulatornih razlika u mnogim državama članicama ili zbog toga što ih, nakon širenja, kupuju velika tehnološka poduzeća; žali zbog činjenice da se MSP-ovi često suočavaju s nedostatkom financijskih sredstava, složenim upravnim postupcima i nedostatkom odgovarajućih vještina i pristupa informacijama; primjećuje da su tijela EU-a nadležna za tržišno natjecanje u prošlosti dozvoljavala većinu stranih preuzimanja europskih poduzeća koja se bave umjetnom inteligencijom i robotikom;

68. naglašava da bi intenzivna uporaba algoritama, npr. za određivanje cijena, također mogla dovesti do potpuno novih problema karakterističnih za umjetnu inteligenciju na jedinstvenom tržištu; napominje da bi, na primjer, tijelima za suzbijanje zlouporabe monopolskog položaja moglo biti teško dokazati postojanje sporazuma o cijeni između sustava određivanja cijena koji se temelje na umjetnoj inteligenciji; dodaje također da nekolicina pružatelja umjetne inteligencije koja već sudjeluje u trgovanju dionicama mogla predstavljati sustavni rizik za financijska tržišta, uključujući putem sporazuma; naglašava da može biti vrlo teško prepoznati sporazum u vezi algoritama jer sustavi temeljeni na umjetnoj inteligenciji ne moraju međusobno komunicirati na način na koji to čine ljudi za potrebe sporazuma, zbog čega je teško dokazati namjeru sklapanja sporazuma; ističe rizik koji to predstavlja za stabilnost tržišta i potrebu da tijela EU-a i nacionalna tijela nadležna za tržišno natjecanje razviju odgovarajuće strategije i alate; ističe također sustavni rizik za financijska tržišta koji proizlazi iz široke uporabe modela i sustava algoritamskog trgovanja bez ikakve ljudske interakcije, koji su u prošlosti doveli do znatnog povećanja tržišnih kretanja te je vjerojatno da će do toga ponovno doći u budućnosti;

69. primjećuje da se mnoga poduzeća koja se bave umjetnom inteligencijom na području EU-a trenutačno suočava s pravnom nesigurnošću u pogledu mogućih sigurnih načina razvoja njihovih proizvoda i usluga zbog birokratskih prepreka, preklapanja postojećeg sektorskog zakonodavstva i nepostojanja utvrđenih standarda i normi u području umjetne inteligencije;

70. ističe izazov za poduzeća koja se bave umjetnom inteligencijom u pogledu kontrole kvalitete i zaštite potrošača; zaključuje da su transparentnost i pouzdanost ključni čimbenici koji poduzećima EU-a osiguravaju konkurentnu prednost jer će u budućnosti biti odlučujući za prihvaćanje proizvoda ili usluge na tržište;

71. primjećuje da, iako 26 % visokovrijednih znanstvenih publikacija o umjetnoj inteligenciji dolazi iz Europe, samo 4 od glavnih 30 podnositelja (13 %) i 7 % poduzeća koja podnose patentne prijave u području umjetne inteligencije dolazi iz Europe;

72. smatra da je zakonima EU-a o intelektualnom vlasništvu propisano usklađivanje te jasna i transparentna provedba, kao i uravnotežen, provediv i predvidiv okvir koji europskim poduzećima, a osobito MSP-ovima i start-up poduzećima, omogućuje osiguravanje zaštite intelektualnog vlasništva;

73. zabrinut je zbog toga što MSP-ovi rijetko upotrebljavaju zaštitu intelektualnog vlasništva zbog toga što nisu u potpunosti upoznati sa svojim pravima i nemaju dovoljno sredstava za njihovo ostvarivanje; naglašava važnost informacija i statistike za zaštitu intelektualnog vlasništva među MSP-ovima aktivnima u sektorima utemeljenima na znanju te pozdravlja nastojanja, uključujući pojednostavljene postupke registracije i niže administrativne naknade, da se MSP-ovima i start-up poduzećima pruži bolje znanje i olakša pristup zaštiti intelektualnog vlasništva; napominje da bi se trebao ojačati položaj EU-a kao uzora za utvrđivanje standarda kako bi se poduzećima iz EU-a pomoglo da zaštite vlastita prava intelektualnog vlasništva povezana s umjetnom inteligencijom; naglašava da su međunarodna konkurentnost i privlačnost ukorijenjene u čvrstom i otpornom jedinstvenom tržištu, među ostalim u području zaštite i provedbe intelektualnog vlasništva;

74. navodi da su analitika podataka te pristup neosobnim podacima, kao i razmjena i ponovna uporaba neosobnih podataka, već danas neophodni za mnoge proizvode i usluge koji se temelje na podacima, ali da će za razvoj i primjenu nadolazećih sustava umjetne inteligencije oni biti važni; naglašava, međutim, da se zasad većina neosobnih podataka koji nastaju u EU-u ne upotrebljava, a jedinstveno tržište podataka tek se formira;

75. ističe važnost omogućavanja pristupa podacima i razmjeni podataka, otvorenim standardima i tehnologiji otvorenog koda radi poticanja ulaganja i inovacija u području umjetne inteligencije u EU-u; navodi da bi za razvojne programere umjetne inteligencije bila korisna bolja usklađenost tumačenja nacionalnih tijela nadležnih za zaštitu podataka kao i smjernica o miješanim podacima i tehnikama depersonalizacije;

76. ističe ulogu koju može imati umjetna inteligencija kao pomoć europskim i nacionalnim tijelima u provedbi djelovanja, osobito u području carinskog i tržišnog nadzora; smatra da trgovinski i carinski postupci mogu biti djelotvorniji i cjenovno učinkovitiji uz upotrebu umjetne inteligencije, ako se poveća sukladnost i osigura ulazak na jedinstveno tržište samo sigurnih proizvoda; ističe primjer inovativnog kanadskog sustava Canada Border Services Agency Assessment and Revenue Management (CARM) kojim se uvelike pojednostavljuju uvozni i izvozni postupci primjenom kvalificirane procjene rizika vezanog uz umjetnu inteligenciju i pojednostavnjenog upravljanja digitaliziranim informacijama kako bi se smanjila potreba za opsežnim inspekcijama;

e) Umjetna inteligencija i zeleni plan

77. primjećuje da umjetna inteligencija sve više utječe na tržište rada, radna mjesta i društvenu domenu te da su učinci tehnoloških promjena na rad i zapošljavanje višestruki; naglašava da u tom području uporaba umjetne inteligencije dovodi do niza etičkih i pravnih izazova te onih povezanih sa zapošljavanjem; zabrinut je da bi na tržištu rada digitalizacija mogla dovesti do reorganizacije radne snage i mogućeg nestajanja određenih sektora zapošljavanja; smatra da bi se usvajanjem umjetne inteligencije, pod uvjetom da se ona usvoji zajedno s potrebnom pomoćnom infrastrukturom, edukacijom i osposobljavanjem, moglo povećati produktivnost kapitala i radne snage, inovacije, održivi rast i otvaranje radnih mjesta;

78. naglašava da će umjetna inteligencija možda zamijeniti neke zadaće, uključujući one repetitivne, teške, radno intenzivne ili opasne, ali da također može pomoći u unapređenju vještina, podizanju kvalitete rada i otvaranju novih radnih mjesta veće dodane vrijednosti i omogućiti da se više vremena uloži u stimulirajuće zadaće i razvoj karijere; naglašava da umjetna inteligencija trenutačno već služi kao zamjena ili nadopuna ljudima u jednom podskupu zadaća, ali da to još nema vidljive znatne skupne posljedice na tržištu rada ( 30 ) ; naglašava, međutim, da bi se dohodovna nejednakost mogla povećati ako umjetna inteligencija bude služila kao poboljšanje za visokokvalificirana zanimanja i zamjena za niskokvalificirana zanimanja; dodaje da eventualno proizašle posljedice po gospodarstvo i društvo treba ublažiti odgovarajućim mjerama, istraživanjem i prognozom, te da se na njih treba pripremiti ulaganjem u unapređenje vještina i prekvalifikaciju radne snage s naglaskom na nedovoljno zastupljenim skupinama kao što su žene i manjine na koje će taj prijelaz vjerojatno najviše utjecati, te promicanjem raznolikosti u svim fazama razvoja sustava umjetne inteligencije; zabrinut je zbog toga što bi umjetna inteligencija mogla dovesti do gubitka kvalifikacija i ustaljivanja slabo plaćenih radnih mjesta s niskom razinom autonomije te povećati broj netipičnih i fleksibilnih (ili „honorarnih”) poslova; ističe da bi upravljanje algoritmima moglo dovesti do neravnoteže moći između uprave i zaposlenika i netransparentnosti donošenja odluka;

79. naglašava da uvođenje umjetne inteligencije predstavlja priliku za poticanje znatne promjene kulture u organizacijama, uključujući kroz bolju zaštitu na radu, bolju ravnotežu poslovnog i privatnog života, i davanje zaposlenicima prava na isključivanje i učinkovitije mogućnosti za osposobljavanje i usmjeravanje; u tom pogledu upućuje na preporuke OECD-a i naglašava da automatizacija također može dovesti do smanjenja radnog vremena i na taj način poboljšati uvjete života i zdravlje radnika; smatra da bi aplikacije umjetne inteligencije koje osnažuju položaj ljudi također mogle stvoriti nove prilike za zapošljavanje, posebno za osobe koje su zbog ograničenja kao što su invaliditet ili životne okolnosti dosad bile ograničene na radna mjesta s nižim kvalifikacijama; naglašava da je potrebno upotrebljavati umjetnu inteligenciju na radnom mjestu kako bi se ljudima omogućilo vrijeme da poboljšaju kvalitetu svojih rezultata umjesto da se poveća radno opterećenje;

80. osuđuje povećano pribjegavanje nadzoru na temelju umjetne inteligencije na radnom mjestu koje se često događa bez znanja radnika, kao i bez njihova pristanka, osobito također u kontekstu rada na daljinu; smatra da takvo postupanje ne bi trebalo biti dozvoljeno jer je iznimno štetno po temeljno pravo na privatnost, zaštitu podataka i ljudsko dostojanstvo radnika kao i po socijalna i radna prava, te da ima negativne učinke i na duševno zdravlje radnika zbog stupnja zadiranja u privatnost, njegova općeg ili neselektivnog učinka i nedostataka zaštitnih mjera za pogođene pojedince;

81. zabrinut je što zbog sve češće uporabe sustava umjetne inteligencije u školama postoji sličan rizik od nadzora i u školskim okruženjima, što narušava temeljna prava djece; primjećuje da umjetna inteligencija utječe na privatnost i sigurnost djece na više načina, od koristi povezanih s preciznijom i točnijom sposobnošću razumijevanja prijetnji s kojima se djeca suočavaju do rizika povezanih s nenamjernim povredama privatnosti; ističe da su i pozitivni i negativni učinci na privatnost, zaštitu i sigurnost djece zahtijevaju detaljna ispitivanja i odgovarajuće zaštitne mjere; također naglašava da pri razvoju sustava umjetne inteligencije posebnu pažnju treba posvetiti djeci zbog njihove posebno osjetljive prirode i posebnih ranjivosti;

82. naglašava da je od presudne važnosti pojedincima osigurati sveobuhvatne programe za razvoj vještina u svim fazama života kako bi mogli ostati produktivni na radnom mjestu koje se stalno razvija i kako ne bi bili isključeni iz tržišta rada; smatra da je prilagodba radne snage u smislu obrazovanja, cjeloživotnog učenja i prekvalifikacije u području umjetne inteligencije od temeljne važnosti; naglašava da trenutačne koncepte učenja i rada i dalje u prevelikoj mjeri definira preddigitalni svijet, što doprinosi sve većem nedostatku vještina i novom digitalnom jazu za građane koji nemaju pristup sigurnom digitalnom prostoru; naglašava da jačanje digitalne pismenosti doprinosi ostvarenju ciljeva održivog razvoja UN-a, posebno onih koji se odnose na obrazovanje, ljudski kapital i infrastrukturu; ističe povećanje znanja o novim oblicima rada i učenja zbog krize uzrokovane bolešću COVID-19, a koja bi se mogla dodatno istražiti;

83. ističe da Unija, kako bi u potpunosti iskoristila prednosti digitalizacije, mora nastojati riješiti problem digitalne pismenosti i vještina za sve; smatra da je digitalna pismenost preduvjet za povjerenje ljudi u umjetnu inteligenciju i javnu svijest o njenim učincima; naglašava važnost uključivanja programa temeljnog osposobljavanja o digitalnim vještinama i umjetnoj inteligenciji u nacionalne obrazovne sustave; vjeruje da bi uvođenje i razvoj tehnologije umjetne inteligencije u područje manjinskih jezika moglo dovesti do poboljšanja njihova znanja i upotrebe; naglašava da više od 70 % poduzeća navodi nedostatak osoblja s odgovarajućim digitalnim vještinama i vještinama u području umjetne inteligencije kao prepreku ulaganjima; zabrinut je zbog toga što je 2019. u EU-u bilo 7,8 milijuna stručnjaka za informacijsku i komunikacijsku tehnologiju (IKT) i što je njihov broj prije toga rastao po godišnjoj stopi od 4,2 %, što je daleko manje od 20 milijuna stručnjaka koji su prema predviđanjima Komisije potrebni u ključnim područjima kao što je analiza podataka;

84. zabrinut je zbog velikog jaza među spolovima u tom području, s obzirom da je tek svaki šesti stručnjak za IKT i svaki treći diplomant u području znanosti, tehnologije, inženjerstva i matematike (STEM) žena ( 31 ) ; sa zabrinutošću napominje da jaz među spolovima još uvijek postoji, posebno kad je riječ o start-up poduzećima jer je 2019. na svakih 100 USD uloženih u europska tehnološka poduzeća 92 USD dodijeljeno osnivačkim timovima u kojima su samo muškarci; preporuča izradu ciljanih inicijativa za potporu ženama u STEM-u kako bi se prevladao generalni problem nedostatka vještina u tom sektoru; naglašava da taj jaz neizbježno dovodi do pristranih algoritama; naglašava važnost osnaživanja i motiviranja djevojaka prema STEM-u i iskorjenjivanja jaza među spolovima u tom području;

f) Umjetna inteligencija i budućnost demokracije

85. ističe da umjetna inteligencija, s jedne strane, može pomoći u izgradnji transparentnijeg i učinkovitijeg javnog sektora, no da je, s druge strane, tehnički razvoj u području umjetne inteligencije, često vođen logikom rasta i profita, vrlo brz i dinamičan, zbog čega je donositeljima politike teško biti dovoljno dobro upoznat s načinom na koji aplikacije umjetne inteligencije rade i vrstama ishoda koje mogu proizvesti te aplikacije, iako su dužni ponuditi okvir kojim se osigurava usklađenost umjetne inteligencije s temeljnim pravima i mogućnost njene upotrebe u korist društva; naglašava da se stručne prognoze budućeg utjecaja umjetne inteligencije također razlikuju, što znači da bi čak i njima moglo biti teško predvidjeti ishode primjene novih tehnologija umjetne inteligencije; stoga tvrdi da je zbog te nesigurnost važno da zakonodavci uzmu u obzir načelo opreznosti za reguliranje umjetne inteligencije; smatra da je ključno provesti savjetovanja sa stručnjacima iz različitih struka i sredina kako bi se izradilo čvrsto i provedivo zakonodavstvo otporno na buduće promjene; upozorava da pravna nesigurnost može biti jedna od najvećih prepreka inovacijama; primjećuje, u tom pogledu, važnost promicanja pismenosti u pogledu umjetne inteligencije među građanima, uključujući odabrane predstavnike i nacionalna tijela;

86. upozorava da zakonodavni ciklusi stoga često nisu usklađeni s tempom tehnološkog napretka, zbog čega su donositelji politika prisiljeni da pokušavaju držati korak i da daju prednost regulaciji slučajeva upotrebe koji su već na tržištu; ističe da prije izrade dobrog regulatornog pristupa umjetnoj inteligenciji treba izvršiti opsežnu analizu razmjernosti i nužnosti kako inovativnost i konkurentnost poduzeća EU-a ne bi bile ugrožene;

87. naglašava da upotreba umjetne inteligencije za dobivanje biometrijskih podataka može biti i intruzivna i štetna ili pak korisna kako za pojedinca tako i za širu javnost;

88. sa zabrinutošću primjećuje da takve tehnologije umjetne inteligencije povlače ključna etička i pravna pitanja; primjećuje da određene tehnologije umjetne inteligencije omogućuju automatizaciju obrade podataka do neviđenih razmjera, što otvara put za masovni nadzor i nezakonito uplitanje na druge načine, te predstavlja prijetnju temeljnim pravima, osobito pravima na privatnost i zaštitu podataka;

89. naglašava da se brojni autoritarni režimi služe sustavima umjetne inteligencije za kontroliranje, masovni nadzor, špijuniranje i rangiranje svojih građana ili ograničavanje njihove slobode kretanja; ističe da svaki oblik normativnog bodovanja građana koje provode javne vlasti, posebno u području kaznenog progona, graničnog nadzora i pravosuđa, te takvo bodovanje koje provode privatna poduzeća ili pojedinci, dovodi do gubitka autonomije i privatnosti, donosi rizik od diskriminacije i nije usklađen s europskim vrijednostima; podsjeća da tehnologije kao što su kibernetički nadzor i biometrijsko prepoznavanje, koje se mogu koristiti u te svrhe, podliježu uredbi EU-a kojom je reguliran izvoz. vrlo je zabrinut zbog slučajeva u kojima su poduzeća iz EU-a prodavala biometrijske sustave čija bi uporaba bila nezakonita u EU-u autoritarnim režimima u trećim zemljama te osuđuje takve slučajeve;

90. napominje da dominantne tehnološke platforme danas imaju znatnu kontrolu nad pristupom informacijama i njihovom distribucijom te se koriste tehnologijama umjetne inteligencije za prikupljanje više informacija o identitetu i ponašanju osobe te njezinoj povijesti odlučivanja; smatra da takvo profiliranje predstavlja rizike za demokratske sustave kao i za očuvanje temeljnih prava i autonomije građana; naglašava da to stvara neravnotežu moći i sustavne rizike koji mogu utjecati na demokraciju;

91. ističe da se digitalne platforme mogu rabiti, uključujući putem aplikacija za stavljanje na tržište, za vanjsko uplitanje i širenje dezinformacija i uvjerljivog krivotvorenog sadržaja, pri čemu djeluju kao mreže za propagandu, trolanje i uznemiravanje s ciljem potkopavanja izbornih procesa; naglašava da strojno učenje posebno omogućuje ciljano iskorištavanje osobnih podataka za manipuliranje glasačima koji toga nisu svjesni izradom personaliziranih i uvjerljivih poruka; ističe važnost čvrstih obveza u pogledu transparentnosti i njihove učinkovite provedbe;

92. naglašava da bi se umjetna inteligencija, međutim, također mogla upotrijebiti za smanjivanje antidemokratskih i neetičkih aktivnosti na platformama i kao sredstvo za ograničavanje distribucije lažnih vijesti i govora mržnje, iako su dosad ispitivanja njenih sposobnosti razumijevanja kontekstualno uvjetovanog sadržaja pokazala slabe rezultate; zabrinut je zbog činjenice da govor koji izaziva podjele može rezultirati većim angažmanom korisnika, zbog čega bi uklanjanje takvog govora bilo u izravnoj suprotnosti s takvim poslovnim modelom platformi koji se temelji na maksimalnom angažmanu korisnika; smatra da se rješenja temeljena na umjetnoj inteligenciji moraju zasnivati na potpunom poštovanju slobode izražavanja i mišljenja kao i na snažnim dokazima u njihovu korist, prije eventualne upotrebe;

93. naglašava da do pristranosti u sustavima umjetne inteligencije, osobito sustavima dubokog učenja, često dolazi zbog nedostatka raznolikih i visokokvalitetnih podataka za treniranje i testiranje, na primjer u slučajevima kad se rabe skupovi podataka koji ne predstavljaju u dovoljnoj mjeri ranjive skupine, ili u slučajevima kada je definicija zadatka pristrana ili su uvjeti pristrano postavljeni; napominje da pristranost može nastati zbog mogućeg nedostatka raznovrsnosti u timovima razvojnih programera, čime se pojačava postojeća pristranost, i zbog ograničene količine podataka za treniranje i ispitivanje ili u slučaju da pristrani razvojni programer umjetne inteligencije ugrozi algoritam; ističe da se obrazložena diferencijacija također stvara namjerno kako bi se poboljšao učinak umjetne inteligencije u učenju u određenim okolnostima;

94. ističe da se strukturne pristranosti koje su prisutne u našem društvu ne bi smjele ponavljati ili čak povećati uporabom skupova podataka niske kvalitete; navodi, s time u vezi, da se algoritmi uče da diskriminiraju u mjeri u kojoj to čine podaci na temelju kojih uče te da kao rezultat nekvalitetnih podataka za učenje ili pristranosti i diskriminacije koje promatraju u društvu mogu predložiti odluke koje su po svojoj prirodi diskriminirajuće, što pak pogoršava diskriminaciju u društvu; napominje da se pristranost umjetne inteligencije ponekad može ispraviti; zaključuje da je stoga potrebno primijeniti tehnička sredstva i uspostaviti različite razine kontrole za sustave umjetne inteligencije, uključujući softver, algoritme i podatke koje oni upotrebljavaju i proizvode kako bi se taj rizik sveo na najmanju moguću mjeru; tvrdi da se umjetna inteligencija može i treba upotrebljavati za smanjivanje pristranosti i diskriminacije kao i za promicanje jednakih prava i pozitivne društvene promjene u našim društvima, među ostalim donošenjem normativnih zahtjeva za skupove podataka koji se upotrebljavaju za poučavanje sustava umjetne inteligencije; naglašava da je jedan od najučinkovitijih načina da se smanji pristranost sustava umjetne inteligencije jamčenje, u mjeri u kojoj je to moguće u skladu s pravom Unije, dostupnosti maksimalne količine neosobnih podataka za potrebe treniranja i strojnog učenja;

g) Zaključci koji se ponavljaju u svih šest studija slučaja

95. primjećuje da postoje jasne društvene prednosti i mogućnosti povezane s usvajanjem tehnologija umjetne inteligencije koje se mogu iskoristiti samo ako EU prevlada transverzalne prepreke u skladu s temeljnim pravima, vrijednostima i zakonodavstvom; navodi da se preklapanje zakonodavstva, rascjepkanost tržišta, birokratske prepreke, nedostatak pristupačne digitalne infrastrukture i digitalnih vještina u širem društvu kao i nedovoljno ulaganje u istraživanje i razvoj mogu naročito doživljavati kao prepreke uspješnoj primjeni pouzdane umjetne inteligencije u svim analiziranim područjima;

96. zaključuje, na temelju razmotrenih studija slučaja, da postoje određeni slučajevi upotrebe koji su rizični ili štetni, no da se ne radi nužno o konkretnim tehnologijama umjetne inteligencije, već o njihovim područjima primjene; prepoznaje da se budući propisi trebaju baviti opravdanim zabrinutostima vezanima uz te rizike kako bi tehnologije umjetne inteligencije naišle na široku primjenu u EU-u;

97. naglašava da, iako je važno razmotriti i kategorizirati potencijalne rizike koje predstavlja umjetna inteligencija, studije slučaja pokazuju da nam tehnologije umjetne inteligencije mogu omogućiti učinkovite protumjere kojima se ti rizici mogu ublažiti ili ukloniti; naglašava da puni potencijal umjetne inteligencije i njezini rizici još nisu jasni jer je ona i dalje u ranim fazama razvoja u širem kontekstu tehnologija u nastajanju; ističe da je potrebno razmotriti ne samo rizike za pojedince, već i štetu za šire društvo i nematerijalnu štetu za pojedince; ističe znatne neravnoteže tržišne snage na tržištima podataka i u s njima povezanom gospodarstvu umjetne inteligencije; naglašava da su pošteno tržišno natjecanje i uklanjanje prepreka natjecanju start-up poduzeća i malih i srednjih poduzeća ključni za pravednu raspodjelu potencijalnih koristi umjetne inteligencije u gospodarskom i društvenom smislu koji su, čini se, značajni i u EU-u i diljem svijeta;

3. Položaj EU-a u globalnom natjecanju u umjetnoj inteligenciji

98. primjećuje žestoku globalnu konkurenciju u području umjetne inteligencije gdje EU još nije ostvarila svoje ambicije; razmatra u sljedećim odjeljcima globalnu konkurentnost EU-a s obzirom na umjetnu inteligenciju, uspoređujući je s globalnom konkurentnošću Kine i SAD-a, uz naglasak na trima ključnim elementima: regulatornom pristupu, tržišnom položaju i ulaganjima; prepoznaje, međutim, da se transnacionalna tržišta i korporacije ne mogu lako razgraničiti prema nacionalnim granicama jer tehnološka poduzeća imaju kupce, dioničare, zaposlenike i dobavljače u više različitih država;

a) Regulatorni pristup

99. napominje da SAD još nije uveo horizontalno zakonodavstvo u digitalnom području te je dosad naglasak stavljao na posebne zakone za određene sektore i olakšavanje ulaganja, uključujući mjerama naplate poreza na inovacije u privatnom sektoru, posebno među svojim tehnološkim divovima i vodećim sveučilištima; primjećuje da, iako nedavna kretanja pokazuju aktivniju ulogu donošenja politika, pristup koji primjenjuje SAD dosad je uglavnom pokazivao usmjerenost na pružanje pravnih smjernica poduzećima, ulaganje u istraživačke projekte i uklanjanje opaženih prepreka za inovacije;

100. naglašava da je američkim Zakonom o inicijativi u području umjetne inteligencije iz 2019. došlo do male promjene: osim preusmjeravanja financijskih sredstava, prekvalifikacije radnika i jačanja digitalne infrastrukture, Vlada SAD-a najavila je razvoj zajedničkih normi za pouzdanu umjetnu inteligenciju; napominje, međutim, da je deset načela koja su tako nastala formulirano vrlo široko kako bi se svim vladinim agencijama omogućilo oblikovanje posebnih sektorskih propisa; očekuje da će pristup SAD-a ostati usmjeren na tržište unatoč tomu što trenutačna administracija SAD-a planira 2022. predstaviti novi prijedlog zakona o pravima kojim će se ograničiti štete uzrokovane umjetnom inteligencijom;

101. naglašava da je kineski predsjednik Xi Jinping još 2013. naglasio važnost tehnologije u geopolitici, ulogu javnih politika u definiranju dugoročnih ciljeva i činjenicu da tehnologije umjetne inteligencije pružaju priliku za oživljavanje njegove vojne sile; ističe, nadalje, da je kineska Vlada nakon toga 2015. predložila plan „Made in China 2025”, a 2017. Plan razvoja umjetne inteligencije sljedeće garancije, te da je jasan cilj oba plana da Kina do 2030. postane globalni predvodnik u umjetnoj inteligenciji; napominje da se u kineskoj bijeloj knjizi o normizaciji umjetne inteligencije iz 2018. dodatno iznosi kako socijalističko tržišno gospodarstvo može razvijati međunarodne norme i strateški se uključiti u međunarodne organizacije za normizaciju; primjećuje uvođenje pravila o sustavima za preporučivanje i etičkog kodeksa o umjetnoj inteligenciji u Kini;

102. primjećuje da Kina na globalnoj razini aktivno promiče međunarodna partnerstva u području umjetne inteligencije kao način za izvoz vlastitih praksi nadzora, sustava društvenog bodovanja i strategija za cenzuru, što se sve temelji na umjetnoj inteligenciji; naglašava da se velika ulaganja u inozemstvo u okviru inicijative Digitalni put svile također iskorištavaju kao sredstvo za širenje kineskog utjecaja i njihove umjetne inteligencije u svijetu, što bi moglo imati dalekosežne posljedice koje nadilaze nametanje tehnoloških standarda ili održavanje tehnološke konkurentnosti; zaključuje da se pristup kineske vlade stoga temelji na domaćoj primjeni umjetne inteligencije i na izvozu tehnologija umjetne inteligencije koje se temelje na unaprijed utvrđenim standardima koji su usklađeni s ideologijom kineske vlade;

103. primjećuje da je Komisija započela rad na regulaciji umjetne inteligencije 2018. objavom Europske strategije za umjetnu inteligenciju, uspostavom Stručne skupine na visokoj razini i uvođenjem koordiniranog plana ( 32 ) za poticanje „umjetne inteligencije proizvedene u Europi”; napominje da se u bijeloj knjizi o umjetnoj inteligenciji iz 2020. predlažu brojne mjere i mogućnosti politike za buduću regulaciju umjetne inteligencije te da je ta bijela knjiga konačno dovela do horizontalnog Zakona o umjetnoj inteligenciji ( 33 ) koji je zajedno s revidiranim koordiniranim planom o umjetnoj inteligenciji ( 34 ) predstavljen u svibnju 2021.; ističe da je do lipnja 2021. nacionalne strategije u području umjetne inteligencije objavilo 20 država članica, a u sedam država članica pripreme za usvajanje strategija u završnoj su fazi;

104. naglašava da pridavanje velike pozornosti razvoju europskog jedinstvenog digitalnog tržišta i etičkim razmatranjima u skladu s temeljnim vrijednostima ljudskih prava i demokratskim načelima središnji dio regulatornog pristupa EU-a; potvrđuje da bi uspostavom prvog regulatornog okvira za umjetnu inteligenciju na svijetu EU mogao steći prednost i biti predvodnik u postavljanju međunarodnih standarda za umjetnu inteligenciju temeljenih na temeljnim pravima, kao i u uspješnom izvozu antropocentrične „pouzdane umjetne inteligencije” diljem svijeta; naglašava da je taj pristup potrebno podržati regulatornom koordinacijom i konvergencijom s međunarodnim partnerima;

b) Stanje na tržištu

105. primjećuje da mnoga od 100 vodećih svjetskih poduzeća u području umjetne inteligencije imaju sjedište u SAD-u, dok ih je tek nekoliko u EU-u; napominje da SAD također vodi po ukupnom broju start-up poduzeća u području umjetne inteligencije;

106. napominje da su tehnološki divovi iz SAD-a posljednjih godina stekli nekoliko europskih digitalnih poduzeća; pozdravlja ambiciju Komisije da se uhvati u koštac sa stjecanjima koja mogu imati znatan utjecaj na učinkovito tržišno natjecanje na digitalnom tržištu i ograniči stjecanja u cilju eliminiranja konkurencije (eng. killer acquisitions); ističe, međutim, da stjecanje u određenim slučajevima može biti primarni cilj osnivatelja start-up poduzeća i njihovih financijera kao legitimna metoda za izvlačenje koristi iz njihovih ideja;

107. naglašava da SAD i Kina nastoje ubrzati primjenu tehnologija umjetne inteligencije u javnom i privatnom sektoru, dok EU zaostaje u usvajanju umjetne inteligencije; navodi da je 2020. samo 7 % poduzeća iz EU-a s najmanje 10 zaposlenika koristilo tehnologije umjetne inteligencije, uz velike razlike između država članica i poslovnih sektora;

108. zabrinut je zbog činjenice da SAD i Kina imaju svoja jedinstvena digitalna tržišta s usklađenim skupom pravila, dok je jedinstveno digitalno tržište EU-a i dalje nepotpuno i sadrži neopravdane prepreke; naglašava da razvoj proizvoda i usluga umjetne inteligencije može dodatno usporiti trenutačni rad na 27 različitih nacionalnih strategija u području umjetne inteligencije;

109. također ukazuje na činjenicu da nedosljednosti u pravu EU-a, preklapanje različitih zakonodavnih inicijativa, proturječnosti između prava EU-a i nacionalnih prava, različita pravna tumačenja i nedostatak provedbe između država članica onemogućuju jednake uvjete za sve i stvaraju rizik od pravne nesigurnosti za europska poduzeća jer im može biti teško odrediti jesu li njihove inovacije u području umjetne inteligencije u skladu s pravom EU-a;

110. primjećuje da rascjepkanost tržišta za poduzeća koja se bave umjetnom inteligencijom dodatno pogoršava nedostatak zajedničkih standarda i normi u određenim sektorima, uključujući onih o interoperabilnosti podataka; žali zbog regulatornog rizika koji proizlazi iz kašnjenja zakonodavstva, kao što je Uredba o privatnosti i elektroničkim komunikacijama; naglašava kao primjer činjenicu da se razvojni programeri u području umjetne inteligencije u EU-u suočavaju s izazovom u pogledu podataka s kakvim se ne suočavaju njihovi ekvivalenti iz SAD-a ni Kine zbog nepotpunosti europskog jedinstvenog digitalnog tržišta; primjećuje da često nemaju dovoljno visokokvalitetnih podataka za poučavanje i ispitivanje algoritama i da im nedostatak sektorskih podatkovnih prostora i međusektorske interoperabilnosti, kao i ograničenja prekograničnih tokova podataka stvaraju poteškoće;

c) Ulaganja

111. primjećuje da europska poduzeća i vlade ulažu puno manje u tehnologije umjetne inteligencije nego SAD ili Kina; naglašava da, iako su privatna ulaganja u EU-u u industriju umjetne inteligencije u velikom porastu, EU i dalje ulaže znatno premalo u umjetnu inteligenciju u usporedbi s drugim vodećim regijama, s obzirom na to da je udio SAD-a i Kine u godišnjim ulaganjima privatnog kapitala u umjetnu inteligenciju i tehnologije lanca blokova koji iznosi 25 milijardi EUR veći do 80 %, dok je udio EU-a samo 7 % ili oko 1,75 milijardi EUR; naglašava da likvidnost financijskih tržišta EU-a za tehnološka poduzeća i dalje nema opseg usporedivih tržišta u SAD-u; primjećuje da SAD također vodi u financiranju rizičnim i privatnim vlasničkim kapitalom, što je posebno važno za start-up poduzeća u području umjetne inteligencije, s 12,6 milijarde EUR 2019. u odnosu na 4,9 milijardi EUR uloženih u Kini i 2,8 milijardi EUR uloženih u EU-u; primjećuje da zbog toga europski poduzetnici u području umjetne inteligencije odlaze preko Atlantika kako bi svoje poslovanje proširili u SAD-u;

112. navodi da se godišnja javna ulaganja u umjetnu inteligenciju u EU-u, zajedno s nacionalnim inicijativama, procjenjuju na 1 milijardu EUR ( 35 ) , što je mnogo manje od godišnjih ulaganja u SAD-u, koja iznose 5,1 milijardu EUR, te u Kini, koja iznose do 6,8 milijardi EUR ( 36 ) ; navodi, međutim, da se financiranje istraživanja i inovacija u području umjetne inteligencije javnim sredstvima EU-a u razdoblju između 2017. i 2020. povećalo za 70 % u usporedbi s prethodnim razdobljem, te da je 2019. EU uložio između 7,9 i 9 milijardi EUR u umjetnu inteligenciju, što je 39 % više nego prethodne godine; potvrđuje i pozdravlja planove Komisije za dodatno povećanje ulaganja kroz program Digitalna Europa, program Obzor Europa, program InvestEU, europske strukturne i investicijske fondove, Europski investicijski fond i Instrument za povezivanje Europe za telekomunikacije i razni programi kohezijske politike koji će se dodatno nadopuniti i potpomoći ciljanim rashodima od najmanje 20 % za digitalnu tranziciju u nacionalnim planovima za oporavak i otpornost, kako su Komisija i države članice to dogovorile u okviru Mehanizma za oporavak i otpornost; ističe, međutim, nedavno izvješće u kojem je Europska investicijska banka izračunala da jaz u ulaganjima u umjetnu inteligenciju i tehnologije lanca blokova iznosi 5 do 10 milijardi EUR godišnje;

113. naglašava da se poduzeća koja se bave umjetnom inteligencijom u EU-u suočavaju s oštrom konkurencijom u potrazi za kvalificiranim zaposlenicima, što dodatno pogoršava činjenica da 42 % stanovništva EU-a nema osnovne digitalne vještine; naglašava potrebu za osposobljavanjem i privlačenjem znatno većeg broja dobro obrazovanih diplomanata, uključujući žene, za rad u digitalnom sektoru;

114. primjećuje da je, iako EU ima izvrsnu zajednicu istraživača u području umjetne inteligencije, odljev mozgova istraživača iz EU-a i dalje ozbiljan problem; naglašava da je potrebno uvesti mjere kojima se privlače vodeći istraživači; primjećuje da je 2020. EU potrošio samo 2,32 % svojeg BDP-a na istraživanje i razvoj, dok je SAD potrošio 3,08 %; podsjeća da države članice moraju poštovati svoju obvezu ulaganja 3 % svojeg BDP-a u istraživanje i razvoj kako bi se zajamčila strateška autonomija Unije u digitalnom području;

115. napominje da digitalnu infrastrukturu EU-a treba nadograditi u značajnoj mjeri, s obzirom na to da samo 25 % stanovnika EU-a ima mogućnost povezivanja na 5G mrežu, u usporedbi sa 76 % stanovnika SAD-a; primjećuje da EU-u nedostaje dovoljna digitalna infrastruktura visokih performansi s interoperabilnim podatkovnim prostorima, velikim brzinama i količinama prijenosa, pouzdanošću i malim kašnjenjima; naglašava da je potrebno podržati europske ekosustave umjetne inteligencije s klasterima izvrsnosti;

d) Zaključak

116. zaključuje da je SAD općeniti predvodnik u umjetnoj inteligenciji u mnogim kategorijama budući da vodi u mnogim kategorijama, pri čemu poduzeća sa sjedištem u SAD-u predvode u tehnološkom razvoju u područjima kao što su računalstvo u oblaku i mogućnosti računalstva visokih performansi, kao i u ulaganjima, privlačenju stručnjaka u području umjetne inteligencije, istraživanjima i infrastrukturi; naglašava, međutim, da Kina, koja je prije nekoliko godina još uvijek znatno zaostajala za SAD-om prema svim pokazateljima, brzo sustiže tu zemlju; prepoznaje da obje države imaju prednost objedinjenog jedinstvenog tržišta i snažnije predanosti zadržavanju vodećeg položaja u području umjetne inteligencije;

117. naglašava da akteri iz EU-a, unatoč snažnom položaju EU-a u području industrijskog softvera i robotike, i dalje zaostaju za svojim kolegama iz SAD-a i Kine u mnogim kategorijama; naglašava da bi EU trebao razviti ambiciozan plan za antropocentričnu europsku umjetnu inteligenciju; primjećuje, međutim, da je EU ispred navedenih država u pogledu regulatornih pristupa; ističe da održiva strategija EU-a kojoj bi cilj