P9_TA(2022)0140

Umetna inteligenca v digitalni dobi

Resolucija Evropskega parlamenta z dne 3. maja 2022 o umetni inteligenci v digitalni dobi (2020/2266(INI))

(2022/C 465/06)

Evropski parlament,

— ob upoštevanju členov 4, 16, 26, 114, 169, 173, 179, 180, 181 in 187 Pogodbe o delovanju Evropske unije,

— ob upoštevanju Listine Evropske unije o temeljnih pravicah,

— ob upoštevanju Konvencije o otrokovih pravicah in splošne pripombe št. 25 Odbora za pravice otroka z dne 2. marca 2021 o otrokovih pravicah v zvezi z digitalnim okoljem,

— ob upoštevanju priporočila Unesca o etiki umetne inteligence, ki ga je generalna konferenca Unesca sprejela na 41. zasedanju 24. novembra 2021,

— ob upoštevanju Medinstitucionalnega sporazuma z dne 13. aprila 2016 o boljši pripravi zakonodaje (1) in smernic Komisije za boljše pravno urejanje,

— ob upoštevanju sporočila Komisije z dne 24. marca 2021 o strategiji EU o otrokovih pravicah (COM(2021)0142),

— ob upoštevanju svoje resolucije z dne 7. oktobra 2021 o stanju zmogljivosti kibernetske obrambe EU (2),

— ob upoštevanju svoje resolucije z dne 15. decembra 2021 o izzivih in obetih za režime večstranskega nadzora orožja za množično uničevanje in razorožitve (3),

— ob upoštevanju Uredbe (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (4),

— ob upoštevanju Uredbe (EU) 2021/694 Evropskega parlamenta in Sveta z dne 29. aprila 2021 o vzpostavitvi programa Digitalna Evropa in razveljavitvi Sklepa (EU) 2015/2240 (5),

— ob upoštevanju Uredbe (EU) 2021/695 Evropskega parlamenta in Sveta z dne 28. aprila 2021 o vzpostavitvi okvirnega programa za raziskave in inovacije Obzorje Evropa, določitvi pravil za sodelovanje in razširjanje rezultatov ter razveljavitvi uredb (EU) št. 1290/2013 in (EU) št. 1291/2013 (6),

— ob upoštevanju predloga uredbe Evropskega parlamenta in Sveta z dne 21. aprila 2021 o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (COM(2021)0206),

— ob upoštevanju predloga uredbe Evropskega parlamenta in Sveta z dne 25. novembra 2020 o evropskem upravljanju podatkov (akt o upravljanju podatkov) (COM(2020)0767),

— ob upoštevanju Uredbe (EU) 2018/1807 Evropskega parlamenta in Sveta z dne 14. novembra 2018 o okviru za prosti pretok neosebnih podatkov v Evropski uniji (7),

— ob upoštevanju Uredbe (EU) 2021/697 Evropskega parlamenta in Sveta z dne 29. aprila 2021 o vzpostavitvi Evropskega obrambnega sklada ter razveljavitvi Uredbe (EU) 2018/1092 (8),

— ob upoštevanju Direktive (EU) 2019/770 Evropskega parlamenta in Sveta z dne 20. maja 2019 o nekaterih vidikih pogodb o dobavi digitalne vsebine in digitalnih storitev (9),

— ob upoštevanju Uredbe Sveta (EU) 2021/1173 z dne 13. julija 2021 o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo in razveljavitvi Uredbe (EU) 2018/1488 (10),

— ob upoštevanju sporočila Komisije z dne 25. aprila 2018 z naslovom Umetna inteligenca za Evropo (COM(2018)0237),

— ob upoštevanju sporočila Komisije z dne 7. decembra 2018 z naslovom Usklajeni načrt za umetno inteligenco (COM(2018)0795),

— ob upoštevanju sporočila Komisije z dne 8. aprila 2019 z naslovom Krepitev zaupanja v umetno inteligenco, osredotočeno na človeka (COM(2019)0168),

— ob upoštevanju bele knjige Komisije z dne 19. februarja 2020 o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020)0065),

— ob upoštevanju zelene knjige Komisije z dne 27. januarja 2021 o staranju – Spodbujanje solidarnosti in odgovornosti med generacijami (COM(2021)0050),

— ob upoštevanju sporočila Komisije z dne 19. februarja 2020 z naslovom Evropska strategija za podatke (COM(2020)0066),

— ob upoštevanju sporočila Komisije z dne 19. februarja 2020 z naslovom Oblikovanje digitalne prihodnosti Evrope (COM(2020)0067),

— ob upoštevanju sporočil Komisije z dne 10. marca 2020 z naslovom Nova industrijska strategija za Evropo (COM(2020)0102) in z dne 5. maja 2021 z naslovom Posodobitev nove industrijske strategije iz leta 2020: močnejši enotni trg za okrevanje Evrope (COM(2021)0350),

— ob upoštevanju sporočila Komisije z dne 30. septembra 2020 z naslovom Akcijski načrt za digitalno izobraževanje 2021–2027 – Novi temelji za izobraževanje in usposabljanje v digitalni dobi (COM(2020)0624),

— ob upoštevanju sporočila Komisije z dne 9. marca 2021 z naslovom Digitalni kompas do leta 2030: evropska pot v digitalno desetletje (COM(2021)0118),

— ob upoštevanju predloga sklepa Evropskega parlamenta in Sveta z dne 15. septembra 2021 o vzpostavitvi programa politike „Pot v digitalno desetletje“ leta 2030 (COM(2021)0574),

— ob upoštevanju študije Komisije z dne 28. julija 2020 z naslovom European enterprise survey on the use of technologies based on artificial intelligence (Raziskava med evropskimi podjetji o uporabi tehnologij, ki temeljijo na umetni inteligenci),

— ob upoštevanju študije Komisije z dne 26. novembra 2020 z naslovom Energy-efficient cloud computing technologies and policies for an eco-friendly cloud market (Energijsko učinkovite računalniške tehnologije računalništva v oblaku in politike za okolju prijazen trg računalništva v oblaku),

— ob upoštevanju poročila Komisije z dne 19. februarja 2020 Evropskemu parlamentu, Svetu in Evropskemu ekonomsko-socialnemu odboru o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika (COM(2020)0064),

— ob upoštevanju sklepov Sveta z dne 22. marca 2021 o strategiji EU za kibernetsko varnost v digitalnem desetletju,

— ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco z dne 8. aprila 2019 z naslovom Ethics Guidelines for trustworthy AI (Etične smernice za zaupanja vredno umetno inteligenco),

— ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco z dne 8. aprila 2019 z naslovom A definition of AI: main capabilities and disciplines (Opredelitev umetne inteligence – glavne zmogljivosti in discipline),

— ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco z dne 26. junija 2019 z naslovom Policy and investment recommendations for trustworthy AI (Politična in naložbena priporočila za zaupanja vredno umetno inteligenco),

— ob upoštevanju publikacije Unesca iz marca 2019 z naslovom I’d blush if I could: closing gender divides in digital skills through education (Če bi lahko, bi zardela – odpravljanje vrzeli v digitalnih spretnostih med spoloma z izobraževanjem),

— ob upoštevanju poročila Agencije Evropske unije za temeljne pravice z dne 14. decembra 2020 z naslovom Getting the future right – Artificial intelligence and fundamental rights (Pravilno ravnanje v prihodnje – Umetna inteligenca in temeljne pravice),

— ob upoštevanju priporočila Sveta Organizacije za gospodarsko sodelovanje in razvoj (OECD) z dne 22. maja 2019 o umetni inteligenci,

— ob upoštevanju platforme Združenih narodov za dialog o razumevanju umetne inteligence – svetovni vrh platforme o umetni inteligenci za dobro,

— ob upoštevanju načel voditeljev G20 o umetni inteligenci z dne 9. junija 2019,

— ob upoštevanju poročila Svetovne zdravstvene organizacije z dne 28. junija 2021 o umetni inteligenci v zdravstvu in šestih vodilnih načelih za njeno zasnovo in uporabo,

— ob upoštevanju mnenja na lastno pobudo Evropskega ekonomsko-socialnega odbora z dne 31. maja 2017 z naslovom Umetna inteligenca – Posledice za enotni (digitalni) trg, proizvodnjo, potrošnjo, zaposlovanje in družbo (11),

— ob upoštevanju poročila skupine strokovnjakov za odgovornost in nove tehnologije z dne 21. novembra 2019 z naslovom Liability for Artificial Intelligence and other emerging digital technologies (Odgovornost za umetno inteligenco in druge digitalne tehnologije v vzponu),

— ob upoštevanju publikacije Ad hoc odbora Sveta Evrope za umetno inteligenco (CAHAI) iz decembra 2020 z naslovom Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law (Na poti k ureditvi sistemov umetne inteligence – globalni vidiki razvoja pravnega okvira za sisteme umetne inteligence na podlagi standardov Sveta Evrope o človekovih pravicah, demokraciji in pravni državi),

— ob upoštevanju delovnega dokumenta Evropskega univerzitetnega inštituta iz oktobra 2020 z naslovom Models of Law and Regulation for AI (Pravni in regulativni modeli za umetno inteligenco),

— ob upoštevanju skupnega poročila Trend Micro Research, Medregijskega raziskovalnega inštituta ZN za kriminal in pravico ter Europola z dne 19. novembra 2020 z naslovom Malicious Uses and Abuses of Artificial Intelligence (Zlonamerna uporaba in zloraba umetne inteligence),

— ob upoštevanju političnih smernic Komisije za obdobje 2019–2024 z naslovom Bolj ambiciozna Unija: Moj načrt za Evropo,

— ob upoštevanju sodbe Sodišča Evropske unije z dne 16. julija 2020 v zadevi C-311/18 (Schrems II),

— ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki (12),

— ob upoštevanju svoje resolucije z dne 1. junija 2017 o digitalizaciji evropske industrije (13),

— ob upoštevanju svoje resolucije z dne 6. oktobra 2021 o okviru politike EU za varnost v cestnem prometu za obdobje 2021–2030 – priporočila za naslednje korake v smeri vizije nič (14),

— ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih (15),

— ob upoštevanju svoje resolucije z dne 12. februarja 2019 o celoviti evropski industrijski politiki na področju umetne inteligence in robotike (16),

— ob upoštevanju svoje resolucije z dne 12. februarja 2020 o avtomatiziranem sprejemanju odločitev: zagotavljanje varstva potrošnikov ter prostega pretoka blaga in storitev (17),

— ob upoštevanju svoje resolucije z dne 20. oktobra 2020 s priporočili Komisiji o ureditvi civilne odgovornosti za področje umetne inteligence (18),

— ob upoštevanju svoje resolucije z dne 20. oktobra 2020 o pravicah intelektualne lastnine pri razvoju tehnologije umetne inteligence (19),

— ob upoštevanju svoje resolucije z dne 20. oktobra 2020 s priporočili Komisiji o okviru za etične vidike umetne inteligence, robotike in sorodne tehnologije (20),

— ob upoštevanju svoje resolucije z dne 20. januarja 2021 o umetni inteligenci: tolmačenje in uporaba mednarodnega prava v primerih, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja (21),

— ob upoštevanju svoje resolucije z dne 20. maja 2021 o oblikovanju digitalne prihodnosti Evrope: odprava ovir za delovanje enotnega digitalnega trga in izboljšana uporaba umetne inteligence za evropske potrošnike (22),

— ob upoštevanju svoje resolucije z dne 25. marca 2021 o evropski strategiji za podatke (23),

— ob upoštevanju svoje resolucije z dne 19. maja 2021 o umetni inteligenci v izobraževanju, kulturi in avdiovizualnem sektorju (24),

— ob upoštevanju svoje resolucije z dne 6. oktobra 2021 o umetni inteligenci v kazenskem pravu in njeni uporabi v policiji in pravosodnih organih na področju kazenskih zadev (25),

— ob upoštevanju študije svojega generalnega direktorata za notranjo politiko (GD IPOL) iz junija 2021 z naslovom Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool (Diplomacija umetne inteligence – upravljanje umetne inteligence kot novo orodje za zunanjo politiko Evropske unije),

— ob upoštevanju študije GD IPOL iz maja 2021 z naslovom Challenges and limits of an open source approach to Artificial Intelligence (Izzivi in omejitve, povezani z odprtokodnim pristopom k umetni inteligenci),

— ob upoštevanju študije GD IPOL iz maja 2021 z naslovom Artificial Intelligence market and capital flows – AI and the financial sector at crossroads (Trg umetne inteligence in kapitalski tokovi – umetna inteligenca in finančni sektor na razpotju),

— ob upoštevanju študije GD IPOL iz junija 2021 z naslovom Improving working conditions using Artificial Intelligence (Izboljšanje delovnih pogojev z uporabo umetne inteligence),

— ob upoštevanju študije GD IPOL iz maja 2021 z naslovom The role of Artificial Intelligence in the European Green Deal (Vloga umetne inteligence v evropskem zelenem dogovoru),

— ob upoštevanju študije GD IPOL iz julija 2021 z naslovom Artificial Intelligence in smart cities and urban mobility (Umetna inteligenca v pametnih mestih in mobilnost v mestih),

— ob upoštevanju študije GD IPOL iz julija 2021 z naslovom Artificial Intelligence and public services (Umetna inteligenca in javne storitve),

— ob upoštevanju študije GD IPOL iz julija 2021 z naslovom European Union data challenge (Podatkovni izziv Evropske unije),

— ob upoštevanju študije GD IPOL iz junija 2020 z naslovom Opportunities of Artificial Intelligence (Priložnosti, ki jih ponuja umetna inteligenca),

— ob upoštevanju študije GD IPOL iz oktobra 2021 z naslovom Europe’s Digital Decade and Autonomy (Evropsko digitalno desetletje in neodvisnost),

— ob upoštevanju študije GD IPOL iz januarja 2022 z naslovom Identification and assessment of existing and draft EU legislation in the digital field (Opredeljevanje in ocenjevanje veljavne in predlagane zakonodaje EU za digitalno področje),

— ob upoštevanju študije službe Evropskega parlamenta za raziskave (EPRS) iz septembra 2020 z naslovom Civil liability regime for artificial intelligence – European added value assessment (Ureditev civilne odgovornosti za področje umetne inteligence – ocena evropske dodane vrednosti),

— ob upoštevanju študije oddelka za znanstvene napovedi EPRS iz decembra 2020 z naslovom Data subjects, digital surveillance, AI and the future of work (Posamezniki, na katere se nanašajo osebni podatki, digitalni nadzor, umetna inteligenca in prihodnost dela),

— ob upoštevanju študije EPRS iz septembra 2020 z naslovom European framework on ethical aspects of artificial intelligence, robotics and related technologies (Evropski okvir za etične vidike umetne inteligence, robotike in sorodne tehnologije),

— ob upoštevanju študije EPRS iz marca 2020 z naslovom The ethics of artificial intelligence: Issues and initiatives (Etika umetne inteligence – vprašanja in pobude),

— ob upoštevanju študije EPRS iz junija 2020 z naslovom Artificial Intelligence: How does it work, why does it matter, and what can we do about it? (Umetna inteligenca: kako deluje, zakaj je pomembna in kaj lahko storimo glede nje?),

— ob upoštevanju študije EPRS iz julija 2020 z naslovom Artificial Intelligence and Law enforcement – Impact on Fundamental Rights (Umetna inteligenca ter preprečevanje, odkrivanje in preiskovanje kaznivih dejanj – vpliv na temeljne pravice),

— ob upoštevanju študije EPRS iz junija 2020 z naslovom The impact of the General Data Protection Regulation (GDPR) on artificial intelligence (Vpliv splošne uredbe o varstvu podatkov na umetno inteligenco),

— ob upoštevanju študije EPRS iz aprila 2020 z naslovom The White Paper on Artificial Intelligence (Bela knjiga o umetni inteligenci),

— ob upoštevanju študije EPRS iz septembra 2021 z naslovom Regulating facial recognition in the EU (Zakonsko urejanje prepoznavanja obrazov v EU),

— ob upoštevanju študije EPRS iz februarja 2021 z naslovom The future of work: Trends, challenges and potential initiatives (Prihodnost dela: trendi, izzivi in možne pobude),

— ob upoštevanju študije EPRS iz junija 2021 z naslovom Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection? (Robotski svetovalci – Kako ustrezajo obstoječemu regulativnemu okviru EU, zlasti v zvezi z zaščito vlagateljev?),

— ob upoštevanju študije EPRS iz septembra 2021 z naslovom China’s ambitions in artificial intelligence (Ambicije Kitajske na področju umetne inteligence),

— ob upoštevanju študije EPRS iz junija 2021 z naslovom What if we chose new metaphors for artificial intelligence? (Kaj če bi za umetno inteligenco izbrali nove metafore?),

— ob upoštevanju študije EPRS iz januarja 2018 z naslovom Understanding artificial intelligence (Razumevanje umetne inteligence),

— ob upoštevanju študije EPRS iz julija 2021 z naslovom Tackling deepfakes in European policy (Boj proti globokim ponaredkom v evropski politiki),

— ob upoštevanju delovnega dokumenta posebnega odbora za umetno inteligenco v digitalni dobi (AIDA) iz februarja 2021 z naslovom Artificial Intelligence and Health (Umetna inteligenca in zdravje),

— ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz marca 2021 z naslovom Artificial Intelligence and the Green Deal (Umetna inteligenca in zeleni dogovor),

— ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz marca 2021 z naslovom The External Policy Dimensions of AI (Zunanjepolitična razsežnost umetne inteligence),

— ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz maja 2021 z naslovom AI and Competitiveness (Umetna inteligenca in konkurenčnost),

— ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz junija 2021 z naslovom AI and the Future of Democracy (Umetna inteligenca in prihodnost demokracije),

— ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz junija 2021 z naslovom AI and the Labour Market (Umetna inteligenca in trg dela),

— ob upoštevanju člena 54 Poslovnika,

— ob upoštevanju poročila posebnega odbora AIDA (A9-0088/2022),

1. Uvod

1. opozarja, da je svet na pragu četrte industrijske revolucije; poudarja, da za razliko od svojih treh prejšnjih valov, ki jih je povzročila uvedba parnega stroja, elektrike in nato računalnikov, četrti val črpa svojo energijo iz velike količine podatkov v kombinaciji z zmogljivimi algoritmi in računalniško močjo; poudarja, da sedanjo digitalno revolucijo zaznamuje njen svetovni obseg, hitro zbliževanje in ogromen vpliv, ki ga imajo preboji na področju tehnologij v vzponu na države, gospodarstva, družbe, mednarodne odnose in okolje; priznava, da radikalne spremembe te razsežnosti različno vplivajo na različne dele družbe, odvisno od njihovih ciljev, geografske lege ali socialno-ekonomskega okvira; poudarja, da je treba digitalni prehod oblikovati ob polnem spoštovanju temeljnih pravic in tako, da digitalne tehnologije služijo človeštvu;

2. ugotavlja, da je digitalna revolucija hkrati spodbudila svetovno konkurenco zaradi izjemne gospodarske vrednosti in tehnoloških zmogljivosti, ki so se nabrale v gospodarstvih, ki največ sredstev namenjajo raziskavam, razvoju in trženju aplikacij umetne inteligence; ugotavlja, da sta digitalna konkurenčnost in odprta strateška avtonomija postala osrednja politična cilja v več državah; poudarja, da se odločevalci vse bolj zavedajo, da bi lahko nove tehnologije vplivale na geopolitični status moči celotnih držav;

3. poudarja, da Evropa, ki je stoletja postavljala mednarodne standarde, imela glavno vlogo pri tehnološkem napredku in bila prva v proizvodnji in uporabi vrhunskih proizvodov, zaostaja, saj razvija in vlaga v digitalni trg veliko manj kot vodilna gospodarstva, kot so ZDA ali Kitajska, medtem ko ostaja relativno konkurenčna glede rezultatov raziskav umetne inteligence; se zaveda tveganja, da bodo evropski akterji zaostali pri oblikovanju svetovnih standardov ter razvoju tehnologij in evropskih vrednot;

4. poudarja, prvič, da digitalna orodja vse bolj postajajo instrument manipulacij in zlorab v rokah nekaterih gospodarskih subjektov in v rokah avtokratskih vlad, da bi oslabili demokratične politične sisteme, kar lahko vodi v konflikt med političnimi sistemi; pojasnjuje, da digitalno vohunjenje, bojevanje nizke intenzivnosti in kampanje dezinformacij ogrožajo demokratične družbe;

5. poudarja, da narava digitalnih poslovnih modelov omogoča visoko stopnjo nadgradljivosti in mrežnih učinkov; poudarja, da je za številne digitalne trge značilna visoka stopnja tržne koncentracije, kar majhnemu številu tehnoloških platform, od katerih ima večina sedež v ZDA, omogoča, da vodijo komercializacijo prelomnih tehnoloških inovacij, privabijo najboljše zamisli, talente in podjetja ter dosežejo izjemno donosnost; opozarja, da se bo prevladujoči tržni položaj v podatkovnem gospodarstvu verjetno razširil na nastajajoče gospodarstvo umetne inteligence; poudarja, da ima sedež v EU le osem od trenutno najboljših 200 digitalnih podjetij; poudarja, da je v zvezi s tem izjemno pomembna vzpostavitev pravega enotnega digitalnega trga;

6. poudarja, da je zaradi tega globalno tekmovanje za vodilno vlogo v tehnologiji postala prednostna naloga v EU; poudarja, da mora EU ukrepati hitro in pogumno, saj bo morala sicer upoštevati pravila in standarde, ki jih postavijo drugi, in tvegala negativni vpliv na svojo politično stabilnost, socialno varnost, temeljne pravice, individualne svoboščine in gospodarsko konkurenčnost;

7. trdi, da je v četrtem valu industrijske revolucije umetna inteligenca ena od ključnih tehnologij v vzponu; ugotavlja, da je umetna inteligenca gonilna sila v digitalnem gospodarstvu, saj omogoča uvedbo inovativnih proizvodov in storitev, večjo izbiro potrošnikov in večjo učinkovitost proizvodnih procesov; ugotavlja, da naj bi prispevek umetne inteligence k svetovnemu gospodarstvu do leta 2030 presegel 11 bilijonov EUR; hkrati poudarja, da se zaradi tehnologij umetne inteligence lahko zmanjša vloga človeka; poudarja, da bi morala umetna inteligenca ostati zaupanja vredna tehnologija, osredotočena na človeka, in ne bi smela nadomestiti človekove avtonomije ali pomeniti izgubo osebne svobode; poudarja, da je treba zagotoviti, da bo četrta industrijska revolucija vključujoča in da nihče ne bo zapostavljen;

8. meni, da poteka svetovno tekmovanje za vodilno vlogo na področju umetne inteligence; poudarja, da tehnologije umetne inteligence obljubljajo ustvarjanje ogromne gospodarske vrednosti za gospodarstva, ki jih donosno razvijajo, proizvajajo in uvajajo, pa tudi za države, kjer se ustvarja ta vrednost; poudarja, da umetna inteligenca ni vsemogočna tehnologija, temveč učinkovit sklop orodij in tehnik, ki jih je mogoče uporabiti v korist družbe; pojasnjuje, da je način delovanja tehnologij odvisen od tega, kako jih oblikujemo; poudarja, da je EU izrazila namero, da bo uvedla regulativni okvir za umetno inteligenco; kljub temu poudarja, da je za EU bistveno, da lahko opredeli regulativni pristop, vključno z varstvom temeljnih pravic in svoboščin, in da deluje kot svetovna določevalka standardov; zato poudarja pomen evropske konkurenčnosti na področju umetne inteligence in zmožnost EU, da oblikuje regulativno okolje na mednarodni ravni; poudarja, da lahko nekatere vrste uporabe umetne inteligence pomenijo individualna in družbena tveganja, ki lahko ogrozijo temeljne pravice, zato bi jih morali obravnavati politični odločevalci, da bi umetna inteligenca resnično postala orodje, ki služi ljudem in družbi ter skupnemu dobremu in sledi javnemu interesu;

9. ugotavlja, da so za uspeh evropskih akterjev v digitalni dobi in prevzem vodilnega tehnološkega položaja na področju umetne inteligence potrebni jasen regulativni okvir, politična zavezanost in bolj napredno razmišljanje, ki jih trenutno pogosto primanjkuje; ugotavlja, da lahko na podlagi takega pristopa umetna inteligenca koristi tako državljanom kot podjetjem EU in da ta prinaša veliko priložnost za spodbujanje konkurenčnosti, tudi v smislu blaginje in dobrega počutja; poudarja, da je treba regulativne okvire oblikovati tako, da ne bodo ustvarjale neupravičenih ovir za uspešno delovanje evropskih akterjev v digitalni dobi, zlasti za zagonska podjetja ter mala in srednja podjetja; poudarja, da bi bilo treba znatno povečati zasebne in javne naložbe, da se ustvari okolje, v katerem bi se na naši celini pojavilo in razvijalo več evropskih zgodb o uspehu;

10. poudarja, da je hiter tehnološki napredek, ki ga prinaša umetna inteligenca, vse bolj neločljivo povezan z večino področij človekove dejavnosti in bo vplival tudi na preživetje vseh, ki nimajo potrebnih znanj in spretnosti, da bi se dovolj hitro prilagodili tem novim tehnologijam; poudarja, da doseganje digitalne pismenosti z izpopolnjevanjem in preusposabljanjem sicer lahko pomaga reševati številna socialno-ekonomska vprašanja, ki iz tega izhajajo, vendar bi bilo treba te učinke obravnavati tudi v okviru sistemov socialne varnosti, mestne in podeželske infrastrukture ter demokratičnih procesov;

11. poudarja, da je treba pri digitalnem prehodu upoštevati cilje in interese žensk in ranljivih skupin; v zvezi s tem poudarja, da je bilo leta 2018 med strokovnjaki na področju umetne inteligence le 22 % žensk, kar je težava, ki le ohranja in utrjuje stereotipe in predsodke; priznava, da je treba pri uporabi tehnologij umetne inteligence ohraniti pravice do enakosti pred zakonom, zasebnosti, svobode izražanja ter sodelovanja v kulturnem in političnem življenju, zlasti za manjšinske skupnosti;

2. Potencialne priložnosti, tveganja in ovire pri uporabi umetne inteligence: šest študij primerov, ki jih je preučil posebni odbor AIDA

12. opozarja, da umetna inteligenca temelji na programski opremi, ki uporablja verjetnostne modele in algoritemsko napovedovanje za niz specifičnih ciljev; poudarja, da je izraz „umetna inteligenca“ krovni izraz, ki zajema širok spekter starih in novih tehnologij, tehnik in pristopov, imenovanih tudi „sistemi umetne inteligence“, kar pomeni vse sisteme, ki temeljijo na strojih in imajo pogosto skupno samo to, da jih vodi določen sklop ciljev, ki jih opredeli človek, z različno stopnjo avtonomije pri svojem delovanju in da lahko na podlagi razpoložljivih podatkov dajejo napovedi, priporočila ali odločitve; ugotavlja, da so nekatere od teh tehnologij že zelo razširjene, medtem ko se druge še razvijajo ali pa so celo le hipotetični koncepti, ki se bodo morda uresničili v prihodnosti ali pa sploh ne;

13. poudarja, da je med simbolično umetno inteligenco, ki je bila od 50. do 90. let 20. stoletja glavni pristop k umetni inteligenci, in umetno inteligenco, ki temelji na strojnem učenju in podatkih ter prevladuje od leta 2000 naprej, velika razlika; pojasnjuje, da se je v prvem valu umetna inteligenca razvijala s prevajanjem znanja in izkušenj strokovnjakov v nabor pravil, ki jih je nato izvajal stroj;

14. ugotavlja, da so zaradi avtomatiziranih procesov učenja algoritmov, temelječih na obdelavi velikih količin podatkov, sposobnosti združevanja vhodnih podatkov z več različnih virov in oblikovanja kompleksnih predstavitev okolja ter prepoznavanja vzorcev sistemi umetne inteligence v drugem valu postali bolj zapleteni, avtonomni in nepregledni, kar lahko vodi do težje razložljivih rezultatov; poudarja, da je zato sedanjo umetno inteligenco mogoče razdeliti na veliko različnih podvrst in tehnik; globoko učenje je na primer podpodročje strojnega učenja, ki je tudi samo podpodročje umetne inteligence;

15. ugotavlja, da lahko sedanja umetna inteligenca kljub veliko večji učinkovitosti in zmogljivosti v primerjavi s simbolično umetno inteligenco zaradi znatnega povečanja računalniških zmogljivosti še vedno rešuje le jasno določene naloge, povezane z ozkimi deli posameznih področij, kot sta šah ali prepoznavanje obrazov, in njeno programiranje ni namenjeno popolnemu prepoznavanju dejanj, ki jih izvaja sistem umetne inteligence; poudarja, da sistemi umetne inteligence – v nasprotju s tem, kar pove njihovo ime – nimajo „inteligence“ v človeškem pomenu; poudarja, da se zato imenuje „omejena“ oziroma „šibka“ umetna inteligenca in je še vedno le orodje za priporočanje in predvidevanje; ugotavlja, da na primer avtomobili brez voznika delujejo na podlagi kombinacije različnih sistemov umetne inteligence za posamezne naloge, ki lahko skupaj zagotavljajo tridimenzionalno sliko okolja, v katerem je vozilo, in s tem njegovemu sistemu upravljanja omogočajo sprejemanje odločitev;

16. izpostavlja, da veliko strahov pred umetno inteligenco temelji na hipotetičnih konceptih, kot so splošna umetna inteligenca, umetna superinteligenca in singularnost, ki bi v teoriji lahko privedli k strojni inteligenci, ki bi bila na številnih področjih močnejša od ljudi; poudarja, da obstajajo pomisleki o tem, ali je to hipotetično umetno inteligenco v okviru naših tehnologij in naravnih zakonov sploh mogoče doseči; kljub temu meni, da morajo zakonodajalci obravnavati tveganja, ki jih trenutno predstavlja sprejemanje odločitev na podlagi umetne inteligence, saj je dokazano jasno, da je škodljive učinke, kot sta rasna in spolna diskriminacija, že mogoče pripisati določenim primerom, v katerih je bila umetna inteligenca uvedena brez zaščitnih ukrepov;

17. poudarja, da ima večina sistemov umetne inteligence, ki se trenutno uporabljajo, nizko tveganja; pri tem se na primer sklicuje na samodejno prevajanje, t. i. stroje Eureka, stroje za igranje iger in robote, ki izvajajo ponavljajoče se proizvodne procese; ugotavlja, da je nekatere primere uporabe mogoče opredeliti kot tvegane in da so za takšne primere potrebni regulativni ukrepi in učinkoviti zaščitni ukrepi, če ti še niso vzpostavljeni;

18. spodbuja javno razpravo o tem, kako raziskati ogromen potencial umetne inteligence, ki je osnovan na temeljnih evropskih vrednotah, načelih preglednosti, razložljivosti, pravičnosti, odgovornosti in verodostojnosti ter načelu, da bi morala biti umetna inteligenca in robotika osredotočena na človeka in ju je treba razvijati tako, da bosta dopolnjevali človekove dejavnosti; poudarja, da lahko umetna inteligenca zagotavlja koristi kot orodje za uporabnike in strokovnjake na številnih področjih človeškega življenja, od trajnostnosti do zdravstvenega varstva, ne da bi pri tem ogrozila zmožnost ljudi, da delujejo in svobodno odločajo; poudarja, da bi bilo treba dogovorjena etična načela in zahteve za umetno inteligenco operacionalizirati na vseh področjih uporabe umetne inteligence, in sicer s potrebnimi zaščitnimi ukrepi, ki bodo povečali zaupanje državljanov in jim omogočili, da sprejmejo prednosti umetne inteligence;

19. poudarja, da se lahko stopnja tveganja posamezne aplikacije umetne inteligence znatno razlikuje glede na verjetnost in resnost škode; zato poudarja, da bi bilo treba pravne zahteve ustrezno prilagoditi v skladu s pristopom, ki temelji na tveganju, in ustrezno upoštevati previdnostno načelo, kadar je to upravičeno; poudarja, da so v takih trenutnih ali prihodnjih primerih, ko sistemi umetne inteligence v določenem primeru uporabe predstavljajo veliko tveganje za temeljne in človekove pravice, potrebni popoln človeški nadzor in regulativni ukrepi ter da morajo glede na hitrost tehnološkega razvoja regulativni sistemi umetne inteligence z visokim tveganjem biti prilagodljiv in usmerjeni v prihodnost;

20. ponazarja, da je v tem poročilu poglobljeno obravnavanih šest študij primerov na področju umetne inteligence in so navedene priložnosti, ki jih ponuja umetna inteligenca na vsakem od področij, tveganja, ki zahtevajo razmislek, in ovire, ki Evropi preprečujejo, da bi popolnoma izkoristili prednosti umetne inteligence; poudarja, da omenjene študije primerov predstavljajo nekatere najpomembnejše vrste trenutne uporabe umetne inteligence in hkrati zadevajo nekatere glavne teme z javnih predstavitev, ki jih je v svojem mandatu organiziral posebni odbor AIDA, tj. zdravje, zeleni dogovor, zunanjo politiko in varnost, konkurenčnost, prihodnost demokracije ter trg dela;

a) Umetna inteligenca in zdravje

21. meni, da lahko metodološka analiza velikih količin podatkov, tudi s pomočjo umetne inteligence, omogoči nove rešitve ali izboljša obstoječe tehnike v zdravstvenem sektorju, ki bi lahko močno pospešile znanstvene raziskave, rešile človeška življenja in izboljšale oskrbo pacientov z inovativnim zdravljenjem in boljšim diagnosticiranjem ter omogočanjem spodbudnega okolja za zdrav način življenja; poudarja, da lahko sistemi umetne inteligence prispevajo tudi k dostopnosti, odpornosti in vzdržnosti zdravstvenih sistemov, hkrati pa zagotavljajo konkurenčno prednost evropskemu sektorju IKT in zdravstvenemu sektorju, če se tveganja, povezana z njima, ustrezno obvladujejo;

22. poudarja, da bi morala uporaba umetne inteligence v zdravstvenem sektorju temeljiti na strogih etičnih zahtevah, kot so pravičen dostop do zdravstvenega varstva, zasebnost, odgovornost, preglednost, razložljivost, zanesljivost, vključenost in reprezentativnost naborov podatkov ter stalni človeški nadzor; poudarja, da bi bilo treba pri načrtovanju sistemov, ki temeljijo na umetni inteligenci, upoštevati tveganje neustrezne dodelitve sredstev posameznikom na podlagi napačne ali pristranske kategorizacije, prednostnega razvrščanja ali nedelujoče tehnologije, kar bi privedlo do napačne diagnoze, slabega zdravljenja ali pa sploh do odsotnosti zdravljenja; meni, da bi morali najvišji etični standardi veljati za vse aplikacije zdravstvenega varstva in da bi bilo treba etična pravila določiti v zelo zgodnji fazi njihovega razvoja in zasnove, tj. načelo vgrajene etike; poudarja, da lahko avtomatizirano sprejemanje odločitev na področju zdravstvenih aplikacij pomeni tveganje za dobro počutje pacientov in temeljne pravice, ter poudarja, da mora imeti umetna inteligenca podporno vlogo v zdravstvenem varstvu, kjer bi bilo treba vedno ohraniti strokovni človeški nadzor; poziva, da umetna inteligenca pri medicinskih diagnozah v javnih zdravstvenih sistemih vzdržuje odnos med pacientom in zdravnikom in da je vedno v skladu s Hipokratovo prisego; vendar ugotavlja, da umetna inteligenca izboljšuje natančnost presejalnih pregledov in že v več primerih prekaša zdravniške diagnoze; meni, da obstoječi okviri odgovornosti ne zagotavljajo zadostne pravne varnosti in ne zagotavljajo pravice pacientov do odškodnine v primeru napačne diagnoze in nepravilnega zdravljenja z umetno inteligenco; v zvezi s tem pozdravlja prihodnji zakonodajni predlog o odgovornosti na področju umetne inteligence; ugotavlja, da je pomembno zaščititi zdravstvene delavce kot uporabnike sistemov umetne inteligence in paciente kot končne prejemnike ter jim zagotoviti zadostne in pregledne informacije;

23. poudarja, da se rešitve, ki temeljijo na umetni inteligenci, že uporabljajo ali preizkušajo v kliničnih okoljih, da bi podprli diagnosticiranje, prognozo, zdravljenje in vključevanje pacientov, s čimer bi pospešili in izboljšali zdravljenje ter zmanjšali nepotrebne posege; poleg tega ugotavlja, da lahko umetna inteligenca izboljša personalizirano medicino in oskrbo pacientov; ugotavlja, da se umetna inteligenca trenutno uporablja na številnih zdravstvenih področjih, vključno z javnim zdravjem, storitvami oskrbe, samooskrbo in zdravstvenimi sistemi; ugotavlja, da podatki igrajo pomembno vlogo; ugotavlja, da obstajajo obetavne aplikacije za umetno inteligenco pri pridobivanju informacij iz slik in drugih medicinskih naprav kot vhodnih podatkov za kasnejšo analizo, in ugotavlja, da se pričakuje, da bodo algoritmi globokega učenja prinesli tudi kvantitativni preskok pri številnih kliničnih nalogah;

24. poudarja, da je mogoče tehnologije umetne inteligence uporabiti za raziskave, razvoj in množično proizvodnjo zdravil ter pospešiti razvoj novih zdravil, zdravljenj in cepiv z nižjimi stroški; ugotavlja, da lahko umetna inteligenca pomaga napovedati izid odzivov na zdravljenje in omogoči zdravnikom, da prilagodijo terapevtske strategije posameznim genetskim ali fiziološkim značilnostim z vse večjo stopnjo natančnosti, če temeljijo na visokokakovostnih podatkih in zanesljivih predpostavkah, s čimer se poveča učinkovitost preventivnega zdravljenja, pod pogojem, da so izpolnjene vse etične zahteve glede strokovnega nadzora nad kliničnim preverjanjem umetne inteligence, zasebnosti, varstva podatkov in informirane privolitve; ugotavlja, da je mogoče velepodatke na področju zdravja analizirati s pomočjo umetne inteligence, da bi pospešili njihovo obdelavo; poudarja, da je pomembno zagotoviti, da je visokozmogljivostno računalništvo interoperabilno z umetno inteligenco, saj so glavni gospodarski sektorji, vključno s proizvodnjo, zdravstvenim varstvom in farmacevtsko industrijo, odvisni od visokozmogljivostnega računalništva;

25. poudarja, da bi lahko rešitve, ki temeljijo na umetni inteligenci, omogočile prilagajanje zdravljenja in razvoj zdravil posebnim potrebam pacientov ter izboljšale sodelovanje z deležniki in udeleženci v zdravstvenem sistemu; meni, da umetna inteligenca in dostop do ustreznih, posodobljenih in visokokakovostnih anonimiziranih in reprezentativnih naborov podatkov v skladu s pravili EU o varstvu osebnih podatkov pomaga zdravstvenim delavcem pri zagotavljanju boljše oskrbe pacientov ter bolj individualiziranih povratnih informacij, smernic in podpore, s čimer se spodbuja varnost pacientov in povečuje učinkovitost zdravljenja; poudarja, da je to lahko še posebej koristno pri izbiri in ocenjevanju vse večjega obsega znanstvenih dognanj za pridobivanje ustreznih vpogledov za zdravstvene delavce; poudarja, da bi morali imeti državljani iz vseh držav članic možnost, da svoje zdravstvene podatke posredujejo izvajalcem zdravstvenega varstva in organom po lastni izbiri; v zvezi s tem poudarja, da je treba ustvariti spodbude za izpopolnjevanje, prekvalificiranje in usposabljanje delavcev v zdravstvenih poklicih;

26. meni, da je boj proti COVID-19 pospešil raziskave in uvajanje novih tehnologij, zlasti aplikacij umetne inteligence, v prizadevanjih za boljše odkrivanje primerov, klinično oskrbo in raziskave terapevtikov, ter izpostavil koristnost umetne inteligence ter pomen financiranja in visokokakovostnih podatkov za učinkovito spremljanje in modeliranje širjenja izbruhov nalezljivih bolezni v skladu z zakonodajo o varstvu podatkov; vendar ugotavlja, da so izkušnje z uporabo umetne inteligence med pandemijo COVID-19 razkrile nekatere omejitve pri uporabi umetne inteligence v medicinski diagnostiki ( 26 )

27. poudarja potencial sistemov umetne inteligence za razbremenitev zdravstvenih sistemov in zlasti zdravstvenih delavcev ter kot prispevek k rešitvam za zagotavljanje oskrbe za hitro starajoče se prebivalstvo v Evropi in po svetu ter za njegovo zaščito pred nevarnimi boleznimi;

28. poudarja, da lahko uporaba varnih in učinkovitih aplikacij umetne inteligence za upravne naloge, ki ne zahtevajo človeške dejavnosti, zdravstvenim delavcem prihrani veliko časa, ki ga lahko namesto tega namenijo stikom s pacienti;

29. poudarja, da lahko aplikacije za zdravje potrošnikov, ki temeljijo na umetni inteligenci, pomagajo spremljati zdravstveno stanje posameznika prek vsakodnevnih naprav, kot so pametni telefoni, kar uporabnikom omogoča prostovoljno zagotavljanje podatkov, ki so lahko podlaga za zgodnje opozarjanje v zvezi z življenjsko nevarnimi boleznimi, kot so možganska kap ali zastoj srca; poudarja, da lahko aplikacije v zdravstvu, ki temeljijo na umetni inteligenci, tudi spodbujajo zdravo vedenje in krepijo odgovorno skrb za lastno zdravje, tako da pacientom nudijo dodatna sredstva za spremljanje lastnega zdravja in življenjskega sloga ter izboljšajo natančnost medicinskih preiskav s strani zdravstvenih delavcev; vendar opozarja na posebno občutljivost osebnih zdravstvenih podatkov in v zvezi s tem na tveganje kršitev ali zlorab podatkov ter poudarja, da morajo za vsako zdravstveno aplikacijo veljati visoki standardi kibernetske varnosti;

30. poudarja, da je umetna inteligenca v zdravstvenem sektorju še posebej odvisna od velike količine osebnih podatkov ter njihove izmenjave, visoke kakovosti podatkov, njihove dostopnosti in interoperabilnosti, da bi sprostila ves potencial umetne inteligence in zdravja; poudarja, da je treba olajšati povezovanje elektronskih zdravstvenih zapisov s sistemi za e-predpisovanje zdravil, tako da lahko zdravstveni delavci, ki sodelujejo pri oskrbi bolnikov, dostopajo do potrebnih informacij o pacientu, če ta s tem soglaša;

31. pozdravlja vzpostavitev evropskega zdravstvenega podatkovnega prostora za zbiranje zelo kakovostnih podatkov za uporabo v zdravstvenem sektorju; meni, da bi medsebojno povezovanje in interoperabilnost infrastrukture visokozmogljivostnega računalništva z evropskim zdravstvenim podatkovnim prostorom zagotovila razpoložljivost obsežnih, visokokakovostnih naborov zdravstvenih podatkov, ki so pomembni za raziskave in zdravljenje stanj, zlasti redkih bolezni in boleznih pri otrocih;

32. poudarja, da je treba vzpostaviti zaupanje s spodbujanjem interoperabilnosti in večjega sodelovanja med različnimi zdravstvenimi delavci, ki oskrbujejo iste paciente; poudarja, da je treba zdravstvenim delavcem ponuditi usposabljanje o tehnikah in pristopih umetne inteligence; poudarja, da se je treba boriti proti nezaupanju, na primer z izkoriščanjem celotnega potenciala anonimizacije in psevdonimizacije podatkov, ter bolje obveščati državljane, zdravstvene delavce in nosilce odločanja o uporabi, koristih in tveganjih umetne inteligence na področju zdravja, pa tudi razvijalce umetne inteligence o izzivih in tveganjih obdelave občutljivih podatkov na tem področju;

33. poleg tega meni, da so za spodbujanje ekosistema zaupanja med državljani in ustrezno zaščito zdravstvenih podatkov pred morebitnimi zlorabami in nezakonitim dostopom potrebni zavezujoči in visoki etični in pravni standardi ter izvršljiva pravna sredstva; se strinja s Komisijo, da bi morali državljani imeti varen dostop do celovitega elektronskega zdravstvenega zapisa o njihovem zdravju in bi morali ohraniti nadzor nad osebnimi podatki o svojem zdravju in možnost posredovanja teh podatkov pooblaščenim tretjim osebam, hkrati pa zagotoviti učinkovito varstvo osebnih podatkov in močno kibernetsko varnost; poudarja, da bi bilo treba prepovedati nepooblaščen dostop in razširjanje ter da je treba zagotoviti varstvo osebnih podatkov pacientov v skladu z zakonodajo o varstvu podatkov;

34. v zvezi s tem poudarja tveganje pristranskih odločitev, ki vodijo v diskriminacijo in kršitve človekovih pravic; zato poudarja, da je treba nepristransko preverjati uporabljene algoritme in nabore podatkov ter spodbujati nadaljnje raziskave metod in pristranskosti v usposobljenih sistemih umetne inteligence, da bi se izognili neetičnim in diskriminatornim sklepom na področju podatkov o zdravju ljudi;

35. poudarja, da je za premagovanje izzivov, kot sta pravna negotovost in pomanjkanje sodelovanja v zdravstvenem sektorju, potrebna učinkovita in enotna uporaba splošne uredbe o varstvu podatkov po vsej EU; poudarja, da takšni izzivi v nekaterih primerih vodijo do zamud pri znanstvenih odkritjih in birokracije pri zdravstvenih raziskavah; poudarja, da bi lahko z vzpostavitvijo evropskega zdravstvenega podatkovnega prostora, ki bi zagotavljal pravice pacientov in prenosljivost podatkov, okrepili sodelovanje in spodbudili izmenjavo podatkov za raziskave in inovacije v evropskem zdravstvenem sektorju;

36. ugotavlja, da lahko umetna inteligenca prispeva k hitremu napredku novih tehnologij, kot je slikanje možganov, ki se že veliko uporabljajo v medicini, hkrati pa predstavljajo veliko tveganje za človekov vpliv in uveljavljanje temeljnih pravic, ne da bi bilo potrebno soglasje; je zaskrbljen zaradi pomanjkanja zakonodaje o nevroloških podatkih in meni, da bi si morala EU prizadevati postati vodilna v svetu pri razvoju varnih nevroloških tehnologij;

b) Umetna inteligenca in zeleni dogovor

37. poudarja, da sta ključni prednostni področji Komisije v prihodnjih letih Evropa, pripravljena na digitalno dobo, in zeleni dogovor; poudarja, da je treba poskrbeti, da bo digitalni prehod prispeval k doseganju trajnostnega razvoja in spodbujal zeleni prehod; meni, da je treba za to pospešiti razvoj inovacij, združljivih s podnebnimi cilji in okoljskimi standardi EU; poudarja, da lahko aplikacije umetne inteligence prinesejo okoljske in gospodarske koristi ter povečajo zmogljivosti predvidevanja, ki prispevajo k boju proti podnebnim spremembam, doseganju ciljev evropskega zelenega dogovora in uresničitvi cilja, da Evropa do leta 2050 postane prva podnebno nevtralna celina; meni, da bi lahko z uporabo umetne inteligence do leta 2030 zmanjšali emisije toplogrednih plinov na svetovni ravni za do 4 % ( 27 ) ; meni, da bi lahko po nekaterih ocenah tehnologije IKT zmanjšale emisije toplogrednih plinov v obsegu, ki je desetkrat večji kot njihov lastni odtis, ( 28 ) vendar priznava, da so za to potrebne preudarne odločitve o zasnovi in regulativni ukrepi; hkrati opozarja, da ima lahko vse večja poraba energije pri shranjevanju velikih naborov podatkov, potrebnih za usposabljanje sistemov umetne inteligence, tudi negativen učinek; opozarja, da podatkovni promet in infrastruktura IKT danes porabita približno 7 % svetovne električne energije, ta delež pa naj bi se brez ustreznih zaščitnih ukrepov do leta 2030 povečal na 13 %; dodaja, da lahko k temu negativnemu učinku prispeva tudi intenzivna uporaba surovin za izdelavo mikroprocesorjev in visokotehnoloških naprav, ki uporabljajo umetno inteligenco; poudarja, da je treba za to, da bo pozitiven odtis umetne inteligence velik, hkrati pa njen okoljski in podnebni odtis majhen, obravnavati te neposredne in posredne negativne vplive na okolje, sistemi umetne inteligence pa morajo biti zasnovani tako, da spodbujajo trajnostno porabo, omejujejo uporabo virov in porabo energije, preprečujejo nepotrebne postopke predelave in preprečujejo škodo za okolje; poudarja, da za obravnavanje vpliva sektorja IKT na okolje potrebujemo ustrezne informacije in podatke;

38. je zaskrbljen, ker je samo šest držav članic v prizadevanjih za doseganje ciljev zelenega dogovora v središče postavilo uporabo aplikacij umetne inteligence; meni, da lahko umetno inteligenco uporabljamo za zbiranje in organizacijo podatkov, pomembnih za okoljsko načrtovanje, odločanje in upravljanje ter spremljanje napredka okoljskih politik, na primer za čistejši zrak, kjer lahko aplikacije umetne inteligence spremljajo onesnaževanje in opozarjajo na nevarnosti; poudarja, da bi se lahko tovrstne rešitve na podlagi umetne inteligence in digitalne tehnologije uporabljale v več sektorjih, da bi razširili z viri gospodarne rešitve;

39. poudarja, da so sistemi, ki temeljijo na umetni inteligenci, pomembni pri razvoju pametnih mest in vasi, saj se z njimi optimizira raba virov in poveča odpornost infrastrukture, in sicer tudi na podlagi napovedovanja in zmanjševanja prometa, pametnega upravljanja energije, nujne pomoči in odpadkov, kot že lahko opazimo v več mestih in občinah po vsej EU; poudarja, da lahko na umetni inteligenci temelječe rešitve nadalje pripomorejo k načrtovanju arhitekturnih, gradbenih in inženirskih procesov ter zmanjšanju emisij, časa gradnje, stroškov in odpadkov, ki so povezani z njimi;

40. poudarja, da energetski prehod ne bo mogoč brez digitalizacije; poudarja, da lahko sistemi umetne inteligence spremljajo, optimizirajo in zmanjšajo porabo in proizvodnjo energije ter pomagajo pri vključevanju energije iz obnovljivih virov v obstoječa omrežja električne energije; poudarja, da lahko pametni števci, učinkovita razsvetljava, računalništvo v oblaku in porazdeljena programska oprema skupaj s komponento umetne inteligence preoblikujejo vzorce porabe energije in spodbujajo odgovorno uporabo;

41. poudarja, da je zaradi vse bolj zapletenega sistema energetskega prehoda, za katerega so značilne večja proizvodnja iz obnovljivih virov, ki je lahko nezanesljiva, in spremembe pri uravnavanju obremenitev, za zanesljivo oskrbo z energijo potreben vse bolj avtomatiziran nadzor; poudarja, da lahko umetna inteligenca prispeva k zanesljivosti oskrbe, zlasti pri upravljanju, spremljanju, vzdrževanju in nadzoru vodnih, plinskih in električnih omrežij; hkrati opozarja, da bodo z omrežnimi tehnologijami, okrepljenimi z umetno inteligenco, uvedeni milijoni inteligentnih komponent s skupnimi ranljivostmi in da bodo zato energetska omrežja izpostavljena napadu na številnih točkah, kritična infrastruktura pa bo bolj ranljiva, če ne bodo uvedeni ustrezni ukrepi za kibernetsko varnost; meni, da so za pametna omrežja potrebne dodatne naložbe in raziskave;

42. meni, da bi umetna inteligenca in druge digitalne aplikacije za mobilnost in prevoz lahko zmanjšale prometne tokove in izboljšale varnost v cestnem prometu, tudi s povečanjem učinkovitosti prevoznih sistemov; poudarja, da lahko umetna inteligenca prispeva k zasnovi in upravljanju energije energijsko učinkovitih vozil; poudarja, da so se možnosti za storitve prevoza, ki temeljijo na aplikacijah, ter za skupno vožnjo in souporabo avtomobilov znatno povečale in da se umetna inteligenca pri teh storitvah mobilnosti pogosto uporablja za učinkovito načrtovanje poti in izbiro prevzemnih točk;

43. meni, da ima lahko umetna inteligenca preobrazbeno vlogo v kmetijskem sektorju, saj podpira razvoj novih metod pridelovanja, vključno z napovedovanjem pridelka in upravljanjem kmetijskih virov; poudarja, da je kmetijstvo ključni sektor, v katerem lahko umetna inteligenca pripomore k zmanjšanju emisij in uporabe pesticidov, gnojil, kemikalij in vode, tako da se natančno določijo njihove potrebne količine in skrči površina, na kateri se uporabljajo; nadalje poudarja, da lahko umetna inteligenca pomaga obnoviti biotsko raznovrstnost s spremljanjem ogroženih vrst in dejavnosti, ki povzročajo krčenje gozdov; poudarja, da je treba oblikovati smernice za uvajanje in standardizirane metodologije ocenjevanja, da bi podprli „zeleno umetno inteligenco“ na področjih, kot so pametna omrežja, precizno kmetovanje ter pametna in trajnostna mesta ter skupnosti; meni, da lahko umetna inteligenca v obliki preciznega kmetovanja optimizira proizvodnjo hrane na kmetijah in širše gospodarjenje z zemljišči, in sicer z izboljšanjem načrtovanja rabe zemljišč, napovedovanjem sprememb v rabi zemljišč in spremljanjem zdravja poljščin, ima pa tudi potencial, da spremeni potek napovedanih ekstremnih vremenskih pojavov;

44. poudarja, da lahko umetna inteligenca prispeva h krožnemu gospodarstvu, tako da povečuje učinkovitost proizvodnje, potrošnje in recikliranja ter ravnanje, gospodarno z viri, poleg tega pa povečuje preglednost uporabe materialov, na primer v zvezi z etičnim pridobivanjem surovin in zmanjšanjem količine odpadkov; poudarja, da bi lahko umetna inteligenca podjetjem omogočila boljši vpogled v emisije, ki jih proizvajajo, tudi vzdolž vrednostne verige, s čimer bi pripomogla k prilagajanju in doseganju individualnih ciljev zmanjšanja emisij; poudarja, da lahko digitalna orodja podjetjem pomagajo pri izvajanju potrebnih korakov za bolj trajnostno delovanje, kar zlasti velja za mala in srednja podjetja, ki morda za to sicer ne bi imela sredstev;

45. poudarja, da umetne inteligence trenutno ni mogoče uporabljati za celovito merjenje vplivov na okolje; meni, da je potrebnih več študij o vlogi umetne inteligence pri zmanjševanju vplivov na okolje; poudarja, da je za boljše razumevanje te problematike in večji napredek na podlagi rešitev, ki jih ponuja umetna inteligenca, potrebnih več okoljskih podatkov; izpostavlja, da bi se z uporabo umetne inteligence za sistematično povezovanje podatkov o emisijah CO 2 s podatki o vzorcih proizvodnje in potrošnje, dobavnih verigah in logističnih poteh lahko zaznavale dejavnosti, ki imajo pozitiven oziroma negativen vpliv;

c) Zunanja politika in varnostna razsežnost umetne inteligence

46. ponovno poudarja, da si EU prizadeva za svetovni sporazum o skupnih standardih za odgovorno uporabo umetne inteligence, ki je bistvenega pomena; vendar načeloma meni, da lahko podobno misleče demokracije sodelujejo pri skupnem oblikovanju mednarodne razprave o okviru za umetno inteligenco, pri kateri se bodo spoštovale človekove pravice in pravna država, ter pri oblikovanju nekaterih skupnih norm in načel, tehničnih in etičnih standardov ter smernic za odgovorno ravnanje držav, zlasti pod okriljem medvladnih organizacij, kot sta OZN in OECD, ter tako na mednarodni ravni spodbujajo multilateralizem, trajnostni razvoj, interoperabilnost in izmenjavo podatkov; podpira delo odprte delovne skupine OZN za informacijsko in komunikacijsko tehnologijo in mednarodno varnost; poudarja, da so ukrepi za utrjevanje zaupanja bistveni za krepitev dialoga in zaupanja; zato poziva k večji preglednosti pri uporabi umetne inteligence, da bi zagotovili večjo odgovornost;

47. pozdravlja nedavne večstranske pobude za oblikovanje smernic in standardov za etično odgovorno uporabo umetne inteligence, kot so načela OECD o umetni inteligenci, svetovno partnerstvo za umetno inteligenco, priporočilo Unesca o etiki umetne inteligence, svetovni vrh o umetni inteligenci, priporočila Sveta Evrope za morebitni pravni okvir za umetno inteligenco in Unicefove smernice o politiki umetne inteligence za otroke; pozdravlja prizadevanja na mednarodni ravni za določitev standardov o umetni inteligenci in napredek pri oblikovanju standardov o vidikih upravljanja umetne inteligence, ki poteka pri Mednarodni organizaciji za standardizacijo;

48. poleg tega pozdravlja ustanovitev in začetek delovanja Sveta EU-ZDA za trgovino in tehnologijo; pozdravlja izid prvega srečanja tega sveta v Pittsburghu; meni, da je svet potencialni forum za splošno usklajevanje med Evropsko unijo in Združenimi državami Amerike za določitev splošnih pravil za umetno inteligenco in splošnih tehnoloških standardov, ki bodo varovali naše skupne vrednote, da bi spodbujali skupne naložbe, raziskave in razvoj ter da bi se pri političnem usklajevanju v mednarodnih institucijah zbližali glede vprašanj, povezanih s tehnologijo in umetno inteligenco;

49. poudarja, da ima EU lahko ključno vlogo pri določanju svetovnih standardov, saj je v svetu prva večja organizacija, ki je uvedla zakonodajo o umetni inteligenci; poudarja, da bi lahko Evropa na podlagi pravnega okvira Unije za umetno inteligenco v tem sektorju postala vodilna v svetu, zato bi bilo treba ta okvir uveljavljati po vsem svetu, in sicer s sodelovanjem z vsemi mednarodnimi partnerji in hkrati z nadaljevanjem kritičnega in etično zasnovanega dialoga s tretjimi državami, ki imajo na področju umetne inteligence vzpostavljene drugačne modele upravljanja in standarde;

50. ugotavlja, da je kitajska vlada v okviru pobude En pas, ena pot podpisala sporazume o standardih in sodelovanju z 52 državami; opozarja, da je kitajski aktivizem na področju standardov izziv za EU, saj več teh standardov, tudi v zvezi s tehnologijami umetne inteligence, zlasti pa na področju vladnega nadzora in individualnih svoboščin, ni v skladu s spoštovanjem človekovih pravic in z vrednotami EU;

51. poudarja, da tehnologije umetne inteligence, zlasti tiste, ki niso bile zasnovane in razvite z vzpostavljenimi izrecnimi postopki nadzora ter se neustrezno in brez nadzora uporabljajo v vojaških poveljniških štabih ali objektih za izstreljevanje raket, prinašajo posebno velika tveganja in bi lahko zaostrile avtomatizirano povzročen vzajemni konflikt;

52. se zaveda, da je uporaba sistemov umetne inteligence na področju obrambe korenito spreminja vojaške operacije, in sicer z analizo podatkov, zmožnostjo, da v večjem obsegu pokaže zapletenost razmer, s potencialom za večjo natančnost ciljanja, z optimizacijo logistike in udeležbo v oboroženih spopadih z manjšim tveganjem fizične škode za civilno prebivalstvo in lastno vojaško osebje, pa tudi z uporabo podatkov za oblikovanje načinov delovanja, kot so vojne igre; vendar opozarja, da bi se lahko zaradi tega znižal prag za uporabo sile in da bi tako bilo konfliktov več; meni, da stroji in roboti ne morejo sprejemati človeških odločitev, pri katerih se upoštevajo pravna načela razlikovanja, sorazmernosti in previdnosti; meni tudi, da bi morali imeti ljudje nadzor nad odločitvijo o namestitvi in uporabi orožja ter ostati odgovorni za uporabo smrtonosne sile in odločitve o življenju in smrti; meni, da bi morali za orožne sisteme, ki temeljijo na umetni inteligenci, veljati svetovni standardi in mednarodni etični kodeks ravnanja, na katerih bi moralo temeljiti uvajanje tehnologij umetne inteligence v vojaške operacije, pri čemer bi bilo treba v celoti spoštovati mednarodno humanitarno pravo in pravo človekovih pravic ter pravo in vrednote Unije;

53. je zaskrbljen, ker v nekaterih državah potekajo vojaške raziskave in tehnološki razvoj v zvezi s smrtonosnimi avtonomnimi orožnimi sistemi brez dejanskega človeškega nadzora; ugotavlja, da se takšni smrtonosni avtonomnimi orožni sistemi že uporabljajo v vojaških spopadih; opozarja, da je Parlament večkrat pozval k mednarodni prepovedi razvoja, proizvodnje in uporabe smrtonosnih avtonomnih orožnih sistemov ter k začetku učinkovitih pogajanj o njihovi prepovedi; poudarja, da sistemom, ki temeljijo na umetni inteligenci, v nobenem primeru ne sme biti dovoljeno, da nadomestijo človeško odločanje na podlagi pravnih načela razlikovanja, sorazmernosti in previdnosti;

54. zlasti ugotavlja, da se lahko tehnologija umetne inteligence uporablja tudi kot sredstvo za različne oblike hibridnega vojskovanja in zunanjega vmešavanja; poudarja, da bi se lahko na primer uporabila za sprožitev kampanje dezinformacij z uporabo botov ali lažnih računov na družbenih medijih, za izkoriščanje soodvisnosti kot orožja z zbiranjem dragocenih informacij ali onemogočanjem dostopa do omrežja nasprotnikom, za ustvarjanje motenj v gospodarskih in finančnih sistemih drugih držav, za poseganje v politično razpravo in dajanjem prednosti ekstremističnim skupinam ali za manipuliranje volitev, da bi destabilizirali demokratične sisteme;

55. poudarja, da bi lahko tehnologije umetne inteligence vključevale tudi zlonamerno inteligentno programsko opremo, krajo identitete, zastrupljanje podatkov ali druge oblike sovražnega strojnega učenja, zaradi katerih bi drugi sistemi umetne inteligence napačno razlagali vhodne podatke; zlasti opozarja na širjenje globokih ponaredkov, vključno z videoposnetki, ki ne pomenijo nujno kibernetskih napadov, temveč povzročajo dvome o pristnosti vseh digitalnih vsebin, zato jim je treba nameniti posebno pozornost in zahtevati preglednost v zvezi z njimi; opozarja, da bi globoki ponaredki lahko prispevali k večjemu nezaupanju javnosti v umetno inteligenco, pa tudi k globlji družbeno-politični polarizaciji v naših družbah;

56. poudarja, da je uporaba sistemov umetne inteligence v znatnem delu ključne kritične infrastrukture, kot so energetska in prometna omrežja, vesoljski sektor, prehranska veriga, bančna in finančna infrastruktura ter bolnišnične zmogljivosti, ustvarila nove šibke točke, ki zahtevajo odločne ukrepe na področju kibernetske varnosti, da bi preprečili grožnje; v zvezi s tem poudarja, da je sodelovanje, izmenjava informacij in ukrepanje tako na ravni EU kot med državami članicami izjemno pomembno; poudarja, da je pomembno tudi spodbujati odpornost kritičnih subjektov na hibridne grožnje;

57. svari, da lahko umetna inteligenca zaradi svoje zmogljivosti povzroči varnostno tveganje tudi zato, ker lahko spodbudi ljudi, da ji bodo zaupali bolj kot lastni presoji; ugotavlja, da uporaba pristopa človeka v zanki kot korektivnega mehanizma v vseh primerih ni izvedljiva; ugotavlja, da so poskusi pokazali, da se zato lahko stopnja avtonomije umetne inteligence dvigne nad raven podporne vloge, za katero je bila prvotno zasnovana, zaradi česar ljudje ne izkoristijo priložnosti za pridobivanje izkušenj niti ne izpopolnijo svojih spretnosti in znanja v zvezi s sistemi umetne inteligence; zato poudarja, da so zato, da bi odpravili takšno pristranskost pri avtomatizaciji, v sistemih umetne inteligence z visokim tveganjem potrebni vgrajena varnost in dejanski človeški nadzor na podlagi ustreznega usposabljanja, pa tudi ustrezni zaščitni ukrepi za varnost in zasebnost;

58. vendar poudarja, da se lahko umetna inteligenca uporablja za napovedovanje izpadov električne energije in zelo natančno ugotavljanje potreb po vzdrževanju; dodaja, da se lahko uporablja za sintezo velikih količin podatkov na podlagi avtomatiziranega črpanja ali klasifikacije podatkov in za odkrivanje posebnih vzorcev; poudarja, da bi ti elementi omogočili boljše napovedovanje in oceno stopnje nevarnosti in ranljivosti sistemov, hitrejše postopke odločanja, izboljšano odzivnost in učinkovitejše varovanje končnih naprav;

59. zlasti poudarja, da bi lahko organi preprečevanja, odkrivanja in preiskovanja kaznivih dejanj s tehnologijo umetne inteligence odkrivali kriminalne dejavnosti, in proti njim ukrepali; poudarja pa, da so pri delovanju teh organov na podlagi umetne inteligence potrebni polno spoštovanje temeljnih pravic, strog demokratični nadzor, jasna pravila o preglednosti, močno informacijska infrastruktura, človeški nadzor, visoko usposobljeni delavci ter dostop do ustreznih in visokokakovostnih podatkov;

d) Umetna inteligenca in konkurenčnost

60. ugotavlja, da bodo do leta 2030 proizvodi in storitve v vrednostni verigi medsebojno povezani, v večini proizvodnih procesov in poslovnih modelov pa bosta imeli pomembno vlogo umetna inteligenca in robotika; poudarja, da so pri razvoju industrijskih ekosistemov umetne inteligence izredno pomembne temeljne raziskave, pa tudi znatne naložbe v napredovanje digitalne javne uprave in nadgraditev digitalne infrastrukture;

61. ugotavlja, da kljub precejšnjemu povečanju tveganega kapitala in drugega financiranja za zgodnje faze v preteklih dveh letih več evropskih panog pri sredstvih še vedno zaostaja, pa tudi raven finančnih sredstev v EU še vedno ne zadošča in bi jo bilo treba močno zvišati, da bi ujeli dinamiko vodilnih umetnointeligenčnih ekosistemov, kot so v Silicijevi dolini in drugod; želi poudariti, da inovacijski ekosistem EU tvorijo svojevrstne grozdne strukture, kar se razlikuje od centraliziranih (in državno podprtih) inovacijskih ekosistemov;

62. poudarja, da lahko umetna inteligenca revolucionarno spremeni konkurenčnost unijskih gospodarskih panog in da lahko poveča produktivnost, pospeši inovacije ter pomaga izboljšati proizvodne procese in dobiti pregled nad odpornostjo evropskih dobavnih verig;

63. opozarja na tveganje, da bi se dobavne verige zaradi gospodarskega ločevanja ali katastrofalnih dogodkov (kot so pandemije ali pojavi zaradi podnebnih sprememb) prekinile ali pretrgale; poudarja, da lahko s pomočjo umetne inteligence zaznamo vzorce motenj v dobavnih verigah in podpremo napovedovalno vzdrževanje, kar bi podprlo diverzificiranje dobaviteljev;

64. se zaveda, da so podjetja, ki so sprožala digitalne motnje, zaradi tega pogosto pobrala smetano in pridobila znaten tržni delež; je seznanjen z ugotovitvami nedavnih študij, da se bo ta vzorec verjetno še intenzivneje ponavljal, saj se podjetjem, ki uporabljajo umetno inteligenco, po navadi močno poveča konkurenčna prednost; je zaskrbljen zaradi tveganj tržne koncentracije, ki utegnejo nastati zaradi tega, kar pa škoduje malim, srednjim in zagonskim podjetjem;

65. poudarja, da so ti obeti izrazito zaskrbljujoči, ker bodo največja uveljavljena tehnološka podjetja najverjetneje prevladovala tudi pri tehnologijah umetne inteligence in bi lahko postala vratarji za trge, obenem pa si prisvojila večino ustvarjene vrednosti; poudarja, da se podatki, ki so gonilo umetnointeligenčnega sektorja, v veliki večini zbirajo pri istih velikih tehnoloških podjetjih, ki uporabnikom ponujajo dostop do storitev v zameno za podatke in izpostavljenost oglasom, zato bi bil lahko njihov sedanji prevladujoči položaj na trgu že sam po sebi dejavnik nadaljnje prevlade na trgu; poudarja, da imajo ta podjetja sedež večinoma zunaj EU, vseeno pa jim uspe zajeti vrednost, ki jo ustvarjajo podatki njihovih evropskih strank, s čimer pridobijo konkurenčno prednost;

66. ex ante , kamor sodi tudi akt o digitalnih trgih; poleg tega poudarja, da imata lahko pri reševanju te problematike precejšnjo vlogo standardizacija in regulativno sodelovanje, saj omogočata globalni razvoj proizvodov in storitev ne glede na njihovo fizično lokacijo; pozdravlja sporočilo Komisije, v katerem poziva, da bi posodobili pravila konkurence in jih ustrezno prilagodili digitalni dobi ( 29 ) , poudarja pa tudi, da so pri zoperstavljanju tržnim koncentracijam, še preden do njih pride, izredno pomembni ukrepi, kamor sodi tudi akt o digitalnih trgih; poleg tega poudarja, da imata lahko pri reševanju te problematike precejšnjo vlogo standardizacija in regulativno sodelovanje, saj omogočata globalni razvoj proizvodov in storitev ne glede na njihovo fizično lokacijo;

67. poudarja, da imajo mala in srednja ter zagonska podjetja kot glavnina vseh podjetij in pomemben vir inovacij osrednjo vlogo pri uvajanju tehnologij umetne inteligence v EU; ugotavlja pa, da obetavna umetnointeligenčna zagonska podjetja naletijo na precejšnje ovire za širitev v evropskem prostoru, ker digitalni enotni trg še ni povsem dokončan in ker so med državami članicami še vedno precejšnje razlike v predpisih, ali pa jih po širitvi pokupijo tehnološki giganti; obžaluje, da mala in srednja podjetja često težko pridejo do financiranja, se ubadajo z zapletenimi administrativnimi postopki ali pa jim primanjkuje ustreznih znanja in veščin ter nimajo dostopa do informacij; želi opomniti, da so organi EU za konkurenco v preteklosti večinoma dopustili, da so tuje družbe prevzemale evropska podjetja na področju umetne inteligence in robotike;

68. poudarja, da bi se lahko z intenzivno uporabo algoritmov na enotnem trgu pojavila tudi popolnoma nova problematika, povezana z umetno inteligenco; ugotavlja, da bi lahko protimonopolni organi na primer težko dokazali dogovarjanje o cenah med umetnointeligenčnimi sistemi določanja cen; poudarja pa, da bi lahko tisti maloštevilni ponudniki umetne inteligence, ki že sodelujejo na delniškem trgu, pomenili sistemsko tveganje za finančne trge, na primer zaradi nedovoljenega dogovarjanja; poudarja, da je algoritemsko nedovoljeno dogovarjanje zelo težko prepoznati, saj umetnointeligenčnim sistemom ni treba komunicirati med seboj na tak način, kot pri tovrstnih nedovoljenih praksah počnejo ljudje, tako da bi bilo v tem primeru skoraj nemogoče dokazati namero nedovoljenega dogovarjanja; poudarja, da to pomeni tveganje za tržno stabilnost in da morajo zato unijski in nacionalni organi za konkurenco razviti ustrezne strategije in orodja; poleg tega poudarja, da vsesplošno razširjena uporaba algoritemskih modelov in sistemov trgovanja brez človeške interakcije pomeni sistemsko tveganje za finančne trge, saj so ti modeli in sistemi v preteklosti močno povečali tržna gibanja in se to utegne zgoditi še kdaj;

69. ugotavlja, da se večina podjetij na področju umetne inteligence v EU srečuje s pravno negotovostjo glede tega, kako naj brez tveganja in birokratskih ovir razvijajo svoje proizvode in storitve, saj se sedanja sektorska zakonodaja po eni strani prekriva, po drugi strani pa na področju umetne inteligence ni uveljavljenih standardov in norm;

70. poudarja, da je umetna inteligenca za podjetja izziv tudi v smislu nadzora kakovosti in varstva potrošnikov; ugotavlja, da sta za zagotovitev, da bodo podjetja iz EU imela konkurenčno prednost, nujno potrebni preglednost in zanesljivost, saj bo od tega odvisno, ali bo trg sčasoma sprejel posamezni proizvod ali storitev;

71. želi opomniti, da čeprav 26 % raziskovalnih publikacij visoke vrednosti o umetni inteligenci prihaja iz Evrope, to pri svetovnih prijaviteljih patentov s tega področja velja samo za štiri od tridesetih (13 %) in samo za 7 % podjetij, ki se ukvarjajo s patentiranjem umetne inteligence;

72. meni, da treba zakonodajo EU o intelektualni lastnini harmonizirati in ter jasno in pregledno izvrševati, potreben pa je tudi uravnotežen, izvršljiv in predvidljiv okvir, ki bo evropskim podjetjem, zlasti malim, srednjim in zagonskim, omogočal, da ustrezno in enostavno zaščitijo intelektualno lastnino;

73. je zaskrbljen, da mala in srednja podjetja le slabo varujejo intelektualno lastnino, saj pogosto niso poučena o svojih pravicah ali pa nimajo dovolj sredstev za njihovo varstvo; poudarja, kako pomembna je informiranost o varstvu intelektualne lastnine in seznanjenost s statističnimi podatki o tem pri malih in srednjih podjetjih, in pozdravlja prizadevanja na tem področju, na primer poenostavljene postopke registracije in nižje upravne pristojbine, pa tudi seznanjanje malih, srednjih in zagonskih podjetij z varstvom intelektualne lastnine in zagotavljanjem lažjega dostopa do njega; poudarja, da če želimo podjetjem EU pomagati varovati intelektualno lastnino na področju umetne inteligence, bi bilo treba okrepiti položaj EU kot svetovne določevalke standardov; poudarja, da mednarodna konkurenčnost in privlačnost izhajata iz močnega in odpornega enotnega trga, kar vključuje tudi varstvo in izvrševanje pravil intelektualne lastnine;

74. meni, da so podatkovna analitika ter dostop do neosebnih podatkov in njihova souporaba in ponovna uporaba že danes bistvenega pomena za mnoge proizvode in storitve, ki temeljijo na podatkih, a bodo pomembni tudi za razvoj in uvajanje prihodnjih sistemov umetne inteligence; poudarja, da doslej večina neosebnih podatkov, ustvarjenih v EU, ostaja neizkoriščenih, enotni trg podatkov pa se komaj razvija;

75. poudarja, da je olajšati dostop do podatkov in njihovo souporabo ter odprte standarde in odprtokodno tehnologijo, saj tudi to omogoča povečanje naložb in spodbuja inovacije na področju tehnologij umetne inteligence v EU; poudarja, da bi razvijalcem umetne inteligence prav prišle bolj harmonizirane razlage nacionalnih organov za varstvo podatkov ter smernice o mešanih podatkih in depersonalizacijskih tehnikah;

76. poudarja, da ima lahko umetna inteligenca pomembno vlogo pri podpiranju izvrševalnih ukrepov evropskih in nacionalnih organov, zlasti na področju carine in nadzora trga; meni, da je mogoče z umetno inteligenco povečati učinkovitost in stroškovno učinkovitost trgovinskih in carinskih postopkov, tako da se poveča skladnost in zagotovi, da na enotni trg vstopajo le varni proizvodi; opozarja na primer sistema CARM kanadske carinske službe (Canada Border Services Agency Assessment and Revenue Management), s katerim je močno poenostavila uvozne in izvozne postopke in ki uporablja umetnointeligenčne kvalificirane ocene tveganja in racionalizirano digitalizirano upravljanje informacij, kar je zmanjšalo potrebo po dolgotrajnih inšpekcijskih pregledih;

e) Umetna inteligenca in trg dela

77. ugotavlja, da umetna inteligenca vse bolj vpliva na trg dela, delovno mesto in socialno področje ter da so učinki tehnoloških sprememb na delo in zaposlovanje večplastni; poudarja, da uporaba umetne inteligence na tem področju odpira več etičnih in pravnih izzivov ter izzivov, povezanih z zaposlovanjem; je zaskrbljen, da bi lahko digitalizacija na trgu dela privedla do reorganizacije delovne sile in morebitnega izginotja nekaterih delovnih sektorjev; meni, da bi lahko s sprejetjem umetne inteligence skupaj s potrebno podporno infrastrukturo, izobraževanjem in usposabljanjem povečali kapital in produktivnost dela, inovacije, trajnostno rast in ustvarjanje delovnih mest;

78. poudarja, da lahko umetna inteligenca sicer nadomesti nekatere delovne naloge, vključno s ponavljajočimi se, težkimi, delovno intenzivnimi ali nevarnimi opravili, lahko pa bi pripomogla tudi k izboljšanju znanj in spretnosti, zvišanju kakovosti dela in ustvarjanju novih delovnih mest z višjo dodano vrednostjo, kar bi pomenilo več časa za spodbudne naloge in poklicni razvoj; poudarja, da umetna inteligenca že nadomešča ali dopolnjuje ljudi pri sklopu nalog, nima pa zaznavnih obsežnejših skupnih posledic za trg dela ( 30 ) ; poudarja pa, da obstaja možnost za povečanje dohodkovne neenakosti, če bi se zaradi umetne inteligence povečal obseg visokokvalificiranih poklicev in bi začela nadomeščati nizkokvalificirane poklice; dodaja, da je treba vse gospodarske in socialne posledice tega ublažiti z ustreznimi ukrepi, raziskavami in predvidevanjem ter se nanje pripraviti z vlaganjem v preusposabljanje in izpopolnjevanje delovne sile s poudarkom na manj zastopanih skupinah, kot so ženske in manjšine, ki jih bo ta prehod verjetno najbolj prizadel, ter s spodbujanjem raznolikosti v vseh fazah razvoja sistemov umetne inteligence; je zaskrbljen, da bi lahko umetna inteligenca privedla do „razučevalnih“ oziroma „razusposabljalnih“ procesov ter ustvarila privzeto slabo plačano delo z majhno avtonomijo ter razširila netipično, prožno (oziroma priložnostno) delo; poudarja, da bi lahko algoritemsko upravljanje vodilo do neravnovesja moči med vodstvom in zaposlenimi ter do nejasnosti glede odločanja;

79. poudarja, da je uvajanje umetne inteligence tudi priložnost za pomembne kulturne spremembe v organizacijah, na primer izboljšano varnost na delovnem mestu, boljše ravnovesje med poklicnim in zasebnim življenjem, pravico do odklopa ter učinkovitejše priložnosti za usposabljanje in za usmerjanje zaposlenih; v zvezi s tem opozarja na priporočila OECD, v katerih je poudarjeno, da bi avtomatizacija lahko pripomogla tudi k skrajšanju delovnega časa, s čimer bi se izboljšali življenjski pogoji in zdravje delavcev; meni, da bi lahko umetnointeligenčne aplikacije, ki opolnomočajo ljudi, ustvarile tudi nove zaposlitvene priložnosti, zlasti za tiste, ki so bili poprej zaradi fizičnih omejitev, kot so invalidnost ali življenjske okoliščine, prisiljeni opravljati zgolj manj kvalificirana delovna mesta; poudarja, da je treba s pomočjo umetne inteligence na delovnem mestu ljudem zagotoviti čas za kakovostnejše rezultate, ne pa zgolj povečevati delovno obremenitev;

80. obsoja povečano uporabo umetnointeligenčnega nadzora na delovnem mestu, in to pogosto brez vednosti, kaj šele privolitve delavcev, zlasti v okviru dela na daljavo; meni, da ta praksa ne bi smela biti dovoljena, saj izredno zlorablja temeljno delavčevo pravico do zasebnosti, varstva podatkov in človekovega dostojanstva ter socialne in delavske pravice, poleg tega pa negativno vpliva na duševno zdravje delavcev zaradi velikega občutka vdiranja, njegovega splošnega ali neselektivnega delovanja in odsotnosti zaščitnih ukrepov za prizadete posameznike;

81. je zaskrbljen, da podobno tveganje nadzora vlada tudi v šolskem okolju, saj se v šolah vse bolj uporabljajo sistemi umetne inteligence, kar ogroža temeljne pravice otrok; ugotavlja, da posledice, ki jih ima umetna inteligenca za zasebnost, varnost in zaščito otrok, segajo v širok spekter – vse od koristi, povezanih z zmožnostjo bolj specifičnega in natančnega razumevanja groženj, s katerimi se soočajo otroci, pa do tveganj v zvezi z nenamernimi kršitvami zasebnosti; poudarja, da je to treba zaradi pozitivnih in negativnih posledic za zasebnost, varnost in zaščito otrok temeljito preučiti in uvesti ustrezne zaščitne ukrepe; poudarja tudi, da je treba pri razvoju sistemov umetne inteligence posebno pozornost nameniti otrokom in jih zaščititi zaradi njihove izredno občutljive narave in posebne ranljivosti;

82. poudarja, da je treba posameznikom zagotoviti celovite programe za razvoj znanj in spretnosti v vseh življenjskih obdobjih, da bodo lahko ostali produktivni na nenehno razvijajočem se delovnem mestu in da ne bodo izključeni s trga dela; meni, da je bistvenega pomena prilagajanje delovne sile v smislu izobraževanja o umetni inteligenci, vseživljenjskega učenja in prekvalifikacije; poudarja, da so sedanji koncepti učenja in dela še vedno v preveliki meri opredeljeni s potrebami preddigitalnega sveta dela, zaradi česar se na trgu dela povečuje vrzel v znanjih in spretnostih in nastaja nov digitalni razkorak na škodo državljanov in podjetij, ki nimajo dostopa do varnega digitalnega prostora; poudarja, da digitalno opismenjevanje prispeva k doseganju ciljev trajnostnega razvoja, zlasti na področju izobraževanja, človeškega kapitala in infrastrukture; poudarja, da so zaradi covidne krize nastale nove oblike dela in učenja, ki bi jih lahko dodatno preučili;

83. poudarja, da mora Unija, če želi izkoristiti vse prednosti digitalizacije, rešiti vprašanje digitalne pismenosti in veščin za vse; meni, da je digitalna opismenjenost predpogoj za zaupanje državljanov in seznanjenost javnosti z učinki umetne inteligence; poudarja, da je treba v nacionalne izobraževalne sisteme vključiti osnovno usposabljanje na področju digitalnih znanj in spretnosti ter umetne inteligence; meni, da bi lahko uporaba in razvoj umetnointeligenčne tehnologije na področju manjšinskih jezikov spodbudila njihovo znanje in uporabo; poudarja, da več kot 70 % podjetij poroča, da pomanjkanje osebja z ustreznimi digitalnimi veščinami ter znanji in spretnostmi na področju umetne inteligence ovira naložbe; je zaskrbljen, da je bilo leta 2019 v EU 7,8 milijona strokovnjakov za IKT s predhodno letno stopnjo rasti 4,2 %, kar je veliko manj od 20 milijonov strokovnjakov, ki so potrebni za ključna področja, kot je analiza podatkov, kakor predvideva Komisija;

84. je zaskrbljen zaradi ogromne razlike med spoloma na tem področju, saj je med strokovnjaki s področja IKT le šestina, med diplomanti s področja naravoslovja, tehnologije, inženirstva in matematike pa le tretjina žensk ( 31 ) ; z zaskrbljenostjo ugotavlja, da razlika med spoloma trdovratno vztraja, zlasti na področju zagonskih podjetij, tu je bilo leta 2019 namreč kar 92 od 100 USD, vloženih v evropska tehnološka podjetja, namenjenih ustanovitvenim ekipam, ki so jih sestavljali samo moški; priporoča ciljno usmerjene pobude za podporo ženskam na področju naravoslovja, tehnologije, inženirstva in matematike, da bi odpravili splošno vrzel v znanjih in spretnostih v tem sektorju; poudarja, da ta vrzel neizogibno vodi do pristranskih algoritmov; poudarja, kako pomembno je opolnomočiti in motivirati dekleta za poklicno pot na področju naravoslovja, tehnologije, inženirstva in matematike ter odpraviti razlike med spoloma na tem področju;

f) Umetna inteligenca in prihodnost demokracije

85. ugotavlja, da ima umetna inteligenca po eni strani potencial za pomoč pri izgradnji preglednejšega in učinkovitejšega javnega sektorja, po drugi strani pa, da tehnični razvoj na področju umetne inteligence pogosto temelji na logiki rasti in dobička, da je zelo hiter in dinamičen, zaradi česar oblikovalci politik težko razumejo, kako delujejo nove aplikacije umetne inteligence in kakšne rezultate lahko prinesejo, čeprav so dolžni zagotoviti okvir za zagotavljanje, da bo umetna inteligenca spoštovala temeljne pravice in da se bo lahko uporabljala družbi v korist; poudarja, da se tudi napovedi strokovnjakov o prihodnjem učinku umetne inteligence razlikujejo, kar kaže, da je celo njim težko predvideti, kakšne rezultate bo prineslo uvajanje novih tehnologij umetne inteligence; trdi, da morajo zakonodajalci zaradi te negotovosti pri urejanju umetne inteligence ustrezno upoštevati previdnostno načelo; meni, da se je treba posvetovati s strokovnjaki različnih področij in z najraznovrstnejšimi izkušnjami, da bi zasnovali trdno in izvedljivo zakonodajo, ki bo ustrezala izzivom prihodnosti; svari, da je lahko pravna negotovost ena največjih ovir za inovacije; glede tega želi opomniti, da je pomembno državljane opismenjevati na področju umetne inteligence, in enako tudi izvoljene predstavnike in nacionalne organe;

86. svari, da zaradi tega zakonodajni cikli pogosto ne morejo slediti hitremu tehnološkemu napredku, tako da so odločevalci prisiljeni naknadno urejati zaostanek in regulirajo predvsem tiste primere rabe, ki so že na trgu; poudarja, da je treba pred smotrnim regulativnim pristopom k umetni inteligenci opraviti tudi izčrpno analizo sorazmernosti in nujnosti, da ne bi ovirali inovacij in konkurenčnosti podjetij EU;

87. poudarja, da je lahko uporaba umetne inteligence za pridobivanje biometričnih podatkov zelo vsiljiva do posameznika in širše javnosti ter škodljiva, a tudi dokaj koristna;

88. z zaskrbljenostjo ugotavlja, da tovrstna umetnointeligenčna tehnologija odpira tudi pereče etične in pravne dileme; ugotavlja, da nekatere tovrstne tehnologije omogočajo avtomatizirano obdelavo podatkov v doslej nepoznanem obsegu, kar utira pot množičnemu nadzoru in drugim nezakonitim posegom v temeljne pravice, zlasti v pravico do zasebnosti in v varstvo podatkov;

89. poudarja, da mnogi avtoritarni režimi uporabljajo umetnointeligenčne sisteme za nadzor nad svojimi državljani, vohunjenje za njimi ter njihovo spremljanje in kategoriziranje, pa tudi omejevanje svobodnega gibanja; meni, da vse oblike normativnega točkovanja državljanov, ki jih izvajajo javni organi, zlasti na področju preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ter pravosodja, pa tudi tega, da tovrstno točkovanje uporabljajo zasebna podjetja ali posamezniki, pomenijo izgubo neodvisnosti in zasebnosti, odpirajo tveganje diskriminacije in niso skladne z evropskimi vrednotami; želi opozoriti, da za tehnologije, kot sta kibernetski nadzor in biometrično prepoznavanje, ki ju je mogoče uporabiti v ta namen, velja uredba EU o nadzoru izvoza; je resno zaskrbljen zaradi primerov, ko podjetja iz EU avtoritarnim režimom v tretjih državah prodajajo biometrične sisteme, ki bi bili v EU nezakoniti in jih ne bi smeli uporabljati;

90. ugotavlja, da prevladujoče tehnološke platforme dandanes nimajo samo obsežnega nadzora nad dostopom do informacij in njihovim razširjanjem, ampak tehnologije umetne inteligence uporabljajo tudi za to, da pridobijo več informacij o posameznikovi identiteti, ravnanju in preteklih odločitvah; meni, da takšno profiliranje ogroža demokratične sisteme ter varstvo temeljnih pravic in avtonomnost državljanov; poudarja, da to ustvarja neravnovesje moči in povzroča sistemska tveganja, ki bi lahko negativno vplivala na demokracijo;

91. poudarja, da se lahko digitalne platforme z umetnointeligenčnimi trženjskimi in podobnimi aplikacijami uporabljajo tudi za tuje poseganje ter širjenje dezinformacij in globokih ponaredkov, saj delujejo kot omrežje propagande, trolanja in nadlegovanja za spodkopavanje volilnih procesov; poudarja, da strojno učenje omogoča zlasti ciljno usmerjeno uporabo osebnih podatkov za ustvarjanje prepričljivih personaliziranih sporočil za nepoučene volivce; poudarja, da so tu pomembne stroge obveznosti glede preglednosti, ki se morajo tudi dejansko izvrševati;

92. poudarja, da bi bilo mogoče umetno inteligenco uporabiti tudi za zmanjšanje protidemokratičnih in neetičnih dejavnosti na platformah ter kot sredstvo za zamejevanje lažnih novic in sovražnega govora, čeprav testiranje njene zmožnosti za razumevanje kontekstualno specifičnih vsebin doslej ni pokazalo prav dobrih rezultatov; je zaskrbljen, ker prav polarizirajoči diskurz vodi do večjega udejstvovanja uporabnikov, zato bi bila njegova odprava v neposrednem nasprotju s poslovnim modelom teh platform, saj temelji na čim večjem udejstvovanju uporabnikov; meni, da morajo umetnointeligenčne rešitve temeljiti na popolnem spoštovanju svobode izražanja in mnenja ter na trdnih dokazih, ki se res potrdijo, preden se uporabijo;

93. poudarja, da je pristranskost umetnointeligenčnih sistemov pogosto posledica premalo raznolikih in kakovostnih podatkov za učenje in preskušanje, na primer kadar se uporabljajo nabori podatkov, ki ne pokrivajo dovolj reprezentativno ranljivih skupin, ali če so pristransko opredeljene že naloge ali nastavitve; ugotavlja, da lahko do pristranskosti pride tudi zaradi premalo raznolike razvijalske ekipe, tako da se zaradi omejenega obsega podatkov za učenje in preskušanje ponavlja in krepi inherentna pristranskost ali pa na algoritem negativno vpliva pristranski razvijalec umetne inteligence; poudarja, da se utemeljeno razlikovanje tudi namerno ustvarja, zato da se v nekaterih okoliščinah izboljša učno uspešnost umetne inteligence;

94. poudarja, da se strukturne pristranskosti v naši družbi ne bi smele ponavljati ali celo povečevati zaradi nekakovostnih naborov podatkov; v zvezi s tem trdi, da se algoritmi naučijo biti enako diskriminatorni kot podatki, s katerimi imajo opravka, in da utegnejo zaradi nekakovostnih podatkov za učenje ali zaradi zaznane pristranskosti in diskriminacije v družbi predlagati odločitve, ki so že same na sebi diskriminatorne, kar posledično spet povečuje diskriminacijo v družbi; se zaveda, da je pristranskost umetne inteligence včasih mogoče popraviti oziroma odpraviti; ugotavlja, da je zato treba uporabiti tehnična sredstva in vzpostaviti različne kontrolne plasti za sisteme umetne inteligence, na primer programsko opremo, algoritme in podatke, ki jih ti sistemi uporabljajo in proizvajajo, da se to tveganje čim bolj zmanjša; trdi, da se umetna inteligenca lahko in bi jo bilo tudi treba uporabiti za zmanjšanje pristranskosti in diskriminacije ter za spodbujanje enakih pravic in pozitivnih družbenih sprememb v naših družbah, med drugim z normativnimi zahtevami glede podatkovnih nizov, ki se uporabljajo za učenje sistemov umetne inteligence; poudarja, da je najučinkovitejši način za zmanjšanje pristranskosti v umetnointeligenčnih sistemih zagotovitev (kolikor dopušča zakonodaja EU), da je za algoritemsko oziroma strojno učenje na voljo čim več neosebnih podatkov;

g) Ponavljajoče se ugotovitve v vseh šestih študijah primerov

95. ugotavlja, da so s sprejetjem tehnologij umetne inteligence povezane jasne družbene koristi in priložnosti, ki jih bo mogoče izkoristiti le, če bodo v EU odpravljene prečne ovire v skladu s temeljnimi pravicami, vrednotami in zakonodajo; navaja, da je prekrivanje zakonodaje, razdrobljenost trga, birokratske ovire, pomanjkanje dostopne digitalne infrastrukture ter digitalnih znanj in spretnosti v širši družbi ter nezadostne naložbe v raziskave in razvoj mogoče opaziti zlasti kot ovire za uspešno uporabo zaupanja vredne umetne inteligence na vseh analiziranih področjih;

96. poleg tega na podlagi preučenih študij primerov ugotavlja, da obstajajo nekateri primeri uporabe, ki so tvegani ali škodljivi, vendar za to niso nujno krive same specifične tehnologije umetne inteligence, temveč njihova področja uporabe; priznava, da mora prihodnja ureditev obravnavati upravičene pomisleke v zvezi s temi tveganji, da bi se tehnologije umetne inteligence lahko široko uporabljale v EU;

97. ugotavlja, da je sicer pomembno preučiti in kategorizirati možna tveganja, ki jih predstavlja umetna inteligenca, vendar so študije primerov pokazale, da nam tehnologije umetne inteligence omogočajo učinkovite protiukrepe, ki lahko ublažijo ali odpravijo ta tveganja; poudarja, da je umetna inteligenca še vedno v zgodnjih fazah razvoja v širšem kontekstu nastajajočih tehnologij, njen celoten potencial in povezana tveganja pa še niso poznani; poudarja, da je treba obravnavati ne le tveganja za posameznike, temveč tudi širšo družbeno in nematerialno škodo posameznikov; opozarja na velika neravnovesja tržne moči na podatkovnih trgih in v z njimi povezanem gospodarstvu umetne inteligence; poudarja, da sta poštena konkurenca in odprava ovir za konkurenco za zagonska podjetja ter mala in srednja podjetja bistvenega pomena za pravično porazdelitev potencialnih koristi umetne inteligence v gospodarskem in družbenem smislu, ki se zdijo pomembne tako v EU kot po svetu;

3. Položaj EU med svetovno konkurenco na področju umetne inteligence

98. opaža močno svetovno konkurenco na področju umetne inteligence, kjer EU še ni izpolnila svojih ciljev; v nadaljevanju obravnava globalno konkurenčnost EU z vidika umetne inteligence, tako da jo primerja s Kitajsko in ZDA, pri čemer se osredotoča na tri ključne elemente: regulativni pristop, položaj na trgu in naložbe; vendar priznava, da nadnacionalnih trgov in korporacij ni mogoče zlahka razmejiti po nacionalnih mejah, saj ima večina tehnoloških podjetij stranke, delničarje, zaposlene in dobavitelje v številnih različnih državah;

a) Regulativni pristop

99. ugotavlja, da ZDA še niso sprejele horizontalne zakonodaje na digitalnem področju in so se doslej osredotočale na sektorsko zakonodajo in omogočanje naložb, tudi z davčnimi ukrepi za inovacije v zasebnem sektorju, zlasti med svojimi tehnološkimi velikani in vodilnimi univerzami; ugotavlja, da je pristop ZDA kljub nedavnemu razvoju dogodkov, ki kažejo dejavnejšo vlogo pri oblikovanju politik, doslej večinoma odražal osredotočenost na zagotavljanje pravnih smernic podjetjem, vlaganje v raziskovalne projekte in odstranjevanje zaznanih ovir za inovacije;

100. poudarja, da je ameriški zakon o pobudi za umetno inteligenco iz leta 2019 prinesel rahlo spremembo usmeritve, saj je vlada ZDA poleg preusmeritve financiranja, preusposabljanja delavcev in krepitve digitalne infrastrukture napovedala razvoj skupnih standardov za zaupanja vredno umetno inteligenco; ugotavlja pa, da je nastalih 10 načel zelo ohlapno zasnovanih, s čimer je vsaki vladni agenciji omogočeno, da oblikuje predpise za posamezne sektorje; pričakuje, da bo kljub nameri sedanje administracije ZDA, da leta 2022 pripravi nov zakon o omejevanju škodljivih učinkov umetne inteligence, pristop ZDA še naprej tržno usmerjen;

101. poudarja, da je kitajski predsednik Xi Jinping že leta 2013 poudaril pomen tehnologij v geopolitiki, vlogo javnih politik pri določanju dolgoročnih ciljev in dejstvo, da tehnologije umetne inteligence ponujajo priložnost, da bi Kitajska okrepila svojo vojaško moč; nadalje poudarja, da je nato kitajska vlada leta 2015 pripravila načrt „Made in China 2025“ in leta 2017 načrt za razvoj umetne inteligence naslednje generacije, ki imata jasen cilj, da bi Kitajska do leta 2030 postala vodilna svetovna sila na področju umetne inteligence; ugotavlja, da je v kitajski beli knjigi o standardizaciji umetne inteligence iz leta 2018 nadalje opisano, kako lahko socialistično tržno gospodarstvo razvije mednarodne standarde in strateško sodeluje v mednarodnih organizacijah za standardizacijo; je seznanjen z uvedbo pravil o priporočilnih sistemih in etičnega kodeksa za umetno inteligenco na Kitajskem;

102. ugotavlja, da Kitajska na svetovnem prizorišču aktivno spodbuja mednarodna partnerstva na področju umetne inteligence kot način za izvoz svojih praks nadzora, ki temeljijo na umetni inteligenci, sistema družbenega točkovanja in strategij cenzure; poudarja, da se obsežne naložbe v tujini v okviru pobude za digitalno svileno cesto uporabljajo tudi za širjenje kitajskega vpliva in tehnologije umetne inteligence po vsem svetu, kar bi lahko imelo daljnosežne posledice poleg uvajanja tehnoloških standardov ali ohranjanja tehnološke konkurenčnosti; ugotavlja, da pristop kitajske vlade zato temelji na uvajanju umetne inteligence doma in izvozu tehnologij umetne inteligence, ki temeljijo na vnaprej določenih standardih, usklajenih z ideologijo kitajske vlade;

103. ugotavlja, da je Komisija začela urejati področje umetne inteligence leta 2018 z objavo evropske strategije za umetno inteligenco, ustanovitvijo strokovne skupine na visoki ravni in uvedbo usklajenega načrta ( 32 ) za spodbujanje „umetne inteligence, izdelane v Evropi“; ugotavlja, da so bili v beli knjigi o umetni inteligenci iz leta 2020 predlagani številni ukrepi in možnosti politike za prihodnjo ureditev umetne inteligence, na podlagi česar je bil na koncu pripravljen horizontalni akt o umetni inteligenci ( 33 ) , ki je bil maja 2021 predstavljen skupaj z revidiranim usklajenim načrtom za umetno inteligenco ( 34 ) ; poudarja, da je do junija 2021 dvajset držav članic objavilo nacionalne strategije za umetno inteligenco, medtem ko je sedem drugih v zadnji pripravljalni fazi sprejemanja svojih strategij;

104. poudarja, da je za regulativni pristop EU značilna velika osredotočenost na razvoj enotnega evropskega digitalnega trga in etične vidike v skladu s temeljnimi vrednotami človekovih pravic in demokratičnimi načeli; priznava, da bi vzpostavitev prvega regulativnega okvira za umetno inteligenco na svetu lahko EU zagotovila jamstvo in prednost prvega na trgu pri določanju mednarodnih standardov na področju umetne inteligence na podlagi temeljnih pravic in omogočila uspešen izvoz v človeka usmerjene „zaupanja vredne umetne inteligence“ po vsem svetu; poudarja, da je treba ta pristop podpreti z regulativnim usklajevanjem in zbliževanjem z mednarodnimi partnerji;

b) Razmere na trgu

105. ugotavlja, da ima veliko od 100 vodilnih podjetij na svetu sedež v ZDA, le malo pa jih je v EU; ugotavlja, da so ZDA vodilne tudi v skupnem številu zagonskih podjetij na področju umetne inteligence;

106. poudarja, da so v zadnjih letih številna evropska digitalna podjetja kupili ameriški tehnološki velikani; pozdravlja ambicijo Komisije, da bo obravnavala prevzeme, ki bi lahko pomembno vplivali na učinkovito konkurenco na digitalnem trgu, in omejila plenilske prevzeme; vendar poudarja, da je lahko v nekaterih primerih prevzem glavni cilj ustanoviteljev zagonskih podjetij in njihovih financerjev, saj je to legitimna metoda za izkoriščanje njihovih zamisli;

107. poudarja, da medtem ko ZDA in Kitajska poskušajo pospešiti uporabo tehnologij umetne inteligence v javnem in zasebnem sektorju, sprejemanje umetne inteligence v EU zaostaja; navaja, da je leta 2020 tehnologije umetne inteligence uporabljalo le 7 % podjetij EU z vsaj 10 zaposlenimi, pri čemer so bile med državami članicami in med različnimi poslovnimi sektorji velike razlike;

108. je zaskrbljen, ker imajo tako ZDA kot Kitajska enoten digitalni trg s skladnimi pravili, medtem ko enotni digitalni trg EU še vedno ni dokončno vzpostavljen in ima še vedno neupravičene ovire; poudarja, da bi lahko sedanja priprava 27 različnih nacionalnih strategij za umetno inteligenco še upočasnila razvoj proizvodov in storitev umetne inteligence;

109. poudarja tudi, da nedoslednosti v pravu EU, prekrivanje različnih zakonodajnih pobud, protislovja med zakonodajo EU in nacionalnimi zakonodajami, različne pravne razlage in pomanjkljivo izvrševanje v državah članicah preprečujejo enake konkurenčne pogoje in lahko povzročijo pravno negotovost za evropska podjetja, ki morda težko ugotovijo, ali so njihove inovacije na področju umetne inteligence skladne s pravom EU;

110. ugotavlja, da je razdrobljenost trga za podjetja na področju umetne inteligence še večja zaradi pomanjkanja skupnih standardov in norm v nekaterih sektorjih, tudi glede interoperabilnosti podatkov; obžaluje regulativno tveganje, ki izhaja iz zamude pri pripravi zakonodaje, kot je uredba o zasebnosti in elektronskih komunikacijah; kot primer izpostavlja, da se razvijalci umetne inteligence v EU spopadajo s podatkovnim izzivom, s katerim se ne srečujejo niti njihovi ameriški niti kitajski kolegi, in sicer zaradi nepopolnega evropskega enotnega digitalnega trga; ugotavlja, da pogosto nimajo dovolj visokokakovostnih podatkov za učenje in preverjanje svojih algoritmov, poleg tega pa jih ovira to, da ni sektorskih podatkovnih prostorov in medsektorske interoperabilnosti, ter omejitve čezmejnih podatkovnih tokov;

c) Naložbe

111. ugotavlja, da evropska podjetja in vlade veliko manj vlagajo v tehnologije umetne inteligence kot ZDA in Kitajska; poudarja, da se zasebne naložbe v industrijo umetne inteligence v EU sicer zelo povečujejo, vendar EU še vedno bistveno premalo vlaga v umetno inteligenco v primerjavi z drugimi vodilnimi regijami, saj ZDA in Kitajska predstavljajo več kot 80 % od 25 milijard EUR letnih naložb lastniškega kapitala v umetno inteligenco in blokovne verige, medtem ko delež EU znaša le 7 % oziroma približno 1,75 milijarde EUR; poudarja, da likvidnost finančnih trgov EU za tehnološka podjetja še vedno ni dovolj velika glede na primerljive trge v ZDA; ugotavlja, da so bile ZDA leta 2019 z 12,6 milijarde EUR v primerjavi s 4,9 milijarde EUR za Kitajsko in 2,8 milijarde EUR za EU vodilne tudi pri financiranju s tveganim in zasebnim kapitalom, kar je še zlasti pomembno za zagonska podjetja na področju umetne inteligence; ugotavlja, da posledično evropski podjetniki na področju umetne inteligence odidejo čez Atlantik, da bi svoja podjetja razširili v ZDA;

112. navaja, da so letne javne naložbe EU v umetno inteligenco skupaj z nacionalnimi pobudami ocenjene na 1 milijardo EUR ( 35 ) , kar je znatno nižje kot 5,1 milijarde EUR, ki jih letno vložijo v ZDA, in kot 6,8 milijarde EUR, ki jih letno vložijo na Kitajskem ( 36 ) ; vendar ugotavlja, da se je javno financiranje EU za raziskave in inovacije na področju umetne inteligence med letoma 2017 in 2020 v primerjavi s prejšnjim obdobjem povečalo za 70 %, leta 2019 pa je EU v umetno inteligenco vložila med 7,9 in 9 milijard EUR, kar je 39 % več kot v prejšnjem letu; je seznanjen z načrtom Komisije za nadaljnje povečanje naložb prek programa za digitalno Evropo, programa Obzorje Evropa, programa InvestEU, evropskih strukturnih in investicijskih skladov, Evropskega investicijskega sklada, Instrumenta za povezovanje Evrope na področju telekomunikacij in različnih programov kohezijske politike, ki bodo dodatno dopolnjeni z 20-odstotnim minimalnim ciljem odhodkov za digitalni prehod v nacionalnih načrtih za okrevanje in odpornost, kot so se dogovorile Komisija in države članice v okviru mehanizma za okrevanje in odpornost, ter ta načrt pozdravlja; vendar opozarja na nedavno poročilo Evropske investicijske banke, v katerem je naložbena vrzel EU na področju umetne inteligence in tehnologije blokovnih verig ocenjena na 5–10 milijard EUR na leto;

113. poudarja, da se podjetja na področju umetne inteligence v EU soočajo z močno konkurenco pri iskanju kvalificiranih delavcev, poleg tega pa 42 % prebivalcev EU nima osnovnih digitalnih znanj in spretnosti; poudarja, da je treba usposobiti in privabiti bistveno večje število dobro izobraženih diplomantov, tudi žensk, za delo v digitalnem sektorju;

114. ugotavlja, da ima EU sicer odlično skupnost raziskovalcev na področju umetne inteligence, vendar beg možganov še vedno ostaja težava; poudarja, da so potrebni ukrepi za pritegnitev vodilnih raziskovalcev; ugotavlja, da je EU leta 2020 porabila le 2,32 % svojega BDP za raziskave in razvoj, medtem ko so ZDA porabile 3,08 %; opozarja, da morajo države članice spoštovati svojo zavezo, da bodo v raziskave in razvoj vložile 3 % svojega BDP, da bi zagotovile strateško avtonomijo Unije na digitalnem področju;

115. ugotavlja, da je treba digitalno infrastrukturo EU bistveno posodobiti, saj se lahko samo 25 % ljudi v EU poveže z omrežjem 5G v primerjavi s 76 % ljudi v ZDA; ugotavlja, da EU nima zadostne visokozmogljive digitalne infrastrukture z interoperabilnimi podatkovnimi prostori, visoko hitrostjo in količino prenosa, zanesljivostjo in kratkimi zamudami; poudarja, da je treba evropske ekosisteme umetne inteligence podpreti z grozdi odličnosti;

d) Zaključek

116. ugotavlja, da so ZDA na splošno vodilne na področju umetne inteligence v številnih kategorijah, saj imajo podjetja s sedežem v ZDA vodilno vlogo pri tehnološkem razvoju na področjih, kot so računalništvo v oblaku in visokozmogljivostno računalništvo, pa tudi pri naložbah, privabljanju talentov, raziskav in infrastrukture na področju umetne inteligence; vendar poudarja, da Kitajska, ki je pred nekaj leti glede na vse kazalnike še močno zaostajala za ZDA, hitro zmanjšuje zaostanek; priznava, da imata obe državi prednost dejanskega enotnega trga in močnejšo zavezanost, da ostaneta vodilni na področju umetne inteligence;

117. poudarja, da akterji EU kljub močnemu stališču EU na področju industrijske programske opreme in robotike v številnih kategorijah še vedno zaostajajo za ameriškimi in kitajskimi kolegi; poudarja, da bi morala EU razviti ambiciozen načrt za evropsko umetno inteligenco, osredotočeno na človeka; ugotavlja pa, da ima EU prednost pri regulativnih pristopih; poudarja, da se uresničljiva strategija EU za večjo konkurenčnost na področju umetne inteligence med drugim osredotoča na raziskave in inovacije, znanja in spretnosti, infrastrukturo ter naložbe, hkrati pa si prizadeva za vzpostavitev horizontalnega in inovacijam prijaznega regulativnega okvira za razvoj in uporabo umetne inteligence, ki bo usmerjen v prih