Mišljenje Europskog odbora regija – Bijela knjiga o umjetnoj inteligenciji – Europski pristup izvrsnosti i izgradnji povjerenja

(2020/C 440/14)

Izvjestitelj: Guido RINK (NL/PES), član Izvršnog vijeća Emmena Referentni dokument: Bijela knjiga o umjetnoj inteligenciji – Europski pristup izvrsnosti i izgradnji povjerenja COM(2020) 65 final

PREPORUKE O POLITIKAMA

EUROPSKI ODBOR REGIJA

Opće napomene

1. napominje da je 19. veljače 2020. Europska komisija (dalje u tekstu: Komisija) objavila digitalnu strategiju za razdoblje od 2020. do 2025. godine. U Bijeloj knjizi o umjetnoj inteligenciji utvrđuje se vizija Komisije o ključnim mjerama politike i ulaganjima u području umjetne inteligencije. Komisija smatra da Europa može postati globalni predvodnik u području umjetne inteligencije;

3. ističe da je Komisija izjavila da joj je cilj osmisliti pristup razvoju i upotrebi umjetne inteligencije koji je antropocentričan, etičan, uključiv i siguran te kojim se poštuju vrijednosti koje EU smatra svojima;

4. podsjeća da se Bijela knjiga o umjetnoj inteligenciji sastoji od dva glavna dijela: promicanja razvoja i uvođenja umjetne inteligencije te reguliranja njezinih etičkih aspekata i pouzdanosti;

5. pozdravlja „Bijelu knjigu o umjetnoj inteligenciji – Europski pristup izvrsnosti i izgradnji povjerenja”. OR prepoznaje važnost rasprave o umjetnoj inteligenciji uoči donošenja politika Komisije u tom području. OR ističe da bi rado vidio da se u Bijeloj knjizi ističe i uloga regionalnih i lokalnih vlasti kao ključnih partnera, proizvođača, korisnika i promicatelja inovacija u razvoju umjetne inteligencije;

6. u tom kontekstu podsjeća na mišljenje OR-a o umjetnoj inteligenciji od 6. i 7. veljače 2019. ( 3 )

7. ističe da je umjetna inteligencija već dio naših života i da će imati sve važniju ulogu u preobrazbi naših društava. Ona ima velik potencijal za europsko društvo, poduzeća i građane. Inovacije u području umjetne inteligencije nisu samo doprinos gospodarstvu nego i pospješuju rješavanje društvenih i okolišnih problema;

8. smatra da je primjena umjetne inteligencije važna ne samo na nacionalnoj razini već, prije svega, na lokalnoj i regionalnoj. Lokalne i regionalne vlasti imaju ulogu, među ostalim, u promicanju ekosustava umjetne inteligencije u svojim regijama te u promicanju i ostvarivanju ulaganja u umjetnu inteligenciju;

9. naglašava da je umjetna inteligencija složeno područje politike koje ne postoji samostalno. Ono je povezano s nizom drugih politika koje provodi Komisija;

10. ističe da bi Bijela knjiga o umjetnoj inteligenciji i mjere politike koje iz nje proizlaze trebale biti povezane s komunikacijom „Izgradnja digitalne budućnosti Europe”, koja je predstavljena usporedno s Bijelom knjigom o umjetnoj inteligenciji, i komunikacijom „Europska strategija za podatke”. Osim toga, Bijela knjiga trebala bi biti povezana s nizom drugih politika Komisije, kao što su „Program vještina za Europu” ( 4 ) i „Preporuka o zajedničkom Unijinom paketu mjera za primjenu tehnologije i podataka radi suzbijanja i prevladavanja krize prouzročene bolešću COVID-19”, posebno u vezi s mobilnim aplikacijama i upotrebom anonimiziranih podataka o mobilnosti ( 5 )

11. naglašava da bi preporuke OR-a trebalo u mjeri u kojoj je to relevantno razmotriti zajedno s tim europskim dokumentima o oblikovanju politika;

12. pozdravlja pristup Komisije koji u svojoj biti podrazumijeva antropocentričan razvoj umjetne inteligencije i ambiciju da bude predvodnik u utvrđivanju etičkih standarda. S tim u vezi Komisija s pravom ističe da koristi umjetne inteligencije ovise o povjerenju javnosti u umjetnu inteligenciju;

13. insistira, međutim, na tome da bi se rasprava o budućim mjerama politike za izgradnju povjerenja u umjetnu inteligenciju trebala baviti i pitanjima vlasništva nad podacima, algoritmima, platformama, jamčenjem javnih vrijednosti na platformama i time tko najviše zarađuje od primjena umjetne inteligencije i tko plaća cijenu za to (i je li to društveno prihvatljivo);

14. ističe da, imajući na umu da je umjetna inteligencija povezana s brojnim drugim područjima politika, postoji rizik da bi se usklađenost između tih područja politika mogla izgubiti te da bi se ta područja mogla razvijati izolirano;

15. predlaže Komisiji da utvrdi plan i pristup za promicanje usklađenosti među različitim područjima politika;

Iskorištavanje mogućnosti

16. naglašava da bi europske politike trebale promicati izgradnju multidisciplinarnih lokalnih i regionalnih mreža građana, javnih uprava, ustanova znanja i poduzeća i u njih ulagati. OR smatra da inovacijski centri koje je predložila Komisija imaju središnju ulogu u tom pogledu;

17. ističe da umjetna inteligencija može doprinijeti rješavanju društvenih izazova u području, primjerice, zdravstva (borba protiv globalne krize uzrokovane bolešću COVID-19 glavni je aktualni primjer), sigurnosti, klime, mobilnosti i prometa, socijalne potpore, visokotehnološke industrije, maloprodaje, poljoprivrede, turizma i javnih usluga;

18. skreće pozornost na činjenicu da umjetna inteligencija ima potencijal za otvaranje novih radnih mjesta i poticanje novog poduzetništva. Komisija s pravom priznaje da važan preduvjet predstavlja činjenica da se građani mogu osloniti na tehnologiju. Strateški okvir EU-a koji se bazira na temeljnim vrijednostima trebao bi ulijevati povjerenje i potaknuti poduzeća da razvijaju rješenja koja se temelje na umjetnoj inteligenciji;

19. slaže se sa stajalištem o važnosti jednakih uvjeta na europskom tržištu. Posebnu pozornost treba posvetiti pristupu malih i srednjih poduzeća (MSP) i novoosnovanih poduzeća umjetnoj inteligenciji. Ona su glavni pokretač lokalnih i regionalnih gospodarstava. Europski digitalnoinovacijski centri i budući regulatorni okviri i politike imaju odlučujuću ulogu u promicanju jednakih mogućnosti pristupa umjetnoj inteligenciji, posebno u potpori mikropoduzećima i malim i srednjim poduzećima u pristupu umjetnoj inteligenciji;

20. shvaća da Komisija želi iskoristiti snažan položaj Europe na (postojećim) industrijskim i profesionalnim tržištima ( 6 ) , no želi naglasiti da se ta strategija ne bi smjela provoditi nauštrb produktivnosti, inovacijskih sposobnosti i obilježja lokalnih i regionalnih ekosustava;

21. ističe da su lokalne i regionalne vlasti suočene s brojnim društvenim izazovima u tim ekosustavima. One mogu imati važnu ulogu u ubrzavanju učinka inovacija na te društvene izazove;

22. ističe da su lokalne i regionalne vlasti u najboljem položaju da doprinesu stvaranju povoljnog okruženja za povećanje ulaganja u umjetnu inteligenciju u predstojećim godinama i širenje povjerenja u umjetnu inteligenciju na različite sastavnice lanaca vrijednosti. Razlog tomu je što su najbliže upotrebi umjetne inteligencije u praksi i mogu poticati stvaranje lokalnih multidisciplinarnih mreža;

23. smatra da će za poticanje privatnih i javnih ulaganja biti potrebna znatna potpora EU-a te da će biti potrebno osigurati sredstva iz programa Digitalna Europa, Obzor Europa i europskih strukturnih i investicijskih fondova kako bi se zadovoljile potrebe lokalnih ekosustava;

24. smatra da bi bespovratna sredstva trebala biti usmjerena na posebne primjene umjetne inteligencije koje su primjerene za provedbu u velikom opsegu. Za optimalno iskorištavanje mogućnosti koje pruža umjetna inteligencija potrebno je promicati male projekte i ograničiti njihovo financijsko opterećenje kako bi sudjelovanje u projektima koji se financiraju iz europskih fondova postalo privlačnije za lokalne i regionalne vlasti;

25. podržava pristup razvoju umjetne inteligencije u okviru digitalnoinovacijskih centara. U tom bi kontekstu bespovratna sredstva za digitalnoinovacijske centre trebala biti usmjerena na poticanje lokalnih i regionalnih ekosustava;

26. pozdravlja zauzimanje Komisije za razvoj proizvoda temeljenih na umjetnoj inteligenciji u javnom sektoru ( 7 )

27. međutim, smatra da zauzimanje Komisije za razvoj umjetne inteligencije u javnom sektoru ne bi smjelo biti ograničeno na tehnologiju umjetne inteligencije koja je već dokazana u unaprijed definiranim sektorima. Naime, lokalne i regionalne vlasti kao „početni potrošači” mogu imati važnu ulogu u ubrzavanju (nove) tehnologije umjetne inteligencije;

28. traži od Komisije da pozove sva javna tijela, uključujući lokalna i regionalna, da provedu rigorozne procjene učinka sustava umjetne inteligencije koji se primjenjuju u javnom sektoru na temeljna prava. Nadležna tijela trebala bi izbjegavati upotrebu bilo kakvih tehnologija za nadzor zasnovanih na umjetnoj inteligenciji, posebno u izvanrednim situacijama, prije nego što budu poznati rezultati procjene učinka i prije donošenja potrebnih rješenja;

29. poziva na razvoj okvira za javnu nabavu i paketa pravnih instrumenata, kao što su standardni uvjeti javne nabave, koji lokalnim i regionalnim vlastima nude prilike za optimalno iskorištavanje mogućnosti;

30. ističe da vrijednost podataka počiva u mogućnosti njihova ponovnog korištenja, uključujući u primjenama umjetne inteligencije. Međusektorska sigurna razmjena podataka potiče inovacije u području umjetne inteligencije. OR poziva Komisiju da upotrijebi Opću uredbu o zaštiti podataka (EU) 2016/679 i ocijeni je li potreban dodatni regulatorni okvir posebno namijenjen umjetnoj inteligenciji za jednostavnu i pouzdanu razmjenu i ponovnu uporabu podataka između poduzeća i javnih tijela (B2G), posebno kada je riječ o podacima od javnog interesa, kao u slučaju pandemije bolesti COVID-19. Pritom se pokazalo i kako je važno da javna tijela koriste podatke poduzeća. Taj bi potencijal trebalo iskoristiti jer se njime može smanjiti administrativno opterećenje za poduzeća, a u mnogim slučajevima, primjerice u kontekstu ekonomije platformi, javna tijela samo na taj način mogu ispuniti svoje zakonske obveze;

31. smatra da je potrebno na europskoj razini ulagati u zajedničku sigurnu osnovnu infrastrukturu, podatkovnu arhitekturu i standarde kvalitete u pogledu sigurnosti, skupova podataka i statističkih podataka. Time se snižava početni prag za primjenu umjetne inteligencije i povećava digitalno povjerenje poticanjem razvoja i upotrebe umjetne inteligencije;

32. čvrsto vjeruje da bi se primjene umjetne inteligencije razvijene uz pomoć javnih sredstava također trebale u što većoj mjeri vratiti društvu. Takve primjene umjetne inteligencije u načelu bi trebalo razvijati primjerice u uvjetima otvorenog koda, uz istodobno prepoznavanje potrebe za financiranjem razvoja;

Zakonodavstvo i politika: pristup koji se temelji na učenju

33. sa zanimanjem primjećuje napredak postignut u definiranju umjetne inteligencije, koji se odražava u ažuriranoj definiciji ( 8 ) koju je dala neovisna stručna skupina na visokoj razini koju je osnovala Europska komisija. OR smatra da ta definicija bolje odražava tehničke mogućnosti umjetne inteligencije, ali da bi definiranje umjetne inteligencije trebao biti kontinuirani proces tijekom kojeg treba voditi računa o kontekstu u kojem umjetna inteligencija djeluje i držati korak s društvenim razvojem u tom području, a da se pritom iz vida ne izgubi veza između Komisijina ekosustava izvrsnosti i ekosustava povjerenja;

34. smatra da se sustav umjetne inteligencije sastoji od kombinacije tehničkih elemenata koji povezuju podatke, algoritme i računalnu snagu s društvenim praksama, društvom, identitetom i kulturom. Definiciju takvog dinamičnog društveno-tehničkog skupa trebalo bi stoga redovito ažurirati kako bi ona točno odražavala sve veći društveni učinak umjetne inteligencije, a istodobno utvrđivati s njom povezane izazove i mogućnosti koji se brzo mijenjaju;

35. napominje da Komisija smatra da su ključni elementi ekosustava povjerenja zaštita temeljnih prava, prava potrošača, transparentnost upotrebe tehničkih sastavnih dijelova i pravila o sigurnosti proizvoda i odgovornosti za njih. Ti su ključni elementi temelj budućeg regulatornog okvira EU-a za umjetnu inteligenciju;

36. ističe da se strojno učenje u industriji umjetne inteligencije temelji na ljudskom programiranju, što bi moglo dovesti do pristranosti velikih razmjera. Stoga poziva EU da uvede mehanizme kojima će se u razvoju i primjeni tehnologije umjetne inteligencije jamčiti rodna i rasna jednakost i uključivost, kao i ona u pogledu svjetonazora;

37. skreće pozornost na činjenicu da kazneno pravo pruža važan oblik utvrđivanja standarda protiv teških povreda temeljnih prava građana te nezakonitog i tajnog nadzora građana primjenom umjetne inteligencije;

38. slaže se s Komisijom da su primjene umjetne inteligencije već regulirane širokim i visokokvalitetnim okvirom zakonodavstva EU-a i etičkim načelima. Važni primjeri su zakonodavstvo o sigurnosti proizvoda i odgovornosti za njih, pravima potrošača, temeljnim pravima, te zakonodavstvo za suzbijanje diskriminacije i pravo na zaštitu osobnih podataka;

39. naglašava da moramo priznati da postojeći zakonodavni okvir nije posebno prilagođen primjenama umjetne inteligencije, što znači da trenutačno postoji rupa u zakonu. Trebalo bi pažljivo ispitati u kojim je područjima potrebno dodatno zakonodavstvo kako bi se ojačalo povjerenje građana u umjetnu inteligenciju. Ključni element svakog budućeg regulatornog okvira koji se primjenjuje na umjetnu inteligenciju uvođenje je zaštitnih mjera kojima bi trebalo osigurati da umjetna inteligencija ne bude pristrana i da ne reproducira diskriminaciju na temelju spola, etničke pripadnosti, dobi, invaliditeta ili spolne orijentacije;

40. također ističe potrebu da nijedan od službenih jezika EU-a ne bude diskriminiran i ugrožen zbog uporabe umjetne inteligencije te da podaci i jezični skupovi budu dostupni na svim jezicima EU-a;

41. nadalje ustraje na važnosti rodno osjetljivog programiranja i poziva na ravnopravno sudjelovanje svih spolova u osmišljavanju, provedbi, evaluaciji i raspravi o etici i normama tehnologija povezanih s umjetnom inteligencijom. Poticanje sudjelovanja djevojčica i žena u području prirodnih znanosti, tehnologije, inženjerstva, umjetnosti i matematike (STEAM) ključno je za njihovo potpuno uključivanje u procese povezane s umjetnom inteligencijom, odnosno općenito u digitalno gospodarstvo;

42. ističe da bi tim regulatornim okvirom trebalo osigurati dovoljno spomenutih ključnih elemenata, a istodobno omogućiti prostor i fleksibilnost za inovacije. Pritom moramo biti svjesni izazova koje predstavljaju tumačenje i funkcioniranje sustava umjetne inteligencije te ishoda i društvenih učinaka tih sustava;

43. napominje da umjetna inteligencija nije samostalna tehnologija, već je povezana s drugim tehnologijama i znanošću, kao što su bihevioristička znanost, kvantno računalstvo, internet stvari, uvođenje mreža 5G i 6G, poslovni modeli i digitalne platforme;

44. smatra da treba uzeti u obzir činjenicu da je umjetna inteligencija tehnologija koja je još u razvoju i koja još nije potpuno integrirana u društvo;

45. ističe da se političari, oblikovatelji politika i društvo suočavaju s temeljnim izazovom: kako postići da omjer između željenih i neželjenih ishoda i učinaka prevagne u željenom smjeru? Kako osigurati dovoljno prostora za iskorištavanje mogućnosti umjetne inteligencije i jačanje povjerenja građana u umjetnu inteligenciju? S napretkom primjene umjetne inteligencije, posebno prediktivnih algoritama, u mnogim javnim i vladinim institucijama (pravosudnim tijelima, tijelima kaznenog progona, vojsci itd.) postoji hitna potreba za regulatornim okvirom kojim se predviđaju strogi kriteriji nužnosti i proporcionalnosti, pružaju odgovarajuće zaštitne mjere i pravna sredstva te jasno definiraju nadležnosti i odgovornost, kao i odgovarajući javni nadzor;

46. ističe da bi regionalne i lokalne vlasti trebale imati važnu ulogu u oblikovanju zakonodavstva i politika u području umjetne inteligencije. Bliže su građanima i stoga raspolažu korisnijim podacima nego nacionalne vlade. Zbog toga bi regionalne i lokalne vlasti trebalo više uključiti u razvoj politika i zakonodavstva na osnovi Bijele knjige;

47. podržava stajalište Komisije da se, s obzirom na brz razvoj umjetne inteligencije, u regulatornom okviru mora ostaviti prostora za buduće promjene, što, po mišljenju OR-a, ne iziskuje samo prilagodljivo zakonodavstvo i prilagodljiv zakonodavni postupak nego i kritički stav Komisije prema funkcioniranju vlastitog sustava i socijalnu inovaciju u tom sustavu;

48. insistira da bi u tom kontekstu regionalne i lokalne vlasti trebale imati dovoljno prostora za eksperimentiranje (uključujući izradu „prototipova politika”) i učenje o tome kako osmisliti politike za te temeljne izazove na najučinkovitiji i najdjelotvorniji način;

49. potiče Komisiju da osmisli postupovni politički okvir usmjeren na primjenu, u najvećoj mogućoj mjeri, postojećih propisa, ali i na daljnji razvoj buduće politike o umjetnoj inteligenciji i regulatornog okvira EU-a tijekom vremena. U sklopu tog političkog okvira trebalo bi i koordinirati napore na europskoj, nacionalnoj i regionalnoj razini te osigurati suradnju između privatnog i javnog sektora. U tu bi se svrhu osnivanjem agencije EU-a za umjetnu inteligenciju doprinijelo učinkovitom nadzoru i koordinaciji pitanja povezanih s umjetnom inteligencijom na svim razinama upravljanja, od europske do lokalne;

50. podržava pristup Komisije u pogledu donošenja dodatnih propisa za visokorizičnu umjetnu inteligenciju;

51. međutim, smatra da su glavni kriteriji za utvrđivanje je li umjetna inteligencija rizična sljedeći: u kojoj mjeri ljudi mogu utjecati na donošenje odluka i utjecaj tih odluka na prava i stvarno ponašanje građana;

52. poziva na to da se buduće zakonodavstvo i politika posebno usredotoče na transparentnost i objašnjivost algoritama te na odgovornost ( 9 ) , pravednost i obveze onih koji uvode umjetnu inteligenciju, posebno ako to ima posljedice za prava ili stvarno ponašanje građana ili na njih utječe;

53. ističe da građani imaju pravo znati, izraženo razumljivim jezikom, na temelju kojih podataka i algoritama se utječe na njihova prava ili stvarno ponašanje kako bi se mogli na odgovarajući način obraniti i, ako je potrebno, imati učinkovitu pravnu zaštitu. Osim toga, sustav odlučivanja trebao bi uključivati mogućnost da se nekim pitanjem bavi stvarna osoba. Prema potrebi bi trebalo naglasiti ulogu nadležnih tijela;

54. smatra da je upotreba tehnologija umjetne inteligencije izrazito važna i u pogledu radnih uvjeta i dobrobiti radnika. S obzirom na to, pridružuje se pozivu europskih socijalnih partnera na „minimalizaciju i transparentnost podataka te uvođenje jasnih pravila o obradi osobnih podataka radi ograničavanja rizika od nametljivog praćenja i zlouporabe osobnih podataka” ( 10 ) kako bi se osiguralo poštovanje ljudskog dostojanstva. U tom se kontekstu Odbor slaže da je važno predstavnicima radnika omogućiti da se bave pitanjima povezanima s podacima, privolom, zaštitom privatnosti i nadzorom, povezati prikupljanje podataka s konkretnom i transparentnom svrhom i zajamčiti transparentnost kada se sustavi umjetne inteligencije upotrebljavaju u postupcima povezanima s ljudskim resursima;

55. slaže se s uvjetima u pogledu podataka za učenje koje Komisija razmatra. Vođenje evidencija sredstvo je provjere usklađenosti s propisima. Međutim, OR smatra da bi trebalo što je više moguće ograničiti s tim povezano administrativno opterećenje;

56. podržava stajalište Komisije da se „cilj pouzdane, etične i antropocentrične umjetne inteligencije može postići samo uz odgovarajuće sudjelovanje čovjeka u visokorizičnim primjenama umjetne inteligencije”;

57. insistira da bi se buduće zakonodavstvo i praćenje usklađenosti trebali primjenjivati na cijeli životni ciklus primjene umjetne inteligencije;

58. podržava stajalište Komisije da ljudski nadzor pomaže u očuvanju autonomije čovjeka, no poziva Europsku komisiju da ocijeni etičke rizike, posebno one povezane s pristranostima uz primjenu umjetne inteligencije, te da predloži jasna rješenja;

59. poziva na to da se u okviru propisa o umjetnoj inteligenciji u obzir uzmu kratkoročni i dugoročni učinci upotrebe tih tehnologija na okoliš tijekom njihova cijelog životnog ciklusa i u cijelom lancu opskrbe;

60. primio je na znanje nacrt izvješća Odbora za pravna pitanja Europskog parlamenta ( 11 ) . OR je posebno uzeo u obzir prijedlog da bi svaka država članica trebala imenovati nacionalno nadzorno tijelo odgovorno za osiguravanje, ocjenjivanje i praćenje usklađenosti sa zakonodavstvom te raspravljanje i razmjenu stajališta, u bliskoj suradnji s relevantnim dionicima i civilnim društvom;

61. podržava stajalište Komisije da je za provjeru i osiguravanje poštovanja obveznih zahtjeva za visokorizične primjene potrebna objektivna prethodna procjena sukladnosti;

62. slaže se s Komisijom da se utjecaji korištenja sustava umjetne inteligencije za daljinsku biometrijsku identifikaciju mogu znatno razlikovati ovisno o svrsi, kontekstu i opsegu primjene;

63. traži razvijanje obvezujućeg i nedvosmislenog okvira za kvalitetu kako bi se usmjerile takve dalekosežne primjene umjetne inteligencije. Taj bi okvir trebao biti usredotočen na standarde i metode kojima se sprečava nezakonita diskriminacija i stigmatizacija pojedinaca i stanovništva. OR podržava pristup Komisije da se o tom pitanju provede opsežna rasprava;

64. smatra da etika, uz zakonodavstvo, ima važnu ulogu u projektiranju umjetne inteligencije (integrirana etičnost). Moramo biti svjesni da etika nije povezana s određenim tehničkim alatom (kao što je umjetna inteligencija), već predstavlja društveni i regulatorni kontekst u kojem se tehnički alat primjenjuje;

65. smatra da će buduća politika za ekosustav povjerenja imati više koristi od šireg pristupa u odnosu na puko donošenje zakonodavstva o visokorizičnoj umjetnoj inteligenciji. Ta će politika iziskivati kontinuiran i sustavan društveno-tehnički pristup, u kojem tehnologiju treba promatrati iz svih perspektiva i kroz različite prizme. To zahtijeva multidisciplinarni pristup oblikovanju politika i donošenju zakonodavstva u kojem oblikovatelji politika, pripadnici akademske zajednice iz različitih područja, socijalni partneri, poduzeća i nevladine organizacije stalno surađuju i prate razvoj događaja te jednako transparentno dijele svoje zaključke;

Razvoj znanja

66. ističe da je, kako bi se promicao prijelaz na društvo u kojem umjetna inteligencija ima važnu ulogu, neophodno da se predstojeći prijedlozi za ažurirani program vještina i za akcijski plan za digitalno obrazovanje prošire na cjelokupni lanac učenja u osnovnoškolskom, srednjoškolskom, strukovnom i visokoškolskom obrazovanju te cjeloživotnom učenju. Nastavnim planovima i programima digitalnog obrazovanja trebalo bi promicati aktivno građanstvo, produbljivati kritičko razmišljanje i osnaživati građane da se od najranije faze snalaze sa sve većom interakcijom s umjetnom inteligencijom;

67. poziva na to da obrazovne mjere i mjere osposobljavanja također budu usmjerene na jačanje digitalnih vještina građana i stručnjaka, kako u okviru obrazovnog sustava tako i u okviru postojećeg strukovnog osposobljavanja. Očekuje se da će digitalna revolucija dovesti do znatnog povećanja broja osoba zaposlenih u digitalno relevantnim zanimanjima. Istodobno, cjeloživotno tehnološko osposobljavanje u području umjetne inteligencije nužno je ne samo za tehnička zanimanja koja proizlaze iz studija STE(A)M-a već i za sve radnike (uključujući i zaposlenike javnih uprava) kojima će biti potrebno znanje o umjetnoj inteligenciji u mnogim drugim područjima rada. Stoga se osposobljavanje treba usmjeriti ne samo na trenutačne potrebe tržišta rada povezane s umjetnom inteligencijom već i na tehnološku pismenost svih radnika jer se time omogućuje prilagodba dugoročnoj perspektivi potreba za osposobljavanjem u području umjetne inteligencije;

68. ističe da je osposobljavanje političara i oblikovatelja politika, ne samo u području upotrebe umjetne inteligencije nego i u pogledu etičkih odredbi i standarda, ključno i da će se njime poboljšati demokratsko donošenje odluka. OR preporučuje osposobljavanje koje podrazumijeva ažuriranje na relativno visokoj razini i ima dva cilja: (1) mogućnost komuniciranja s tržištem na razini ravnopravnih sugovornika i (2) mogućnost upravljanja učincima umjetne inteligencije na društvo i demokratski proces;

69. naglašava da je, kako bi se osiguralo da umjetna inteligencija odražava naše temeljne vrijednosti i prava te da se izbjegne rodno pristrano programiranje, ključno diversificirati tehnološki sektor i potaknuti učenike, a posebno učenice, da se uključe u tečajeve iz područja STE(A)M-a;

Višerazinsko upravljanje i javno-privatno partnerstvo

70. podržava potrebu za zajedničkim europskim pristupom umjetnoj inteligenciji kako bi se postigao dostatni razmjer i izbjegla fragmentacija jedinstvenog tržišta;

71. naglašava, međutim, da se europski pristup upravljanju mora temeljiti na otvorenom, uključivom i decentraliziranom društvu u kojem svi mogu sudjelovati i imaju mogućnost da budu kreativni i poduzetni;

72. tvrdi da je glavno pitanje kako se politika, građani te mala i srednja poduzeća mogu učinkovito uključiti u razvoj primjena umjetne inteligencije, etike i propisa, te koju ulogu razumijevanje očekivanih koristi od ekosustava može imati za (pre)oblikovanje politika i propisa;

73. ističe važnu ulogu decentraliziranih mreža građana i lokalnih gospodarstava u uključivanju politike, građana i poduzeća u razvoj primjena umjetne inteligencije, te etike i propisa u vezi s njom. Snaga lokalnih mreža i zajednica upravo leži u otvorenoj, međusobno povezanoj i prilagođenoj lokalnoj i regionalnoj suradnji kojom se potiču inovacije i razvoj novih gospodarstava;

74. smatra da bi u sklopu budućeg europskog političkog okvira trebalo koordinirati napore na europskoj, nacionalnoj i regionalnoj razini, promicati razmjenu znanja i osigurati suradnju između privatnog i javnog sektora. To zahtijeva višerazinsko upravljanje koje povezuje mreže na lokalnoj, regionalnoj, nacionalnoj i europskoj razini.

Bruxelles, 14. listopada 2020. Predsjednik Europskog odbora regija Apostolos TZITZIKOSTAS

(1) COM(2020) 67.

(2) COM(2020) 66.

(3) SEDEC VI/046 (SL C 168, 16.5.2019., str. 11.).

(4) COM(2016)381.

(5) Preporuka EU 2020/518.

(6) Poglavlje 2. Bijele knjige o umjetnoj inteligenciji.

(7) Poglavlje 4F.

(8) https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341

(9) Maranke Wieringa, What to account for when accounting for algorithms (Što treba objasniti kad objašnjavamo algoritme), Sveučilište u Utrechtu, 20. siječnja 2020.

(10) Autonomni okvirni sporazum europskih socijalnih partnera o digitalizaciji (https://www.etuc.org/system/files/document/file2020-06/Final%2022%2006%2020_Agreement%20on%20Digitalisation%202020.pdf).

(11) Nacrt izvješća izvjestitelja Ibána Garcíje del Blanca od 21. travnja 2020. s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija (2020/2012(INL)).