C 517/56

Mišljenje Europskog gospodarskog i socijalnog odbora o Komunikaciji Komisije Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru i Odboru regija – Poticanje europskog pristupa umjetnoj inteligenciji

(COM(2021) 205 final)

(2021/C 517/08)

Izvjestiteljica: Marie-Françoise GONDARD-ARGENTI

Zahtjev za savjetovanje: Europska komisija, 1.7.2021. Pravna osnova: članak 304. Ugovora o funkcioniranju Europske unije Datum usvajanja u Stručnoj skupini: 2.9.2021. Datum usvajanja na plenarnom zasjedanju: 22.9.2021. Plenarno zasjedanje br.: 563 Rezultat glasanja (za/protiv/suzdržani): 235/0/7

1. Zaključci i preporuke

1.1. Europski gospodarski i socijalni odbor (EGSO) pozdravlja izmijenjeni koordinirani plan o umjetnoj inteligenciji, koji je rezultat zajedničkog rada Europske komisije i država članica, te poziva na njegovu brzu provedbu mobilizacijom svih relevantnih dionika.

1.2. EGSO podržava sveobuhvatni pristup koji Komisija primjenjuje u svojoj strategiji za uključivu i održivu umjetnu inteligenciju, koja se temelji na stvaranju ekosustavâ izvrsnosti i povjerenja. Prijedlog plana i prijedlog regulatornog okvira (svaki od tih prijedloga predmet je zasebnog mišljenja) dva su osnovna elementa za pozicioniranje Europe kao svjetskog aktera u području umjetne inteligencije.

1.3. Kako bi se ostvarila očekivana gospodarska i socijalna korist, kao i korist u području okoliša i javnog zdravlja, za sve europske građane bez diskriminacije, plan mora dati novi zamah obrazovanju, uključivanjem tema koje se bave etikom i okolišem, cjeloživotnog učenja i razvoja vještina, kao i pitanja povezanih s inovacijama i potporom za radnike, radnice i poduzeća, uključujući i ona najmanja.

1.4. Povjerenje je najvažniji element uspjeha u svijetu rada. Umjetna inteligencija nije iznimka od tog pravila. EGSO smatra da je opravdano da se u novom planu tijekom cijelog procesa daje ključna uloga socijalnom dijalogu i socijalnim partnerima. Pitanje vještina od ključne je važnosti, no potrebno je promisliti o svim temama povezanima s automatizacijom u svijetu rada.

1.5. EGSO preporučuje Komisiji da u strateškom okviru koji namjerava uspostaviti odlučno potiče države članice na jačanje socijalnog i građanskog dijaloga o pitanjima i alatima povezanima s umjetnom inteligencijom.

1.6. EGSO podsjeća na to da povjerenje ovisi o pravu svakog radnika, potrošača i građanina na objašnjivost algoritamskih procesa ako oni utječu na njihov život i okruženje. Novi koordinirani plan mora uzeti u obzir taj zahtjev za transparentnost i objašnjivost, koji je neodvojiv od prava svakog građanina i građanke na osporavanje odluka donesenih isključivo na temelju algoritma.

1.7. EGSO smatra da se u području umjetne inteligencije EU može izboriti za vjerodostojnu predvodničku ulogu u svijetu pod uvjetom da uspostavi besprijekornu koordinaciju između institucija EU-a, država članica i organiziranog civilnog društva – socijalnih partnera, potrošača i građanstva – u kojoj će odgovornost svakog sudionika biti jasno definirana. Ta koordinacija među europskim institucijama, između europskih institucija i država članica te među samim državama članicama maksimalno će povećati globalni učinak i osigurati brzu i dosljednu provedbu politika i investicijskih programa.

1.8. Umjetna inteligencija po svojoj je prirodi globalna, ali uvelike ovisi o opsegu primjene, odnosno izravno ovisi o tome. Budući da se u koordiniranom planu državama članicama daje uloga ključnih aktera globalnog djelovanja u području umjetne inteligencije, taj je plan temelj europske strategije u tom području.

1.9. EGSO pozdravlja činjenicu da se u revidiranom koordiniranom planu predlažu konkretne mjere za poticanje provedbe nacionalnih strategija i povećanje sinergija. Međutim, puno značenje tog plana dolazi do izražaja tek u kombinaciji s europskom strategijom za podatke, odnosno uspostavom europskog podatkovnog prostora i zaštitom podataka, te strategijom za kibersigurnost.

1.10. Kako bi se riješio problem nepostojanja obavezne koordinacije, EGSO preporučuje da se uvede trajni mehanizam za praćenje postignutog napretka na temelju pokazatelja uspješnosti koje bi osmislili svi dionici.

1.11. EGSO potiče države članice da iskoriste Mehanizam za oporavak i otpornost i druge financijske instrumente, kao što su Obzor Europa, program Digitalna Europa i InvestEU, za potporu razvoju i uvođenju umjetne inteligencije, osobito u malim poduzećima. U nedavnom izvješću EIB-a razjašnjeni su daljnji koraci koje treba poduzeti. ( 1 )

2. Opće napomene

2.1. Komisija radi na tome da EU postane svjetski pokretač uključive, sigurne, održive i pouzdane umjetne inteligencije usmjerene na čovjeka. Poučena iskustvom sa zdravstvenom krizom, želi ubrzati ulaganja, poboljšati postojeće mjere i pomno ih uskladiti u svrhu poticanja sinergija i agilnosti. ( 2 ) EGSO podržava hitnu i odlučnu primjenu tog pristupa u cilju jačanja unutarnje i međunarodne izvrsnosti EU-a.

2.2. EGSO prima na znanje napredak postignut od usvajanja prvog koordiniranog plana 2018. godine. U ažuriranom planu jasno su utvrđeni prioriteti: ulaganje u infrastrukturu i razmjenu podataka, poticanje izvrsnosti mobiliziranjem inovacija i kompetencija te osiguravanje pouzdanosti i transparentnosti u cijelom lancu vrijednosti. Ulaganja u iznosu od 7 milijardi EUR u 2019. (+ 30 %) smatraju se ohrabrujućima.

2.3. Koordinirani plan u skladu je s načelom poštovanja temeljnih i socijalnih prava i načelom nediskriminacije pri korištenju algoritama. Ovo je mišljenje usko povezano s mišljenjem o zajedničkom Prijedlogu uredbe koja se bavi etičkim aspektima i u kojoj se utvrđuju usklađena pravila ( 3 )

2.4. EGSO smatra da su, uz koordinirani plan, etički okvir i priznati i zajednički standard glavni i strukturni katalizatori, uvjet za povjerenje potrebno da Europljani i Europljanke prihvate umjetnu inteligenciju te da istodobno osiguravaju konkurentsku prednost i element nadmoćnosti na globalnoj razini.

2.5. Povjerenje građana i građanki neodvojivo je od prava na objašnjivost algoritama i mogućnosti osporavanja bilo koje odluke koja utječe na njihov život. Programeri koji rade na razvoju umjetne inteligencije i njezinih aplikacija, kao i njihovi korisnici, moraju biti oprezni, a taj se oprez treba odražavati u redovitim revizijama i ispitivanjima. Ljudi moraju zadržati kontrolu nad odlukama.

2.6. EGSO je zabrinut zbog rizika od fragmentacije povezanog s različitim nacionalnim strategijama te poziva države članice da intenzivnije surađuju, posebno u području kibersigurnosti, suverenog prava koje je okosnica plana, i to u interesu EU-a.

2.7. EGSO poziva na to da umjetna inteligencija bude održiva kad je riječ o njezinim gospodarskim, socijalnim i okolišnim ciljevima, uz poštovanje gospodarskih, socijalnih i okolišnih odgovornosti.

3. Posebne napomene

3.1. Kako bi ostvarila svoje ambicije, koje su u potpunosti opravdane, Komisija mora surađivati s državama članicama, privatnim sektorom i organiziranim civilnim društvom u cilju: — ubrzavanja ulaganja u umjetnu inteligenciju u interesu brzog i otpornog gospodarskog i socijalnog oporavka koji se temelji na naprednim digitalnim rješenjima; — pravovremenog uvođenja predviđenih struktura i programa kako bi se iskoristile prednosti koje zavređuju predvodnici u proizvodnji ili uvođenju tehnologija; — optimiziranja kohezije politika kako bi se izbjegla fragmentacija i pružio zajednički odgovor na taj globalni izazov.

3.2. EGSO podržava namjeru Komisije da od 2021. do 2027. koristi najmanje 1 milijardu eura godišnje iz programa Digitalna Europa i Obzor Europa: očekuje se da će se zahvaljujući učinku poluge u tom razdoblju javna i privatna ulaganja u umjetnu inteligenciju potaknuti u iznosu od 20 milijardi eura godišnje. Taj učinak poluge dodatno će ojačati Mehanizam za oporavak i otpornost

3.3. Stvaranje povoljnih uvjeta – podaci i infrastruktura

3.3.1. EGSO poziva Komisiju i države članice da pojačaju suradnju i koordinaciju u upravljanju umjetnom inteligencijom, odnosno provedbu nacionalnih strategija te razmjenu znanja, iskustva i dobrih praksi, kako bi se ubrzali razvoj i uvođenje umjetne inteligencije te odgovorilo na globalne izazove povezane s umjetnom inteligencijom.

3.3.2. Dostupnost, pristupačnost i slobodan protok podataka preduvjeti su za razvoj umjetne inteligencije, zajedno sa strategijom za podatke i njihovu zaštitu te strategijom za kibersigurnost. EGSO ističe da nesmetana razmjena osobnih podataka ovisi o bliskoj koordinaciji i potpunom poštovanju Opće uredbe o zaštiti podataka. Kao i sigurnost i transparentnost podataka, standardizacija može predstavljati konkurentsku prednost u globalnom tržišnom natjecanju. ( 4 ) EGSO podržava uspostavu europskog podatkovnog prostora i posebnih sektorskih područja.

3.3.3. Osim nekih sustava umjetne inteligencije koji ne ovise o podacima, uspješnost umjetne inteligencije izravno ovisi o količini, relevantnosti i kvaliteti dostupnih podataka. EGSO stoga smatra da je neophodan optimizirani potencijal koji će olakšati fleksibilnu, interoperabilnu i sigurnu razmjenu podataka. EGSO podržava utvrđivanje ključnih sektora, kao što su industrijska proizvodnja, zeleni plan, mobilnost, zdravstvo, financije i energija, kako bi se mogao precizno pratiti razvoj situacije i ocijeniti napredak.

3.3.4. EGSO podupire: — ciljeve znatnog povećanja računalnih kapaciteta dostupnih u Europi kako bi se podaci mogli iskorištavati i vrednovati u stvarnom vremenu, kao i cilj stvaranja i proizvodnje u EU-u neophodnih procesora popraćenih programom održivog razvoja; — koncept „podataka od općeg interesa”, koji podrazumijeva da javne vlasti čine podatke dostupnima kako bi se doprinijelo otvorenosti ili potaknula razmjena podataka koji se smatraju ključnima (5), uključujući i podatke dionika koji djeluju na europskom teritoriju, ali ne sudjeluju u europskoj industrijskoj politici.

3.3.5. EGSO očekuje povećan angažman država članica u istraživanju i inovacijama kako bi se razvile strukture, infrastruktura i instrumenti potrebni za opće dobro te kako bi se doprinijelo suverenosti EU-a u području umjetne inteligencije.

3.4. Poticanje izvrsnosti od laboratorija do tržišta – inovacije i partnerstva

3.4.1. EGSO podržava sveobuhvatan pristup čija je svrha EU pretvoriti u područje izvrsnosti, od temeljnih znanstvenih istraživanja i inovacija do stavljanja na tržište. Ujedno smatra da je ključno da EU i države članice ubrzaju suradnju kako bi stvorili uvjete koji pogoduju inovacijama, poslovnim prilikama u području umjetne inteligencije te razvoju talenta i kompetencija u skladu s europskom vizijom usmjerenom na ljude i povjerenje. EGSO pozdravlja činjenicu da se horizontalnim strukturama suradnje te ambicije podupiru.

3.4.2. EGSO pozdravlja ambicije Komisije u pogledu promicanja eksperimentiranja, jačanja regionalnih digitalnoinovacijskih centara u suradnji s nacionalnim i regionalnim inicijativama te razmjene iskustava. Digitalnoinovacijski centri i platforme na zahtjev, kao i ciljana financijska potpora, olakšavaju prihvaćanje umjetne inteligencije među mikropoduzećima i MSP-ovima. EGSO smatra da je važno poduprijeti novoosnovana poduzeća, brzorastuća poduzeća i tradicionalne MSP-ove u njihovom razvoju umjetne inteligencije.

3.4.3. Međutim, EGSO naglašava da ta politika centara izvrsnosti ne bi smjela ugroziti uobičajeno i trajno financiranje „standardnih” istraživačkih laboratorija zbog straha od odgađanja pojave disruptivnih tehnologija.

3.4.4. EGSO bi želio da se promiču programi akulturacije za organizacije, mikropoduzeća i MSP-ove uspostavljanjem ciljanih mreža potpore. Bilo bi poželjno da se u cilju uvođenja poboljšanja jača i ocjenjuje praktični učinak koji na mikropoduzeća i MSP-ove imaju inicijative uspostavljene da bi im se pomoglo u pristupu umjetnoj inteligenciji (objekti za testiranje i eksperimentiranje, digitalnoinovacijski centri i platforme za umjetnu inteligenciju na zahtjev).

3.4.5. U nedavnoj studiji koju je naručio EGSO pokazalo se kako je „povećanje” (engl. scaling up ) nezaobilazan korak kad je riječ o pristupu potrebnim kompetencijama, skupovima podataka za algoritme, neophodnom financiranju ili o usmjerenosti na tržište koje je dovoljno razvijeno da se osigura brza amortizacija skupe infrastrukture. Kreatori politika stoga moraju staviti mikropoduzeća i MSP-ove na prvo mjesto i predlagati njima prilagođene politike. S obzirom na gospodarsku štetu uzrokovanu pandemijom, potpora novoosnovanim poduzećima, brzorastućim poduzećima i tradicionalnim MSP-ovima u razvoju umjetne inteligencije sada je apsolutno neophodna.

3.4.6. EGSO pozdravlja razvoj izoliranih okruženja u cilju eksperimentiranja s novim idejama u uvjetima sličnim stvarnim uvjetima, kao i u cilju promicanja fleksibilnosti. EGSO poziva na bolju diseminaciju rezultata i njihovo uzajamno priznavanje onkraj granica.

3.4.7. Izvrsnost u istraživanju odraz je talenta i kompetencija koji postoje u laboratorijima, ali i povjerenja korisnikâ u umjetnu inteligenciju. EGSO se stoga nada da će programi visokog obrazovanja iznjedriti vrhunske talente u području inovacija i poslovnog razvoja. Traži od EU-a da osigura uvjete kojima će se zadržati talenti te privući znanje i iskustvo iz trećih zemalja. EGSO se nada stabilnom i pouzdanom globalnom poslovnom okruženju koje će poduzećima i radnicima omogućiti da bolje integriraju umjetnu inteligenciju u korist istraživanja i inovacija.

3.4.8. Organizacije civilnog društva zaslužuju da ih se podupire u primjeni rješenja povezanih s umjetnom inteligencijom i da im se dodjeljuju financijska sredstva i resursi namijenjeni umjetnoj inteligenciji. To se posebno odnosi na socijalne službe, uz puno poštovanje prava na privatnost i pravilâ o obradi i pohrani podataka, uključujući biometrijske podatke.

3.5. Osigurati da umjetna inteligencija bude u službi građana – kompetencije i povjerenje

3.5.1. EGSO podržava Komisijinu strategiju koja se temelji na stvaranju ekosustava izvrsnosti i ekosustava povjerenja. Taj je pristup predmet Bijele knjige donesene 2019. ( 6 ) S obzirom na to da obrazovanje i osposobljavanje osiguravaju ključne elemente za poticanje izvrsnosti i povećanje povjerenja u umjetnu inteligenciju, sustavi obrazovanja i osposobljavanja moraju zadovoljiti širok raspon potreba, od osnovnog znanja i općeg razumijevanja do stjecanja specijaliziranog znanja i iskustva te kompetencija visoke razine. ( 7 )

3.5.2. EGSO pozdravlja novi Akcijski plan za digitalno obrazovanje, koji je Komisija donijela za razdoblje 2020. – 2027. Njime će se omogućiti bolje razumijevanje prirode i funkcioniranja umjetne inteligencije od osnovne škole do sveučilišta te osigurati obnavljanje vještina.

3.5.3. EGSO se nada da će države članice razviti ponudu nastavnih programa u području umjetne inteligencije koja će uključivati i povezana etička i okolišna pitanja, a ujedno potiče razmjenu dobrih praksi kako bi se promicala raznolikost u pristupu obrazovanju u području umjetne inteligencije te njezinu razvoju i uporabi. Širenje umjetne inteligencije i njezine upotrebe za dobrobit svih zahtijeva multidisciplinarni pristup i prijelazne mehanizme.

3.5.4. EGSO smatra da su socijalni partneri ključni akteri za predviđanje promjena u području kompetencija i promjena na radnom mjestu. Socijalni dijalog ključan je kao dio potpore radnicima i radnicama koji su pogođeni trendom automatizacije njihovih zadaća.

3.5.5. EGSO naglašava važnost suradnje vlada, obrazovnih ustanova, socijalnih partnera i relevantnih organizacija civilnog društva pri osmišljavanju i provedbi novih programa obrazovanja i trajnog osposobljavanja namijenjenih prvenstveno nezaposlenim osobama. Potrebno je osigurati osposobljavanje – i poduzetnika i zaposlenika – prilagođeno mikropoduzećima i MSP-ovima.

3.5.6. EGSO izražava žaljenje što se u koordiniranom planu ne navodi moguće zajedničko promišljanje o svijetu rada i budućnosti rada u kontekstu automatizacije. Za izgradnju povjerenja radnikâ i radnica u primjene umjetne inteligencije potreban je snažniji socijalni dijalog, koji je neophodan za uvođenje sustava umjetne inteligencije koji utječu na radnike, posebno u području upravljanja ili ljudskih resursa. S obzirom na mogući nestanak radnih mjesta, povećanje nejednakosti i preoblikovanje proizvodnih sektora, čini se nužnim osigurati savršenu koordinaciju među državama članicama, uz blisku suradnju poduzeća, regija, socijalnih partnera i posredničkih tijela, u cilju: — razvoja održivih i institucionaliziranih kapaciteta okrenutih budućnosti u području automatizacije; — razvoja inovativnih i proaktivnih mehanizama za tranziciju u pogledu zanimanjâ i kompetencija; — promišljanja o komplementarnosti, ne samo u cilju „razvoja umjetne inteligencije” u okviru zanimanjâ već i kako bi se identificirale promjene u pogledu kulture i prakse te uspostavili standardi „dobre komplementarnosti” kojom se potiče individualna emancipacija.

3.5.7. Budući da je povjerenje temelj digitaliziranog društva, EGSO posebno cijeni pristup Komisije u svim područjima koja doprinose osiguravanju javnog interesa, a posebno interesa građana, potrošača, radnika i poduzeća, uključujući poduzeća socijalne ekonomije, u cilju povećanja opće razine povjerenja u umjetnu inteligenciju, a to su: zaštita temeljnih prava, kibersigurnost, zaštita podataka, intelektualno vlasništvo te održiva i učinkovita uporaba resursa, pri čemu se ne smiju zanemariti regulatorna pitanja povezana s inovacijama. Važno je precizno utvrditi potencijalne opasnosti od zlouporabe umjetne inteligencije i predložiti odgovarajuće pravne lijekove. EGSO podržava mjere koje je Komisija predvidjela za poboljšanje sigurnosti u svim područjima i prilagodbu regulatornog okvira izazovima koje predstavlja umjetna inteligencija. U tom pogledu podsjeća na predvodničku ulogu organizacija civilnog društva, primjerice u procjeni rizika povezanih s prepoznavanjem lica.

3.5.8. EGSO u potpunosti podržava ambiciju promicanja europske vizije održive i pouzdane umjetne inteligencije diljem svijeta poticanjem uspostave globalnih standarda u tom području te razvojem partnerstava i zajedničkih inicijativa s trećim zemljama.

3.6. Razvoj strateškog vodstva u sektorima velikog učinka

3.6.1. EGSO cijeni realan pristup Komisije u skladu s kojim ona svoje djelovanje usmjerava na sektore u kojima je vodstvo u području umjetne inteligencije nužno, a to su klima i okoliš, zdravlje, robotika i automatizacija, javne usluge, javna sigurnost, uključujući suzbijanje terorizma i migracijske politike, te pametna mobilnost, poljoprivreda i povezani sektori.

3.6.2. EGSO smatra da je digitalna transformacija ključni instrument u dekarbonizaciji i upravljanju okolišem, ali da je potrebno paziti da se ograniči mogući negativan učinak rješenja koja se temelje na umjetnoj inteligenciji na klimu, okoliš i potrošnju energije. Primjenom umjetne inteligencije u upravljanju energetskim i prometnim sustavima, kao i u industrijskim procesima i poljoprivredi, promiču se energetska učinkovitost, kružno gospodarstvo i održivo upravljanje prirodnim resursima. Ona stoga utječe na produktivnost i ekonomsku učinkovitost. Osim toga, umjetna inteligencija omogućuje bolje razumijevanje i kontrolu klimatskih i okolišnih pojava.

3.6.3. EGSO poziva na iskorištavanje mogućnosti koje umjetna inteligencija donosi u istraživanju porijekla bolesti, u razvoju novih molekula, medicinske opreme i napredne skrbi ili u području pregleda, dijagnostike i liječenja, primjerice u borbi protiv raka. Europski prostor za zdravstvene podatke, koji je zamišljen tako da se potpuno poštuju privatnost i osobni podaci, važan je korak prema potpunom iskorištavanju potencijala umjetne inteligencije. Svakodnevno pomaganje robotâ pacijentima, starijim osobama ili osobama s invaliditetom primjeri su koristi koje proizlaze iz izvrsnosti robotike manje usmjerene na tehnološka postignuća, a više na interakciju ljudi i robota.

Bruxelles, 22. rujna 2021. Predsjednica Europskog gospodarskog i socijalnog odbora Christa SCHWENG

(1) Artificial intelligence, blockchain and the future of Europe (Umjetna inteligencija, lanci blokova i budućnost Europe).

(2) SL C 240, 16.7.2019., str. 51.

(3) Mišljenje EGSO-a o Uredbi o umjetnoj inteligenciji (vidjeti stranicu 61. ovog Službenog lista).

(4) Zaki Laïdi, La norme sans la force: l’énigme de la puissance européenne (Standardi bez prisile: enigma europske moći), 2005.

(5) Uredba o europskom upravljanju podacima.

(6) SL C 364, 28.10.2020., str. 87.

(7) SL C 14, 15.1.2020., str. 46.