P9_TA(2022)0140

Umelá inteligencia v digitálnom veku

Uznesenie Európskeho parlamentu z 3. mája 2022 o umelej inteligencii v digitálnom veku (2020/2266(INI))

(2022/C 465/06)

Európsky parlament,

— so zreteľom na články 4, 16, 26, 114, 169, 173, 179, 180, 181 a 187 Zmluvy o fungovaní Európskej únie,

— so zreteľom na Chartu základných práv Európskej únie,

— so zreteľom na Dohovor OSN o právach dieťaťa a všeobecnú poznámku č. 25 Výboru OSN pre práva dieťaťa z 2. marca 2021 vo vzťahu k digitálnemu prostrediu,

— so zreteľom na odporúčanie Organizácie Spojených národov pre vzdelávanie, vedu a kultúru (UNESCO) o etike umelej inteligencie, ktoré prijala Generálna konferencia UNESCO na svojom 41. zasadnutí 24. novembra 2021,

— so zreteľom na Medziinštitucionálnu dohodu z 13. apríla 2016 o lepšej tvorbe práva (1) a usmernenia Komisie o lepšej právnej regulácii,

— so zreteľom na oznámenie Komisie z 24. marca 2021 s názvom Stratégia EÚ v oblasti práv dieťaťa (COM(2021)0142),

— so zreteľom na svoje uznesenie zo 7. októbra 2021 o stave spôsobilostí EÚ v oblasti kybernetickej obrany (2),

— so zreteľom na svoje uznesenie z 15. decembra 2021 o výzvach a vyhliadkach mnohostranných režimov kontroly zbraní hromadného ničenia a odzbrojenia (3),

— so zreteľom na nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov – GDPR) (4),

— so zreteľom na nariadenie Európskeho parlamentu a Rady (EÚ) 2021/694 z 29. apríla 2021, ktorým sa zriaďuje program Digitálna Európa a zrušuje rozhodnutie (EÚ) 2015/2240 (5),

— so zreteľom na nariadenie Európskeho parlamentu a Rady (EÚ) 2021/695 z 28. apríla 2021, ktorým sa zriaďuje Horizont Európa – rámcový program pre výskum a inovácie, stanovujú jeho pravidlá účasti a šírenia a zrušujú nariadenia (EÚ) č. 1290/2013 a (EÚ) č. 1291/2013 (6),

— so zreteľom na návrh nariadenia Európskeho parlamentu a Rady z 21. apríla 2021, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty Únie (COM(2021)0206),

— so zreteľom na návrh nariadenia Európskeho parlamentu a Rady z 25. novembra 2020 o európskej správe údajov (akt o správe údajov) (COM(2020)0767),

— so zreteľom na nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1807 zo 14. novembra 2018 o rámci pre voľný tok iných ako osobných údajov v Európskej únii (7),

— so zreteľom na nariadenie Európskeho parlamentu a Rady (EÚ) 2021/697 z 29. apríla 2021, ktorým sa zriaďuje Európsky obranný fond a zrušuje nariadenie (EÚ) 2018/1092 (8),

— so zreteľom na smernicu Európskeho parlamentu a Rady (EÚ) 2019/770 z 20. mája 2019 o určitých aspektoch týkajúcich sa zmlúv o dodávaní digitálneho obsahu a digitálnych služieb (9),

— so zreteľom na nariadenie Rady (EÚ) 2021/1173 z 13. júla 2021 o zriadení spoločného podniku pre európsku vysokovýkonnú výpočtovú techniku a o zrušení nariadenia (EÚ) 2018/1488 (10),

— so zreteľom na oznámenie Komisie z 25. apríla 2018 s názvom Umelá inteligencia pre Európu (COM(2018)0237),

— so zreteľom na oznámenie Komisie zo 7. decembra 2018 o koordinovanom pláne v oblasti umelej inteligencie (COM(2018)0795),

— so zreteľom na oznámenie Komisie z 8. apríla 2019 o budovaní dôvery v umelú inteligenciu sústredenú na človeka (COM(2019)0168),

— so zreteľom na bielu knihu Komisie z 19. februára 2020 o umelej inteligencii – európsky prístup k excelentnosti a dôvere (COM(2020)0065),

— so zreteľom na zelenú knihu Komisie z 27. januára 2021 s názvom O starnutí: Podpora medzigeneračnej solidarity a zodpovednosti (COM(2021)0050);

— so zreteľom na oznámenie Komisie z 19. februára 2020 s názvom Európska dátová stratégia (COM(2020)0066),

— so zreteľom na oznámenie Komisie z 19. februára 2020 o formovaní digitálnej budúcnosti Európy (COM(2020)0067),

— so zreteľom na oznámenie Komisie z 10. marca 2020 s názvom Nová priemyselná stratégia pre Európu (COM(2020)0102) a oznámenie z 5. mája 2021 s názvom Aktualizácia novej priemyselnej stratégie na rok 2020: Budovanie silnejšieho jednotného trhu pre obnovu Európy (COM(2021)0350).

— so zreteľom na oznámenie Komisie z 30. septembra 2020 s názvom Akčný plán digitálneho vzdelávania 2021 – 2027 – Prispôsobenie vzdelávania a odbornej prípravy digitálnemu veku (COM(2020)0624),

— so zreteľom na oznámenie Komisie z 9. marca 2021 s názvom Digitálny kompas do roku 2030: digitálne desaťročie na európsky spôsob (COM(2021)0118),

— so zreteľom na návrh rozhodnutia Európskeho parlamentu a Rady z 15. septembra 2021, ktorým sa zriaďuje politický program Cesta k digitálnemu desaťročiu do roku 2030 (COM(2021)0574),

— so zreteľom na štúdiu Komisie z 28. júla 2020 s názvom Európsky prieskum používania technológií založených na umelej inteligencii v podnikoch,

— so zreteľom na štúdiu Komisie z 26. novembra 2020 s názvom Energetické technológie cloud computingu a politiky pre ekologický trh cloud computingu,

— so zreteľom na správu Komisie Európskemu parlamentu, Rade a Európskemu hospodárskemu a sociálnemu výboru z 19. februára 2020 o vplyve umelej inteligencie, internetu vecí a robotiky na bezpečnosť a zodpovednosť (COM(2020)0064),

— so zreteľom na závery Rady z 22. marca 2021 o stratégii kybernetickej bezpečnosti EÚ v digitálnej dekáde,

— so zreteľom na správu expertnej skupiny na vysokej úrovni pre umelú inteligenciu z 8. apríla 2019 s názvom Etické usmernenia pre dôveryhodnú umelú inteligenciu,

— so zreteľom na správu expertnej skupiny na vysokej úrovni pre umelú inteligenciu z 8. apríla 2019 s názvom Vymedzenie pojmu umelej inteligencie: hlavné schopnosti a vedecké disciplíny,

— so zreteľom na správu expertnej skupiny na vysokej úrovni pre umelú inteligenciu z 26. júna 2019 s názvom Politické a investičné odporúčania pre dôveryhodnú umelú inteligenciu,

— so zreteľom na štúdiu UNESCO z marca 2019 s názvom Červenala by som sa, ak by som mohla: odstránenie rodových rozdielov v digitálnych zručnostiach prostredníctvom vzdelávania,

— so zreteľom na správu Agentúry Európskej únie pre základné práva zo 14. decembra 2020 s názvom Pripraviť budúcnosť správne – umelá inteligencia a základné práva,

— so zreteľom na odporúčanie Rady Organizácie pre hospodársku spoluprácu a rozvoj (OECD) z 22. mája 2019 týkajúce sa umelej inteligencie,

— so zreteľom na platformu OSN pre dialóg o umelej inteligencii: Globálny samit „AI for Good“,

— so zreteľom na zásady G20 v oblasti umelej inteligencie prijaté 9. júna 2019,

— so zreteľom na správu Svetovej zdravotníckej organizácie z 28. júna 2021 o umelej inteligencii v zdravotníctve a šesť hlavných zásad jej navrhovania a používania,

— so zreteľom na stanovisko z vlastnej iniciatívy Európskeho hospodárskeho a sociálneho výboru z 31. mája 2017 a názvom Umelá inteligencia – vplyv umelej inteligencie na (digitálny) jednotný trh, výrobu, spotrebu, pracovné príležitosti a spoločnosť (11),

— so zreteľom na správu expertnej skupiny pre zodpovednosť a nové technológie – formácie pre nové technológie z 21. novembra 2019 – s názvom Zodpovednosť za umelú inteligenciu a ďalšie nové digitálne technológie,

— so zreteľom na publikáciu ad hoc výboru Rady Európy pre umelú inteligenciu (CAHAI) z decembra 2020 s názvom Na ceste k regulácii systémov umelej inteligencie – globálne perspektívy rozvoja právneho rámca pre systémy umelej inteligencie založeného na normách Rady Európy v oblasti ľudských práv, demokracie a právneho štátu,

— so zreteľom na pracovný dokument Európskeho univerzitného inštitútu z októbra 2020 s názvom Modely zákonov a právnej regulácie v oblasti umelej inteligencie,

— so zreteľom na spoločnú správu spoločnosti Trend Micro Research, Medziregionálneho výskumného inštitútu OSN pre trestnú činnosť a spravodlivosť a Europolu z 19. novembra 2020 o škodlivom využívaní a zneužívaní umelej inteligencie,

— so zreteľom na politické usmernenia Komisie na roky 2019 – 2024 s názvom Ambicióznejšia Únia: Môj plán pre Európu,

— so zreteľom na rozsudok Súdneho dvora Európskej únie z 16. júla 2020 vo veci C-311/18 (Schrems II),

— so zreteľom na svoje uznesenie zo 16. februára 2017 s odporúčaniami pre Komisiu k normám občianskeho práva v oblasti robotiky (12),

— so zreteľom na svoje uznesenie z 1. júna 2017 o digitalizácii európskeho priemyslu (13),

— so zreteľom na svoje uznesenie zo 6. októbra 2021 o rámci politiky EÚ v oblasti bezpečnosti cestnej premávky na obdobie rokov 2021 – 2030 – Odporúčania na ďalšie kroky smerom k naplneniu vízie nulovej úmrtnosti (Vision Zero) (14),

— so zreteľom na svoje uznesenie z 12. septembra 2018 o autonómnych zbraňových systémoch (15),

— so zreteľom na svoje uznesenie z 12. februára 2019 o komplexnej európskej priemyselnej politike v oblasti umelej inteligencie a robotiky (16),

— so zreteľom na svoje uznesenie z 12. februára 2020 o automatizovaných rozhodovacích procesoch: zabezpečenie ochrany spotrebiteľa a voľného pohybu tovaru a služieb (17),

— so zreteľom na svoje uznesenie z 20. októbra 2020 s odporúčaniami pre Komisiu k systému občianskoprávnej zodpovednosti za umelú inteligenciu (18),

— so zreteľom na svoje uznesenie z 20. októbra 2020 o právach duševného vlastníctva v súvislosti s rozvojom technológií umelej inteligencie (19),

— so zreteľom na svoje uznesenie z 20. októbra 2020 s odporúčaniami pre Komisiu k rámcu etických aspektov umelej inteligencie, robotiky a súvisiacich technológií (20),

— so zreteľom na svoje uznesenie z 20. januára 2021 o umelej inteligencii: otázky výkladu a uplatňovania medzinárodného práva, pokiaľ ide o EÚ, v oblastiach civilného a vojenského využitia a štátnej moci mimo rozsahu trestnej justície (21),

— so zreteľom na svoje uznesenie z 20. mája 2021 o formovaní digitálnej budúcnosti Európy: odstránenie prekážok fungovania jednotného digitálneho trhu a zlepšenie využívania umelej inteligencie pre európskych spotrebiteľov (22),

— so zreteľom na svoje uznesenie z 25. marca 2021 o európskej dátovej stratégii (23),

— so zreteľom na svoje uznesenie z 19. mája 2021 o umelej inteligencii vo vzdelávaní, v kultúre a audiovizuálnom sektore (24),

— so zreteľom na svoje uznesenie zo 6. októbra 2021 o umelej inteligencii v trestnom práve a jej využívaní policajnými a justičnými orgánmi v trestných veciach (25),

— so zreteľom na štúdiu svojho generálneho riaditeľstva pre vnútorné politiky Únie (DG IPOL) z júna 2021 s názvom Diplomacia v oblasti umelej inteligencie – Správa umelej inteligencie ako nový nástroj vonkajšej politiky Európskej únie,

— so zreteľom na štúdiu DG IPOL z mája 2021 s názvom Výzvy a hranice prístupu k umelej inteligencii založeného na otvorených zdrojoch,

— so zreteľom na správu DG IPOL z mája 2021 s názvom Trh a tok kapitálu v oblasti umelej inteligencie – Umelá inteligencia a finančný sektor na rázcestí,

— so zreteľom na štúdiu DG IPOL z júna 2021 s názvom Zlepšenie pracovných podmienok s využitím umelej inteligencie,

— so zreteľom na štúdiu DG IPOL z mája 2021 s názvom Úloha umelej inteligencie v rámci Európskej zelenej dohody,

— so zreteľom na štúdiu DG IPOL z júla 2021 s názvom Umelá inteligencia v inteligentných mestách a mestskej mobilite,

— so zreteľom na štúdiu DG IPOL z júla 2021 s názvom Umelá inteligencia a verejné služby,

— so zreteľom na štúdiu DG IPOL z júla 2021 s názvom Dátová výzva pre Európsku úniu,

— so zreteľom na štúdiu DG IPOL z júna 2020 s názvom Príležitosti, ktoré ponúka umelá inteligencia,

— so zreteľom na štúdiu DG IPOL z októbra 2021 s názvom Digitálna dekáda a autonómia Európy,

— so zreteľom na štúdiu DG IPOL z januára 2022 s názvom Identifikácia a posúdenie existujúcich a navrhovaných právnych predpisov EÚ v digitálnej oblasti,

— so zreteľom na štúdiu výskumnej služby Európskeho parlamentu (EPRS) zo septembra 2020 s názvom Systém občianskoprávnej zodpovednosti za umelú inteligenciu – posúdenie európskej pridanej hodnoty,

— so zreteľom na štúdiu oddelenia vedeckej predikcie EPRS z decembra 2020 s názvom Dotknuté osoby, digitálne sledovanie, umelá inteligencia a budúcnosť práce,

— so zreteľom na štúdiu EPRS zo septembra 2020 s názvom Európsky rámec etických aspektov umelej inteligencie, robotiky a súvisiacich technológií,

— so zreteľom na štúdiu EPRS z marca 2020 s názvom Etika v oblasti umelej inteligencie: otázky a iniciatívy,

— so zreteľom na štúdiu EPRS z júna 2020 s názvom Umelá inteligencia: ako funguje, prečo je dôležitá a čo s ňou môžeme urobiť?,

— so zreteľom na štúdiu EPRS z júla 2020 s názvom Umelá inteligencia a presadzovanie práva – vplyv na základné práva,

— so zreteľom na štúdiu EPRS z júna 2020 s názvom Vplyv všeobecného nariadenia o ochrane údajov (GDPR) na umelú inteligenciu,

— so zreteľom na štúdiu EPRS z apríla 2020 s názvom Biela kniha o umelej inteligencii,

— so zreteľom na štúdiu EPRS zo septembra 2021 s názvom Regulácia rozpoznávania tvárí v EÚ,

— so zreteľom na štúdiu EPRS z februára 2021 s názvom Budúcnosť práce: trendy, výzvy a možné iniciatívy,

— so zreteľom na štúdiu EPRS z júna 2021 s názvom Robotickí poradcovia, Ako zapadajú do existujúceho regulačného rámca EÚ, najmä pokiaľ ide o ochranu investorov?,

— so zreteľom na štúdiu EPRS zo septembra 2021 s názvom Ambície Číny v oblasti umelej inteligencie,

— so zreteľom na štúdiu EPRS z júna 2021 s názvom Čo ak by sme pre umelú inteligenciu vybrali nové metafory?,

— so zreteľom na štúdiu EPRS z januára 2018 s názvom Porozumieť umelej inteligencii,

— so zreteľom na štúdiu EPRS z novembra 2021 s názvom Riešenie deepfake v európskej politike,

— so zreteľom na pracovný dokument Osobitného výboru pre umelú inteligenciu v digitálnom veku (AIDA) z februára 2021 s názvom Umelá inteligencia a zdravie,

— so zreteľom na pracovný dokument AIDA z marca 2021 s názvom Umelá inteligencia a zelená dohoda,

— so zreteľom na pracovný dokument AIDA z marca 2021 s názvom Aspekty umelej inteligencie v oblasti vonkajšej politiky,

— so zreteľom na pracovný dokument AIDA z mája 2021 s názvom Umelá inteligencia a konkurencieschopnosť,

— so zreteľom na pracovný dokument AIDA z júna 2021 s názvom Umelá inteligencia a budúcnosť demokracie,

— so zreteľom na pracovný dokument AIDA z júna 2021 s názvom Umelá inteligencia a pracovný trh,

— so zreteľom na článok 54 rokovacieho poriadku,

— so zreteľom na správu Osobitného výboru pre umelú inteligenciu v digitálnom veku (A9-0088/2022),

1. Úvod

1. konštatuje, že svet stojí na prahu štvrtej priemyselnej revolúcie; poukazuje na to, že v porovnaní s tromi predošlými vlnami, ktoré sa začali využívaním pary, elektriny a nakoniec počítačov, poháňa štvrtú vlnu prebytok údajov v kombinácii s výkonnými algoritmami a výpočtovou kapacitou; zdôrazňuje, že súčasnú digitálnu revolúciu formuje jej globálny rozsah, rýchla konvergencia a obrovský vplyv nových technologických objavov na štáty, hospodárstva, spoločnosti, medzinárodné vzťahy a životné prostredie; uznáva, že radikálna zmena takéhoto rozsahu má na rôzne časti spoločnosti rôzny vplyv v závislosti od ich cieľov, geografickej polohy alebo sociálno-ekonomického kontextu; zdôrazňuje, že digitálna transformácia sa musí formovať pri plnom dodržiavaní základných práv a takým spôsobom, aby digitálne technológie slúžili ľudstvu;

2. poznamenáva, že digitálna revolúcia zároveň spustila globálnu súťaž v dôsledku obrovskej ekonomickej hodnoty a technologických schopností, ktoré sa nahromadili v tých hospodárstvach, ktoré vynakladajú najviac zdrojov na výskum, vývoj a marketing aplikácií umelej inteligencie; konštatuje, že digitálna konkurencieschopnosť a otvorená strategická autonómia sa stali hlavným politickým cieľom vo viacerých krajinách; upozorňuje, že tvorcovia rozhodnutí si čoraz viac uvedomujú, že vznikajúce technológie by mohli ovplyvniť postavenie celých krajín ako geopolitických mocností;

3. poukazuje na skutočnosť, že Európa, ktorá po stáročia stanovovala medzinárodné normy, dominovala v technologickom pokroku a viedla v špičkovej výrobe a realizácii, v súčasnosti zaostáva a rozvíja sa a investuje oveľa menej ako popredné hospodárstva ako USA alebo Čína na digitálnom trhu, pričom zostáva relatívne konkurencieschopná produkciou tematického výskumu v oblasti umelej inteligencie; uznáva riziko, že európski aktéri budú pri vývoji globálnych noriem a technologického pokroku odsunutí na okraj a že európske hodnoty budú spochybnené;

4. po prvé zdôrazňuje, že digitálne nástroje sa čoraz viac stávajú nástrojmi manipulácie v rukách niektorých korporátnych aktérov, ako aj v rukách autokratických vlád s cieľom podkopať demokratické politické systémy, čo môže viesť k stretu medzi politickými systémami; vysvetľuje, že digitálna špionáž, sabotáž, vojna malého rozsahu a dezinformačné kampane sú výzvou pre demokratické spoločnosti;

5. zdôrazňuje, že povaha digitálnych obchodných modelov umožňuje vysoký stupeň možnosti škálovateľnosti a sieťových účinkov; poukazuje na to, že mnohé digitálne trhy sa vyznačujú vysokým stupňom koncentrácie trhu, čo umožňuje malému počtu technologických platforiem, ktoré v súčasnosti sídlia prevažne v USA, viesť komercializáciu prelomových technologických inovácií, prilákať najlepšie nápady, talenty a spoločnosti a dosiahnuť mimoriadnu ziskovosť; varuje, že dominantné postavenie na trhu v dátovom hospodárstve sa pravdepodobne rozšíri do vznikajúceho hospodárstva v oblasti umelej inteligencie; poukazuje na skutočnosť, že len osem zo súčasných najvýznamnejších 200 spoločností má sídlo v EÚ; zdôrazňuje, že v tejto súvislosti je najdôležitejšie dokončenie skutočného digitálneho jednotného trhu;

6. zdôrazňuje, že v dôsledku toho sa globálna súťaž o vedúce postavenie v oblasti technológií stala v EÚ prioritou; zdôrazňuje, že ak EÚ nebude rýchlo a odvážne konať, bude musieť dodržiavať pravidlá a normy stanovené inými a bude riskovať škodlivé účinky na politickú stabilitu, sociálne zabezpečenie, základné práva, individuálne slobody a hospodársku konkurencieschopnosť;

7. zastáva názor, že umelá inteligencia je jednou z kľúčových vznikajúcich technológií v rámci štvrtej priemyselnej revolúcie; poznamenáva, že umelá inteligencia poháňa digitálne hospodárstvo, pretože umožňuje zavádzanie inovatívnych výrobkov a služieb, má schopnosť zvýšiť spotrebiteľský výber a môže zefektívniť výrobné procesy; poznamenáva, že sa očakáva, že do roku 2030 bude príspevok umelej inteligencie do celosvetového hospodárstva viac ako 11 biliónov EUR; zároveň zdôrazňuje, že technológie umelej inteligencie predstavujú riziko obmedzenia ľudskej činnosti; zdôrazňuje, že umelá inteligencia by mala zostať dôveryhodnou technológiou zameranou na človeka a nemala by nahrádzať ľudskú autonómiu ani predpokladať stratu individuálnej slobody; zdôrazňuje, že je potrebné zabezpečiť, aby táto štvrtá priemyselná revolúcia bola inkluzívna a aby sa na nikoho nezabudlo;

8. naznačuje, že prebieha globálna súťaž o vedúce postavenie v oblasti umelej inteligencie; poukazuje na to, že technológie umelej inteligencie sľubujú, že poskytnú obrovskú hospodársku hodnotu tým hospodárstvam, ktoré tieto technológie so ziskom vyvinú, vyrobia alebo úspešne prijmú, ako aj tým krajinám, v ktorých sa takáto tvorba hodnôt uskutočňuje; zdôrazňuje, že umelá inteligencia nie je všemocná technológia, ale účinný súbor nástrojov a techník, ktoré možno využiť v prospech spoločnosti; vysvetľuje, že fungovanie technológií závisí od toho, ako ich navrhujeme; pripomína, že EÚ deklarovala svoj zámer zaviesť regulačný rámec pre umelú inteligenciu; zdôrazňuje však, že je nevyhnutné, aby EÚ mohla definovať regulačný prístup vrátane ochrany základných práv a slobôd a aby mohla pôsobiť ako globálny tvorca noriem; zdôrazňuje preto význam európskej konkurencieschopnosti v oblasti umelej inteligencie a schopnosť EÚ formovať regulačné prostredie na medzinárodnej úrovni; zdôrazňuje, že niektoré spôsoby využívania umelej inteligencie môžu predstavovať individuálne a spoločenské riziká, ktoré môžu ohroziť základné práva, a preto by sa nimi mali zaoberať tvorcovia politík, aby sa umelá inteligencia mohla účinne stať nástrojom, ktorý slúži ľuďom a spoločnosti a sleduje spoločné dobro a všeobecný záujem;

9. konštatuje, že na to, aby boli európske subjekty úspešné v digitálnom veku a stali sa technologickými lídrami v oblasti umelej inteligencie, je potrebný jasný regulačný rámec, politické odhodlanie a pokrokovejšie myslenie, ktoré v súčasnosti často chýbajú; konštatuje, že na základe takéhoto prístupu môžu občania EÚ aj podniky profitovať z umelej inteligencie a z veľkej príležitosti, ktorú ponúka na zvýšenie konkurencieschopnosti, a to aj pokiaľ ide o prosperitu a blahobyt; zdôrazňuje, že regulačné rámce sa musia formovať tak, aby nevytvárali neopodstatnené prekážky, ktoré by bránili európskym subjektom byť úspešnými v digitálnom veku, najmä startupom a malým a stredným podnikom (MSP); zdôrazňuje, že súkromné a verejné investície by sa mali podstatne zvýšiť, aby sa vytvorilo prostredie, v ktorom bude náš kontinent čoraz viac svedkom európskych úspešných príbehov a ich rozvoja;

10. zdôrazňuje, že rýchly technologický pokrok, ktorý prináša umelá inteligencia, je čoraz viac neoddeliteľný od väčšiny oblastí ľudskej činnosti a ovplyvní aj živobytie všetkých, ktorí nemajú dostatočné zručnosti na to, aby sa týmto novým technológiám dostatočne rýchlo prispôsobili; poukazuje na to, že hoci dosiahnutie digitálnej gramotnosti prostredníctvom zvyšovania kvalifikácie a rekvalifikácie môže pomôcť riešiť mnohé z vyplývajúcich sociálno-ekonomických problémov, tieto vplyvy by sa mali riešiť aj v kontexte systémov sociálneho zabezpečenia, mestskej a vidieckej infraštruktúry a demokratických procesov;

11. zdôrazňuje potrebu zohľadniť ciele a záujmy žien a zraniteľných skupín v rámci digitálnej transformácie; v tejto súvislosti zdôrazňuje, že v roku 2018 tvorili ženy na celom svete len 22 % odborníkov v oblasti umelej inteligencie, čo je problém, ktorý len zachováva a upevňuje stereotypy a predsudky; uznáva, že pri používaní technológií umelej inteligencie je potrebné zachovať práva na rovnosť pred zákonom, súkromie, slobodu prejavu a účasť na kultúrnom a politickom živote, najmä v prípade menšinových komunít;

2. Potenciálne možnosti, riziká a prekážky vo využívaní umelej inteligencie: šesť prípadových štúdií preskúmaných výborom AIDA

12. pripomína, že umelá inteligencia je založená na softvéri, ktorý využíva pravdepodobnostné modely a prediktívne algoritmy pre súbor špecifických cieľov; poukazuje na to, že pojem umelá inteligencia je zastrešujúcim pojmom, ktorý zahŕňa širokú škálu starých a nových technológií, techník a prístupov, ktoré je lepšie chápať ako „systémy umelej inteligencie“, čo sa vzťahuje na akékoľvek strojové systémy, ktoré majú často spoločné len to, že sa riadia daným súborom cieľov definovaných človekom, majú rôzny stupeň autonómie vo svojej činnosti a vykonávajú predpovede, odporúčania alebo rozhodovanie na základe dostupných údajov; poznamenáva, že hoci sa niektoré z týchto technológií už vo veľkom používajú, iné sú stále vo vývoji alebo sú to zatiaľ dokonca len teoretické koncepcie, ktoré môžu alebo nemusia v budúcnosti existovať;

13. poukazuje na skutočnosť, že existuje významný rozdiel medzi symbolickou umelou inteligenciou, väčšinovým prístupom k umelej inteligencii od 50. do 90. rokov 20. storočia a umelou inteligenciou založenou na strojovom učení a údajoch, ktorá prevláda od prvého desaťročia 21. storočia. objasňuje, že v prvej vlne sa umelá inteligencia vyvíjala pomocou zakódovania poznatkov a skúseností expertov do súboru pravidiel, ktoré potom vykonával stroj.

14. poznamenáva, že v druhej vlne sa vďaka automatizovanému procesu učenia algoritmov založenému na spracovávaní veľkých množstiev údajov, schopnosti spájať informácie z viacerých rôznych zdrojov a vytvárať komplexné vyobrazenia daného prostredia, a rozpoznávaní vzorcov stali systémy umelej inteligencie komplexnejšími, autonómnejšími a netrasparentnejšími, čo môže viesť k menej vysvetliteľným výsledkom; zdôrazňuje, že súčasnú umelú inteligenciu tak možno rozdeliť na mnohé rôzne podskupiny a techniky, pričom hĺbkové učenie je napríklad podskupinou strojového učenia, ktoré je samo osebe podskupinou umelej inteligencie;

15. poznamenáva, že hoci sa dnešná umelá inteligencia stala oveľa účinnejšou a výkonnejšou než symbolická umelá inteligencia vďaka výraznému zvýšeniu výpočtových kapacít, stále dokáže riešiť len jasne vymedzené úlohy v miestach špecifických pre určité oblasti, ako je napríklad šach alebo rozpoznávanie obrázkov, a jej programovanie nie je navrhnuté tak, aby plne rozpoznalo činnosti, ktoré systém umelej inteligencie vykonáva; zdôrazňuje, že systémy umelej inteligencie – na rozdiel od toho, čo naznačuje ich názov – nemajú „inteligenciu“ v ľudskom zmysle; upozorňuje, že sa preto o nej hovorí ako o „úzkej“ alebo „slabej“ umelej inteligencii a stále nepredstavuje nič viac než nástroj, ktorý poskytuje odporúčania a predpovede; poznamenáva, že napríklad autá bez vodiča fungujú pomocou kombinácie rôznych systémov umelej inteligencie určených na jednu úlohu, ktoré sú spoločne schopné poskytovať trojrozmernú mapu okolia vozidla, takže jeho operačný systém môže prijímať rozhodnutia;

16. zdôrazňuje, že mnohé obavy súvisiace s umelou inteligenciou sú založené na hypotetických koncepciách, ako je všeobecná umelá inteligencia, umelá superinteligencia a singularita, ktoré by teoreticky mohli viesť k tomu, že strojová inteligencia prekoná ľudskú inteligenciu v mnohých oblastiach; zdôrazňuje, že existujú pochybnosti, či túto hypotetickú umelú inteligenciu možno vôbec s našimi technológiami a vedeckými zákonmi dosiahnuť; napriek tomu sa domnieva, že zákonodarcovia sa musia zaoberať rizikami, ktoré v súčasnosti predstavuje rozhodovanie založené na umelej inteligencii, pretože je zrejmé, že škodlivé účinky, ako je rasová a rodová diskriminácia, sa už dajú pripísať konkrétnym prípadom, keď sa umelá inteligencia použila bez ochranných opatrení;

17. zdôrazňuje, že väčšina systémov umelej inteligencie, ktoré sa v súčasnosti používajú, je práve naopak nízkoriziková; odkazuje napríklad na automatické preklady, automaty „Eureka“, hracie automaty a roboty, ktoré vykonávajú repetitívne výrobné procesy; dospieva k záveru, že niektoré prípady využívania možno klasifikovať ako riskantné a že len takéto prípady si vyžadujú regulačné opatrenia a účinné záruky, ak už nie sú zavedené;

18. podporuje verejnú diskusiu o tom, ako preskúmať obrovský potenciál umelej inteligencie na základe základných európskych hodnôt, zásad transparentnosti, vysvetliteľnosti, spravodlivosti, zodpovednosti a dôveryhodnosti, ako aj zásady, že umelá inteligencia a robotika by mali byť zamerané na človeka a vyvíjané tak, aby dopĺňali človeka; zdôrazňuje, že v mnohých oblastiach ľudského života, od udržateľnosti až po zdravotnú starostlivosť, môže umelá inteligencia poskytnúť výhody ako pomocný nástroj pre používateľov a odborníkov, ktorý rozširuje schopnosti ľudí bez toho, aby obmedzoval ich schopnosť slobodne konať a rozhodovať; zdôrazňuje, že dohodnuté etické zásady a požiadavky týkajúce sa umelej inteligencie by sa mali uplatňovať vo všetkých oblastiach jej používania, pričom by sa mali zaviesť potrebné záruky, ktoré zvýšia dôveru občanov, a tým ich prinútia prijať výhody umelej inteligencie;

19. zdôrazňuje, že úroveň rizika konkrétnej aplikácie umelej inteligencie sa výrazne líši v závislosti od pravdepodobnosti vzniku škody a jej závažnosti; zdôrazňuje preto, že právne požiadavky by sa mali prispôsobiť tejto skutočnosti v súlade s prístupom založeným na riziku a pri náležitom zohľadnení zásady predbežnej opatrnosti, ak je to opodstatnené; zdôrazňuje, že v takýchto súčasných alebo budúcich prípadoch, keď systémy umelej inteligencie v konkrétnom prípade použitia predstavujú vysoké riziko pre základné a ľudské práva, je potrebný úplný ľudský dohľad a regulačný zásah a že vzhľadom na rýchlosť technologického rozvoja musí byť regulácia pre vysokorizikové systémy umelej inteligencie flexibilná a nadčasová;

20. poukazuje na to, že táto správa sa venuje šiestim prípadovým štúdiám v oblasti umelej inteligencie a stručne sa v nej predstavujú príležitosti, ktoré umelá inteligencia ponúka v príslušných sektoroch, riziká, ktoré treba riešiť, a prekážky, ktoré v súčasnosti bránia plne využívať prínosy umelej inteligencie; zdôrazňuje, že prípadové štúdie predstavujú v súčasnosti jedny z najdôležitejších prípadov využívania umelej inteligencie a zároveň sa v nich zohľadňujú niektoré témy z verejných vypočutí, ktoré uskutočnil výbor AIDA počas svojho mandátu, a to konkrétne zdravie, zelená dohoda, vonkajšia politika a bezpečnosť, konkurencieschopnosť, budúcnosť demokracie a pracovný trh.

a) Umelá inteligencia a zdravie

21. konštatuje, že metodická analýza veľkého množstva údajov, a to aj prostredníctvom umelej inteligencie, môže v zdravotníctve odblokovať nové riešenia alebo zlepšiť existujúce techniky, ktoré by mohli výrazne urýchliť vedecký výskum, zachrániť ľudské životy a zlepšiť starostlivosť o pacientov tým, že ponúknu inovatívne spôsoby liečby a lepšiu diagnostiku a podporia prostredie pre zdravý životný štýl; zdôrazňuje, že systémy umelej inteligencie môžu tiež prispieť k dostupnosti a udržateľnosti zdravotníckych systémov a zároveň navrátia konkurencieschopnosť európskym sektorom IKT a zdravotnej starostlivosti, ak sa budú príslušné riziká primerane riadiť;

22. zdôrazňuje, že využívanie umelej inteligencie v zdravotníckom sektore by sa malo opierať o prísne etické požiadavky, ako sú spravodlivý prístup k zdravotnej starostlivosti, súkromie, zodpovednosť, transparentnosť, vysvetliteľnosť spoľahlivosť, inkluzívnosť a reprezentatívnosť súborov údajov a neustály ľudský dozor; zdôrazňuje, že návrh systémov založených na umelej inteligencii musí riešiť riziko nesprávneho prideľovania zdrojov jednotlivcom na základe chybnej alebo neobjektívnej kategorizácie, stanovenia priorít alebo nesprávneho fungovania technológie, čo vedie k nesprávnej diagnóze, zlému zaobchádzaniu alebo neposkytovaniu liečby; domnieva sa, že na všetky zdravotnícke aplikácie by sa mali uplatňovať najvyššie etické normy a že etické pravidlá by sa mali stanoviť v počiatočnej fáze ich vývoja a návrhu, t. j. etika už v štádiu návrhu; upozorňuje, že automatizované rozhodovanie v zdravotníckych aplikáciách môže ohrozovať blaho a základné práva pacientov, a zdôrazňuje, že umelá inteligencia musí mať preto v zdravotnej starostlivosti podpornú úlohu, pričom by mal byť vždy zachovaný odborný ľudský dozor; vyzýva, aby sa pri lekárskych diagnózach v systémoch verejného zdravotníctva využívala umelá inteligencia, aby sa zachoval vzťah medzi pacientom a lekárom a aby sa vždy dodržiavala Hippokratova prísaha; konštatuje, že umelá inteligencia zvyšuje presnosť skríningu a vo viacerých prípadoch už prekonáva diagnózy lekárov; konštatuje, že existujúce rámce zodpovednosti neposkytujú dostatočnú právnu istotu a nezaručujú právo pacientov na súdnu ochranu v prípade nesprávnej diagnózy a nesprávnej liečby prostredníctvom umelej inteligencie; v tejto súvislosti víta pripravovaný legislatívny návrh o zodpovednosti za umelú inteligenciu; poznamenáva, že je dôležité chrániť zdravotníckych pracovníkov ako používateľov systémov umelej inteligencie, ako aj pacientov ako konečných príjemcov a poskytovať im dostatočné a transparentné informácie;

23. zdôrazňuje, že riešenia založené na umelej inteligencii sa už používajú alebo testujú v klinickom prostredí s cieľom podporiť diagnostiku, prognózu, liečbu a zapojenie pacienta, a tým urýchliť a zlepšiť liečbu a znížiť počet zbytočných zásahov; okrem toho poznamenáva, že umelá inteligencia môže zlepšiť personalizovanú medicínu a starostlivosť o pacientov; poznamenáva, že umelá inteligencia v súčasnosti pokrýva širokú škálu oblastí zdravotníctva vrátane verejného zdravia, opatrovateľských služieb, starostlivosti o seba a zdravotníckych systémov; poznamenáva, že údaje zohrávajú mimoriadnu úlohu; zisťuje, že umelá inteligencia má sľubné aplikácie na extrakciu informácií z obrázkov a iných zdravotníckych pomôcok na informovanie pre následnú analýzu a poznamenáva, že sa tiež očakáva, že algoritmy hĺbkového učenia môžu priniesť kvantitatívny skok v rôznych klinických úlohách;

24. zdôrazňuje, že technológie umelej inteligencie možno použiť na výskum, vývoj a masovú výrobu liekov a majú potenciál urýchliť vývoj nových liekov, liečebných postupov a vakcín za nižšie náklady; konštatuje, že umelá inteligencia môže pomôcť predpovedať výsledky reakcií na liečbu a môže lekárom umožniť upraviť terapeutické stratégie podľa individuálnych genetických alebo fyziologických charakteristík so zvyšujúcou sa úrovňou presnosti, ak sú založené na vysokokvalitných údajoch a spoľahlivých predpokladoch, čím sa zvýši účinnosť preventívnej starostlivosti za predpokladu, že sú splnené všetky etické požiadavky týkajúce sa odborného dohľadu nad klinickým overovaním umelej inteligencie, ochrany súkromia, ochrany údajov a informovaného súhlasu; konštatuje, že veľké dáta v zdravotníctve možno analyzovať pomocou umelej inteligencie, aby sa urýchlilo ich spracovanie; zdôrazňuje, že je dôležité zabezpečiť interoperabilitu vysokovýkonnej výpočtovej techniky s umelou inteligenciou, keďže hlavné hospodárske odvetvia vrátane výroby, zdravotníctva a farmaceutického priemyslu sa spoliehajú na vysokovýkonnú výpočtovú techniku;

25. zdôrazňuje, že riešenia založené na umelej inteligencii majú potenciál prispôsobiť liečebné postupy a vývoj liekov špecifickým potrebám pacientov a posilniť spoluprácu so zainteresovanými a zúčastnenými stranami v systéme zdravotnej starostlivosti; konštatuje, že umelá inteligencia a prístup k relevantným, aktualizovaným a vysokokvalitným anonymizovaným a reprezentatívnym súborom údajov v súlade s pravidlami EÚ o ochrane osobných údajov podporuje zdravotníckych pracovníkov, aby im pomohla poskytovať lepšiu starostlivosť o pacientov, poradenstvo a podporu a získavať personalizovanejšiu spätnú väzbu, čím sa podporuje bezpečnosť pacientov a zvyšuje účinnosť liečby; zdôrazňuje, že to môže byť obzvlášť užitočné pri výbere a preskúmaní narastajúceho množstva vedeckých poznatkov s cieľom získať relevantné poznatky pre zdravotníckych pracovníkov; zdôrazňuje, že občania všetkých členských štátov by mali mať možnosť poskytovať svoje zdravotné údaje poskytovateľom zdravotnej starostlivosti a orgánom podľa vlastného výberu; v tejto súvislosti zdôrazňuje, že je potrebné vytvoriť stimuly na zlepšovanie zručností, rekvalifikáciu a zvyšovanie úrovne zručností pracovníkov pre kariérny rast v zdravotníctve;

26. domnieva sa, že boj proti ochoreniu COVID-19 urýchlil výskum a zavádzanie nových technológií, najmä aplikácií umelej inteligencie, v snahe zlepšiť odhaľovanie prípadov, klinickú starostlivosť a terapeutický výskum, a zdôraznil užitočnosť umelej inteligencie, ako aj dôležitosť financovania a vysokokvalitných údajov na účely efektívneho monitorovania a modelovania šírenia ohnísk infekčných chorôb v súlade so zákonom o ochrane údajov; konštatuje však, že skúsenosti s aplikáciami umelej inteligencie počas konferencie COVID-19 odhalili niektoré obmedzenia pri využívaní umelej inteligencie v lekárskej diagnostike ( 26 )

27. zdôrazňuje potenciál systémov umelej inteligencie znížiť zaťaženie zdravotníckych systémov a najmä zdravotníckych pracovníkov a prispieť k riešeniu poskytovania starostlivosti rýchlo starnúcej populácii v Európe a vo svete a jej ochrany pred nebezpečnými chorobami;

28. zdôrazňuje, že používanie bezpečných a účinných aplikácií umelej inteligencie na administratívne úlohy, ktoré si nevyžadujú ľudskú činnosť, môže zdravotníckym pracovníkom ušetriť veľa času, ktorý môžu namiesto toho venovať kontaktu s pacientmi;

29. zdôrazňuje, že spotrebiteľské zdravotné aplikácie založené na umelej inteligencii môžu pomôcť sledovať zdravotný stav jednotlivca prostredníctvom každodenných zariadení, ako sú smartfóny, a umožniť používateľom dobrovoľne poskytovať údaje, ktoré môžu byť základom pre včasné varovania a upozornenia týkajúce sa život ohrozujúcich ochorení, ako sú mŕtvica alebo zástava srdca; zdôrazňuje, že zdravotné aplikácie založené na umelej inteligencii môžu tiež podporiť zdravé správanie a posilniť zodpovednú starostlivosť o seba samého tým, že pacientom poskytnú ďalšie prostriedky na monitorovanie ich vlastného zdravia a životného štýlu a zlepšia presnosť vyšetrení vykonávaných zdravotníckymi pracovníkmi; poukazuje však na osobitnú citlivosť osobných údajov týkajúcich sa zdravotného stavu a v tejto súvislosti na riziko porušenia ochrany údajov alebo ich zneužitia a zdôrazňuje potrebu uplatňovať prísne normy kybernetickej bezpečnosti na akékoľvek zdravotnícke aplikácie;

30. zdôrazňuje, že umelá inteligencia v zdravotníckom sektore mimoriadne závisí od veľkých množstiev osobných údajov, spoločného využívania údajov, vysokej kvality údajov, prístupnosti údajov a interoperability údajov, čo sú faktory potrebné na uvedomenie si plného potenciálu umelej inteligencie v zdravotníctve; zdôrazňuje, že je potrebné uľahčiť prepojenie elektronických zdravotných záznamov so systémami elektronického predpisovania liekov, ktoré zdravotníckym pracovníkom zapojeným do starostlivosti o pacienta umožnia prístup k potrebným informáciám o pacientovi na základe jeho súhlasu;

31. víta vytvorenie európskeho priestoru pre údaje týkajúce sa zdravia s cieľom zhromažďovať údaje veľmi vysokej kvality na použitie v sektore zdravotníctva; domnieva sa, že vzájomné prepojenie a interoperabilita vysokovýkonnej počítačovej infraštruktúry s európskym priestorom pre údaje týkajúce sa zdravia by zabezpečili dostupnosť veľkých súborov vysokokvalitných údajov týkajúcich sa zdravia, ktoré sú mimoriadne dôležité pre výskum a liečbu patológií, najmä zriedkavých a pediatrických chorôb;

32. zdôrazňuje potrebu budovania dôvery prostredníctvom podpory interoperability a väčšej spolupráce medzi rôznymi zdravotníckymi pracovníkmi, ktorí poskytujú služby tým istým pacientom; zdôrazňuje, že je potrebné poskytovať zdravotníckym pracovníkom odbornú prípravu o technikách a prístupoch v oblasti umelej inteligencie; zdôrazňuje, že je potrebné bojovať proti nedôvere, napríklad využitím plného potenciálu anonymizácie a pseudonymizácie údajov, a vzdelávať a lepšie informovať občanov, zdravotníckych pracovníkov a tvorcov rozhodnutí o prínosoch umelej inteligencie v oblasti zdravia, ako aj vývojárov umelej inteligencie o výzvach a rizikách spracovania citlivých údajov v tejto oblasti;

33. okrem toho sa domnieva, že na podporu prostredia dôvery medzi občanmi a na primeranú ochranu údajov týkajúcich sa zdravia pred možným zneužitím a nezákonným prístupom sú potrebné záväzné a prísne etické a právne normy a vymožiteľné práva na nápravu; súhlasí s Komisiou, že občania by mali mať zabezpečený prístup ku komplexným elektronickým záznamom o údajoch týkajúcich sa ich zdravia a mali by mať naďalej kontrolu nad osobnými údajmi týkajúcimi sa ich zdravia a možnosť poskytovať tieto údaje oprávneným tretím stranám pri zabezpečení účinnej ochrany osobných údajov a silnej kybernetickej bezpečnosti; zdôrazňuje, že by sa mal zakázať neoprávnený prístup k údajom a ich šírenie a že ochrana osobných údajov pacientov musí byť zaručená v súlade s právnymi predpismi o ochrane údajov;

34. v tejto súvislosti zdôrazňuje riziko neobjektívnych rozhodnutí vedúcich k diskriminácii a porušovaniu ľudských práv; zdôrazňuje preto potrebu nestrannej kontroly používaných algoritmov a súborov údajov a podpory ďalšieho výskumu metód a zaujatosti obsiahnutých v trénovaných systémoch umelej inteligencie, aby sa zabránilo neetickým a diskriminačným záverom v oblasti údajov o ľudskom zdraví;

35. zdôrazňuje, že účinné a jednotné uplatňovanie nariadenia GDPR v celej EÚ je potrebné na prekonanie výziev, akými sú právna neistota a nedostatočná spolupráca v zdravotníckom sektore; zdôrazňuje, že takéto výzvy vedú v niektorých prípadoch k oneskorovaniu vedeckých objavov a byrokratickej záťaži vo výskume v oblasti zdravia; zdôrazňuje, že vytvorenie európskeho priestoru, ktorý zaručuje práva pacientov a prenosnosť údajov, môže zvýšiť spoluprácu a stimulovať spoločné využívanie údajov pre výskum a inovácie v európskom zdravotníckom sektore;

36. konštatuje, že umelá inteligencia môže prispieť k rýchlemu rozvoju nových technológií, ako je napríklad zobrazovanie mozgu, ktoré už majú dôležité využitie v medicíne, ale zároveň predstavujú značné riziko pre ľudské konanie a vyjadrenie základných práv bez potreby súhlasu; je znepokojený nedostatkom právnych predpisov týkajúcich sa neurologických údajov a domnieva sa, že EÚ by sa mala usilovať o to, aby sa stala celosvetovým lídrom vo vývoji bezpečných neurologických technológií;

b) Umelá inteligencia a zelená dohoda

37. zdôrazňuje, že dve kľúčové priority Komisie na nadchádzajúce roky sú Európa pripravená na digitálny vek a zelená dohoda; zdôrazňuje, že je potrebné zabezpečiť, aby digitálna transformácia prispela k dosiahnutiu udržateľného rozvoja a podporovala zelenú transformáciu; konštatuje, že si to vyžaduje zrýchlenie inovácií v súlade s cieľmi EÚ v oblasti klímy a environmentálnymi normami; zdôrazňuje, že rôzne využitia umelej inteligencie môžu mať environmentálne a hospodárske prínosy a posilniť prediktívne schopnosti, ktoré môžu prispievať k boju proti zmene klímy a k dosiahnutiu cieľov Európskej zelenej dohody a cieľa EÚ stať sa do roku 2050 prvým klimaticky neutrálnym svetadielom; domnieva sa, že využívanie umelej inteligencie má potenciál znížiť do roku 2030 celosvetové emisie skleníkových plynov až o 4 % ( 27 ) ; konštatuje, že podľa niektorých odhadov môžu technológie IKT znížiť emisie skleníkových plynov 10-krát viac, než je ich vlastná stopa ( 28 ) , ale uznáva, že si to vyžaduje vedomé koncepčné rozhodnutia a regulačné opatrenia; zároveň upozorňuje, že rastúca spotreba energie pri ukladaní veľkých súborov údajov potrebných na trénovanie systémov umelej inteligencie môže mať aj negatívny vplyv; pripomína, že dátová prevádzka a infraštruktúra IKT dnes predstavujú približne 7 % svetovej spotreby elektrickej energie, pričom toto číslo sa podľa odhadov do roku 2030 bez správnych záruk zvýši na 13 %; dodáva, že k tomuto negatívnemu vplyvu môže prispieť aj intenzívne využívanie surovín na výrobu mikroprocesorov a moderných technologických zariadení využívajúcich umelú inteligenciu; upozorňuje, že samotné systémy umelej inteligencie je v záujme zaručenia veľkého dosahu, ale malej environmentálnej a klimatickej stopy umelej inteligencie potrebné zvážiť tieto priame a nepriame negatívne vplyvy na životné prostredie a systémy umelej inteligencie je potrebné navrhnúť tak, aby podporovali udržateľnú spotrebu, obmedzovali využívanie zdrojov a spotrebu energie, vyhýbali sa zbytočným spracovateľským operáciám a predchádzali škodám na životnom prostredí; zdôrazňuje, že riešenie vplyvu sektora IKT na životné prostredie si vyžaduje relevantné informácie a údaje;

38. vyjadruje znepokojenie nad tým, že len šesť členských štátov začlenilo do svojho úsilia splniť ciele zelenej dohody silné zameranie na využívanie umelej inteligencie; domnieva sa, že umelú inteligenciu možno použiť na zber a triedenie informácií dôležitých pre plánovanie a rozhodovanie v oblasti životného prostredia a pre riadenie a monitorovanie pokroku v environmentálnych politikách zameraných napríklad na čisté ovzdušie, kde aplikácie umelej inteligencie môžu monitorovať znečistenie a varovať pred rizikami; zdôrazňuje, že takéto riešenia založené na umelej inteligencii a digitálnych technológiách by sa mohli využiť vo viacerých odvetviach na rozšírenie riešení efektívne využívajúcich zdroje;

39. vyzdvihuje význam systémov založených na umelej inteligencii pri vytváraní inteligentných miest a obcí prostredníctvom optimalizácie využívania zdrojov a zvyšovania odolnosti infraštruktúry, a to aj prostredníctvom predikcie a znižovania objemu dopravy, inteligentného energetického manažmentu, núdzovej pomoci a nakladania s odpadom, ako sa už deje vo viacerých mestách a obciach v celej EÚ; zdôrazňuje, že riešenia založené na umelej inteligencii môžu ďalej pomáhať v oblasti mestského plánovania, architektúry, výstavby a inžinierstva s cieľom znížiť emisie, čas, náklady a odpad v stavebníctve;

40. zdôrazňuje, že transformácia energetiky sa neuskutoční bez digitalizácie; zdôrazňuje, že umelá inteligencia môže monitorovať, optimalizovať a znižovať spotrebu a výrobu energie, ako aj podporovať začlenenie energie z obnoviteľných zdrojov do existujúcich elektrizačných sústav; zdôrazňuje, že inteligentné meracie prístroje, efektívne osvetlenie, cloud computing a distribuovaný softvér spolu s prvkom umelej inteligencie majú potenciál zmeniť spôsoby využívania energie a podporiť jej zodpovedné využívanie;

41. zdôrazňuje, že pre čoraz väčšiu zložitosť systému transformácie energetiky s vo veľkej miere nestálou výrobou energie z obnoviteľných zdrojov a zmenami v riadení zaťaženia, je zvýšenie automatického riadenia pre bezpečnosť dodávok energie nevyhnutnosťou; zdôrazňuje, že umelá inteligencia má potenciál byť prínosom pre bezpečnosť dodávok, a to najmä v prevádzke, monitorovaní, údržbe a kontrole vodovodných, plynových a elektrických sietí; upozorňuje však, že technológie sietí využívajúcich umelú inteligenciu prinesú milióny inteligentných komponentov so spoločnými zraniteľnosťami, čím sa do energetických sietí pridá veľký počet potenciálnych bodov útoku a zvýši sa zraniteľnosť kritickej infraštruktúry, ak sa nezavedú vhodné opatrenia v oblasti kybernetickej bezpečnosti; konštatuje, že inteligentné siete si vyžadujú ďalšie investície a výskum;

42. domnieva sa, že umelá inteligencia a ďalšie digitálne aplikácie pre mobilitu a dopravu majú potenciál optimalizovať toky premávky a zvýšiť bezpečnosť na cestách okrem iného tým, že zvýšia efektívnosť dopravných systémov; poukazuje na to, že umelá inteligencia môže poskytnúť informácie o dizajne a energetickom hospodárení energeticky účinných vozidiel; zdôrazňuje, že sa výrazne rozšírili možnosti služieb prepravy prostredníctvom aplikácií, spoločného využívania vozidiel a tzv. car-sharingu a že umelá inteligencia sa v takýchto službách mobility často využíva prostredníctvom efektívneho plánovania trasy a výberu miesta vyzdvihnutia;

43. verí, že umelá inteligencia môže zohrávať transformačnú úlohu v poľnohospodárskom sektore a podporovať vznik nových metód zberu vrátane predpovedania úrody a riadenia poľnohospodárskych zdrojov; zdôrazňuje, že poľnohospodárstvo je kľúčovým sektorom, v ktorom môže umelá inteligencia pomôcť znížiť emisie a využívanie pesticídov, hnojív, chemických látok a vody tým, že sa ich používanie zameria na presné množstvo a na užšiu oblasť; ďalej zdôrazňuje, že umelá inteligencia môže prispieť k obnove biodiverzity tým, že sa budú monitorovať ohrozené druhy či sledovať odlesňovacie činnosti; zdôrazňuje potrebu vypracovať usmernenia pre zavádzanie a štandardizované metodiky posudzovania na podporu tzv. zelenej umelej inteligencie v oblastiach, ako sú inteligentné siete, presné poľnohospodárstvo, inteligentné a udržateľné mestá, ako aj komunity; zastáva názor, že umelá inteligencia vo forme presného poľnohospodárstva má potenciál priniesť prelom v poľnohospodárskej výrobe potravín a viesť k lepšiemu hospodáreniu s pôdou vďaka lepšiemu plánovaniu využívania pôdy, predpovedaniu zmeny využívania pôdy a monitorovaniu zdravia plodín, pričom má potenciál predpovedať extrémne klimatické javy;

44. zdôrazňuje, že umelá inteligencia môže prispieť k obehovému hospodárstvu tým, že zefektívni procesy a správanie v oblasti výroby, spotreby a recyklácie z hľadiska zdrojov a zvýši transparentnosť využívania materiálov, napríklad pokiaľ ide o etické získavanie surovín a zníženie množstva odpadu; zdôrazňuje, že umelá inteligencia má potenciál zlepšiť prehľad podnikov o ich emisiách vrátane hodnotových reťazcov, čím im pomôže prispôsobiť sa a dosiahnuť jednotlivé ciele v oblasti emisií; zdôrazňuje, že digitálne nástroje môžu pomôcť podnikom vykonávať kroky nevyhnutné pre smerovanie k udržateľnému správaniu, a to najmä MSP, ktoré by na to inak nemuseli mať prostriedky;

45. zdôrazňuje, že v súčasnosti nie je možné použiť umelú inteligenciu na úplné meranie vplyvov na životné prostredie; konštatuje, že je potrebné vykonať viac štúdií o úlohe umelej inteligencie pri znižovaní vplyvov na životné prostredie; zdôrazňuje, že na získanie väčšieho prehľadu a vykonanie väčšieho pokroku prostredníctvom riešení založených na umelej inteligencii je potrebných viac environmentálnych údajov; poukazuje na to, že využívaním umelej inteligencie na systematické prepájanie údajov o emisiách CO 2 s údajmi o vzorcoch výroby a spotreby, dodávateľských reťazcoch a logistických trasách by sa mohlo zabezpečiť odhalenie činností s pozitívnym alebo negatívnym vplyvom;

c) Rozmer umelej inteligencie týkajúci sa vonkajšej politiky a bezpečnosti

46. opätovne zdôrazňuje, že EÚ sa usiluje o dosiahnutie celosvetovej dohody o spoločných normách pre zodpovedné využívanie umelej inteligencie, čo je mimoriadne dôležité; zo zásady verí v potenciál rovnako zmýšľajúcich demokracií spolupracovať na spoločnom formovaní medzinárodnej diskusie o rámci umelej inteligencie, ktorým sa zabezpečí dodržiavanie ľudských práv a zásad právneho štátu, spolupracovať na dosiahnutí minimálnych technických a etických noriem a usmernení pre zodpovedné správanie štátu, najmä pod záštitou medzivládnych organizácií, akými sú OSN a OECD, a tým podporiť viacstrannosť, udržateľný rozvoj, interoperabilitu a spoločné využívanie údajov na medzinárodnej scéne; podporuje prácu otvorenej pracovnej skupiny OSN pre IKT a medzinárodnú bezpečnosť; zdôrazňuje, že opatrenia na budovanie dôvery sú nevyhnutné na zvýšenie úrovne dialógu a dôvery; vyzýva preto na väčšiu transparentnosť pri využívaní umelej inteligencie, aby sa zabezpečila lepšia zodpovednosť;

47. víta nedávne viacstranné iniciatívy zamerané na vypracovanie usmernení a noriem pre eticky zodpovedné využívanie umelej inteligencie, ako sú zásady OECD v oblasti umelej inteligencie, globálne partnerstvo v oblasti umelej inteligencie, odporúčanie UNESCO o etike umelej inteligencie, globálny samit „AI for Good“, odporúčania Rady Európy týkajúce sa možného právneho rámca pre umelú inteligenciu a politické usmernenia UNICEF týkajúce sa umelej inteligencie pre deti; víta prebiehajúcu prácu na medzinárodnej úrovni na normách v oblasti umelej inteligencie a pokrok dosiahnutý v súvislosti s normami Medzinárodnej organizácie pre normalizáciu týkajúcimi sa dôsledkov umelej inteligencie v oblasti riadenia;

48. víta tiež zriadenie Rady EÚ – USA pre obchod a technológie (TTC) a začatie jej činnosti; víta výsledok prvého zasadnutia TTC v Pittsburghu; považuje TTC za potenciálne fórum pre globálnu koordináciu medzi Európskou úniou a Spojenými štátmi pri stanovovaní globálnych pravidiel pre umelú inteligenciu a globálnych technologických noriem, ktoré chránia naše spoločné hodnoty, na podporu spoločných investícií, výskumu a vývoja a na užšiu politickú koordináciu v rámci medzinárodných inštitúcií v otázkach týkajúcich sa technológií a umelej inteligencie;

49. vyzdvihuje skutočnosť, že EÚ môže zohrávať kľúčovú úlohu pri stanovovaní globálnych noriem, ak ako prvý blok na svete zavedie právne predpisy o umelej inteligencii; zdôrazňuje, že právny rámec Únie v oblasti umelej inteligencie by mohol z Európy urobiť svetového lídra v tomto odvetví, a preto by sa mal presadzovať na celom svete prostredníctvom spolupráce so všetkými medzinárodnými partnermi, pričom by sa malo pokračovať v kritickom a eticky zameranom dialógu s tretími krajinami, ktoré majú alternatívne modely riadenia a normy v oblasti umelej inteligencie;

50. poznamenáva, že čínska vláda podpísala v rámci svojej iniciatívy Jedno pásmo, jedna cesta dohody o normách a spolupráci s 52 ďalšími krajinami; varuje, že keďže viaceré z týchto noriem vrátane noriem týkajúcich sa technológií založených na umelej inteligencii, a najmä v súvislosti so štátnym dohľadom a osobnými slobodami, nie sú v súlade s ľudskými právami a hodnotami EÚ, aktivizmus Číny v oblasti noriem predstavuje pre EÚ výzvu;

51. zdôrazňuje, že technológie umelej inteligencie, najmä tie, ktoré neboli navrhnuté a vyvinuté s explicitne stanovenými kontrolnými postupmi a ktoré sa používajú nesprávne a bez dohľadu vo vojenských veliteľských centrách alebo v zariadeniach na odpaľovanie rakiet, predstavujú obzvlášť veľké riziko a mohli by vystupňovať automatizovaný vzájomný konflikt;

52. poznamenáva, že využívanie systémov umelej inteligencie vo vývoji v oblasti obrany sa považuje za prielom vo vojenských operáciách vďaka analýze údajov, schopnosti odrážať väčšiu zložitosť situácie, potenciálu zlepšiť presnosť cieľov, optimalizovať logistiku a zapojiť sa do ozbrojených konfliktov so zníženým rizikom fyzického ublíženia civilnému obyvateľstvu a vlastnému vojenskému personálu, ako aj vďaka využívaniu údajov na vývoj spôsobov činnosti, ako je napríklad wargaming; varuje však, že by to mohlo viesť k zníženiu prahu pre použitie sily, a teda k väčšiemu počtu konfliktov; vyhlasuje, že stroje nemôžu prijímať rozhodnutia ako ľudia, ktorí zohľadňujú právne zásady rozlišovania, proporcionality a prevencie; vyhlasuje, že kontrolu nad rozhodovaním o nasadení a použití zbraní by mali mať ľudia, ktorí by mali niesť aj zodpovednosť za použitie smrtiacej sily a za rozhodnutia o živote a smrti; zastáva názor, že zbraňové systémy založené na umelej inteligencii by mali podliehať globálnym normám a medzinárodnému etickému kódexu správania, ktoré by upravovali nasadenie technológií umelej inteligencie vo vojenských operáciách, a to pri plnom rešpektovaní medzinárodného humanitárneho práva a práva v oblasti ľudských práv, ako aj v súlade s právom a hodnotami Únie;

53. je znepokojený vojenským výskumom a technologickým vývojom, ktorý prebieha v niektorých krajinách v súvislosti so smrtiacimi autonómnymi zbraňovými systémami bez významnej ľudskej kontroly; poznamenáva, že smrtiace autonómne zbraňové systémy sa už vo vojnových konfliktoch používajú; pripomína, že Európsky parlament opakovane vyzval na medzinárodný zákaz vývoja, výroby a používania smrtiacich autonómnych zbraňových systémov a na začatie účinných rokovaní o ich zákaze; zdôrazňuje, že systémy využívajúce umelú inteligenciu nemôžu v žiadnom prípade nahradiť ľudské rozhodovanie, ktoré zahŕňa právne zásady rozlišovania, proporcionality a predbežnej opatrnosti;

54. poznamenáva najmä, že technológia založená na umelej inteligencii môže predstavovať potenciálne riziká najmä ako prostriedok na rôzne druhy hybridnej vojny a zahraničného zasahovania; spresňuje, že by sa napríklad mohla využiť na šírenie dezinformácií s využitím botov alebo falošných účtov v sociálnych médiách, využitie vzájomnej závislosti ako zbrane prostredníctvom zhromažďovania cenných informácií alebo zamietnutia prístupu protivníkov k sieťam, ako aj na narušenie hospodárskych a finančných systémov iných krajín, znečistenie politickej diskusie a uprednostňovanie extrémistických skupín alebo manipuláciu volieb s cieľom destabilizovať demokracie;

55. zdôrazňuje, že technológie založené na umelej inteligencii by mohli zahŕňať aj malvér využívajúci umelú inteligenciu, krádež identity, tzv. otrávenie údajov alebo iné formy nepriateľského strojového učenia, ktoré spôsobia, že ostatné systémy umelej inteligencie budú nesprávne interpretovať vstupné údaje; poukazuje konkrétne na vzostup fenoménu deepfake, ktorý nemusí nevyhnutne predstavovať „kybernetické útoky“, ale vedie k pochybnostiam o pravosti všetkého digitálneho obsahu vrátane videí, a preto si vyžaduje osobitnú pozornosť z hľadiska požiadaviek na transparentnosť; varuje, že fenomén deepfake by mohol prispieť k rozšíreniu atmosféry verejnej nedôvery k umelej inteligencii, ako aj k hlbšej sociálno-politickej polarizácii v našich spoločnostiach;

56. poznamenáva, že používanie systémov umelej inteligencie v značnom množstve kľúčovej kritickej infraštruktúry, ako sú energetické sústavy, dopravné siete, vesmírny sektor, potravinové reťazce, banková a finančná infraštruktúra a nemocničné zariadenia, spolu s internetom vecí spôsobila vznik nových zraniteľných miest, ktorých ochrana pred hrozbami si vyžaduje spoľahlivé opatrenia v oblasti kybernetickej bezpečnosti; v tejto súvislosti poukazuje na význam spolupráce, výmeny informácií a opatrení na úrovni EÚ, ako aj medzi členskými štátmi; zdôrazňuje význam posilnenia odolnosti kritických subjektov voči hybridným hrozbám;

57. varuje, že schopnosti umelej inteligencie môžu predstavovať aj bezpečnostné riziko, keďže môže doviesť ľudí k takej dôvere v umelú inteligenciu, že jej budú veriť viac než vlastnému úsudku; poznamenáva, že použitie prístupu „človek v slučke“ ako nápravného mechanizmu nie je možné vo všetkých prípadoch; poznamenáva, že pokusmi sa dokázalo, že to dokáže zvýšiť úroveň autonómie umelej inteligencie nad rámec podpornej úlohy, na ktorú bola pôvodne navrhnutá, a znamená to, že ľuďom chýbajú príležitosti na získavanie skúseností a zdokonaľovanie svojich schopností a znalostí systémov umelej inteligencie; zdôrazňuje preto, že systémy umelej inteligencie s vysokým rizikom si vyžadujú bezpečnosť zakomponovanú už v štádiu návrhu a zmysluplný ľudský dohľad založený na zodpovedajúcej odbornej príprave, ako aj primerané záruky bezpečnosti a súkromia, aby sa prekonala táto nadmerná dôvera voči automatizácii;

58. zdôrazňuje však, že umelú inteligenciu možno použiť na predpovedanie výpadkov prúdu a identifikáciu potrieb údržby s veľkou presnosťou; ďalej spresňuje, že ju možno využiť na syntézu veľkých množstiev údajov prostredníctvom ich automatického extrahovania alebo automatizovanej klasifikácie a na odhaľovanie špecifických vzorcov; zdôrazňuje, že tieto prvky by umožnili lepšie predpovedanie a posudzovanie stupňa ohrozenia a zraniteľných miest systémov, rýchlejšie rozhodovacie procesy, lepšiu schopnosť reagovať a efektívnejšie zabezpečenie a zužitkovanie koncových zariadení;

59. zdôrazňuje najmä potenciál umožňujúci orgánom presadzovania práva identifikovať trestnú činnosť a bojovať proti nej aj s pomocou technológie založenej na umelej inteligencii; zdôrazňuje, že takéto činnosti presadzovania práva súvisiace s umelou inteligenciou si však vyžadujú plné dodržiavanie základných práv, prísny demokratický dohľad, jasné transparentné pravidlá, výkonnú IT infraštruktúru, ľudský dohľad, vysokokvalifikovaných zamestnancov a prístup k veľkému množstvu relevantných údajov;

d) Umelá inteligencia a konkurencieschopnosť

60. konštatuje, že v blízkej budúcnosti budú čoraz viaceré výrobky a služby v rámci hodnotového reťazca vzájomne prepojené, pričom umelá inteligencia a automatizácia budú zohrávať dôležitú úlohu v mnohých výrobných procesoch, operáciách a obchodných modeloch; zdôrazňuje mimoriadny význam základného výskumu pre rozvoj priemyselných ekosystémov umelej inteligencie, ako aj významných investícií na podporu digitálnej verejnej správy a modernizáciu digitálnej infraštruktúry;

61. konštatuje, že napriek výraznému nárastu rizikového kapitálu a iných finančných prostriedkov v počiatočnej fáze v posledných dvoch rokoch mnohé európske odvetvia zaostávajú a súčasná úroveň financovania v EÚ je stále nedostatočná a mala by sa výrazne zvýšiť, aby sa vyrovnala dynamike popredných ekosystémov umelej inteligencie, ako je Silicon Valley a iné; zdôrazňuje osobitnú klastrovú sieťovú štruktúru inovačného ekosystému EÚ narozdiel od centralizovaných (a štátom podporovaných) inovačných ekosystémov;

62. zdôrazňuje, že umelá inteligencia môže zmeniť konkurencieschopnosť priemyslu EÚ a má potenciál zvýšiť produktivitu, urýchliť inovácie, zlepšiť výrobné procesy a pomôcť monitorovať odolnosť európskych dodávateľských reťazcov;

63. poukazuje na riziko narušenia dodávateľských reťazcov v dôsledku hospodárskeho oddelenia alebo katastrofických udalostí, ako sú pandémie alebo javy súvisiace so zmenou klímy; zdôrazňuje, že využívanie umelej inteligencie môže pomôcť odhaliť modely narušenia v dodávateľských reťazcoch a poskytnúť informácie o prediktívnej údržbe, čo by mohlo podporiť diverzifikáciu dodávateľov;

64. konštatuje, že spoločnosti, ktoré začali s digitálnym prevratom, sú často odmeňované významným ziskom podielov na trhu; konštatuje, že z najnovších štúdií vyplýva, že tento vzorec sa pravdepodobne bude opakovať s ešte väčšou intenzitou, keďže spoločnosti, ktoré zavedú umelú inteligenciu často zbierajú veľké množstvo údajov, čo má tendenciu zvyšovať ich konkurenčnú pozíciu; je znepokojený výsledným rizikom koncentrácie na trhu na úkor MSP a startupov;

65. zdôrazňuje, že tento výhľad obzvlášť vzbudzuje obavy, keďže najväčšie existujúce technologické spoločnosti, ktoré pravdepodobne ovládnu aj technológie založené na umelej inteligencii, kontrolujú prístup na trh, pričom by získali väčšinu vytvorenej hodnoty; zdôrazňuje, že keďže údaje, na základe ktorých funguje sektor umelej inteligencie, sa v drvivej väčšine zhromažďujú od rovnakých veľkých technologických spoločností, ktoré používateľom ponúkajú prístup k službám výmenou za ich údaje a sledovanie cielenej reklamy, je pravdepodobné, že sa ich súčasná dominancia na trhu sama osebe stane motorom ďalšej dominancie na trhu; poukazuje na to, že mnohé z týchto technologických spoločností sídlia zväčša mimo EÚ, no napriek tomu dokážu zachytiť hodnotu vytvorenú údajmi o európskych zákazníkoch, a tak získať konkurenčnú výhodu;

66. ex ante vrátane budúceho aktu o digitálnych trhoch pri vyrovnávaní koncentrácie ešte pred jej vznikom; okrem toho zdôrazňuje úlohu, ktorú pri riešení tohto problému môže zohrávať normalizácia a spolupráca v oblasti regulácie, pretože uľahčuje globálny vývoj výrobkov a služieb bez ohľadu na ich fyzické umiestnenie; víta nedávne oznámenie Komisie, ktoré vyzýva na aktualizáciu pravidiel hospodárskej súťaže, aby boli vhodné pre digitálny vek ( 29 ) , a zdôrazňuje kľúčovú úlohu opatrenívrátane budúceho aktu o digitálnych trhoch pri vyrovnávaní koncentrácie ešte pred jej vznikom; okrem toho zdôrazňuje úlohu, ktorú pri riešení tohto problému môže zohrávať normalizácia a spolupráca v oblasti regulácie, pretože uľahčuje globálny vývoj výrobkov a služieb bez ohľadu na ich fyzické umiestnenie;

67. zdôrazňuje, že MSP a startupy zohrávajú ústrednú úlohu pri zavádzaní technológií založených na umelej inteligencii v rámci EÚ, keďže predstavujú väčšinu všetkých spoločností a sú zásadne dôležitým zdrojom inovácie; pripomína však, že sľubné startupy v oblasti umelej inteligencie čelia značným prekážkam pri rozširovaní svojej činnosti v Európe v dôsledku neúplného jednotného digitálneho trhu a regulačných rozdielov v mnohých členských štátoch, alebo keď rozšíria svoju činnosť, získajú ich veľké technologické spoločnosti; vyjadruje poľutovanie nad tým, že MSP sa často stretávajú s nedostatkom finančných prostriedkov, zložitými administratívnymi postupmi a nedostatkom primeraných zručností a prístupu k informáciám; konštatuje, že orgány EÚ pre hospodársku súťaž v minulosti povolili väčšinu zahraničných prevzatí európskych spoločností v oblasti umelej inteligencie a robotiky;

68. zdôrazňuje, že intenzívne využívanie algoritmov, napríklad pri určovaní cien, by mohlo viesť v rámci jednotného trhu k vytvoreniu nových problémov špecifických pre umelú inteligenciu; konštatuje, že pre antitrustové orgány môže byť napríklad zložité dokázať cenovú kolúziu medzi systémami stanovovania cien využívajúcimi umelú inteligenciu; okrem toho dodáva, že niekoľko poskytovateľov umelej inteligencie, ktorí sa už zúčastňujú na obchodovaní s akciami, by mohlo predstavovať systémové riziko pre finančné trhy, a to aj prostredníctvom kolúzií; zdôrazňuje, že algoritmické kolúzie možno veľmi ťažko identifikovať, pretože systémy založené na umelej inteligencii nemusia medzi sebou komunikovať tak, ako to robia ľudia pri kolúziách, čo môže znemožniť preukázanie tajného úmyslu; zdôrazňuje, že to predstavuje riziko pre stabilitu trhu, a preto je potrebné, aby orgány EÚ a vnútroštátne orgány pre hospodársku súťaž vypracovali vhodné stratégie a nástroje; okrem toho upozorňuje na systémové riziko pre finančné trhy vyplývajúce z rozsiahleho používania algoritmických obchodných modelov a systémov bez akejkoľvek ľudskej interakcie, ktoré už v minulosti výrazne zosilnili pohyby na trhu a pravdepodobne sa tak stane aj v budúcnosti;

69. konštatuje, že mnohé spoločnosti v EÚ, ktoré sa zameriavajú na umelú inteligenciu, v súčasnosti čelia právnej neistote, pokiaľ ide o to, ako môžu v dôsledku byrokratických prekážok s istotou rozvíjať svoje produkty a služby vzhľadom na prekrývanie existujúcich odvetvových právnych predpisov a neexistencie zavedených štandardov a noriem v oblasti umelej inteligencie;

70. zdôrazňuje výzvu pre spoločnosti zaoberajúce sa umelou inteligenciou, pokiaľ ide o kontrolu kvality a ochranu spotrebiteľa; dospieva k záveru, že transparentnosť a dôveryhodnosť sú nevyhnutné na zabezpečenie toho, aby spoločnosti EÚ mali konkurenčnú výhodu, keďže takéto úvahy v budúcnosti rozhodnú o tom, či trh prijme daný produkt alebo službu;

71. konštatuje, že hoci 26 % hodnotných výskumných publikácií o umelej inteligencii pochádza z Európy, len 4 z 30 najväčších žiadateľov (13 %) a 7 % podnikov, ktoré sa celosvetovo usilujú o patentovanie umelej inteligencie, sú z Európy;

72. domnieva sa, že právne predpisy EÚ v oblasti duševného vlastníctva si vyžadujú harmonizáciu a jasné a transparentné presadzovanie a vyvážený, vymáhateľný a predvídateľný rámec, ktorý by európskym podnikom, a najmä startupom, umožnil zabezpečiť ochranu ich duševného vlastníctva;

73. vyjadruje obavy, že MSP využívajú ochranu duševného vlastníctva stále na nízkej úrovni, keďže často si nie sú plne vedomé svojich práv a nemajú dostatok prostriedkov na ich ochranu; zdôrazňuje význam informácií a štatistík o ochrane duševného vlastníctva medzi MSP pôsobiacimi v odvetviach náročných na znalosti a víta úsilie, vrátane zjednodušených postupov registrácie a nižších správnych poplatkov, o poskytnutie lepších informácií MSP a startupom a o uľahčenie ich prístupu k ochrane duševného vlastníctva; poznamenáva, že s cieľom pomôcť spoločnostiam v EÚ pri ochrane ich práv duševného vlastníctva, pokiaľ ide o umelú inteligenciu, by sa malo posilniť postavenie EÚ ako globálneho normotvorcu; zdôrazňuje, že medzinárodná konkurencieschopnosť a atraktívnosť sú zakotvené v pevnom a odolnom jednotnom trhu, a to aj v ochrane a presadzovaní práv duševného vlastníctva;

74. uvádza, že analýza údajov, ako aj prístup k iným ako osobným údajom, ich spoločné využívanie a opätovné používanie majú už dnes zásadný význam pre mnohé produkty a služby využívajúce údaje, ale budú dôležité pre vývoj a zavádzanie budúcich systémov umelej inteligencie; zdôrazňuje však, že väčšina iných ako osobných údajov vytvorených v EÚ sa zatiaľ nevyužíva, keďže jednotný trh s údajmi stále len vzniká;

75. poukazuje na význam uľahčenia prístupu k údajom a ich zdieľaniu, otvoreným štandardom a technológiám s otvoreným zdrojovým kódom ako spôsobu zvýšenia investícií a podpory inovácií v oblasti technológií umelej inteligencie v EÚ; uvádza, že pre vývojárov umelej inteligencie by bola užitočná lepšia harmonizácia výkladov zo strany vnútroštátnych orgánov na ochranu údajov, ako aj usmernenia k zmiešaným údajom a anonymizačným technikám;

76. zdôrazňuje úlohu, ktorú môže umelá inteligencia zohrávať pri pomoci európskym a vnútroštátnym orgánom pri presadzovaní práva, najmä v oblasti colného a trhového dohľadu; zastáva názor, že obchodné a colné postupy možno zefektívniť, a to aj z hľadiska nákladov, prostredníctvom umelej inteligencie zlepšením dodržiavania predpisov a zabezpečením toho, aby na jednotný trh vstupovali len bezpečné výrobky; poukazuje na príklad systému riadenia posudzovania a príjmov Kanadskej agentúry pre pohraničné služby (CARM), ktorý výrazne zjednodušuje dovozné a vývozné postupy pomocou kvalifikovaného hodnotenia rizík umelou inteligenciou a zefektívnenej digitalizovanej správy informácií s cieľom znížiť potrebu zdĺhavých kontrol;

e) Umelá inteligencia a pracovný trh

77. poznamenáva, že umelá inteligencia čoraz viac ovplyvňuje trh práce, pracovisko a sociálnu oblasť a že vplyvy technologických zmien na prácu a zamestnanosť sú mnohostranné; zdôrazňuje, že v tejto oblasti prináša využívanie umelej inteligencie množstvo etických, právnych a pracovnoprávnych výziev; vyjadruje obavy, že z hľadiska trhu práce môže digitalizácia viesť k reorganizácii pracovnej sily a k možnému zániku niektorých odvetví zamestnanosti; domnieva sa, že prijatím umelej inteligencie, pokiaľ ho bude sprevádzať potrebná podporná infraštruktúra, vzdelávanie a odborná príprava, by sa mohla zvýšiť produktivita kapitálu a práce, inovácie, udržateľný rast a vytváranie pracovných miest;

78. zdôrazňuje, že hoci umelá inteligencia môže nahradiť niektoré úlohy vrátane opakujúcich sa, ťažkých, pracovne náročných alebo nebezpečných úloh, mohla by tiež pomôcť zlepšiť zručnosti, zvýšiť kvalitu práce a vytvoriť nové pracovné miesta s vyššou pridanou hodnotou, a tak ponechať viac času na stimulujúce úlohy a kariérny rozvoj; zdôrazňuje, že umelá inteligencia už v súčasnosti nahrádza alebo dopĺňa ľudí v podskupine úloh, ale zatiaľ nemá zistiteľné významné súhrnné dôsledky pre trh práce ( 30 ) ; upozorňuje však na možnosť zvýšenia príjmovej nerovnosti, ak sa v dôsledku umelej inteligencie rozšíria vysokokvalifikované profesie a nahradia sa tie nízkokvalifikované; dodáva, že akékoľvek hospodárske a sociálne dôsledky, ktoré z toho vyplývajú, je potrebné zmierniť vhodnými opatreniami, výskumom a predvídavosťou a pripraviť sa na ne investovaním do rekvalifikácie a zvyšovania kvalifikácie pracovnej sily so zameraním na nedostatočne zastúpené skupiny, ako sú ženy a menšiny, ktoré budú pravdepodobne najviac postihnuté touto transformáciou, a podporou rozmanitosti vo všetkých fázach vývoja systémov umelej inteligencie; obáva sa, že umelá inteligencia môže viesť k procesom straty zručností a vytvárať a uplatňovať nízko platenú prácu s malou autonómiou a rozširovať atypickú, flexibilnú (alebo tzv. gig) prácu; zdôrazňuje, že algoritmické riadenie by mohlo viesť k nerovnováhe moci medzi vedením a zamestnancami a k nejasnostiam v rozhodovaní;

79. zdôrazňuje, že využívanie umelej inteligencie ponúka príležitosť podporiť podstatnú kultúrnu zmenu v rámci organizácií vrátane zlepšenia bezpečnosti na pracovisku, zlepšenia rovnováhy medzi pracovným a súkromným životom, ponuky práva odpojiť sa a efektívnejšej odbornej prípravy a usmernení; v tejto súvislosti poukazuje na odporúčania OECD, v ktorých sa zdôrazňuje, že automatizácia by mohla viesť aj k skráteniu pracovného času, čím by sa zlepšili životné podmienky a zdravie pracovníkov; zastáva názor, že aplikácie umelej inteligencie, ktoré posilňujú postavenie ľudí, by tiež mohli vytvárať nové pracovné možnosti, a to najmä pre ľudí, ktorí boli z dôvodu obmedzení, ako je zdravotné postihnutie alebo životné okolnosti, doteraz odsúdení na menej kvalifikovanú prácu; zdôrazňuje potrebu využívať pomoc umelej inteligencie na pracovisku, aby sa ľuďom poskytol čas na zlepšenie kvality ich výstupov namiesto toho, aby sa len zvýšila pracovná záťaž;

80. odsudzuje čoraz častejšie využívanie sledovania na pracovisku, ktoré je založené na umelej inteligencii a ktoré sa často uskutočňuje bez vedomia pracovníkov, nehovoriac o ich súhlase, najmä v súvislosti s prácou na diaľku; zastáva názor, že táto prax by nemala byť povolená, pretože mimoriadne porušuje základné právo na súkromie, ochranu údajov a ľudskú dôstojnosť pracovníka, ako aj sociálne a pracovné práva, a má tiež negatívny vplyv na duševné zdravie pracovníkov z dôvodu miery zásahu, plošného alebo nerozlišujúceho účinku a nedostatočných záruk pre dotknuté osoby;

81. je znepokojený, že podobné riziko sledovania umelou inteligenciou existuje aj v školskom prostredí, keďže čoraz častejšie zavádzanie systémov umelej inteligencie v školách narúša základné práva detí; poznamenáva, že dôsledky, ktorá má umelá inteligencia na súkromie, bezpečnosť a ochranu detí, sa týkajú širokého spektra, od prínosov súvisiacich so schopnosťou konkrétnejšie a presnejšie pochopiť hrozby, ktorým deti čelia, až po riziká spojené s neúmyselným narušením súkromia; zdôrazňuje, že pozitívne aj negatívne dôsledky na súkromie, bezpečnosť a ochranu detí si vyžadujú dôkladné preskúmanie a zodpovedajúce záruky; ďalej zdôrazňuje, že pri vývoji systémov umelej inteligencie je potrebné venovať osobitnú pozornosť a ochranu deťom, pretože sú obzvlášť citlivé a zraniteľné;

82. zdôrazňuje, že je mimoriadne dôležité poskytovať jednotlivcom komplexné programy rozvoja zručností vo všetkých fázach života, aby mohli zostať produktívni na neustále sa vyvíjajúcom pracovisku a aby sa zabránilo ich vylúčeniu z trhu práce; domnieva sa, že prispôsobenie pracovnej sily, pokiaľ ide o vzdelávanie v súvislosti s umelou inteligenciou, celoživotné vzdelávanie a rekvalifikáciu je zásadne dôležité; zdôrazňuje, že súčasné koncepcie učenia a práce sú stále príliš vymedzené pred digitálnym svetom, čo prispieva k čoraz väčším rozdielom v zručnostiach a novej digitálnej priepasti pre občanov bez prístupu k bezpečnému digitálnemu prostrediu; zdôrazňuje, že posilnenie digitálnej gramotnosti prispieva k dosiahnutiu cieľov OSN v oblasti udržateľného rozvoja, najmä tých, ktoré sa týkajú vzdelávania, ľudského kapitálu a infraštruktúry; zdôrazňuje, že vďaka kríze spôsobenej ochorením COVID-19 sa získali poznatky o nových formách práce a učenia sa, ktoré by sa mohli ďalej skúmať;

83. zdôrazňuje, že v záujme plného využitia výhod digitalizácie musí Únia riešiť digitálnu gramotnosť a zručnosti pre všetkých; je presvedčený, že digitálna gramotnosť je predpokladom dôvery občanov v umelú inteligenciu a informovanosti verejnosti o jej vplyve; zdôrazňuje význam začlenenia základného vzdelávania v oblasti digitálnych zručností a umelej inteligencie do národných vzdelávacích systémov; domnieva sa, že vykonávanie a rozvoj technológií založených na umelej inteligencii v oblasti menšinových jazykov by mohli viesť k zvýšeniu ich znalosti a používania; zdôrazňuje, že viac ako 70 % podnikov uvádza nedostatok pracovníkov s vhodnými digitálnymi zručnosťami a zručnosťami v oblasti umelej inteligencie ako prekážku pre investície; vyjadruje znepokojenie nad skutočnosťou, že v roku 2019 bolo v EÚ 7,8 milióna odborníkov v oblasti IKT s predchádzajúcim tempom ročného rastu o 4,2 %, čo je dosť ďaleko od 20 miliónov expertov potrebných v kľúčových oblastiach, ako je analýza údajov, podľa odhadov Komisie;

84. vyjadruje znepokojenie nad existenciou rodových rozdielov v tejto oblasti, pričom je žena len každá šiesta odborníčka na IKT a každá tretia absolventka vedeckých, technologických, inžinierskych a matematických (STEM) odborov ( 31 ) ; so znepokojením konštatuje, že rodové rozdiely pretrvávajú najmä v oblasti startupov, kde v roku 2019 až 92 z každých 100 USD investovaných do európskych technologických spoločností pripadlo na zakladateľské tímy zložené výlučne z mužov; odporúča cielené iniciatívy na podporu žien v oblasti STEM s cieľom odstrániť celkovú medzeru v zručnostiach v tomto odvetví; zdôrazňuje, že tieto rozdiely nevyhnutne vedú k neobjektívnym algoritmom; zdôrazňuje význam posilnenia postavenia dievčat a ich motivácie ku kariére v oblasti STEM a odstránenie rodových rozdielov v tejto oblasti;

f) Umelá inteligencia a budúcnosť demokracie

85. konštatuje, že umelá inteligencia má na jednej strane potenciál pomôcť pri budovaní transparentnejšieho a efektívnejšieho verejného sektora, ale na druhej strane technický vývoj v oblasti umelej inteligencie, ktorý je často poháňaný logikou rastu a zisku, je veľmi rýchly a dynamický, čo sťažuje tvorcom politík dostatočné pochopenie toho, ako nové aplikácie umelej inteligencie fungujú a aké výsledky môžu tieto aplikácie priniesť, hoci majú povinnosť poskytnúť rámec na zabezpečenie toho, aby bola umelá inteligencia v súlade so základnými právami a mohla sa využívať v prospech spoločnosti; zdôrazňuje, že prognózy odborníkov o budúcom vplyve umelej inteligencie sa tiež líšia, čo naznačuje, že aj pre nich môže byť ťažké predpovedať výsledky nasadenia nových technológií umelej inteligencie; preto tvrdí, že vzhľadom na túto neistotu je potrebné, aby zákonodarcovia pri regulácii umelej inteligencie zohľadňovali zásadu predbežnej opatrnosti; domnieva sa, že na vytvorenie pevných a funkčných právnych predpisov, ktoré obstoja aj v budúcnosti, je nevyhnutné viesť konzultácie s odborníkmi s rôznymi odbornými znalosťami a z rôznych oblastí; varuje, že právna neistota môže byť jednou z najväčších prekážok inovácií; v tejto súvislosti poukazuje na význam podpory gramotnosti v oblasti umelej inteligencie medzi občanmi vrátane volených zástupcov a vnútroštátnych orgánov;

86. upozorňuje, že legislatívne cykly preto často zaostávajú za technologickým pokrokom, čo núti tvorcov politík doháňať jeho náskok a uprednostňovať reguláciu prípadov použitia, ktoré sú už na trhu; poukazuje na to, že rozumnému regulačnému prístupu k umelej inteligencii musí predchádzať dôkladná analýza proporcionality a nevyhnutnosti, aby sa zabránilo obmedzovaniu inovácií a konkurencieschopnosti podnikov v EÚ;

87. zdôrazňuje, že používanie umelej inteligencie na získavanie biometrických údajov by mohlo byť rušivé a škodlivé alebo prospešné pre jednotlivca, ako aj pre širokú verejnosť;

88. so znepokojením konštatuje, že takéto technológie umelej inteligencie vyvolávajú zásadné etické a právne otázky; konštatuje, že isté technológie umelej inteligencie umožňujú automatizáciu spracúvania informácií v bezprecedentnom rozsahu, čo pripravuje pôdu pre hromadné sledovanie a iné nezákonné zasahovanie a predstavuje hrozbu pre základné práva, najmä práva na súkromie a ochranu údajov;

89. zdôrazňuje, že mnohé autoritárske režimy používajú systémy umelej inteligencie na kontrolu, vykonávanie hromadného sledovania, špehovanie, monitorovanie a hodnotenie svojich občanov alebo na obmedzovanie ich slobody pohybu; zdôrazňuje, že akákoľvek forma normatívneho bodovania občanov zo strany verejných orgánov, najmä v oblasti presadzovania práva, hraničnej kontroly a justície, ako aj ich využívanie súkromnými spoločnosťami alebo jednotlivcami vedie k strate autonómie a súkromia, prináša riziká diskriminácie a nie je v súlade s európskymi hodnotami; pripomína, že technológie, ako je kybernetický dohľad a biometrické rozpoznávanie, ktoré možno použiť na tieto účely, podliehajú nariadeniu EÚ o kontrole vývozu; je veľmi znepokojený prípadmi spoločností z EÚ, ktoré predávajú biometrické systémy, ktorých použitie by bolo v EÚ nelegálne, autoritárskym režimom v krajinách mimo EÚ a odsudzuje tieto prípady;

90. poznamenáva, že dominantné technické platformy nemajú v súčasnosti len značnú kontrolu nad prístupom k informáciám a ich šíreniu, ale využívajú aj technológie založené na umelej inteligencii, aby získali viac informácií o identite a správaní osôb a poznatky o histórii rozhodovania; domnieva sa, že takéto profilovanie predstavuje riziko pre demokratické systémy, ako aj pre ochranu základných práv a autonómiu občanov; zdôrazňuje, že to vytvára nerovnováhu moci a predstavuje systémové riziká, ktoré by mohli ovplyvniť demokraciu;

91. poukazuje na to, že digitálne platformy, a to aj prostredníctvom marketingových aplikácií riadených umelou inteligenciou, možno využiť na šírenie dezinformácií a tzv. deepfakov, pričom slúžia ako siete pre propagandu, trollovanie a obťažovanie s cieľom podkopávať volebné procesy; zdôrazňuje, že strojové učenie umožňuje najmä cielené využívanie osobných údajov na manipuláciu s voličmi, ktorí nič netušia, a to prostredníctvom vytvárania personalizovaných a presvedčivých správ; zdôrazňuje význam prísnych povinností v oblasti transparentnosti, ktoré sa účinne presadzujú;

92. zdôrazňuje, že umelá inteligencia by sa však tiež mohla využiť na obmedzenie protidemokratických a neetických aktivít na platformách a ako prostriedok na obmedzenie šírenia falošných správ a nenávistných prejavov, hoci testy jej schopností porozumieť obsahu špecifickému pre daný kontext zatiaľ vykázali slabé výsledky; je znepokojený tým, že rozdeľujúci jazyk môže viesť k väčšej interakcii používateľov, a preto by bolo odstránenie takéhoto jazyka v priamom rozpore s obchodným modelom takýchto platforiem, ktorý je založený na maximalizácii interakcie používateľov; zastáva názor, že riešenia využívajúce umelú inteligenciu musia byť pred ich prípadným použitím založené na plnom rešpektovaní slobody prejavu a názoru a na presvedčivých dôkazoch v ich prospech;

93. zdôrazňuje, že predpojatosť v systémoch umelej inteligencie, najmä pokiaľ ide o systémy hĺbkového učenia, často vzniká z dôvodu chýbajúcich rôznorodých a vysokokvalitných trénovacích a testovacích údajov, napríklad v prípadoch, keď sa používajú súbory údajov, ktoré nezahŕňajú v dostatočnej miere zraniteľné skupiny, alebo keď už samotné vymedzenie úlohy alebo nastavenie požiadaviek je predpojaté; poznamenáva, že predpojatosť môže tiež vzniknúť z dôvodu možného nedostatku rozmanitosti v tímoch vývojárov, opakovania vnútorných zaujatostí, obmedzeného objemu trénovacích a testovacích údajov alebo keď zaujatý vývojár umelej inteligencie ovplyvní algoritmus; poukazuje na to, že odôvodnená diferenciácia sa vytvára aj zámerne s cieľom zlepšiť výkon umelej inteligencie pri učení za určitých okolností;

94. zdôrazňuje, že štrukturálne predsudky prítomné v našej spoločnosti by sa nemali opakovať alebo dokonca zvyšovať prostredníctvom nekvalitných súborov údajov; spresňuje v tomto smere, že algoritmy sa naučia takej diskriminácií, aké sú údaje, s ktorými pracujú, a v dôsledku nekvalitných trénovacích údajov alebo predpojatosti a diskriminácie pozorovanej v spoločnosti, môžu navrhovať rozhodnutia, ktoré sú z podstaty diskriminačné, čo prehlbuje diskrimináciu v rámci spoločnosti; poznamenáva však, že predpojatosti umelej inteligencie sa dajú niekedy korigovať; konštatuje, že preto je potrebné uplatniť technické prostriedky a zaviesť rôzne úrovne kontroly systémov umelej inteligencie vrátane softvéru, algoritmov a údajov, ktoré používajú a vytvárajú, aby sa toto riziko minimalizovalo; tvrdí, že umelá inteligencia sa môže a mala by sa využívať na zníženie predpojatosti a diskriminácie a na podporu rovnakých práv a pozitívnych sociálnych zmien v našich spoločnostiach, a to aj prostredníctvom normatívnych požiadaviek na súbory údajov, ktoré sa používajú na trénovanie systémov umelej inteligencie; zdôrazňuje, že jedným z najúčinnejších spôsobov, ako znížiť predpojatosť v systémoch umelej inteligencie, je zabezpečiť, aby bolo na trénovacie účely a strojové učenie k dispozícii maximálne množstvo údajov, ktoré nie sú osobnými údajmi;

g) Zistenia, ktoré sa opakujú vo všetkých šiestich prípadových štúdiách

95. konštatuje, že so zavádzaním technológií umelej inteligencie sú spojené jasné spoločenské výhody a príležitosti, ktoré možno využiť len vtedy, ak sa v EÚ vyriešia prierezové prekážky v súlade so základnými právami, hodnotami a právnymi predpismi; uvádza, že prekrývanie právnych predpisov, fragmentáciu trhu, byrokratické prekážky, nedostatočne dostupnú digitálnu infraštruktúru a digitálne zručnosti v širšej spoločnosti a nedostatočné investície do výskumu a vývoja možno považovať za prekážky úspešného uplatnenia dôveryhodnej umelej inteligencie vo všetkých skúmaných oblastiach;

96. na základe preskúmaných prípadových štúdií ďalej konštatuje, že existujú určité prípady použitia, ktoré sú rizikové alebo škodlivé, ale že to nemusia byť samotné konkrétne technológie umelej inteligencie, ale oblasti ich použitia; uznáva, že budúca právna úprava musí riešiť oprávnené obavy súvisiace s týmito rizikami, aby technológie založené na umelej inteligencii našli v EÚ široké uplatnenie;

97. uvádza, že je dôležité preskúmať a kategorizovať potenciálne riziká pre základné práva, ktoré prináša umelá inteligencia, avšak prípadové štúdie ukázali, že technológie založené na umelej inteligencii nám môžu poskytnúť účinné protiopatrenia, ktoré dokážu tieto riziká zmierniť alebo eliminovať; upozorňuje, že keďže umelá inteligencia je stále v ranom štádiu vývoja v rámci širšieho kontextu vznikajúcich technológií, jej plný potenciál, ako aj riziká, nie sú isté; poukazuje na to, že je potrebné pozrieť sa nielen na riziká pre jednotlivcov, ale aj na širšiu spoločenskú škodu a nemateriálne škody pre jednotlivcov; poukazuje na výraznú nerovnováhu trhovej sily na trhoch s údajmi a v priľahlom hospodárstve v oblasti umelej inteligencie; zdôrazňuje, že spravodlivá hospodárska súťaž a odstránenie prekážok hospodárskej súťaže pre startupy a MSP sú nevyhnutné na spravodlivé rozdelenie potenciálnych prínosov umelej inteligencie v hospodárskej a spoločenskej oblasti, čo sa zdá byť významné v EÚ aj na celom svete;

3. Miesto EÚ v globálnej súťaži v oblasti umelej inteligencie

98. pozoruje tvrdú globálnu konkurenciu v oblasti umelej inteligencie, v ktorej EÚ zatiaľ nesplnila svoje ambície; v nasledujúcich odsekoch skúma globálnu konkurencieschopnosť EÚ, pokiaľ ide o umelú inteligenciu, porovnávajúc ju s konkurencieschopnosťou Číny a USA, pričom sa zameriava na tri prvky: regulačný prístup, postavenie na trhu a investície; uznáva však, že nadnárodné trhy a korporácie nie je možné jednoducho vymedziť cez hranice štátov, keďže väčšina technologických spoločností má zákazníkov, akcionárov, zamestnancov a dodávateľov v mnohých rôznych krajinách;

a) Regulačný prístup

99. poznamenáva, že USA ešte nezaviedli horizontálnu legislatívu v digitálnej oblasti a doteraz sa zameriavali na právne predpisy špecifické pre jednotlivé sektory a na uľahčenie investícií, a to aj prostredníctvom daňových opatrení v oblasti inovácií v súkromnom sektore, a najmä pre svojich technologických gigantov a popredné univerzity; konštatuje, že napriek nedávnemu vývoju, ktorý poukazuje na aktívnejšiu politickú úlohu, sa prístup USA doteraz zameriaval najmä na poskytovanie právneho poradenstva podnikom, investovanie do výskumných projektov a odstraňovanie vnímaných prekážok inovácií;

100. zdôrazňuje, že akt o americkej iniciatíve v oblasti umelej inteligencie z roku 2019 priniesol miernu úpravu, keďže okrem presmerovania financovania, rekvalifikácie pracovníkov a posilnenia digitálnej infraštruktúry vláda USA oznámila vývoj spoločných noriem pre dôveryhodnú umelú inteligenciu; poznamenáva však, že 10 výsledných zásad bolo formulovaných veľmi zoširoka s cieľom umožniť jednotlivým vládnym agentúram vytvoriť právne predpisy špecifické pre jednotlivé sektory; očakáva, že hoci súčasná administratíva USA plánuje predstaviť v roku 2022 nový zákon o právach s cieľom obmedziť škody spôsobené umelou inteligenciou, prístup USA zostane aj naďalej orientovaný na trh;

101. zdôrazňuje, že čínsky prezident Si Ťin-pching už v roku 2013 poukázal na význam technológií v geopolitike, úlohu verejných politík pri stanovovaní dlhodobých cieľov a skutočnosť, že umelá inteligencia ponúka príležitosť obnovy vojenskej sily; zdôrazňuje ďalej, že čínska vláda následne v roku 2015 predložila plán Made in China 2025 a v roku 2017 plán na vývoj umelej inteligencie novej generácie, ktoré oba mali jasný cieľ spraviť z Číny do roku 2030 celosvetového lídra v oblasti umelej inteligencie; poznamenáva, že v čínskej bielej knihe o normalizácii umelej inteligencie z roku 2018 sa ďalej načrtáva, ako môže socialistické trhové hospodárstvo vyvíjať medzinárodne normy a strategicky pôsobiť v medzinárodných normalizačných organizáciách; upozorňuje na zavedenie pravidiel týkajúcich sa odporúčacích systémov, ako aj etického kódexu pre umelú inteligenciu v Číne;

102. poznamenáva, že na globálnej scéne Čína aktívne podporuje medzinárodné partnerstvá v oblasti umelej inteligencie ako spôsob vývozu vlastných postupov dohľadu založeného na umelej inteligencii, systému sociálneho bodovania a stratégií cenzúry; zdôrazňuje, že veľké investície v zahraničí v rámci iniciatívy Digitálna hodvábna cesta sa využívajú aj ako prostriedok na šírenie čínskeho vplyvu a technológie umelej inteligencie na celom svete, čo by mohlo mať ďalekosiahle dôsledky presahujúce zavedenie technologických noriem alebo udržanie technologickej konkurencieschopnosti; na záver konštatuje, že prístup čínskej vlády je preto založený domácom používaní umelej inteligencie, ako aj vývoze technológií založených na umelej inteligencii, a to na základe vopred stanovených noriem, ktoré sú v súlade s ideológiou čínskej vlády;

103. poznamenáva, že Komisia začala pracovať na regulácii umelej inteligencie v roku 2018 zverejnením európskej stratégie v oblasti umelej inteligencie, zriadením expertnej skupiny na vysokej úrovni a predstavením koordinovaného plánu ( 32 ) na podporu umelej inteligencie „Made in Europe“; poznamenáva, že v bielej knihe o umelej inteligencii z roku 2020 sa navrhlo viacero opatrení a politických možností pre budúcu reguláciu umelej inteligencie, ktoré neskôr vyústili do horizontálneho aktu o umelej inteligencii ( 33 ) , ktorý bol predložený spolu s revidovaným koordinovaným plánom v oblasti umelej inteligencie ( 34 ) v máji 2021; poukazuje na skutočnosť, že do júna 2021 zverejnilo 20 členských štátov národné stratégie v oblasti umelej inteligencie, pričom sedem ďalších sa nachádza v konečných fázach prípravy na prijatie svojich stratégií;

104. zdôrazňuje, že hlavným prvkom regulačného prístupu EÚ je veľká pozornosť venovaná rozvoju európskeho jednotného digitálneho trhu, ako aj etickým ohľadom v súlade so základnými hodnotami ľudských práv a s demokratickými zásadami; uznáva, že vytvorenie prvého regulačného rámca pre umelú inteligenciu na svete by mohlo poskytnúť EÚ pákový efekt a výhodu prvého hráča pri stanovovaní medzinárodných noriem v oblasti umelej inteligencie založených na európskych hodnotách, ako aj viesť k úspešnému vývozu „dôveryhodnej umelej inteligencie“ zameranej na človeka do celého sveta; zdôrazňuje, že tento prístup je potrebné podporiť regulačnou koordináciou a zbližovaním právnych predpisov s medzinárodnými partnermi;

b) Situácia na trhu

105. poznamenáva, že mnoho zo 100 popredných svetových spoločností v oblasti umelej inteligencie má sídlo v USA, pričom len pár z nich je v EÚ; poznamenáva, že USA tiež vedú v celkovom počte startupov v oblasti umelej inteligencie;

106. poukazuje na skutočnosť, že technologickí giganti z USA kúpili v posledných rokoch niekoľko európskych digitálnych spoločností; víta ambíciu Komisie riešiť nadobudnutia, ktoré môžu mať významný vplyv na účinnú hospodársku súťaž na digitálnom trhu, a obmedziť ničivé nadobudnutia; poukazuje však na to, že nadobudnutie môže byť v niektorých prípadoch hlavným cieľom zakladateľov startupov a ich sponzorov ako jedna z legitímnych metód na získanie výhod z ich nápadov;

107. zdôrazňuje, že hoci sa USA a Čína snažia urýchliť využívanie technológií založených na umelej inteligencii vo verejnom a v súkromnom sektore, prijatie umelej inteligencie v rámci EÚ sa oneskoruje; konštatuje, že v roku 2020 využívalo technológie umelej inteligencie len 7 % spoločností v EÚ s najmenej 10 zamestnancami, pričom medzi jednotlivými členskými štátmi, ako aj medzi jednotlivými odvetviami podnikania boli značné rozdiely;

108. je znepokojený tým, že kým USA a Čína majú svoje zjednotené digitálne trhy so súdržným súborom pravidiel, digitálny jednotný trh EÚ stále nie je dokončený a pretrvávajú neopodstatnené prekážky; zdôrazňuje, že vývoj produktov a služieb umelej inteligencie by sa mohol ešte viac spomaliť v dôsledku prebiehajúcich prác na 27 rôznych národných stratégiách v oblasti umelej inteligencie;

109. poukazuje tiež na skutočnosť, že nekonzistentnosti v práve EÚ, prekrývanie rôznych legislatívnych iniciatív, protirečenia medzi právom EÚ a vnútroštátnymi právami, rôzne právne výklady a nedostatočné presadzovanie v rámci členských štátov, to všetko bráni rovnakým podmienkam a hrozí vytvorenie právnej neistoty pre európske spoločnosti, pre ktoré môže byť ťažké určiť, či sú ich inovácie v oblasti umelej inteligencie v súlade s právom EÚ;

110. konštatuje, že roztrieštenosť trhu pre spoločnosti pôsobiace v oblasti umelej inteligencie ďalej zhoršuje nedostatok spoločných noriem a štandardov v niektorých odvetviach vrátane interoperability údajov; vyjadruje poľutovanie nad regulačným rizikom vyplývajúcim z oneskorenia prijímania právnych predpisov, ako je nariadenie o súkromí a elektronických komunikáciách; poukazuje napríklad na skutočnosť, že v dôsledku neúplného európskeho jednotného digitálneho trhu čelia vývojári umelej inteligencie v EÚ výzvam súvisiacim s údajmi, ktorým ich náprotivky v USA ani v Číne nečelia; poznamenáva, že často nemajú dostatočne vysokokvalitné údaje na trénovanie a testovanie svojich algoritmov, bojujú s nedostatkom sektorových dátových priestorov a nedostatočnou medzisektorovou interoperabilitou, ako aj s obmedzeniami cezhraničných tokov údajov;

c) Investície

111. konštatuje, že európske spoločnosti a vlády investujú do technológií umelej inteligencie oveľa menej ako USA alebo Čína; poukazuje na to, že hoci súkromné investície do odvetvia umelej inteligencie v EÚ výrazne rastú, EÚ v porovnaní s ostatnými poprednými regiónmi stále investuje do umelej inteligencie výrazne menej, keďže USA a Čína predstavujú viac ako 80 % ročných kapitálových investícií do umelej inteligencie a blockchainu vo výške 25 miliárd EUR, zatiaľ čo podiel EÚ predstavuje len 7 %, teda približne 1,75 miliardy EUR; zdôrazňuje, že likvidita finančných trhov EÚ pre technologické spoločnosti stále nedosahuje rozsah porovnateľných trhov v USA; konštatuje, že USA takisto vedie vo financovaní v rámci rizikového kapitálu a súkromného kapitálu, ktoré je pre startupy v oblasti umelej inteligencie obzvlášť dôležité, a to s 12,6 miliardy EUR v roku 2019 oproti 4,9 miliardy EUR v Číne a 2,8 miliardy EUR v EÚ; poznamenáva, že v dôsledku toho európski podnikatelia v oblasti umelej inteligencie odchádzajú za Atlantik, aby svoje podniky rozvíjali v USA;

112. uvádza, že spoločne s vnútroštátnymi iniciatívami sú odhadované ročné verejné investície EÚ do umelej inteligencie vo výške 1 miliardy EUR ( 35 ) takisto oveľa nižšie než 5,1 miliardy EUR investovaných každoročne v USA a až 6,8 miliardy EUR v Číne ( 36 ) ; uvádza však, že v období rokov 2017 až 2020 sa verejné financovanie výskumu a inovácií v oblasti umelej inteligencie v EÚ zvýšilo o 70 % v porovnaní s predchádzajúcim obdobím a v roku 2019 EÚ investovala do umelej inteligencie 7,9 až 9 miliárd EUR, čo bolo o 39 % viac ako v predchádzajúcom roku; uznáva a víta plány Komisie na ďalšie zvýšenie investícií prostredníctvom programu Digitálna Európa, programu Horizont Európa, programu InvestEU, európskych štrukturálnych a investičných fondov, Európskeho investičného fondu, Nástroja na prepájanie Európy v oblasti telekomunikácií a rôznych programov politiky súdržnosti, ktoré budú ďalej doplnené a využité prostredníctvom cieľa 20 % minimálnych výdavkov na prechod na digitálne technológie v rámci plánov obnovy a odolnosti, ako sa dohodli Komisia a členské štáty v rámci Mechanizmu na podporu obnovy a odolnosti; upozorňuje však na nedávnu správu Európskej investičnej banky, ktorá vypočítava, že v EÚ chýbajú investície do technológií zameraných na umelú inteligenciu a blockchain vo výške 5 až 10 miliárd EUR ročne;

113. zdôrazňuje, že spoločnosti v oblasti umelej inteligencie v rámci EÚ čelia silnej konkurencii v boji o kvalifikovaných zamestnancov, čo ešte zhoršuje skutočnosť, že 42 % obyvateľov EÚ nemá základné digitálne zručnosti; zdôrazňuje potrebu vyškoliť a prilákať podstatne väčší počet vzdelaných absolventov, a to aj vrátane žien, ktorí budú pracovať v digitálnom sektore;

114. poznamenáva, že hoci má EÚ excelentnú komunitu výskumných pracovníkov v oblasti umelej inteligencie, problémom zostáva únik mozgov výskumníkov z EÚ; zdôrazňuje, že je potrebné prijať opatrenia, ktoré by oslovili popredných výskumníkov; konštatuje, že EÚ vynaložila len 2,32 % svojho HDP na výskum a vývoj v roku 2020, pričom USA vyčlenila 3,08 %; pripomína, že členské štáty musia dodržiavať svoj záväzok investovať 3 % svojho HDP do výskumu a vývoja, aby sa zabezpečila strategická autonómia Únie v digitálnej oblasti;

115. poznamenáva, že digitálna infraštruktúra EÚ potrebuje zásadnú aktualizáciu, keďže len 25 % ľudí v EÚ sa môže pripojiť na 5G sieť v porovnaní so 76 % ľudí v USA; konštatuje, že EÚ chýba dostatočne vysokovýkonná digitálna infraštruktúra s interoperabilnými dátovými priestormi, vysoké prenosové rýchlosti a objemy, spoľahlivosť a krátke oneskorenia; zdôrazňuje, že je potrebné podporiť európske ekosystémy umelej inteligencie pomocou klastrov excelentnosti;

d) Záver

116. konštatuje, že USA sú celkovým lídrom v oblasti umelej inteligencie, keďže majú náskok v mnohých kategóriách, pričom spoločnosti so sídlom v USA vedú technologický vývoj v oblastiach, ako sú cloud computing a kapacity vysokovýkonnej výpočtovej techniky, a takisto aj pokiaľ ide o investície, priťahujú talenty v oblasti umelej inteligencie, výskum a infraštruktúru; zdôrazňuje však, že Čína, ktorá ešte pred pár rokmi stále značne zaostávala za USA vo všetkých ukazovateľoch, ich rýchlo doháňa; uznáva, že obe krajiny majú výhodu unifikovaných jednotných trhov a silnejšieho politického odhodlania zostať lídrom v oblasti umelej inteligencie;

117. zdôrazňuje, že napriek silnej pozícii EÚ v oblasti priemyselného softvéru a robotiky subjekty EÚ v mnohých kategóriách stále zaostávajú za svojimi americkými a čínskymi kolegami; zdôrazňuje, že EÚ by mala vypracovať ambiciózny plán pre európsku umelú inteligenciu zameranú na človeka; poznamenáva, že EÚ však má náskok v regulačných prístupoch; poukazuje na to, že uskutočniteľná stratégia EÚ na to, ako sa stať konkurencieschopnejšími v oblasti umelej inteligencie, zahŕňa zameranie sa na výskum a inovácie, zručnosti, infraštruktúru a investície, a zároveň sa pokúša vytvoriť horizontálny regulačný rámec pre vývoj a používanie umelej inteligencie, ktorý bude zameraný na budúcnosť a priaznivý pre investície, a zároveň zabezpečuje ochranu základných práv občanov EÚ a právneho štátu;

118. zdôrazňuje, že brexit mal negatívny vplyv na snahy EÚ o posilnenie jej globálneho vplyvu v oblasti umelej inteligencie, keďže Spojené kráľovstvo bolo jednou z vedúcich krajín EÚ v oblasti umelej inteligencie; zdôrazňuje však, že Spojené kráľovstvo by malo zostať cenným partnerom EÚ, ktorý posilňuje konkurencieschopnosť oboch partnerov a podporuje spoločné regulačné výhľady pri stanovovaní globálnych noriem;

119. konštatuje, že EÚ v súčasnosti ešte zďaleka nenaplnila svoju ambíciu stať sa konkurencieschopnou v oblasti umelej inteligencie na celosvetovej úrovni a v niektorých kategóriách by mohla ešte viac zaostávať; zastáva názor, že urýchlené prijatie opatrení v súvislosti s nižšie uvedeným plánom EÚ pre umelú inteligenciu predstavuje príležitosť na zmenu tejto situácie;

120. spresňuje, že keďže EÚ nemá legislatívnu právomoc riešiť všetky body uvedené v pláne EÚ v oblasti umelej inteligencie, osobitný výbor odporúča pokračovať v ďalších diskusiách na vysokej úrovni a politických procesoch medzi inštitúciami EÚ a členskými štátmi s cieľom presadiť viac harmonizovaný prístup k umelej inteligencii a pomôcť členským štátom koordinovať ich úsilie; odkazuje v tomto smere na lisabonskú stratégiu EÚ z roku 2000, ktorá napriek kritike zohrávala dôležitú úlohu pri vedení politického smerovania EÚ v priebehu 20 rokov a pri vyvíjaní neustáleho tlaku na členské štáty, aby vykonávali reformy;

4. „Európa pripravená na digitálny vek“ – Plán ako sa stať globálnym lídrom

a) Priaznivé regulačné prostredie

i. TVORBA PRÁVA

121. vyzýva Komisiu, aby pre nové digitálne akty v oblastiach, ako je umelá inteligencia, navrhovala len legislatívne akty v podobe nariadení