1.UVOD – EVROPSKA STRATEGIJA ZA UMETNO INTELIGENCO

Umetna inteligenca lahko svet spremeni na bolje: izboljša lahko zdravstvo, zmanjša porabo energije, poskrbi za varnejše avtomobile ter kmetom omogoči učinkovitejšo rabo vode in naravnih virov. Uporabiti jo je mogoče za napovedovanje okoljskih in podnebnih sprememb ter izboljšanje obvladovanja finančnih tveganj, ponuja pa tudi orodja za proizvodnjo izdelkov, prilagojenih našim potrebam, z manj odpadki. Pomaga lahko tudi pri odkrivanju goljufij in kibernetskih groženj ter organom kazenskega pregona omogoča učinkovitejši boj proti kriminalu.

Umetna inteligenca lahko koristi celotni družbi in gospodarstvu. Je strateška tehnologija, ki se razvija in pospešeno uporablja po vsem svetu. Vendar prinaša tudi nove izzive za delo v prihodnosti ter načenja pravna in etična vprašanja.

Da bi Komisija obravnavala te izzive in čim bolje izkoristila priložnosti, ki jih ponuja umetna inteligenca, je aprila 2018 objavila evropsko strategijo. Ta v središče razvoja umetne inteligence postavlja ljudi – umetna inteligenca, osredotočena na človeka. Gre za tridelni pristop za povečanje tehnološke in industrijske zmogljivosti EU in uvajanje umetne inteligence v celotno gospodarstvo, pripravljanje na družbeno-ekonomske spremembe ter zagotavljanje ustreznega etičnega in pravnega okvira.

Za uresničitev strategije za umetno inteligenco je Komisija skupaj z državami članicami pripravila usklajen načrt za umetno inteligenco, ki ga je predstavila decembra 2018, da se ustvarijo sinergije, združijo podatki – surovine za številne aplikacije umetne inteligence – in povečajo skupne naložbe. Cilj je spodbuditi čezmejno sodelovanje in aktivirati vse subjekte ter tako v naslednjem desetletju povečati javne in zasebne naložbe na najmanj 20 milijard EUR na leto. Komisija je podvojila svoje naložbe v umetno inteligenco v okviru programa Obzorje 2020 in načrtuje naložbe v višini 1 milijarde EUR na leto iz programa Obzorje Evropa in programa za digitalno Evropo, zlasti v podporo skupnim podatkovnim prostorom na področju zdravja, prometa in proizvodnje, velikim obratom za eksperimentiranje, kot so pametne bolnišnice in infrastrukture za avtomatizirane avtomobile, in strateškemu raziskovalnemu programu.

Za izvajanje takega skupnega strateškega programa za raziskave, inovacije in razvoj je Komisija okrepila dialog z vsemi zadevnimi zainteresiranimi stranmi iz industrije, raziskovalnih inštitutov in javnih organov. Novi program za digitalno Evropo bo prav tako ključen pri zagotavljanju dostopnosti umetne inteligence malim in srednjim podjetjem v vseh državah članicah z vozlišči za digitalne inovacije, okrepljenimi obrati za preizkušanje in eksperimentiranje, podatkovnimi prostori in programi usposabljanja.

Na podlagi tega, da so evropski izdelki znani po varnosti in visoki kakovosti, evropski etični pristop k umetni inteligenci krepi zaupanje državljanov v digitalni razvoj in naj bi ustvaril konkurenčno prednost za evropska podjetja s področja umetne inteligence. Namen tega sporočila je začeti celovito pilotno fazo, ki bo vključevala zainteresirane strani v čim širšem obsegu, da se preizkusi praktično izvajanje etičnih smernic za razvoj in uporabo umetne inteligence.

2.KREPITEV ZAUPANJA V UMETNO INTELIGENCO, OSREDOTOČENO NA ČLOVEKA

Evropska strategija za umetno inteligenco in usklajeni načrt jasno kažeta, da je zaupanje predpogoj za zagotavljanje na človeka osredotočenega pristopa k umetni inteligenci: umetna inteligenca ni sama sebi namen, ampak je orodje, ki mora služiti ljudem s končnim ciljem povečanja blaginje ljudi. Za doseganje navedenega je treba zagotoviti, da bo umetna inteligenca vredna zaupanja. Vrednote, na katerih temeljijo naše družbe, je treba v celoti vključiti v razvoj umetne inteligence.

Unija temelji na vrednotah spoštovanja človekovega dostojanstva, svobode, demokracije, enakosti, pravne države in človekovih pravic, vključno s pravicami pripadnikov manjšin. Te vrednote so skupne družbam vseh držav članic, v katerih prevladujejo pluralizem, nediskriminacija, strpnost, pravičnost, solidarnost in enakost. Poleg tega Listina EU o temeljnih pravicah – v enem samem dokumentu – združuje osebne, državljanske, politične, ekonomske in socialne pravice ljudi v EU.

Ima močan regulativni okvir, ki bo določal globalni standard za umetno inteligenco, osredotočeno na človeka. Splošna uredba o varstvu podatkov zagotavlja visok standard varstva osebnih podatkov ter zahteva izvajanje ukrepov za zagotavljanje vgrajenega in privzetega varstva podatkov. Uredba o prostem pretoku neosebnih podatkov odstranjuje ovire za prosti pretok neosebnih podatkov in zagotavlja obdelavo vseh kategorij podatkov kjer koli v Evropi. Pred kratkim sprejeti akt o kibernetski varnosti bo prispeval h krepitvi zaupanja v svetu spleta, to pa je tudi cilj predloga uredbe o e-zasebnosti.

Kljub temu umetna inteligenca prinaša nove izzive, saj strojem omogoča, da se „učijo“ ter sprejemajo in uresničujejo odločitve brez človekovega posredovanja. Kmalu bo tovrstna funkcionalnost postala standardna pri številnih vrstah blaga in storitev, od pametnih telefonov do avtomatiziranih avtomobilov, robotov in spletnih aplikacij. Kljub temu bi lahko odločitve, ki jih sprejemajo algoritmi, temeljile na podatkih, ki so nepopolni in zato nezanesljivi, lahko bi jih spremenili kibernetski napadalci ali bi bile pristranske ali preprosto napačne. Nekritična uporaba tehnologije, kot se razvija, bi zato imela problematične rezultate in povzročila odpor državljanov do njenega sprejetja ali uporabe.

Nasprotno je treba tehnologijo umetne inteligence razvijati na način, ki v njeno središče postavlja ljudi ter je zato vreden zaupanja javnosti. To pomeni, da aplikacije umetne inteligence ne bi morale biti samo skladne z zakonodajo, temveč bi morale upoštevati tudi etična načela ter zagotavljati, da njihovo izvajanje ne vodi v nenamerno škodo. Raznolikost v smislu spola, rase ali narodnosti, vere ali prepričanj, invalidnosti in starosti mora biti zagotovljena na vseh stopnjah razvoja umetne inteligence. Aplikacije umetne inteligence bi morale krepiti vlogo državljanov in spoštovati njihove temeljne pravice. Njihov namen bi moral biti izboljševanje sposobnosti ljudi, ne pa njihova nadomestitev, ter morale bi omogočati dostop tudi invalidom.

Zato so potrebne etične smernice, ki bi temeljile na obstoječem regulativnem okviru in bi jih morali uporabljati razvijalci, ponudniki in uporabniki umetne inteligence na notranjem trgu, kar bi ustvarilo enake in etične pogoje v vseh državah članicah. Zato je Komisija ustanovila strokovno skupino na visoki ravni za umetno inteligenco, v kateri so zastopane najrazličnejše zainteresirane strani, in ji zaupala nalogo priprave osnutka etičnih smernic za umetno inteligenco ter vrste priporočil za širšo politiko glede umetne inteligence. Sočasno je bilo ustanovljeno evropsko zavezništvo za umetno inteligenco, odprta platforma več zainteresiranih strani z več kot 2700 člani, da bi se zagotovil širši prispevek k delu strokovne skupine na visoki ravni za umetno inteligenco.

Strokovna skupina na visoki ravni za umetno inteligenco je prvi osnutek etičnih smernic objavila decembra 2018. Po posvetovanju z zainteresiranimi stranmi in srečanjih s predstavniki držav članic je strokovna skupina za umetno inteligenco marca 2019 Komisiji predložila revidiran dokument. Zainteresirane strani so v svojih povratnih informacijah na splošno pozdravile praktičnost smernic ter konkretna navodila za razvijalce, ponudnike in uporabnike umetne inteligence o zagotavljanju zaupanja vredne umetne inteligence.

2.1 Smernice za zaupanja vredno umetno inteligenco, ki jih je pripravila strokovna skupina na visoki ravni za umetno inteligenco

Smernice, ki jih je pripravila strokovna skupina na visoki ravni za umetno inteligenco in na katere se nanaša to sporočilo, temeljijo predvsem na delu Evropske skupine za etiko v znanosti in novih tehnologijah ter Agencije Evropske unije za temeljne pravice.