Expertná skupina na vysokej úrovni v oblasti umelej inteligencie uverejnila v decembri 2018 prvý návrh etických usmernení. Po konzultácii so zainteresovanými stranami a stretnutiach so zástupcami z členských štátov expertná skupina pre umelú inteligenciu predložila v marci 2019 Komisii revidovaný dokument. V doterajšej spätnej väzbe zainteresované strany celkovo uvítali praktickú povahu usmernení a konkrétne rady, ktoré ponúkajú vývojárom, dodávateľom a používateľom umelej inteligencie v súvislosti s tým, ako zabezpečiť dôveryhodnosť.

Namiesto toho by sa technológie umelej inteligencie mali vyvíjať spôsobom, ktorý sa sústreďuje na ľudí, a preto si zaslúži dôveru verejnosti. To znamená, že aplikácie umelej inteligencie by mali byť nielen v súlade so zákonom, ale aj s etickými zásadami a malo by sa zabezpečiť, aby sa pri ich zavádzaní zabránilo neúmyselnej ujme. V každej fáze rozvoja umelej inteligencie by sa mala zabezpečiť rozmanitosť z hľadiska rodu, rasového alebo etnického pôvodu, náboženstva alebo presvedčenia, zdravotného postihnutia a veku. Aplikácie umelej inteligencie by mali posilniť postavenie občanov a rešpektovať ich základné práva. Mali by sa zamerať na posilnenie schopností ľudí, nie na ich nahrádzanie, ako aj na zabezpečenie prístupu pre osoby so zdravotným postihnutím.

Umelá inteligencia však prináša nové výzvy, keďže umožňuje strojom „učiť sa“ a prijímať a vykonávať rozhodnutia bez ľudského zásahu. Už onedlho sa tento typ funkcií stane štandardom pri mnohých typoch tovaru a služieb od smartfónov až po automatizované autá, roboty a on-line aplikácie. Rozhodnutia prijaté algoritmami by však mohli prameniť z údajov, ktoré sú neúplné, a preto nie sú spoľahlivé, môžu byť zmanipulované pri kybernetických útokoch, môžu byť skreslené alebo jednoducho chybné. Nepremyslené uplatňovanie týchto technológií by v priebehu ich rozvoja preto viedlo k problematickým výsledkom, ako aj k neochote občanov ich prijímať alebo používať.

Európska stratégia v oblasti umelej inteligencie a koordinovaný plán jasne ukazujú, že dôvera je nevyhnutným predpokladom na zabezpečenie prístupu sústredeného na človeka v oblasti umelej inteligencie: umelá inteligencia nepredstavuje samotný cieľ, ale je to nástroj, ktorý musí slúžiť ľuďom s konečným cieľom zvyšovania ľudského blahobytu. Na to by sa mala zabezpečiť dôveryhodnosť umelej inteligencie. Hodnoty, na ktorých sú založené naše spoločnosti, by mali byť v plnej miere začlenené do spôsobu vývoja umelej inteligencie.

Systémy umelej inteligencie by mali podporovať jednotlivcov pri prijímaní lepších a informovanejších rozhodnutí v súlade s ich cieľmi. Mali by pomáhať zabezpečiť prosperujúcu a spravodlivú spoločnosť, a to podporovaním ľudského faktora a základných práv, a nie znižovať a obmedzovať ľudskú autonómiu či viesť v tejto súvislosti k omylom. Ústrednou súčasťou funkčnosti tohto systému by malo byť celkové blaho používateľa.

Hoci sa majú tieto požiadavky vzťahovať na všetky systémy umelej inteligencie v rôznych prostrediach a odvetviach, pri ich konkrétnom a primeranom vykonávaní by sa mal zohľadniť osobitný kontext, v ktorom sa uplatňujú, pričom sa zaujme prístup založený na vplyve. Na ilustráciu, aplikácia umelej inteligencie, ktorá navrhne na čítanie nevhodnú knihu, je omnoho menej nebezpečná ako aplikácia, ktorá nesprávne diagnostikuje rakovinu, a preto by mohla podliehať menej prísnemu dohľadu.

V usmerneniach sa uvádza, že na dosiahnutie „dôveryhodnej umelej inteligencie“ sú potrebné tri zložky: 1. mala by byť v súlade s právnymi predpismi; 2. mala by spĺňať etické zásady a 3. mala by byť spoľahlivá.

Ľudský dohľad pomáha zabezpečiť, aby systém umelej inteligencie neoslaboval ľudskú autonómiu ani nespôsoboval iné nepriaznivé účinky. V závislosti od špecifického systému založeného na umelej inteligencii a od jeho oblasti použitia by sa mali zabezpečiť vhodné stupne kontrolných opatrení vrátane adaptability, presnosti a vysvetliteľnosti systémov založených na umelej inteligencii. Dohľad sa môže dosiahnuť prostredníctvom mechanizmov riadenia, ako je zabezpečenie prístupu human-in-the-loop, human-on-the-loop alebo human-in-command. Musí sa zabezpečiť, aby verejné orgány boli schopné vykonávať dohľad v súlade so svojimi mandátmi. Ak sa nezmenia ostatné okolnosti, platí, že čím menej dohľadu môže človek vykonávať nad systémom umelej inteligencie, tým viac je potrebné rozsiahlejšie testovanie a prísnejšie riadenie.

II.Technická odolnosť a bezpečnosť

Dôveryhodná umelá inteligencia si vyžaduje dostatočne bezpečné, spoľahlivé a odolné algoritmy, ktoré sú schopné riešiť chyby alebo nezrovnalosti počas všetkých fáz životného cyklu systému umelej inteligencie a primerane si poradiť s chybnými výsledkami. Systémy umelej inteligencie musia byť spoľahlivé, dostatočne bezpečné na to, aby boli odolné proti zjavným útokom a sofistikovanejším pokusom o manipuláciu s údajmi alebo samotnými algoritmami, a musia zabezpečovať záložný plán v prípade problémov. Ich rozhodnutia musia byť presné alebo aspoň správne odrážať ich úroveň presnosti a ich výsledky by mali byť reprodukovateľné.

Systémy umelej inteligencie by okrem toho mali mať integrované mechanizmy bezpečnosti a mechanizmy špecificky navrhnutej ochrany údajov, aby sa zabezpečilo, že sú v každom kroku preukázateľne bezpečné, pričom sa zohľadní fyzická a duševná bezpečnosť všetkých zainteresovaných. To zahŕňa minimalizáciu a podľa možnosti zvrátenie neúmyselných dôsledkov alebo chýb v prevádzke systému. Mali by sa zaviesť postupy na objasnenie a posúdenie potenciálnych rizík spojených s používaním systémov umelej inteligencie v rôznych oblastiach použitia.

III.Riadenie súkromia a údajov

Ochrana súkromia a údajov musí byť zaručená vo všetkých fázach životného cyklu systému umelej inteligencie. Digitálne záznamy ľudského správania môžu systémom umelej inteligencie umožniť vyvodiť nielen preferencie jednotlivcov, vek a pohlavie, ale aj ich sexuálnu orientáciu, náboženské alebo politické názory. Aby jednotlivci mohli dôverovať procesu spracovania údajov, musí sa zabezpečiť, aby mali plnú kontrolu nad vlastnými údajmi a aby sa údaje o nich nepoužili s úmyslom uškodiť im alebo ich diskriminovať. Okrem zabezpečenia súkromia a osobných údajov musia byť splnené požiadavky na zabezpečenie kvalitných systémov umelej inteligencie. Kvalita používaných súborov údajov je pre výkon systémov umelej inteligencie rozhodujúca. Údaje môžu pri ich získavaní odrážať spoločenskú predpojatosť alebo môžu obsahovať nepresnosti, chyby a omyly. To je potrebné riešiť pred výcvikom systému umelej inteligencie s daným súborom údajov. Okrem toho sa musí zabezpečiť integrita údajov. Použité procesy a súbory údajov sa musia testovať a zdokumentovať pri každom kroku, ako je plánovanie, výcvik, testovanie a využívanie. To by sa malo vzťahovať aj na systémy umelej inteligencie, ktoré neboli vyvinuté interne, ale boli získané inde. V neposlednom rade sa musí primerane riadiť a kontrolovať prístup k údajom.

IV.Transparentnosť

Mala by sa zabezpečiť vysledovateľnosť systémov umelej inteligencie; je dôležité zaznamenávať a dokumentovať rozhodnutia prijaté systémami, ako aj celý proces (vrátane opisu získavania a označovania údajov a opisu použitého algoritmu), ktorý viedol k rozhodnutiam. V tejto súvislosti by sa mala v čo najväčšej miere zabezpečovať vysvetliteľnosť algoritmického procesu rozhodovania prispôsobeného dotknutým osobám. Malo by sa pokračovať v prebiehajúcom výskume zameranom na rozvoj mechanizmov vysvetliteľnosti. Okrem toho by mali byť k dispozícii vysvetlenia o tom, do akej miery systém umelej inteligencie ovplyvňuje a formuje organizačný proces rozhodovania, možnosti výberu systému, ako aj dôvody jeho zavedenia (čím by sa zabezpečila nielen transparentnosť údajov a systému, ale aj transparentnosť obchodného modelu).

Nakoniec je dôležité primerane oznámiť schopnosti a obmedzenia systému umelej inteligencie rôznym zainteresovaným stranám takým spôsobom, ktorý je vhodný pre daný prípad použitia. Okrem toho by systémy umelej inteligencie mali byť identifikovateľné ako také, čím by sa zabezpečilo, aby používatelia vždy vedeli, že komunikujú so systémom umelej inteligencie a ktoré osoby sú zaň zodpovedné.

V.Rozmanitosť, nediskriminácia a spravodlivosť

Súbory údajov používané systémami umelej inteligencie (pri výcviku aj prevádzke) môžu byť negatívne ovplyvnené zahrnutím neúmyselnej historickej predpojatosti, neúplnosťou a zlými modelmi riadenia. Pretrvávanie takejto predpojatosti by mohlo viesť k (ne)priamej diskriminácii. Ujma môže vyplynúť aj z úmyselného zneužívania (spotrebiteľskej) predpojatosti alebo zapojenia sa do nekalej súťaže. Okrem toho môže predpojatosť negatívne ovplyvniť aj spôsob, akým sa systémy umelej inteligencie vyvíjajú (napr. spôsob, akým je napísaný programovací kód algoritmu). Takéto obavy by sa mali riešiť od začiatku vývoja systému. Vytvorenie rozmanitých projektových tímov a zriadenie mechanizmov na zabezpečenie účasti, najmä občanov, pri rozvoji umelej inteligencie takisto môže pomôcť riešiť tieto obavy. Odporúča sa viesť konzultácie so zainteresovanými stranami, ktoré môže systém priamo alebo nepriamo ovplyvniť počas jeho životného cyklu. Systémy umelej inteligencie by mali zohľadňovať celú škálu ľudských schopností, zručností a požiadaviek a mala by sa zabezpečiť ich prístupnosť prostredníctvom prístupu dizajnu pre všetkých s cieľom dosiahnuť rovnaký prístup pre osoby so zdravotným postihnutím.

VI.Spoločenský a environmentálny blahobyt