·Átláthatóság;

·Sokféleség, megkülönböztetésmentesség és méltányosság;

·Társadalmi és környezeti jólét; valamint

·Elszámoltathatóság.

Ezen túlmenően az iránymutatás értékelési listát is tartalmaz a vállalkozások általi gyakorlati felhasználás céljából. 2019 második felében több mint 350 szervezet tesztelte ezt az értékelési listát, és küldött visszajelzést. A magas szintű munkacsoport pillanatnyilag felülvizsgálja iránymutatásait a visszajelzések alapján, és ezt a munkáját 2020 júniusában fejezi be. A visszajelzések legfontosabb üzenete, hogy míg a meglévő jogi vagy szabályozási rendszerek számos követelményt már tartalmaznak, az átláthatóságra, a nyomon követhetőségre és az emberi felügyeletre vonatkozó követelmények számos gazdasági ágazatban nem képezik részét a jelenlegi jogszabályoknak.

A magas szintű szakértői csoport említett, nem kötelező erejű iránymutatásán felüli és az elnök politikai iránymutatásaival összhangban álló egyértelmű európai szabályozási keret erősítené a fogyasztók és a vállalkozások MI-rendszerekbe vetett bizalmát, és ezáltal felgyorsítaná a technológia elterjedését. E szabályozási keretnek összhangban kell állnia az európai innovációs kapacitás és versenyképesség előmozdítása érdekében e területen hozott egyéb intézkedésekkel. Ezenkívül társadalmi, környezeti és gazdasági szempontból optimális eredményeket kell biztosítania, és gondoskodnia kell az uniós jogszabályoknak, elveknek és értékeknek való megfelelésről. Különösen fontos ez olyan területeken, amelyek a legközvetlenebb módon érinthetik a polgárok jogait, például a bűnüldözéssel és igazságszolgáltatással kapcsolatos MI-alkalmazások esetében.

A mesterséges intelligencia fejlesztőire és alkalmazóira már ma is alkalmazandók az alapvető jogokra (pl. adatvédelem, magánélet védelme, megkülönböztetésmentesség), a fogyasztóvédelemre, valamint a termékbiztonságra és termékfelelősségre vonatkozó uniós jogszabályok. A fogyasztók ugyanilyen szintű biztonságot és jogokat várnak el, függetlenül attól, hogy egy termék vagy egy rendszer a mesterséges intelligenciára támaszkodik-e vagy sem. A mesterséges intelligencia bizonyos sajátosságai (pl. átláthatatlanság) azonban megnehezíthetik e jogszabályok alkalmazását és végrehajtását. Ezért meg kell vizsgálni, hogy a jelenlegi jogszabályok képesek-e kezelni a mesterséges intelligencia kockázatait és a végrehajtásuk hatékonyan kikényszeríthető-e, vagy a jogszabályok kiigazítása, esetleg új szabályozás kialakítása szükséges.

Tekintettel a mesterséges intelligencia gyors fejlődésére, a szabályozási keretnek teret kell hagynia a további fejlesztésekre. Minden változtatásnak egyértelműen azonosított problémákra kell korlátozódnia, amelyekre léteznek megvalósítható megoldások.

A tagállamok kiemelik, hogy jelenleg nincs közös európai szabályozási keret. A Német Adatetikai Bizottság ötszintes, kockázatalapú szabályozási rendszert szorgalmaz, amely a szabályozás hiányától (a legártalmatlanabb mesterségesintelligencia-rendszerek esetében) a teljes tiltásig (a legveszélyesebb rendszerek esetében) terjedne. Dánia nemrég hozott létre egy adatetikai bélyegző-prototípust. Málta önkéntes tanúsítási rendszert vezetett be a mesterséges intelligenciára vonatkozóan. Ha az EU nem biztosít egy uniós szintű megközelítést, fennáll a belső piac széttagolódásának valós kockázata, ami aláásná a bizalom megteremtésére, a jogbiztonságra és a piaci elterjedésre irányuló célkitűzéseket.

A megbízható mesterséges intelligenciára vonatkozó szilárd európai szabályozási keret védelmet jelent valamennyi európai polgár számára, és hozzájárul a mesterséges intelligencia további fejlesztését és elterjedését szolgáló, súrlódásmentes belső piac létrehozásához, valamint Európa ipari bázisának megerősítéséhez a mesterséges intelligencia terén.

A.A probléma meghatározása

Bár a mesterséges intelligencia rendkívül hasznos lehet (többek között termékek és folyamatok biztonságosabbá tételével), kárt is okozhat. Ez a kár lehet materiális (az emberek biztonságát és egészségét érintő kár, ideértve a haláleseteket és a vagyoni károkat is) és lehet nem vagyoni jellegű (a magánélethez való jog sérelme, a véleménynyilvánítás szabadságának és az emberi méltóságnak a korlátozása, megkülönböztetés, például a munkavállalás terén), és a kockázatok széles köréhez kapcsolódhat. A szabályozási keretnek arra kell összpontosítania, hogy miként lehet minimalizálni az esetleges károsodások különféle kockázatait, különösen a legjelentősebbekét.

A mesterséges intelligencia használatához kapcsolódó fő kockázatok az alapvető jogok (többek között a személyes adatok és a magánélet védelme és a megkülönböztetésmentesség) védelmét szolgáló szabályok alkalmazását, valamint a biztonsággal és a termékfelelősséggel kapcsolatos kérdéseket érintik.

Az alapvető jogokat, köztük az adatvédelmet, a magánélet védelmét és a megkülönböztetésmentességet érintő kockázatok

A mesterséges intelligencia használata hatással lehet az EU alapértékeire, és olyan alapvető jogok megsértéséhez vezethet, mint például a szabad véleménynyilvánítás joga, a gyülekezés szabadsága, az emberi méltóság, a nemen, faji vagy etnikai származáson, valláson vagy meggyőződésen, fogyatékosságon, koron vagy szexuális irányultságon alapuló megkülönböztetés tilalma, a személyes adatok és a magánélet védelme, a hatékony bírósági jogorvoslathoz és a tisztességes eljáráshoz való jog, vagy a fogyasztóvédelem. Ezek a kockázatok eredhetnek a mesterségesintelligencia-rendszerek általános tervezési hibáiból (az emberi felügyelet tekintetében is) vagy az esetlegesen elfogult adatok kijavítás nélküli felhasználásából (pl. a rendszer tanítása csak vagy főként férfiaktól származó adatok felhasználásával történt).

A mesterséges intelligencia számos olyan funkciót tölthet be, amelyeket korábban csak emberek tudtak ellátni. Ennek eredményeként a polgárok és a jogi személyek egyre gyakrabban fognak azzal szembesülni, hogy a rájuk vonatkozó intézkedések és döntések meghozatala MI-rendszerek által, vagy azok segítségével történt, és azokat néha nehéz megérteni illetve szükség esetén hatékonyan megtámadni. Ezenkívül a mesterséges intelligencia által fokozottan lehetővé válik az emberek mindennapi szokásainak figyelemmel kísérése és elemzése. Fennáll például annak a kockázata, hogy a mesterséges intelligenciát az uniós adatvédelmi és egyéb szabályokat sértő módon, állami hatóságok vagy más szervek tömeges megfigyelésre, a munkáltatók pedig munkavállalóik viselkedésének megfigyelésére használhatják. Nagy adatmennyiségek elemzésével és az adatok közötti összefüggések azonosításával a mesterséges intelligencia személyek adatainak visszakeresésére és anonim jellegének megszüntetésére is felhasználható lehet, ami új személyesadat-védelmi kockázatokat teremt olyan adatkészletek esetében is, amelyek önmagukban véve nem tartalmaznak személyes adatokat. A mesterséges intelligenciát online közvetítők is használják, amikor a felhasználóik számára információkat rangsorolnak, vagy amikor tartalommoderálást végeznek. A feldolgozott adatok, az alkalmazások kialakításának módja és az emberi beavatkozás hatóköre hátrányosan érintheti a véleménynyilvánítás szabadságához, a személyes adatok és a magánélethez védelméhez való jogot és a politikai szabadságokat.

Bizonyos mesterségesintelligencia-algoritmusok – a visszaeső bűnözés előrejelzésére használva – nemi és faji elfogultságot mutathatnak, ami a nők és férfiak, illetve az állampolgárok és a külföldiek esetében eltérő valószínűségű visszaesés-előrejelzéseket jelent. Forrás: Tolan S., Miron M., Gomez E. and Castillo C. "Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia", Best Paper Award, International Conference on AI and Law, 2019

Egyes arcképelemző MI-programok nemi és faji elfogultságot mutatnak, ami azt jelenti, hogy a világosabb bőrű férfiak nemét alacsonyabb, a sötétebb bőrű nők nemét viszont magasabb hibaaránnyal határozzák meg. Forrás: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.