MELLÉKLET

PROJEKTDOKUMENTUM

A mesterséges intelligenciával kapcsolatos felelősségteljes innováció előmozdítása a béke és a biztonság érdekében

1. HÁTTÉR

A mesterséges intelligencia (MI) terén a közelmúltban elért eredmények új lehetőségeket teremtettek a béke és a biztonság támogatását és fenntartását illetően, például olyan területeket érintő technológiai fejlesztések révén, mint a konfliktusok korai előrejelzése, valamint a fegyverzet- és az exportellenőrzés felügyelete. Másrészt viszont ezek az eredmények új eszközöket biztosítanak az államok közötti, illetve államokon belüli feszültségek, konfliktusok és bizonytalanság előidézésére vagy azok súlyosbítására. A mesterséges intelligencia bizonyos alkalmazásai, például a halált okozó autonóm fegyverrendszerek jelentette kockázatok komoly aggodalomra adnak okot a fegyverzet-ellenőrzéssel foglalkozó közösség számára. A mesterséges intelligenciával kapcsolatos polgári kutatás és innováció felelőtlen szereplők – köztük rosszindulatú nem állami szereplők – általi eltérítése és az azokkal való visszaélés – mint például a generatív versengő hálózatok (GAN) rendellenes használata deepfake-eknek dezinformációs kampányok céljából történő előállítására – olyan nagyobb figyelmet érdemlő fenyegetést jelent, amelyre a jelenlegi fegyverzet-ellenőrzés és diplomáciai erőfeszítések nem feltétlenül tudnak adekvát választ adni.

A mesterséges intelligencia nagy általános felhasználási potenciállal rendelkező alaptechnológia. A mesterséges intelligenciával kapcsolatos, polgári alkalmazásokat szolgáló kutatás és innováció (viszonylag könnyen) hozzáférhető lehet egyes szereplők számára, akik azok eredményeit olyan káros és zavart okozó célokra használhatják fel, amelyek hatással lehetnek a nemzetközi békére és biztonságra. A polgári technológia eltérítése és az azzal való visszaélés nem új jelenség, és nem is kötődik kizárólag a mesterséges intelligenciához. Példa erre a robotika területén – amely közel áll a mesterséges intelligenciához –, hogy a Dáis/ISIS a közelmúltban Szíriában fegyverként használt szabadidős tevékenységekhez tervezett drónokat. A mesterséges intelligencia esetében azonban a problémát több tényező is bonyolítja: a mesterségesintelligencia-algoritmusok és -adatok immateriális és gyorsan változó jellege, ami megnehezíti ezen algoritmusok és adatok továbbításának/terjesztésének ellenőrzését; a magánszektor vezető szerepe a kutatási, fejlesztési és innovációs ökoszisztémában, e szektor pedig igényli a saját fejlesztésű algoritmusok védelmét; valamint az MI-technológiák átalakításához szükséges emberi szakértelem és anyagi erőforrások globális szintű elérhetősége. Eközben a mesterséges intelligenciával a polgári ágazatban foglalkozó személyek gyakran továbbra sincsenek tisztában azzal, hogy a munkájuk illetéktelen kezekbe jutása és az azzal való visszaélés milyen következményekkel járhat a nemzetközi békére és biztonságra nézve, vagy haboznak részt venni a fegyverzetellenőrzési és nonproliferációs körökben a mesterséges intelligenciával kapcsolatos kockázatokról zajló megbeszélésekben.

Támogatni kell a polgári felhasználású mesterséges intelligenciával foglalkozó közösség nagyobb mértékű szerepvállalását a polgári mesterségesintelligencia-technológia felelőtlen szereplők általi eltérítéséhez és az azzal való visszaéléshez kapcsolódó béke- és biztonsági kockázatok megértésében és csökkentésében. A Stockholmi Nemzetközi Békekutató Intézet (SIPRI) és az ENSZ Leszerelési Ügyek Hivatala (UNODA) szerint ez a felelősségteljes innovációnak a polgári felhasználású mesterséges intelligenciával foglalkozó globális közösségben való fokozottabb előmozdításával érhető el. A SIPRI és az UNODA által a múltban végzett munka rámutatott, hogy a felelősségteljes innováció – mint önszabályozó mechanizmus – a polgári felhasználású mesterséges intelligenciával foglalkozó globális közösség számára gyakorlati eszközöket és módszereket biztosíthat azon kockázatok azonosításához, valamint a megelőzésük és csökkentésük elősegítéséhez, amelyeket a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció eltérítése és az azzal való visszaélés jelenthet a békére és a biztonságra nézve. A SIPRI és az UNODA emellett a munkája során azonosított olyan módszereket és több olyan folyamatban lévő, a felelősségteljes mesterséges intelligenciára vonatkozó, a polgári felhasználásra irányuló kezdeményezést, amelyekre építve a polgári felhasználású mesterséges intelligenciával foglalkozó közösség figyelmét felhívhatják a fegyverzetellenőrzéssel és a nonproliferációval kapcsolatos kérdésekre, a mesterséges intelligencia felelősségteljes fejlesztésével, terjesztésével és használatával kapcsolatos szakértői vitákra és állami álláspontokra, valamint a védelmi ágazat felelősségvállalásával kapcsolatos munkából levonható tanulságokra. (1) Kritikus jelentőséggel bír, hogy e korábbi munka során egyértelműen megállapításra került, hogy a természettudományos, technológiai, műszaki és matematikai (STEM) tanulmányokat folytató hallgatókkal – akik még oktatási környezetben foglalkoznak a mesterséges intelligenciával – való együttműködés minden hatékony, felelősségteljes innovációs erőfeszítés központi eleme.

2. CÉLKITŰZÉSEK

E projektek célja annak támogatása, hogy a polgári felhasználású mesterséges intelligenciával foglalkozó közösség nagyobb mértékben vegyen részt azon kockázatok csökkentésében, amelyeket a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció felelőtlen szereplők általi eltérítése és az azokkal való visszaélés jelenthet a nemzetközi békére és biztonságra nézve. Ennek megvalósításához egyrészt elő kell segíteni annak jobb megértését, hogy a mesterséges intelligenciával kapcsolatos kutatás és innováció fejlesztése és terjesztése terén hozott döntések hogyan befolyásolhatják az eltérítés és a visszaélés kockázatát, és ezáltal hogyan teremthetnek kockázatot vagy lehetőségeket a béke és a biztonság szempontjából, másrészt pedig elő kell mozdítani az olyan felelősségteljes innovációs folyamatokat, módszereket és eszközöket, amelyek elősegíthetik a polgári innovációk békés alkalmazását és a mesterséges intelligenciával kapcsolatos ismeretek felelősségteljes terjesztését. E célból a projektek támogatni fogják az olyan kapacitásépítési, kutatási és szerepvállalási tevékenységeket, amelyek majd i. növelik a polgári felhasználású mesterséges intelligenciával foglalkozó globális közösség azon kapacitását, hogy a felelősségteljes innovációs folyamatokat kiterjesszék a békére és a biztonságra jelentett olyan kockázatokra, amelyeket a polgári felhasználású mesterséges intelligencia felelőtlen szereplők általi eltérítése és az azzal való visszaélés jelent, és az említett folyamatok keretében kezeljék e kockázatokat; és ii. megerősítik a polgári szférának a felelősségteljes mesterséges intelligenciával kapcsolatos kockázatcsökkentési erőfeszítései, valamint a leszerelési, fegyverzet-ellenőrzési és nonproliferációs közösség kormányközi szinten már folyamatban lévő erőfeszítései közötti kapcsolatot. Döntő fontosságú, hogy nem céljuk, hogy új szabványokat, elveket vagy szabályozást állapítsanak meg, illetve hogy egyéb módon kiterjedjenek az államok hatáskörébe tartozó területekre. Ehelyett arra irányulnak, hogy fejlesszék a felelősségteljes polgári innovációs erőfeszítéseket oly módon, hogy azok kiterjedjenek a békére és a biztonságra jelentett olyan kockázatokra, amelyeket a polgári felhasználású mesterséges intelligencia felelőtlen szereplők általi eltérítése és az azzal való visszaélés jelent, és hogy biztosítsák a meglévő releváns kormányközi erőfeszítésekkel kapcsolatos oktatást.

Ahhoz, hogy ténylegesen eljussanak a polgári felhasználású mesterséges intelligenciával foglalkozó közösséghez és hatást gyakoroljanak arra, a projektek háromágú megközelítést alkalmaznak, amely a következőkre irányul:

a) együttműködés az oktatókkal – együttműködés a kiválasztott oktatókkal és a tantervfejlesztőkkel olyan oktatási anyagok kidolgozásában és népszerűsítésében, amelyek felhasználhatók arra, hogy a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció felelőtlen szereplők általi eltérítéséből és az azokkal való visszaélésből eredő, a békét és a biztonságot fenyegető kockázatok mérlegelése beépüljön a mesterséges intelligencia területével foglalkozó jövőbeli gyakorló szakemberek képzésébe (pl. a mesterséges intelligencia etikájáról és a felelősségteljes innovációról szóló tanfolyamok keretében);

b) együttműködés a hallgatókkal – a világ minden tájáról származó kiválasztott STEM-hallgatók megismertetése azzal, hogy a kutatási és innovációs folyamatban vagy más irányítási folyamatokban hogyan lehet azonosítani, megelőzni vagy mérsékelni azokat a kockázatokat, amelyeket a polgári felhasználású mesterséges intelligenciával kapcsolatos fejlesztések felelőtlen szereplők általi eltérítése és az azokkal való visszaélés jelent a békére és biztonságra nézve; valamint

c) együttműködés az MI-ágazattal – együttműködés szakmai szövetségekkel és szabványügyi testületekkel, például a Villamos- és Elektronikai Mérnöki Szervezettel (IEEE) a következők érdekében: i. testre szabott oktatási anyagok és szerepvállalási tevékenységek terjesztése a műszaki szakemberek körében; ii. a mesterséges intelligenciának a béke és biztonság céljára történő pozitív felhasználásának támogatása; valamint iii. a tudományos élet, a magánszektor és a kormány szakértői között arról folytatott párbeszéd és információcsere elősegítése, hogy miként csökkenthető a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció felelőtlen szereplők általi eltérítésének és az azokkal való visszaélésnek a kockázata.

E megközelítés révén a projektek eljuthatnak az MI-közösség valamennyi szintjéhez, beleértve nemcsak a jelenlegi szakembereket, hanem a jövő generációit is. Lehetővé teszi továbbá az együttműködést a tudományos körök, az ágazat és más szakterületek között, és elősegíti a jövőbeli erőfeszítések fenntarthatóságát azáltal, hogy az e határokat átlépő hálózatokat hoz létre.

A projektek célja továbbá, hogy kihasználja a SIPRI és az UNODA mozgósító erejét és tapasztalataikat arra, hogy ne csak az uniós érdekelt felekre legyenek hatással, hanem a globális szinten a teljes MI-közösségre. A SIPRI és az UNODA egyedülálló helyzetben van ahhoz, hogy elérje az egész Afrikából, az ázsiai és csendes-óceáni térségből, Európából, valamint Észak- és Dél-Amerikából érkező MI-szereplőket és megkönnyítse közöttük az együttműködést. Emellett mindkét szervezet szerzett már tapasztalatokat a tudomány és a technológia más, hasonló kihívásokkal – a kettős felhasználás és a proliferáció problematikájával – küzdő területein is, ideértve a biotechnológiát is. A projektek arra is törekednek, hogy kihasználják az Európai Unióban biztosított olyan feltételeket, mint például a) a felelősségteljes mesterséges intelligenciával kapcsolatos, több érdekelt fél részvételével zajló fejlett eljárások rendelkezésre állása; b) a leszerelési, fegyverzet-ellenőrzési és nonproliferációs kérdésekben való magas szintű szerepvállalás és szakértelem az EU-ban; c) az EU-ban működő tudományos, kutatási és magánszektorbeli szervezetek által más régiókkal fenntartott sokféle kapcsolat, különös tekintettel a globális dél országaira, amelyek a szerepvállalás egyik fő célpontját is fogják képezni; valamint d) a sokféle állampolgárságú hallgatók, oktatók és mérnökök az egyetemeken, a kutatóintézetekben és a magánszektorban.

A projekttevékenységek végrehajtása során az egyik fő szempont a befogadás lesz. A mesterséges intelligenciával foglalkozó közösség hatékony támogatása céljából a projektek elismerik, hogy az MI-közösség sokféle szereplőből áll, és különösen azt, hogy:

a) a nemek közötti egyenlőség rendkívül fontos tényező. Ezért a nemek közötti egyenlőség általános módon érvényesítésre kerül, összhangban az ENSZ-nek az egész rendszerre kiterjedő, a nemek közötti egyenlőség általános érvényesítésére és paritásra vonatkozó stratégiáival. A projekt valamennyi tevékenységét illetően ösztönözni kell és elő kell írni a nők részvételét; valamint

b) a projektek teljes időtartama során gondoskodni kell a fogyatékossággal élő személyek befogadásáról és az igények észszerű módon történő kielégítéséről. Ez magában foglalja a fogyatékossággal élő személyek részvétele előtt álló akadályok kezelését, valamint annak biztosítását, hogy intézkedésekre kerüljön sor a fogyatékossággal élő személyek bevonásának elősegítésére, valamint a lényegi véleményeik és tapasztalataik képviseletének megkönnyítésére.

3. PROJEKTEK

Az alábbiakban ismertetett három projekt – céljuk szerint – egymást kiegészítő és kölcsönösen támogató jellegű; a projektek elemei a 36 hónapon átívelő módon fognak megvalósulni.

3.1. 1. projekt – Oktatási és kapacitásépítési anyagok előállítása a polgári felhasználású mesterséges intelligenciával foglalkozó közösség számára

3.1.1. A projekt célja

Az 1. projekt arra összpontosít, hogy ismereteket és eszközöket biztosítson a polgári felhasználású mesterséges intelligenciával foglalkozó szereplők számára azon kockázatok értékeléséhez és mérsékléséhez, amelyeket a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció eredményeinek illetéktelen kezekbe jutása és az azokkal való, a felelőtlen szereplők általi visszaélés jelenthet a nemzetközi békére és biztonságra nézve. Célja olyan oktatási és kapacitásépítési anyagok előállítása, amelyek a mesterséges intelligenciával foglalkozó gyakorló szakembereket – ide sorolva a mesterséges intelligencia területére összpontosító oktatókat, tantervfejlesztőket, természettudományos, technológiai, műszaki és matematikai (STEM) tanulmányokat folytató hallgatókat és a mesterséges intelligenciával foglalkozó mérnököket, valamint a tudományos és a magánszektorban dolgozó kutatókat – minden régióban, szinten és ágazatban ellátják olyan információkkal és eszközökkel, amelyek az alábbi célkitűzések teljesüléséhez szükségesek:

a) annak megértése, hogyan miként fordulhat elő – a nemzetközi békére és biztonságra nézve kockázatos módon – hogy a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció eredményei illetéktelen kezekbe kerülnek, illetve hogy visszaélnek velük, valamint annak megértése, hogy a kutatás és innováció fejlesztésével és terjesztésével kapcsolatos döntések hogyan növelhetik vagy csökkenthetik ezeket a kockázatokat;

b) azoknak az erőfeszítéseknek a megértése, amelyeket a leszereléssel, fegyverzet-ellenőrzéssel és nonproliferációval foglalkozó közösség már jelenleg is megtesz annak érdekében, hogy csökkentse a polgári célú kutatás és innováció eredményei illetéktelen kezekbe jutásának, illetve az azokkal való visszaélésnek a kockázatát; továbbá

c) a felelősségteljes innováció megvalósítása oly módon, amely csökkenteni képes a kutatás és az innováció fejlesztése, illetve eredményeik terjesztése terén az illetéktelen kezekbe jutás és a visszaélés kockázatát.

3.1.2. A projekt leírása

A projekt keretében az oktatási és kapacitásépítési anyagok három csomagja készül majd el.

a) Kézikönyv (1 kézikönyv) – A kézikönyv olyan alapvető ismeretek és eszközök tárházaként szolgál majd a mesterséges intelligenciával foglalkozók számára, amelyek segítségével utóbbiak a kutatási és innovációs folyamat során értékelhetik és csökkenthetik a polgári felhasználású MI-technológia illetéktelen kezekbe jutásának, illetve az azzal való, a felelőtlen szereplők általi visszaélésnek a kockázatát. A kézikönyv bemutatja majd, hogy a kutatás és innováció fejlesztése és terjesztése terén hozott döntések hogyan befolyásolhatják az illetéktelen kezekbe jutás és a visszaélés kockázatát, és ennek révén hogyan csökkenthetik, vagy épp erősíthetik a béke és a biztonság esélyeit. A katonai területen, valamint a leszerelés, fegyverzet-ellenőrzés és nonproliferáció területén megfogalmazódó biztonsági és védelmi megfontolások mellett kitér majd a vonatkozó nemzetközi jogi és exportellenőrzési kötelezettségekre is, továbbá fel fogja tárni a felelősségteljes innováció megvalósítását támogató mintafolyamatokat és eszközöket, például a technológiai hatásvizsgálat módszereit és a kockázatértékelési sablonokat.

b) Podcast (kb. 10 adás) – Ezek a podcast-epizódok hozzáférhető és vonzó médiumként szolgálnak majd a mesterséges intelligenciával foglalkozó szereplők számára annak megismeréséhez, hogy a felelősségteljes MI-innovációs folyamatok miért és hogyan támogathatják a nemzetközi békét és biztonságot az illetéktelen kezekbe jutás és a felelőtlen szereplők által elkövetett visszaélés kockázatának csökkentésén keresztül. A sorozat fontos témákat jár majd körül (pl. a kettős/általános felhasználású kutatás és innováció eredményeinek illetéktelen kezekbe jutásában, illetve az azokkal való visszaélésben feltárható mintázatok; a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatással és innovációval való esetleges visszaélésekhez kapcsolódó humanitárius, stratégiai és politikai kihívások; kihívások, amelyekkel a leszerelési, fegyverzet-ellenőrzési és nonproliferációs területen dolgozóknak szembe kell nézniük a kockázatcsökkentési erőfeszítéseik során; a kockázatértékelés szerepe a felelősségteljes innovációban; az exportellenőrzési kötelezettségek betartása; a tervezés folyamatába beépített kockázatcsökkentés; felelős közzététel; az ügyfelek megismerése; a döntéshozatali gyakorlatok tapasztalatai). Az epizódok vezérfonalát a projektcsoport által az érintett közösségek képviselőivel készített interjúk adják majd.

c) Blogbejegyzés-sorozat (9–10 bejegyzés) – A csapat egy olyan, gondosan szerkesztett blogbejegyzés-sorozatot fog kidolgozni, amelynek célja, hogy felhívja a figyelmet azokra az erőfeszítésekre, amelyek a polgári területre összpontosító „felelős mesterséges intelligenciával” foglalkozó közösségek és a fegyverzet-ellenőrzési és nonproliferációs közösségek között igyekeznek hidat verni. A blogbejegyzés-sorozat platformot kínál majd a polgári felhasználású mesterséges intelligenciára irányuló kutatási és innovációs folyamat eredményeinek illetéktelen kezekbe jutásával és az azokkal való visszaélésekkel kapcsolatos kockázatok azonosításával és kezelésével összefüggő meglátások, ötletek és megoldások terjesztésére. A blog a mesterségesintelligencia-ágazatban jelen lévő gondolatok és nézőpontok sokféleségét igyekszik majd képviselni.

Ezeket az anyagokat a megvalósításban részt vevő szereplők terjesztik majd a saját honlapjaikon, közösségi médiafelületeiken, valamint az érintett tudományos szervezetekkel, a mesterséges intelligenciával foglalkozó polgári szakmai szervezetekkel és más megfelelő csoportokkal folytatott közvetlen kommunikáció során.

3.1.3. A projekt várt eredményei

A projekttől olyan új oktatási és kapacitásfejlesztési anyagok rendszerének létrehozását várják, amelyek révén a polgári felhasználású mesterséges intelligenciával foglalkozó gyakorló szakemberek nagyobb érzékenységre tehetnek szert azzal kapcsolatban, hogy a) miként eredményezhet a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eredményeinek illetéktelen kezekbe jutása, illetve az azokkal való visszaélés a nemzetközi békére és biztonságra nézve jelentett kockázatokat, b) hogyan kezeli ezeket a kockázatokat a leszereléssel, fegyverzet-ellenőrzéssel és nonproliferációval foglalkozó közösség, és c) miként nyújthatnának további hozzájárulást a mesterséges intelligenciával foglalkozó gyakorló szakemberek – felelősségteljes innovációs folyamatok alkalmazása révén – az ilyen jellegű kockázatok csökkentéséhez.

Ez a várakozások szerint egyrészt elő fogja mozdítani, hogy a polgári felhasználású mesterséges intelligencia ágazata komolyabb szerepet vállaljon azon kockázatok csökkentésében, amelyeket e technológiák illetéktelen kezekbe jutása, illetve az azzal való visszaélés a nemzetközi békére és biztonságra nézve jelenthet, másodrészt javítja majd a műszaki gyakorló szakemberek kapacitását a leszereléssel, fegyverzet-ellenőrzéssel és nonproliferációval foglalkozó közösség vonatkozó folyamataiban való részvételre, harmadrészt pedig támogatni fogja a leszerelési és nonproliferációs oktatási erőfeszítésekbe hagyományosan be nem vont új közönség megszólítását.

Az említett anyagok várhatóan a többi projekt végrehajtását is támogatják majd, és alapul fognak szolgálni a 2. projekt oktatási és kapacitásépítési tevékenységeihez, valamint a 3. projekt keretében folytatott párbeszédhez és szerepvállaláshoz. E tevékenységek ugyanakkor várhatóan a szóban forgó anyagok kidolgozásához és finomításához is hozzájárulnak majd. Ez az iteratív megközelítés várhatóan segíteni fog ezeknek az anyagoknak a polgári felhasználású mesterséges intelligenciával foglalkozó közösségen belüli előmozdítása, terjesztése és felhasználása útjában álló potenciális akadályok – többek között a nyelvvel, a tartalommal, a kontextussal és a rendelkezésre állással kapcsolatos kérdések – kezelésében, amelyek máskülönben megakadályozhatnák, hogy azok globális szinten, különösen a globális dél országaiban kifejtsék hatásukat.

3.2. 2. projekt – Oktatási és kapacitásépítési tevékenységek a mesterséges intelligenciával foglalkozó jövőbeli gyakorló szakemberek számára

3.2.1. A projekt célja

A 2. projekt célja annak támogatása, hogy a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatások eredményeinek illetéktelen kezekbe jutása és az azokkal való visszaélés által jelentett probléma megjelenjen a mesterséges intelligencia területével foglalkozó gyakorló szakemberek jövőbeli generációinak oktatásában. Hosszú távon ez biztosítja majd, hogy a mesterséges intelligencia jövőjét a későbbiekben meghatározó STEM-hallgatók tisztában legyenek azokkal a negatív hatásokkal, amelyeket munkájuk eredményeinek illetéktelen kezekbe jutása és az azokkal való, felelőtlen szereplők általi visszaélések gyakorolhatnak a nemzetközi békére és biztonságra, valamint azt, hogy elsajátítsák azokat az alapvető eszközöket, amelyek a kutatási és innovációs folyamat során az ilyen kockázatok azonosítását és csökkentését lehetővé teszik.

A projekt keretében a kiválasztott nemzetközi egyetemekkel és ágazati szereplőkkel együttműködve egy sor didaktikai és kapacitásépítő munkaértekezletet tartanak majd oktatók és hallgatók számára. A projekt célja tehát olyan kapacitásépítő tevékenységek kidolgozása, amelyek segítségével az oktatók és az egyetemi tantervfejlesztők a mesterséges intelligencia területével foglalkozó jövőbeli gyakorló szakemberek képzésébe – például az MI etikájáról és a felelősségteljes innovációról szóló kurzusok révén – beépíthetik azoknak a kockázatoknak a vizsgálatát, amelyek a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eredményeinek illetéktelen kezekbe jutásában, illetve az azokkal való, a felelőtlen szereplők általi visszaélésben rejlenek, és ezeket átfogóan illeszthetik be a béke és biztonság tágabb összefüggésrendszerébe. E munkaértekezletek révén a projekt arra is törekszik, hogy kialakítsa azon érdeklődő oktatók, tantervfejlesztők és hallgatók hálózatát, akik támogatnák a projekt oktatási anyagainak és kapacitásépítési tevékenységeinek terjesztését és népszerűsítését a mesterséges intelligenciához kapcsolódó területek oktatóinak közösségében, valamint a mesterséges intelligenciával foglalkozó gyakorló szakemberek közösségében. Ez a hálózatépítési komponens a projektek szűken értelmezett projektidőtartamon túli fenntarthatóságának biztosítását hivatott elősegíteni, és egyúttal olyan szorosabb kapcsolatok kialakítására is törekszik, amelyek támogatják a civil technológiai közösség szerepvállalását a béke, a biztonság, a leszerelés és a fegyverzetellenőrzés tágabb céljainak megvalósítása terén.

3.2.2. A projekt leírása

A projekt keretében egy sor didaktikai és kapacitásépítő munkaértekezletet tartanak majd a kiválasztott nemzetközi egyetemekről érkező oktatók és hallgatók számára. Ezek egyaránt tartalmaznak majd előadásokat és interaktív tevékenységeket, amelyek lehetőséget fognak biztosítani az oktatóknak és a hallgatóknak arra, hogy végiggondolják, miként eredményezhet a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eredményeinek illetéktelen kezekbe jutása, illetve az azokkal való visszaélés a nemzetközi békére és biztonságra nézve jelentett kockázatokat, és hogyan lehet ezeket a kockázatokat a kutatási és innovációs folyamat során vagy más irányítási folyamatok révén azonosítani, megelőzni vagy csökkenteni. E tevékenységek az UNODA által végzett korábbi, kisebb léptékű kísérleti tevékenységekre épülnek majd. Ezekben olyan módszereket próbáltak ki, amelyek a STEM-hallgatók bevonását és érzékenyítését szolgálták, arra ösztönözve a hallgatókat, hogy számoljanak munkájuk szélesebb körű hatásaival, és ne csak a saját szakterületük szakértőivel folytassanak párbeszédet. Ezek konkrétan a következőkből állnának:

a) regionális kapacitásépítési munkaértekezletek oktatók és hallgatók számára (4 munkaértekezlet) – a regionális munkaértekezleteken olyan tevékenységekre kerül majd sor, illetve azok olyan tevékenységeket fognak előmozdítani, amelyeket az oktatók felhasználhatnak a STEM-hallgatók felelősségteljes mesterségesintelligencia-innovációval kapcsolatos kapacitásának fejlesztésére, különös tekintettel arra, hogy miként lehet értékelni és csökkenteni a polgári MI-technológia illetéktelen kezekbe jutásának és az azokkal való, felelőtlen szereplők általi visszaélésnek a kockázatát. Minden munkaértekezletet egy uniós székhelyű egyetem és egy másik globális régióban működő, magas elismertséggel bíró egyetem részvételével fognak megszervezni, összekötve egymással az EU-ban és az EU-n kívül élő résztvevők sokszínű csoportjait. A munkaértekezletek ezt követően Latin-Amerikára és a Karib-térségre, Észak-Amerikára, Afrikára, valamint Ázsiára és a csendes-óceáni térségre terjednek majd ki. Ez lehetővé teszi a világ minden tájáról, köztük a globális dél országaiból érkező (mester- és doktori szintű) hallgatók részvételét. A munkaértekezleteket elsősorban angol nyelven tartanák, de ahol ez megvalósítható, a résztvevőknek lehetőséget biztosítanának arra, hogy más nyelvek alapján szerveződő csoportokban végzett tevékenységekben vegyenek részt; továbbá

b) nemzetközi munkaértekezlet a fenntartható kapacitásépítésről (1 munkaértekezlet) – a munkaértekezlet a regionális munkaértekezletek tanulságaira épít majd, és elő fogja segíteni az információk és tapasztalatok cseréjét a projektben részt vevő egyetemek oktatói és kiválasztott hallgatói között. A munkaértekezleten megvitatják majd, hogy miként lehetne finomítani a projekt során kidolgozott tevékenységeket és eszközöket, és azokat a részt vevő egyetemek csoportján túl is terjeszteni. A munkaértekezlet résztvevői azt a kérdést is meg fogják vitatni, hogy miként lehetne támogatni azt, hogy a hallgatók a munkaerőpiacra való belépésüket követően szerepet vállaljanak a mesterséges intelligencia felelősségteljes alkalmazása terén, amelynek keretében figyelembe veszik azokat a kockázatokat, amelyeket e technológiák illetéktelen kezekbe jutása és a velük való visszaélés a nemzetközi békére és biztonságra nézve jelent.

A SIPRI és az UNODA afrikai, európai, észak- és dél-amerikai, valamint az ázsiai és csendes-óceáni térségben található hálózatai és jelenléte adott esetben a tevékenységek bizonyos aspektusainak megkönnyítését és támogatását szolgálhatják majd.

3.2.3. A projekt várt eredményei

A projekt várhatóan kapacitásépítési és szerepvállalási tevékenységek olyan modelljeit hozza majd létre, amelyeket oktatók és a felsőoktatási tantervek kifejlesztői – mintegy mintaként – felhasználhatnak majd arra a célra, hogy a mesterséges intelligencia területével foglalkozó jövőbeli gyakorló szakemberek figyelmét felhívják egyrészt azokra a problémákra, amelyeket a polgári felhasználású mesterséges intelligencia illetéktelen kezekbe jutása és az azzal való, a felelőtlen szereplők általi visszaélés okozhat, másrészt pedig arra, hogy miként segíthetik ezen problémák enyhítését felelősségteljes innovációs folyamatok útján. A résztvevők (az oktatók, de maguk a STEM-hallgatók is) a projekttevékenységek befejezését követően várhatóan képesek lesznek arra, hogy felelősségteljes innovációs eszközöket, módszereket és koncepciókat alkalmazzanak és népszerűsítsenek annak érdekében, hogy a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció fejlesztése és azok eredményeinek terjesztése során azonosítani és csökkenteni lehessen az illetéktelen kezekbe jutás és a visszaélések kockázatát.

A projekttevékenységek eredményeként emellett várhatóan egy olyan oktatókból, tantervfejlesztőkből és hallgatókból álló hálózat is létrejön majd, akik nemcsak népszerűsíteni fogják a projekttevékenységeket a mesterséges intelligenciával foglalkozó oktatási és szakmai közösségeken belül (például az IEEE számítógépes intelligenciával foglalkozó társaságának konferenciái során), hanem arra is készen állnak majd, hogy műszaki kapacitással segítsék az állami vezetéssel megvalósuló nemzetközi irányítási folyamatokat (így például az egyes hagyományos fegyverekről szóló egyezménynek a halált okozó autonóm fegyverrendszerek terén kialakulóban lévő technológiákkal kapcsolatos folyamatát).

E tevékenységek rövid és hosszú távú értékének igazolása a tevékenységek előtt és után végzett felmérések útján történik majd.

3.3. 3. projekt – A békét és biztonságot szolgáló felelősségteljes innováció hosszabb távú fenntartható fejlesztésének, terjesztésének és hatásának előmozdítása a mesterséges intelligencia területén

3.3.1. A projekt célja

A 3. projekt célja, hogy előmozdítsa a felelősségteljes innováció hosszabb távú fenntartható fejlesztését, terjesztését és hatását a mesterséges intelligencia területén annak érdekében, hogy ezáltal csökkentse azokat a kockázatokat, amelyeket a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eltérítése és az azokkal való visszaélés jelenthet a békére és a biztonságra nézve. Ezt az MI-ágazattal folytatott kerekasztal-megbeszélések, több érdekelt fél részvételével zajló párbeszédek, egy nyilvános jelentés kialakítása, valamint célirányos terjesztési tevékenységek útján kívánja elérni. A projekt célja annak biztosítása, hogy az elvégzett munka, és azon belül is különösen az oktatási, kapacitásépítési és szerepvállalási tevékenységek – minden szinten (a diákoktól kezdve, a mérnökökön át, a mesterséges intelligencia területével foglalkozó más szakemberekig), illetőleg földrajzi, ágazati és egyéb határokon átívelően – eljussanak az MI-közösség egészéhez, és hatást gyakoroljanak arra. Annak érdekében, hogy növelni lehessen a széles körű és jelentős hatás kifejtésének lehetőségét, alapvetően fontos együttműködni az e területen tevékeny szakmai szervezetekkel – így például az IEEE-vel –, valamint többdimenziós szerepvállalást kell folytatni a tudományos körök, az ágazat és más silók bevonásával. Ezek az erőfeszítések lehetőséget biztosítanak majd a különböző MI-közösségek érdekelt képviselői számára arra, hogy felelősséget vállaljanak a problémáért, és megoszthassák véleményüket arról, hogy szerintük miként lehetne fenntartható módon végrehajtani és előmozdítani a kockázatcsökkentési tevékenységeket a globális MI-közösségen belül és azon átívelően. A projekt által az államok, a kormányközi szervezetek és mások számára jelentett hosszú távú érték szempontjából fontos az is, hogy az MI területével foglalkozó gyakorló szakemberek olyan kormányzati szakértőktől tanulhassanak és olyan kormányzati szakértőkkel működhessenek együtt, akik a leszereléssel, fegyverzet-ellenőrzéssel és nonproliferációval kapcsolatos kockázatcsökkentési tevékenységekben vesznek részt. A fenntarthatóság szempontjából ezen túlmenően annak biztosítása is kiemelkedő fontosságú, hogy a szerepvállalási tevékenységek útján szerzett ismereteket megfelelően elemezzék, konszolidálják és terjesszék.

3.3.2. A projekt leírása

Ez a projekt az alábbi fő elemekből tevődik össze:

a) több érdekelt fél részvételével zajló párbeszédek a mesterséges intelligencia területével kapcsolatos, a béke és a biztonság szolgálatába állított felelősségteljes innovációról (akár 9 ilyen párbeszéd) – e virtuális párbeszédsorozatban a tudományos élet, a kutatás, a magánszektor és a hagyományos fegyverzet-ellenőrzés területének uniós és Unión kívüli szakértői vennének részt azzal a céllal, hogy megvitassák: i. az olyan technológiai tendenciákat, amelyek a nemzetközi békére és biztonságra kiható kockázatokat eredményezhetnek a terjesztést, az illetéktelen kezekbe jutást és a visszaéléseket illetően; ii. azt a kérdést, hogy miként lehetne felelősségteljes innovációs folyamatok, módszerek és eszközök útján kockázatcsökkentést folytatni, valamint az érdekelt közösségek közötti párbeszéd és tudásmegosztás lehetőségeit és kihívásait, az egyéb ágazatokban – mint például a biológiai és a vegyiparban – tevékeny közösségeket is beleértve; valamint iii. egy önfenntartó szakértői hálózat és a párbeszéd keretében folytatott tevékenységek potenciális értékét, célját és formátumát. A szakértői csoport évente több alkalommal ülésezik majd, és tevékenységének részeként két, a tágabb közösségnek szánt nyilvános rendezvény megszervezésén fog dolgozni.

A szélesebb körű konzultáció elősegítése érdekében a kilenc virtuális találkozó közül kettő a tervek szerint a nyilvánosság előtt is nyitva áll majd;

b) a magánszektorral folytatott kerekasztal-megbeszélések (akár 6 ilyen kerekasztal-megbeszélés) – ezen virtuális kerekasztal-megbeszélések keretében párbeszéd fog indulni olyan szereplőkkel, akik a magánszektoron belül felelősségteljes innovációs folyamatokkal dolgoznak a mesterséges intelligencia területén (például a mesterséges intelligenciával kapcsolatos partnerség). A cél egyrészt annak megvitatása, hogy ezek miként járulhatnak hozzá a polgári felhasználású MI-technológiák felelőtlen szereplők általi eltérítése és az azokkal való visszaélés kockázatának minimalizálásához, másrészt pedig az ehhez szükséges lehetséges ösztönzők feltérképezése a magánszektoron belüli fejlesztés területén. A megtárgyalt témák közé tartozik majd: i. a nemzetközi biztonság és a leszerelés relevanciája a magánszektor számára; ii. az a jogi környezet / azok a jogi környezetek, amely/amelyek háttérként szolgálnak a mesterséges intelligencia fejlesztéséhez, alkalmazásához és működéséhez világszerte; iii. annak kérdése, hogy miként lehetne olyan kockázatértékelési mechanizmusokra és egyéb intézkedésekre építeni, amelyek felelősségteljes innovációs folyamatok és vállalati megfelelési programok részét képezik, vagy beépíthetők lennének ilyenekbe; valamint iv. a fegyverzet-ellenőrzéssel kapcsolatos egyéb iparágakból, folyamatokból és keretekből (mint például a biológiai és a vegyipar) levonandó tanulságok;

c) az MI-közösségeknek és a fegyverzet-ellenőrzéssel foglalkozó közösségeknek szánt jelentés a mesterséges intelligencia területén belüli fegyverzet-ellenőrzésre és kockázatcsökkentésre vonatkozó, az MI-közösséget érintő kilátásokról (1) – ez a jelentés egyetlen (a polgári felhasználású, felelősségteljes mesterséges intelligenciával foglalkozó közösségeknek és a fegyverzet-ellenőrzéssel foglalkozó közösségeknek szánt) referenciadokumentum formájában fogja rögzíteni és összefogni a projekt keretében született megállapításokat és ajánlásokat. A jelentés megvizsgálja majd, hogy miként lehet azonosítani, értékelni és kezelni a nemzetközi békére és biztonságra nézve jelentett olyan kockázatokat, amelyek a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eltérítéséhez és az azokkal való visszaéléshez kapcsolódnak;

d) az MI-közösségekkel és a fegyverzet-ellenőrzéssel foglalkozó közösségekkel folytatott konzultációra és együttműködésre irányuló, terjesztési célú rendezvények (ezek pontos száma később kerül meghatározásra) – a projektcsapat a projekt teljes időtartama alatt lehetőségeket keres majd arra, hogy beszámolhasson a munkájáról és az annak keretében született megállapításokról és ajánlásokról. A rendezvények formátuma és a tájékoztatók tartalma a célcsoportok igényeihez fog igazodni. A rendezvények közé tartozhatnak például a következők ülései: a CONOP; a mesterséges intelligenciával foglalkozó európai szövetség; a halált okozó autonóm fegyverrendszerek területén kialakulóban lévő technológiákkal foglalkozó kormányzati szakértői csoport; a mesterséges intelligenciával foglalkozó ügynökségközi munkacsoport (IAWG-AI); az ITU „Mesterséges intelligencia a jó szolgálatában” elnevezésű kezdeményezése; az UNIDIR éves innovációs párbeszéde; valamint a Villamos- és Elektronikai Mérnöki Szervezet (IEEE). A projektcsapat arra is törekszik majd, hogy kétoldalú együttműködést folytasson a kormányzati körökből, a tudományos élet területéről és a magánszektorból érkező érintett érdekelt felekkel.

3.3.3. A projekt várt eredményei

Ez a projekt várhatóan lefekteti majd az MI-folyamatokat érintő felelősségteljes innováció fenntartható fejlesztésének, terjesztésének és hatásának alapjait, a tanácsi határozat közvetlen időtartamán túl is kezelve a terjesztéssel, az illetéktelen kezekbe jutással és a visszaélésekkel kapcsolatos kockázatokat, valamint azoknak a békére és a biztonságra gyakorolt hatását.

A több érdekelt fél részvételével zajló párbeszéd várhatóan modellként szolgál majd a kockázatcsökkentéssel kapcsolatos információmegosztáshoz és együttműködéshez, mégpedig nemcsak a globális MI-közösségen belül, hanem a polgári felhasználású, felelősségteljes mesterséges intelligenciával foglalkozó közösség és a leszerelési, fegyverzet-ellenőrzési és nonproliferációs közösségek között is. Egy ilyen modellt fel lehetni használni arra, hogy a szakpolitikai döntéshozókat megismertessük a mesterséges intelligencia felelősségteljes innovációja szempontjából releváns kulcsfontosságú technológiai és tudományos fejleményekkel, illetve arra is, hogy a szakmai közösségeket megismertessük azzal a környezettel, amelyben a szakpolitikai döntéshozók jelenleg működnek. A projekt várhatóan elősegíti majd az érdekelt szereplők közötti fenntartható kapcsolatokat és együttműködést, e különböző közösségeken belül és azok között egyaránt. Az ilyen heterogén hálózati hatások várhatóan a projekt időtartamán túl is lehetővé teszik majd a mesterséges intelligenciával kapcsolatos, a béke és a biztonság szolgálatába állított felelősségteljes innováció nagyobb mértékű fejlesztését és széles körű előmozdítását.

A magánszektorral folytatott párbeszéd várhatóan lehetővé fogja tenni, hogy az MI-magánszektor nagyobb mértékben és mélyebben kapcsolódjon be azoknak a békére és a biztonságra nézve jelentett kockázatoknak az azonosításába, megelőzésébe és csökkentésébe, amelyek a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eltérítéséből és az azokkal való visszaélésből fakadnak. A projekt eredményeként a magánszektorbeli folyamatok kulcsszereplői várhatóan jobban megértik majd és jobban magukénak fogják érezni azokat a problémákat, amelyeket a projekt megoldani igyekszik. A projektnek célja továbbá az is, hogy a meglévő vállalati kockázatkezelési mechanizmusokon és eljárásokon belül előmozdítsa a felelősségteljes innovációs folyamatok, módszerek és eszközök (szélesebb körű) alkalmazását és végrehajtását.

Ezen túlmenően a várakozások szerint a több érdekelt fél részvételével zajló párbeszédek és a magánszektorral folytatott kerekasztal-megbeszélések is betekintést nyújtanak majd számos lényeges kérdésbe, így többek között a következőkbe: a) miként lehet tovább finomítani a felelősségteljes innovációs módszereket és eszközöket és hogyan lehet alkalmazni azokat annak érdekében, hogy ezáltal azonosítani és csökkenteni lehessen, illetve meg lehessen előzni azokat a kockázatokat, amelyeket a polgári felhasználású mesterséges intelligencia területével kapcsolatos kutatás és innováció eltérítése és az azokkal való visszaélés jelent; b) hogyan lehet a mesterséges intelligenciával kapcsolatos kutatást és innovációt pozitívan felhasználni a békével és biztonsággal kapcsolatos célkitűzések támogatására (pl. a korai konfliktus-előrejelzésre és a humanitárius segítségnyújtásra irányuló alkalmazások formájában); valamint c) miként lehetne fokozottabb párbeszédet és információmegosztást előmozdítani a polgári felhasználású, felelősségteljes mesterséges intelligenciával foglalkozó közösség (azaz az IEEE által irányított különböző kezdeményezések) keretében végzett kockázatcsökkentési tevékenységek és a leszerelési, fegyverzet-ellenőrzési és nonproliferációs közösség körében kormányközi szinten már jelenleg is zajló ilyen tevékenységek között.

A jelentés és a terjesztési tevékenységek elemezni, konszolidálni és terjeszteni fogják az 1., 2. és 3. projekt útján szerzett ismereteket, és ily módon támogatni fogják a projekttevékenységek keretében született megállapításoknak és ajánlásoknak a globális MI-közösségen és a szakpolitikai közösségen belüli népszerűsítését. Emellett várhatóan a projektek időtartamán túl is segíteni fogják a kifejtett hatások fenntarthatóságának biztosítását.

4. IDŐTARTAM

A projektek végrehajtásának becsült teljes időtartama 36 hónap.

(1) Az említett módszerek közé tartoznak például a Villamos- és Elektronikai Mérnöki Szervezet (IEEE) által az autonóm és intelligens rendszerek emberi jóllétre gyakorolt hatásának értékelésére vonatkozóan ajánlott gyakorlatok (IEEE Std 7010–2020), valamint a mesterséges intelligenciával foglalkozó magas szintű szakértői csoportnak a megbízható mesterséges intelligenciára vonatkozó értékelési listája (ALTAI). A kezdeményezések közé tartoznak a következők: az IEEE globális kezdeményezése az autonóm és az intelligens rendszerek etikai vonatkozásairól; a mesterséges intelligenciával foglalkozó partnerség; a mesterséges intelligenciával foglalkozó globális partnerség.