L 300/14
HU
Az Európai Unió Hivatalos Lapja
2022.11.21.
MELLÉKLET
PROJEKTDOKUMENTUM A mesterséges intelligenciával kapcsolatos felelősségteljes innováció előmozdítása a béke és a biztonság érdekében 1.
HÁTTÉR
A mesterséges intelligencia (MI) terén a közelmúltban elért eredmények új lehetőségeket teremtettek a béke és a biztonság támogatását és fenntartását illetően, például olyan területeket érintő technológiai fejlesztések révén, mint a konfliktusok korai előrejelzése, valamint a fegyverzet- és az exportellenőrzés felügyelete.
Másrészt viszont ezek az eredmények új eszközöket biztosítanak az államok közötti, illetve államokon belüli feszültségek, konfliktusok és bizonytalanság előidézésére vagy azok súlyosbítására.
A mesterséges intelligencia bizonyos alkalmazásai, például a halált okozó autonóm fegyverrendszerek jelentette kockázatok komoly aggodalomra adnak okot a fegyverzet-ellenőrzéssel foglalkozó közösség számára.
A mesterséges intelligenciával kapcsolatos polgári kutatás és innováció felelőtlen szereplők – köztük rosszindulatú nem állami szereplők – általi eltérítése és az azokkal való visszaélés – mint például a generatív versengő hálózatok (GAN) rendellenes használata deepfakeeknek dezinformációs kampányok céljából történő előállítására – olyan nagyobb figyelmet érdemlő fenyegetést jelent, amelyre a jelenlegi fegyverzet-ellenőrzés és diplomáciai erőfeszítések nem feltétlenül tudnak adekvát választ adni.
A mesterséges intelligencia nagy általános felhasználási potenciállal rendelkező alaptechnológia.
A mesterséges intelligenciával kapcsolatos, polgári alkalmazásokat szolgáló kutatás és innováció (viszonylag könnyen) hozzáférhető lehet egyes szereplők számára, akik azok eredményeit olyan káros és zavart okozó célokra használhatják fel, amelyek hatással lehetnek a nemzetközi békére és biztonságra.
A polgári technológia eltérítése és az azzal való visszaélés nem új jelenség, és nem is kötődik kizárólag a mesterséges intelligenciához.
Példa erre a robotika területén – amely közel áll a mesterséges intelligenciához –, hogy a Dáis/ISIS a közelmúltban Szíriában fegyverként használt szabadidős tevékenységekhez tervezett drónokat.
A mesterséges intelligencia esetében azonban a problémát több tényező is bonyolítja: a mesterségesintelligencia-algoritmusok és -adatok immateriális és gyorsan változó jellege, ami megnehezíti ezen algoritmusok és adatok továbbításának/terjesztésének ellenőrzését; a magánszektor vezető szerepe a kutatási, fejlesztési és innovációs ökoszisztémában, e szektor pedig igényli a saját fejlesztésű algoritmusok védelmét; valamint az MI-technológiák átalakításához szükséges emberi szakértelem és anyagi erőforrások globális szintű elérhetősége.
Eközben a mesterséges intelligenciával a polgári ágazatban foglalkozó személyek gyakran továbbra sincsenek tisztában azzal, hogy a munkájuk illetéktelen kezekbe jutása és az azzal való visszaélés milyen következményekkel járhat a nemzetközi békére és biztonságra nézve, vagy haboznak részt venni a fegyverzetellenőrzési és nonproliferációs körökben a mesterséges intelligenciával kapcsolatos kockázatokról zajló megbeszélésekben.
Támogatni kell a polgári felhasználású mesterséges intelligenciával foglalkozó közösség nagyobb mértékű szerepvállalását a polgári mesterségesintelligencia-technológia felelőtlen szereplők általi eltérítéséhez és az azzal való visszaéléshez kapcsolódó béke- és biztonsági kockázatok megértésében és csökkentésében.
A Stockholmi Nemzetközi Békekutató Intézet (SIPRI) és az ENSZ Leszerelési Ügyek Hivatala (UNODA) szerint ez a felelősségteljes innovációnak a polgári felhasználású mesterséges intelligenciával foglalkozó globális közösségben való fokozottabb előmozdításával érhető el.
A SIPRI és az UNODA által a múltban végzett munka rámutatott, hogy a felelősségteljes innováció – mint önszabályozó mechanizmus – a polgári felhasználású mesterséges intelligenciával foglalkozó globális közösség számára gyakorlati eszközöket és módszereket biztosíthat azon kockázatok azonosításához, valamint a megelőzésük és csökkentésük elősegítéséhez, amelyeket a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció eltérítése és az azzal való visszaélés jelenthet a békére és a biztonságra nézve.
A SIPRI és az UNODA emellett a munkája során azonosított olyan módszereket és több olyan folyamatban lévő, a felelősségteljes mesterséges intelligenciára vonatkozó, a polgári felhasználásra irányuló kezdeményezést, amelyekre építve a polgári felhasználású mesterséges intelligenciával foglalkozó közösség figyelmét felhívhatják a fegyverzetellenőrzéssel és a nonproliferációval kapcsolatos kérdésekre, a mesterséges intelligencia felelősségteljes fejlesztésével, terjesztésével és használatával kapcsolatos szakértői vitákra és állami álláspontokra, valamint a védelmi ágazat felelősségvállalásával kapcsolatos munkából levonható tanulságokra.
(1) Kritikus jelentőséggel bír, hogy e korábbi munka során egyértelműen megállapításra került, hogy a természettudományos, technológiai, műszaki és matematikai (STEM) tanulmányokat folytató hallgatókkal – akik még oktatási környezetben foglalkoznak a mesterséges intelligenciával – való együttműködés minden hatékony, felelősségteljes innovációs erőfeszítés központi eleme.
2.
CÉLKITŰZÉSEK
E projektek célja annak támogatása, hogy a polgári felhasználású mesterséges intelligenciával foglalkozó közösség nagyobb mértékben vegyen részt azon kockázatok csökkentésében, amelyeket a polgári felhasználású mesterséges intelligenciával kapcsolatos kutatás és innováció felelőtlen szereplők általi eltérítése és az azokkal való visszaélés jelenthet a nemzetközi békére és biztonságra nézve.
Ennek megvalósításához egyrészt elő kell segíteni annak jobb megértését, hogy a mesterséges intelligenciával kapcsolatos kutatás és innováció fejlesztése és terjesztése terén hozott döntések hogyan befolyásolhatják az eltérítés és a visszaélés kockázatát, és ezáltal hogyan teremthetnek kockázatot vagy lehetőségeket a béke és a biztonság szempontjából, másrészt pedig elő kell mozdítani az olyan felelősségteljes innovációs folyamatokat, módszereket és (1) Az említett módszerek közé tartoznak például a Villamos- és Elektronikai Mérnöki Szervezet (IEEE) által az autonóm és intelligens rendszerek emberi jóllétre gyakorolt hatásának értékelésére vonatkozóan ajánlott gyakorlatok (IEEE Std 7010–2020), valamint a mesterséges intelligenciával foglalkozó magas szintű szakértői csoportnak a megbízható mesterséges intelligenciára vonatkozó értékelési listája (ALTAI).
A kezdeményezések közé tartoznak a következők: az IEEE globális kezdeményezése az autonóm és az intelligens rendszerek etikai vonatkozásairól; a mesterséges intelligenciával foglalkozó partnerség; a mesterséges intelligenciával foglalkozó globális partnerség.