C 465/78
HU
Az Európai Unió Hivatalos Lapja
2022.12.6.
2022. május 3., kedd
51. hangsúlyozza, hogy az MI-technológiák, különösen azok, amelyeket nem a hatályos kifejezett ellenőrzési eljárásokkal terveztek és fejlesztettek ki, és amelyeket nem megfelelően és felügyelet nélkül használnak katonai parancsnokságokon vagy rakétaindító létesítményekben, különösen jelentős kockázatokkal járnak, és automatikus kölcsönös konfliktust eredményezhetnek;
52. megjegyzi, hogy az MI-rendszerek védelmi vonatkozású fejlesztésekben való használata gyökeres változást jelent a katonai műveletekben, mivel lehetővé teszik az adatok elemzését, a bonyolultabb helyzetek értékelését, a célmeghatározás pontosságának javítását, a logisztika optimalizálását és azt, hogy a polgári lakosság és a saját katonai személyzet fizikai károsodásának csökkentett kockázata mellett lehessen fegyveres konfliktusokba bocsátkozni, valamint az adatok bizonyos – például háborús játékokon alapuló – cselekvési módok kidolgozásához való felhasználásával; figyelmeztet azonban, hogy ez az erőszak alkalmazására vonatkozó ingerküszöb csökkenését idézheti elő, és ezáltal több konfliktushoz vezethet; megerősíti, hogy a gépek nem képesek az emberhez hasonló, többek között a különbségtétel, az arányosság és az elővigyázatosság jogelveit figyelembe vevő döntéshozatalra; megerősíti, hogy a fegyverek bevetéséről és alkalmazásáról szóló döntéseket továbbra is az emberek ellenőrzése alatt kell tartani, és az embereknek továbbra is elszámoltathatóknak kell lenniük a halálos erőszak alkalmazásáért, valamint az élet és halál kérdésében hozott döntésekért; úgy véli, hogy a mesterséges intelligencia alapú fegyverrendszereknek globális normák és egy nemzetközi etikai magatartási kódex hatálya alá kell tartozniuk, amely – a nemzetközi humanitárius jog és az emberi jogok teljes tiszteletben tartása mellett, valamint az uniós joggal és értékekkel összhangban – alapul szolgálna az MI-technológiák katonai műveletekben való alkalmazásához;
53. aggodalmát fejezi ki az érdemi emberi ellenőrzés nélküli, halált okozó autonóm fegyver-rendszerekkel kapcsolatos, egyes országokban zajló katonai kutatás és technológiai fejlesztések miatt; megállapítja, hogy a katonai konfliktusokban már most is használnak halált okozó autonóm fegyverrendszereket; emlékeztet arra, hogy a Parlament többször felszólított a halált okozó autonóm fegyverrendszerek fejlesztésének, gyártásának és használatának nemzetközi betiltására, valamint a betiltásukra irányuló tényleges tárgyalások megkezdésére; hangsúlyozza, hogy a mesterséges intelligencia alapú rendszerek semmilyen körülmények között nem helyettesíthetik az emberi döntéshozatalt, amely magában foglalja a megkülönböztető képesség, az arányosság és az elővigyázatosság jogi elvét;
54. megjegyzi különösen, hogy az MI-technológia kiemelten veszélyes lehet mint a hibrid hadviselés és a külföldi beavatkozás különböző formáinak eszköze; konkrétabban megállapítja, hogy mozgósítható lehet például dezinformációs tevékenységre, botok vagy hamis közösségimédia-fiókok felhasználásával, az egymásrautaltság fegyverként való felhasználására, értékes információk gyűjtésével vagy az ellenfelek hálózati hozzáférésének megtagadásával, arra, hogy zavart keltsenek más országok gazdasági és pénzügyi rendszereiben, beszennyezzék a politikai vitát és szélsőséges csoportokat előnyös helyzetbe hozzanak, vagy manipulálják a választásokat a demokráciák destabilizálása céljából;
55.
kiemeli, hogy az MI-technológiák között megtalálhatók a mesterséges intelligenciával működő rosszindulatú szoftverek, a személyazonosság-lopás, az adatmérgezés vagy a gépi tanulás más ellenséges formái, amely más MI-rendszereket arra késztet, hogy félreértelmezzék a bemeneti adatokat; rámutat különösen a deepfake terjedésére, amelyek nem feltétlenül számítanak „kibertámadásnak”, de kétségeket ébresztenek minden digitális tartalom hitelességével kapcsolatban, beleértve a videókat is, ezért különös figyelmet igényelnek az átláthatósági követelményeket illetően; figyelmeztet, hogy a deepfake hozzájárulhat ahhoz, hogy a mesterséges intelligenciával szembeni általános bizalmatlanság jellemezte légkör, társadalmainkon belül pedig mélyebb társadalmi-politikai polarizáció alakuljon ki;
56. kifejti, hogy az MI-rendszerek alkalmazása a kulcsfontosságú kritikus infrastruktúrák jelentős részében – például az energia- és közlekedési hálózatokban, az űrágazatban, az élelmiszerláncban, a banki és pénzügyi hálózatban és a kórházi létesítményekben – új sérülékeny pontokat eredményezett, amelyek határozott kiberbiztonsági intézkedéseket követelnek meg a fenyegetések megelőzése érdekében; e tekintetben rámutat az együttműködés, az információmegosztás és a fellépés fontosságára mind uniós szinten, mind a tagállamok között; hangsúlyozza, hogy erősíteni kell a kritikus fontosságú szervezetek hibrid fenyegetésekkel szembeni ellenálló képességét;
57. figyelmeztet arra, hogy az MI képességei biztonsági kockázatot is jelenthetnek, mivel az embereket arra késztetheti, hogy indokolatlan bizalmat helyezzenek a mesterséges intelligenciába, és már jobban bízzanak benne, mint saját ítélőképességükben; megjegyzi, hogy az emberi beavatkozás mint korrekciós mechanizmus alkalmazása nem minden esetben valósítható meg; megjegyzi, hogy kísérletek bizonyítják, hogy ennek révén a mesterséges intelligencia autonómiájának szintje túlléphet azon a támogató szerepkörön, amelyre azt eredetileg tervezték, ami azt jelenti, hogy az emberek elszalasztják a lehetőséget arra, hogy tapasztalatot szerezzenek, és fejlesszék az MI-rendszerekkel kapcsolatos készségeiket és ismereteiket; hangsúlyozza ezért, hogy az ilyen automatizálásra irányuló elfogultság leküzdése érdekében a magas kockázatú MI-rendszerekben gondoskodni kell a beépített biztonságról és a megfelelő képzésen és megfelelő biztonsági és adatvédelmi biztosítékokon alapuló érdemi emberi felügyeletről;