C 465/78
BG
Официален вестник на Европейския съюз
6.12.2022 г.
Вторник, 3 май 2022 r.
51. подчертава, че технологиите с ИИ, особено тези, които не са проектирани и разработени с въведени изрични процедури за контрол и се използват неправилно и без надзор във военните командни центрове или в съоръженията за изстрелване на ракети, са свързани с особено големи рискове и биха могли да доведат до автоматизиран реципрочен конфликт;
52. отбелязва, че използването на системи с ИИ при свързани с отбраната разработки се счита за радикална промяна във военните операции чрез анализа на данни, способността за отразяване на по-значителна сложност на ситуациите, потенциала за подобряване на точността на целите, оптимизиране на логистиката и участие във въоръжени конфликти с намален риск от физически вреди за цивилното население и собствения военен персонал, както и използването на данни за разработването на начини на действие, като например военни симулации; предупреждава обаче, че това може да доведе до по-нисък праг за използване на сила и съответно до повече конфликти; заявява, че машините не могат да вземат решения, подобни на решенията, вземани от човека, които включват правни принципи като разграничаване, пропорционалност и предпазливост; заявява, че контролът относно решението за внедряване и използване на оръжия следва да остане под контрола на хората и че хората следва да продължат да носят отговорност за употребата на смъртоносна сила и за решенията относно живота и смъртта; счита, че базираните на ИИ оръжейни системи следва да се подчиняват на глобални стандарти и на международен етичен кодекс за поведение, за да се подкрепи внедряването на технологии с ИИ във военните операции, като изцяло се зачитат международното хуманитарно право и правото в областта на правата на човека и се спазва съответствието с правото и ценностите на Съюза;
53. изразява загриженост относно военните изследвания и технологичните разработки, осъществявани в някои страни във връзка със смъртоносни автономни оръжейни системи без значителен човешки надзор; отбелязва, че смъртоносните автономни оръжейни системи вече се използват във военни конфликти; напомня, че Парламентът многократно е призовавал за международна забрана на разработването, производството и използването на смъртоносни автономни оръжейни системи и за започването на ефективни преговори за тяхната забрана; подчертава, че при никакви обстоятелства не може да се допусне активираните от ИИ системи да заменят вземането на решение от човек, което включва правните принципи на разграничаване, пропорционалност и предпазливост;
54. отбелязва по-специално, че технологиите в областта на ИИ може да крият евентуални рискове в качеството си на средство за водене на различни форми на хибридна война и чужда намеса; уточнява, че тя може например да бъде предназначена за разпространение на дезинформация чрез използване на ботове и фалшиви профили в социалните медии, за превръщане на взаимозависимостта в оръжие, за събиране на ценна информация или отказ на достъп до мрежата на противници, за създаване на смущения в икономическите и финансовите системи на други държави, за оказване на отрицателно въздействие върху политическите дебати и подпомагане на екстремистки групи или за манипулиране на изборите и дестабилизиране на демокрациите;
55. подчертава, че технологиите в областта на ИИ биха могли да включват и зловреден софтуер, управляван от изкуствен интелект, кражба на самоличност, заразяване на данни или други форми на злонамерено машинно самообучение, които принуждават други системи с ИИ да интерпретират погрешно въведените данни; посочва по-специално увеличаването на броя на дълбинните фалшификати, които не са непременно кибератаки, но пораждат съмнения относно автентичността на цялото цифрово съдържание, включително на видеоклипове, и затова се нуждаят от особено внимание по отношение на изискванията за прозрачност; предупреждава, че дълбинните фалшификати могат да допринесат за широкото обществено недоверие към ИИ, както и за задълбочаването на социално-политическата поляризация в нашите общества;
56. посочва, че използването на системи с ИИ в значително количество критична инфраструктура от ключово значение, като енергийните и транспортните мрежи, космическия сектор, хранителната верига, банковата и финансовата инфраструктура и болничните заведения, е създало нови уязвимости, които изискват стабилни мерки за киберсигурност, за да се предотвратят заплахите; посочва в тази връзка значението на сътрудничеството и споделянето на информация и действия на равнището на ЕС, както и на равнището на държавите членки; подчертава значението на това да се насърчава устойчивостта на критичните обекти спрямо хибридни заплахи;
57. предупреждава, че възможностите на ИИ може да представляват рискове за сигурността, тъй като може да накарат хората да започнат да се доверяват повече на ИИ, отколкото на собствената си преценка; отбелязва, че използването на подхода „човек във веригата“ като коригиращ механизъм не е осъществимо във всички случаи; отбелязва, че експериментите показват, че това може да увеличи нивото на автономност на ИИ отвъд спомагателната роля, за която първоначално е бил предназначен, и че хората пропускат възможности да придобият опит и да подобрят своите умения и познания за системите с ИИ; затова подчертава, че във високорисковите системи с ИИ се изискват безопасност при проектирането и значим човешки надзор, основан на съответно обучение, както и подходящи гаранции за сигурност и неприкосновеност на личния живот, за да се преодолее тази предубеденост в полза на автоматизацията;