BG
L 300/14
Официален вестник на Европейския съюз
21.11.2022 г.
ПРИЛОЖЕНИЕ
ПРОЕКТЕН ДОКУМЕНТ Насърчаване на отговорни иновации в областта на ИИ за мир и сигурност 1.
КОНТЕКСТ
Неотдавнашният напредък в областта на изкуствения интелект (ИИ) откри нови възможности за подкрепа и поддържане на мира и сигурността, например чрез технологични подобрения в области като ранното предупреждение за конфликти и проверката на контрола върху оръжията и износа.
От друга страна, този напредък даде възможност за нови начини за създаване или задълбочаване на вече съществуващо напрежение, конфликти и несигурност между и в рамките на държавите.
Рисковете, свързани с някои приложения на ИИ, като например смъртоносните автономни оръжейни системи, се откроиха като основен проблем, предизвикващ загриженост за общността за контрол върху оръжията.
Една рискова възможност, на която трябва да се обърне по-голямо внимание и за която настоящите усилия за контрол върху оръжията и дипломатическите усилия може да не са достатъчни, за да се реагира, е отклоняването на граждански научни изследвания и иновации в областта на ИИ и злоупотребата с тях от безотговорни участници, включително злонамерени недържавни участници, като например злоупотребата с генеративно-състезателни мрежи за създаване на дълбоки фалшификати („дийпфейк“) за кампании за дезинформация.
ИИ е базова технология с голям потенциал за обща употреба.
До научните изследвания и иновациите в областта на ИИ, разработвани за граждански приложения, може (относително лесно) да се получи достъп и те да бъдат пренасочени от някои участници за вредни или разрушителни употреби, които да имат последици за международния мир и сигурност.
Отклоняването на граждански технологии и злоупотребата с тях не са нови явления, нито са ограничени само до ИИ.
В близката област на роботиката това наскоро беше илюстрирано от използването на безпилотни летателни апарати за развлекателни цели като оръжие от Даиш/ИДИЛ в Сирия.
Но в случая с ИИ проблемът се усложнява от множество фактори: нематериалното и бързо променящо се естество на алгоритмите и данните от областта на ИИ, което затруднява контрола върху трансфера/разпространението на тези алгоритми и данни; водещата роля на частния сектор в екосистемата за научни изследвания, развойна дейност и иновации и произтичащата от това необходимост от защита на патентованите алгоритми; както и наличието в световен мащаб на човешки експертен опит и материални ресурси, способни да променят предназначението на ИИ технологиите.
Междувременно лицата, работещи в областта на ИИ в гражданския сектор, твърде често не са наясно с потенциалните последици, които отклоняването на тяхната работа и злоупотребата с нея биха могли да имат за международния мир и сигурност, или не проявяват желание да участват в съществуващите дискусии относно рисковете от ИИ в кръговете на контрола върху оръжията и неразпространението на оръжия.
Необходимо е да се подкрепи по-активното участие на гражданската ИИ общност в разбирането и смекчаването на рисковете за мира и сигурността, свързани с отклоняването на граждански ИИ технологии и злоупотребата с тях от безотговорни участници.
За Стокхолмския международен институт за изследване на проблемите на мира (SIPRI) и Службата на ООН по въпросите на разоръжаването (UNODA) това би могло да се постигне чрез по-голямо насърчаване на отговорни иновации в световната гражданска ИИ общност.
Досегашната работа на SIPRI и UNODA показва, че отговорните иновации, като механизъм за самоуправление, биха могли да предоставят на световната гражданска ИИ общност практически инструменти и методи за идентифициране и за подпомагане на предотвратяването и смекчаването на рисковете, които отклоняването и злоупотребата с граждански научни изследвания и иновации в областта на ИИ биха могли да създадат за мира и сигурността.
Работата на SIPRI и UNODA позволи също така да се установят методики и няколко текущи граждански инициативи за отговорен ИИ, които биха могли да се доразвият за повишаване на чувствителността на гражданската ИИ общност към въпросите, свързани с контрола върху оръжията и неразпространението на оръжия, експертните дебати и държавните позиции относно отговорното развитие, разпространението и използването на ИИ, както и поуките, които трябва да бъдат извлечени от работата, свързана с отговорността в сектора на отбраната.
(1) От решаващо значение е, че тази предварителна работа ясно определи взаимодействието със студентите в областта на науките, технологиите, инженерството и математиката (НТИМ), които работят с ИИ все още в образователен формат, като централен елемент за всяко ефективно усилие за отговорни иновации.
2.
ЦЕЛИ
Тези проекти са насочени към подкрепа на по-активното участие на гражданската ИИ общност за смекчаване на рисковете, които отклоняването на граждански научни изследвания и иновации в областта на ИИ и злоупотребата с тях от безотговорни участници могат да представляват за международния мир и сигурност.
Те имат за цел да постигнат това, първо, като предизвикат по-добро разбиране за това как решенията за разработване и разпространение на научни изследвания и иновации в областта на ИИ могат да окажат въздействие върху рисковете от отклоняване и злоупотреба и на свой ред да създадат риск или възможности за мир и сигурност, и второ, чрез насърчаване на процеси, методи и инструменти за отговорни иновации, които да могат да спомогнат за гарантиране на мирното прилагане на гражданските иновации и отговорното разпространение на знания в областта на ИИ.
За тази цел те подкрепят дейности за изграждане на (1) Методиките включват например препоръчителните практики на Института на инженерите по електротехника и електроника (IEEE) за оценка на въздействието на автономните и интелигентните системи върху благосъстоянието на хората (IEEE Std 7010-2020) и списъка на експертната група на високо равнище по въпросите на ИИ за оценка на надеждността на изкуствения интелект (ALTAI).
Инициативите включват: Глобалната инициатива на IEEE за етика на автономните и интелигентните системи; партньорството в областта на ИИ; глобалното партньорство в областта на ИИ.