L 300/14
RO
Jurnalul Oficial al Uniunii Europene
21.11.2022
ANEXĂ
DOCUMENT DE PROIECT „Promovarea inovării responsabile în IA pentru pace și securitate” 1.
CONTEXT
Progresele recente înregistrate în domeniul inteligenței artificiale (IA) au deschis noi posibilități de a sprijini și de a susține pacea și securitatea, de exemplu, prin realizarea de îmbunătățiri tehnologice în domenii precum alerta timpurie în situații de conflict și verificarea controlului armamentelor și al exporturilor.
Pe de altă parte, aceste progrese au permis apariția unor noi modalități de generare – sau de agravare – a tensiunilor, conflictelor și insecurității dintre state și în interiorul acestora.
Riscurile pe care le prezintă anumite aplicații ale IA, cum ar fi sistemele de arme letale autonome, au devenit un motiv major de îngrijorare pentru comunitatea care susține controlul armamentelor.
O sursă de risc ce merită o atenție sporită și în privința căreia eforturile diplomatice și cele referitoare la controlul armamentelor din prezent ar putea să nu ofere un răspuns suficient este deturnarea și utilizarea abuzivă a cercetării și inovării civile în domeniul IA de către agenți iresponsabili, inclusiv de către agenți nestatali rău-intenționați, precum utilizarea abuzivă a rețelelor adversariale generative (GAN) pentru a produce materiale deepfake în vederea unor campanii de dezinformare.
IA este o tehnologie generică cu un potențial ridicat de utilizare generală.
Activitățile de cercetare și inovare în domeniul IA realizate pentru dezvoltarea unor aplicații civile ar putea fi (relativ ușor) accesate și reorientate de anumiți agenți în vederea unor utilizări dăunătoare sau perturbatoare care ar putea avea implicații pentru pacea și securitatea internațională.
Deturnarea și utilizarea abuzivă a tehnologiilor civile nu sunt fenomene noi și nici nu sunt specifice IA.
În domeniul conex al roboticii, acest fenomen a fost exemplificat recent de utilizarea ca arme a dronelor de agrement de către Daesh/ISIS în Siria.
În cazul IA însă, problema este complicată de mai mulți factori: natura imaterială și în rapidă evoluție a algoritmilor și a datelor IA, ceea ce face ca transferul/proliferarea acestora să fie dificil de controlat; rolul de prim-plan jucat de sectorul privat în ecosistemul de cercetare, dezvoltare și inovare și nevoia acestuia, în consecință, de a proteja algoritmii care fac obiectul unor drepturi exclusive, precum și existența la nivel global a expertizei umane și a resurselor materiale capabile să reorienteze utilizarea tehnologiilor IA.
De asemenea, persoanele care lucrează în domeniul IA în sectorul civil nu sunt adesea conștiente de posibilele implicații pe care le-ar putea avea deturnarea și utilizarea abuzivă a activității lor pentru pacea și securitatea internațională sau ezită să participe la discuțiile existente privind riscurile legate de IA în cercurile care susțin controlul armamentelor și neproliferarea.
Este necesar să fie susținută o mai mare implicare a comunității civile din domeniul IA în înțelegerea și atenuarea riscurilor la adresa păcii și securității care sunt legate de deturnarea și utilizarea abuzivă a tehnologiei IA civile de către agenți iresponsabili.
Din punctul de vedere al Institutului internațional pentru cercetare în domeniul păcii de la Stockholm (SIPRI) și al Biroului pentru Probleme de Dezarmare al Organizației Națiunilor Unite (UNODA), acest lucru ar putea fi realizat prin promovarea într-o mai mare măsură a inovării responsabile în cadrul comunității civile mondiale din domeniul IA.
Lucrările desfășurate anterior de SIPRI și UNODA au demonstrat că inovarea responsabilă, ca mecanism de autoguvernanță, i-ar putea oferi comunității civile mondiale din domeniul IA instrumente și metode practice pentru a identifica riscurile la adresa păcii și securității pe care le-ar putea reprezenta deturnarea și utilizarea abuzivă a cercetării și inovării civile în domeniul IA, precum și pentru a contribui la prevenirea și atenuarea acestor riscuri.
Lucrările desfășurate de SIPRI și de UNODA au identificat, de asemenea, o serie de metodologii și mai multe inițiative în curs axate pe sectorul civil referitoare la IA responsabilă, care ar putea fi utilizate pentru a sensibiliza comunitatea civilă din domeniul IA cu privire la aspectele legate de controlul armamentelor și de neproliferare, la dezbaterile experților și la pozițiile statelor privind dezvoltarea, difuzarea și utilizarea responsabile ale IA, precum și la învățămintele care pot fi desprinse din activitățile privind responsabilitatea sectorului apărării (1).
Foarte important, aceste lucrări desfășurate anterior au identificat în mod clar faptul că implicarea studenților din domeniul științelor, tehnologiei, ingineriei și matematicii (STIM), care încă se familiarizează cu IA într-un cadru educațional, reprezintă un element central al oricăror eforturi eficace în sensul inovării responsabile.
2.
OBIECTIVE
Aceste proiecte urmăresc să susțină o implicare mai mare a comunității civile din domeniul IA în ceea ce privește atenuarea riscurilor pe care le pot reprezenta pentru pacea și securitatea internațională deturnarea și utilizarea abuzivă a cercetării și inovării civile în domeniul IA de către agenți iresponsabili.
Ele urmăresc să realizeze acest lucru, în primul rând, prin obținerea unei mai bune înțelegeri a modului în care deciziile privind dezvoltarea și difuzarea cercetării și inovării în domeniul IA pot avea impact asupra riscurilor de deturnare și de utilizare abuzivă și, prin urmare, pot genera riscuri sau oportunități pentru pace și securitate și, în al doilea rând, prin promovarea unor procese, metode și instrumente de inovare responsabile, care să contribuie la asigurarea aplicării pașnice a inovațiilor civile și la diseminarea responsabilă a cunoștințelor din domeniul IA.
În acest scop, proiectele vor sprijini activitățile de consolidare a capacităților, de cercetare și de participare care i) vor consolida capacitatea comunității civile mondiale din domeniul IA de a include și de a aborda (1) Metodologiile includ, de exemplu, practicile recomandate ale Institutului Inginerilor Electrotehniști și Electroniști (IEEE) pentru evaluarea impactului sistemelor autonome și inteligente asupra bunăstării umane (IEEE Std 7010-2020), precum și Lista de evaluare pentru o inteligență artificială de încredere (ALTAI) a Grupului de experți la nivel înalt privind inteligența artificială.
Printre aceste inițiative se numără: Inițiativa globală privind etica sistemelor autonome și inteligente a IEEE, Parteneriatul privind IA și Parteneriatul mondial privind IA.