L 300/14
IT
Gazzetta ufficiale dell’Unione europea
21.11.2022
ALLEGATO
DOCUMENTO DI PROGETTO Promozione dell'innovazione responsabile nell'IA per la pace e la sicurezza 1.
CONTESTO
I recenti progressi in materia di intelligenza artificiale (IA) hanno sbloccato nuove possibilità per sostenere e promuovere la pace e la sicurezza, ad esempio attraverso miglioramenti tecnologici in settori quali l'allerta rapida di prevenzione dei conflitti e la verifica del controllo degli armamenti e delle esportazioni.
D'altro canto, questi progressi hanno aperto la strada a nuovi mezzi per generare o aggravare tensioni, conflitti e insicurezza tra gli Stati e al loro interno.
I rischi posti da determinate applicazioni dell'IA, come i sistemi di armi letali autonomi, si sono rivelati una delle principali preoccupazioni per la comunità del controllo degli armamenti.
Un rischio che merita maggiore attenzione e nei confronti del quale gli attuali sforzi diplomatici e di controllo degli armamenti potrebbero essere insufficienti è rappresentato dalla diversione e dall'uso improprio della ricerca e dell'innovazione civili in materia di IA da parte di attori irresponsabili, compresi attori non statali malintenzionati, come l'uso improprio di reti generative avversarie (GAN) per produrre «deepfake» per le campagne di disinformazione.
L'IA è una tecnologia abilitante con un grande potenziale di uso generale.
La ricerca e l'innovazione in materia di IA sviluppate per applicazioni civili potrebbero essere accessibili e riutilizzate (in modo relativamente semplice) da determinati attori per usi dannosi o destabilizzanti, che potrebbero avere implicazioni per la pace e la sicurezza internazionali.
La diversione e l'uso improprio delle tecnologie civili non sono fenomeni nuovi e non riguardano solo l'IA.
Nel settore correlato della robotica un esempio recente è rappresentato dalla trasformazione in armi e dall'utilizzo dei droni ad uso ricreativo da parte dell'ISIS/Daesh.
Tuttavia, nel caso dell'IA il problema è complicato da molteplici fattori: la natura immateriale e in rapido mutamento degli algoritmi e dei dati dell'IA, che rende difficile controllarne il trasferimento e la proliferazione; il ruolo guida del settore privato nell'ecosistema della ricerca, dello sviluppo e dell'innovazione e la conseguente necessità di proteggere gli algoritmi proprietari; la disponibilità globale delle competenze umane e delle risorse materiali in grado di riconvertire le tecnologie dell'IA.
Intanto, troppo spesso chi lavora nell'IA nel settore civile non è consapevole delle potenziali implicazioni che la diversione e l'uso improprio del suo lavoro potrebbero avere per la pace e la sicurezza internazionali o è restio a partecipare alle discussioni sui rischi dell'IA in corso negli ambienti del controllo degli armamenti e della non proliferazione.
È necessario sostenere un maggiore impegno della comunità civile dell'IA nella comprensione e nell'attenuazione dei rischi per la pace e la sicurezza associati alla diversione e all'uso improprio della tecnologia civile dell'IA da parte di attori irresponsabili.
Per l'Istituto internazionale di ricerca sulla pace di Stoccolma (SIPRI) e l'Ufficio per gli affari del disarmo delle Nazioni Unite (UNODA), tale obiettivo potrebbe essere conseguito attraverso una maggiore promozione dell'innovazione responsabile nella comunità civile mondiale dell'IA.
I lavori svolti in passato dal SIPRI e dall'UNODA hanno dimostrato che un'innovazione responsabile, in quanto meccanismo di autogoverno, potrebbe fornire alla comunità civile mondiale dell'IA strumenti e metodi pratici per individuare e contribuire a prevenire e attenuare i rischi che la diversione e l'uso improprio della ricerca e dell'innovazione civili in materia di IA potrebbero comportare per la pace e la sicurezza.
I lavori del SIPRI e dell'UNODA hanno inoltre individuato metodologie e diverse iniziative in corso incentrate sul settore civile in materia di IA responsabile che potrebbero essere sviluppate per sensibilizzare la comunità civile dell'IA riguardo alle questioni relative al controllo degli armamenti e alla non proliferazione, ai dibattiti di esperti e alle posizioni degli Stati in materia di sviluppo responsabile, diffusione e utilizzo dell'IA, nonché insegnamenti da trarre dal lavoro di responsabilità del settore della difesa (1).
Significativamente, questi lavori precedenti hanno chiaramente individuato nella cooperazione con gli studenti di scienza, tecnologia, ingegneria e matematica (STEM), che continuano a impegnarsi nel campo dell'IA in un contesto educativo, un elemento centrale di qualsiasi sforzo efficace di innovazione responsabile.
2.
OBIETTIVI
Tali progetti mirano a sostenere un maggiore coinvolgimento della comunità civile dell'IA nell'attenuare i rischi che la diversione e l'uso improprio della ricerca e dell'innovazione civili in materia di IA da parte di attori irresponsabili possono comportare per la pace e la sicurezza internazionali.
A tal fine essi intendono, in primo luogo, generare una maggiore comprensione del modo in cui le decisioni relative allo sviluppo e alla diffusione della ricerca e dell'innovazione in materia di IA possono incidere sui rischi di diversione e uso improprio, generando a loro volta rischi o opportunità per la pace e la sicurezza e, in secondo luogo, promuovere processi, metodi e strumenti di innovazione responsabili che possano contribuire a garantire l'applicazione pacifica delle innovazioni civili e la diffusione responsabile delle conoscenze in materia di IA.
A tale scopo, sostengono attività di sviluppo di capacità, ricerca e dialogo che i) rafforzeranno la capacità all'interno della comunità civile mondiale dell'IA di includere e affrontare i rischi per la pace e la sicurezza derivanti dalla (1) Le metodologie comprendono, ad esempio, le pratiche raccomandate dall'Istituto degli ingegneri elettronici ed elettrotecnici (IEEE) per valutare l'impatto dei sistemi autonomi e intelligenti sul benessere umano (IEEE Std 7010-2020) e l'elenco di valutazione per un'intelligenza artificiale affidabile (ALTAI) del gruppo di esperti ad alto livello sull'intelligenza artificiale.
Le iniziative proposte comprendono: l'iniziativa globale dell'IEEE sull'etica dei sistemi autonomi e intelligenti, il partenariato sull'IA e il partenariato globale sull'intelligenza artificiale.