C 465/78
IT
Gazzetta ufficiale dell’Unione europea
6.12.2022
Martedì 3 maggio 2022
51. sottolinea che le tecnologie di intelligenza artificiale che non sono state progettate e sviluppate con le esplicite procedure di controllo idonee e che sono utilizzate nei centri di comando militari o nelle strutture per il lancio di missili in modo inadeguato e prive di sorveglianza, comportano rischi particolarmente significativi e potrebbero sfociare in un conflitto automatizzato reciproco;
52. osserva che l'uso di sistemi di intelligenza artificiale negli sviluppi nel settore della difesa è considerato un punto di svolta nelle operazioni militari mediante l'analisi dei dati, la capacità di riflettere una maggiore complessità situazionale, il potenziale di migliorare la precisione del bersaglio, ottimizzare la logistica e impegnarsi in conflitti armati con un rischio ridotto di danni fisici alle popolazioni civili e al proprio personale militare, così come l'utilizzo dei dati per lo sviluppo di modalità di azione come il wargame; avverte tuttavia che ciò potrebbe portare a una riduzione della soglia per l'uso della forza, e quindi a maggiori conflitti; afferma che le macchine non possono prendere come gli esseri umani decisioni che implicano i principi giuridici di distinzione, proporzionalità e precauzione; afferma che gli esseri umani dovrebbero avere il controllo della decisione di spiegare e utilizzare armi e rimanere responsabili dell'uso della forza letale e delle decisioni sulla vita e sulla morte; è del parere che i sistemi d'arma basati sull'intelligenza artificiale dovrebbero essere soggetti a standard globali e a un codice di condotta etico internazionale per sostenere l'impiego di tecnologie di intelligenza artificiale nelle operazioni militari, nel pieno rispetto del diritto umanitario internazionale e dei diritti umani e in conformità con diritto e valori dell'Unione;
53. esprime il proprio timore circa la ricerca militare e gli sviluppi tecnologici riferiti a sistemi d'arma letali autonomi privi di un controllo umano significativo perseguiti in alcuni paesi; osserva che i sistemi d'arma autonomi letali sono già utilizzati nei conflitti militari; ricorda che il Parlamento ha ripetutamente chiesto di vietare a livello internazionale lo sviluppo, la produzione e l'uso di sistemi d'arma autonomi letali e di avviare negoziati efficaci per il loro divieto; sottolinea che i sistemi abilitati all'IA non possono in nessun caso essere autorizzati a sostituire il processo decisionale umano, che implica i principi legali di distinzione, proporzionalità e precauzione;
54. osserva, in particolare, che le tecnologie di IA possono comportare soprattutto rischi potenziali come mezzo per condurre diverse forme di guerra ibrida e interferenze esterne; specifica che l'IA potrebbe ad esempio essere sfruttata per innescare una guerra di disinformazione, utilizzando i bot o gli account di social media falsi, sfruttando l'interdipendenza come arma, raccogliendo informazioni preziose o negando l'accesso alla rete agli avversari, oppure per creare difficoltà nei sistemi economici e finanziari di altri paesi, inquinare il dibattito politico e favorire gruppi estremisti o manipolare le elezioni per destabilizzare democrazie;
55. sottolinea che le tecnologie di intelligenza artificiale potrebbero addirittura includere malware basato sull'intelligenza artificiale, furto di identità, inquinamento dei dati o altre forme di apprendimento automatico antagonistico che inducono altri sistemi di intelligenza artificiale a interpretare erroneamente gli input; segnala, in particolare, l'aumento dei deepfake, che non sono necessariamente «attacchi informatici» ma suscitano dubbi sull'autenticità di tutti i contenuti digitali, compresi i video e richiedono pertanto un'attenzione particolare in termini di requisiti di trasparenza; avverte che i deepfake potrebbero contribuire a un ampio clima di sfiducia pubblica nell'IA, nonché a una più profonda polarizzazione sociopolitica all'interno delle nostre società;
56. sottolinea che l'uso dei sistemi di intelligenza artificiale in una quantità significativa di infrastrutture critiche fondamentali come le reti energetiche e i trasporti, il settore spaziale, la catena alimentare, l'infrastruttura bancaria e finanziaria e le strutture ospedaliere ha determinato nuove vulnerabilità che impongono significativa misure di cibersicurezza per prevenire le minacce; rileva a questo proposito l'importanza della cooperazione e della condivisione delle informazioni e dell'azione sia a livello dell'UE che tra gli Stati membri; sottolinea l'importanza di migliorare la resilienza di soggetti critici alle minacce ibride;
57.
avverte che le capacità dell'intelligenza artificiale possono altresì comportare rischi per la sicurezza, in quanto possono indurre gli esseri umani a riporre nell'intelligenza artificiale una fiducia tale da fidarsi di essa più che del proprio giudizio; osserva che l'utilizzo di un approccio con intervento umano come meccanismo correttivo non è fattibile in tutti i casi; osserva che gli esperimenti hanno dimostrato che questa circostanza potrebbe elevare il livello di autonomia dell'IA oltre il ruolo di supporto per il quale essa è stata originariamente progettata, facendo perdere agli esseri umani l'opportunità di acquisire esperienza e perfezionare le proprie competenze e conoscenze dei sistemi di IA; sottolinea pertanto che la sicurezza fin dalla progettazione e una sorveglianza umana significativa basata su una formazione adeguata, così come un'adeguata sicurezza e garanzie di privacy sono necessarie nei sistemi di IA ad alto rischio al fine di superare tale distorsione dell'automazione;