COMMISSIONE EUROPEA Bruxelles, 18.8.2022 COM(2022) 414 final Raccomandazione di DECISIONE DEL CONSIGLIO che autorizza l'avvio di negoziati a nome dell'Unione europea per una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto



RELAZIONE CONTESTO DELLA PROPOSTA L'intelligenza artificiale (IA) offre grandi opportunità per la società, l'ambiente e l'economia. Nel contempo, a seconda delle circostanze relative all'applicazione e all'utilizzo specifici, alcuni sistemi di IA possono causare danni materiali o immateriali e generare rischi per gli interessi pubblici e i diritti e le libertà fondamentali degli individui. Un quadro giuridico coerente per l'IA, che tuteli questi interessi pubblici e diritti fondamentali promuovendo contemporaneamente la fiducia e l'innovazione, è dunque fondamentale per affrontare tali sfide e trarre vantaggio dal potenziale dell'IA. Ad aprile 2021 la Commissione europea ha proposto un regolamento generale sull'IA volto ad armonizzare le regole sui sistemi di IA in tutti i 27 Stati membri dell'UE. Il Parlamento europeo e il Consiglio stanno attualmente negoziando la proposta secondo la procedura legislativa ordinaria. Anche varie organizzazioni internazionali, fra cui il Consiglio d'Europa, hanno intensificato gli sforzi in questo settore riconoscendo la natura transfrontaliera dell'IA e la necessità di una cooperazione internazionale volta ad affrontare le sfide comuni. Verso una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto L'11 settembre 2019 il Comitato dei Ministri del Consiglio d'Europa ha deciso di istituire il Comitato ad hoc sull'intelligenza artificiale (CAHAI), il cui compito era esaminare la fattibilità e i potenziali elementi di un quadro giuridico sullo sviluppo, la progettazione e l'applicazione dell'IA, tenendo conto delle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto e degli strumenti giuridici internazionali esistenti. Il lavoro del CAHAI si basava su uno studio di fattibilità e su una consultazione di molteplici portatori di interessi condotta nella primavera del 2021. Il 3 dicembre 2021 il CAHAI ha ultimato il suo lavoro e ha redatto un documento finale che individuava i possibili elementi di tale quadro giuridico. Secondo il documento, ai fini dello sviluppo, della progettazione e dell'applicazione dei sistemi di IA è necessario uno strumento giuridico che contenga i principi fondamentali della tutela della dignità umana e del rispetto dei diritti umani, della democrazia e dello Stato di diritto. Lo strumento dovrebbe prevedere l'istituzione di una metodologia di classificazione del rischio dei sistemi di IA, che comprenda le categorie "basso rischio", "alto rischio" e "rischio inaccettabile". Le applicazioni di IA che presentano rischi "inaccettabili" dovrebbero essere vietate. Al fine di evitare pregiudizi ingiustificati dovrebbe essere inclusa una disposizione sul rispetto della parità di trattamento e sulla non discriminazione. Le tutele giuridiche dovrebbero garantire almeno il diritto a un ricorso effettivo dinanzi a un'autorità nazionale, il diritto a essere informati dell'applicazione di un sistema di IA in un processo decisionale, il diritto di scegliere l'interazione con un essere umano e il diritto di sapere che si sta interagendo con un sistema di IA. Tuttavia le problematiche specifiche come la manipolazione di contenuti (deep fake) dovrebbero essere oggetto di altri strumenti settoriali. È opportuno prendere in considerazione l'obbligo di istituire meccanismi di conformità e autorità nazionali di controllo. Un modello non vincolante di valutazione d'impatto potrebbe integrare lo strumento giuridico. Per il periodo 2022-2024 è stato istituito il Comitato sull'intelligenza artificiale (CAI), successore del CAHAI. Secondo il suo mandato, il CAI è incaricato di istituire un processo di negoziazione internazionale al fine di sviluppare un quadro giuridico sullo sviluppo, la progettazione e l'applicazione dell'IA. Il quadro dovrebbe fondarsi sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto e favorire l'innovazione. Il quadro dovrebbe essere redatto entro il 15 novembre 2023 e ultimato entro la data di scioglimento del CAI, nel 2024. Nell'adempiere il proprio mandato, il CAI dovrebbe coordinare il suo lavoro con altri comitati intergovernativi e organi del Consiglio d'Europa, basare il suo lavoro su prove chiare e un processo di consultazione inclusivo, anche con partner internazionali e sovranazionali, e tenere conto del documento finale del CAHAI. Dal 4 al 6 aprile 2022 il CAI ha tenuto la sua riunione inaugurale, durante la quale sono stati eletti un presidente, un vicepresidente e un ufficio di presidenza. Il 30 giugno 2022 il Comitato dei Ministri del Consiglio d'Europa ha incaricato il CAI di procedere rapidamente all'elaborazione di uno strumento giuridicamente vincolante di natura trasversale ("convenzione"/"convenzione quadro") sull'intelligenza artificiale basato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto, in linea con il suo mandato, incentrato su principi comuni generali, favorevole all'innovazione e aperto alla partecipazione di Stati terzi, tenendo conto nel contempo di altri pertinenti quadri giuridici internazionali esistenti o in fase di sviluppo. In seguito il presidente del CAI ha diffuso un "progetto preliminare" della futura convenzione (quadro), che stabilisce i principi e le regole fondamentali volti a garantire che la progettazione, lo sviluppo e l'applicazione dei sistemi di IA siano coerenti con il rispetto dei diritti umani, il funzionamento della democrazia e l'osservanza dello Stato di diritto. La futura convenzione (quadro) dovrà essere attuata nelle rispettive giurisdizioni delle parti. L'ambito di applicazione comprende gli utenti e i fornitori, sia pubblici che privati, dei sistemi di IA, ma esclude i sistemi di IA relativi alla difesa nazionale. Il progetto preliminare propone di includere le disposizioni seguenti: ·finalità e ambito di applicazione della convenzione (quadro); ·definizioni di sistema di IA, ciclo di vita, fornitore, utente e "soggetto dell'IA"; ·alcuni principi fondamentali, compresi garanzie procedurali e diritti per i soggetti dell'IA che si applicherebbero a tutti i sistemi di IA, a prescindere dal rispettivo livello di rischio; ·misure supplementari per il settore pubblico e per i sistemi di IA che presentano un livello di rischio "inaccettabile" e "significativo", individuato sulla base di una metodologia di valutazione del rischio e dell'impatto (che verrà definita successivamente in un allegato della convenzione); ·meccanismi di follow-up e cooperazione fra le parti; ·disposizioni finali, che comprendono la possibilità che gli Stati membri dell'UE applichino il diritto dell'Unione nelle reciproche relazioni per questioni disciplinate dalla convenzione e la possibilità che l'Unione aderisca alla convenzione. Il progetto preliminare sarà esaminato nelle sessioni plenarie del CAI a Strasburgo, previste dal 21 al 23 settembre e dal 23 al 25 novembre 2022. Sono inoltre in programma quattro riunioni per il 2023 e una per il 2024.

•Motivi e obiettivi della proposta La presente raccomandazione di decisione è presentata al Consiglio a norma dell'articolo 218 del trattato sul funzionamento dell'Unione europea (TFUE). La decisione autorizzerebbe l'avvio di negoziati a nome dell'Unione per una futura convenzione del Consiglio d'Europa sull'IA, i diritti umani, la democrazia e lo Stato di diritto, l'adozione di direttive di negoziato e la nomina della Commissione quale negoziatore dell'Unione. L'articolo 3, paragrafo 2, TFUE stabilisce che l'Unione ha competenza esclusiva "per la conclusione di accordi internazionali [...] nella misura in cui può incidere su norme comuni o modificarne la portata". Un accordo internazionale può incidere su norme comuni o modificarne la portata laddove il settore oggetto dell'accordo si sovrapponga al diritto dell'Unione o sia in larga parte disciplinato da esso. Il diritto dell'Unione fornisce in merito un insieme esaustivo di norme comuni sul mercato unico per i prodotti e i servizi per cui è possibile utilizzare i sistemi di IA. Inoltre lo sviluppo e l'utilizzo di alcuni sistemi di IA può incidere sull'esercizio dei diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell'Unione europea e dal diritto derivato dell'UE compresi, ad esempio, il diritto all'integrità fisica e mentale, la protezione dei dati personali, la riservatezza, la non discriminazione, la libertà di espressione e di informazione, la presunzione d'innocenza, il processo equo e il ricorso effettivo. Tale sviluppo e utilizzo può inoltre incidere sui valori su cui si fonda l'Unione, compresa la dignità umana, la democrazia e lo Stato di diritto. Inoltre al fine di valutare se un settore è disciplinato in gran parte dal diritto dell'UE, occorre prendere in considerazione non soltanto lo stato attuale del diritto dell'UE in materia, ma anche i suoi sviluppi futuri, qualora siano prevedibili al momento di tale analisi. Il settore disciplinato dalla futura convenzione del Consiglio d'Europa sull'IA ha una rilevanza diretta per tali prevedibili sviluppi futuri, tenendo conto della proposta di regolamento sull'IA ("legge sull'IA") presentata dalla Commissione ad aprile 2021 e attualmente in corso di negoziazione da parte del Parlamento europeo e del Consiglio. I negoziati per la futura convenzione (quadro) del Consiglio d'Europa sull'IA sono legati a questioni di competenza dell'Unione e vi è una sovrapposizione molto significativa in termini di ambito di applicazione, natura e contenuto, fra il progetto preliminare della convenzione e la proposta di legge sull'IA. Ciò rilevato, è importante che i negoziati siano condotti a nome dell'Unione in modo tale da garantire che la coerenza e l'uniformità delle regole dell'UE per l'IA e il corretto funzionamento del sistema che istituiscono non siano compromessi e che la futura convenzione del Consiglio d'Europa sia pienamente coerente con le normative presenti e future dell'UE in tale settore. •Coerenza con le disposizioni vigenti nel settore normativo interessato Il 21 aprile 2021 la Commissione ha proposto un regolamento che stabilisce regole armonizzate per l'immissione sul mercato, la messa in servizio e l'utilizzo dei sistemi di IA nell'Unione. Tale proposta ha il duplice obiettivo di creare un mercato unico volto a promuovere lo sviluppo e la diffusione dell'IA e di affrontare i rischi per la sicurezza, la salute e i diritti fondamentali. La proposta è di natura orizzontale, applicabile sia ai fornitori che agli utenti dell'IA, a prescindere dal fatto che siano soggetti pubblici o privati. I sistemi di IA sviluppati o usati per scopi esclusivamente militari sono esclusi dall'ambito di applicazione della proposta. La proposta stabilisce requisiti e obblighi proporzionati limitati al minimo necessario per affrontare i rischi per la salute, la sicurezza e i diritti fondamentali, senza ostacolare lo sviluppo tecnologico dell'IA o aumentare in modo sproporzionato gli oneri finanziari e amministrativi per gli operatori. A tal fine, essa segue un approccio basato sul rischio che classifica i sistemi di IA in varie categorie di rischio, vale a dire "inaccettabile", "alto", "relativo alla trasparenza", "basso" o "minimo". ·È stato proposto un divieto per i sistemi di IA ritenuti incompatibili con i valori dell'UE e che rappresentano una chiara minaccia alla sicurezza, al sostentamento o ai diritti delle persone, che presentano un "rischio inaccettabile" (ad esempio l'attribuzione di un punteggio sociale da parte delle autorità pubbliche, pratiche di IA manipolative dannose e l'identificazione biometrica remota in tempo reale ai fini di attività di contrasto in spazi accessibili al pubblico, fatte salve alcune eccezioni limitate). ·I sistemi di IA "ad alto rischio" che presentano rischi significativi per la salute, la sicurezza o i diritti fondamentali devono essere sottoposti a controlli di conformità e soddisfare determinati requisiti obbligatori (ad esempio in relazione a gestione dei rischi, qualità dei dati, documentazione, trasparenza, sorveglianza umana, accuratezza, cibersicurezza) prima di essere immessi sul mercato o utilizzati nell'Unione. Ai fornitori e agli utenti sono imposti altresì obblighi di monitoraggio e sorveglianza proporzionati ed efficaci, che ne definiscono chiaramente ruoli e responsabilità lungo la catena del valore senza incidere su altri obblighi previsti dalla normativa settoriale. ·Per quanto concerne i sistemi di IA che presentano un "rischio relativo alla trasparenza", è obbligatorio informare le persone quando stanno interagendo con tali sistemi o sono esposte a essi (ad esempio chatbot, sistemi di riconoscimento delle emozioni o di categorizzazione biometrica, deep fake). ·Tutti gli altri sistemi che presentano un "rischio minimo" o "basso" per la salute, la sicurezza e i diritti fondamentali sono ammessi senza ulteriori restrizioni, ma i fornitori possono scegliere di osservare codici di condotta volontari. La proposta è attualmente all'esame del Consiglio e del Parlamento europeo secondo la procedura legislativa ordinaria. I negoziati sulla futura convenzione del Consiglio d'Europa sull'IA, i diritti umani, la democrazia e lo Stato di diritto dovrebbero garantire che le disposizioni concordate siano compatibili con il diritto dell'UE e con gli obblighi incombenti agli Stati membri in forza del diritto dell'UE, tenendo conto dei suoi sviluppi futuri e della proposta di legge sull'IA. Sarà altresì necessario garantire che la convenzione del Consiglio d'Europa comprenda una clausola di deconnessione che consenta agli Stati membri dell'UE che diventano parti della convenzione di disciplinare le relazioni reciproche sulla base del diritto dell'Unione. La proposta di legge sull'IA, man mano che evolve nel corso dei negoziati fra i colegislatori nell'ambito della procedura legislativa e nella sua forma finale (adottata), dovrebbe essere preservata fra gli Stati membri dell'UE. L'Unione europea dovrebbe altresì poter aderire alla convenzione.

•Coerenza con le altre normative dell'Unione La raccomandazione è pertinente per altre iniziative in corso o previste della Commissione volte ad affrontare i problemi posti dallo sviluppo e dall'utilizzo dei sistemi di IA e individuati nel Libro bianco sull'intelligenza artificiale. Tra le altre iniziative figurano la revisione della normativa settoriale sui prodotti (ad esempio la direttiva macchine, la direttiva sulla sicurezza generale dei prodotti) e le prossime iniziative che affrontano questioni connesse alla responsabilità in relazione alle nuove tecnologie, compresi i sistemi di IA. La raccomandazione è inoltre coerente con la strategia digitale globale della Commissione volta a promuovere una tecnologia a servizio delle persone, uno dei tre obiettivi chiave della visione strategica delineata nella comunicazione "Plasmare il futuro digitale dell'Europa". Essa mira ad assicurare che l'IA sia sviluppata secondo modalità che rispettano i diritti delle persone e ne guadagnano la fiducia, rendendo l'Europa adatta all'era digitale e trasformando i prossimi dieci anni nel decennio digitale. La raccomandazione proposta rafforza inoltre in maniera significativa il ruolo dell'Unione nella definizione di norme e standard globali e nella promozione di un'IA affidabile che sia coerente con i valori e gli interessi dell'Unione. Essa fornisce all'Unione una base solida per rafforzare la diplomazia digitale dell'UE e per negoziare, con altri paesi europei e non europei, il primo accordo internazionale giuridicamente vincolante sull'IA, fondato su valori e principi condivisi. 2.BASE GIURIDICA, SUSSIDIARIETÀ E PROPORZIONALITÀ •Base giuridica Ai sensi dell'articolo 218, paragrafo 3, del trattato sul funzionamento dell'Unione europea (TFUE), la Commissione presenta raccomandazioni al Consiglio, il quale adotta una decisione che autorizza l'avvio dei negoziati e designa il negoziatore dell'Unione. Ai sensi dell'articolo 218, paragrafo 4, TFUE il Consiglio può impartire direttive al negoziatore. •Sussidiarietà (per la competenza non esclusiva) La proposta di legge sull'IA stabilisce regole armonizzate per i sistemi di IA nell'Unione e impedisce agli Stati membri di imporre ulteriori restrizioni a meno che non siano esplicitamente consentite dalla legge. In conformità dell'articolo 3, paragrafo 2, TFUE l'Unione ha competenza esclusiva per la conclusione di accordi internazionali nella misura in cui può incidere su norme comuni o modificarne la portata. Ne consegue pertanto che per tutte le questioni concernenti la progettazione, lo sviluppo e l'applicazione di sistemi di IA, in larga parte disciplinati dal diritto dell'UE o che ne saranno disciplinati a seguito degli sviluppi futuri prevedibili del diritto dell'UE e in particolare della proposta di legge sull'IA, l'Unione dovrebbe avere la competenza di negoziare la futura convenzione del Consiglio d'Europa sull'IA. •Proporzionalità La presente iniziativa si limita a quanto è necessario per conseguire gli obiettivi strategici in questione. •Scelta dell'atto giuridico L'atto giuridico scelto è una raccomandazione di decisione del Consiglio, come previsto dall'articolo 218, paragrafi 3 e 4, TFUE. 3.RISULTATI DELLE VALUTAZIONI EX POST, DELLE CONSULTAZIONI DEI PORTATORI DI INTERESSI E DELLE VALUTAZIONI D'IMPATTO •Valutazioni ex post / Vaglio di adeguatezza della legislazione vigente N/A •Consultazioni dei portatori di interessi N/A •Assunzione e uso di perizie La Commissione ha tenuto conto dei pareri espressi dagli esperti degli Stati membri nelle discussioni in seno al pertinente gruppo di lavoro del Consiglio per preparare i negoziati.

•Valutazione d'impatto N/A •Efficienza normativa e semplificazione N/A •Diritti fondamentali La proposta di legge sull'IA e la convenzione del Consiglio d'Europa in esame mirano a ridurre al minimo i rischi e a garantire un livello elevato di tutela dei diritti fondamentali, su cui lo sviluppo e l'utilizzo dell'IA potrebbero incidere negativamente in determinate circostanze, e nel contempo riconoscono il potenziale dell'IA di proteggere e agevolare l'esercizio di tali diritti nell'ambiente digitale e favorire il benessere sociale e ambientale, nonché il progresso tecnologico. 4.INCIDENZA SUL BILANCIO Non è prevista alcuna incidenza sul bilancio dell'Unione. 5.ALTRI ELEMENTI •Piani attuativi e modalità di monitoraggio, valutazione e informazione Il processo negoziale dovrebbe durare fino al 2024, dopodiché la convenzione potrà essere sottoscritta e conclusa. Raccomandazione di DECISIONE DEL CONSIGLIO che autorizza l'avvio di negoziati a nome dell'Unione europea per una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto IL CONSIGLIO DELL'UNIONE EUROPEA, visto il trattato sul funzionamento dell'Unione europea, in particolare l'articolo 218, paragrafi 3 e 4, vista la raccomandazione della Commissione europea, considerando quanto segue: (1)Nel 2021 il Comitato dei Ministri del Consiglio d'Europa ha istituito un Comitato sull'intelligenza artificiale (CAI) per il periodo 2022-2024, incaricato di istituire un processo di negoziazione internazionale finalizzato a sviluppare un quadro giuridico sullo sviluppo, la progettazione e l'applicazione dell'intelligenza artificiale (IA) basato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto, e favorevole all'innovazione. (2)Il 30 giugno 2022 il Comitato dei Ministri del Consiglio d'Europa ha incaricato il Comitato sull'intelligenza artificiale di procedere rapidamente all'elaborazione di uno strumento giuridicamente vincolante di natura trasversale ("convenzione"/"convenzione quadro") sull'intelligenza artificiale basato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto, in linea con il suo mandato, incentrato su principi comuni generali, favorevole all'innovazione e aperto alla partecipazione di Stati terzi, tenendo conto nel contempo di altri pertinenti quadri giuridici internazionali esistenti o in fase di sviluppo.