P8_TA(2017)0051

Norme di diritto civile sulla robotica

Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103(INL))

(2018/C 252/25)

Il Parlamento europeo,

visti la relazione della commissione giuridica e i pareri della commissione per i trasporti e il turismo, della commissione per le libertà civili, la giustizia e gli affari interni, della commissione per l'occupazione e gli affari sociali, della commissione per l'ambiente, la sanità pubblica e la sicurezza alimentare, della commissione per l'industria, la ricerca e l'energia e della commissione per il mercato interno e la protezione dei consumatori (A8-0005/2017),

Introduzione

considerando che negli ultimi duecento anni il tasso di occupazione è aumentato costantemente grazie agli sviluppi tecnologici; che lo sviluppo della robotica e dell'intelligenza artificiale è potenzialmente in grado di trasformare le abitudini di vita e lavorative, innalzare i livelli di efficienza, di risparmio e di sicurezza e migliorare il livello dei servizi, nel breve e medio termine, e considerando che la robotica e l'intelligenza artificiale promettono di portare benefici in termini di efficienza e di risparmio economico non solo in ambito manifatturiero e commerciale, ma anche in settori quali i trasporti, l'assistenza medica, l'istruzione e l'agricoltura, consentendo di evitare di esporre esseri umani a condizioni pericolose, come nel caso della pulizia di siti contaminati da sostanze tossiche;

considerando che l'invecchiamento è il risultato dell'allungamento della speranza di vita dovuto ai progressi nell'ambito delle condizioni di vita e della medicina moderna e che rappresenta una delle maggiori sfide politiche, sociali ed economiche del XXI secolo per le società europee; che entro il 2025 oltre il 20 % dei cittadini europei avrà 65 anni o più e che si assisterà a un aumento particolarmente rapido di chi ne avrà 80 o più, il che comporterà un equilibrio sostanzialmente diverso tra generazioni all'interno delle nostre società, e che è interesse della società che le persone anziane rimangano in salute e attive quanto più a lungo possibile;

considerando che l'andamento attuale, che tende a sviluppare macchine autonome e intelligenti, in grado di apprendere e prendere decisioni in modo indipendente, genera nel lungo periodo non solo vantaggi economici ma anche una serie di preoccupazioni circa gli effetti diretti e indiretti sulla società nel suo complesso;

considerando che l'apprendimento automatico offre enormi vantaggi economici e innovativi per la società migliorando notevolmente le capacità di analisi dei dati, sebbene ponga nel contempo alcune sfide legate alla necessità di garantire la non discriminazione, il giusto processo, la trasparenza e la comprensibilità dei processi decisionali;

considerando che l'uso diffuso di robot potrebbe non portare automaticamente alla sostituzione di posti di lavoro, ma le mansioni meno qualificate nei settori ad alta intensità di manodopera potrebbero essere maggiormente esposte all'automazione; che questa tendenza potrebbe riportare i processi di produzione nell'UE; che la ricerca ha dimostrato che l'occupazione aumenta in modo particolarmente veloce nei settori caratterizzati da un maggiore impiego dei computer; che l'automazione dei posti di lavoro è potenzialmente in grado di liberare le persone dalla monotonia del lavoro manuale, consentendo loro di avvicinarsi a mansioni più creative e significative; che l'automazione richiede che i governi investano nell'istruzione e in altre riforme al fine di migliorare la ridistribuzione delle tipologie di competenze di cui avranno bisogno i lavoratori di domani;

considerando che lo sviluppo della robotica e dell'intelligenza artificiale eserciterà sicuramente un'influenza sul mondo del lavoro, il che potrebbe dare luogo a nuove preoccupazioni in materia di responsabilità ed eliminarne altre; che occorre chiarire la responsabilità giuridica per quanto concerne sia il modello di impresa sia le caratteristiche dei lavoratori, in caso di emergenza o qualora sorgessero problemi;

considerando che il regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio (2) (regolamento generale sulla protezione dei dati) stabilisce un quadro giuridico volto a proteggere i dati personali; che altri aspetti riguardanti l'accesso ai dati e la protezione dei dati personali e della privacy potrebbero ancora dover essere affrontati, dal momento che potrebbero ancora sorgere preoccupazioni in materia di privacy per quanto riguarda le applicazioni e gli apparecchi che comunicano tra di loro e con le banche dati senza l'intervento umano;

considerando che alcuni Stati esteri quali Stati Uniti, Giappone, Cina e Corea del Sud stanno prendendo in considerazione, e in una certa misura hanno già adottato, atti normativi in materia di robotica e intelligenza artificiale, e che alcuni Stati membri hanno iniziato a riflettere sulla possibile elaborazione di norme giuridiche o sull'introduzione di cambiamenti legislativi per tenere conto delle applicazioni emergenti di tali tecnologie;

considerando che l'industria europea potrebbe trarre beneficio da un approccio efficiente, coerente e trasparente alla regolamentazione a livello dell'UE, che fornisca condizioni prevedibili e sufficientemente chiare in base alle quali le imprese possano sviluppare applicazioni e pianificare i propri modelli commerciali su scala europea, garantendo nel contempo che l'Unione e i suoi Stati membri mantengano il controllo sulle norme regolamentari da impostare e non siano costretti ad adottare e subire norme stabilite da altri, vale a dire quei paesi terzi che sono anche in prima linea nello sviluppo della robotica e dell'intelligenza artificiale;

Principi generali

considerando che le leggi di Asimov (3) devono essere considerate come rivolte ai progettisti, ai fabbricanti e agli utilizzatori di robot, compresi i robot con capacità di autonomia e di autoapprendimento integrate, dal momento che tali leggi non possono essere convertite in codice macchina;

considerando che è necessaria una serie di norme che disciplinino in particolare la responsabilità, la trasparenza e l'assunzione di responsabilità e che riflettano i valori intrinsecamente europei, universali e umanistici che caratterizzano il contributo dell'Europa alla società; che tali regole non devono influenzare il processo di ricerca, innovazione e sviluppo nel settore della robotica;

considerando che l'Unione potrebbe svolgere un ruolo essenziale nella definizione dei principi etici fondamentali da rispettare per lo sviluppo, la programmazione e l'utilizzo di robot e dell'intelligenza artificiale e per l'inclusione di tali principi nelle normative e nei codici di condotta dell'Unione al fine di configurare la rivoluzione tecnologica in modo che essa serva l'umanità e affinché i benefici della robotica avanzata e dell'intelligenza artificiale siano ampiamente condivisi, evitando per quanto possibile potenziali insidie;

considerando la carta sulla robotica allegata alla relazione, elaborata con l'assistenza dell'unità Prospettiva scientifica dello STOA (DG Servizi di ricerca parlamentare), che propone un codice etico per gli ingegneri robotici, un codice per i comitati di etica della ricerca, una «licenza» per progettisti e una «licenza» per utenti;

considerando che per l'Unione dovrebbe essere adottato un approccio graduale, pragmatico e cauto del tipo auspicato da Jean Monnet (4) per quanto riguarda qualsiasi iniziativa futura sulla robotica e sull'intelligenza artificiale al fine di garantire che l'innovazione non sia soffocata;

Responsabilità

considerando che, grazie agli strabilianti progressi tecnologici dell'ultimo decennio, non solo oggi i robot sono in grado di svolgere attività che tradizionalmente erano tipicamente ed esclusivamente umane, ma lo sviluppo di determinate caratteristiche autonome e cognitive — ad esempio la capacità di apprendere dall'esperienza e di prendere decisioni quasi indipendenti — li ha resi sempre più simili ad agenti che interagiscono con l'ambiente circostante e sono in grado di alterarlo in modo significativo; che, in tale contesto, la questione della responsabilità giuridica derivante dall'azione nociva di un robot diventa essenziale;

considerando che l'autonomia di un robot può essere definita come la capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un'influenza esterna; che tale autonomia è di natura puramente tecnologica e il suo livello dipende dal grado di complessità con cui è stata progettata l'interazione di un robot con l'ambiente;

considerando che più i robot sono autonomi, meno possono essere considerati come meri strumenti nelle mani di altri attori (quali il fabbricante, l'operatore, il proprietario, l'utilizzatore, ecc.); che ciò, a sua volta, pone il quesito se le regole ordinarie in materia di responsabilità siano sufficienti o se ciò renda necessari nuovi principi e regole volte a chiarire la responsabilità legale dei vari attori per azioni e omissioni imputabili ai robot, qualora le cause non possano essere ricondotte a un soggetto umano specifico, e se le azioni o le omissioni legate ai robot che hanno causato danni avrebbero potuto essere evitate;

considerando che, nell'attuale quadro giuridico, i robot non possono essere considerati responsabili in proprio per atti o omissioni che causano danni a terzi; che le norme esistenti in materia di responsabilità coprono i casi in cui la causa di un'azione o di un'omissione del robot può essere fatta risalire ad uno specifico agente umano, ad esempio il fabbricante, l'operatore, il proprietario o l'utilizzatore, e laddove tale agente avrebbe potuto prevedere ed evitare il comportamento nocivo del robot; che, inoltre, i fabbricanti, gli operatori, i proprietari o gli utilizzatori potrebbero essere considerati oggettivamente responsabili per gli atti o le omissioni di un robot;

considerando che, in base all'attuale quadro giuridico, la responsabilità da prodotto (secondo la quale il produttore di un prodotto è responsabile dei malfunzionamenti) e le norme che disciplinano la responsabilità per azioni dannose (in virtù delle quali l'utente di un prodotto è responsabile di un comportamento che conduce al danno) sono applicabili ai danni causati dai robot e dall'intelligenza artificiale;

considerando che, nell'ipotesi in cui un robot possa prendere decisioni autonome, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati da un robot, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati;

considerando che sono palesi le carenze dell'attuale quadro normativo anche in materia di responsabilità contrattuale, dal momento che le macchine progettate per scegliere le loro controparti, negoziare termini contrattuali, concludere contratti e decidere se e come attuarli rendono inapplicabili le norme tradizionali; considerando che ciò pone in evidenza la necessità di norme nuove, efficaci e al passo con i tempi che corrispondano alle innovazioni e agli sviluppi tecnologici che sono stati di recente introdotti e che sono attualmente utilizzati sul mercato;

considerando che, per quanto riguarda la responsabilità extracontrattuale, la direttiva 85/374/CEE riguarda solamente i danni causati dai difetti di fabbricazione di un robot e a condizione che la persona danneggiata sia in grado di dimostrare il danno effettivo, il difetto nel prodotto e il nesso di causalità tra difetto e danno e che pertanto la responsabilità oggettiva o la responsabilità senza colpa potrebbero non essere sufficienti;

considerando che, nonostante l’ambito di applicazione della direttiva 85/374/CEE, l'attuale quadro giuridico non sarebbe sufficiente a coprire i danni causati dalla nuova generazione di robot, in quanto questi possono essere dotati di capacità di adattamento e di apprendimento che implicano un certo grado di imprevedibilità nel loro comportamento, dato che imparerebbero in modo autonomo, in base alle esperienze diversificate di ciascuno, e interagirebbero con l'ambiente in modo unico e imprevedibile;

Principi generali riguardanti lo sviluppo della robotica e dell'intelligenza artificiale per uso civile

ritiene che debba essere introdotto un sistema globale dell'Unione per la registrazione dei robot avanzati nel mercato interno dell'Unione, laddove necessario e pertinente per categorie specifiche di robot, e invita la Commissione a stabilire criteri per la classificazione dei robot da registrare; invita, in tale contesto, la Commissione a valutare se sia opportuno affidare la gestione del sistema di registrazione e del registro a un'agenzia designata dell'UE per la robotica e l'intelligenza artificiale;

sottolinea che lo sviluppo della tecnologia robotica dovrebbe mirare a integrare le capacità umane e non a sostituirle; ritiene che sia fondamentale, nello sviluppo della robotica e dell'intelligenza artificiale, garantire che gli uomini mantengano in qualsiasi momento il controllo sulle macchine intelligenti; ritiene che dovrebbe essere prestata un'attenzione particolare alla possibilità che nasca un attaccamento emotivo tra gli uomini e i robot, in particolare per i gruppi vulnerabili (bambini, anziani e disabili), e sottolinea gli interrogativi connessi al grave impatto emotivo e fisico che un tale attaccamento potrebbe avere sugli uomini;

Ricerca e innovazione

sottolinea che molte applicazioni robotiche sono ancora in fase sperimentale; accoglie con favore il fatto che sempre più progetti di ricerca sono finanziati dagli Stati membri e dall'Unione; ritiene essenziale che l'Unione e gli Stati membri, per mezzo dei finanziamenti pubblici, restino leader nella ricerca in ambito della robotica e dell'intelligenza artificiale; invita la Commissione e gli Stati membri a rafforzare gli strumenti finanziari per i progetti di ricerca nella robotica e nelle TIC, compresi i partenariati pubblico-privati, e ad attuare nelle rispettive politiche di ricerca i principi della scienza aperta e dell'innovazione etica responsabile; sottolinea che è necessario destinare risorse sufficienti alla ricerca di soluzioni alle sfide sociali, etiche, giuridiche ed economiche poste dallo sviluppo tecnologico e dalle sue applicazioni;

è fermamente convinto che un'interoperabilità tra i sistemi, i dispositivi e i servizi di cloud , basata sulla sicurezza e sulla tutela della vita privata fin dalla progettazione, sia fondamentale per ottenere flussi di dati in tempo reale che consentano ai robot e all'intelligenza artificiale una maggiore flessibilità e autonomia; invita la Commissione a promuovere un ambiente aperto, che spazi da norme aperte a modelli innovativi per la concessione delle licenze e dalle piattaforme aperte alla trasparenza, al fine di evitare la dipendenza da sistemi proprietari che limitano l'interoperabilità;

Principi etici

osserva che le possibilità di realizzazione personale che derivano dall'uso della robotica sono relativizzate da un insieme di tensioni o rischi e dovrebbero essere valutate in modo serio dal punto di vista della sicurezza delle persone e della loro salute, della libertà, la vita privata, l'integrità, la dignità, dell'autodeterminazione e la non discriminazione nonché della protezione dei dati personali;

considera che l'attuale quadro giuridico dell'Unione debba essere aggiornato e integrato, se del caso, da principi etici di orientamento che riflettano la complessità della robotica e delle sue numerose implicazioni sociali, mediche, bioetiche; è del parere che un quadro etico di orientamento chiaro, rigoroso ed efficiente per lo sviluppo, la progettazione, la produzione, l'uso e la modifica dei robot sia necessario per integrare le raccomandazioni legali della relazione e l' acquis nazionale e dell'Unione esistente; propone, in allegato alla presente risoluzione, un quadro sotto forma di una carta contenente un codice di condotta per gli ingegneri robotici, un codice per i comitati etici di ricerca relativo al loro lavoro di revisione dei protocolli di robotica e modelli di licenze per progettisti e utenti;

sottolinea che il quadro etico di orientamento dovrebbe essere basato sui principi di beneficenza, non maleficenza, autonomia e giustizia, nonché sui principi sanciti all'articolo 2 del trattato sull'Unione europea e nella Carta dei diritti fondamentali dell'Unione europea — quali la dignità umana, l'uguaglianza, la giustizia e l'equità, la non discriminazione, il consenso informato, la vita privata e familiare e la protezione dei dati, così come sugli altri principi e valori alla base del diritto dell'Unione come la non stigmatizzazione, la trasparenza, l'autonomia, la responsabilità individuale e sociale — e sulle pratiche e i codici etici esistenti;

ritiene che un'attenzione speciale dovrebbe essere prestata ai robot che rappresentano una minaccia significativa alla riservatezza in virtù del loro posizionamento in spazi tradizionalmente protetti e privati e della loro capacità di estrarre e trasmettere dati personali e sensibili;

Un'agenzia europea

chiede alla Commissione di esaminare la possibilità di istituire un'agenzia europea per la robotica e l'intelligenza artificiale incaricata di fornire le competenze tecniche, etiche e normative necessarie a sostenere l'impegno degli attori pubblici pertinenti, a livello sia di Unione che di Stati membri, per garantire una risposta tempestiva, etica e ben informata alle nuove opportunità e sfide, in particolare quelle di carattere transfrontaliero, derivanti dallo sviluppo tecnologico della robotica, come ad esempio nel settore dei trasporti;

Diritti di proprietà intellettuale e flusso di dati

rileva che non esistono disposizioni giuridiche che si applichino specificamente alla robotica, ma che ad essa possono essere facilmente applicati i regimi e le dottrine giuridici esistenti, sebbene alcuni aspetti richiedano una considerazione specifica; invita la Commissione a sostenere un approccio orizzontale e neutrale dal punto di vista tecnologico alla proprietà intellettuale applicabile ai vari settori in cui la robotica potrebbe essere impiegata;

invita la Commissione e gli Stati membri a garantire che le norme di diritto civile nel settore della robotica siano coerenti al regolamento generale sulla protezione dei dati e in linea con i principi della necessità e della proporzionalità; invita la Commissione e gli Stati membri a tenere conto della rapida evoluzione tecnologica del settore della robotica, compreso lo sviluppo dei sistemi ciberfisici, e ad assicurare che il diritto dell'Unione non resti indietro rispetto all'andamento dello sviluppo e dell'adozione delle tecnologie;

sottolinea che il diritto al rispetto della vita privata e alla protezione dei dati personali, quale stabilito dagli articoli 7 e 8 della Carta e dall'articolo 16 del trattato sul funzionamento dell'Unione europea (TFUE), si applica a tutti gli ambiti della robotica e che il quadro giuridico dell'Unione per la protezione dei dati deve essere pienamente rispettato; chiede a tale proposito che, nel quadro dell'attuazione del regolamento generale sulla protezione dei dati, si chiariscano le norme e i criteri relativi all'uso di fotocamere e sensori nei robot; invita la Commissione a garantire che siano rispettati i principi della protezione dei dati, come la tutela della vita privata fin dalla progettazione e per impostazione predefinita, la minimizzazione dei dati e la limitazione delle finalità, così come meccanismi di controllo trasparenti per i titolari dei dati e misure correttive adeguate conformi alla legislazione dell'Unione in materia di protezione dei dati e che siano promosse adeguate raccomandazioni e norme da integrare nelle politiche dell'Unione;

sottolinea che la libera circolazione dei dati è indispensabile per l'economia digitale e lo sviluppo nel settore della robotica e dell'intelligenza artificiale; evidenzia che un elevato livello di sicurezza dei sistemi della robotica, compresi i loro sistemi di dati interni e i flussi di dati, è fondamentale per un utilizzo adeguato dei robot e dell'intelligenza artificiale; sottolinea che deve essere garantita la protezione delle reti di robot e intelligenza artificiale interconnessi onde prevenire eventuali violazioni della sicurezza; sottolinea che un elevato livello di sicurezza e di protezione dei dati personali, congiuntamente al rispetto della vita privata, è fondamentale nella comunicazione tra gli uomini e i robot e le forme di intelligenza artificiale; sottolinea la responsabilità dei progettisti di robot e di intelligenza artificiale di sviluppare prodotti sicuri e adatti agli scopi previsti; invita la Commissione e gli Stati membri a sostenere e incentivare lo sviluppo della tecnologia necessaria, inclusa la sicurezza fin dalla progettazione;

Normazione, sicurezza e protezione

evidenzia che la questione della definizione delle norme e della concessione dell'interoperabilità è fondamentale per la concorrenza futura nell'ambito delle tecnologie di robotica e di intelligenza artificiale; invita la Commissione a continuare a lavorare sull'armonizzazione internazionale delle norme tecniche, in particolare assieme agli organismi europei di normazione e all'Organizzazione internazionale di normazione, per favorire l'innovazione, evitare la frammentazione del mercato interno e garantire un livello elevato di sicurezza dei prodotti e di protezione dei consumatori che includa, ove opportuno, norme minime di sicurezza nell'ambiente di lavoro; sottolinea l'importanza dell'ingegneria inversa legale e degli standard aperti al fine di massimizzare il valore dell'innovazione e garantire che i robot possano comunicare tra loro; accoglie favorevolmente, a tal proposito, l'istituzione di speciali comitati tecnici, quali l'ISO/TC 299 Robotics, che si dedicano esclusivamente all'elaborazione di norme in materia di robotica;

sottolinea che testare i robot in condizioni reali è essenziale per individuare e valutare i rischi che potrebbero comportare, nonché il loro sviluppo tecnologico successivo alla fase puramente sperimentale di laboratorio; sottolinea, a tale proposito, che testare i robot in situazioni reali, in particolare nelle città e sulle strade, solleva un gran numero di problemi, tra cui ostacoli che rallentano lo sviluppo di queste fasi di collaudo, e richiede una strategia e un meccanismo di monitoraggio efficaci; invita la Commissione a elaborare criteri uniformi in tutta l'Unione, che i singoli Stati membri dovrebbero utilizzare per identificare le aree in cui autorizzare gli esperimenti con robot, nel rispetto del principio di precauzione;

Mezzi di trasporto autonomi

a) Veicoli autonomi

sottolinea che la nozione di trasporto autonomo include tutte le forme a pilotaggio remoto, automatizzate, connesse e autonome di trasporto stradale, ferroviario, aereo e per vie d'acqua, compresi i veicoli, i treni, le imbarcazioni, i traghetti, i velivoli, i droni e tutte le forme future di innovazione e sviluppo in questo settore;

ritiene che il settore automobilistico sia quello in cui è avvertita con maggiore urgenza la necessità di norme efficaci a livello unionale e mondiale che garantiscano lo sviluppo transfrontaliero di veicoli automatizzati e autonomi, in modo da sfruttarne appieno il potenziale economico e beneficiare degli effetti positivi delle tendenze tecnologiche; sottolinea che approcci normativi frammentari ostacolerebbero l'attuazione dei sistemi di trasporto autonomi e metterebbero a repentaglio la competitività europea;

richiama l'attenzione sull'elevato valore aggiunto dei veicoli autonomi per le persone con mobilità ridotta, in quanto permettono loro di partecipare più efficacemente alla circolazione stradale, facilitando in tal modo la loro vita quotidiana;

b) Droni (RPAS)

prende atto dei progressi positivi compiuti dalla tecnologia dei droni, in particolare nel settore della ricerca e del soccorso; sottolinea l'importanza di un quadro unionale relativo ai droni al fine di tutelare la sicurezza e la vita privata dei cittadini dell'Unione e invita la Commissione a dare seguito alle raccomandazioni contenute nella risoluzione del Parlamento europeo del 29 ottobre 2015 sull'uso sicuro dei sistemi aerei a pilotaggio remoto (RPAS), noti come veicoli aerei senza equipaggio (UAV), nel settore dell'aviazione civile ( 5 ) ; esorta la Commissione a fornire valutazioni sui problemi di sicurezza connessi all'uso su larga scala dei droni; invita la Commissione a valutare la necessità di introdurre un sistema di tracciabilità e identificazione obbligatorio per gli RPAS che consenta di individuare in tempo reale la posizione dei velivoli durante il loro utilizzo; ricorda che l'uniformità e la sicurezza dei velivoli senza pilota dovrebbero essere garantite dalle misure stabilite nel regolamento (CE) n. 216/2008 del Parlamento europeo e del Consiglio ( 6 )

Robot impiegati per l'assistenza

sottolinea che la ricerca e lo sviluppo di robot per l'assistenza agli anziani sono diventati, nel tempo, più diffusi ed economici, permettendo così di produrre dispositivi dotati di maggiori funzionalità e più facilmente accettati dai consumatori; evidenzia l'ampia gamma di applicazioni di tali tecnologie utilizzate per la prevenzione, l'assistenza, il monitoraggio, lo stimolo e l'accompagnamento degli anziani, come pure delle persone affette da demenza, disturbi cognitivi o perdita della memoria;

sottolinea che il contatto umano è uno degli aspetti fondamentali delle cure umane; ritiene che la sostituzione del fattore umano con i robot potrebbe, da una parte, disumanizzare le pratiche di accudimento, ma riconosce, d'altra parte, che i robot potrebbero svolgere compiti di assistenza automatizzati e agevolare il lavoro degli assistenti sanitari, migliorando, nel contempo, le cure fornite dal personale sanitario e rendendo il percorso di riabilitazione più mirato, consentendo così al personale medico e agli assistenti di dedicare più tempo alla diagnosi e a una migliore pianificazione delle opzioni terapeutiche; sottolinea che, sebbene la robotica abbia le potenzialità per migliorare la mobilità e l'integrazione delle persone con disabilità e delle persone anziane, gli assistenti in carne e ossa continueranno a essere necessari e a svolgere un ruolo importante e non completamente sostituibile nella loro interazione sociale;

Robot medici

sottolinea l'importanza di un'adeguata istruzione, formazione e preparazione per il personale sanitario, quali i medici e gli assistenti sanitari, al fine di garantire il grado più elevato possibile di competenza professionale nonché per salvaguardare e proteggere la salute dei pazienti; evidenzia la necessità di definire i requisiti professionali minimi che un chirurgo deve possedere per poter far funzionare ed essere autorizzato a usare i robot chirurgici; considera fondamentale rispettare il principio dell'autonomia supervisionata dei robot, in base al quale la programmazione iniziale di cura e la scelta finale sull'esecuzione spetteranno sempre a un chirurgo umano; sottolinea la particolare importanza della formazione onde consentire agli utenti di familiarizzarsi con i requisiti tecnologici del settore; richiama l'attenzione sulla tendenza crescente all'autodiagnosi mediante l'uso di un robot mobile e, di conseguenza, sulla necessità che i medici siano formati per gestire i casi di autodiagnosi; ritiene che l'utilizzo delle tecnologie in questione non debba sminuire o ledere il rapporto medico-paziente, bensì fornire al medico un'assistenza nella diagnosi e/o nella cura del paziente allo scopo di ridurre il rischio di errore umano e di aumentare la qualità della vita e la speranza di vita;

è convinto che, in campo medico, i robot continuino a compiere progressi nello svolgimento di operazioni chirurgiche ad alta precisione e nell'esecuzione di procedure ripetitive e reputa che tali robot dispongano del potenziale per migliorare i risultati della riabilitazione e fornire un sostegno logistico altamente efficace negli ospedali; osserva che i robot medici possono anche ridurre i costi sanitari, consentendo al personale medico di spostare la propria attenzione dal trattamento alla prevenzione e rendendo disponibili maggiori risorse finanziarie per un migliore adeguamento alla diversità delle esigenze dei pazienti, la formazione continua del personale sanitario e la ricerca;

invita la Commissione a garantire che le procedure di sperimentazione per testare i nuovi dispositivi medici robotici siano sicure, in particolare nel caso di dispositivi che vengono impiantati nel corpo umano, prima della data di applicazione del regolamento (UE) 2017/745 sui dispositivi medici;

Interventi riparativi e migliorativi del corpo umano

osserva gli enormi progressi compiuti dalla robotica e l'ulteriore potenziale di quest'ultima nel campo della riparazione e della sostituzione degli organi danneggiati e delle funzioni umane, ma anche le complesse questioni sollevate in particolare dalle possibilità di interventi migliorativi del corpo umano, dal momento che i robot medici e specialmente i sistemi ciberfisici (CPS) possono modificare il nostro concetto di corpo umano in salute, dato che possono essere portati direttamente sul corpo umano o essere impiantati nel corpo umano; sottolinea l'importanza di istituire con urgenza, negli ospedali e in altri istituti sanitari, comitati di roboetica con personale adeguato che abbiano il compito di esaminare e aiutare a risolvere problemi etici complessi e insoliti riguardanti la cura e il trattamento di pazienti; invita la Commissione e gli Stati membri a elaborare orientamenti per l'istituzione e il funzionamento di tali comitati;

raccomanda la creazione di enti di fiducia indipendenti che dispongano dei mezzi necessari per fornire servizi alle persone che utilizzano avanzati dispositivi medici salvavita, ad esempio in termini di manutenzione, riparazioni e migliorie, inclusi gli aggiornamenti software, soprattutto in caso di interruzione di tali servizi di manutenzione da parte del fornitore originale; suggerisce l'introduzione dell'obbligo per i produttori di fornire a tali enti di fiducia indipendenti istruzioni di progettazione esaustive, incluso il codice sorgente, come accade per il deposito legale di una pubblicazione presso la biblioteca nazionale;

sottolinea i rischi correlati alla possibilità di hacking , disattivazione o cancellazione della memoria dei CPS integrati nel corpo umano, dato che possono mettere in pericolo la salute o, in casi estremi, anche la vita umana, per cui evidenzia il carattere prioritario da attribuire alla protezione di tali sistemi;

pone in evidenza l'importanza di garantire l'accesso equo di tutti i cittadini a tali innovazioni, strumenti e interventi tecnologici; chiede alla Commissione e agli Stati membri di promuovere lo sviluppo di tecnologie assistive in modo da favorire lo sviluppo e l'adozione di queste tecnologie da parte dei soggetti che ne hanno bisogno, in conformità con l'articolo 4 della Convenzione dell'ONU sui diritti delle persone con disabilità, che l'Unione ha sottoscritto;

Educazione e lavoro

richiama l'attenzione sulla previsione della Commissione secondo cui entro il 2020 l'Europa potrebbe trovarsi ad affrontare una carenza di professionisti delle TIC fino a 825 000 persone e il 90 % dei posti di lavoro richiederà per lo meno competenze digitali di base; accoglie con favore l'iniziativa della Commissione di proporre una tabella di marcia per l'eventuale uso e revisione del quadro delle competenze digitali e dei descrittori delle competenze digitali per tutti i livelli di discenti, e invita la Commissione a fornire un sostegno concreto per lo sviluppo delle competenze digitali in tutte le fasce di età e a prescindere dalla posizione lavorativa, come primo passo in direzione di una maggiore corrispondenza tra la domanda e le carenze sul mercato del lavoro; sottolinea che lo sviluppo della robotica impone agli Stati membri di sviluppare sistemi di istruzione e formazione più flessibili, in modo da garantire la corrispondenza tra le strategie delle conoscenze e le esigenze dell'economia della robotica;

invita la Commissione a iniziare ad analizzare e a monitorare più da vicino le tendenze occupazionali di medio e lungo periodo, prestando un'attenzione particolare alla creazione, alla dislocazione e alla perdita di posti di lavoro nei diversi campi/settori di qualifica, in modo da individuare i campi in cui vengono creati posti di lavoro e quelli in cui vengono persi a seguito dell'aumento dell'uso dei robot;

Impatto ambientale

osserva che lo sviluppo della robotica e dell'intelligenza artificiale dovrebbe essere condotto in modo tale da limitare l'impatto ambientale mediante un consumo energetico efficiente, l'efficienza energetica mediante la promozione dell'uso delle energie rinnovabili e dei materiali di difficile reperibilità, nonché la riduzione al minimo dei rifiuti — ad esempio quelli elettrici ed elettronici — come pure la riparabilità; incoraggia quindi la Commissione a integrare i principi dell'economia circolare in tutte le politiche dell'Unione sulla robotica; osserva altresì che l'uso della robotica avrà un impatto positivo sull'ambiente, in particolare nel campo dell'agricoltura, dell'approvvigionamento alimentare e dei trasporti, nello specifico attraverso le dimensioni ridotte dei macchinari e l'uso ridotto di fertilizzanti, energia e acqua, nonché tramite l'agricoltura di precisione e l'ottimizzazione dei percorsi;

Responsabilità

ritiene che la responsabilità civile per i danni causati dai robot sia una questione fondamentale che deve essere altresì analizzata e affrontata a livello di Unione al fine di garantire il medesimo livello di efficienza, trasparenza e coerenza nell'attuazione della certezza giuridica in tutta l'Unione europea nell'interesse tanto dei cittadini e dei consumatori quanto delle imprese;

prende atto del fatto che lo sviluppo della tecnologia robotica richiederà una maggiore comprensione per trovare il terreno comune necessario ai fini dell'attività congiunta umano-robotica, che dovrebbe basarsi su due relazioni interdipendenti essenziali, quali la prevedibilità e la direzionalità; evidenzia che queste due relazioni interdipendenti sono cruciali per determinare quali informazioni è opportuno che gli umani e i robot condividano e come individuare una base comune tra umani e robot che consenta un'efficace azione congiunta umano-robotica;

chiede alla Commissione di presentare, sulla base dell'articolo 114 TFUE, una proposta di atto legislativo sulle questioni giuridiche relative allo sviluppo e all'utilizzo della robotica e dell'intelligenza artificiale prevedibili nei prossimi 10-15 anni, in associazione a strumenti non legislativi quali linee guida e codici di condotta come indicato nelle raccomandazioni figuranti nell'allegato;

ritiene che il futuro strumento legislativo, a prescindere dalla soluzione giuridica che applicherà alla responsabilità civile per i danni causati dai robot in casi diversi da quelli di danni alle cose, non dovrebbe in alcun modo limitare il tipo o l'entità dei danni che possono essere risarciti, né dovrebbe limitare le forme di risarcimento che possono essere offerte alla parte lesa per il semplice fatto che il danno è provocato da un soggetto non umano;

constata che l'approccio di gestione dei rischi non si concentra sulla persona «che ha agito con negligenza» in quanto responsabile a livello individuale bensì sulla persona che, in determinate circostanze, è in grado di minimizzare i rischi e affrontare l'impatto negativo;

ritiene che, in linea di principio, una volta individuati i soggetti responsabili in ultima istanza, la loro responsabilità dovrebbe essere proporzionale all'effettivo livello di istruzioni impartite al robot e al grado di autonomia di quest'ultimo, di modo che quanto maggiore è la capacità di apprendimento o l'autonomia di un robot e quanto maggiore è la durata della formazione di un robot, tanto maggiore dovrebbe essere la responsabilità del suo formatore; osserva in particolare che, nella determinazione della responsabilità reale per il danno causato, le competenze derivanti dalla «formazione» di un robot non dovrebbero essere confuse con le competenze che dipendono strettamente dalle sue abilità di autoapprendimento; osserva che, almeno nella fase attuale, la responsabilità deve essere imputata a un essere umano e non a un robot;

sottolinea che una possibile soluzione al problema della complessità dell'attribuzione della responsabilità per il danno causato da robot sempre più autonomi potrebbe essere un regime di assicurazione obbligatorio, come già avviene, per esempio, con le automobili; osserva tuttavia che, a differenza del regime assicurativo per i veicoli a motore, che copre azioni o errori umani, l'assicurazione dei robot dovrebbe tenere conto di tutte le potenziali responsabilità lungo la catena;

ritiene che, come avviene nel caso dell'assicurazione dei veicoli a motore, tale regime assicurativo potrebbe essere integrato da un fondo per garantire la possibilità di risarcire i danni in caso di assenza di copertura assicurativa; invita il settore assicurativo a elaborare nuovi prodotti e tipologie di offerte in linea con i progressi della robotica;

l'istituzione di uno status giuridico specifico per i robot nel lungo termine, di modo che almeno i robot autonomi più sofisticati possano essere considerati come persone elettroniche responsabili di risarcire qualsiasi danno da loro causato, nonché eventualmente il riconoscimento della personalità elettronica dei robot che prendono decisioni autonome o che interagiscono in modo indipendente con terzi;

l'istituzione di un numero d'immatricolazione individuale, iscritto in un registro specifico dell'Unione, al fine di associare in modo evidente il robot al suo fondo, onde consentire a chiunque interagisce con il robot di essere informato sulla natura del fondo, sui limiti della responsabilità in caso di danni alle cose, sui nomi e sulle funzioni dei contributori e su tutte le altre informazioni pertinenti;

la scelta tra la creazione di un fondo generale per tutti i robot autonomi intelligenti o di un fondo individuale per ogni categoria di robot e tra il versamento di un contributo una tantum all'immissione sul mercato di un robot o versamenti regolari durante la vita del robot;

la possibilità per il produttore, il programmatore, il proprietario o l'utente di beneficiare di una responsabilità limitata qualora costituiscano un fondo di risarcimento nonché qualora sottoscrivano congiuntamente un'assicurazione che garantisca un risarcimento in caso di danni arrecati da un robot;

la costituzione di un fondo di risarcimento non solo per garantire il risarcimento quando il danno causato dal robot non è assicurato;

l'istituzione di un regime assicurativo obbligatorio, laddove pertinente e necessario per categorie specifiche di robot, in virtù del quale, come avviene già per le automobili, venga imposto ai produttori e i proprietari dei robot di sottoscrivere una copertura assicurativa per i danni potenzialmente causati dai loro robot;

Aspetti internazionali

osserva che le attuali norme generali di diritto internazionale privato sugli incidenti stradali applicabili all'interno dell'Unione non hanno bisogno urgente di essere modificate in modo sostanziale per adattarsi allo sviluppo di veicoli autonomi, tuttavia la semplificazione dell'attuale duplice sistema per definire la legge applicabile (basato sul regolamento (CE) n. 864/2007 del Parlamento europeo e del Consiglio ( 7 ) e sulla convenzione dell'Aia del 4 maggio 1971 sulla legge applicabile in materia di incidenti della circolazione stradale) migliorerebbe la certezza del diritto e limiterebbe le possibilità di scelta opportunistica del foro;

Aspetti finali

o

o o

(1) Direttiva 85/374/CEE del Consiglio, del 25 luglio 1985, relativa al ravvicinamento delle disposizioni legislative, regolamentari ed amministrative degli Stati membri in materia di responsabilità per danno da prodotti difettosi (GU L 210 del 7.8.1985, pag. 29).

(2) Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati) (GU L 119 del 4.5.2016, pag. 1).

(3) (1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. (2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge. (3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge. (cfr. Isaac Asimov, Circolo vizioso, 1942) e (0) Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.

(4) Cfr. Dichiarazione di Robert Schuman del 1950: «L'Europa non potrà farsi in una sola volta, né sarà costruita tutta insieme; essa sorgerà da realizzazioni concrete che creino anzitutto una solidarietà di fatto.»

(5) Testi approvati, P8_TA(2015)0390.

(6) Regolamento (CE) n. 216/2008 del Parlamento europeo e del Consiglio, del 20 febbraio 2008, recante regole comuni nel settore dell'aviazione civile e che istituisce un'Agenzia europea per la sicurezza aerea, e che abroga la direttiva 91/670/CEE del Consiglio, il regolamento (CE) n. 1592/2002 e la direttiva 2004/36/CE (GU L 79 del 19.3.2008, pag. 1).

(7) Regolamento (CE) n. 864/2007 del Parlamento europeo e del Consiglio, dell'11 luglio 2007, sulla legge applicabile alle obbligazioni extracontrattuali (Roma II) (GU L 199 del 31.7.2007, pag. 40).

(8) Regolamento (CE) n. 428/2009 del Consiglio, del 5 maggio 2009, che istituisce un regime comunitario di controllo delle esportazioni, del trasferimento, dell'intermediazione e del transito di prodotti a duplice uso (GU L 134 del 29.5.2009, pag. 1).

ALLEGATO ALLA RISOLUZIONE:

RACCOMANDAZIONI CONCERNENTI IL CONTENUTO DELLA PROPOSTA RICHIESTA

Definizione e classificazione dei «robot intelligenti»

È opportuno stabilire una definizione comune europea di robot autonomo intelligente, comprese eventualmente le definizioni delle sue sottocategorie, tenendo conto delle seguenti caratteristiche:

— la capacità di acquisire autonomia grazie a sensori e/o mediante lo scambio di dati con il proprio ambiente (interconnettività) e l'analisi di tali dati;

— la capacità di apprendimento attraverso l'esperienza e l'interazione;

— la forma del supporto fisico del robot;

— la capacità di adeguare il suo comportamento e le sue azioni all'ambiente.

Registrazione dei robot intelligenti

Ai fini della tracciabilità e onde agevolare l'applicazione di ulteriori raccomandazioni, è opportuno prevedere un sistema di registrazione dei robot avanzati, sulla base dei criteri fissati per la classificazione dei robot. Il sistema di registrazione e il registro dovrebbero essere istituiti a livello di Unione, coprendo il mercato interno, e potrebbero essere gestiti da un'agenzia designata dell'UE per la robotica e l'intelligenza artificiale, qualora tale agenzia sia istituita.

Responsabilità civile

Qualsiasi soluzione giuridica si scelga da applicare alla responsabilità per i robot e l'intelligenza artificiale in casi diversi da quelli di danni alle cose non dovrebbe in alcun modo limitare il tipo o l'entità dei danni che possono essere risarciti, né dovrebbe limitare le forme di risarcimento che possono essere offerte alla parte lesa per il semplice fatto che il danno è provocato da un soggetto non umano.

Il futuro strumento legislativo dovrebbe essere fondato su una valutazione approfondita della Commissione che stabilisca se applicare l'approccio della responsabilità oggettiva o della gestione dei rischi.

Dovrebbe inoltre essere istituito un regime assicurativo obbligatorio, che potrebbe basarsi sull'obbligo del produttore di stipulare una copertura assicurativa per i robot autonomi che produce.

Il regime assicurativo dovrebbe essere integrato da un fondo per garantire il risarcimento dei danni in caso di assenza della copertura assicurativa.

Qualunque decisione politica relativa alle norme sulla responsabilità civile applicabili ai robot e all'intelligenza artificiale dovrebbe essere presa di concerto con un progetto di ricerca e sviluppo di portata europea dedicato alla robotica e alla neuroscienza, con scienziati ed esperti in grado di valutarne tutti i rischi correlati e le possibili conseguenze.

Interoperabilità, accesso al codice e diritti di proprietà intellettuale

È opportuno garantire l'interoperabilità dei robot autonomi collegati in rete che interagiscono tra di loro. Dovrebbe essere possibile accedere al codice sorgente, ai dati di input e ai dettagli costruttivi in caso di necessità, per poter indagare su eventuali incidenti e danni causati dai robot intelligenti e per garantirne il funzionamento ininterrotto, la disponibilità, l'affidabilità e la sicurezza.

Carta sulla robotica

La Commissione, nel proporre atti legislativi in materia di robotica, dovrebbe tener conto dei principi sanciti nella seguente Carta sulla robotica.

CARTA SULLA ROBOTICA

La proposta di codice etico-deontologico nel settore della robotica getterà le basi per l'identificazione, il controllo e il rispetto di principi etici fondamentali dalla fase di progettazione e di sviluppo.

Il quadro, elaborato di concerto con un progetto di ricerca e sviluppo di portata europea dedicato alla robotica e alla neuroscienza, deve essere concepito in maniera riflessiva, che permetta di effettuare adeguamenti individuali di volta in volta, allo scopo di determinare se un determinato comportamento sia o meno corretto in una data situazione e adottare decisioni in base a una gerarchia prestabilita di valori.

Il codice non dovrebbe sostituirsi alla necessità di affrontare tutte le principali questioni giuridiche in materia, bensì avere una funzione complementare. Piuttosto, faciliterà la classificazione etica della robotica, potenzierà gli sforzi di innovazione responsabile in tale ambito e verrà incontro alle preoccupazioni del pubblico.

Dovrebbe essere riservata particolare attenzione alle fasi di ricerca e sviluppo della pertinente traiettoria tecnologica (processo di progettazione, esame etico, controlli di verifica, ecc.). La sua finalità dovrebbe essere quella di rispondere alla necessità che ricercatori, professionisti, utenti e progettisti rispettino le norme etiche, ma anche di introdurre una procedura per risolvere i dilemmi etici e consentire a tali sistemi di funzionare in maniera eticamente responsabile.

CODICE ETICO-DEONTOLOGICO DEGLI INGEGNERI ROBOTICI

PREAMBOLO

Il codice deontologico invita tutti i ricercatori e i progettisti ad agire in modo responsabile, tenendo pienamente conto della necessità di rispettare la dignità, la privacy e la sicurezza delle persone.

Il codice deontologico chiede una stretta cooperazione tra tutte le discipline al fine di garantire che la ricerca sulla robotica sia condotta nell'Unione europea in modo sicuro, etico ed efficace.

Il codice deontologico copre tutte le attività di ricerca e sviluppo nel settore della robotica.

Il codice deontologico è volontario e offre una serie di principi generali e orientamenti per le azioni che tutte le parti interessate devono intraprendere.

Gli organismi di finanziamento della ricerca sulla robotica, gli organismi di ricerca, i ricercatori e le commissioni etiche sono incoraggiati a prendere in esame, in una fase quanto più precoce, le future implicazioni delle tecnologie o degli oggetti cui la ricerca è dedicata e a sviluppare una cultura della responsabilità in vista delle sfide e delle opportunità che possono presentarsi in futuro.

Gli organismi pubblici e privati di finanziamento della ricerca sulla robotica dovrebbero esigere che ogni proposta di finanziamento di attività di ricerca in materia sia corredata di una valutazione dei rischi. Tale codice dovrebbe considerare che la responsabilità incombe alle persone e non ai robot.

I ricercatori del settore della robotica dovrebbero impegnarsi a tenere un comportamento etico e deontologico quanto più rigoroso possibile e a rispettare i seguenti principi:

beneficenza: i robot devono agire nell'interesse degli esseri umani;

non-malvagità: la dottrina del «primum, non nocere», in virtù della quale i robot non devono fare del male a un essere umano;

autonomia: la capacità di adottare una decisione informata e non imposta sulle condizioni di interazione con i robot;

giustizia: un'equa ripartizione dei benefici associati alla robotica e l'accessibilità economica dei robot addetti all'assistenza a domicilio e, in particolare, a quelli addetti alle cure sanitarie.

Diritti fondamentali

Le attività di ricerca nel campo della robotica dovrebbero rispettare i diritti fondamentali e, nella loro concezione, attuazione, divulgazione nonché nel loro impiego, dovrebbero essere condotte nell'interesse del benessere e dell'autodeterminazione del singolo e della società nel suo complesso. La dignità umana e l'autonomia — sia fisica che psicologica — vanno sempre rispettate.

Precauzione

Le attività di ricerca nel campo della robotica dovrebbero essere condotte nel rispetto del principio di precauzione, prevedendo le eventuali incidenze dei risultati in termini di sicurezza e adottando le debite precauzioni, proporzionalmente al livello di protezione, incoraggiando allo stesso tempo il progresso a vantaggio della società e dell'ambiente.

Inclusione

Gli ingegneri robotici garantiscono la trasparenza e il rispetto del legittimo diritto di accesso all'informazione di tutti i soggetti interessati. Tale inclusività consente la partecipazione ai processi decisionali di tutti i soggetti coinvolti nelle attività di ricerca sulla robotica o di quelli che nutrono un interesse nella stessa.

Rendicontabilità

Gli ingegneri robotici dovrebbero rendere conto delle eventuali incidenze sociali, ambientali e sanitarie della robotica per le generazioni attuali e quelle future.

Sicurezza

I progettisti dei robot dovrebbero tenere in considerazione e rispettare il benessere fisico, la sicurezza, la salute e i diritti delle persone. Un ingegnere robotico deve preservare il benessere umano, rispettando nel contempo i diritti umani, e segnalare senza indugio i fattori che potrebbero mettere a rischio la collettività o l'ambiente.

Reversibilità

La reversibilità, che costituisce una condizione necessaria per la controllabilità, è un concetto fondamentale nel programmare i robot a comportarsi in maniera sicura e affidabile. Un modello di reversibilità indica al robot quali azioni sono reversibili e le modalità di tale reversibilità. La possibilità di annullare l'ultima azione o una sequenza di azioni permette agli utenti di annullare le azioni indesiderate e ritornare alla fase «corretta» del loro lavoro.

Vita privata

Il diritto alla privacy deve essere sempre rispettato. Un ingegnere robotico dovrebbe garantire che le informazioni private siano conservate in maniera sicura e utilizzate soltanto in modo appropriato. Inoltre, un ingegnere robotico dovrebbe garantire che le persone non siano identificabili personalmente, salvo in circostanze eccezionali e comunque soltanto con un chiaro e inequivocabile consenso informato. Il consenso informato della persona deve essere richiesto e ottenuto prima di qualsiasi interazione uomo-macchina. Di conseguenza, gli ingegneri robotici sono chiamati a definire e applicare le procedure per garantire il consenso valido, la riservatezza, l'anonimato, il trattamento equo e il giusto processo. I progettisti rispetteranno le eventuali richieste di soppressione dei dati e della loro rimozione da qualsiasi insieme di dati.

Massimizzare i vantaggi e ridurre al minimo il danno

I ricercatori dovrebbero puntare a massimizzare i vantaggi del loro lavoro in tutte le fasi, dal momento della concezione fino alla diffusione. Deve essere evitato qualsiasi danno a chi partecipa alla ricerca/ai soggetti umani/ai partecipanti o soggetti di esperimenti, prove o studi. Ove emergano rischi quali elementi inevitabili e integranti della ricerca, è opportuno porre in essere e rispettare validi protocolli di valutazione e gestione dei rischi. Di norma, il rischio di danno non dovrebbe essere superiore a quello incontrato nella vita normale, il che significa che le persone non dovrebbero essere esposte a un rischio maggiore o aggiuntivo rispetto a quelli cui sono esposte con il loro normale stile di vita. Il funzionamento di un sistema robotico dovrebbe sempre basarsi su un rigoroso processo di valutazione dei rischi, che dovrebbe essere improntato ai principi di proporzionalità e di precauzione.

CODICE PER I COMITATI ETICI DI RICERCA (CER)

Principi

Indipendenza

Il processo di esame etico dovrebbe essere indipendente dalla ricerca stessa. Tale principio mette in rilievo la necessità di evitare conflitti d'interesse tra ricercatori e addetti all'esame del protocollo etico e tra questi ultimi e le strutture organizzative della governance.

Competenza

Il processo di esame etico dovrebbe essere condotto da persone dotate di competenze adeguate, tenendo conto della necessità di esaminare attentamente la diversità della composizione e la formazione specifica dei CER in materia di etica.

Trasparenza e rendicontabilità

Il processo di esame dovrebbe essere responsabile e verificabile. I CER devono prendere coscienza delle proprie responsabilità ed essere opportunamente collocati all'interno di strutture organizzative che garantiscano la trasparenza del funzionamento dei CER e delle procedure di gestione e riesame delle norme.

Il ruolo di un comitato etico di ricerca

Un CER è di norma incaricato di esaminare tutte le attività di ricerca che coinvolgano soggetti (umani) condotte dal personale impiegato all'interno dell'organismo interessato o da quest'ultimo; di assicurare l'indipendenza, la professionalità e la tempestività dell'esame etico; di tutelare la dignità, i diritti e il benessere dei soggetti che partecipano alla ricerca; di tenere in considerazione la sicurezza del ricercatore o dei ricercatori; di tenere in considerazione gli interessi legittimi di altri soggetti in causa; di formulare pareri informati sul merito scientifico delle proposte; di formulare raccomandazioni informate per il ricercatore se la proposta risulta in qualche modo inadeguata.

La costituzione di un comitato etico di ricerca

Un CER dovrebbe di norma essere multidisciplinare, includere uomini e donne, essere composto da membri con una vasta esperienza e competenza nel settore della ricerca sulla robotica. Il meccanismo di designazione dovrebbe assicurare che i membri del comitato offrano un adeguato equilibrio tra competenze scientifiche, formazione filosofica, giuridica o etica e opinioni dei non addetti ai lavori, e che includano quanto meno un membro con conoscenze specialistiche in etica, fruitori di servizi speciali di sanità, istruzione o servizi sociali ove questi siano al centro delle attività di ricerca, nonché soggetti con competenze metodologiche specifiche pertinenti alla ricerca che passano in rassegna; la composizione del comitato deve inoltre essere tale da evitare conflitti d'interesse.

Monitoraggio

Tutti gli organismi di ricerca dovrebbero definire opportune procedure per monitorare le attività di ricerca che hanno ottenuto l'approvazione etica fino alla loro conclusione e per garantire una costante verifica se il progetto di ricerca prevede eventuali variazioni nel tempo che potrebbero dover essere trattate. Il monitoraggio dovrebbe essere proporzionato alla natura e al grado di rischio associato alla ricerca. Se un CER ritiene che una relazione di monitoraggio sollevi sostanziali timori circa la conduzione etica dello studio, dovrebbe chiedere un resoconto completo e dettagliato delle ricerche ai fini di una valutazione etica esaustiva. Ove si ritenga che uno determinato studio sia svolto in maniera non etica, è opportuno prendere in considerazione la possibilità di revocarne l'approvazione ed esigere la sospensione o l'interruzione delle attività di ricerca.

LICENZA PER PROGETTISTI

— Il progettista dovrebbe tener conto dei valori europei di dignità, autonomia e autodeterminazione, libertà e giustizia prima, durante e dopo i processi di progettazione, sviluppo e diffusione di tali tecnologie, tra cui l'esigenza di non ledere, ferire, ingannare o sfruttare gli utenti (vulnerabili).

— Il progettista dovrebbe introdurre principi affidabili di progettazione dei sistemi in tutti gli aspetti del funzionamento di un robot, tanto per la progettazione dell'hardware che del software e per qualsiasi trattamento dati «on platform» o «off platform» ai fini della sicurezza.

— Il progettista dovrebbe introdurre funzionalità di «privacy by design» (tutela della vita privata fin dalla progettazione), in modo da garantire la sicurezza delle informazioni private e assicurare che queste ultime siano utilizzate soltanto in modo appropriato.

— Il progettista dovrebbe integrare evidenti meccanismi di opt-out (pulsanti di arresto d'urgenza), che devono essere coerenti con gli obiettivi di progettazione ragionevole.

— Il progettista dovrebbe garantire che un robot funzioni in modo conforme ai principi etici e giuridici locali, nazionali e internazionali.

— Il progettista dovrebbe garantire che le fasi decisionali del robot possano essere ricostruibili e tracciabili.

— Il progettista dovrebbe garantire l'obbligo della massima trasparenza nella programmazione di sistemi robotici, come pure la prevedibilità del comportamento dei robot.

— Il progettista dovrebbe analizzare la prevedibilità di un sistema umano-robotico, esaminando l'incertezza di interpretazione e azione ed eventuali errori robotici o umani.

— Il progettista dovrebbe sviluppare strumenti di localizzazione fin dalla fase di progettazione del robot. Questi strumenti aiuteranno a rendere conto e a spiegare il comportamento dei robot, seppur in maniera limitata, ai vari livelli previsti per esperti, operatori e utenti.

— Il progettista dovrebbe elaborare protocolli di progettazione e di valutazione e collaborare con potenziali utenti e soggetti interessati in sede di valutazione dei vantaggi e dei rischi della robotica, tra cui quelli di natura cognitiva, psicologica e ambientale.

— Il progettista dovrebbe garantire che i robot siano identificabili come tali all'atto di interagire con esseri umani.

— Il progettista dovrebbe preservare la sicurezza e la salute dei soggetti che interagiscono e vengono a contatto con robot, dato che questi ultimi, in quanto prodotti, devono essere progettati mediante processi che ne garantiscano la sicurezza attiva e passiva. Un ingegnere robotico deve preservare il benessere umano, rispettando nel contempo i diritti umani, e non può azionare un robot senza garantire la sicurezza, l'efficacia e la reversibilità del funzionamento del sistema.

— Il progettista dovrebbe ottenere il parere favorevole di un comitato etico di ricerca prima di collaudare un robot in condizioni reali o coinvolgere esseri umani nelle sue procedure di progettazione e sviluppo.

LICENZA PER GLI UTENTI

— L'utente è autorizzato ad avvalersi di un robot senza rischi né il timore di un danno fisico o psicologico.

— L'utente dovrebbe avere il diritto di attendersi che un robot svolga qualsiasi compito per cui è stato espressamente concepito.

— L'utente dovrebbe essere consapevole del fatto che i robot possono avere limitazioni percettive, cognitive e di azionamento.

— L'utente dovrebbe avere rispetto per la fragilità umana, sia fisica che psicologica, e per i bisogni emotivi degli esseri umani.

— L'utente dovrebbe tenere conto del diritto alla privacy dei cittadini, inclusa la disattivazione degli schermi video durante procedure intime.

— L'utente non è autorizzato a raccogliere, utilizzare o comunicare informazioni personali senza l'esplicito consenso della persona interessata.

— L'utente non è autorizzato a utilizzare un robot in alcun modo che sia contrario ai principi e alle norme etiche o giuridiche.