Source: https://www.iusinitinere.it/intelligenza-artificiale-e-tutela-dei-dati-personali-alla-luce-del-gdpr-18455
Timestamp: 2019-10-19 04:57:33+00:00
Document Index: 67955316

Matched Legal Cases: ['art. 4', 'art. 4', 'art. 4', 'art. 22', 'art. 22', 'art. 22']

Intelligenza artificiale e tutela dei dati personali alla luce del GDPR - Ius in itinere
di Ariella Fonsi · Pubblicato 8 Marzo 2019 · Aggiornato 12 Marzo 2019
– Sempre più sistemi d’IA si stanno specializzando nel processare informazioni in massa, senza intelligenza, pensiero o emozioni umane. Una macchina che non ha una propria individualità, ma che si comporta come un collettivo, esibendo le qualità di una società.
– Sì. Aggrega i dati raccolti dagli individui e determina come agirebbe un gruppo, proprio come le api che viaggiano fra l’alveare e i fiori. La chiave per raggiungere questo sarà la creazione di una rete di IA. […] se il tuo obiettivo è controllare la società, questo è il miglior modello da usare. Ti consente di filtrare i dati e disseminare solo ciò che vuoi disseminare.
Le Intelligenze artificiali (IA) sono sistemi (software che agiscono nel cyberspazio o incorporati in hardware) che, con un certo grado di autonomia, analizzano l’ambiente in cui si trovano e compiono una serie di azioni al fine di raggiungere specifici obiettivi[1].
Esse, come tutte le grandi invenzioni della storia, stanno trasformando il nostro il modello di società in cui viviamo e il modo di agire all’interno di essa, ponendo nuove sfide ma anche nuovi problemi man mano che la loro tecnologia si sviluppa.
Nell’ultimo decennio la convergenza tra Big Data e machine learning ha reso l’IA protagonista e sfida del ventunesimo secolo, suscitando la nascita di interrogativi etico-giuridici in merito alla responsabilità giuridica dell’IA e le ripercussioni di processi decisionali automatizzati.
L’uso dell’IA, quale Data analyst per guidare comportamenti umani, comporta infatti nuove forme di trattamenti dei dati personali[2] e proprio in questo senso il tema dell’IA si intreccia con il problema della tutela dei diritti fondamentali e in particolare il diritto alla tutela dei dati personali[3].
Partendo da questa considerazione, appare allora utile ricercare le norme del Regolamento generale sulla protezione dei dati personali 2016/679 (GDPR) che trattano i processi decisionali automatizzati e provare a comprendere se e in che misura il GDPR fornisce risposte chiare e dirette in merito agli interrogativi attinenti la responsabilità giuridica dell’IA e alla regolamentazione de i processi decisionali automatizzati.
Al primo interrogativo sembrerebbe rispondere l’art. 4 del Regolamento, che al paragrafo 7 prevede che titolari del trattamento possono essere “la persona fisica o giuridica, l’autorità pubblica, il servizio o altro organismo che (…) determina le finalità e i mezzi del trattamento di dati personali”.
Una parte della dottrina ha ritenuto che la formulazione aperta della norma non parrebbe escludere a priori la possibilità che il titolare sia anche un sistema autonomo[4]. L’art. 4 è la base da cui partire per rispondere anche per comprendere la regolamentazione e le implicazioni dei processi decisionali automatizzati.
Il GDPR si occupa delle decisioni automatizzate definendo la profilazione “qualsiasi forma di trattamento automatizzato di dati personali consistente nell’utilizzo di tali dati personali per valutare determinati aspetti personali relativi a una persona fisica, in particolare per analizzare o prevedere aspetti riguardanti il rendimento professionale, la situazione economica, la salute, le preferenze personali, gli interessi, l’affidabilità, il comportamento, l’ubicazione o gli spostamenti di detta persona fisica” (art. 4 par. 4).
In tal senso l’ art. 22 par. 1, specifica poi che “l’interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione”[5].
La criticità del processo automatizzato si comprende laddove si considera non solo che le decisioni possono avvenire senza il coinvolgimento del lavoro umano, ma soprattutto che esse possono basarsi da dati ricavati da programmi (si pensi ai dati forniti dalla geolocalizzazione) o da profili creati precedentemente dall’interessato (quindi non solo dati forniti in via diretta per quello specifico trattamento).
Appare evidente, quindi, l’importanza dei problemi in merito alla reale portata dei diritti dell’interessato e alla determinatezza delle norme che li sanciscono. Sotto quest’ultimo profilo, parte della dottrina ha rilevato come le definizioni fornite dal GDPR in materia di profilazione sarebbero carenti quanto a determinatezza, risolvendosi in formule generiche e incapaci di fornire un quadro puntuale del trattamento automatizzato dei dati[6].
Conseguentemente, la carenza di determinatezza normativa mette a rischio gli stessi diritti alla protezione dei dati personali che lo stesso Regolamento riconosce, dal diritto a sapere chi sta trattando dati che riguardano una persona fisica a quello di poter conoscere le modalità automatizzate utilizzate.
Quanto al primo aspetto, come è stato riportato dagli studiosi dell’Oxford Institute, l’art. 22 soffre di una grave carenza laddove non menziona espressamente il diritto dell’interessato a essere informato sull’utilizzo del procedimento automatizzato[7]. Si è osservato come il diritto alla spiegazione descritto nel considerando 71 del GDPR[8], oltre ad essere una previsione giuridicamente non vincolante, sembra limitarsi alla generica informazione circa l’esistenza di un procedimento informatizzato.
L’importanza di questo assunto rileva in quanto difficilmente l’interessato potrà contestare una decisione non conoscendo il procedimento all’esito del quale è stata presa[9]. Benché l’art. 22 garantisca la possibilità di ottenere un intervento umano, ciò è possibile solo riguardo a processi esclusivamente automatizzati e nella misura in cui la decisione abbia effetti legali o “altri effetti significativi”.
Anche riguardo a questi due aspetti, l’Oxford Institute ha mosso critiche di oscurità sul significato da attribuire alla locuzione altri effetti significativi, oltre che di parzialità rispetto alla possibilità di azionare il diritto di ottenere l’intervento umano solo rispetto a procedimenti totalmente automatizzati e quindi privi di intervento umano in tutte le fasi.
Allo stesso tempo, però, si è osservato che il Regolamento impone severe restrizioni all’uso dell’IA nel trattamento dei dati personali. Come conseguenza potrebbero aumentare i costi e le difficoltà giuridiche dell’utilizzo dell’IA in una fase in cui la stessa Commissione europea ha annunciato piani per aumentare i finanziamenti e rendere disponibili più dati per l’uso dell’IA[10].
Tali restrizioni nascono tuttavia per affrontare i motivati timori che ancora permangono nel contemperare i benefici che l’Intelligenza artificiale può portare all’umanità e il rischio di elidere i valori e i diritti fondanti la nostra società[11]. Si comprende allora la volontà del GDPR di riaffermare l’importanza dell’individuo di fronte all’utilizzo di IA[12], benché molti restano ancora i profili problematici legati al tema del rapporto tra Intelligenza Artificiale (IA) e tutela della privacy.
[1] F. Sarzana di S. Ippolito, M. Nicotra, Diritto della Blockchain, Intelligenza Artificiale e IoT, IPSOA, 2018.
[2] F. Pizzetti, Intelligenza artificiale e salute: il sogno dell’immortalità alla prova del GDPR, in https://www.agendadigitale.eu/sicurezza/intelligenza-artificiale-e-salute-il-sogno-dellimmortalita-alla-prova-del-gdpr/.
[3] Sul punto, F. Pizzetti, Intelligenza artificiale, protezione dei dati personali e regolazione, Giappichelli, 2018.
[4] V. supra n. 1.
[5] La regola, tuttavia, soffre di alcune eccezioni in ordine a specifiche decisioni quali, per esempio, quelle basate sul consenso esplicito dell’interessato.
[6] Ex pluribus, L. Bolognini, Follia Artificiale, Rubettino, 2018.
[7] S. Wachter, B. Mittelstadt, L. Floridi, Why a Right to Explanation of Automated Decision- Making Does Not Exist in the General Data Protection Regulation, 2016.
[8] Considerando n. 71: L’interessato dovrebbe avere il diritto di non essere sottoposto a una decisione, che possa includere una misura, che valuti aspetti personali che lo riguardano, che sia basata unicamente su un trattamento automatizzato e che produca effetti giuridici che lo riguardano o incida in modo analogo significativamente sulla sua persona (..).In ogni caso, tale trattamento dovrebbe essere subordinato a garanzie adeguate, che dovrebbero comprendere la specifica informazione all’interessato e il diritto di ottenere l’intervento umano, di esprimere la propria opinione, di ottenere una spiegazione della decisione conseguita dopo tale valutazione e di contestare la decisione. Tale misura non dovrebbe riguardare un minore.
[9] V. supra n. 1.
[10] N. Wallace, The EU cannot shape the future of AI with regulation, in https://euobserver.com/opinion/142068.
[11] Sul punto, F. Pizzetti, Intelligenza artificiale, quali sfide per i Garanti Privacy, in https://www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-quali-sfide-per-i-garanti-privacy/.
[12] Sul punto si è espresso R. Panetta, Privacy by design e Gdpr: un’etica per l’Intelligenza artificiale, in https://www.agendadigitale.eu/sicurezza/privacy/privacy-by-design-e-gdpr-unetica-per-lintelligenza-artificiale/.
Dal 2018 collaboro con la cattedra di Informatica giuridica (ambito penale) presso la LUISS Guido Carli.
Dopo aver fatto un’esperienza in un rinomato studio legale internazionale a Roma, attualmente frequento un master in Diritto per l’Impresa a Milano.
', enableHover: false, enableTracking: true, buttons: { linkedin: { description: 'Intelligenza artificiale e tutela dei dati personali alla luce del GDPR',media: 'https://www.iusinitinere.it/wp/wp-content/uploads/2019/03/artificial-intelligence-2167835_1280.jpg' } }, click: function(api, options){ api.simulateClick(); api.openPopup('linkedin'); } }); });
Etichette: big datadatidati personaliGDPRiaintelligenza artificialetutela
L’impatto dell’IA sull’etica e sui diritti umani | Andrea Biraghi | Cyber Security News | Il Blog
[…] ancora i profili problematici legati al tema del rapporto tra Intelligenza Artificiale (IA) e tutela della privacy, laddove la carenza di determinatezza normativa mette a rischio gli stessi diritti alla protezione […]
Articolo successivo L’accesso dei cittadini extracomunitari alla sicurezza sociale: le clausole di parità
Articolo precedente Cass. Pen., Sez. VI, 1 ottobre 2018, n. 43287