Source: https://www.agendadigitale.eu/documenti/giustizia-digitale/algoritmi-nelle-procedure-amministrative-i-principi-da-rispettare-e-le-prospettive-future/
Timestamp: 2020-07-12 19:10:54+00:00
Document Index: 101699475

Matched Legal Cases: ['art. 1', 'art. 97', 'art. 22', 'art. 41', 'sentenza ', 'art. 42']

Algoritmi nelle procedure amministrative, i principi da rispettare e le prospettive future | Agenda Digitale
Procedure amministrative guidate, automatizzate, robotizzate: vediamo se è davvero possibile, dal punto di vista logico, giuridico e sistematico, ammettere l’uso generalizzato di tali sistemi da parte della PA
GDPR e Carta della robotica
Simile modalità operativa di gestione dell’interesse pubblico è senz’altro utile in procedure di tipo seriale o standardizzato, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili. Ma nulla vieta, rileva la Sezione, che anche le attività connotate da ambiti di discrezionalità[2], in specie tecnica, possano in astratto beneficiare delle efficienze e dei vantaggi offerti dagli strumenti algoritmici, la cui piena ammissibilità risponde ai canoni di efficienza ed economicità dell’azione amministrativa (ex art. 1 della legge 241/90), in ossequi al principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), che impone all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse.
Dunque, l’uso di una procedura informatica che conduce direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata, proprio in virtù dei numerosi vantaggi che comporta: la riduzione della tempistica dei procedimenti per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o dolo) del funzionario, la conseguente maggior garanzia di imparzialità della decisione automatizzata. Ma, sottolinea con fermezza la pronuncia in rassegna, l’utilizzo di procedure informatizzate non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa. In tale contesto, infatti, “il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta delle legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere”.
la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati: secondo tale direttrice, l’impossibilità di comprendere le modalità con le quali, attraverso il citato algoritmo, sia stata presa una determinata decisione, costituisce di per sé un vizio tale da inficiare la procedura;
il principio di conoscibilità, secondo il quale ognuno ha il diritto di conoscere l’esistenza di processi decisionali automatizzati che lo riguardino e a ricevere informazioni significative sulla logica utilizzata[4];
il principio di non esclusività della decisione algoritmica, sulla scorta del quale, nel caso in cui una decisione automatizzata “produca effetti giuridici che riguardano o che incidano significativamente su una persona”, questa ha diritto a che tale decisione non sia basata unicamente su tale processo automatizzato (art. 22 GDPR.). Deve infatti sempre esistere nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatica.
il principio di non discriminazione algoritmica[5], riconosciuto dal citato Regolamento UE 2016/679, volto ad arginare il rischio di trattamenti discriminatori per l’individuo che trovino la propria origine in una cieca fiducia nell’utilizzo degli algoritmi.
Tutti gli aspetti brevemente passati in rassegna richiedono, com’è evidente, un puntuale approfondimento ed un attento esame delle implicazioni presenti e degli sviluppi futuri. Una volta aperta la strada all’utilizzo di strumenti come quelli in esame, idonei cioè a supportare – e progressivamente sostituire – l’attività del funzionario umano nella valutazione di dati, elementi e fatti e nella conseguente loro valutazione, fino alla decisone finale, non pare inverosimile pensare che il passo successivo avrà a che fare con l’implementazione e l’introduzione di software sempre più avanzati, potenzialmente in grado di sostituire non solo l’operato di pubblici funzionari e operatori del diritto, ma anche quello dei giudicanti.
L’art. 41 del CAD sancisce l’introduzione, nel procedimento amministrativo, di modelli decisionali e forme gestionali innovative, prevedendo la possibilità di utilizzare le tecnologie dell’informazione e della comunicazione per assumere le decisioni. ↑
Nella sentenza in commento è infatti espressamente affermato “Né vi sono ragioni di principio, ovvero concrete, per limitare l’utilizzo all’attività amministrativa vincolata piuttosto che discrezionale, entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse”. ↑
GDPR – Regolamento generale sulla protezione dei dati (UE/2016/679) Articolo 22 – Processo decisionale automatizzato relativo alle persone fisiche, compresa la profilazione1. L’interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona.2. Il paragrafo 1 non si applica nel caso in cui la decisione:a) sia necessaria per la conclusione o l’esecuzione di un contratto tra l’interessato e un titolare del trattamento;b) sia autorizzata dal diritto dell’Unione o dello Stato membro cui è soggetto il titolare del trattamento, che precisa altresì misure adeguate a tutela dei diritti, delle libertà e dei legittimi interessi dell’interessato;c) si basi sul consenso esplicito dell’interessato.3. Nei casi di cui al paragrafo 2, lettere a) e c), il titolare del trattamento attua misure appropriate per tutelare i diritti, le libertà e i legittimi interessi dell’interessato, almeno il diritto di ottenere l’intervento umano da parte del titolare del trattamento, di esprimere la propria opinione e di contestare la decisione.
4. Le decisioni di cui al paragrafo 2 non si basano sulle categorie particolari di dati personali di cui all’articolo 9, paragrafo 1, a meno che non sia d’applicazione l’articolo 9, paragrafo 2, lettere a) o g), e non siano in vigore misure adeguate a tutela dei diritti, delle libertà e dei legittimi interessi dell’interessato. ↑
Si tratta di un principio formulato in maniera generale, dunque applicabile sia a decisioni prese da soggetti privati che da soggetti pubblici, anche se, nel caso in cui la decisione sia presa da una p.a., la norma del Regolamento costituisce diretta applicazione specifica dell’art. 42 della Carta Europea dei Diritti Fondamentali (“Right to a good administration”), laddove afferma che quando la Pubblica Amministrazione intende adottare una decisione che può avere effetti avversi su di una persona, essa ha l’obbligo di sentirla prima di agire, di consentirle l’accesso ai suoi archivi e documenti, ed, infine, ha l’obbligo di “dare le ragioni della propria decisione”. ↑
secondo cui è opportuno che il titolare del trattamento utilizzi procedure matematiche o statistiche appropriate per la profilazione, mettendo in atto misure tecniche e organizzative adeguate al fine di garantire, in particolare, che siano rettificati i fattori che comportano inesattezze dei dati e sia minimizzato il rischio di errori e al fine di garantire la sicurezza dei dati personali, secondo una modalità che tenga conto dei potenziali rischi esistenti per gli interessi e i diritti dell’interessato e che impedisca tra l’altro effetti discriminatori nei confronti di persone fisiche sulla base della razza o dell’origine etnica, delle opinioni politiche, della religione o delle convinzioni personali, dell’appartenenza sindacale, dello status genetico, dello stato di salute o dell’orientamento sessuale, ovvero che comportano misure aventi tali effetti. In questi casi occorrerebbe rettificare i dati in “ingresso” per evitare effetti discriminatori nell’output decisionale; operazione questa che richiede evidentemente la necessaria cooperazione di chi istruisce le macchine che producono tali decisioni. ↑