L’intelligenza artificiale nel procedimento amministrativo

1. Intelligenza artificiale

Per intelligenza artificiale si intende una disciplina che si occupa di sistemi software, spesso in combinazione con hardware, che, dato un determinato obiettivo complesso, sono in grado di agire nella dimensione fisica o virtuale, in modo da percepire l’ambiente che li circonda, di acquisire e interpretare dati, ragionare sulle conoscenze acquisite, e formulare decisioni, basate sulle evidenze raccolte e sulle migliori azioni da svolgere per raggiungere un obiettivo prefissato, anche in situazioni non esplicitamente previste a priori.

L’uso dell’IA modifica profondamente i rapporti tra i diversi soggetti pubblici e privati incidendo, tra l’altro, sul mercato del lavoro, sulla distribuzione del reddito e sul settore della pubblica amministrazione[1]. L’intelligenza artificiale ha ridisegnato i confini dello spazio di lavoro virtuale che consente sempre più l’utilizzo dello smart working[2]. Basti pensare, solo a titolo di esempio, al machine learning utilizzato per migliorare la produttività del dipendente. Gli algoritmi di intelligenza artificiale permettono, infatti, di offrire informazioni personalizzate a ciascun membro dell’organizzazione sulla base delle attività svolte.

Il ruolo svolto dalle tecnologie innovative in sostanza è cresciuto progressivamente negli ultimi decenni, fino a diventare parte integrante della vita di tutti e ad entrare prepotentemente anche nel mondo del diritto.

2. I riflessi sul diritto

Frutto di sistemi di intelligenza artificiale sono gli smart contract, ovvero quei contratti che si concludono attraverso l’utilizzo di software che determinano la nascita di rapporti obbligatori[3]. Alcuni esempi di smart contract si rinvengono nel mercato degli e commerce, in cui il sistema di compravendite viene gestito tramite procedure automatizzate, senza che le parti entrino in contatto diretto. Nel settore degli autoveicoli, poi, le automobili sono in grado di fornire informazioni sui comportamenti del conducente potenzialmente idonei a creare clausole contrattuali capaci di incidere sul costo della polizza.

3. L’ ingresso nel procedimento amministrativo

Nel campo del diritto amministrativo vi sono dei casi in cui l’esercizio del potere avviene attraverso procedure automatizzate che, tramite un algoritmo sono in grado di emanare provvedimenti amministrativi.

La giurisprudenza ha già affrontato questioni in cui l’uso di nuove tecnologie rimette all’intelligenza artificiale la cura concreta dell’interesse pubblico. Con la sentenza 2270 dell’8 aprile 2019 il Consiglio di Stato dimostra di considerare positivamente l’uso nei procedimenti amministrativi delle nuove tecnologie informatiche e, in particolare, di algoritmi purché coerenti con i principi di efficienza ed economicità dell’azione amministrativa e con il principio costituzionale del buon andamento. In tale contesto il giudice amministrativo ha precisato che possono essere utilizzati algoritmi nelle procedure valutative della P.A. a patto che siano garantite trasparenza e possibilità di verifica in sede giurisdizionale[4]. L’uso di algoritmi e di procedure automatizzate deve essere considerato a tutti gli effetti come un “atto amministrativo informatico” poiché regola amministrativa costruita dall’uomo e, in quanto tale, necessariamente sottostante a principi di ragionevolezza, proporzionalità, pubblicità e trasparenza. In ogni caso gli algoritmi non possono essere usati per decisioni aventi natura prettamente discrezionale e devono comunque essere sottoposti “al pieno sindacato del giudice amministrativo”.

Più recentemente il Consiglio di Stato ha affermato con sentenza n. 8472 del 2019

la possibilità di affidare il procedimento di formazione della decisione amministrativa a un software, nel quale vengono immessi una serie di dati così da giungere, attraverso l’automazione della procedura, alla decisione finale. I giudici riconoscono l’utilità di tale modalità operativa di gestione dell’interesse pubblico, particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale.

Il ricorso all’algoritmo nel procedimento amministrativo, pienamente ammissibile, deve correttamente essere inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta della legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere. Data la generale ammissibilità dell’algoritmo nell’esercizio dell’attività amministrativa, assumono rilievo fondamentale due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica come la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati e l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.

Anche la pubblica amministrazione deve in sostanza poter sfruttare le rilevanti potenzialità della c.d. rivoluzione digitale. In tale contesto, il ricorso ad algoritmi informatici per l’assunzione di decisioni che riguardano la sfera pubblica e privata si fonda sulla possibilità di garantire efficienza e neutralità. In molti campi, infatti, gli algoritmi sembrano rappresentare lo strumento attraverso il quale correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani, messi in luce soprattutto negli ultimi anni da un’imponente letteratura di economia comportamentale e psicologia cognitiva. In tale contesto, le decisioni prese dall’algoritmo assumono un’aura di neutralità, frutto di asettici calcoli razionali basati su dati[5].

4. Conclusioni: la disciplina sovranazionale

I vantaggi sembrano, dunque, essere notevoli, ma non va dimenticato che in relazione ai soggetti coinvolti si pone anche un problema di gestione dei relativi dati. Nelle attività di trattamento dei dati personali possono essere individuate due differenti tipologie di processi decisionali automatizzati: quelli che contemplano un coinvolgimento umano e quelli che, al contrario, affidano al solo algoritmo l’intero procedimento. Il più recente Regolamento europeo in materia  di protezione dei dati personali (2016/679), concentrandosi su tali modalità di elaborazione dei dati, integra la disciplina già contenuta nella Direttiva 95/46/CE con l’intento di arginare il rischio di trattamenti discriminatori per l’individuo che trovino la propria origine in una fiducia esclusiva  nell’utilizzo degli algoritmi. In particolare, in maniera innovativa rispetto al passato, gli artt. 13 e 14 del Regolamento stabiliscono che nell’informativa rivolta all’interessato venga data notizia dell’eventuale esecuzione di un processo decisionale automatizzato, sia che la raccolta dei dati venga effettuata direttamente presso l’interessato sia che venga compiuta in via indiretta.

Una garanzia di particolare rilievo viene riconosciuta allorché il processo sia interamente automatizzato essendo richiesto, almeno in simili ipotesi, che il titolare debba fornire “informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato”. In questo senso, in dottrina è stato fatto notare come il legislatore europeo abbia inteso rafforzare il principio di trasparenza che trova centrale importanza all’interno del Regolamento.

In tema di imputabilità va, poi,  richiamata la Carta della Robotica, approvata nel febbraio del 2017 dal Parlamento Europeo, secondo la quale “l’autonomia di un robot può essere definita come la capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un’influenza esterna;  tale autonomia è di natura puramente tecnologica e il suo livello dipende dal grado di complessità con cui è stata progettata l’interazione di un robot con l’ambiente; nell’ipotesi in cui un robot possa prendere decisioni autonome, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati da un robot, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati”. Quindi, anche al fine di applicare le norme generali e tradizionali in tema di imputabilità e responsabilità, occorre garantire la riferibilità della decisione finale all’autorità ed all’organo competente in base alla legge attributiva del potere.

In conclusione l’uso degli algoritmi è sicuramente utile e anzi auspicabile, ma deve necessariamente tener conto di diversi limiti in grado di tutelare tutti gli interessi coinvolti.

Volume consigliato

Note

[1] L’Agenzia per l’Italia digitale ha svolto un lavoro di ricognizione delle sfide principali che riguardano la modernizzazione della pubblica amministrazione nell’era dell’intelligenza artificiale. Il documento di riferimento è il Libro bianco dell’AgiD (“Intelligenza artificiale al servizio del cittadino: sfide e opportunità”, 2018, in https://ia.italia.it/assets/librobianco.pdf), che contiene raccomandazioni e indicazioni su come sfruttare al meglio le opportunità offerte dall’intelligenza artificiale per sviluppare servizi pubblici sempre più a misura di cittadino, limitandone criticità e aspetti problematici.

[2] L. Fiorillo, A. Perulli, (a cura di) Il jobs act del lavoro autonomo e del lavoro agile, Giappichelli, 2018.

[3] Ai sensi dell’art. 8 ter del decreto legge 14 dicembre 2018, n. 135 (“Recante disposizioni urgenti in materia di sostegno e semplificazione per le imprese e per la pubblica amministrazione”), convertito con modificazioni dalla legge 11 febbraio 2019, n. 12 si definisce “smart contract” un programma per elaboratore che opera su tecnologie basate su registri distribuiti e la cui esecuzione vincola due o più parti sulla base di effetti predefiniti dalle stesse. Gli smart contract soddisfano il requisito della forma scritta previa identificazione informatica delle parti interessate attraverso un processo avente i requisiti fissati dall’Agenzia per l’Italia digitale con linee guida (…).

[4] Il casus belli riguardava le doglianze avanzate da alcuni docenti di scuola secondaria a seguito della loro assegnazione presso sedi di servizio sulla base delle risultanze di un algoritmo criptico che non rendeva trasparenti i criteri alla base della scelta. Nella sentenza in esame il Consiglio di Stato ha chiarito che l’uso di algoritmi e di procedure automatizzate debba essere considerato a tutti gli effetti come un «atto amministrativo informatico» poiché regola amministrativa costruita dall’uomo e, in quanto tale, dovrà necessariamente sottostare a principi di ragionevolezza, proporzionalità, di pubblicità e trasparenza. In ogni caso gli algoritmi non potranno essere usati per decisioni aventi natura prettamente discrezionale e dovranno comunque essere sottoposti «al pieno sindacato del giudice amministrativo».

[5] Gli stessi giudici, tuttavia, evidenziano che l’impiego di tali strumenti comporta in realtà una serie di scelte e di assunzioni tutt’altro che neutre: l’adozione di modelli predittivi e di criteri in base ai quali i dati sono raccolti, selezionati, sistematizzati, ordinati e messi insieme, la loro interpretazione e la conseguente formulazione di giudizi sono tutte operazioni frutto di precise scelte e di valori, consapevoli o inconsapevoli; da ciò ne consegue che tali strumenti sono chiamati ad operare una serie di scelte, le quali dipendono in gran parte dai criteri utilizzati e dai dati di riferimento utilizzati, in merito ai quali è apparso spesso difficile ottenere la necessaria trasparenza.