Algoritmo informatico e automazione del processo decisionale

Approfondimento sulla natura giuridica dell’algoritmo informatico e sull’automazione del processo decisionale.

Per approfondire, si consiglia il seguente volume che consente di cogliere i modi concreti in cui il diritto amministrativo opera e interviene sulle situazioni reali: Il diritto amministrativo nella giurisprudenza

1. La natura giuridica dell’algoritmo informatico

L’algoritmo informatico è stato definito dalla giurisprudenza amministrativa (Tar Campania n. 7003 del 2022) come una sequenza finita e ordinata di operazioni di calcolo che permettono di risolvere, in maniera determinata, un dato problema.
L’algoritmo è in grado di valutare e graduare una moltitudine di domande (Cons. Stato n.2270 del 2019).
Rispetto alla natura giuridica dell’algoritmo sono state prospettate, essenzialmente, due ricostruzioni. Una prima impostazione ha ritenuto che questi non sia altro che un atto amministrativo informatico, determinando così una sovrapposizione tra le due nozioni.
Questa soluzione sembra però non condivisibile, in quanto l’algoritmo non è altro che uno degli strumenti per formare un atto amministrativo informatico.
Si deve, pertanto, ritenere preferibile la tesi secondo la quale l’algoritmo è un modulo procedimentale, uno strumento organizzativo di cui la pubblica amministrazione si avvale per emettere la decisione finale (Cons. Stato n. 8472 del 2019).

2. La tesi dell’inammissibilità dell’algoritmo informatico

Secondo l’orientamento tradizionale sussiste una secca incompatibilità tra procedimento amministrativo e algoritmo informatico, in quanto l’utilizzo di tale strumento osterebbe all’applicazione di una serie di norme e di principi contenuti nella legge n. 241 del 1990. In particolare si è evidenziato che il procedimento amministrativo rappresenta il luogo di emersione dell’interesse pubblico e questi si delinea in base ad un confronto dialettico tra l’amministrazione e tutti i portatori di interessi pubblici e privati, anche secondari. A tal fine, si richiede all’autorità procedente di coinvolgere gli interessati attraverso l’invio della comunicazione di avvio del procedimento (art. 7 L. n. 241 del 1990), è prevista la necessità di individuare il responsabile del procedimento, cui affidare l’istruttoria (artt. 5 e 6 L. n. 241 del 1990) e, infine, è sancito l’obbligo di motivare il provvedimento (art. 3 L. n. 241 del 1990), al fine di rendere note le ragioni logico-giuridiche che hanno portato l’amministrazione ad adottare una determinata decisione, all’esito del confronto dialettico tra le parti.
Ove si facesse ricorso all’algoritmo informatico, secondo questa impostazione, sarebbe tutto affidato ad un software, così relegando l’amministrazione ad un freddo calcolatore, in quanto il provvedimento risulterebbe il prodotto di calcoli asettici della macchina. Tutto ciò frustrerebbe le esigenze di trasparenza, il principio della partecipazione, nonché osterebbe al dialogo, in seno al procedimento, tra le parti.

3. La tesi favorevole all’uso degli strumenti digitali

Secondo la ricostruzione più recente, che prende consapevolezza della rivoluzione digitale ancora in atto, deve essere ammesso l’utilizzo di questo modulo procedimentale, in quanto ne vanno valorizzate le potenzialità ed i benefici.
Il ricorso agli algoritmi è infatti vantaggioso in termini di efficienza, imparzialità ed economicità, pertanto è del tutto compatibile con i principi generali dell’attività amministrativa (art. 1 L. n. 241 del 1990), anzi consente di correggere le storture e le imperfezioni che caratterizzano le scelte umane.
Lo stesso Consiglio di Stato ha sottolineato come non possa essere messo in discussione il fatto che un più elevato livello di digitalizzazione renda migliore la qualità dei servizi e risponda ai canoni di efficienza ed economicità. Per queste ragioni l’utilizzo della procedura informatica non deve essere stigmatizzato, ma incoraggiato (Cons. Stato n. 8472 del 2019).
L’utilità di questa modalità operativa di gestione dell’interesse pubblico risulta ancor più evidente quando vengono in rilievo procedure seriali o standardizzate, visto che l’utilizzo dell’algoritmo comporta la notevole riduzione dei tempi per lo svolgimento di operazioni ripetitive, l’esclusione di interferenze dovute alla negligenza del funzionario e una maggiore garanzia di imparzialità della decisione automatizzata (Cons. Stato n. 2270 del 2019).

4. I requisiti di compatibilità dell’algoritmo informatico con i principi dell’azione amministrativa

L’utilizzo di procedure “robotizzate” non può, però, rappresentare lo strumento per eludere i principi e le regole che governano l’azione amministrativa. La generale e astratta ammissibilità di questi strumenti è, infatti, subordinata alla presenza di una serie di requisiti e condizioni.
Ai fini della trasparenza, è richiesta la piena conoscibilità, a monte, del modulo procedimentale utilizzato e, a valle, dei criteri applicati. Questa piena conoscibilità implica la comprensione del meccanismo e quindi della regola informatica e tecnica, la quale infatti deve essere tradotta in regola giuridica.
La possibilità di avvalersi di un software non può poi essere uno “escamotage” per escludere la responsabilità della pubblica amministrazione. A tal fine, condizione di ammissibilità della decisione automatizzata è che questa possa essere imputata all’amministrazione che procede, con l’effetto di negare legittimità alle determinazioni basate esclusivamente sull’impiego di algoritmi. Tale esigenza trova espressione nell’enunciazione del principio di non esclusività della decisione algoritmica, in forza del quale la presenza dell’intervento umano è imposta in una pluralità di momenti dell’iter procedimentale: in primo luogo, nel momento della fissazione dei criteri, i quali devono essere ragionevoli e non discriminatori, poiché la discrezionalità non può essere demandata ad un software, ma deve essere esercitata dall’amministrazione nella fase di elaborazione del criterio di calcolo; in seguito, a valle del procedimento automatizzato, essendo l’amministrazione chiamata a verificare il corretto operare dell’algoritmo, al fine di decidere se fare proprio o meno il risultato del suo operare, quale passaggio preliminare all’adozione e alla motivazione del provvedimento finale.
Proprio alla luce di queste ultime considerazioni, risulta necessario individuare il responsabile del procedimento, il quale sarà chiamato a svolgere le suddette attività, previa trasmissione della comunicazione di avvio del procedimento e confronto con gli interessati coinvolti dalla decisione automatizzata.
Da quanto detto si evince inoltre che l’algoritmo non può rappresentare uno strumento per eludere ed escludere la responsabilità dell’amministrazione, per come statuisce anche la Carta della Robotica, approvata dal Parlamento Europeo nel 2017, che sancisce la necessità di un intervento umano, in grado di verificare la logicità della decisione elaborata dall’algoritmo, visto che è del tutto illogico far ricadere qualche tipo di responsabilità su un robot.
Dal momento che la decisione finale viene controllata dall’amministrazione e quindi ad essa imputata, è soggetta ad un pieno sindacato del giudice amministrativo, al quale è demandato il compito di valutare la correttezza del procedimento automatizzato in tutte le sue componenti, nonché la logicità e la ragionevolezza della decisione robotizzata (Cons. Stato n. 2270 del 2019).
Alla luce dei principi dettati in materia dalla prevalente giurisprudenza, l’utilizzo degli algoritmi informatici è consentito e va incoraggiato non solo in presenza di attività amministrativa vincolata, ma anche ove venga in rilievo l’attività discrezionale.
La discrezionalità infatti può essere esercitata a monte, previo confronto con gli interessati, nella fissazione dei criteri di calcolo e di funzionamento del software.
A tal punto, è possibile riassumere i principi al cui rispetto è subordinata l’utilizzabilità dell’intelligenza artificiale nell’ambito dell’attività della P.A.:
a) conoscibilità e comprensibilità dell’algoritmo;
b) non discriminazione nella costruzione dell’algoritmo;
c) non esclusività della decisione algoritmica (c.d. riserva d’umanità).
Sul piano processuale, fondamento e corollario di tali principi è l’obbligo di garantire l’assoluta equivalenza della tutela giurisdizionale tra decisione algoritmica e decisione umana (c.d. effetto utile).
I predetti tre principi, inizialmente individuati dalla giurisprudenza, hanno poi trovato trasposizione normativa nell’art. 30, comma 3, del d.lgs. 31 marzo 2023, n. 36 (nuovo codice dei contratti pubblici), in tema di “uso di procedure automatizzate nel ciclo di vita dei contratti pubblici”.

5. Le conclusioni

Si può affermare come, in via di principio, non vi siano preclusioni assolute all’uso dell’algoritmo informatico in ambito amministrativo, a condizione però che esso si ponga al servizio dell’uomo e giammai in sua sostituzione.
In coerenza con questa direttrice di fondo, la giurisprudenza amministrativa ritiene incompatibile l’utilizzo delle “machine learning” con il procedimento amministrativo, specie ove si tratta di macchine non auto-esplicanti, perché non consentono all’uomo di comprendere il loro funzionamento e i meccanismi attraverso i quali elaborano le proprie decisioni, impedendo, così, ogni possibile forma di effettivo controllo da parte tanto dell’amministrazione che del giudice amministrativo.