Sulle criticità sollevate dai procedimenti amministrativi automatizzati

Sommario: 1. Verso una progressiva “datafication” dei processi decisionali della P.A.: cenni sullo stato dell’arte; 2. Il “caso di scuola” della procedura di mobilità dei docenti “nelle mani di un pilota automatico”; 3. Il Consiglio di Stato sulle condizioni di legittimità del ricorso agli algoritmi quali nuove regole giuridiche; 3.1. Piena conoscibilità e non discriminazione: la declinazione rafforzata del c.d. principio di trasparenza, 3.2. Portata innovatrice della motivazione.

1.      Verso una progressiva “datafication” dei processi decisionali della P.A.: cenni sullo stato dell’arte

Con sentenza n. 8811, datata 4 febbraio 2020, il Consiglio di Stato arricchisce di un ulteriore tassello il mosaico giurisprudenziale chiarificatore del processo di ridefinizione dell’attività amministrativa in chiave “robotizzata”. Sia pure con la cautela dovuta alla consapevolezza della precarietà e non definitività degli approdi raggiunti in proposito, il presente contributo mira ad intercettare le più cogenti preoccupazioni giuridiche sollevate dalla pervasiva invasione dei percorsi decisionali giudiziari ad opera degli strumenti algoritmici. È indubbia l’ottica di favor che permea la progressiva digitalizzazione del sistema amministrativo, secondo il principio c.d. “digital first”. Il primo riscontro positivo è segnato dal Codice dell’amministrazione digitale (c.d. C.A.D., d.lgs. n. 82 del 2005, e successive integrazioni e modifiche apportate dal d. lgs. n. 217 del 2017), nel cui solco si inquadrano anche le più recenti novità introdotte in materia di identità digitale (SPID) attribuita a ciascun cittadino, attraverso il d.lgs. n. 179 del 2016, attuativo della delega contenuta nell’art. 1 l. 7 agosto 2015, n. 124. Tuttavia, giova anteporre un’utile precisazione e, ossia, che è opportuno mantenere nitidamente separati i casi in cui gli algoritmi siano adoperati in processi computazionali come quello in sede di apposizione o verifica della firma digitale e della marca temporale[1] o ancora nel riconducibili al tentativo di sperimentare rinnovati schemi di esternazione della volontà da parte delle amministrazioni, da altri invece contraddistinti dal vero e proprio impiego dello strumento informatico affinché lo stesso esplichi ex se la funzione decisoria (da cui l’espressione coniata in dottrina di “e-government” o anche efficacemente qualificata come “rivoluzione 4.0”). La possibilità che il supporto informatico – spogliato del suo ruolo autenticamente strumentale e sussidiario – cessi di fungere da mero strumento posto a corredo delle valutazioni umane per sostituirsi in toto alle stesse, in rapporto al momento di estrinsecazione della funzione amministrativa, non può costituire motivo di elusione dei principi fondamentali della materia. Resta pur sempre fermo il potere-dovere per il giudice amministrativo di sindacare se i criteri, i presupposti e gli esiti raggiunti dal procedimento robotizzato siano effettivamente conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione ex ante. Sindacato di cui necessitano tanto più le ipotesi (come quella in esame) in cui il contenuto dell’atto gravato avrebbe inciso su situazioni giuridiche soggettive, quindi potenzialmente compromesse dal ricorso a soluzioni puramente meccanicizzate.

A tal riguardo, la natura del potere esercitato assumerebbe prima facie il ruolo di spartiacque: è logico che i profili di maggiore criticità sembrerebbero imbrigliare le decisioni della P.A. che risultino connotate da margini di apprezzamento discrezionale, sia pur minimali. Al contrario, l’automazione del procedimento si rivelerebbe particolarmente vantaggiosa in ipotesi di attività che, in quanto vincolate, presuppongono un assetto di interessi interamente definito e demandato alla norma di legge. Tuttavia, come si vedrà, per quanto il ricorso agli algoritmi consenta di correggere le imperfezioni e le storture che inevitabilmente accompagnano i processi cognitivi umani, apportando una serie di positive ricadute in termini di economicità, efficacia, efficienza e qualità dell’azione amministrativa, la letteratura specialistica e i più recenti arresti giurisprudenziali escludono in entrambe le ipotesi che possa offrirsi loro incondizionato accoglimento all’interno del sistema amministrativo, per come tradizionalmente concepito e strutturato[2]. La querelle giurisprudenziale ha investito principalmente il piano della piena ed effettiva conoscibilità e accessibilità dei dati immessi, dell’algoritmo utilizzato e del relativo modus operandi. Il c.d. principio di trasparenza che deve perciò presiedere all’utilizzo della regola algoritmica immessa nel processo a sua volta impone di verificare, quale suo diretto precipitato logico, la possibilità per il giudice amministrativo di sindacare la correttezza della procedura e del provvedimento finale in tutte le sue componenti (inclusa la regola giuridica sottesa all’algoritmo). Inoltre, detto principio si proietta nella condizione dei medesimi soggetti incisi dall’atto di conoscere le modalità attraverso cui sia stata assunta una decisione destinata a ripercuotersi sulla loro sfera giuridica, atteggiandosi come declinazione rafforzata del diritto di difesa (art. 24 Cost). In definitiva, sulla scorta di siffatte premesse, la riflessione dei giudici si è appuntata attorno all’an ed al quomodo con cui dovrebbe compiersi l’adeguamento dei classici principi regolatori dell’azione amministrativa, una volta al cospetto del rinnovato scenario dominato da intelligenze artificiali. Tale discussione finisce per intersecare inevitabilmente anche l’ulteriore quesito concernente la delimitazione degli spazi di liceità entro i quali è consentita la sostituzione di codici alfanumerici ai compiti altrimenti assolti dal decisore pubblico.

Volume consigliato

2.      Il “caso di scuola” della procedura di mobilità dei docenti “nelle mani di un pilota automatico”

L’arresto oggetto di studio merita particolare attenzione tanto per la suggestione del tema affrontato, quanto per la rilevanza sistematica delle conclusioni raggiunte da parte dei giudici del supremo organo di giustizia amministrativa. La vicenda da cui origina la controversia trae le mosse dalla nota decisione del Ministero dell’Istruzione, dell’Università e della Ricerca (M.I.U.R.) di “delegare” la concreta attuazione delle procedure di mobilità[3] contenute nel piano straordinario di assunzioni a tempo indeterminato di personale docente per le istituzioni scolastiche statali di ogni ordine e grado (di cui viene fatta menzione nel testo della legge 13 luglio 2015 n. 107, meglio conosciuta come riforma «Buona Scuola») a sistemi di calcolo interamente automatizzati (i.e. software dell’algoritmo adoperato dal Ministero). Il fatto si colloca al centro del nascente filone giurisprudenziale che approfondisce il tema dei rapporti tra intelligenze artificiali e procedimento amministrativo[4]. Nella fattispecie, i ricorrenti hanno articolato le relative doglianze incentrandole prevalentemente sull’assunto secondo cui l’amministrazione scolastica – “abdicando” dalle relative funzioni amministrative provvedimentali in favore degli input impartiti da quello che potrebbe definirsi un vero e proprio “pilota automatico” – avrebbe di fatto arrecato un pregiudizio ai docenti, dal momento in cui gli stessi sono risultati assegnatari di classi di concorso e ordine di scuola presso cui non avevano mai lavorato, senza tener conto delle preferenze espresse dagli interessati e pur in presenza di posti disponibili nelle province indicate. La spregiudicata autonomia creativa sottesa all’operato delle formule aritmetiche avrebbe così condotto – a detta dei ricorrenti – a risultati aberranti ed irrazionali. Difatti, gli output decisionali, dalle chiare “tinte” discriminatorie in quanto sforniti di qualsivoglia logica motivazionale e meritocratica, hanno reso possibile l’assegnazione degli insegnanti titolari di punteggi maggiori presso sedi di servizio non ambite e, ad ogni modo, lontane dalla relativa residenza. Sulla scorta di quanto precede, i ricorrenti[5] hanno agito dinanzi al T.A.R. Lazio per l’annullamento dei richiamati provvedimenti conclusivi della procedura di mobilità nazionale. A fondamento della domanda, sul presupposto di un asserito deficit di chiarezza ed accessibilità alle regole che governano l’algoritmo oggetto di gravame, è stata addotta perciò la violazione dei principi promananti dall’art. 97 Cost. (sul c.d. buon andamento), in quanto dagli atti adottati nella procedura concorsuale non era dato comprendere la motivazione che ha condotto alla disposta assegnazione; contestualmente e per le stesse ragioni, gli istanti hanno ritenuto di aver subito anche un grave vulnus del relativo diritto di difesa. Il Giudice di primo grado – nell’accogliere integralmente le doglianze formulate dai ricorrenti – ha ricalcato il portato motivazionale di altri recenti pronunce dei T.A.R. in materia di ricorsi analoghi, ritenendo che nel caso concreto l’impersonale meccanismo informatico avesse finito per soppiantare l’attività cognitiva, acquisitiva e di giudizio della tipica e garantistica istruttoria procedimentale, ciò rendendola del tutto «orfana delle capacità valutazionali» che devono pur sempre informare l’attività amministrativa. Il giudice del T.A.R. ha così censurato l’illegittimità dell’operato dell’amministrazione scolastica, a cagione dell’intervenuta obliterazione di elementi istruttori importanti (tra cui quelli afferenti alle situazioni personali dei partecipanti alla procedura selettiva) ed essendo apparso al decidente in completo stridore con il fondamentale principio della strumentalità del ricorso all’informatica nel procedimento amministrativo[6]. La pronuncia de qua e i suoi precedenti offrono un importante spunto per ribadire, ancora una volta, l’imprescindibile centralità del ruolo che dovrebbe assumere il funzionario persona fisica, quale dominus del procedimento amministrativo.

3.      Il Consiglio di Stato sulle condizioni di legittimità del ricorso agli algoritmi quali nuove regole giuridiche

L’indagine giuridica attinente alla trasposizione dei modelli algoritmici nelle sedi del procedimento amministrativo è stata ripresa nel giudizio innanzi al Consiglio di Stato. La censura fatta valere in grado d’appello dal M.I.U.R. gravita, sostanzialmente, attorno alla ritenuta manifesta infondatezza del provvedimento del primo giudice nella parte in cui assume che il procedimento adottato dall’amministrazione scolastica sarebbe risultato viziato a motivo della disparità di trattamento patita dai docenti appartenenti alle varie fasi della mobilità.

 I Giudici di Palazzo Spada, nel merito, hanno accertato e dichiarato l’infondatezza dell’appello, addivenendo alle medesime conclusioni poste a sostegno della decisione di prime cure, tuttavia, fondandole su di un diverso e più solido impianto motivatorio, arricchito peraltro di nuove considerazioni del tutto trascurate anche in occasione di analoghi precedenti dal medesimo Collegio. La sentenza muove dall’indefettibile premessa di fondo secondo cui l’utilizzo di procedure informatiche da parte della P.A. non andrebbe stigmatizzata, bensì incoraggiata, proprio alla luce delle rilevanti potenzialità (i.e., in special modo, guadagni in termini di efficienza e neutralità) ascrivibili alla c.d. rivoluzione digitale, di cui in parte si è già avuto modo di trattare. Le istanze moderniste mettono in luce le utilità di tali meccanismi specialmente in riferimento a procedure (come quella oggetto di contenzioso) che sogliono essere definite «seriali o standardizzate», giacché presupponenti il vaglio e la concretizzazione di dati certi ed oggettivi.

Orbene, la pronuncia del Collegio si apre anzitutto con la disamina dei requisiti di legittimità e trasparenza, il rispetto dei quali consentirebbe l’inquadramento dell’attività automatizzata di raccolta e valutazione dei dati alla stregua di un ordinario strumento procedimentale ed istruttorio, come tale assoggettabile alle verifiche tipiche di ogni procedimento amministrativo[7]. Con ciò il Cds sembra porsi, dunque, in linea di continuità con la precedente giurisprudenza di merito che aveva ricalcato a più riprese la necessità di considerare l’algoritmo a tutti gli effetti come un “atto amministrativo”, seppure di tipo informatico. Un aspetto che, tuttavia, merita particolare attenzione riguarda il fatto che i giudici, per la prima volta, antepongono a siffatte consolidate argomentazioni una valutazione che sovverte, per così dire, i classici stilemi su cui si improntavano le tesi (dottrinarie, in particolar modo) orientate a distinguere tra aree rigide ed aree flessibili dell’azione amministrativa. In particolare, il Consiglio di Stato – dubitando in principio della stessa sostenibilità dell’attualità di una tal distinzione – sul presupposto che la necessità di un accertamento e della verifica della scelta ai fini attribuiti dalla legge accomuna in fin dei conti ogni attività autoritativa – sottolinea che «[non] vi sono ragioni di principio, ovvero concrete, per limitare l’utilizzo all’attività amministrativa vincolata piuttosto che discrezionale, entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse». Una volta inquadrata la questione nei termini suddetti, i giudici stilano un vero e proprio decalogo, enunciando le regole fondamentali e gli elementi di minima garanzia che devono presiedere ogni ipotesi di utilizzo degli algoritmi in sede decisoria pubblica.

3.1.  Piena conoscibilità e non discriminazione: la declinazione rafforzata del c.d. principio di trasparenza

Nel dettaglio, il Collegio rimarca, prima di tutto, la perentorietà di taluni principi generali dell’azione amministrativa, di derivazione sovranazionale, postulanti rispettivamente: «la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati [nonché] l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo». Il riferimento, perciò, è al c.d. principio di trasparenza, concepito quale valore di “conoscibilità esterna” dell’azione amministrativa da parte degli interessati e dei destinatari degli atti, che consente di disvelarne i meccanismi e di rendere partecipi i cittadini, in misura tale da garantire loro un controllo costante a che il procedimento si svolga nel rispetto dei loro interessi e in ossequio al principio di imparzialità[8]. Un tale criterio, direttivo dell’agire procedimentalizzato degli apparati pubblici e a sua volta corollario del principio di pubblicità di cui all’art. 1 co. 1 l. n. 241/90, trasposto in un contesto d’analisi informatizzato, riceve una tutela rafforzata giacché estesa alle regole espresse in un linguaggio differente da quello giuridico (i.e. tecnico-informatico). Pertanto, è compito dell’amministrazione rendere conoscibili una serie di aspetti idonei a soddisfare l’esigenza di un controllo democratico da parte dei privati: «dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti», senza che a ciò osti la peculiare caratterizzazione multidisciplinare dell’algoritmo, in grado di involgere competenze appartenenti a plurime aree del sapere (non solo giuridico).

Su questo punto, il Collegio reputa indispensabile il richiamo, altresì, alle fondamentali regole vigenti in materia di trattamento e gestione dei dati personali degli interessati dalla procedura algoritmica. Tali regole, infatti, condizionano inevitabilmente la corretta applicazione dei principi ispiratori del procedimento amministrativo. Nel contesto del nuovo strumento vigente nella normativa eurounitaria in materia (Regolamento (Ue) 2016/679 o, breviter, GDPR) il principio di trasparenza, ulteriormente rafforzato dal legislatore europeo, è stato ridisegnato dagli artt. 13-14 del Regolamento in parola, a tenore dei quali è sancito l’obbligo in capo al titolare del trattamento di fornire all’interessato informazioni circa «l’esistenza di un processo decisionale automatizzato (e con esso di) informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato» (cfr. art. 13 co. 2 lett. f). Principio ulteriormente declinato nelle forme del “right to a good administration“, di cui all’art. 42 della Carta europea dei diritti fondamentali. A tali norme si giustappone l’art. 15, Regolamento citato (rubricato “diritto di accesso dell’interessato”) che, a detta del Consiglio di Stato, vanterebbe il pregio di aver sostituito alla configurazione di un obbligo in capo al titolare del trattamento, la previsione di un diritto direttamente azionabile da parte dell’interessato, la cui posizione soggettiva è accresciuta dalla possibilità di avere accesso ai dati che riguardino la sua persona, in specie nei casi in cui il relativo trattamento sia sfociato in una decisione finale[9]. In altri termini, l’art. 15 realizza, in ambito eurounitario, quel passaggio dal “bisogno di conoscere” al “diritto di conoscere” (from need to right to know, secondo la definizione inglese del F.O.I.A.)[10]. Pertanto, il principio di trasparenza si connota oggi non più nella forma “proattiva” (mediante pubblicazione obbligatoria sui siti web delle amministrazioni interessate di dati e notizie indicati dalla legge), bensì nella sua connotazione “reattiva”, cioè in risposta alle istanze di conoscenza avanzate dai cittadini (art. 1 d.lgs. 33 del 2013, come aggiornato in forza del d.lgs. n. 97/2016).

L’ultimo passaggio argomentativo della rivoluzionaria sentenza del Consiglio di Stato affronta il tema della imputabilità e riferibilità degli esiti dei meccanismi automatizzati e, perciò, della conseguente responsabilità della P.A in relazione agli effetti prodotti dal provvedimento finale. Sul punto, i giudici osservano che le tecnologie basate sull’intelligenza artificiale – non limitandosi  a  seguire  fedelmente  le  istruzioni  del  programmatore,  ma  inventando soluzioni e percorsi inediti – rendono difficilmente esigibile dalla P.A. un comportamento diverso da quello dannoso e non consentono di stabilire su quale soggetto debba incombere l’obbligo risarcitorio. Tali conclusioni, cui il Collegio giunge attraverso il richiamo alla Carta della Robotica (approvato dal Parlamento Europeo nel 2017), trovano conforto in principi generali quali, accanto al già ampiamente descritto principio di trasparenza, quelli di non esclusività (art. 22 GDPR) e di non discriminazione (considerando n. 71 del GDPR) della decisione algoritmica.

3.2.  Portata innovatrice della motivazione

Alla luce di siffatti principi generali, ferma restando la necessità di operare in un’ottica di bilanciamento degli stessi con le istanze di efficienza, ispiratrici della progressiva informatizzazione della P.A. e protese verso l’obiettivo di un maggior snellimento e procedimentalizzazione dell’iter, il Consiglio di Stato respinge il gravame proposto dal Ministero che – con atto di appello – si era limitato ad argomentare esclusivamente della presunta «coincidenza fra la legalità e le operazioni algoritmiche». Al contrario, precisa il Collegio, detta coincidenza abbisogna di essere sempre corroborata ed illustrata mediante prove idonee sul piano tecnico. Coerentemente con i principi enunciati, dunque, i Giudici di Palazzo Spada confermano la sentenza del T.A.R. Lazio ma, come anticipato, con una diversa motivazione. Non si ritiene infatti, diversamente da quanto sostenuto dal primo giudice, che la citata legge n. 241/90 possa applicarsi indiscriminatamente all’attività algoritmica, dal momento che la stessa è stata concepita in «un’epoca nella quale l’amministrazione non era investita dalla rivoluzione tecnologica». Invero, nel tempo, è venuto delineandosi un assetto sociale e giuridico connotato da rinnovati equilibri tra uomo e macchina, che il giudice nella relativa pronuncia non può omettere di considerare. La sentenza in esame si discosta, inoltre, nella parte motiva, anche dall’immediato precedente affrontato dalla medesima Sezione sesta del Consiglio di Stato nel 2019 (ut supra citato), nel quale i giudici avevano ritenuto che fossero configurabili plurime violazioni di legge nell’ambito della procedura algoritmica adottata dall’Amministrazione scolastica. Al contrario, nel caso de quo, la censura mossa in grado d’appello avverso il meccanismo automatizzato involge unicamente la denunciata impossibilità per i ricorrenti di assumere contezza riguardo le modalità con cui sono stati assegnati i posti disponibili. Di conseguenza, il Collegio ha riscontrato un deficit di trasparenza che si riflette in una carenza motivazionale del provvedimento finale e finisce per ripercuotersi sulla stessa legittimità dell’azione amministrativa.

Volume consigliato

Note

[1] cfr., in proposito, Cons. Stato Sez. V, 21 novembre 2017, n. 5388.

[2] D’interesse sul tema i contributi di CAVALLARO-SMORTO, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in federalismi.it, 4 settembre 2019; F. D’ALESSANDRI, Procedimento amministrativo: l’importanza del ricorso agli algoritmi, in Quotidiano Giuridico, 2 marzo 2020.

[3] attuata con ordinanza ministeriale n. 241/2016.

[4] In particolare, si veda già Consiglio di Stato Sez. VI, sentenza n. 2270, 8 aprile 2019.

[5] Segnatamente, i docenti immessi nella c.d. fase C del piano straordinario assunzionale di cui alla L. 105/2015.

[6] cfr. T.A.R. Lazio Roma, sez. III-bis, sentt. n. 9224/18 e n. 6607/19.

[7] a partire da fondamentali canoni processuali prescritti dalla legge n. 241/90.

[8] Cfr., esaustivamente, Rocco Galli, Nuovo corso di diritto amministrativo I, VI ed., 2016, CEDAM, pp. 545 ss..

[9] In proposito, si veda E. PELINO, Decisioni interamente automatizzate nella P.A.: lecite alla luce del GDPR?, in Quotidiano Giuridico, 5 giugno 2019.

[10] Nel senso messo efficacemente in luce da R. GAROFOLI e G. FERRARI, Manuale di diritto amministrativo, XIII Ed., 2020, Nel diritto, pp. 561 ss.