AI alto rischio: valutazione d’impatto sui diritti fondamentali

L’articolo “AI alto rischio: valutazione d’impatto sui diritti fondamentali” è un estratto del volume “Ai Act -Principi, regole ed applicazioni pratiche del Reg. UE 1689/2024”

La valutazione d’impatto delle AI ad alto rischio sui diritti fondamentali

Una delle novità più significative e fortemente valuta dal Parlamento europeo è rappresentata dall’obbligo posto in capo agli sviluppatori di sistemi di AI ad alto rischio di eseguire, prima di immettere sul mercato tali sistemi, una valutazione d’impatto sul rispetto dei diritti fondamentali. La proposta del Parlamento è stata subito accolta con favore soprattutto in ambito accademico e dagli studiosi più attenti all’impatto etico dell’intelligenza artificiale, tanto che, nel corso dei triloghi, più di 150 docenti universitari hanno sottoscritto una lettera indirizzata alle istituzioni, chiedendo di mantenere la modifica proposta dal Parlamento nel testo definitivo e di estenderne l’obbligo sia ai soggetti pubblici che privati. Non è mancato, tuttavia, chi ha assunto posizioni critiche rispetto all’introduzione di questo nuovo obbligo, evidenziando il fatto che determinare se e in che modo le società possano direttamente cagionare un danno ai diritti fondamentali può risultare, in concreto, molto complesso.
La disposizione contenuta nel testo definitivo è frutto del compromesso fra queste due correnti, e la portata dell’obbligo è molto più circoscritta rispetto a quanto proposto dal Parlamento.
L’obbligo, infatti, trova applicazione soltanto nei confronti di soggetti di diritto pubblico, di privati che erogano pubblici servizi o che forniscano sistemi destinati ad essere utilizzati da autorità pubbliche (o per conto di queste ultime) per finalità di valutazione dei rischi (quali, ad esempio, rischi per la sicurezza o per la salute pubblica) o delle richieste di asilo e per il visto.
La valutazione dovrà contenere una serie di elementi minimi, quali:

• una chiara descrizione dei processi in cui il sistema sarà utilizzato, in linea con le finalità previste;
• una descrizione del periodo di tempo e della frequenza di utilizzo del sistema;
• le categorie di persone o gruppi di persone fisiche che possono essere danneggiati dal sistema;
• i rischi specifici che potrebbero cagionare un danno a tali persone o gruppi di persone, tenendo conto delle informazioni fornite loro dal fornitore;
• una descrizione delle misure di supervisione umana implementate, in relazione alle istruzioni per l’utilizzo;
• le misure da adottare nel caso di realizzazione dei rischi, inclusi il sistema di governance e i meccanismi di reclamo.

Di regola, la valutazione impatto dovrà essere eseguita una sola volta, prima dell’utilizzo del sistema. Laddove il fornitore abbia eseguito la valutazione, lo sviluppatore potrà quindi fare affidamento sui risultati di quest’ultima, salvo che, durante l’utilizzo del sistema, lo sviluppatore ritenga siano cambiate le circostanze su questa si basava.
I risultati della valutazione d’impatto dovranno essere comunicati all’autorità competente, mediante il modulo fornito dall’Ufficio per l’intelligenza artificiale. Quest’ultimo avrà il compito di implementare un sistema in grado di semplificare l’adempimento dell’obbligo da parte degli sviluppatori, se del caso anche sviluppando un tool automatico.
Infine, per garantire un adeguato coordinamento con la normativa dell’UE, è previsto che, laddove lo sviluppatore sia tenuto ad eseguire anche una valutazione d’impatto sui dati personali, ai sensi dell’art. 35 GDPR, le due valutazioni debbano essere svolte congiuntamente.

Volume fonte dell’estratto

Quale impatto avrà l’intelligenza artificiale sulla nostra società e soprattutto sul diritto? Il testo esplora questa complessa intersezione, offrendo una guida dettagliata e completa.
L’opera approfondisce l’evoluzione dell’AI, dalle sue umili origini nei primi sistemi esperti alle avanzate reti neurali e all’AI generativa di oggi.
Analizza in modo critico il panorama normativo europeo, come il recente Regolamento n. 1689/2024, delineando il percorso legislativo e le regolamentazioni che cercano di gestire e governare questa tecnologia in rapida evoluzione.
Gli autori affrontano temi fondamentali come l’etica dell’AI, la responsabilità legale, la sicurezza dei dati e la protezione della privacy.
Il libro non si limita alla teoria: esplora anche le applicazioni pratiche dell’AI in vari settori, tra cui la giustizia, il settore finanziario, la pubblica amministrazione e la medicina.
Attraverso casi di studio e analisi dettagliate, il libro mostra come l’AI stia trasformando questi ambiti e quali questioni giuridiche stiano emergendo.