AI e responsabilità civile per danni: la Direttiva europea

Uno dei maggiori ostacoli all’utilizzo di sistemi basati su intelligenza artificiale da parte delle imprese europee, nonché una delle più grandi sfide dal punto di vista giuridico è la questione riguardante la responsabilità civile ed il risarcimento del danno in caso di sinistro.
Immaginiamo che l’automobile che si sta guidando da sola si trovi improvvisamente davanti un bambino che attraversa incautamente la strada: il sistema programmato dall’intelligenza artificiale prevede che l’auto sterzi, ma con il rischio di travolgere i passanti che in quel momento si trovano sul marciapiede. È il caso classico di scuola, quello che si cita sempre per parlare di responsabilità civile e pensale, di colpa, dolo, nesso di causa e di tutti i principali concetti giuridici che riguardano proprio la responsabilità, ma in versione 4.0: in questo caso, a chi andrebbe attribuita la responsabilità di aver scelto di travolgere i passanti, anziché il bambino? Di chi è stata la scelta? Del conducente, che però non stava materialmente guidando, della casa produttrice, o di chi ha programmato l’algoritmo di IA?
Secondo un recente sondaggio effettuato da Ipsos Belgium e iCite per la Commissione Europea, questo tema rappresenta per il 33% delle aziende che hanno già implementato sistemi di IA uno dei tre ostacoli principali, mentre per il 43% delle imprese che ancora non sono passate all’IA, ma che hanno intenzione di farlo nei prossimi anni rappresenta il primo ostacolo in assoluto. Al rapporto con le AI abbiamo dedicato il volume “Il nuovo diritto d’autore -La tutela della proprietà intellettuale nell’era dell’intelligenza artificiale”

1. Preparazione della Direttiva: responsabilità per l’IA

Per tentare di ovviare a questa lacuna giuridica, la Commissione Europea ha varato una proposta di Direttiva sulla responsabilità per l’intelligenza artificiale (“Direttiva IA”), volta a facilitare il risarcimento del danno a coloro che abbiano subìto danni derivanti dall’impiego di sistemi di IA, che si inserisce nel più ampio quadro della legislazione europea per questa tecnologia. Mentre il Regolamento sull’intelligenza artificiale si concentra sulla regolamentazione del fenomeno, sul monitoraggio e sulla prevenzione dei danni, la Direttiva interviene a valle della realizzazione di un danno, nell’ottica che il rischio zero non esiste e non è un obiettivo ragionevolmente perseguibile, soprattutto trattandosi di tecnologia, ma con l’intento di stabilire chi dovrebbe pagare una volta che il fatto dannoso si dovesse verificare.
Secondo la Commissione europea le norme nazionali vigenti in materia di responsabilità, in particolare per colpa, non sono adatte a regolare le azioni di responsabilità per danni causati da prodotti e servizi basati sull’IA. Limitandoci all’Italia, si intravedono facilmente problematiche relative al nesso di causa, oltre a quelle connesse alla peculiarità dei sistemi basati su IA: come detto poco sopra, nell’esempio di automobile auto guidata, i soggetti da coinvolgere potrebbero essere il conducente, il produttore, il programmatore, senza tenere conto della possibilità che il sistema venga colpito da un attacco cyber di terzi, con conseguenze imprevedibili sul rapporto di causalità e sull’onere della prova. Ulteriori difficoltà possono nascere dal fatto che alcuni sistemi di intelligenza artificiale sono self adapting, cioè in grado di auto modificarsi in autonomia, in tempo reale, sulla base dell’elaborazione di nuovi dati o sulla base di nuovi aggiornamenti del sistema.
In sostanza, una pluralità di attori coinvolti, di tecnologie in qualche modo autonome e di legislazioni non in grado di prevedere tutti i casi generano incertezza e dunque resistenza da parte delle imprese nell’utilizzo di intelligenza artificiale.
La Direttiva dovrebbe ovviare a questa incertezza, portando con sé chiarificazioni in ambito giuridico ed una crescita conseguente del mercato europeo dell’intelligenza artificiale. La scelta della direttiva, che è stata preferita ad un regolamento self executive è stata dettata dalla possibilità, per gli Stati membri, di avere maggiore autonomia in fase di recepimento, adattando la norma ai propri sistemi di diritto interno. Al rapporto con le AI abbiamo dedicato il volume “Il nuovo diritto d’autore -La tutela della proprietà intellettuale nell’era dell’intelligenza artificiale”

2. La Direttiva IA: aspetti fondamentali

L’approccio della Direttiva si struttura in due fasi: la prima dovrebbe adeguare e coordinare i sistemi giuridici nazionali in materia di responsabilità civile per danni causati dall’IA. La seconda fase prevede una valutazione dell’efficacia delle misure adottate dai singoli Stati, tenendo conto dei futuri sviluppi tecnologici, normativi e giurisprudenziali e della necessità di armonizzare altri elementi delle legislazioni nazionali in materia di responsabilità civile. Questa fase prevede anche l’introduzione di un eventuale regime di responsabilità oggettiva e la necessità/obbligatorietà di una copertura assicurativa.
Il primo punto toccato è quello relativo all’onere della prova a carico del danneggiato, che per la Direttiva dovrà essere alleggerito attraverso una presunzione relativa e la divulgazione di informazioni. Non, quindi, una totale inversione dell’onere della prova che dovrebbe ricadere in toto sui danneggianti (il plurale è d’obbligo, vista la molteplicità di attori coinvolti, come visto nell’esempio dell’automobile), ma un onere alleggerito sul danneggiato: la presunzione relativa troverebbe applicazione solo quando si verifichino contemporaneamente tutti i seguenti presupposti:

• il giudice chiamato a pronunciarsi ritenga eccessivamente gravoso, per il danneggiato, provare il nesso causale;
• il danneggiato abbia dimostrato o il giudice abbia presunto la colpa del convenuto, o di una persona del cui comportamento il convenuto è responsabile, consistente nell’inosservanza di un obbligo di diligenza (ad esempio, un obbligo di diligenza ai sensi del Regolamento IA o altra normativa nazionale o europea);
• si ritenga ragionevolmente probabile che la condotta colposa del danneggiante abbia influito sull’output prodotto dal sistema di IA o si ritenga probabile l’incapacità del sistema di IA di produrre un output;
• l’attore abbia dimostrato che l’output prodotto dal sistema di IA o l’incapacità del sistema di IA di produrre un output abbia causato il danno.

La Direttiva IA differenzia i gradi di presunzione di responsabilità a seconda che l’intelligenza artificiale sia usata in attività professionali o personali. In questo secondo caso detta presunzione si applica solo se il danneggiante/convenuto abbia interferito materialmente con le condizioni di funzionamento del sistema di IA o se fosse tenuto e in grado di determinare le condizioni di funzionamento del sistema di IA e non lo abbia fatto.
Altri elementi di particolare interesse nella Direttiva IA sono:

• potere per gli organi giurisdizionali di ordinare la divulgazione di elementi di prova da parte del fornitore, dietro presentazione, da parte dell’attore, di adeguate prove a sostegno della fondatezza della domanda e di aver fatto quanto necessario per ottenere le prove dal convenuto;
• possibilità per l’attore di chiedere la conservazione degli elementi di prova;
• massima trasparenza degli algoritmi che governano i processi di IA in termini di tracciabilità, spiegabilità e comunicazione;
• obbligo per i giudici nazionali di tenere in conto gli interessi legittimi di tutte le parti nel determinare se impartire o meno l’ordine di divulgazione e conservazione, anche con riguardo alla tutela dei segreti commerciali (che nel giudizio di bilanciamento verranno rimessi al prudente apprezzamento del giudice di merito);
• nel caso in cui venga ordinata la divulgazione, obbligo di adozione di misure specifiche a limitarne la diffusione e preservarne per quanto possibile la segretezza (ad esempio con limitazioni di accesso a documentazione riservata, udienze da tenersi in forma chiusa, oscuramento di dati commerciali sensibili negli atti);
• presunzione di mancata diligenza del convenuto in caso di mancato ottemperamento all’ordine di divulgazione.

La Direttiva sull’intelligenza artificiale, dunque, in combinato disposto con il Regolamento sulla Intelligenza Artificiale, si pone l’obiettivo di regolamentare una parte di tecnologia che prenderà sempre più piede nelle nostre vite e nel quotidiano e che finora anche per la carenza normativa che la circonda, non ha ancora avuto lo sviluppo che potenzialmente potrebbe avere.
Non solo, ma la Direttiva e in generale l’interesse del legislatore europeo verso le tematiche inerenti il legame tra diritto e nuove tecnologie dimostrano (se ancora se ne sentisse il bisogno) che oggi ed in futuro le sfide che giuristi ed avvocati si troveranno ad affrontare si confronteranno sempre di più con il “mondo delle macchine”, che finora abbiamo sempre e solo visto nei film, ma che, nei fatti, fa già parte non solo del nostro futuro, ma anche del nostro presente.

Potrebbero interessarti anche:

• La regolamentazione dell’intelligenza artificiale nel contesto europeo
• Ok del Garante privacy a Regolamento per l’uso dell’intelligenza artificiale per la gestione degli esposti
• Intelligenza Artificiale e responsabilità: profili comunitari