Avvocato usa ChatGPT per difendere un imputato: nel ricorso compaiono testimoni e rapporti di polizia inventati

Testimonianze completamente inventate, nomi fasulli e rapporti della polizia mai redatti. È quanto è emerso in un procedimento davanti alla Corte Suprema del New Mexico, dove un avvocato penalista di Santa Fe aveva inserito nella documentazione presentata per difendere il proprio assistito riferimenti a persone e atti che non esistevano.

Quando i giudici hanno individuato le numerose incongruenze, il legale Stephen Aarons ha spiegato di aver utilizzato ChatGPT e di non essere stato consapevole dei rischi legati alle cosiddette “allucinazioni” dell’intelligenza artificiale, cioè la generazione di informazioni false ma formulate in maniera plausibile.

Aarons seguiva il ricorso di Oscar Renee Sandoval, condannato l’anno scorso all’ergastolo per l’omicidio della madre dei suoi figli. L’uomo si era dichiarato non colpevole. Il caso sarà ora seguito da un avvocato assegnato d’ufficio.

Multa da 5.000 dollari e segnalazione disciplinare

La spiegazione fornita dall’avvocato non ha convinto la Corte Suprema del New Mexico. I giudici hanno dichiarato Aarons colpevole di oltraggio alla corte, contestandogli soprattutto di non aver verificato l’attendibilità delle informazioni inserite nel ricorso.

Secondo la corte, il documento conteneva “testimonianze false rese da testimoni interamente inventati” e Aarons “ha dimostrato mancanza di rimorso e interesse per il proprio cliente”.

Per il legale è arrivata quindi una multa di 5.000 dollari. Il caso è stato inoltre trasmesso all’ordine degli avvocati del New Mexico, che dovrà esaminare la vicenda e valutare eventuali conseguenze sul piano disciplinare.

“Un errore in buona fede”: il problema dell’AI nei tribunali

Aarons ha spiegato di aver utilizzato ChatGPT per riassumere le trascrizioni e altro materiale relativo al procedimento, ritenendo che il sistema potesse produrre una sintesi affidabile. “Sono pentito, ma spero che il consiglio disciplinare prenda in considerazione il fatto che si è trattato di un errore in buona fede” ha affermato. “È una lezione per tutti i professionisti che si affidano a questa tecnologia potente, ma talvolta instabile”.

Il caso riaccende il dibattito sull’utilizzo dell’intelligenza artificiale nelle professioni legali. Negli ultimi anni sono emersi diversi episodi di documenti giudiziari contenenti sentenze inesistenti, riferimenti errati o citazioni non pertinenti generate con l’aiuto dell’AI.

Il punto critico, nei casi emersi, è la mancata verifica delle informazioni prima del loro utilizzo in tribunale. La tecnologia può assistere nella ricerca e nella sintesi dei documenti, ma i contenuti prodotti devono essere controllati prima di essere inseriti in un atto giudiziario.