ChatGpt, in arrivo il controllo parentale dopo il suicidio di un sedicenne americano

L’azienda americana di intelligenza artificiale OpenAI ha comunicato che è in arrivo il parental control al suo chatbot ChatGPT. La decisione arriva una settimana dopo che una coppia californiana ha presentato una denuncia in tribunale affermando che il sistema ha incoraggiato il figlio sedicenne a suicidarsi. “Entro il prossimo mese, i genitori potranno collegare il proprio account a quello del figlio adolescente” e “controllare come ChatGPT risponde al figlio con regole di comportamento modello appropriate all’età”, ha affermato l’azienda. I genitori riceveranno anche notifiche da ChatGPT “quando il sistema rileva che il figlio adolescente si trova in un momento di grave disagio”, ha aggiunto OpenAI.

In realtà quanto accaduto alla famiglia Raines è solo l’ultimo di una serie di casi emersi negli ultimi mesi di persone istigate a ragionamenti deliranti o dannosi da chatbot di intelligenza artificiale, spingendo OpenAI ad affermare che avrebbe ridotto l'”adulazione” dei modelli nei confronti degli utenti.  “Continuiamo a migliorare il modo in cui i nostri modelli riconoscono e rispondono ai segnali di disagio mentale ed emotivo”, ha dichiarato OpenAI.

A questo seguiranno ulteriori piani per migliorare la sicurezza dei suoi chatbot nei prossimi tre mesi, tra cui il reindirizzamento di “alcune conversazioni sensibili a un modello di ragionamento” che impiega maggiore potenza di calcolo per generare una risposta. “I nostri test dimostrano che i modelli di ragionamento seguono e applicano le linee guida di sicurezza in modo più coerente”, ha affermato OpenAI.