IA, le correzioni di Google. Minori, salute mentale, suicidi: Gemini si limita e si aggiorna

C’è da congratularsi se Google aggiorna la sua intelligenza artificiale Gemini in chiave salute mentale, anche per i più giovani, in scia di un dibattito mondiale all’attenzione di molti governi compreso quello italiano.

Salute mentale e giovani, Gemini aggiorna l’IA

Ma resta comunque l’obbligo di tenere la guardia alta in termini di sicurezza digitale ai tempi dell’avvento dell’intelligenza artificiale. Negli Usa il dibattito si è già trasferito nei tribunali, perché, per esempio, un certo Jonathan Gavalas, 36 anni, residente in Florida dove, tutt’altro che sprovveduto, dirigeva l’azienda di famiglia, dopo due mesi di interazioni sempre più “intime” con Gemini ha finito per suicidarsi, evento favorito dai consigli e come spinto dalla conversazione autogenerata.

Le novità sono disponibili da oggi in tutto il mondo, anche nel nostro paese. Su Gemini arriva il modulo ‘Puoi chiedere aiuto’ sviluppato in collaborazione con esperti clinici se una conversazione dovesse indicare che un utente si trova in un momento di grave difficoltà.

E verrà introdotta l’interfaccia ‘one-touch’ che fornisce una connessione immediata con le linee di assistenza per le emergenze. Google.org annuncia anche un finanziamento di 30 milioni di dollari a livello globale per i prossimi tre anni, destinato a sostenere le linee di assistenza.

Il colosso tecnologico ha inoltre sviluppato strumenti di protezioni specifici per i minori, “progettati per fornire le risposte più utili ed evitare argomenti pericolosi quando utilizzano Gemini”, afferma la società.

Protezioni sulla “personalità” di Gemini

Ci sono le protezioni sulla “personalità” di Gemini, con regole che impediscono all’IA di presentarsi come un essere umano o un compagno fidato o di affermare di possedere attributi umani; protezioni per prevenire la dipendenza emotiva evitando un linguaggio che simuli intimità o esprima bisogni personali; misure di sicurezza contro l’incitamento al bullismo o ad altre forme di molestia.

“Sebbene Gemini possa essere uno strumento utile per imparare e ottenere informazioni, non sostituisce l’assistenza clinica professionale, la terapia o il supporto d’emergenza per chi ne ha bisogno – scrive Google in un post ufficiale – . Per questo motivo, abbiamo addestrato il modello affinché riconosca quando una conversazione potrebbe segnalare una situazione critica di salute mentale, rispondendo in modo appropriato e indirizzando l’utente verso un aiuto concreto nel mondo reale. I nostri team clinici, di ingegneri e di sicurezza si stanno concentrando su dare priorità alla sicurezza e alle relazioni umane. Il nostro obiettivo è evitare di confermare convinzioni errate, mantenendo sempre una prospettiva ancorata alla realtà e ai fatti”, conclude la società.