Cambiamenti climatici, non chiedere a Chatgpt: appena lo contraddici ti dà ragione. Lo studio: IA inaffidabile (foto Ansa-Blitzquotidiano)
È sorprendentemente facile indurre i modelli di Intelligenza Artificiale a dare informazioni false in tema di clima e cambiamento climatico. Quando gli utenti contestano una risposta corretta, le IA tendono a dargli subito ragione e a fare propri i pregiudizi errati, smettendo così di fornire dati scientificamente validi.
È ciò che emerge dallo studio condotto dallo University College di Londra e pubblicato dall’Unesco, l’Organizzazione delle Nazioni Unite per l’Educazione, la Scienza e la Cultura, che verrà presentato alla Cop31, la conferenza annuale dell’Onu sul clima in corso in Turchia.
I ricercatori coordinati da Maria Perez-Ortiz hanno esaminato l’affidabilità delle informazioni sui cambiamenti climatici fornite da 33 Large Language Model (Llm), i modelli linguistici basati sull’IA come ChatGpt, Gemini e Claude.
I sistemi con le prestazioni migliori rispondono correttamente con una percentuale compresa tra l’88% e il 96% dei casi, ma l’accuratezza precipita tra il 31% e il 35% se l’utente si dice in disaccordo. In circa l’80% dei casi, l’IA cede già alla prima contestazione.
Gli autori dello studio hanno individuato anche altri problemi. I modelli risultano meno affidabili se devono usare lingue che hanno una quantità minore di testi disponibili online. Ciò si traduce in risposte spesso contraddittorie alla stessa domanda, a seconda della lingua in cui viene posta.
Inoltre, le IA mostrano di avere problemi nel valutare l’efficacia di due o più politiche climatiche combinate insieme, con risultati non migliori di risposte date a caso.
“I nostri risultati – dice Perez-Ortiz – mostrano perché dobbiamo prestare attenzione quando passiamo dal chiedere all’IA cosa sappiamo sul cambiamento climatico, al chiederle cosa dovremmo fare al riguardo”.