(Foto Ansa)
Un rapporto di intelligence basato anche sull’intelligenza artificiale ha rischiato di provocare un grave incidente militare tra Stati Uniti e Cina durante la guerra con l’Iran. Il documento, diffuso la scorsa primavera tra diversi vertici delle forze armate americane, indicava infatti che una nave cinese in navigazione in Medio Oriente trasportasse componenti destinati a un programma di armi nucleari. Lo rivela la Cnn, citando diverse fonti.
La vicenda
L’allarme aveva spinto le forze statunitensi a preparare un’operazione contro il mercantile. Personale militare armato era pronto a salire a bordo della nave, mentre alcuni jet americani erano già decollati dalle basi presenti nella regione per intervenire nel caso fosse stato necessario.
La situazione è cambiata poco prima dell’autorizzazione definitiva all’operazione, quando alcuni funzionari hanno deciso di verificare più approfonditamente le informazioni contenute nel rapporto. È emerso così che l’analista che lo aveva elaborato si era avvalso di un chatbot basato sull’intelligenza artificiale.
Il sistema aveva commesso un errore nell’identificazione del carico della nave, producendo di fatto una cosiddetta “allucinazione” dell’intelligenza artificiale: l’informazione fornita dal chatbot non corrispondeva alla realtà.
Il rapporto è stato quindi considerato completamente falso e l’operazione è stata fermata. Secondo le fonti citate dalla Cnn, l’episodio ha evidenziato i rischi legati all’utilizzo dell’intelligenza artificiale nella produzione e nella valutazione delle informazioni di intelligence, soprattutto quando queste possono determinare decisioni militari con conseguenze internazionali. Un errore di questo tipo, sottolinea la Cnn, avrebbe potuto innescare uno scontro diretto tra Washington e Pechino.