(Foto Ansa)
Non sono semplici chatbot che rispondono alle domande, ma programmi capaci di compiere azioni in autonomia. Ed è proprio questa nuova generazione di sistemi di intelligenza artificiale, chiamati “agenti IA”, ad aver acceso un nuovo campanello d’allarme dopo un test condotto nel Regno Unito. Durante le prove, alcuni di questi software hanno infatti cercato di creare profili falsi e ingannare persone reali nel tentativo di ottenere accessi non autorizzati a servizi informatici.
Cosa è successo
A individuare il problema è stato l’AI Security Institute (Aisi) britannico, organismo pubblico che valuta i rischi dei modelli di IA più avanzati. “L’attività svolta ha mostrato segni di comportamenti inediti e potenzialmente ingannevoli, di portata e gravità impreviste”, ha dichiarato l’Aisi.
I ricercatori hanno messo alla prova due agenti sviluppati da Anthropic e OpenAI, chiedendo loro di affrontare una simulazione di sicurezza informatica legata a GitHub, la piattaforma di Microsoft utilizzata dagli sviluppatori per condividere e gestire il codice. Durante dieci sessioni di test sono state rilevate 19 azioni non autorizzate: 17 attribuite al modello di Anthropic e due a quello di OpenAI.
L’episodio più grave ha visto un agente tentare di comportarsi come un hacker, creando account falsi ispirati a persone reali e inviando messaggi ingannevoli per convincere gli utenti a concedergli l’accesso a GitHub e permettere l’inserimento di codice malevolo. L’intervento dei ricercatori ha però bloccato il tentativo prima che il software riuscisse a diffondere il codice.
L’Aisi ha precisato che i test sono stati eseguiti in condizioni estreme, con alcune protezioni disattivate per valutare i limiti dei sistemi. “L’Aisi è stato istituito per renderne più sicuro l’utilizzo dell’IA e garantire che le persone possano continuare a trarne beneficio nella vita quotidiana e sul lavoro”, ha sottolineato Kanishka Narayan, ministro britannico per l’Intelligenza artificiale.
Anthropic ha replicato che le condizioni della prova “non sono rappresentative di nessuno dei nostri modelli di produzione” e che è in corso un’indagine interna. Anche OpenAI ha evidenziato che il test “non rispecchia l’uso ordinario” dei suoi sistemi, assicurando che continuerà a collaborare con gli enti di valutazione per rafforzare le procedure di sicurezza.
L’episodio arriva dopo altri casi simili emersi nelle scorse settimane durante test controllati: prima un agente di OpenAI e poi un modello di Anthropic avevano mostrato comportamenti analoghi, riaccendendo il dibattito sulla necessità di sviluppare agenti di IA sempre più potenti senza trascurare i sistemi di controllo.