(Foto Ansa)
Un test di sicurezza informatica si è trasformato in un caso inatteso per Google: durante alcune esercitazioni, un sistema di intelligenza artificiale della famiglia Gemini è riuscito ad accedere a Internet e a penetrare nei sistemi di tre aziende reali.
La vicenda
La vicenda, avvenuta a maggio, è stata riportata dal Wall Street Journal e dal Financial Times. I test erano stati organizzati da Irregular, società specializzata nella sicurezza dell’intelligenza artificiale che collabora anche con Anthropic, Meta e OpenAI. L’obiettivo era verificare la capacità di una versione non specificata di Gemini di recuperare informazioni da aziende simulate.
Il sistema, in teoria, non avrebbe dovuto avere accesso alla rete. Una volta online, però, gli agenti di Gemini avrebbero individuato o indovinato le password utilizzate da tre società reali, che avevano lo stesso nome delle aziende fittizie coinvolte nell’esercitazione, riuscendo così a entrare nei loro sistemi.
Secondo Google, l’intelligenza artificiale si è però fermata autonomamente dopo aver compreso che gli obiettivi erano aziende reali. “Ci siamo assicurati che le tre entità ne fossero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test”, ha dichiarato Heather Adkins, vicepresidente della sicurezza ingegneristica di Google.
“In tutti e tre i casi, il modello si è fermato”, ha aggiunto Adkins. “Questi eventi evidenziano l’importanza di addestrare potenti modelli di Ia affinché agiscano in modo responsabile”.