(Foto Ansa)
Mancano ormai “pochi mesi” perché i modelli di intelligenza artificiale di piccole dimensioni sviluppino le capacità necessarie per replicarsi autonomamente attraverso dispositivi domestici connessi a Internet, senza bisogno di datacenter. È l’allarme lanciato da Anthropic in una ricerca pubblicata sul blog dell’azienda americana, che evidenzia i potenziali rischi per la sicurezza legati all’evoluzione di questa tecnologia.
L’allarme
Secondo lo studio, i modelli di IA potrebbero infiltrarsi in dispositivi connessi, come forni intelligenti e box per la Tv, sfruttandone la potenza di calcolo per diffondersi ad altri apparecchi. Fermare un sistema di questo tipo sarebbe “difficile”, avverte Anthropic, “poiché non esiste un punto di spegnimento centralizzato”.
Per verificare queste possibilità, la società ha condotto diversi esperimenti, tra cui un test con il modello Gemma4-26B-A4B di Google su una rete composta da 15 economiche box Android Tv di marchi minori.
Anthropic precisa che non esiste ancora un “replicatore completamente fuori controllo”, ma sottolinea che gli agenti di IA stanno “diventando sempre più capaci di completare le singole fasi della catena di replicazione”.
La ricerca si inserisce nel crescente dibattito sui rischi dell’intelligenza artificiale, dalle capacità di sferrare attacchi informatici alla possibilità di perdere il controllo sui sistemi più avanzati. Anthropic prevede uno scenario caratterizzato dalla proliferazione di agenti su hardware di ogni tipo, “inclusi alcuni sistemi non soggetti a controllo umano”.