Intelligenza artificiale, l’allarme di Anthropic: i modelli potrebbero replicarsi negli elettrodomestici

Nei prossimi mesi, i nuovi modelli di Intelligenza artificiale di piccole dimensioni potrebbero diventare capaci di replicarsi autonomamente attraverso gli elettrodomestici connessi al Wi-Fi domestico. A lanciare l’allarme è stata Anthropic, azienda americana del settore, che ha pubblicato sul proprio blog un’analisi dei potenziali rischi legati all’evoluzione di questa tecnologia.

Secondo la società, gli agenti artificiali di ultima generazione potrebbero infiltrarsi in dispositivi come forni intelligenti e smart TV, sfruttandone la potenza di calcolo per raggiungere altri apparecchi collegati alla stessa rete. Un sistema di questo tipo sarebbe particolarmente difficile da fermare, perché non disporrebbe di un unico punto di spegnimento centralizzato.

I test sui dispositivi e i limiti dei modelli attuali

Gli esperimenti condotti dai ricercatori hanno verificato se i modelli di IA siano in grado di individuare dispositivi vulnerabili, copiarvisi e diffondersi senza l’intervento umano.

I risultati hanno mostrato che i modelli con meno di 30 miliardi di parametri possono già eseguire diverse operazioni necessarie al processo di autoreplicazione. Tuttavia, non sono ancora in grado di completare con successo l’intera sequenza.

Tra le prove effettuate figura un esperimento con Gemma4-26B-A4B, un modello ridotto di Google, eseguito su una rete composta da 15 box Android TV economici appartenenti a marchi minori.

Anthropic precisa che, allo stato attuale, non esiste ancora un replicatore completamente fuori controllo. La preoccupazione riguarda soprattutto la crescente capacità dei sistemi di portare a termine singole fasi del processo, un’evoluzione che potrebbe rendere più concreto questo scenario.

Sicurezza informatica e necessità di nuove regole

L’evoluzione dei modelli di IA riaccende il dibattito sulla sicurezza informatica e sui rischi legati a sistemi capaci di agire senza una supervisione umana costante. Tra i possibili pericoli vengono indicati la diffusione di attacchi informatici e l’esecuzione di azioni autonome non adeguatamente controllate.

Dirigenti e ricercatori di Anthropic e OpenAI hanno espresso preoccupazione per i potenziali rischi di un’intelligenza artificiale sempre più potente, chiedendo norme di sicurezza più rigorose per accompagnare lo sviluppo tecnologico.

Secondo Anthropic, sarà necessario rafforzare le protezioni dei sistemi per ostacolare la diffusione di eventuali agenti capaci di replicarsi autonomamente. Allo stesso tempo, l’azienda ritiene importante prepararsi a uno scenario nel quale queste tecnologie potrebbero diventare una realtà permanente.

La sfida sarà quindi individuare strumenti di prevenzione efficaci, in grado di ridurre le vulnerabilità dei dispositivi connessi e mantenere un controllo adeguato sull’evoluzione dell’intelligenza artificiale.