Anthropic: “Claude può elaborare concetti non collegati alle risposte”

Come funziona questo “spazio mentale”

In un video pubblicato sul proprio profilo X, l’azienda descrive questa sorta di “spazio mentale” interno di Claude, il chatbot sviluppato dalla società. Secondo i ricercatori, il sistema dispone di un’area distinta dalla tradizionale “catena di pensiero”, cioè il processo di ragionamento mostrato agli utenti. La scoperta non dimostrerebbe che l’IA provi emozioni o abbia una coscienza, ma evidenzierebbe un livello di elaborazione separato dalle risposte generate.

I ricercatori hanno chiamato questo ambiente “J-Space”, dal termine matematico “Jacobiano” (Jacobian). “Proprio come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude è in grado di attivare concetti ed elaborazioni nel suo J-Space che non sono correlati ai suoi output”.

Per dimostrarlo, Anthropic racconta di aver chiesto a Claude di pensare al Golden Gate Bridge mentre copiava una frase priva di collegamenti. “Claude era impegnato a copiare la frase ma ‘dietro le quinte’ il suo J-Space raccontava una storia diversa”, spiega l’azienda, precisando che termini come “ponte” e “California” risultavano comunque attivi. Secondo Anthropic, studiare il J-Space potrebbe aiutare a individuare comportamenti indesiderati o intenti malevoli nei modelli di IA, motivo per cui ha invitato neuroscienziati e filosofi a confrontarsi sui risultati della ricerca.