Facebook, i bot Alice e Bob sviluppano un linguaggio tutto loro: sospeso esperimento

Facebook, i bot Alice e Bob sviluppano un linguaggio tutto loro

LONDRA – Sospeso il controverso esperimento chatbot (abbreviazione di chat robot) di Facebook: le due IA, Alice e Bob, per comunicare tra loro tentavano infatti di sviluppare una proprio linguaggio. I ricercatori dell’innovazione targata Mark Zuckerberg, Facebook AI Research Lab (FAIR), hanno scoperto che Alice e Bob, avevano deviato dallo script e inventato nuove frasi senza alcun contributo umano.

I bot stavano tentando di imitare i discorsi umani e sviluppando spontaneamente il proprio linguaggio. A quel punto, Facebook ha deciso di interrompere l’esperimento. Mike Lewis del programma FAIR di Facebook per Fast Co Design ha spiegato:

“Il nostro interesse era quello di avere dei bot che parlassero con le persone”.

I ricercatori di Fair stavano insegnando ai chatbot, dei programmi di intelligenza artificiale che svolgevano attività automatiche sia singolarmente che l’uno con l’altro. Come parte del processo di apprendimento, avevano istituito due bot, chiamati agenti di dialogo, che s’insegnavano a vicenda il discorso umano, utilizzando gli algoritmi, spiega il Daily Mail.

I robot inizialmente sono stati lasciati soli affinché sviluppassero le proprie capacità di conversazione ma i ricercatori hanno poi scoperto che le due IA avevano iniziato a deviare dal normale discorso e a sorpresa usavano un nuovo linguaggio, creato senza alcun contributo da parte dell’uomo.

La nuova lingua era più efficiente per la comunicazione tra i bot, ma non era utile per raggiungere l’obbiettivo prefisso. Dhruv Batra, uno scienziato della Georgia Tec, ha dichiarato a Fast Co:

“Gli agenti sono andati al di fuori della lingua comprensibile e inventato parole in codice per loro stessi. E’ come se dicessi “cinque volte” e tu capisci che chiedo cinque copie di questo articolo. Non così diverso dalla stenografia degli umani”.

I programmatori avrebbero dovuto modificare il modo in cui le IA imparavano la lingua. Sul blog FAIR, un portavoce ha scritto:

“Durante il potenziamento dell’apprendimento, l’agente tenta di migliorare i suoi parametri attraverso le conversazioni con un altro agente, che potrebbe anche essere un umano. Ma FAIR ha usato un modello fisso supervisionato, addestrato a imitare gli esseri umani.

Il secondo modello è fisso, perché i ricercatori hanno scoperto che l’aggiornamento dei parametri di entrambi gli agenti ha portato a una deviazione dal linguaggio umano e hanno sviluppato la propria lingua” e che, va aggiunto, era assolutamente surreale.