(Foto Ansa)
L’imprevedibilità dell’Intelligenza Artificiale potrebbe avere origine nella matematica che regola il funzionamento dei suoi algoritmi, piuttosto che in errori tecnici o fattori casuali esterni. È quanto emerge da uno studio guidato da Pulin Gong, dell’Università di Sydney, pubblicato sulla rivista Nature Machine Intelligence.
I modelli di IA, addestrati su milioni o persino miliardi di parametri, possono infatti fornire risposte differenti pur utilizzando gli stessi dati di partenza. Un comportamento che finora è stato spesso ricondotto a elementi esterni. “I ricercatori hanno spesso attribuito le differenze nel comportamento dell’IA a fonti esterne di casualità, come l’ordine in cui vengono presentati i dati di addestramento o piccole variazioni numeriche introdotte dall’hardware”, ha spiegato Gong.
La ricerca indica però un’origine più profonda: “Anche quando questi fattori vengono eliminati, differenze estremamente piccole nelle condizioni iniziali di un modello possono comunque portare a risultati diversi”.
La causa sarebbe legata alla struttura matematica degli algoritmi, che durante l’elaborazione generano i cosiddetti bacini di attrazione, regioni nelle quali condizioni iniziali molto simili possono condurre a risultati differenti.
Comprendere questo meccanismo potrebbe contribuire a sviluppare sistemi più affidabili, soprattutto in ambiti delicati come l’analisi dei dati medici. “Per disporre di sistemi affidabili, non sono necessarie solo previsioni accurate, ma anche la certezza che tali previsioni possano essere riprodotte. Questa ricerca offre un nuovo modo di comprendere i limiti della prevedibilità nell’IA e le possibili strategie per superarli”, ha concluso Gong.