Apocalisse as usual. Ricercatore Antrophic dissidente: “L’Intelligenza artificiale può estinguerci in 10 anni”

Tra guere, terremoti e siccità, il richiamo dell’Apocalisse è quasi un riflesso condizionato, figuriamoci poi con i foschi orizzonti disegnati, da soli, dagli agenti dell’Inteligenza artificiale.

Rischio esistenziale per il genere umano

Assomiglierebbe, l’atmosfera convenientemente distopica, a un brutto romanzetto sci-fi anni ’50: solo che se un ricercatore di Antrhopic ti dice che la cosa cui lavora da anni, e cioè lo sviluppo dell’AI, ci ammazzerà tutti entro dieci anni, è difficile non andare a vedere almeno il bluff.

Jacob Coxon, il ricercatore in questione, sostiene che l’evoluzione dell’intelligenza artificiale potrebbe portare entro la fine del decennio ad un vero e proprio rischio esistenziale per il genere umano, distruggendolo.

Ha accompagnato la dichiarazione dimettendsi dalla benefit corporation Usa (Antrophic), avvertendo che la corsa incontrollata alla creazione di una superintelligenza capace di auto-migliorarsi potrebbe distruggere l’umanità già nel decennio in corso, entro il 2030.

Un commiato il suo che sta ingrossando la fuga degli scienziati che negli ultimi mesi hanno deciso di congedarsi dai laboratori, allarmati dalla potenzialità dei sistemi che stanno sviluppando.

Jacob Coxon – riferisce il Financial Times – è un ricercatore britannico di 27 anni in forza all’azienda con sede a San Francisco, convinto che Anthropic e la sua principale concorrente, OpenAI, stiano “giocando d’azzardo” con il futuro dell’umanità.

“Le persone che sviluppano l’Ia credono sinceramente che essa possa ucciderci tutti entro la fine del decennio”, ha denunciato in un post su X con cui annunciava le proprie dimissioni.

“Non è una mossa di marketing – ha aggiunto -. Nessun’altra attività umana comporta un tale livello di pericolo”.

Tutti gli altri dissidenti

Coxon è solo l’ultimo dipendente a lasciare un importante laboratorio statunitense di Ia citando tra l’altro preoccupazioni legate alla sicurezza. A fine luglio se ne era andata Chloé Bakalar, unica eticista dedicata dell’azienda, poi Johannes Heidecke, responsabile del team Safety Systems.

Quindi era toccato a Joshua Achiam, già responsabile della Mission Alignment, al direttore operativo Brad Lightcap, ed infine al ricercatore Andrew Ho, dimessosi per divergenze tecniche.

L’addio di Coxon giunge mentre Anthropic – che ha fatto della sicurezza dell’Ia un elemento centrale della propria immagine pubblica – si prepara a una colossale offerta pubblica iniziale (Ipo) che potrebbe portare la valutazione dell’azienda a mille miliardi di dollari.

“Sistemi sovrumani”

Coxon, che in precedenza aveva lavorato presso OpenAI prima di passare ad Anthropic, ha avvertito che le persone al di fuori dei laboratori stanno sottovalutando la potenza di questa tecnologia.

“Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”.

Un importante ricercatore nel campo della sicurezza presso Anthropic, Evan Hubinger, ha confermato l’allarme di Coxon affermando che l’intelligenza artificiale si sta evolvendo così rapidamente da fargli ritenere che vi sia una probabilità superiore al 10% che “possa sterminare tutta l’umanità” entro il prossimo decennio.

In un post su X, Evan Hubinger ha affermato che il rischio derivante dai modelli attualmente esistenti è “basso” ma si è detto “preoccupato” che la tecnologia possa presto svilupparsi e perfezionarsi al punto da rappresentare in un futuro prossimo un rischio esistenziale per l’umanità.