La corsa a costruire un’intelligenza artificiale sempre più capace sta producendo un insolito consenso tra gli insider: la tecnologia potrebbe diventare pericolosamente difficile da controllare, anche se gli esperti sono profondamente in disaccordo su quanto presto ciò potrebbe accadere e sul fatto che le misure di sicurezza stiano tenendo il passo.

L’ex ricercatore di Anthropic Jacob Coxon afferma che le aziende impegnate nello sviluppo della superintelligenza stanno «giocando d’azzardo con le nostre vite», mentre il ricercatore di Anthropic specializzato nell’allineamento Evan Hubinger ha stimato a oltre il 10% la probabilità che l’IA uccida tutti gli esseri umani entro il prossimo decennio.¹ I loro avvertimenti non si concentrano sui sistemi odierni, che entrambi descrivono come una minaccia immediata relativamente limitata, ma sull’auto-miglioramento ricorsivo, ovvero sulla possibilità che i sistemi di IA possano costruire autonomamente successori più capaci.

L’interpretazione più allarmistica è che questa transizione potrebbe verificarsi nel giro di pochi anni. I critici sostengono che i laboratori stiano di fatto cercando di automatizzare la ricerca sull’IA, accelerando potenzialmente lo sviluppo più rapidamente di quanto gli esseri umani riescano a comprenderlo o supervisionarlo. La preoccupazione non riguarda soltanto i malfunzionamenti, ma anche una perdita di controllo concentrata nelle mani di una manciata di aziende o decisori.

La tesi di Coxon è altrettanto severa, ma più esplicitamente politica. Ha dichiarato a Fox News che l’auto-miglioramento ricorsivo «potrebbe verificarsi già l’anno prossimo», insistendo però sul fatto che la crisi rimane «assolutamente risolvibile» attraverso la regolamentazione e la cooperazione internazionale.² Ha descritto l’IA come una potenziale «superarma» in una corsa agli armamenti e ha sostenuto che i governi debbano impedire alle aziende di lanciarsi verso un disastro irreversibile.

Le due prospettive convergono dunque sul rischio fondamentale, ma divergono nell’enfasi. L’avvertimento di Hubinger sottolinea l’incertezza e l’assenza di un piano affidabile per l’allineamento; Coxon insiste sul fatto che il pericolo sia il risultato di un fallimento delle politiche, non di un destino tecnologico inevitabile. Altri esperti citati nel dibattito ritengono che la superintelligenza possa essere ancora lontana decenni, pur riconoscendo che l’apprendimento autonomo costituirebbe un segnale d’allarme decisivo.

Il disaccordo lascia quindi irrisolta la tensione centrale: i governi potrebbero avere ancora tempo per regolamentare l’IA avanzata, oppure potrebbero essere già rimasti indietro.