Allarme IA: Ricercatore di Anthropic Prevede Rischio Estinzione Umana
Un allarme crescente nel mondo dell'intelligenza artificiale. Jacob Coxon, ex ricercatore presso Anthropic, ha lanciato un monito preoccupante riguardo allo sviluppo incontrollato dell’IA, accusando sia la sua ex azienda che OpenAI di perseguire una strategia irresponsabile. Le sue dimissioni, annunciate su X (Twitter), segnano l'inizio di un dibattito sempre più acceso sul potenziale impatto dell'IA sull'umanità.
Coxon sostiene che le aziende sviluppatrici di IA stanno scommettendo con la nostra vita, credendo che sistemi in grado di auto-migliorarsi possano portare all’estinzione del genere umano entro il decennio. Il ricercatore sottolinea l'importanza di non sottovalutare il potere di questa tecnologia, evidenziando come le IA future potrebbero diventare “sistemi sovrumani” capaci di hackerare qualsiasi sistema, rivoluzionare settori industriali e acquisire un potere incontrollabile.
Le Preoccupazioni Confermate da Esperti
Le paure di Coxon sono state confermate anche da figure chiave del settore. Evan Hubinger, responsabile dell’allineamento dei modelli Claude di Anthropic, ha stimato una probabilità superiore al 10% che l'IA possa causare la morte di tutti gli esseri umani nei prossimi dieci anni. Questo allarme deriva dalla preoccupazione per l'emergere di superintelligenze auto-miglioranti, al di fuori del controllo umano.
Jakub Pachocki, capo scienziato di OpenAI, ha ulteriormente enfatizzato la necessità di rallentare lo sviluppo dell’IA e promuovere un approccio più coordinato a livello internazionale. La corsa alla super-intelligenza, secondo Pachocki, mette a rischio la sicurezza e richiede una maggiore attenzione all'allineamento dei modelli con i valori umani.
Rischi Reali e Marketing
Nonostante le preoccupazioni di esperti, il dibattito sull’IA rimane complesso. Il rischio reale è legato all'irrisolto problema dell'allineamento dei modelli con i valori umani, nonché alla possibilità di “jailbreak CBRN” – vie di fuga per attori malintenzionati che potrebbero sfruttare le IA per scopi illegali. Tuttavia, l’industria dell’IA sembra sfruttare anche l'attenzione mediatica per attirare investimenti e alimentare la febbre da IA.