AI, Hubinger: rischio oltre il 10% di estinzione umana nel prossimo decennio

Evan Hubinger, ricercatore di Anthropic, ha stimato in oltre il 10% la probabilità che l’intelligenza artificiale possa uccidere tutti gli esseri umani nel prossimo decennio. La valutazione è stata espressa in un post pubblicato su X e ripreso dall’emittente Cbs.

Secondo Hubinger, i modelli attuali comporterebbero un rischio basso. La sua preoccupazione riguarda invece una superintelligenza capace di migliorarsi autonomamente, uno scenario che, a suo giudizio, starebbe avanzando più rapidamente di quanto previsto.

L’allarme sul problema dell’allineamento

Nel suo intervento, Hubinger ha affermato che Anthropic starebbe facendo del suo meglio, ma non disporrebbe ancora di un piano per risolvere il problema dell’allineamento per la superintelligenza. Ha aggiunto che l’azienda non sarebbe chiaramente sulla strada giusta per riuscirci.

Il ricercatore, che si presenta come membro dell’azienda con sede a San Francisco, ha quindi distinto il rischio basso attribuito ai modelli oggi disponibili da quello legato a futuri sistemi di superintelligenza dotati di auto-miglioramento. La sua è una stima personale.

Le dimissioni di Jacob Coxon

Il post di Hubinger è arrivato dopo l’annuncio delle dimissioni di Jacob Coxon, che ha dichiarato di avere trascorso gli ultimi tre anni nella ricerca sul pre-addestramento sia presso OpenAI sia presso Anthropic.

Coxon ha sostenuto che OpenAI e Anthropic non stiano agendo in modo responsabile. Nel suo messaggio ha parlato di una corsa verso una superintelligenza capace di auto-migliorarsi, ritenendo che possa mettere a repentaglio le vite delle persone.

Secondo l’ex ricercatore, in OpenAI molti non avrebbero pienamente interiorizzato la portata della posta in gioco per la civiltà. Riguardo ad Anthropic, Coxon ha affermato che la posta in gioco sarebbe compresa, ma che l’azienda sarebbe coinvolta in una corsa per arrivare prima degli altri, nella convinzione che nessun altro agirebbe responsabilmente.

I test dell’AI Security Institute

Sulla vicenda è intervenuto anche l’AI Security Institute, organizzazione internazionale creata dai governi e incaricata di analizzare, testare e ridurre i rischi legati ai sistemi di intelligenza artificiale più avanzati.

Un portavoce del Cabinet Office britannico, interpellato da Cbs, ha dichiarato che l’AI Security Institute continua a collaborare con i partner del settore, tra cui Anthropic, per rendere i modelli più sicuri.

Il portavoce ha inoltre riferito che, la settimana precedente, era stato testato GPT-6 Astra, indicato come il modello più potente di OpenAI, prima del rilascio al pubblico. Il Regno Unito, ha affermato, continuerà a testare i modelli più avanzati, a sviluppare una comprensione scientifica delle loro capacità e dei relativi rischi, e a basare le decisioni politiche su evidenze concrete. I rischi, ha aggiunto, non si fermano ai confini nazionali. (Fonte: AdnKronos)