"Rischio estinzione", Coxon e gli altri esperti che lanciano allarme sui pericoli dell'AI

L'addio di Coxon giunge mentre Anthropic - che ha fatto della sicurezza dell'IA un elemento centrale della propria immagine pubblica - si prepara a una colossale offerta pubblica iniziale (Ipo) che potrebbe portare la valutazione dell'azienda a mille miliardi di dollari. Coxon ha avvertito che le persone al di fuori dei laboratori stanno sottovalutando la potenza di questa tecnologia. "Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall'oggi al domani e acquisire potere e risorse reali", dice.

Ti potrebbe interessare anche: Quanto ci si può fidare di cosa raccontano le big tech sui modelli AI?

Nel 2024, Jan Leike, co-responsabile del team Superalignment di OpenAI, si dimise dall’azienda, denunciando che al suo interno la sicurezza era passata in secondo piano rispetto alla creazione di prodotti sempre più potenti.

Ti potrebbe interessare anche: L’IA è entrata nei gruppi armati: come viene usata da Isis e Al-Qaeda

Co-fondatore e chief scientist di OpenAI, lasciò nel 2024, dopo aver spinto qualche mese prima per far dimettere Sam Altman dal consiglio d’amministrazione (senza successo). Aveva dedicato gli ultimi anni al problema della superintelligenza e dell'allineamento, cioè a come evitare di perdere il controllo di un'intelligenza artificiale superiore a quella umana. È uno dei precedenti più importanti, anche se non ha mai rilasciato una dichiarazione pubblica dicendo che OpenAI avrebbe distrutto l'umanità.

Ti potrebbe interessare anche: Bill Gates sull'AI: "Strumento pericoloso"

Uno dei casi più simili a Coxon è quello di Daniel Kokotajlo. Ex ricercatore del team Governance di OpenAI, nel 2024 si dimise perché riteneva che l'azienda stesse andando verso l'AGI – Intelligenza artificiale generale - senza adeguate garanzie di sicurezza. Successivamente ha pubblicato scenari estremamente dettagliati sui possibili sviluppi dell'IA, compreso il rischio che sistemi superintelligenti sfuggano al controllo umano. E proprio in occasione delle dimissioni di Coxon, su The Free Press ha firmato un editoriale dal titolo “Sì, l’IA potrebbe davvero ucciderci tutti”. 

Ex ricercatore di OpenAI, Paul Christiano è ora nell’OpenAI Foundation, dove in questi giorni è stato nominato nel Comitato per la Sicurezza e la Protezione. Chiarissima la sua visione: “Se costruiamo una superintelligenza senza un sistema di allineamento più robusto, mi aspetto che perderemo definitivamente il controllo su di essa. Se ciò accadesse, la maggior parte delle persone potrebbe morire”.

Appoggia le dichiarazioni di Coxon anche Evan Hubinger, anche lui ricercatore nel campo della sicurezza presso Anthropic, secondo cui l'IA si sta evolvendo così rapidamente che c’è una possibilità superiore al 10% che "possa sterminare tutta l'umanità" entro il prossimo decennio. In un post su X, scrive che il rischio derivante dai modelli attualmente esistenti è "basso" ma si è detto "preoccupato" che la tecnologia possa presto svilupparsi e perfezionarsi al punto da rappresentare in un futuro prossimo un rischio esistenziale per l'umanità.

Al di là degli allarmi, molte sono anche le dimissioni recenti di vari lavoratori di Anthropic. A fine luglio se ne era andata Chloé Bakalar, unica eticista dedicata dell'azienda, poi Johannes Heidecke, responsabile del team Safety Systems. Quindi era toccato a Joshua Achiam, già responsabile della Mission Alignment, al direttore operativo Brad Lightcap, e infine al ricercatore Andrew Ho, dimessosi per divergenze tecniche.  

Ti potrebbe interessare anche: Usa, scienziati usano l'IA per creare nuovi virus: è la prima volta