Tramite alcuni post su X, il 27enne britannico ha denunciato una corsa irresponsabile verso sistemi di superintelligenza auto-migliorante. Il ricercatore sostiene che nel settore si parla ormai di "fase finale" e che molti addetti ai lavori temono che l'AI possa diventare letale in poco tempo. Coxon invita i colleghi a riflettere sui rischi dei prossimi anni
"Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite". Con questo messaggio, pubblicato questa mattina sul suo account X, il ricercatore Jacob Coxon ha annunciato l'uscita dal settore dell'Intelligenza artificiale.
La corsa ai modelli auto-miglioranti
Come anticipato dal Wall Street Journal, Coxon, 27enne britannico con alle spalle una formazione matematica, ha spiegato che lascia Anthropic perché non vuole partecipare alla competizione per costruire sistemi capaci di auto-migliorarsi. Una corsa che, secondo lui, potrebbe portare a modelli fuori controllo. Il ricercatore ha aggiunto che nel settore si parla ormai apertamente di "periodo critico" e "fase finale", espressioni che descrivono l'avvicinamento a sistemi in grado di superare le capacità umane.
"Una scomessa arrogante"
Nei suoi post, Coxon ha contestato la logica della competizione accelerata: "Accettare questa gara e entrare nella 'fase finale' è una scommessa arrogante che non dovrebbe essere lanciata da Slack di un'azienda privata. Tentare di completare l'allineamento in tempi record dovrebbe richiedere una fiducia straordinaria nel fatto che non esistano traiettorie migliori". Un riferimento diretto a canali interni delle aziende, dove, secondo lui, si discute di strategie che potrebbero avere conseguenze globali.
"Potrebbe ucciderci entra la fine del decennio"
La parte più allarmante dei suoi messaggi riguarda la percezione del rischio tra gli stessi ricercatori: "Le persone che sviluppano l'intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più sensato nelle loro dichiarazioni alla stampa, ma sento le stesse persone esprimere timore".
Leggi anche
Quanto ci si può fidare di cosa raccontano le big tech sui modelli AI?
L'appello ai ricercatori
Coxon ha rivolto un messaggio diretto ai colleghi: "Se sei un ricercatore di laboratorio, ti esorto a riflettere su come ti sembreranno davvero i prossimi anni. Vuoi avviare un esperimento di apprendimento per rinforzo superintelligente senza una comprensione rigorosa della sua mente? Dovresti abbassare la testa perché 'tanto succederà comunque' o cogliere questo momento?".
Una caso che alimenta il dibattito sulla sicurezza dell'AI
Le dimissioni di Coxon arrivano mentre Anthropic e altri attori del settore sono impegnati nello sviluppo di modelli sempre più potenti. Il suo addio, motivato pubblicamente, si inserisce nel crescente dibattito sulla sicurezza, sulla governance e sulla necessità di un rallentamento coordinato dello sviluppo dell'intelligenza artificiale.
)
)
)
)
)