L'allarme delle Big Tech sull'IA: "Va troppo veloce". Quali sono i rischi

Il ceo di OpenAI, Sam Altman, ha annunciato che la sua azienda non sarà quotata in Borsa quest'anno, citando tra i motivi le crescenti preoccupazioni sulla sicurezza dell'IA. In un'intervista pubblicata su Fortune, Altman ha detto che al momento un'Ipo sarebbe "sconsigliata". La decisione ha fatto quindi slittare almeno al 2027 l’attesissima operazione. I commenti di Altman sono arrivati a poca distanza da quando il ceo di Anthropic, Dario Amodei, ha pubblicato un saggio esortando le big tech dell'IA a rallentare la rapidità con cui migliorano i loro modelli più avanzati. Lo stesso Altman, e poi anche Elon Musk (SpaceX), hanno risposto prontamente sui social media concordando con la linea di Anthropic e ammettendo che il settore deve procedere con maggiore cautela.

Per approfondire:

IA, OpenAI pronta a rallentare sviluppo. Anthropic blocca ricerche illecite su virus

Come spiegato da Amodei, la tecnologia dell'IA ha registrato progressi "drasticamente più rapidi" negli ultimi mesi ed è ormai in grado di migliorarsi autonomamente, una dinamica nota come "auto-miglioramento ricorsivo". "Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e pertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare", ha poi avvertito.

Nel suo saggio Amodei propone un piano in tre fasi volto a moderare il ritmo dello sviluppo senza "sacrificare il vantaggio commerciale o il vantaggio degli Stati Uniti nell'IA". Anthropic si è "impegnata unilateralmente" nel primo passo del piano, ha detto Amodei, che concede ai valutatori terzi l'accesso a livello di dipendenti all'azienda per verificare le pratiche di sicurezza e segnalare gli incidenti.

Il secondo passo incoraggia le principali aziende di IA nei Paesi democratici a coordinarsi e stabilire standard comuni di sicurezza, mentre il terzo prevede il coordinamento tra governi democratici e governi autoritari.

"Per essere chiari, non significa fermare la formazione dei modelli o il progresso tecnico, ma assicurarsi che le aziende si prendano il tempo necessario per allineare e proteggere i loro modelli, e che valutatori terzi possano confermarlo", ha scritto Amodei.

Le ultime dichiarazioni e decisioni dei principali attori dello sviluppo dell’IA arrivano in un contesto in cui i ricercatori, sempre più attivamente, chiedono una decelerazione coordinata. Il saggio di Amodei, del resto, è stato pubblicato dopo che un ricercatore di Anthropic, Jacob Coxon, aveva attirato l’attenzione annunciando di lasciare il lavoro in azienda e sostenendo che "l'AI potrebbe ucciderci in 10 anni".

Ma andando indietro negli anni, si vede che quello di Coxon è solo l'ultimo degli allarmi. Solo per citare alcuni precedenti: già nel 2024, Jan Leike, co-responsabile del team Superalignment di OpenAI, si era dimesso dall’azienda denunciando che al suo interno la sicurezza era passata in secondo piano rispetto alla creazione di prodotti sempre più potenti. E anche Ilya Sutskever, co-fondatore e chief scientist di OpenAI, lasciò nel 2024, dopo aver spinto qualche mese prima per far dimettere Sam Altman dal consiglio d’amministrazione (senza successo). Aveva dedicato gli ultimi anni al problema della superintelligenza e dell'allineamento, cioè proprio a come evitare di perdere il controllo di un'intelligenza artificiale superiore a quella umana. 

I rischi sono concreti e alcuni episodi recenti danno la dimensione di quello che sta accadendo. OpenAI ha confermato che un software autonomo basato sui suoi modelli di Intelligenza artificiale ha preso di mira un altro sito durante una fase di test, un paio di mesi prima di un altro attacco al sito di programmazione Hugging Face, avvenuto a fine luglio.

Nel primo incidente, quello di maggio - di cui finora non c'era stata notizia -, alcuni modelli sviluppati da OpenAI sono stati coinvolti in un'operazione non autorizzata condotta da agenti di Intelligenza artificiale che hanno preso di mira RubyGems, un sito che offre servizi per la programmazione. RubyGems ha descritto l'accaduto come una "campagna di pubblicazione di spam" che ha costretto il sito a sospendere temporaneamente la creazione di nuovi account. La società sta collaborando con OpenAI per capire esattamente cosa sia successo. Inoltre, all'inizio del mese alcuni ricercatori hanno accusato gli agenti di IA di OpenAI di aver preso di mira un sito web tedesco chiamato DSEwiki, utilizzato dagli sviluppatori. Le autorità di regolamentazione dell'Unione Europea stanno esaminando l'accaduto. "Prendiamo la questione estremamente sul serio e stiamo monitorando attentamente la situazione", ha dichiarato Thomas Regnier, portavoce dell'Ue per il digitale. 

Mentre sul versante Anthropic, la società sostiene che l'Iran abbia utilizzato modelli di intelligenza artificiale sviluppati negli Stati Uniti per tentare di prendere di mira navi della Marina Usa in Medio Oriente. Secondo un rapporto di Anthropic, un gruppo legato a Teheran avrebbe raccolto informazioni provenienti da transponder di navi e aerei, fotografie militari e immagini satellitari commerciali per tracciare le navi da guerra americane e individuare vulnerabilità nei loro sistemi di comunicazione di bordo. Anthropic, come ha riportato il Wall Street Journal, ha dichiarato di aver sventato il piano di questo "attore della minaccia", che si è avvalso del modello di IA avanzata Claude. 

Intanto, a Washington, i legislatori di entrambi i partiti chiedono nuove tutele per l'IA. E anche l'ex presidente degli Stati Uniti, Barack Obama, ha avvertito che l'intelligenza artificiale potrebbe rivelarsi "pericolosa" se non gestita adeguatamente, esortando i Democratici a definire strategie politiche e di governance per affrontare la questione. Il New York Times ha riferito che Obama ha sollecitato il leader della minoranza alla Camera, Hakeem Jeffries, a contribuire a promuovere un dibattito pubblico sulle politiche relative all'IA, qualora i Democratici dovessero riconquistare la Camera nelle elezioni di metà mandato del 3 novembre. E ha inoltre sollecitato i candidati alle elezioni presidenziali del 2028 a porre l'IA al centro dei propri programmi, con un piano chiaro per affrontare le preoccupazioni economiche e di sicurezza a essa connesse.

Sul tema dell’IA oggi è intervenuto anche Donald Trump: il presidente degli Stati Uniti, parlando con i giornalisti al'Irish Open, ha detto che “chiunque vinca la corsa all'Intelligenza artificiale, vincerà tutto”. L’inquilino della Casa Bianca ha detto di non volere un rallentamento del settore, dove Washington è in competizione con la Cina.

Per approfondire: "Rischio estinzione", Coxon e gli altri esperti che lanciano allarme sui pericoli dell'AI