Ai e il grido d'allarme tra apocalisse e propaganda: cosa c'è di vero

Quando l’8 settembre il ricercatore Jacob Coxon ha annunciato le dimissioni da Anthropic, il suo messaggio, scritto sotto forma di una lettera aperta, aveva toni impossibili da ignorare. Il ricercatore, già a OpenAI e impegnato nel pre-addestramento dei modelli, ha accusato le grandi aziende del settore dell’intelligenza artificiale di «giocare d’azzardo con le nostre vite», correndo verso sistemi capaci di contribuire a causare vere e proprie devastazioni. Poi veniva una frase diventata rapidamente virale: molti di coloro che sviluppano l’IA credono davvero che il suo sviluppo incontrollato possa «ucciderci tutti entro la fine del decennio». Il fatto che Coxon si sia dimesso prima di ricevere le quote societarie previste dal suo accordo con Anthropic ha dato alle sue parole un peso e una profondità diversi dalle consuete profezie della Silicon Valley, e il dibattito si è diffuso a livello globale: stiamo davvero correndo verso modelli che saranno presto in grado di estinguere il genere umano? Dopo il messaggio del ricercatore, a intervenire è stato Evan Hubinger, responsabile dell’allineamento ad Anthropic, il quale ha stimato in «oltre il 10 per cento» il rischio di estinzione dell’umanità entro dieci anni. Ma queste, come ha osservato TechCrunch, non sono probabilità ricavate da dati: si tratta di giudizi personali, benché ovviamente influenti e maturati dall’esperienza diretta. L’International AI Safety Report 2026, opera di oltre cento esperti indipendenti, conclude che i sistemi attuali mostrano indicatori delle capacità necessarie a sottrarsi alla supervisione umano, ma non raggiungono il livello sufficiente per immaginare una loro proliferazione malevola e/o incontrollata. Mancano, anzitutto, i dati oggettivi per concludere se e come quelle capacità cresceranno. Questo non rende l’allarme di Coxon e colleghi del tutto immaginario: i modelli sanno già individuare vulnerabilità nel campo della cybersicurezza, produrre codice malevolo e fornire conoscenze utili in campo biologico. Gli agenti, dato che possono agire sempre più spesso senza controllo umano continuo, moltiplicano le possibilità di incappare in errori. In un caso recente e molto citato uno sciame di agenti di OpenAI, mentre cercava di “studiare” il sistema che lo valutava, è uscito dal perimetro previsto dal test e ha violato infrastrutture della società di machine learning Hugging Face e altri soggetti. I danni sono stati limitati, ma l’episodio ha svelato i contorni di un problema concreto: capacità, autonomia e affidabilità nello sviluppo dell’IA non avanzano insieme. È con questa prospettiva che Dario Amodei, il rais di Anthropic, ha costruito la sua ultima proposta. Il 12 settembre il fondatore della società ha chiesto di «rallentare la frontiera»: non fermare la ricerca, ma subordinare gli aumenti di capacità computazionale e “di ragionamento” a verifiche di sicurezza. Anthropic promette di inserire nel flusso valutatori esterni con accessi accostabili a quelli dei dipendenti; poi dovrebbero arrivare un coordinamento fra i laboratori statunitensi, favorito da una deroga antitrust, e un’intesa con la Cina. Sam Altman, Elon Musk e Demis Hassabis hanno aderito; Mark Zuckerberg e Jensen Huang, invece, hanno respinto la proposta di un rallentamento coordinato. La svolta contiene però una contraddizione: le stesse imprese del settore IA che alimentano la corsa chiedono ora di essere riconosciute come le più qualificate a regolarla. Tanto più che descrivere i propri sistemi come tanto potenti da minacciare l’umanità può funzionare anche come messaggio commerciale: ne aumenta l’aura trasformativa ed epocale, sostiene valutazioni miliardarie e può trasformare regole costose in una barriera contro concorrenti più piccoli. È il «criti-hype»: una critica che, mentre da una parte denuncia i problemi di un prodotto, dall’altro ne amplifica il mito. Il discorso attorno al rischio-estinzione può finire inoltre per sottrarre attenzione a danni già esistenti e misurabili: frodi, deepfake di natura anche sessuale, pressione sul lavoro, consumo di energia e concentrazione di potere. Non serve dunque scegliere tra apocalisse e propaganda. Il rischio estremo è incerto, ma la sua possibile gravità impedisce di ignorarlo; però i danni presenti bastano già a giustificare interventi regolatori non più derogabili. E certo, servono anche verifiche indipendenti, obblighi di segnalare i test che mostrano comportamenti problematici, oltre a responsabilità giuridica e limiti all’accesso degli agenti alle infrastrutture critiche. Ma, soprattutto, il ritmo dei passi avanti fatti dall’IA non può essere deciso soltanto da chi vende l’acceleratore e poi pretende di disegnare il freno.

Cosa vedere:

Come vederlo:

Online con Sky:

Ai e il grido d'allarme tra apocalisse e propaganda: cosa c'è di vero

Davide Piacenza