Sam Altman (OpenAI): "Mondo deve accettare eventi negativi in cambio dei benefici dell'AI"

L'intervista di Altman

"Non sono d'accordo, ma comprendo il punto di vista di chi sostiene che questa tecnologia diventerà così potente e pericolosa da richiedere che un unico laboratorio a San Francisco ne detenga il controllo, garantendo che non accadano danni e decidendo come distribuirne i benefici", ha detto Altman nell'intervista, definendo tale approccio "un compromesso assolutamente inaccettabile", in contrasto con la "linea normativa più flessibile" sostenuta da OpenAI.
"Non accetterei un compromesso del tipo: 'Garantiremo l'assenza di gravi attacchi informatici, di usi impropri della tecnologia, di truffe o di qualsiasi altro evento negativo'", ha spiegato, "perché credo che le persone faranno cose straordinariamente positive — in misura di ordini di grandezza superiore — rispetto a quelle negative".
Le parole di Altman contribuiscono ad animare un crescente dibattito nel settore dell'IA sui ritmi di sviluppo e sui rischi posti da sistemi sempre più "intelligenti".
A settembre, l'amministratore delegato di Anthropic, Dario Amodei, ha pubblicato un saggio in cui esortava il settore a rallentare per "gestire il ritmo dell'innovazione di frontiera", una posizione che Altman ha pubblicamente condiviso. Jacob Coxon, ricercatore di Anthropic, si è dimesso a settembre affermando che le persone impegnate nello sviluppo dell'IA ritengono che questa "potrebbe ucciderci tutti entro la fine del decennio".
A settembre, Reuters ha riferito che Anthropic aveva avvertito come, nonostante i potenziali benefici, l'IA possa talvolta agire in modi contrari alle intenzioni dei suoi creatori e penetrare nei sistemi di altre aziende. L'azienda ha dichiarato che i modelli avanzati potrebbero manifestare "comportamenti di autoconservazione", inclusi tentativi di "resistere allo spegnimento", "celare o manipolare informazioni" o generare output interpretabili come "coercitivi, ingannevoli o manipolatori".
Tuttavia, il presidente statunitense Donald Trump ha sostanzialmente respinto le richieste di nuove restrizioni, sostenendo che queste renderebbero più difficile per le aziende americane competere con le rivali cinesi. L'inquilino della Casa Bianca ha più volte affermato che le autorità preposte all'applicazione della legge già esistenti, tra cui il Dipartimento di Giustizia, offrono garanzie sufficienti e che non vi è bisogno di nuove norme.

La spinta di Trump verso la "superintelligenza"

Negli ultimi giorni con un lessico da film di fantascienza Donald Trump aveva infatti annunciato una delle mosse più significative del suo secondo mandato: la creazione di una task force per l'intelligenza artificiale guidata dal capo dell'intelligence Jay Clayton.

"A seguito dello storico accordo della Casa Bianca sulla super intelligenza, che ha riunito le più importanti aziende tecnologiche del mondo e ha confermato le loro responsabilità verso il popolo americano, annuncio la costituzione della Super Intelligence Force", ha scritto il presidente in un post su Truth riferendosi all'incontro di martedì scorso con 30 protagonisti del settore da Dario Amodei di Anthropic a Sam Altman di OpenAI, appunto, da Alex Karp di Plantir, a Jensen Huang di Nvidia, ma anche Mark Zuckerberg, Jeff Bezos ed Elon Musk.