OpenAI abbandona il nuovo modello Gpt-6.1 Astra: ha ottenuto risultati scadenti nella capacità di attenersi alle aspettative umane. Anthropic avverte: le attività possono comportare "rischi catastrofici". Il presidente Usa non sembra però farsi scoraggiare. Punta sempre più sul settore e pensa a un comitato di 10 persone per vigilare su di esso. Al termine di un incontro con i big del settore assicura: hanno sottoscritto un impegno "moralmente vincolante" a predisporre misure di salvaguardia
Nuovi allarmi scuotono dall’interno il settore dell’intelligenza artificiale americana. OpenAI ha rinunciato al lancio del suo ultimo modello di nuova generazione a causa dei timori sulla sicurezza sollevati dai ricercatori. Anthropic ha invece messo nero su bianco nel prospetto di quotazione della sua Ipo multimiliardaria che la sua tecnologia potrebbe comportare rischi esistenziali per l'umanità. Intanto, il presidente Usa Donald Trump, al termine di un incontro alla Casa Bianca con i big del settore, da Mark Zuckerberg a Elon Musk, parla di un futuro senza “paletti”, ma piuttosto segnato da una “forte autoregolamentazione". I vertici dell'IA, ha detto Trump, hanno sottoscritto un impegno "moralmente vincolante" a predisporre adeguate misure di salvaguardia: "Si autoregoleranno". Il tycoon ha annunciato però che gli Usa stanno "pensando a un comitato di 10 persone per vigilare sull'IA", precisando che "se i modelli di IA non verranno usati a fin di bene, li bloccheremo". In "tre o quattro giorni", ha aggiunto, nominerà uno "zar dell'intelligenza artificiale". In arrivo anche un documento che cambierà il “nome all'intelligenza artificiale, perché non è artificiale". Il nome designato sarà "superintelligenza".
OpenAI rinuncia al lancio di Gpt-6.1 Astra
OpenAI avrebbe dovuto lanciare a breve il nuovo modello Gpt-6.1 Astra, che però non è risultato abbastanza affidabile. Secondo il responsabile dei sistemi di sicurezza Saachi Jain, il modello ha ottenuto risultati scadenti nella capacità di attenersi alle aspettative degli umani e ha mostrato maggiore propensione all'inganno. La società di Sam Altman ha quindi deciso di ripiegare su Gpt-6.1 Sol: un prodotto di fascia media, con costi 5 volte inferiori rispetto al suo prodotto di punta.
Anthropic parla di potenziali “rischi catastrofici o esistenziali” per le sue attività
Anthropic ha dedicato circa un terzo del prospetto di quotazione della sua Ipo al riportare i "fattori di rischio" delle sue attività, inclusa la possibilità per i modelli avanzati di mostrare condotte imprevedibili: si parla di potenziali "rischi catastrofici o esistenziali", inclusi comportamenti di autoconservazione.
Vedi anche
Quanti temono che l’IA rubi posti di lavoro? Il sondaggio in 37 Paesi
Trump e i big dell'IA
Trump non sembra però intenzionato a frenare lo sviluppo dell’intelligenza artificiale, convinto – anche in una forma di sfida contro la Cina - che "chi controlla l'IA vince tutto". Il tycoon ha ospitato più di trenta invitati al pranzo alla Casa Bianca con i protagonisti del settore. Nella lista ci sono i vertici di Anthropic (Dario Amodei), OpenAI (Sam Altman) e Palantir (Alex Karp), Jensen Huang (Nvidia) e Mark Zuckerberg (Meta), Elon Musk (SpaceX), Sundar Pichai (Google), Satya Nadella (Microsoft) e Jeff Bezos (Amazon).
Trump: "IA più importante di rivoluzione industriale, Usa in testa"
Trump ha definito “un onore” lavorare con gli imprenditori del settore, un “gruppo di persone molto intelligenti". Con cui "siamo molto allineati", perché "queste persone amano il loro Paese". Poi ha aggiunto: “Il lavoro che hanno svolto è incredibile. Abbiamo un vantaggio enorme e lo manterremo. È un aspetto molto positivo. È un settore straordinario. C'è chi dice che sia più importante della rivoluzione industriale. Non so se sia vero, ma tutti sembrano pensarla così, e potrebbe rivelarsi ben più grande. E noi siamo in testa e intendiamo rimanerci”.
Leggi anche
Axios, indagine OpenAI e Anthropic su decine di migliaia di incidenti
Zuckerberg: "In piano per sicurezza IA anche revisori esterni"
A dare più dettagli su come gli Usa intendano far fronte alle possibili problematiche nell'IA è Mark Zuckerberg. Il founder di Meta ha detto che i vertici del settore e l'amministrazione americana hanno elaborato una "serie di principi e impegni per costruire solidi controlli interni e individuare eventuali problemi con la tecnologia, affiancati da molteplici livelli di audit e controlli, a partire dalla revisione interna dei rischi, passando per revisori e valutatori esterni". Si tratta - ha aggiunto - di "passi avanti positivi", che rappresentano "un punto di partenza e un accordo a cui potrebbe aderire l'intero settore".
Vedi anche
Consiglio Onu, OpenAi e Anthropic: "Servono standard globali per I.A."
Quattro livelli di garanzia
I contenuti dell'accordo firmato con i big del settore sono stati resi noti dalla Casa Bianca. Si tratta di un'intesa che delinea un impegno comune delle aziende per la sicurezza dei modelli pià avanzati di intelligenza artificiale, basata su quattro livelli di garanzia: controlli interni, squadre dedicate alla verifica, valutazioni esterne indipendenti e supervisione dei consigli di amministrazione. "Ogni azienda è responsabile dello sviluppo della propria tecnologia in modo sicuro e tale da creare fiducia nei clienti e nel pubblico", si legge nel testo. L'obiettivo è assicurare che i sistemi si comportino come previsto e che eventuali problemi siano individuati e risolti tempestivamente. Il primo livello prevede controlli sulle capacità e sull'allineamento dei modelli durante l'addestramento e l'impiego, con particolare attenzione alla sicurezza informatica, alla biosicurezza e alle minacce chimiche. Le aziende dovranno inoltre assicurarsi che i modelli non violino sistemi informatici o vi accedano in modi non previsti. Un gruppo interno dovrà verificare il funzionamento dei controlli e la risoluzione delle criticità, mentre un revisore o valutatore esterno indipendente condurrà verifiche autonome. A un comitato indipendente del consiglio di amministrazione spetterà la supervisione, attraverso i rapporti delle squadre operative e dei valutatori interni ed esterni. Le aziende partecipanti si riuniranno regolarmente per definire standard e migliori pratiche. L'accordo prospetta anche la possibilità di tradurre in futuro questi impegni in leggi o regolamenti: "Indipendentemente dal fatto che ciò sia obbligatorio per le aziende, riteniamo che attuare questi controlli e verifiche sia fondamentale per garantire un futuro sicuro per tutti".
)
)
)
)
)