Sam Altman, Reuters rivela: "Cda di OpenAI avvertito su scoperta che minacciava umanità"

Mondo

Secondo l'agenzia, dietro le motivazioni che hanno portato i consiglieri a licenziare Altman (per reintegrarlo dopo soli 4 giorni) ci sarebbe Q*, nuovo progetto sull'intelligenza artificiale in grado di eguagliare e superare gli esseri umani nei compiti matematici

ascolta articolo

Prima della rimozione di Sam Altman da OpenAI, alcuni membri della comunità scientifica avevano inviato una lettera al consiglio di amministrazione della società, di cui Altman era a capo durante il periodo di ChatGPT. Nella missiva, si segnalava una scoperta nel campo dell'intelligenza artificiale che presentava potenziali minacce per l'umanità. Si tratterebbe di un progetto chiamato Q* (si pronuncia Q Star, ndr), i cui effetti sulla società umana non sarebbero stati adeguatamente valutati prima della sua commercializzazione. Secondo fonti citate da Reuters sul suo sito, la lettera dei ricercatori avrebbe contribuito ai motivi che hanno portato al licenziamento di Altman. Reuters ha ammesso di non essere stata in grado di visionare una copia, e i ricercatori che l'hanno scritta non hanno risposto immediatamente alle richieste di commento. Prima del suo ritorno martedì scorso, oltre 700 dipendenti avevano minacciato di dimettersi e unirsi a Microsoft, sostenitrice dell'azienda, in solidarietà con il loro leader licenziato. 

Cosa è il progetto Q*

Come anticipato, la principale fonte di preoccupazione per ricercatori e consiglieri di OpenAI sembrerebbe essere stata la commercializzazione dei progressi di Q*, avvenuta prima di una completa valutazione e comprensione di tutte le possibili conseguenze. La società di San Francisco non ha confermato i dettagli relativi all'allontanamento temporaneo dell'amministratore delegato all'agenzia britannica. Tuttavia, ha ammesso l'esistenza di una comunicazione interna riguardante il progetto Q*. Ma non tutti sono critici: fonti interne a OpenAI hanno espresso convinzione nel fatto che il progetto Q* potrebbe costituire una svolta significativa nella ricerca della startup riguardo all'intelligenza artificiale generale (AGI), che OpenAI definisce come sistemi di IA più intelligenti degli esseri umani. 

leggi anche

OpenAI annuncia il ritorno di Sam Altman come Ceo

Le capacità matematiche del nuovo progetto

Quello che ha stupito - e spaventato - i ricercatori di questo nuovo modello di intelligenza artificiale era la capacità di risolvere test matematici. Anche se si trattava di matematica elementare, il superamento di tali test li rendeva molto ottimisti riguardo al futuro successo di Q*. Conquistare la capacità di fare matematica, dove c'è una sola risposta corretta, renderebbe l'IA simile all'intelligenza umana. A differenza di una calcolatrice che può risolvere un numero limitato di operazioni, l'AGI può generalizzare, imparare e comprendere. Da tempo i computer scientist discutono del pericolo rappresentato da macchine superintelligenti, nell'ipotesi che possano considerare la distruzione dell'umanità come interesse primario per la loro sopravvivenza.

 

leggi anche

ChatGPT, cos'è lo scenario Terminator temuto dal fondatore di OpenAI

Mondo: I più letti