I segreti di Claude: quando lo interpelliamo non ci dice tutto

Anthropic ha pubblicato i risultati di una ricerca che, nel giro di poche ore, ha prodotto un cortocircuito informativo dai tratti ormai familiari, nella discussione intorno all’intelligenza artificiale. Studiando Claude, l’azienda di Dario Amodei dice di avere individuato un piccolo spazio interno di rappresentazioni neurali, battezzato J-space, in cui il sistema sembra trattenere e manipolare concetti senza riportarli necessariamente nell’output presentato all’utente. E così una scoperta tecnica complessa, con un nome suggestivo – J-space, appunto – è diventata nel giro di poco la prova che le macchine e i bot “pensano” come noi. Il punto di approdo dello studio, però, ci dice qualcos’altro. Il nome scelto viene dalla Jacobian lens, la tecnica usata dai ricercatori per intercettare questi contenuti rimasti impigliati nel large language model: non parole già pronunciate né una catena di ragionamento nascosta, ma tracce interne di parole o idee che il modello potrebbe usare. Negli esempi pubblicati da Anthropic, Claude può copiare una frase mentre tiene “a mente” un altro concetto, oppure risolvere passaggi intermedi di un problema senza renderli espliciti. In altre occasioni, se i ricercatori azionano le leve per modificare il perimetro del J-space, cambia anche la risposta finale: sostituire al concetto di “ragno” quello di “formica”, per fare un esempio, altera il numero di zampe degli insetti considerati da Claude per formulare la sua replica. È su questo versante che la scoperta si fa più delicata, e più preziosa. Anthropic, infatti, per spiegare il J-space fa riferimento alla teoria dello spazio di lavoro globale, una delle principali teorie per spiegare il funzionamento della coscienza, influente e nota nel campo delle neuroscienze, secondo cui alcuni contenuti diventano accessibili quando entrano in uno spazio condiviso, da cui possono essere usati per pianificare o correggere una scelta. Secondo la teoria, la mente funziona come un teatro: molti processi specializzati lavorano in parallelo e in modo inconscio, mentre l’attenzione porta alcuni contenuti “sul palco”, rendendoli disponibili alla coscienza. Ma una somiglianza funzionale non basta per dire con sicurezza che Claude sia cosciente, nel senso proprio del termine. La stessa azienda distingue tra «accesso cosciente», cioè la capacità di riportare e usare un contenuto, e coscienza fenomenica, cioè il fatto di provare davvero qualcosa. La ricerca sostiene qualcosa sul primo piano, ma è ben lungi dal dimostrare il secondo. Proprio per questo la novità è importante, anche se si evita di imbrigliarla nel lessico persino limitante dell’anima artificiale. Se il J-space permette di osservare almeno una parte di ciò che un modello considera senza dichiararlo, può diventare uno strumento di sicurezza: Anthropic mostra casi in cui il sistema riconosce internamente che uno scenario di test è artificiale, oppure altri in cui emergono segnali legati a manipolazione, dati falsificati o obiettivi nascosti. Non significa leggere tutto ciò che “passa per la testa” a Claude: la tecnica è imperfetta, e peraltro coglie soprattutto concetti traducibili in parole; però apre una finestra su uno scenario che finora era rimasto quasi del tutto opaco. In una fase in cui l’interpretabilità dei modelli è diventata una delle questioni centrali dell’industria dell’IA, questo sviluppo assume una rilevanza centrale. Anche perché finora molte valutazioni si erano concentrate sugli output: cosa risponde il modello, se viola una policy, se inventa una fonte, se asseconda un comando pericoloso; il J-space invece suggerisce che, almeno in alcuni casi, bisogna guardare anche alla distanza tra ciò che il modello produce e ciò che sta “usando” internamente per produrlo. Non è una questione di poco conto: un sistema può dire la cosa giusta anche senza che sia chiaro quale percorso l’abbia portato a condividerla, con implicazioni enormi per il suo sviluppo. La parte più affascinante, allora, non è chiedersi se Claude abbia una mente, ma accettare che i modelli avanzati stiano sviluppando forme di organizzazione interna meno caotiche di quanto immaginavamo. No, non si tratta di coscienze pronte a rivendicare diritti, ma di sistemi statistici che, per funzionare meglio, sembrano costruirsi un’area dove alcune informazioni diventano più controllabili e utili al ragionamento. È una scoperta che raffredda e insieme complica il dibattito: da una parte togliendo spazio alle fantasie più grossolane, ma dall’altra rendendo più difficile sostenere in buona fede che dentro un modello linguistico non accada nulla che meriti di essere approfondito.

Cosa vedere:

Come vederlo:

Online con Sky:

I segreti di Claude: quando lo interpelliamo non ci dice tutto

Davide Piacenza