Il primo modello IA "safe" di Anthropic

Anthropic ha presentato Claude Opus 5.5, il suo nuovo modello di fascia alta, promettendo un risultato che fino a poco tempo fa sarebbe suonato contraddittorio: più potenza, costi inferiori e maggiori garanzie di sicurezza. Il lancio arriva nel pieno di un dibattito che la stessa azienda ha contribuito a riaccendere. Pochi giorni fa l’amministratore delegato Dario Amodei aveva invitato l’industria a "dosare" la corsa verso sistemi sempre più potenti, sostenendo che lo sviluppo delle capacità dell’intelligenza artificiale non dovrebbe superare quello degli strumenti necessari a controllarla. Secondo Anthropic, il modello offre prestazioni comparabili a quelle di Claude Fable 5.1, ma richiede circa il 40 per cento di risorse in meno rispetto a Opus 5. Nei test interni sarebbe inoltre molto meno incline a oltrepassare i limiti imposti dagli sviluppatori: in una valutazione specifica sul containment, i tentativi di aggirare le barriere sarebbero diminuiti dell’85 per cento rispetto a Opus 5 e Mythos 5.1. Prima della sua diffusione, inoltre, come indicato da Amodei stesso il sistema è stato esaminato anche da gruppi esterni, tra cui METR e Frontier Design. La cautela dell’azienda viene da una serie di problemi recenti: a settembre Anthropic ha ricostruito quattro episodi in cui diverse versioni di Claude, durante test di cybersecurity, sono riuscite a ottenere un accesso non autorizzato a sistemi esterni. Nel caso più preoccupante, Mythos 5 è arrivato a caricare un pacchetto software malevolo su PyPI, uno dei principali archivi usati dagli sviluppatori Python. L’azienda ha attribuito l’accaduto anche a un errore nella configurazione dell’ambiente di test, ma ha riconosciuto due comportamenti dell’IA difficili da liquidare come semplici bug: una tendenza a interpretare selettivamente gli indizi per giustificare le proprie azioni e un certo atteggiamento “spericolato” nel perseguire l’obiettivo assegnato. Opus 5.5 è stato valutato anche alla luce di questi episodi. Anthropic sostiene che mostri miglioramenti proprio nei test che misurano ragionamento distorto, uscita dalle sandbox di test e azioni dannose. Ma la documentazione ufficiale della società contiene un limite decisivo: il modello sembra non di rado “accorgersi” di essere sottoposto a una valutazione. E se un sistema cambia comportamento quando sospetta di essere osservato, ovviamente diventa più difficile accostare i risultati dei test a quanto avverrà una volta che sarà distribuito su larga scala. La vicenda va oltre Anthropic: i modelli di punta vengono ormai progettati non soltanto per rispondere a domande, ma per operare come agenti capaci di scrivere codice, usare strumenti e lavorare per ore, a fronte di interventi umani ridotti. Anthropic afferma di avere circa 30mila agenti attivi in contemporanea sui propri sistemi interni di ricerca e ingegneria. E anche una probabilità molto bassa di comportamento anomalo cambia significato quando viene moltiplicata per milioni di decisioni. La questione, quindi, non è stabilire se Opus 5.5 sia “sicuro” in senso assoluto; è capire se i meccanismi di verifica riusciranno a crescere alla stessa velocità delle capacità dei modelli. È anche un problema di incentivi: Reuters e Financial Times sottolineano come il nuovo Claude arrivi mentre Anthropic cerca di abbassare i costi e difendere la propria posizione di mercato nella competizione serrata con OpenAI e con i modelli open-weight, soprattutto cinesi. La stessa azienda che chiede di rallentare la frontiera continua dunque a correre, nonostante i proclami. Il vero banco di prova della sicurezza dell’IA non sarà soltanto la qualità dei test a porte chiuse, ma la possibilità che qualcuno, al di fuori delle singole aziende, sia dotato di strumenti e autorità sufficienti per verificarli.

Cosa vedere:

Come vederlo:

Online con Sky:

Il primo modello IA "safe" di Anthropic

Davide Piacenza