Cosa possiamo imparare dal caso del modello OpenAi diventato un hacker

Per la prima volta, uno dei rischi più discussi dell’intelligenza artificiale sembra essere diventato realtà, uscendo dai laboratori di uno dei grandi player internazionale per fare danni a un’infrastruttura reale. Durante una serie di test di valutazione interni, OpenAI ha perso il controllo di un agente basato su una nuova incarnazione - ancora non commercializzata - delll’ultimo modello della casa GPT-5.6 Sol. L’agente era stato sottoposto a un test che verifica se un sistema di IA è capace di sfruttare falle informatiche. Durante la prova, però, ha sfruttato una vulnerabilità sconosciuta per connettersi a Internet e riuscire a collegarsi ai sistemi di Hugging Face, una delle principali piattaforme usate per sviluppare e condividere modelli di intelligenza artificiale. Per capirci, è come se l’IA di OpenAI avesse barato a un esame, anche se nel suo caso, non essendo dotata di volontà, l’accostamento rischia di essere fuorviante: nel test esisteva soltanto un obiettivo specifico, che è stato perseguito con mezzi che i progettisti non avevano previsto. I nuovi agenti, però, non si limitano a rispondere o generare codice: possono pianificare, usare strumenti e concatenare azioni. Ed è proprio quel che è successo, in un modo che ha lasciato tutti di stucco . OpenAI nel test ha ridotto i filtri che impediscono ai modelli di cimentarsi in attività informatiche ad alto rischio, al fine di misurarne le capacità offensive massime. Ma il problema non è stato soltanto “l’intelligenza” del sistema: come ha osservato Wired, un ambiente che si definisce altamente isolato dalla rete non dovrebbe dipendere da un componente capace di raggiungerla. La vicenda, al di là degli interrogativi che pone su altri piani, è anche una storia di segmentazione insufficiente, credenziali accessibili e software vulnerabile. La novità dell’accaduto risiede anzitutto nella scala e nella perseveranza del tiro mancino. Hugging Face ha ricostruito oltre 17mila eventi generati da uno sciame di ambienti temporanei creati ad hoc dal modello in fase di test, che evidentemente si era messo in testa di riuscire a conquistarla. A maggio, il team di intelligence di Google ha segnalato il primo caso osservato di una falla di tipo zero-day verosimilmente sviluppata con l’aiuto dell’IA e destinata a un’operazione criminale su larga scala. Quella volta si trattava di un’infrastruttura pensata per amplificare gli impatti di una rete di phishing, malware e ricognizione; una rete capace di sostenere campagne multistadio limitando al minimo l’intervento umano. L’età del crimine informatico che si produce da sé, insomma. C’è poi un secondo paradosso inquietante, nella vicenda di oggi. Per analizzare l’intrusione indebita, Hugging Face ha provato a usare gli ultimi modelli commercialmente disponibili, ma i filtri hanno bloccato comandi ed exploit necessari alla ricostruzione forense, di fatto incapaci di distinguere un difensore da un aggressore. Oltre al danno, la beffa. L’azienda vittima allora si è affidata a GLM-5.2, un modello cinese open-weight eseguito sui propri server. È un’asimmetria su cui vale la pena fermarsi a ragionare: se chi attacca può rimuovere i vincoli, mentre chi difende attraverso servizi chiusi può essere fermato dalle regole di sicurezza, cosa può sventare l’opera dei malintenzionati? Il problema a monte, tuttavia, riguarda una governance affidata a quegli stessi laboratori aziendali che competono per costruire i sistemi più potenti. OpenAI ha reso pubblico l’accaduto e promesso controlli più severi, anche a costo di rallentare la ricerca tecnologica. Ma test come questo non possono essere trattati come esperimenti confinati, né – soprattutto – possono venire valutati soltanto dai loro stessi sviluppatori. Servono ambienti autenticamente separati, verifiche indipendenti, obblighi di notifica e responsabilità chiare quando la sicurezza finisce a gambe all’aria. Il futuro della cybersicurezza si reggerà, con ogni probabilità, su una corsa agli armamenti che vede opposti agenti offensivi e difensivi. Ma oggi abbiamo scoperto che quella corsa è già iniziata.

Cosa vedere:

Come vederlo:

Online con Sky:

Cosa possiamo imparare dal caso del modello OpenAi diventato un hacker

Davide Piacenza