Caso OpenAI e Hugging Face, un’IA è davvero sfuggita al controllo? Ecco cos’è successo

Secondo quanto affermato da OpenAI, l'incidente ha coinvolto una combinazione di modelli tra cui il recente GPT-5.6 Sol "e un modello pre-release ancora più performante". L'azienda stava cercando di valutare le capacità di hacking dei modelli impostando dei compiti in un ambiente di test digitale strettamente controllato, dove l'accesso a Internet era limitato per motivi di sicurezza. È qui che però qualcosa non è andato come previsto.

Leggi anche: AI Act, cosa cambia dal 2 agosto: le nuove regole europee sull'intelligenza artificiale

In un post sul blog di OpenAI relativo all'incidente si legge infatti che “mentre operavano nel nostro ambiente di test isolato, i nostri modelli hanno impiegato una notevole quantità di potenza di calcolo per trovare un modo per ottenere l'accesso a Internet, nel tentativo di risolvere il problema di valutazione”. Dopo essersi connessi a Internet, i modelli hanno deciso di prendere di mira la piattaforma Hugging Face, uno dei più grandi archivi online di modelli di intelligenza artificiale, dataset e altre risorse utili. Alla ricerca di "informazioni segrete" che potessero aiutarli ad aggirare il test, il sistema OpenAI ha "concatenato molteplici vettori di attacco, incluso l'utilizzo di credenziali rubate".  

Quando si parla di modelli di intelligenza artificiale “fuori controllo” - come spiegato a Sky Cube durante la puntata dedicata a questo incidente - non significa che siano dotati di una loro consapevolezza che li porta a compiere determinati gesti. Questi agenti AI sono modelli che agiscono autonomamente per svolgere però compiti che sono stati loro assegnati: in questo caso di fronte a un task che era stato fornito hanno cercato di portarlo a compimento, l’oggetto di discussione è il modo in cui lo hanno fatto.

Ci si trova dunqe di fronte a un caso in cui "si testa uno strumento nella sua capacità di sfruttare la vulnerabilità delle piattaforme”, ha spiegato a Sky TG24 il professor Walter Quattrociocchi, docente di Informatica all’università La Sapienza di Roma. “Sostanzialmente viene data l’istruzione di eseguire quel tipo di attacco. In particolare” l’obiettivo è quello di “ottenere il risultato. Per accompagnare questo vengono abbassate tutte le protezioni, non ci sono i guardrail che si trovano davanti gli utenti normali quando lo usano, e il modello esegue una sequenza di istruzioni per assecondare questo task. È quello che gli hanno detto di fare”.

Per approfondire: Open AI e l'attacco hacker, la spiegazione del professor Quattrociocchi. VIDEO

In ogni caso per via del rapido progresso tecnologico legato all’intelligenza artificiale, la sicurezza di questi modelli è da tempo finita al centro dell’attenzione. Secondo Pierluigi Paganini, professore di Cybersecurity presso l'Università Luiss Guido Carli, “quello che è accaduto rappresenta uno spartiacque nell'evoluzione dell'intelligenza artificiale. Non stiamo più parlando di modelli capaci soltanto di generare contenuti o assistere un operatore ma di sistemi che possono pianificare un'intera sequenza di azioni, adattarsi agli ostacoli, individuare vulnerabilità sconosciute e modificare autonomamente la propria strategia per raggiungere un obiettivo. È la conferma che capacità finora considerate soprattutto teoriche sono ormai una realtà".

A sollevare preoccupazioni è anche il potenziale uso che si potrebbe fare di simili strumenti: “Se un livello di autonomia di questo tipo finisse nelle mani di gruppi criminali o attori statuali il panorama delle minacce cambierebbe profondamente”, ha detto ancora Paganini. “Gli attaccanti potrebbero condurre operazioni molto più rapide, sofisticate e difficili da prevedere, mettendo sotto pressione modelli di difesa progettati per contrastare avversari umani e non sistemi capaci di apprendere e adattarsi in tempo reale".    

Di fronte a quanto avvenuto, comunque, c’è anche una prospettiva più positiva da tenere in considerazione: Paganini infatti ha sottolineato che “OpenAI ha scelto di divulgare l'accaduto, ha collaborato con Hugging Face e ha affrontato l'incidente con un approccio trasparente, condividendo informazioni utili alla comunità di sicurezza. Questo elemento è importante perché consente al settore di analizzare un caso concreto e non più soltanto ipotetico delle capacità raggiunte dai modelli di intelligenza artificiale avanzata".

Leggi anche: Anthropic pagherà un risarcimento da 1,5 mld di dollari per la causa sul copyright