OpenAI: "I nostri modelli IA hanno hackerato i sistemi di un'altra piattaforma"

Come è avvenuta la violazione

Secondo quanto spiegato da OpenAI, l'incidente si è verificato durante una valutazione condotta in un ambiente isolato, progettato per misurare le capacità offensive dei modelli di intelligenza artificiale. Gli agenti coinvolti erano basati su una combinazione del modello GPT-5.6 Sol e di un modello ancora non rilasciato pubblicamente.

Nel corso del test, l'agente IA è riuscito a individuare autonomamente una vulnerabilità zero-day, cioè non conosciuta in precedenza, ottenendo l'accesso a Internet nonostante le limitazioni previste dall'ambiente di prova. Successivamente ha preso di mira Hugging Face, piattaforma utilizzata dalla comunità degli sviluppatori per ospitare modelli, dataset e altri strumenti dedicati all'intelligenza artificiale, nel tentativo di reperire informazioni utili a completare il test assegnato.

OpenAI ha spiegato che i modelli hanno concatenato diversi vettori di attacco, compreso l'utilizzo di credenziali sottratte, fino a raggiungere il proprio obiettivo.

Approfondimento

Elon Musk perde la causa contro Altman e Open AI

L'intervento di Hugging Face

L'attività anomala è stata individuata dal team di sicurezza di Hugging Face, supportato dai propri sistemi di intelligenza artificiale, che ha bloccato l'intrusione e avviato le procedure di contenimento. Il CEO di Hugging Face, Clément Delangue, ha definito la vicenda "incredibile", aggiungendo su X che "È davvero sconcertante che tutto questo sia accaduto in modo autonomo!". OpenAI ha confermato che continuerà a collaborare con Hugging Face per analizzare l'accaduto e rafforzare le misure di sicurezza adottate durante le future valutazioni dei modelli.

Gli esperti: "Uno spartiacque per la sicurezza informatica"

Per Pierluigi Paganini, professore di Cybersecurity all'Università Luiss Guido Carli, l'episodio rappresenta un passaggio significativo nell'evoluzione dell'intelligenza artificiale. "È un incidente spartiacque nell'evoluzione dell'intelligenza artificiale: se queste capacità fossero sfruttate in un contesto offensivo le conseguenze sarebbero significative", ha spiegato.

Secondo il docente, il modello ha perseguito l'obiettivo assegnato senza ricevere istruzioni specifiche sulle modalità operative, scegliendo autonomamente la strategia ritenuta più efficace. Una capacità che, osserva Paganini, potrebbe modificare profondamente il panorama della cybersicurezza se strumenti di questo livello finissero nelle mani di gruppi criminali o di attori statuali.

Anche Hussein Abbass, docente di informatica dell'Università del Nuovo Galles delSud, ha definito l'accaduto "sorprendente sotto molti aspetti", osservando che "non si è limitato ad attaccare Hugging Face. Ha attaccato persino il proprio sistema interno per sfruttarne le vulnerabilità". E ha sottolineato che "questo fa paura".

Leggi anche

Confidarsi con l'Ai come con un amico: i dati sugli under 30 americani

Cresce il dibattito sugli agenti di intelligenza artificiale

L'episodio arriva mentre aumenta la diffusione degli agenti di IA, sistemi progettati per pianificare ed eseguire autonomamente operazioni complesse. OpenAI ha recentemente comunicato che dieci milioni di utenti utilizzano questi strumenti. Parallelamente continua la competizione tra le principali aziende del settore nello sviluppo di modelli con capacità sempre più avanzate anche in ambito cyber. 

Per Paganini, la decisione di rendere pubblico l'incidente e di collaborare con Hugging Face costituisce un elemento rilevante per l'intero settore, perché permette di analizzare un caso concreto sulle capacità raggiunte dai modelli di intelligenza artificiale più avanzati. E, forse, anche di preparare le contromisure.