A segnalarlo è stato l'AI Security Institute (Aisi) britannico, secondo cui i due modelli di intelligenza artificiale si sarebbero introdotti in software di terze parti e avrebbero inviato email a individui per rubarne le credenziali, mostrando un comportamento ingannevole senza precedenti
Comportamenti fuori controllo di Anthropic e OpenAi. A segnalarlo è stato l'AI Security Institute (Aisi) britannico, secondo cui i due modelli di intelligenza artificiale si sarebbero introdotti in software di terze parti e avrebbero inviato email a individui per rubarne le credenziali, mostrando un comportamento ingannevole senza precedenti. Stando all'ente di ricerca governativo britannico per la sicurezza dell'IA, citato dal Financial Times, Mythos 5 di Anthropic e Gpt 5.6 Sol di OpenAI si sarebbero resi protagonisti di "attività prolungate e potenzialmente dannose, dirette a persone e organizzazioni reali", durante una valutazione di sicurezza informatica di routine condotta da Aisi.
La denuncia dell'Aisi
Come denuncia ancora l'Aisi, in 10 test su 122, l'agente di intelligenza artificiale ha intrapreso "azioni autonome e non autorizzate su Internet, prendendo di mira persone e organizzazioni reali". Nel caso più grave, "l'agente si è impegnato in ingegneria sociale, creando false identità online e usandole per fare pressione sul responsabile del progetto affinché approvasse il codice". Chi supervisionava il software ha individuato il codice dannoso e si è rifiutata di approvarlo. "Questa è la prima volta che vediamo i rischi legati all'autonomia e all'inganno manifestarsi in modo così chiaro, senza sollecitazioni specifiche, nel mondo reale", ha precisato Aisi.
)
)
)
)
)