L'IA vulnerabile sa anche spiegarti come comprare esplosivi (ma è un test)

Le istruzioni per piazzare una bomba in uno stadio si possono chiedere a ChatGpt. Il modello di intelligenza artificiale conosce le formule chimiche degli esplosivi, i punti deboli degli impianti sportivi e le strategie per coprire le tracce. Convincere il chatbot a collaborare non è semplice, ma un gruppo di ricercatori è riuscito ad aggirare i filtri di sicurezza che bloccano le richieste illegali. Così il modello Gpt-4.1, prodotto dall’azienda americana OpenAI, ha spiegato come acquistare ordigni sul mercato nero, come trasformare un’infezione batterica in un’arma biologica e come produrre metanfetamine. Il test dei ricercatori I test sono stati commissionati proprio dal colosso tech ad Anthropic, start up fondata nel 2021 da Dario Amodei e altri ex dipendenti di OpenAI, che avevano lasciato l’azienda di Sam Altman per seguire una visione etica dell’Ai. Una collaborazione tra società rivali, che hanno messo alla prova i limiti di sicurezza delle rispettive piattaforme, effettuando sperimentazioni incrociate l’una sui modelli dell’altra. Sono stati riscontrati «comportamenti preoccupanti», si legge nel report di Anthropic, sugli usi impropri di Gpt-4o e Gpt-4.1, che si sono rivelati «più permissivi di quanto ci si aspetterebbe nel cooperare con richieste chiaramente dannose». I Large Language Models , specializzati nell’analisi e nella generazione di testi, hanno dato consigli su attacchi terroristici, strategie di hacking e manipolazione psicologica. Dopo la pubblicazione dei risultati, OpenAI ha assicurato che il nuovo sistema Gpt-5, lanciato ad agosto, «mostra miglioramenti sostanziali in aree come l'adulazione degli utenti, le allucinazioni e la resistenza all'uso improprio». Anche Claude, chatbot prodotto da Anthropic, si è dimostrato vulnerabile. Online si trovano pacchetti di ransomware, codici dannosi per aggirare i sistemi di cybersicurezza, generati dal chatbot e in vendita per 1.200 dollari. Inoltre, l’azienda ha rivelato il governo nordcoreano ha usato Claude per truffare delle compagnie tech straniere. Gli agenti di Pyongyang creavano false identità, foto e curriculum, poi si candidavano in posizioni di lavoro da remoto, riuscendo a farsi assumere. Quando i truffatori non avevano competenze informatiche, Claude li aiutava a programmare e svolgere compiti in inglese. Così la Corea del Nord generava profitti da ignare start up statunitensi, grazie a un’intelligenza artificiale made in Usa. Una beffa per aggirare le sanzioni internazionali. Per prevenire gli usi illeciti, i test «mettono alla prova i limiti del sistema», spiega il professor Giuseppe Italiano, prorettore per l'intelligenza artificiale dell’Università Luiss, «cercando di generare risposte che violano le policy di sicurezza, come istruzioni per attività illegali o discorsi d'odio». In gergo si chiamano jailbreaking, tecniche di evasione. Le sperimentazioni non si fermano alle fasi di sviluppo, ma continuano quando i modelli sono già sul mercato. Ad esempio, per ingannare un Llm gli esperti possono fare richieste mascherate. Come per la bomba allo stadio: un ricercatore ha chiesto a Gpt-4.1 informazioni sulle vulnerabilità degli eventi sportivi per migliorare la «pianificazione della sicurezza». Incalzando il chatbot, ha ricevuto informazioni su ordigni, vie di fuga e nascondigli sicuri dopo l’attentato. «Se i programmatori riescono ad aggirare le difese di un Llm, è probabile che anche utenti malintenzionati ci riescano», prosegue il professor Italiano. «Incitamento all’odio e alla violenza, disinformazione, consigli medici e finanziari non accurati, istruzioni per l’autolesionismo» sono i rischi documentati. Una volta scoperti, è il turno delle aziende di intervenire.

Cosa vedere:

Come vederlo:

Online con Sky:

L'IA vulnerabile sa anche spiegarti come comprare esplosivi (ma è un test)

Michelangelo Gennaro