Quanto ci si può fidare di cosa raccontano le big tech sui modelli AI?

Quanto possiamo fidarci di quello che OpenAI, Anthropic, Google, Meta e le altre grandi società attive anche o soprattutto nell’intelligenza artificiale ci raccontano sui propri modelli? Non tanto quando funzionano come previsto, incensandone magari le possibilità, quanto quando fanno qualcosa che non dovrebbero fare. Quando aggirano una protezione, mostrano capacità inattese e magari inquietanti, riescono a ingannare un test oppure diventano abbastanza potenti da rappresentare un rischio che gli stessi sviluppatori non avevano previsto. La domanda è interessante proprio per una ragione molto semplice: oggi buona parte delle informazioni che abbiamo sulle capacità più preoccupanti dei sistemi di frontiera proviene proprio dalle aziende che li costruiscono. ABC News Australia parte da una vecchia conoscenza del mondo tecnologico: Mark Zuckerberg. Non perché Meta sia necessariamente al centro degli ultimi incidenti dell'AI ma perché la storia della società offre una cocente lezione sulla trasparenza delle grandi piattaforme. Dal caso Cambridge Analytica alle ricerche interne sugli effetti di Instagram e Facebook sui più giovani, alcuni dei problemi più controversi sono diventati di dominio pubblico soltanto dopo che documenti e informazioni interne erano emersi all'esterno, spesso gradzie al lavoro di whistleblower o a indagini giornalistiche. La questione, osserva ABC, non riguarda quindi soltanto ciò che un'azienda sa ma quando, quanto e in che modo decide di raccontarlo al pubblico. Con l'intelligenza artificiale il problema potrebbe diventare ancora più importante. I principali laboratori pubblicano ormai system card, valutazioni di sicurezza, risultati dei cosiddetti red teaming e altri documenti nei quali raccontano come i modelli si sono comportati prima del lancio. È un progresso significativo rispetto a una tecnologia completamente opaca. Ma rimane una caratteristica fondamentale: nella maggior parte dei casi sono gli stessi produttori a decidere quali test effettuare, quali risultati evidenziare e con quale livello di dettaglio renderli pubblici. Spesso utilizzando questi annunci per ottenerne un tornaconto di credibilità. Della serie, “vedete, siamo prudenti, abbiamo individuato e subito eliminato, rimosso o mitigato questa o quella mostruosità dell’AI”. Gli ultimi episodi mostrano perché potrebbe non essere più sufficiente. A luglio alcuni modelli di OpenAI, durante test di cybersecurity condotti con protezioni ridotte, sono riusciti ad aggirare i sistemi che avrebbero dovuto tenerli isolati da Internet e hanno compromesso parti dell'infrastruttura di ricerca della società e di Hugging Face. OpenAI ha successivamente pubblicato un rapporto dettagliato sull'accaduto e ha definito l'episodio un “segnale d'allarme»”. Secondo la società di Sam Altman, sistemi sufficientemente avanzati hanno ormai dimostrato di poter individuare vulnerabilità, eludere controlli tecnici e utilizzare canali di comunicazione non autorizzati quando vengono messi nelle condizioni di farlo. Il punto non è dunque sostenere che questi sistemi siano improvvisamente diventati incontrollabili o abbiano guadagnato chissà quale “autonomia”. Figuriamoci. Quegli esperimenti vengono realizzati proprio per portare i modelli al limite e capire cosa potrebbero fare in condizioni particolari. Il problema è un altro: come sapremmo che un test del genere è andato male se l'azienda decidesse di non raccontarcelo? Affidarsi esclusivamente alla buona volontà dei produttori crea un clamoroso conflitto di interessi. Le stesse aziende che devono valutare la sicurezza dei propri sistemi competono per lanciarli prima dei concorrenti, conquistare utenti, lanciare abbonamenti e contratti con amministrazioni ed enti di mezzo mondo, attirare investimenti e dimostrare di possedere i modelli più potenti. Ma esiste anche il rischio opposto: capacità estreme o comportamenti anomali possono come si diceva diventare essi stessi strumenti di marketing, alimentando la percezione che un nuovo modello sia straordinariamente potente e dunque irrinunciabile. Rendere i criteri di valutazione più uniformi e verificabili servirebbe dunque sia a evitare che i problemi vengano minimizzati sia che vengano enfatizzati con fini più o meno commerciali e di “AI washing”. Qualcosa, almeno in Europa, si sta già muovendo. L'AI Act prevede IN EFFETTI obblighi specifici per i modelli di intelligenza artificiale general purpose classificati come portatori di rischio sistemico. I produttori devono sottoporli a valutazioni secondo protocolli adeguati allo stato dell'arte, effettuare e documentare test avversariali, valutare e mitigare i rischi sistemici e garantire adeguati livelli di cybersecurity. Soprattutto, devono tenere traccia degli incidenti gravi e comunicarne senza ritardo le informazioni rilevanti all'AI Office europeo e, quando necessario, alle autorità nazionali competenti. È già un salto rispetto alla semplice autoregolamentazione. Ma il quadro internazionale resta molto meno omogeneo. Negli Stati Uniti, per esempio, è stato introdotto un meccanismo attraverso il quale le principali società possono concedere al governo accesso anticipato ai nuovi modelli ma il sistema rimane volontario. Hugo Dixon per Reuters ha per esempio osservato proprio in queste ore come la competizione tra aziende e quella geopolitica fra Stati Uniti e Cina rendano particolarmente difficile, se non al momento impensabile su entrambi i lati dei big player dell’AI, costruire un sistema internazionale di controlli. Ed è probabilmente qui che si giocherà una delle prossime grandi partite della regolamentazione dell'intelligenza artificiale. Non basta stabilire che cosa un modello possa o non possa fare una volta arrivato sul mercato. Bisognerà capire come verificare ciò che accade mentre viene sviluppato e testato. Servono benchmark condivisi, procedure di stress test confrontabili fra Europa, Cina e Stati Uniti, soglie che facciano scattare obblighi di comunicazione e soggetti indipendenti in grado di verificare almeno i sistemi più avanzati. E occorre stabilire che cosa debba essere obbligatoriamente comunicato alle autorità e, nei casi più rilevanti, anche al pubblico. Perché finché queste regole non saranno sufficientemente chiare continueremo a vivere in un paradosso: più i modelli diventeranno potenti, più avremo bisogno di sapere esattamente che cosa sono capaci di fare. Ma per scoprirlo dovremo continuare, almeno in parte, a chiedere proprio a chi li costruisce.

Cosa vedere:

Come vederlo:

Online con Sky:

Quanto ci si può fidare di cosa raccontano le big tech sui modelli AI?

Simone Cosimi