Meta e l’assistente Ai: per violare gli account è bastato "chiedere"

Per prendere il controllo di migliaia di account Instagram, a dei malintenzionati nelle ultime settimane non è servito violare i server di Meta, rubare password o mettere in piedi sofisticate operazioni informatiche. In molti casi, è bastato chiedere. Anzi, per dirla meglio: è bastato convincere il nuovo operatore dell’assistenza clienti basato sull’intelligenza artificiale di Meta a inviare il link per il reset della password a un indirizzo email diverso da quello del proprietario del profilo. Ci immaginiamo il loro stupore. Eppure è questo il cuore del pasticcio che ha messo nei guai Instagram e la sua casa madre: un sistema pensato per rendere più rapida l’assistenza agli utenti si è trasformato in uno strumento per violarne la privacy e i dati. Secondo documenti interni citati dal New York Times, quasi 35mila profili sarebbero stati attaccati attraverso la falla; circa 20mila sarebbero risultati effettivamente compromessi sotto il profilo della sicurezza. Tra gli account finiti nel mirino c’erano anche profili molto visibili, come il vecchio account Instagram della Casa Bianca dell’era Obama, quello di Sephora e quello di un alto ufficiale della U.S. Space Force. Ma quanto accaduto non riguarda solo qualche bersaglio celebre: ha a che fare con la leggerezza con cui le grandi piattaforme affidano funzioni sempre più delicate a sistemi automatici, i quali non sempre sono dotati di protezioni all’altezza dei poteri che ricevono. Meta ha spiegato che il problema non è dipeso direttamente dal chatbot, ma da un bug in un percorso del codice che non verificava correttamente se l’indirizzo email indicato durante il recupero della password fosse davvero associato all’account. È una distinzione tecnica importante, che tuttavia non cambia il punto sociale – ma diciamo anche industriale – della vicenda: l’intelligenza artificiale è stata inserita in un flusso di assistenza in cui le è stato permesso di provocare conseguenze concrete sull’identità digitale delle persone. L’IA di Meta non ha dato soltanto consigli: ha potuto accompagnare l’utente – o chi si è spacciato per lui, appunto – verso un’azione di importanza centrale come il recupero di un account. Il paradosso è che la falla ha colpito proprio uno dei terreni su cui l’IA viene oggi presentata come più utile: il servizio clienti. Per aziende-colosso delle dimensioni di Meta, automatizzare l’assistenza significa ridurre tempi d’attesa, alleggerire i centri di supporto e offrire risposte immediate a una platea infinita di utenti bisognosi di aiuto. È una promessa di miglioria che fa gola a molti, soprattutto quando di mezzo ci sono piattaforme spesso accusate di rendersi irraggiungibili quando qualcosa va storto. Ma il caso Instagram mostra il rovescio della medaglia di questi tentativi: se un assistente automatico non si limita a spiegare cosa fare ma può attivare procedure sensibili, ogni errore di progettazione rischia di tramutarsi in una possibile linea d’attacco. È anche per questo che l’incidente è stato letto dagli esperti di cybersicurezza come un segnale più ampio e inquietante: gli attacchi informatici non passano più soltanto da falle nei sistemi tradizionali, password deboli o email di phishing, ma sempre più spesso possono sfruttare le logiche di funzionamento dei nuovi strumenti automatizzati. E non c’è bisogno di inventarsi modi per “crackare” l’IA: basta indurla a eseguire un’azione sbagliata. Nel caso di Meta, il problema non era che il sistema, una volta interrogato, non sapesse rispondere; era che rispondeva con fin troppa efficacia alla persona sbagliata. Ecco perché il cataclisma che si è abbattuto sull’assistenza clienti di Instagram è più di un problema di sicurezza: lo si potrebbe intendere come un primo assaggio, molto concreto, di cosa può succedere quando l’IA viene applicata in modo dozzinale a processi che richiedono verifiche rigide, accountability e la possibilità di un intervento umano riparatore. L’inciampo non è stato immaginare un’assistenza clienti più veloce, ovviamente, ma permettere a un sistema automatizzato di entrare in una procedura sensibile senza fissare paletti abbastanza netti tra la conversazione con l’utente e le prove di verifica dell’identità. In un’epoca digitale in cui un profilo social può contenere messaggi privati, contatti professionali, identità pubbliche e attività economiche, non è un dettaglio che permette di dormire sonni tranquilli: se lo fa una delle multinazionali più ricche e osservate del mondo, cosa possiamo aspettarci da tutti gli altri?

Cosa vedere:

Come vederlo:

Online con Sky:

Meta e l’assistente Ai: per violare gli account è bastato "chiedere"

Davide Piacenza