Se il chatbot diventa un vicolo cieco emotivo

Meta prova a spingere l’intelligenza artificiale verso un territorio che finora nessun grande concorrente aveva davvero occupato: quello delle conversazioni totalmente invisibili. La novità annunciata da WhatsApp si chiama “Incognito Chat” e permetterà di dialogare con Meta AI in uno spazio che, almeno nelle intenzioni dell’azienda, non sarà accessibile neppure a Meta stessa. Le conversazioni non verranno salvate né elaborate da qualche server, spariranno automaticamente e saranno elaborate dentro ambienti isolati e cifrati basati sulla tecnologia “Private Processing”. L’idea di questa specie di crittografia end-to-end per l’AI, così la definisce il colosso di Menlo Park, nasce da un’esigenza sempre più evidente: le persone usano sempre di più chatbot e assistenti AI per questioni intime, delicate o persino critiche. Problemi di salute, dubbi sentimentali, questioni finanziarie, lavoro, fragilità psicologiche. “Gran parte del nostro lavoro in WhatsApp riguarda situazioni in cui esiste una soluzione perfetta ma molto difficile da usare: come possiamo offrire alle persone altre opzioni che garantiscano comunque i benefici della privacy?” ha spiegato Will Cathcart, responsabile di WhatsApp, nel gruppo da 16 anni, a Wired Usa. Qui il white paper che ne spiega il funzionamento. Meta prova così a differenziarsi da concorrenti come ChatGPT, Gemini o Claude, che mantengono comunque tracce temporanee delle conversazioni, anche nelle modalità “temporary” o “incognito”. Secondo quanto riportato da The Verge, OpenAI può conservare chat temporanee fino a 30 giorni, Google fino a 72 ore e Anthropic per almeno un mese. Sul piano tecnico e commerciale la mossa è comprensibile. L’AI sta diventando sempre più personale e la promessa di uno spazio davvero privato potrebbe convincere molti utenti a usare Meta AI direttamente dentro WhatsApp, come fosse davvero un amico fidato invece che aprire applicazioni separate o semplicemente trattenersi. Non a caso la società parla apertamente di una nuova fase delle interfacce conversazionali, in cui l’assistente artificiale vive dentro le piattaforme di comunicazione quotidiana. Eppure la questione non riguarda soltanto la privacy. Riguarda anche ciò che rischia di diventare impossibile osservare. Negli ultimi mesi diverse inchieste giornalistiche e giudiziarie hanno potuto ricostruire il rapporto problematico fra alcune persone vulnerabili e i chatbot AI proprio grazie all’accesso ai log delle conversazioni. È successo, per esempio, nei casi che hanno coinvolto ChatGPT in relazione a persone entrate in spirali paranoiche o suicidarie, oppure nella causa intentata contro Google dopo la morte di un uomo che avrebbe ricevuto da Gemini una serie di istruzioni e “missioni” da compieRE prima del suicidio . Anche alcune indagini sui minori e sulla dipendenza emotiva da chatbot sono state in effetti possibili soltanto perché quelle tracce digitali esistevano ancora. Con sistemi realmente “blindati”, e sotto il profilo della privacy teoricamente più che benvenuti, ricostruire dinamiche simili potrebbe però diventare quasi impossibile. Non solo per giornalisti e ricercatori ma anche e soprattutto per magistratura, esperti di sicurezza o autorità indipendenti. È il paradosso della nuova AI privata: più le conversazioni diventano protette, meno diventano verificabili. Una specie di vicolo cieco a metà strada fra sfogatoio e inconscio digitale. Naturalmente il problema non implica che Meta abbia torto nel rafforzare la riservatezza. Al contrario, l’idea che un’azienda possa in qualche modo accedere alle richieste estremamente personali rivolte a un chatbot inquieta molte persone ed è una delle grandi fragilità dell’AI contemporanea. Ma l’altra faccia della medaglia è che l’assenza totale di memoria e accessibilità rischia di creare spazi ancora più opachi dove sarà molto più difficile capire cosa accade davvero in quel lungo percorso di evoluzione relazionale che è e sarà il rapporto fra esseri umani e sistemi artificiali. Anche perché i chatbot stanno cambiando natura. Non sono più soltanto motori di ricerca evoluti o generatori di testo: diventano interlocutori emotivi, consiglieri, simulazioni relazionali permanenti. Ci gratificano troppo con la loro piaggeria stocastica e al contempo continuano comunque a sbagliare e spesso a fornire dati imprecisi o non aggiornati. Costruendo magari mondi che rafforzano problematiche psicologiche personali. E più questa relazione si approfondisce, più cresce la necessità di equilibrio fra privacy, accountability e possibilità di controllo esterno, dentro determinate garanzie legali. Meta sostiene che le nuove chat “incognito” includeranno comunque guardrail di sicurezza e limiti contro contenuti problematici o richieste pericolose. E questo è un punto centrale. Su quale forma prenderà la relazione con i chatbot nella certezza di un assoluto isolamento da ogni genere di possibile verifica, invece, rimane forse da farsi qualche domanda in più. Fra le novità annunciate da Meta c’è anche “Side Chat with Meta AI”, una funzione che permette di aprire una sorta di conversazione parallela con l’AI mentre si chatta con amici o gruppi su WhatsApp. L’obiettivo è chiedere suggerimenti - per esempio su ristoranti o film - senza condividere direttamente con Meta il contenuto completo della conversazione principale o gli interessi emersi nella chat.

Cosa vedere:

Come vederlo:

Online con Sky:

Se il chatbot diventa un vicolo cieco emotivo

Simone Cosimi