I nuovi agenti IA sanno tutto delle persone e della nostra vita

Un assistente personale che ricorda il compleanno di un amico, suggerisce come ricucire un litigio o consiglia un regalo azzeccato, di norma, sarebbe considerato una risorsa particolarmente dedicata, che oltre a occuparsi degli aspetti lavorativi sa avere un occhio di riguardo per il piano relazionale. Ma quando il suddetto assistente è un’applicazione dell’intelligenza artificiale, le cose si complicano. Gli agenti capaci di “imparare” le nostre relazioni, e come migliorarle, sono l’ultima frontiera dell’intelligenza artificiale personale. Per riuscire nell’obiettivo, però, devono conoscere non soltanto chi le utilizza, ma anche le persone che circondano l’utente. Muse, l’agente IA lanciato a settembre da Meta, fa esattamente questo: il problema è che lo fa in modo troppo intenso, tanto da generare preoccupazioni sul versante della privacy. Interrogando il suo sistema, il ricercatore specializzato Karan Joshi ha recuperato istruzioni interne di Muse, che prevedono la creazione di una scheda per ogni persona nella vita dell’utente: e quindi archivi per ogni singolo familiare, partner, amico, collega, conoscente e via discorrendo. Come raccontato da Wired US, i profili possono essere aggiornati con cadenza oraria e comprendere dati biografici, episodi condivisi, questioni irrisolte e valutazioni sulla qualità del rapporto. Una sezione di Muse è dedicata perfino a come rafforzare il legame che ci unisce da quella persona. Questa scoperta non è la prova definitiva che ogni contatto venga sistematicamente schedato, ma rivela che il prodotto è progettato per funzionare come una specie di consulente relazionale. La differenza rispetto ai vecchi chatbot non è di poco conto: Muse non si limita a rispondere agli input dell’utente; può collegarsi a posta elettronica, calendari e altri servizi, ricordare le informazioni raccolte e agire per conto nostro. Una conversazione privata con un contatto, venendo incrociata con appuntamenti e messaggi trovati altrove, permette al software intelligente di ricostruire una relazione. L’agente può anche dedurre, correttamente o meno, la vicinanza fra due persone, le loro abitudini e i conflitti che le riguardano. Il problema insito in questo impostazione è duplice: non soltanto la privacy, ma anche il potenziale di malintesi; un’impressione confidata in un momento di rabbia rischia sempre di trasformarsi in una voce con un peso specifico sproporzionato nell’archivio. Il nodo più delicato, però, è quello che riguarda il consenso: chi installa un assistente può autorizzarlo a leggere la propria casella email, ma gli archivi del chatbot contengono anche informazioni su chi scrive o riceve messaggi. Una persona può, tecnicamente, finire in un dossier senza aver mai scaricato Muse, né avere accesso agli archivi per verificare o correggere cosa viene registrato sul suo conto. Per Meredith Whittaker, presidente della Signal Foundation che gestisce l’omonima piattaforma di messaggistica criptata, l’automazione di questo tipo di fatto estende gli effetti delle scelte di un singolo utente all’intera rete dei suoi contatti. Una schermata di accettazione dei termini e condizioni, in questo stato di cose, non basta più: la riservatezza di una relazione sociale deve dipendere dalle decisioni consensuali di entrambe le parti coinvolte. Meta sostiene che Muse utilizzi informazioni pubbliche e dati condivisi volontariamente dall’utente. La società si è difesa dicendo che ogni agente opera in un ambiente virtuale separato, che l’accesso ai servizi può essere revocato e che le memorie possono venire cancellate su richiesta. Secondo l’azienda di Mark Zuckerberg, le conversazioni non entrano nei meccanismi dei suoi sistemi pubblicitari. Ma queste garanzie proteggono più che altro chi sceglie di servirsi di Meta Muse, non necessariamente chi vi finisce rappresentato senza aver nemmeno scaricato l’applicazione IA di Meta. I rischi descritti non sono soltanto teorici: un utente canadese ha raccontato che Muse, incaricato di vendere un oggetto online, ha comunicato il suo indirizzo di casa a un acquirente sconosciuto, in base ad autorizzazioni di privacy di cui l’uomo non aveva capito la portata. E il 21 ottobre è emerso che un difetto nei collegamenti per condividere le conversazioni con Muse aveva reso non protette migliaia di pagine, alcune contenenti informazioni finanziarie e professionali riservate. Meta ha sospeso la funzione interessata da problema, ma l’accaduto è eloquente nel mostrare quanto il confine fra accesso consentito ed esposizione indesiderata sia ancora un cantiere aperto. Gli agenti IA promettono di semplificarci la vita, ma se sceglieranno di farlo trasformando ogni rapporto umano in dati da conservare, correlare e interpretare, allora dovremo affrontare nuove questioni. Non basta chiedersi se vogliamo un assistente che sappia tutto di noi: occorre domandarsi se abbiamo il diritto di fargli sapere tutto degli

Cosa vedere:

Come vederlo:

Online con Sky:

I nuovi agenti IA sanno tutto delle persone e della nostra vita

Davide Piacenza