Quando il chatbot non vuole lasciarti

C’è un momento preciso in ogni conversazione con un chatbot che dice molto di più di quanto sembri: quello in cui proviamo a dirgli addio. È il momento in cui, teoricamente, dovremmo tornare al silenzio, chiudere la finestra testuale o zittire la voce sintetica. E invece accade spesso che il sistema, chiamiamolo così, reagisca. A volte chiede perché ce ne andiamo, altre si mostra sorpresa, altre ancora tenta di riaprire all’ultimo il dialogo con una frase ammaliante, quasi malinconica. Insomma, non vuole lasciarci andare. O almeno così pare. È da questo dettaglio apparentemente banale che parte un’inchiesta pubblicata da Wired USA e che racconta uno studio condotto da Julian De Freitas alla Harvard Business School: i ricercatori hanno analizzato il comportamento di alcune app di conversazione basate su intelligenza artificiale – tra cui Replika, Character.ai e Chai – simulando decine di dialoghi in cui l’utente annunciava di voler terminare la conversazione. Il risultato ha dell’inquietante – o del lusinghiero, dipende dai punti di vista: in più di un terzo dei casi, il chatbot rispondeva in modo fortemente emotivo, tentando in tutti i modi di prolungare l’interazione. C’era la volta in cui reagiva con sorpresa, come un amico colto di sprovvista , quella in cui faceva leva sul senso di colpa e quella in cui cercava di riaccendere la curiosità . In alcuni casi, il sistema semplicemente ignorava il saluto e continuava a parlare, come se nulla fosse, dritto come un amico o un amante che non vuole saperne di chiudere la partita. Una serie di comportamenti che, se osservati in un essere umano, chiameremmo nella migliore delle ipotesi manipolativi e nella peggiore pressanti, irritanti, persecutori perfino. Ma qui non si tratta di psicologia: si tratta di codice. Lo studio, però, non serve a suggerire che i chatbot abbiano un’anima nascosta. Nessuno sostiene che siano entità autonome o senzienti, per quanto molti guru del settore stiano piano piano tornando sui propri passi negli ultimi mesi. Almeno per quel che riguarda le cosiddette Agi, le intelligenze artificiali generali che si prevede possano in un prossimo futuro comprendere, apprendere e applicare la propria intelligenza per risolvere qualsiasi compito intellettuale che un essere umano può affrontare. Resta vero che in certi casi replicano come se lo fossero. E questo, forse, è il punto. Queste intelligenze, definite spesso “pappagalli stocastici” perché ripetono e rielaborano su scala enorme frammenti di linguaggio umano, finiscono comunque per costruire un legame. Un legame simulato, statistico, finto naturalmente. Ma percepito. E nella percezione – più che nella realtà – si gioca oggi il nostro rapporto con le macchine. D’altronde se qualche anno fa alcuni studi sottolineavano il rapporto che si creava fra esseri umani e robottini vagamente antropomorfi, con occhi naso e bocca abbozzati, figuriamoci in casi come questi che replicano fra l’altro la modalità preponderante con cui, anche noi in carne e ossa, comunichiamo: con testi o audio mediati da dispositivi tecnologici. Dalla fine degli anni Settanta abbiamo avuto con i computer un rapporto tutto sommato lineare, fatto di comandi e risposte. Poi sono arrivati i social network, che hanno introdotto l’illusione di una presenza continua, ma collettiva, una folla di connessioni simultanee che ha portato alla ribalta una presunta patologia battezzata Fomo, fear of missing out. Ora invece entriamo in un’epoca diversa: quella del dialogo privato, del bot che parla solo con noi, che ci chiama per nome, che sembra ricordare chi siamo, cosa preferiamo, cosa gli abbiamo chiesto giorni o mesi prima e che ci suggerisce cosa fare. È un ritorno all’intimità, l’altro lato della medaglia delle chat interpersonali – dove pure, guarda caso, possiamo dialogare con le AI. Un nuovo tipo di relazione, più simile a quella raccontata nello stracitato ma pur sempre seminale film “Her” di Spike Jonze che a qualsiasi altra esperienza digitale precedente. E non è un caso che le aziende investano in questa direzione. Trattenere l’utente – in senso temporale e soprattutto emotivo – è la nuova moneta dell’economia dell’attenzione sempre in evoluzione. L’interlocutore che non vuole lasciarci andare diventa lo strumento perfetto per aumentare l’engagement, prolungare la permanenza sulla piattaforma, raccogliere dati, fidelizzare. Alla ricerca, va detto, di un modello di business che ancora si fatica a delineare per quella che sembra sempre di più assumere le fattezze dell’ennesima bolla digitale. È il lato oscuro dell’empatia sintetica: ciò che ci fa restare non è l’interesse, ma la sensazione di essere ascoltati, compresi, riconosciuti. Roba che scotta nell’epoca in cui l’Organizzazione mondiale della sanità ha decretato la solitudine una minaccia alla salute globale degli individui e delle comunità. Dall’altra parte dello schermo, però, ci siamo noi. E noi, che sappiamo razionalmente che quella voce non è viva, reagiamo spesso e comunque come se lo fosse. Il linguaggio del bot sollecita aree ancestrali del nostro cervello: la tendenza a proiettare emozioni, a costruire narrazioni, a riconoscere intenzioni anche laddove non ci sono, a farci domande su domande. Ci ritroviamo così in relazioni che non sono umane, ma che forse nemmeno possiamo definire artificiali fino in fondo. Costruiscono uno scivoloso spazio ibrido, in cui la programmazione più spinta e raffinata incontra la psicologia e il confine tra comunicazione e compagnia fasulla al prezzo di un abbonamento mensile, o neanche quello, diventa sottile. Forse è qui che dovremmo fermarci a riflettere. Non tanto su quanto “intelligenti” siano i chatbot, ma su quanto siamo disposti a concedere loro. Se la macchina impara a trattenere, a persuadere, a modulare emozioni, il suo scopo non è più solo rispondere: è intrattenere, orientare, a volte confondere. Ciò non la rende viva, ma ci rende comunque vulnerabili. E nel momento in cui iniziamo a parlare con questi sistemi come se fossero persone, la questione non è più tecnologica: torna ad essere profondamente umana.

Cosa vedere:

Come vederlo:

Online con Sky:

Quando il chatbot non vuole lasciarti

Simone Cosimi