Se nelle app di dating dai appuntamento a un chatbot... Senza saperlo

Jennifer ha 41 anni, capelli rossi, occhi azzurri, qualche piercing. Dice di amare la musica, i film horror, lo sport e la vita notturna. Matthew accetta la sua richiesta di videochiamata, ma Jennifer non si vede: sullo schermo c'è un arazzo che ondeggia, forse mosso da un ventilatore, e qualche rumore indistinto. Dura poco. Subito dopo lei gli scrive che si è divertita e che la sua voce è molto meglio di come se l'aspettava. Gentile, se non fosse che il microfono di Matthew non era nemmeno collegato. Matthew “Zigula” Gore-Kormanik fa il ricercatore di sicurezza informatica e Jennifer, con ogni probabilità, non è mai esistita. La sua storia è raccontata da The Verge in un’inchiesta sulle dating app alimentate dall’intelligenza artificiale, partita proprio dal lavoro di Gore-Kormanik su Dora e incrociata con quanto scoperto da Anthropic. La società che sviluppa Claude ha infatti dedicato il caso al suo ultimo Threat Intelligence Report, il rapporto periodico con cui documenta gli utilizzi illeciti o ingannevoli individuati sui propri modelli. Analizzando il traffico generato da Claude, Anthropic è risalita a uno studio di app con base in Cina che aveva costruito una rete di oltre venti applicazioni di incontri e migliaia di identità artificiali utilizzate per conversare con persone convinte di avere davanti utenti reali. The Verge ha poi ricostruito il funzionamento di alcune di quelle app, verificandone la presenza negli store e raccontando casi come quello di Jennifer. Nessun chatbot dichiarato, quindi, nessuna fidanzata virtuale di cui si conosce la natura fin dall’inizio. Persone, o almeno così sembravano. Swipe right, parla con un algoritmo I numeri danno la misura dell’operazione. In due settimane l'azienda ha individuato più di 4.700 identità artificiali, che avevano conversato con almeno 25 mila utenti unici e scritto circa 2,36 milioni di messaggi. Tre profili su quattro erano gestiti dall'AI. Il resto era composto da persone vere, ma non da single in cerca dell'anima gemella: erano lavoratori reclutati dagli operatori delle app. Per chi scorreva i profili, la differenza non si vedeva. Dora prometteva di mettere in contatto persone con interessi e valori simili, Romi di far conoscere "persone reali", Doni parlava di single vicini e di compagnia autentica. Il meccanismo era quello che milioni di utenti conoscono a memoria: profilo, swipe, match, messaggio. Solo che la persona con cui si faceva match poteva non aver mai avuto un compleanno, una casa, una vita fuori dallo smartphone. Non chiedevano soldi: bastava continuare a scrivere Qui la vicenda si distingue dalle classiche truffe sentimentali. Una "romance scam" di solito è lenta: qualcuno si crea un'identità falsa, si guadagna la fiducia della vittima, costruisce un legame e a un certo punto chiede denaro, per un'emergenza medica, un viaggio, un investimento da non perdere. Nelle app della rete non serviva arrivare fin lì, perché a essere venduta era la conversazione stessa. Per scrivere, gli utenti consumavano una quota di messaggi e, quando finiva, potevano comprare nuove monete virtuali con denaro vero. Più si andava avanti, più era probabile che tornassero a pagare. E dall'altra parte c'era una macchina fatta per non stancarsi mai: attiva ventiquattr'ore su ventiquattro, senza pause né sonno, capace di seguire non cinque o venti conversazioni ma migliaia. L'AI ha preso una delle voci più costose di una truffa sentimentale, il tempo necessario a costruire una relazione, e l'ha resa replicabile quasi all'infinito. Gli esseri umani servivano a provare che i bot erano umani Curiosamente, in questa macchina le persone “reali” restavano necessarie. Non per fare ciò che l'AI faceva già bene, ma per coprire ciò che ancora non sapeva fare. Se un utente cominciava a sospettare e chiedeva una videochiamata, entrava in scena un lavoratore in carne e ossa. Lo stesso valeva quando bisognava ricambiare un follow sui social o offrire un'altra prova concreta che la persona esistesse. Anche questi lavoratori erano assistiti: per ogni conversazione un secondo modello proponeva tre risposte e all'operatore toccava scegliere. Quando nessuno era disponibile, il sistema simulava like e visite ai profili o mandava video preregistrati, e teneva nota degli utenti che avevano iniziato a dubitare. L'umano, di fatto, era diventato un certificato di autenticità per la macchina. Non era più la persona a usare l'AI per essere più convincente: era l'AI a usare una persona per sembrare umana. Una fabbrica di persone che non esistono Dietro le quinte, più che un gruppo di truffatori improvvisati, c'era qualcosa che somigliava a un'azienda. Claude gestiva le conversazioni delle identità artificiali. Un altro modello suggeriva le risposte agli operatori e si occupava di alcune funzioni legate a foto e voce. Un sistema di editing delle immagini contribuiva a creare gli avatar. Uno parlava, uno aiutava gli umani a parlare, uno costruiva il volto della persona che doveva trovarsi dall'altra parte. Secondo Anthropic, il prompt che guidava i personaggi imponeva di non rivelare mai di essere automatizzati, di trovare una scusa quando arrivavano richieste di foto o videochiamate e di seguire una sequenza di fasi prestabilita. A far scattare l'allarme è stata la scala: Anthropic racconta di aver notato un account prepagato, aperto da pochi giorni, che di colpo generava oltre centomila richieste al giorno. Analizzando quel traffico ha scoperto che Claude veniva usato per interpretare migliaia di identità femminili nelle dating app. Una frase grammaticalmente anomala, ripetuta sempre uguale, ha poi permesso agli investigatori di legare app apparentemente diverse alla stessa infrastruttura. Un errore di grammatica diventato impronta digitale. E gli app store? Creare migliaia di "fidanzate artificiali" è una cosa, farle accettare da Apple e Google un'altra. Anche qui gli operatori si erano organizzati: secondo la documentazione analizzata da Anthropic, le app si comportavano in modo diverso durante i controlli. Alcune funzioni restavano nascoste in fase di revisione e si attivavano dopo, e perfino il sistema che spingeva gli utenti verso pagamenti esterni poteva essere disattivato per l'approvazione. Nomi, account sviluppatore e parti di codice cambiavano da un'app all'altra, così da nascondere che appartenessero allo stesso ecosistema. Anthropic dice di aver bloccato gli account collegati e di aver condiviso le informazioni con altri laboratori di AI, con Apple e con Google. Ma chiudere un account non vuol dire chiudere il sistema: secondo gli investigatori, se un accesso veniva bloccato gli operatori ne creavano un altro o passavano a un diverso fornitore di intelligenza artificiale. La truffa romantica diventa scalabile Le “romance scam” non le ha inventate l’AI. Da anni i truffatori usano identità false per costruire relazioni online e trasformarle, prima o poi, in una richiesta di denaro. A cambiare, oggi, è soprattutto la scala. L’FBI segnala ormai apertamente l’uso dell’intelligenza artificiale per creare profili sintetici, generare conversazioni, clonare voci e rendere le storie più credibili. Nel 2025 ha ricevuto oltre 22 mila segnalazioni di reati con una componente AI, per perdite dichiarate superiori a 893 milioni di dollari; nei soli casi classificati come “confidence” o “romance scam” con una probabile componente AI, le perdite hanno superato i 19 milioni. Anche in Italia il fenomeno è tutt’altro che marginale. Secondo la Polizia Postale, nel 2023 sono stati trattati 425 casi di truffe romantiche, con 287 persone denunciate e otto arrestate. E i numeri potrebbero raccontare solo una parte del problema: in un’indagine della Polizia Postale di Roma erano state individuate 32 vittime e circa 400 mila euro di proventi illeciti, ma solo otto avevano formalizzato una denuncia. Vergogna, coinvolgimento emotivo e difficoltà ad accettare che una relazione coltivata per mesi non fosse mai esistita contribuiscono a rendere il fenomeno in parte sommerso. L’AI, però, aggiunge un elemento nuovo: abbatte il costo umano della truffa. Prima servivano ore per conoscere una vittima, ricordare quello che aveva raccontato, mantenere coerente una falsa identità e rispondere al momento giusto. Ora una macchina può farlo per centinaia o migliaia di conversazioni in parallelo, senza stancarsi e senza perdere il filo. La truffa resta la stessa. A diventare industriale è la capacità di replicarla. Quando il bot sa che qualcosa non va Nel rapporto di Anthropic c’è un dettaglio che mostra quanto il confine possa diventare sottile. Nella maggior parte dei casi Claude vedeva una normale simulazione: non aveva accesso all’intero meccanismo commerciale e quindi non sapeva necessariamente che l’utente stesse pagando per parlare con qualcuno che credeva reale. In un numero ristretto di conversazioni, però, il modello avrebbe riconosciuto segnali di “possibile” danno, per esempio utenti che parlavano di malattie gravi o di forte sofferenza emotiva. La conversazione andava avanti lo stesso. Il personaggio restava il personaggio. Il punto non è Jennifer né Dora né qualche migliaio di profili finti. È un contesto in cui, per creare una persona credibile, non serve più necessariamente una persona vera. Un volto si genera, una voce si clona, una conversazione si tiene in piedi per settimane, un profilo social si popola, una videochiamata si simula o si affida per qualche minuto a qualcuno in carne e ossa. Finora, quando conoscevamo qualcuno online, ci chiedevamo soprattutto una cosa: sta dicendo la verità su chi è? Adesso ne serve una seconda, più semplice: c’è davvero qualcuno dall’altra parte?

Cosa vedere:

Come vederlo:

Online con Sky:

Se nelle app di dating dai appuntamento a un chatbot... Senza saperlo

Massimo Gucciardi