Deepfake e abusi su Telegram, l'IA che trasforma il web in un incubo

Ci sono momenti nella vita in cui vorremmo tornare indietro e riavvolgere il nastro per cancellare un’azione compiuta. In altri momenti, ci rendiamo conto che non è possibile prevedere ogni pericolo e che esiste un ecosistema digitale sommerso in cui la nostra responsabilità e il nostro controllo svaniscono, specialmente quando una schiera di gruppi malsani in rete incontra la potenza dell’intelligenza artificiale. Un mix letale e sempre più imprevedibile. Inviare una foto al proprio fidanzato sembra un gesto innocuo, a tratti affettuoso. Ma cosa succede quando, per esempio, il partner diventa un ex e la foto finisce in un gruppo Telegram dove immagini intime vengono manipolate e manomesse dall’IA? In quel momento l’innocenza di un gesto privato si trasforma in un incubo senza fine. Eppure, oggi la situazione è ancora più grave: basta un bot di nudificazione e una qualsiasi foto rubata da Instagram per creare un deepfake. Il controllo è totalmente perduto. Un virus digitale: l’inchiesta di AI Forensics Un’inchiesta del quotidiano spagnolo El País ha scoperchiato una realtà che prolifera indisturbata nei meandri dei nostri dispositivi: messaggi tratti da gruppi Telegram spagnoli dedicati allo spogliare o condividere foto di donne comuni o influencer con un numero modesto di follower. Migliaia di utenti si scambiano foto e fantasie perverse in spazi digitali che l’app di messaggistica fatica a moderare e che, al contrario, finisce per monetizzare tramite il suo sistema di abbonamento. Non è un fenomeno nuovo, casi simili vengono documentati sempre più spesso, si pensi al caso italiano del 2025 legato al gruppo Facebook “Mia Moglie”, poi chiuso, in cui circa 30.000 utenti hanno condiviso immagini intime non consensuali delle proprie partner. Tuttavia, oggi le “regole del gioco” sono cambiate. Se da un lato il quotidiano spagnolo ha scoperchiato la proliferazione del fenomeno in Spagna, a fornire una mappa di questa realtà oscura è il report “Harassment As Infrastructure” , realizzato dall’organizzazione no-profit Ai Forensics. “La violenza digitale è molto spesso perpetrata contro donne comuni”, afferma Silvia Semenzin, sociologa e specialista in violenza di genere digitale presso AI Forensics. “Queste persone si riuniscono specificamente perché vogliono masturbarsi guardando contenuti sessuali di donne che spesso conoscono, e se non hanno foto reali, le creano con l’intelligenza artificiale”. I dati analizzati dal rapporto restituiscono l’immagine di un virus infetto che si espande nelle reti neurali di un mondo oscuro, capace di travalicare confini e oceani con un semplice click. Come si legge nel report, “lo studio presenta la prima analisi sistematica e transnazionale delle comunità Telegram dedicate all’incitamento della violenza di genere facilitata dalla tecnologia in Italia e Spagna”. Analizzando 2,8 milioni di messaggi raccolti in 16 gruppi , lo studio restituisce un quadro inquietante: “Ciò che viene comunemente descritto come una semplice condotta impropria tra pari è, in realtà, un ecosistema di abuso strutturato, monetizzato e in larga parte automatizzato, operante su larga scala”. I ricercatori hanno identificato 26.671 utenti attivi, con gruppi che raggiungono i 27.000 membri in Italia e i 25.000 in Spagna. Il materiale abusivo, però, non conosce frontiere: il 72% dei contenuti spagnoli compare anche nei gruppi italiani. È però solo la punta dell’iceberg. Come specificano i ricercatori, le restrizioni tecniche di Telegram rendono impossibile determinare il numero totale di utenti univoci: è stato possibile conteggiare solo i membri attivi, ovvero coloro che inviano messaggi. Inoltre, dopo la raccolta dati, sono emersi nuovi canali ancora più grandi in Spagna, non inclusi nello studio. I 16 gruppi analizzati non sono quindi una mappatura completa, ma una "fotografia di un ecosistema in rapida evoluzione". Due Paesi, due strategie di abuso L’analisi evidenzia differenze strutturali tra le due nazioni. I gruppi italiani, pur numerosi, mostrano una dinamica di interazione pubblica relativamente bassa: l’attività è caratterizzata da una ripetizione di post identici e gli scambi si spostano verso canali privati . Questo “cambiamento strutturale” suggerisce che i gruppi pubblici funzionano ormai come spazi di reclutamento, probabilmente a causa degli “scandali mediatici e degli interventi delle forze dell’ordine avvenuti in Italia negli ultimi anni”. Al contrario, i gruppi spagnoli mostrano livelli di partecipazione più alti, con interazioni frequenti e un flusso costante di materiale nelle chat, regolato da norme comunitarie che spesso vietano l’uso dei messaggi privati. In entrambi i casi, i grandi canali fungono da “hub di distribuzione” in un ecosistema dinamico dove i gruppi vengono continuamente chiusi e ricreati. Ma oltre alle statistiche e ai numeri, è la natura stessa delle interazioni a delineare un quadro brutale. La tassonomia dell’orrore Le dinamiche interne vanno oltre la semplice foto rubata: si va dai tutorial su come nascondere telecamere alle guide per ricreare la voce di un’influencer con l’IA. L’età degli abusanti è trasversale. "In media, probabilmente si aggira intorno ai 25 anni, ma ci sono minorenni che inviano foto di altri minorenni, ed è per questo che abbiamo trovato molto materiale pedopornografico: foto di compagni di classe, ragazze le cui foto potrebbero essere state rubate da Instagram o che sono state fotografate di nascosto a scuola", lamenta Semenzin. Il report, inoltre cita messaggi inequivocabili: “Scambio deepfake di XXX solo se mi mandate sue foto o video”, o “+39 3XX XXX XXXX questo è il numero dove contattare”. Si offrono servizi di hacking e si mercificano le amiche . Il rapporto descrive anche il "tributo" come l'eiaculazione senza consenso sull'immagine di qualcuno e definisce le chat di gioco di ruolo come una forma di violenza ludicizzata. In questo teatro dell’orrore, i ruoli sono ben definiti: si va dagli "uploader", che si presentano come fornitori tramite espressioni come "scambio" o "vendo", ai “requester” la cui attività si riflette in messaggi come “chi manda” o “cerco”, fino ai mediatori e ai "lurker" che osservano in silenzio. "Queste dinamiche di partecipazione indicano che le comunità IBSA su Telegram funzionano come ambienti attivi e socialmente organizzati", riflettendo un "più ampio schema di interazione omosociale maschile in cui la circolazione e la valutazione dei corpi delle donne funziona come una forma di legame e di ricerca di status tra i partecipanti”. Il ruolo di Telegram Salvatore Romano, coautore del report, spiega: “Telegram si trova a metà strada tra post inaccessibili e difficili da trovare e piattaforme mainstream dove certi tipi di contenuti non possono essere pubblicati. Ecco perché Telegram è un punto di connessione strategico. Permette inoltre agli utenti di monetizzare vendendo una manciata di file o offrendo servizi di intelligenza artificiale per spogliare i corpi. Ha un sistema di pagamento in criptovaluta, che consente transazioni anonime. Inoltre, i suoi abbonamenti premium permettono agli utenti di creare sottocanali, e loro ne approfittano”. Il report “Harassment As Infrastructure” approfondisce proprio questo aspetto commerciale. L’accesso a questi archivi, infatti, ha costi precisi: pagamenti una tantum tra 20 e 50 euro o abbonamenti da 5 euro al mese tramite PayPal, criptovalute e Bizum. Inoltre, l’indagine rivela che Telegram funge da vero e proprio “archivio e piattaforma di redistribuzione” per contenuti sottratti altrove: TikTok è la fonte più citata nel dataset , seguita da Instagram e Reddit, usato principalmente per diffondere i link di invito. Nonostante Telegram dichiari a El País che “la pornografia non consensuale, inclusa la pornografia deepfake, è esplicitamente vietata” e neghi di "permettere strutturalmente la monetizzazione o la distribuzione su larga scala di abusi sessuali basati su immagini”, i ricercatori hanno dimostrato che i gruppi chiusi riaprono in poco tempo. “Abbiamo segnalato direttamente a Telegram gli ultimi link disponibili di tutti i canali identificati nello studio”, si legge nel report. Intelligenza artificiale e normalizzazione della violenza L'automazione ha reso tutto più facile. Secondo quanto riportato dall'indagine, la parola “bot” compare 16.232 volte nei messaggi, segnale di un ecosistema che va dalla manipolazione di immagini tramite IA al doxxing . L’indagine rivela che una “parte significativa di link era mascherata” per indirizzare a “generatori di fidanzate” basati su IA o “bot capaci di produrre immagini sessuali sintetiche”. Gli utenti si scambiano persino “suggerimenti relativi ai prompt da utilizzare per generare immagini sessualizzate o nudificate tramite chatbot come Grok, Gemini o strumenti simili”. Nel report vengono riportati messaggi come “Chi ha bot denudatori? “, “Chi vuole bot che modifica immagini e fa fare alle tipe quello che volete?”. Per trovare ed entrate in questi gruppi, inoltre, ci vuole davvero poco. “In Spagna è più facile che in Italia perché, in seguito agli scandali, gli utenti hanno rafforzato le proprie misure di sicurezza. Bastano poche parole chiave per trovare i link su Reddit, Google o sul motore di ricerca di Telegram. A differenza dell'Italia, in Spagna non sembrano rendersi conto che qualcuno potrebbe osservarli", aggiunge Semenzin. Siamo di fronte a un problema strutturale ed educativo. All’interno di queste comunità persiste un “alto grado di normalizzazione della violenza”, riporta lo studio, dove gli utenti presentano queste pratiche come forme legittime di intrattenimento tra pari. La distorsione è tale che i partecipanti talvolta si descrivono come “vittime di censura” quando gli spazi abusivi vengono rimossi. In Italia, molti esprimono nostalgia per siti oscurati - come PHICA.net, Mia Moglie o La Bibbia - cercandone disperatamente versioni alternative in cui materiale simile possa continuare a circolare. Una sfida che le istituzioni e le forze dell'ordine non possono più ignorare.

Cosa vedere:

Come vederlo:

Online con Sky:

Deepfake e abusi su Telegram, l'IA che trasforma il web in un incubo

Beatrice Subissi