La polizia ha aperto un'indagine contro Telegram, accusata di "incoraggiare" la diffusione di contenuti pornografici falsi utilizzando in particolare immagini di minorenni. Il presidente Yoon Suk Yeol aveva invitato le autorità a fare di più per eradicare il fenomeno, in seguito a “un'ondata di pornografia deepfake che prende di mira giovani donne”
La Corea del Sud ha annunciato un giro di vite contro “l’epidemia di crimini sessuali digitali” che sta colpendo il Paese. Il presidente Yoon Suk Yeol, secondo quanto riportato dalla BBC , ha invitato le autorità a fare di più per eradicare il fenomeno, in seguito a “un'ondata di pornografia deepfake che prende di mira giovani donne”. Recentemente - scrive il Guardian - i media della Corea del Sud hanno riportato l’utilizzo di Telegram per “creare e diffondere immagini e video fake sessualmente espliciti”. E la polizia sudcoreana ha annunciato di aver aperto un'indagine contro il servizio di messaggistica, che accusa di "incoraggiare" la diffusione di contenuti pornografici falsi utilizzando in particolare immagini di minorenni: "Telegram non ha risposto alle nostre precedenti richieste di informazioni sugli account degli utenti durante precedenti indagini sui crimini legati a Telegram", ha detto il capo dell'ufficio investigativo della polizia Woo Jong-soo. "Alla luce di questi crimini, l'Agenzia nazionale di polizia di Seul ha aperto le sue indagini per favoreggiamento in questi crimini".
Cosa sono i deepfake porno
I "deepfake porno” - come spiegato dall’AGI - sono montaggi pornografici generati con l'intelligenza artificiale in cui i volti degli individui vengono incollati su foto o video a sfondo sessuale.
L’allarme sui deepfake porno
L’apertura dell’indagine - e ancora prima la presa di posizione del presidente Yoon Suk Yeol - è arrivata a seguito di rivelazioni giornalistiche sul fenomeno. Come spiegato da Reuters, diversi media nazionali in Corea del Sud hanno riportato come immagini e video deepfake sessualmente espliciti di donne venivano spesso trovati su chat di Telegram. E allo stesso tempo, gruppi femministi e fan del K-pop sono diventati più attivi sui social, chiedendo interventi e condividendo suggerimenti su come smascherare quelle chat. Il presidente Yoon ha detto durante una riunione del governo che questi contenuti “si stanno diffondendo rapidamente sui social” e “molte vittime sono minorenni, e anche molti degli autori sono stati identificati come teenager”.
Le chat sono state scoperte su Telegram nelle scorse settimane e, in base a quanto ricostruito dalla BBC, gli utenti sarebbero “principalmente studenti adolescenti” che “caricavano foto di persone che conoscevano, sia compagni di classe che insegnanti, e altri utenti le trasformavano in immagini deepfake sessualmente esplicite”. A una chat, secondo quanto riportato dal Guardian, erano iscritti più di 220mila utenti.
leggi anche
Il deepfake di Elon Musk è perfetto, e ha ingannato anche Youtube
La situazione in Corea del Sud
In Corea del Sud i deepfake porno sono piuttosto diffusi: in base a quanto riportato da Reuters, è il Paese maggiormente colpito dal fenomeno. Un report risalente al 2023 prodotto da Security Hero, startup americana attiva nella protezione dai furti d’identità, cantanti e attrici del Paese rappresentano il 53% delle persone che appaiono nei deepfake porno.
La polizia della Corea del Sud - annunciando l’apertura dell’indagine su Telegram - ha detto di aver ricevuto 88 segnalazioni la scorsa settimana e di aver identificato 24 sospetti. Nei primi 7 mesi del 2024 sono stati registrati 297 casi di crimini sessuali legati ai deepfake: in tutto il 2023 erano stati 180. Secondo quanto riportato dalla BBC, la Korean Teachers Union ritiene che oltre 200 scuole siano state colpite da quest’ultima ondata e secondo il ministero dell’Istruzione il numero di deepfake che prende di mira gli insegnati è cresciuto negli ultimi anni.
Il caso Telegram
L’indagine della polizia su Telegram arriva nello stesso periodo in cui il fondatore Pavel Durov è finito sotto inchiesta in Francia. Oltre a chiedere alle piattaforme social di intervenire più attivamente per bloccare certi contenuti, i regolatori dei media della Corea del Sud hanno chiesto alle autorità francesi di cooperare sui problemi legati a Telegram, e di facilitare la comunicazione diretta con la piattaforma.
La polizia, come detto, sta pianificando un’operazione lunga sette mesi contro i crimini sessuali digitali: sarà aumentato il personale attivo nel monitoraggio di questi reati e sarà aperta una linea telefonica, attiva 24 ore su 24, per le vittime. Telegram ha detto in una dichiarazione a Reuters che sta moderando attivamente i contenuti dannosi sulla piattaforma, inclusa la pornografia illegale.
E YouTube - prosegue Reuters - la scorsa settimana ha demonetizzato un canale con oltre un milione di iscritti, di proprietà di uno youtuber sudcoreano di destra, e rimosso un suo video dopo che lo streamer aveva minimizzato la serietà dei crimini commessi con i deepfake e preso in giro le donne che esprimevano le loro preoccupazioni.
leggi anche
Cybersecurity, i dati sugli italiani: buone password ma male con l'IA
Il tema dei deepfake porno
Il tema dei deepfake a sfondo sessuale è da tempo al centro dell’attenzione. Sky TG24 si è occupata diverse volte di questo argomento: ne abbiamo parlato con Nina Jankowicz, l’allora vicepresidente U.S. del Centre for Information Resilience; con la sociologa Silvia Semenzin, ricercatrice dell’Università di Madrid; e raccolto i dati su un fenomeno in crescita e che vede come vittime quasi esclusivamente le donne.
leggi anche
IA, i rischi tra deepfake porn e notizie false. Intervista a Jankowicz
L’intelligenza artificiale può essere utilizza anche per combattere la disinformazione: è il caso di AI4TRUST, un progetto finanziato dall'Unione Europea a cui partecipa anche Sky TG24 e di cui questo articolo fa parte.
)
)
)
)
)