Il dilagare dei deepfake porn prodotti dall’intelligenza artificiale, il profilo delle vittime e quello degli utilizzatori. Sono i temi chiave di Progress, di cui si parla dal trentesimo minuto del video, con Elisa Ricci tra gli ospiti, esperta di informatica della Fondazione Bruno Kessler e un'intervista a Nina Jankowitz, Vicepresidente dello US Center for Information Resilience
Immagina di scoprire da un messaggio di un'amica che il tuo volto, prelevato da una foto personale, è stato montato su quello di un'attrice di film per adulti. Immagina poi di aprire il link del video e di vedere te stessa in atti sessuali con una persona che non hai mai incontrato nella vita reale. Questa realtà, conosciuta come deepfake porn, sta diventando un'esperienza comune per un numero sempre maggiore di persone (sul tema, la puntata di Progress, condotta da Alberto Giuffré - video in alto a partire dal minuto 28 circa - con intervista a Nina Jankowicz, vice presidente del Centre for Information Resilience, e la partecipazione di Elisa Ricci, professoressa dell'Università di Trento che partecipa al consorzio Ai4Trust, a cui aderisce anche SKyTG24, e che è finanziato dalla Ue,)
Secondo un report del gruppo informatico Home Security Heroes la produzione di deepfake porn tra il 2022 e il 2023 è aumentata del 464 per cento. Si tratta di una pratica che unisce materiale pornografico con immagini o video di persone comuni o celebrità, tramite intelligenza artificiale, per creare contenuti sessuali falsi e non consensuali.
L'angoscia delle vittime persiste ben oltre la scoperta del loro deepfake pornografico. Presto si trasforma nella paura che il video venga considerato autentico da figli, partner, genitori e colleghi. Oltre alla preoccupazione che gli sforzi per eliminare le immagini dai social media possano fallire, mentre una versione denigrante di sé continua a diffondersi in rete. Lo dimostrano le testimonianze riportate da #MyImageMyChoice, un movimento di attiviste che affronta l’abuso di immagini intime.
Deepfake porn: il termine, le vittime e gli utilizzatori
Alla fine del 2017, quando i deepfake iniziarono a emergere nella rete, il termine era strettamente collegato al mondo del porno. Il termine significava, in modo quasi esclusivo, la sovrapposizione dei volti di persone famose sui corpi degli attori nei film per adulti. Negli ultimi anni l'uso del termine si è notevolmente ampliato, abbracciando ogni sorta di video manipolato, come quelli utilizzati in campagne di disinformazione che mostrano figure pubbliche fare discorsi mai avvenuti.
Nonostante l’evoluzione del termine però, ancora oggi la maggior parte dei deepfake prodotti sono di natura pornografica. I deepfake porn costituiscono il 98 per cento di tutti i video deepfake online secondo il rapporto State of Deepfakes.
Interessante anche notare il profilo delle vittime dei deepfake, che sono in prevalenza donne. Nel caso dei deepfake porn il 99 per cento degli individui presi di mira è di sesso femminile, una percentuale che scende solo al 77 per cento quanto si tratta di deepfake generici.
Il 94 per cento di coloro che compaiono nei video pornografici deepfake lavorano nell'industria dell'intrattenimento, ma il numero di persone comuni che subiscono attacchi di questo tipo sta aumentando, grazie alla diffusione di sistemi di intelligenza artificiale che rendono la creazione di questi contenuti facile e accessibile.
Secondo l'organizzazione Home Security Heroes, sono sufficienti 25 minuti e zero spese per produrre un video pornografico deepfake di un minuto di qualsiasi persona, partendo da una singola immagine nitida del viso.
Da un sondaggio della stessa organizzazione, condotto negli Stati Uniti tra uomini che avevano consumato materiale pornografico deepfake, è emerso che il 74% di loro non aveva manifestato sensi di colpa riguardo al proprio consumo.
Questi dati potrebbero significare - sostiene il report - che i contenuti pornografici deepfake siano diventati una parte accettata e normalizzata delle preferenze di intrattenimento per adulti per una parte significativa del pubblico.
