Tecnologia deepfake, 10 cose da sapere sui video falsi generati dall'AI

Tecnologia

Marina Rossi

Un decalogo per scoprire come nascono i video manipolati dall’intelligenza artificiale. E per imparare a difendersi da questi contenuti

Non si riesce più a credere neanche ai propri occhi. Si chiamano deepfake e sono l’ultima frontiera delle fake news, quando il falso viene comunicato attraverso un video che sembra reale in tutto e per tutto. Si tratta di una tecnologia in forte crescita e sempre più pervasiva, che può diventare cruciale in questo inizio del nuovo decennio. Già nel 2019, "deepfake" è stato selezionato dallo storico dizionario di inglese Collins come uno dei dieci termini che hanno definito l’anno. Ecco cosa è necessario sapere per conoscere cosa sono i deepfake, per riconoscerli e per difendersi dalla disinformazione.

1. Cosa significa deepfake

Un deepfake è un video falso generato da un’AI (intelligenza artificiale) a partire da un contenuto reale modificato progressivamente. Non si tratta quindi di un semplice scambio di faccia, come si può fare con i filtri di Snapchat: nei deepfake, l’intelligenza artificiale impara come è strutturato un volto in un video e lo fa muovere autonomamente, creando le espressioni facciali in tempo reale e in sincronia con un altro audio (o video) differente dal contenuto di partenza. La parola è un neologismo formato dalla fusione di “deep learning” e “fake”. Con “deep learning” si intendono gli algoritmi di apprendimento profondo di reti neurali, ovvero un’intelligenza artificiale che elabora a strati, imparando dal processo stesso e migliorando via via il risultato finale. 

2. Come sono nati i deepfake

Inizialmente, la tecnologia dei deepfake nasce nella ricerca accademica e viene applicata nella produzione dei film ad alto budget, come forma evoluta di effetto speciale per riprodurre attori scomparsi, come è accaduto per il personaggio di Paul Walker in Fast and Furious 7, riprodotto in parte digitalmente e in parte con la presenza fisica dei due fratelli dell’attore. Il punto di svolta si trova nel 2017, quando su Reddit si forma una community denominata proprio deepfake in cui vengono condivisi video falsi creati dai membri del gruppo. Uno dei primi usi più innocui e virali è stata la pubblicazione di deepfake in cui i volti degli attori (o attrici) venivano sostituiti da quello di Nicholas Cage. Le applicazioni per creare deepfake hanno lasciato indietro l’esclusività della ricerca e di Hollywood: ora si possono usare su un computer casalingo dalle medie prestazioni, diventando rapidamente sempre più efficienti, facili da usare e alla portata di chiunque. 

 

 

3. Tra pornografia e “revenge porn”, l’umiliazione come arma

Prevedibilmente, una volta che ha iniziato a diffondersi nelle comunità online, questa nuova tecnologia è stata applicata a contenuti pornografici. I volti di attrici famose sono stati riprodotti sui corpi delle attrici di film a luci rosse, con due obiettivi: da un lato screditare pubblicamente la reputazione di un’attrice, dall’altra dare forma, seppur artificiale, a una fantasia. Il secondo tipo di applicazione di deepfake in ambito pornografico riguarda il cosiddetto “revenge porn”, ovvero la condivisione online di materiale intimo di una donna da parte di ex partner (o, in generale, uomini che sono stati rifiutati). Quando si può creare un video manipolato per far credere che la vittima abbia avuto comportamenti diffusamente considerati come immorali, questo può diventare un’arma di aggressione.

4. Propaganda politica: una nuova forma di fake news

Nel mirino di chi realizza deepfake si è presto stabilizzato l’obiettivo politico. Così come accade per le fake news, infatti, la diffusione di contenuti falsi attribuiti a personaggi pubblici è una forma per pilotare l’opinione pubblica, per confonderla e per aumentare sempre più la sfiducia nelle istituzioni e nelle fonti di informazione. Non viene alterata solo l’immagine: esistono software come Lyrebird o Adobe Voco che creano artificialmente un discorso a partire da un’analisi della voce di una persona. Inoltre, si deve anche considerare un fattore tecnico: i politici tendono a rimanere fermi – su un podio o seduti – sotto una luce costante e questo fattore rende ancora più efficace la creazione di deepfake. Il risultato è quindi più credibile. 

In un mondo in cui si può far dire tutto e il contrario di tutto agli esponenti politici, però, si deve fare attenzione a un altro effetto collaterale, ovvero usare la giustificazione deepfake per video scomodi che vengono diffusi in canali non ufficiali.

 

5. Le applicazioni per creare deepfake

Il primo software che ha reso (più) semplice la creazione di un deepfake è un tool che è stato usato diffusamente per la creazione di immagini pornografiche e che recentemente ha messo il divieto per questo tipo di contenuti. Un’altra app è diventata celebre dopo che è stato diffuso un video in cui un ragazzo cinese ha inserito il proprio volto al posto di Leonardo Di Caprio nelle scene più celebri dei suoi film, da Romeo e Giulietta a Titanic. 

I software continuano ad aumentare e i risultati si rinnovano costantemente: c'è un software, per esempio, che applica la tecnologia alle gif: basta farsi un selfie e vedere la versione personalizzata dei meme più virali.

 

 

6. Le azioni dei social network

I giganti della rete non si sono fatti aspettare e hanno iniziato a diffondere linee guida per la pubblicazione, o in alcuni casi per la rimozione, di video deepfake. Twitter comunicherà che il contenuto è digitalmente alterato e darà la possibilità alle persone di approfondire la notizia. La proposta di Facebook è invece quella più drastica di rimuovere i contenuti falsi. Nel frattempo, i laboratori di ricerca di Google hanno prodotto e rilasciato un database di deepfake in modo da semplificare l’identificazione di contenuti artificiali. 

7. Intelligenza artificiale, blockchain e robot

È facile prevedere una serie di comunicazioni anche da altre parti, dato che ciascuna piattaforma e gruppo editoriale dovrà progressivamente individuare gli strumenti da usare internamente per identificare e contrastare la diffusione online di deepfake. Nel futuro prossimo, ci saranno algoritmi di intelligenza artificiale allenati proprio per riconoscere automaticamente i falsi digitali. Inoltre, anche la tecnologia blockchain, che garantisce in modo inconfutabile la provenienza di un contenuto, potrà essere un modo per avere la certezza di veridicità delle informazioni. Non vanno dimenticati anche i fattori positivi della tecnologia deepfake: così come un algortimo può simulare perfettamente le espressioni facciali di un attore, lo stesso tipo di approccio può essere a applicato a robot che imparano la gestualità e i comportamenti degli esseri umani semplicemente guardando una serie di video.

8. Come si riconosce un deepfake: gli errori

Creare un deepfake è facile, ma creare un deepfake credibile è ancora tecnicamente complicato. Questo limite ci permette di imparare a riconoscere i segnali più evidenti della manipolazione. Il segnale più comune è il “glitch”, ovvero quando ci sono parti di volto che scattano in modo innaturale. Spesso sono sezioni minime, forme strane attorno alla bocca o agli occhi: queste vengono definite anche come “artefatti” e sono creati dall’intelligenza artificiale quando fa un’approssimazione dei pixel nel video. Per questo motivo è importante guardare sempre il video su uno schermo grande e non affidarsi solamente allo smartphone. Il secondo dettaglio riguarda come si muovono gli occhi, o meglio gli spostamenti di pupille e iridi: in molti deepfake lo spostamento dei muscoli attorno alle palpebre non corrisponde a quello del bulbo oculare. Infine, l’illuminazione del volto è più piatta e cambia rispetto a quello dell’ambiente circostante. 

9. Come ci si difende da un deepfake: le fonti

I suggerimenti per riconoscere un deepfake sono utili in questo momento storico, ma va tenuto presente che la tecnologia migliorerà e i risultati saranno sempre più difficili da riconoscere a occhio nudo e bisognerà affidarsi a tecnici professionisti in grado di analizzare il video. Per questo motivo, uno dei modi in cui possiamo difenderci dalle false informazioni è quello di selezionare con cura le fonti di informazioni. Se il contenuto è su una fonte che non si conosce, è bene effettuare una ricerca online per vedere la storia della testata (quando è stata creata e da chi, se esistono discussioni o storie di notizie diffuse prima che siano state confermate, che tipo di informazioni vengono diffuse o condivise dalla fonte). In secondo luogo, è importante vedere su quali altre testate viene diffuso il video in questione e se la notizia viene ripresa nei giorni seguenti da altri fonti accreditate. La regola di base è soprattutto una: porre fiducia nelle fonti di informazione che hanno credibilità. 

10. Attenzione a cosa si condivide

La percezione comune è che se vedi un video, quello che è rappresentato è realmente accaduto. Oggi, un video non è più sufficiente. Questo però non significa che non si deve più credere a nulla, ma solo che bisogna porre maggiore attenzione alle informazioni che si leggono quotidianamente. Nel momento in cui si vede passare un video sulla timeline di Facebook, prima di condividerlo sul proprio profilo, è fondamentale effettuare una ricerca accurata tra le proprie fonti di fiducia: l’atto di condividere inconsapevolmente video (e notizie) false complica per tutti la distinzione tra la realtà e la finzione.

Tecnologia: I più letti