Harris è nel mirino di AI e creatori di deepfake (anche pornografici)

Kamala Harris e Donald Trump camminano mano per la mano su una spiaggia. Lui sorride. Lei ricambia, sfoggiando un’insolita ampia scollatura. È la realtà falsata raffigurata nell’ultimo video in circolazione in Rete creato con l’intelligenza artificiale , che vede protagonisti i due candidati alle presidenziali negli Stati Uniti. Così l’IA è entrata nella campagna elettorale americana, creando scompiglio e disinformazione e coinvolgendo anche la nuova candidata dem, oggetto sempre più persistente di video falsi che ne riproducono voce e aspetto. Americani tutti ingannati Secondo l’ultimo report del gruppo informatico Home Security Heroes, quasi il 50% degli elettori statunitensi intervistati in un sondaggio non si fida dei contenuti politici online a causa della presenza sempre più pervasiva di video deepfake e immagini alterate. Questo anche perché oltre il 90% di loro ha ammesso di essere stato ingannato da immagini false in circolazione sul web e di avere cambiato la propria opinione riguardo a un candidato a seguito di video che li mostravano violenti o a supporto di posizioni distanti dalla loro piattaforma politica. Falsa propaganda Se il candidato repubblicano sembra avere integrato questa strategia nella propria campagna elettorale, da ultimo creando artificialmente delle immagini che suggerivano un endorsement da parte dell’icona pop Taylor Swift, diverso è il caso per Harris. Solo nell’ultimo mese la vicepresidente è stata protagonista di un video propaganda falsato condiviso dal proprietario di X Elon Musk che la vede, tra le altre cose, inneggiare a una futura alleanza con la Corea del Nord e di un’immagine pubblicata dal magnate di Tesla che la ritrae nelle vesti di una leader comunista, ma sono tanti anche i deepfake a sfondo sessuale o direttamente pornografici diretti alla candidata dem. Per Silvia Semenzin, ricercatrice e attivista, esperta di violenza di genere online tra le promotrici della legge contro la diffusione non consensuale di materiale intimo online , quello in atto nei confronti di Harris sarebbe un atteggiamento sistematico, amplificato dal contesto elettorale, ma che in generale riguarda il rapporto tra genere e IA e colpisce soprattutto le donne in posizioni di potere. Che impatto ha avuto l’intelligenza artificiale nelle elezioni americane da quando Kamala Harris è entrata nella corsa per la Casa Bianca? Non è solo un’impressione che i video falsi che ritraggono la candidata dem mostrino una componente marcatamente sessualizzata. I dati ci confermano che c’è stata una crescita nell’utilizzo di strumenti a base di intelligenza artificiale per infliggere danno alle donne e questo rientra anche nelle elezioni. Stiamo parlando di una vera e propria violenza digitale che prende diverse forme: c’è il deep fake, che sia politico o a sfondo sessuale; c’è la cosiddetta “disinformazione di genere”, vale a dire campagne di diffamazione con obiettivo le donne di potere che tramite l’intelligenza artificiale diventano automatizzate e si espandono su larga scala grazie ai bot; e poi ci sono le sh*tstorm, in gergo del web le campagne d’odio indirizzate a un personaggio più o meno pubblico. Per quanto riguarda i deepfake porno, ovvero video a sfondo sessuale che sovrappongono il volto di una persona reale su corpi manipolati con l’IA, sappiamo che tra il 2019 e il 2023 il numero di filmati di questo tipo è aumentato del 550% e che i deepfake pornografici non consenzienti sono per il 99% tarati su soggetti femminili. Tra le vittime di diffamazione tramite l’IA e di deepfake pornografici generati e senza consenso si contano Harris, ma anche altre politiche di spicco negli Stati Uniti come Alexandria Ocasio-Cortèz e Nina Jankowicz. Come spiega questo accanimento verso le donne in politica? Per quanto ci sembrasse di stare andando nella direzione giusta in termini di regolamentazione del digitale, la commercializzazione dell’IA sta aggravando un problema che già esisteva ma che è esasperato quando parliamo di donne in posizioni di potere. Quando si tratta di donne in politica o di attiviste, di donne insomma che si espongono e che hanno una voce, questa aggressione si acuisce. Si tratta di una forma di delegittimazione femminile vecchia quanto il patriarcato che è finalizzata a minare la credibilità di queste donne. Si utilizza lo strumento della sessualità per diffamarle perché oggi è ancora fortemente stigmatizzata ed è quindi un potenziale motivo di vergogna e una fonte di minaccia. L’obiettivo è proprio frenare la partecipazione politica e lasciare che rimanga una prerogativa maschile. Il problema quindi già c’era, semplicemente adesso ha uno strumento in più. Quali le soluzioni e i provvedimenti da adottare per contrastare il fenomeno? Esistono soluzioni governative e soluzioni dedicate alla cittadinanza. Per la prima, servono leggi, regolamentazioni, freni allo sviluppo tecnologico. È qualcosa di difficile da raggiungere considerato il fascino che l’innovazione ha nella nostra società, ma il potere delle compagnie tecnologiche deve essere contenuto. Non solo le big tech, i grandi conglomerati tecnologici come Meta e Google, ma anche le cosiddette fringe platforms, le piccole piattaforme che sono, incidentalmente, protagoniste nella creazione di strumenti accessibili per generare deepfake. A livello civile invece, serve più educazione sul tema. Riconoscere la disinformazione e le fake news è un primo livello. Su questo diversi governi nel mondo stanno già lavorando, ma manca completamente una contro-narrazione femminista, che spiani il terreno per la partecipazione femminile in politica e che contempli anche i problemi legati al genere che questo tipo di tecnologie portano con sé. Trova siano rischi che potrebbero interessare anche la nostra politica? Il problema è trasversale ma nello specifico si tratta di situazioni che sono già approdate anche qui. L’Italia è un Paese che assorbe molto dalle tendenze statunitensi e lo ha fatto anche in tema di violenza digitale e condivisione non consensuale di materiale intimo, sia esso artificiale o no. L’ultimo report pubblicato da Amnesty International sulla violenza di genere segnala che quest’anno l’odio nei confronti delle donne in politica e nei confronti delle attiviste è triplicato. L’utilizzo dell’IA per automatizzare quest’odio è già presente e lo è anche nella nostra politica. Ricordiamo, ad esempio, che uno dei primi deepfake contro personaggi politici italiani è quello che nel 2019 ha preso di mira Laura Boldrini. Anche la stessa premier, Giorgia Meloni, è stata protagonista di video alterati, anche se forse in virtù della sua vicinanza all’ideologia patriarcale e a movimenti reazionari sembra essere meno esposta a contenuti sessualizzanti. A che punto è la normativa in Italia contro queste forme di violenza digitale? Attualmente non abbiamo nulla che penalizzi deepfake e la creazione di immagini a sfondo sessuale. Durante la campagna “Intimità violata” con la quale nel 2018 chiedevamo una legge contro la diffusione illecita di contenuti sessuali intimi di terzi c’era già una specifica che riguardava i crimini informatici, ma è poi caduta nel vuoto. Rispetto agli Stati Uniti, tuttavia, noi possiamo fare riferimento al contesto europeo, e l’Unione europea sta muovendo passi coraggiosi nei confronti della regolamentazione delle piattaforme. Il problema è che gli strumenti principali di cui ci siamo dotati, il Digital Service Act e l’AI Act non hanno un focus specifico sul genere e sulle minoranze. Questo per attivisti e attiviste è un problema, perché non tiene conto che il settore tecnologico è altamente maschilizzato e le voci femminili non sono ancora abbastanza incluse, così come non lo sono quelle delle minoranze sessuali, etniche e religiose. Dimenticarsi di loro, escludere dunque la voce delle persone discriminate, non farà che produrre regolamentazioni limitate e limitanti per un problema che invece li riguarda in modo particolare.