Le immagini generate dall’IA ci abituano alla violenza?

Al centro dell’immagine c’è un uomo che somiglia moltissimo al presidente degli Stati Uniti Donald Trump: indossa una veste bianca, sopra ha un mantello rosso ed emana luce dalle proprie mani, che sta usando per toccare un uomo sdraiato, una persona malata, diremmo. Tutto intorno persone che pregano, la bandiera degli Stati Uniti e la statua della libertà sullo sfondo, mentre in cielo volano caccia da guerra. Questa immagine, pubblicata effettivamente da Trump sul suo social network “Truth” è stata cancellata dopo poche ore a causa delle polemiche che ha generato. Ma quella non era la prima volta che il presidente repubblicano ha usato l’intelligenza artificiale per rappresentare se stesso o le sue idee politiche in un formato “visuale”. Ci sono le “foto” e i video della Gaza riviera, che mostrano un controverso progetto politico che immagina la Striscia di Gaza trasformata in una lussuosa meta turistica sul Mediterraneo. O i video che mostrano la distruzione della moschea di al-Aqsa a Gerusalemme diffusi da un gruppo di coloni israeliani estremisti. Cosa succede alla democrazia quando queste immagini diventano parte della propaganda? Secondo Donatella Della Ratta, professoressa di comunicazione alla John Cabot University di Roma, performer e curatrice, “non bisogna cadere nella trappola – parte della strategia trumpiana – di liquidare tutto ciò come provocazione, scherzo o presuntuosa manifestazione di narcisismo politico”. Proprio pensando alla Gaza riviera, non possiamo classificarla come satira o parodia, perché nei piani di pace viene menzionata come prospettiva realistica. E quindi un’immagine virale generata artificialmente, che scatena uno choc produce assuefazione. Un’idea spiazzante che diventa riconoscibile e si normalizza. Solo che ha l’effetto di minare alla base i pilastri del diritto internazionale e dei diritti umani. Questa è la tesi del libro “Violenza speculativa. Come l'IA ci sta abituando all'orrore”, pubblicato da Einaudi nel mese di ottobre 2026, dove l’autrice analizza l’uso dell’intelligenza artificiale da parte dell’estrema destra per trasformare paure, nostalgie del passato e programmi politici in immagini immediate e condivisibili. Della Ratta studia non solo i prodotti finali, le immagini generate, ma anche l’infrastruttura che le rende possibili. Per la ricercatrice “la violenza non è esito accidentale di questi sistemi, ma caratteristica costitutiva del loro funzionamento interno”, si legge nel libro. “Non possiamo trattarla come un media, come abbiamo fatto con la tv, con la radio e con il cinema”, ci racconta. “L'IA è qualcosa di diverso: come hanno sottolineato Kate Crawford e altre studiose, parliamo di corporation che richiedono una quantità smisurata di energia, lo vediamo anche nella battaglia attorno ai data center. E, in più, richiede un lavoro umano che viene spesso nascosto, uno sfruttamento della manodopera che serve a classificare, etichettare e supervisionare i dati”. In questo contesto, nelle mani del potere, “l’IA generativa opera come una macchina di lavoro onirico”, scrive, “allineata a una logica anticipatoria che alimenta la speculazione in un modo senza precedenti rispetto ad altre tecnologie”. Allora come dobbiamo trattare questi strumenti? Periodicamente, chi li ha costruiti ci avvisa della loro “pericolosità”, della possibilità che un’IA autonoma possa uccidere tutta l’umanità. “La mia prospettiva non è apocalittica”, ci dice però Della Ratta, “I rischi e le minacce di fronte ai quali ci troviamo sono molto concreti. La ricercatrice Timnit Gebru, licenziata da Google nel 2020, parla spesso dei rischi legati all'automazione, al mercato del lavoro, alle future generazioni, così come dei rischi ambientali, cognitivi ed epistemologici. Non c'è bisogno di pensare che l'intelligenza artificiale ci ucciderà tutti: ci sono già dei rischi concreti. Io la guardo come un oggetto creato dall'uomo, molto rischioso per tutte queste ragioni”. Tra questi, l’idea che in pochi minuti sia possibile generare scenari futuri che cancellano intere popolazioni. Nel libro si legge che “Questa immediatezza e accessibilità conferiscono una nuova forza alla logica speculativa del capitalismo: una forza che si estende ben oltre la finanza, occupando in modo pervasivo e aggressivo molteplici ambiti della vita umana, e che si dispiega ora anche attraverso una potente dimensione estetica”. La ricercatrice sostiene che uno dei problemi di questo uso dell’IA riguarda gli effetti sul nostro sistema cognitivo e sul fatto che l’IA in generale introduca “un livello di dubbio epistemico senza precedenti”. Perché le intelligenze artificiali non sono neutrali, e tutte le decisioni che sono state prese nel processo di raccolta dati e creazione degli strumenti non erano “inevitabili”. “Nessuno di noi è in grado di sapere se questi usi fossero stati previsti, ma questo è uno dei modi in cui è stata costruita l'intelligenza artificiale: con dati rubati, appropriati, trovati sul web, piuttosto che con dataset specifici, senza consenso. C'è stata un'appropriazione di una conoscenza trattata come se fosse stata trovata in natura, mentre è una conoscenza prodotta, che porta con sé bias e pregiudizi”, aggiunge ancora Della Ratta. Quindi, “Quando interroghiamo l'intelligenza artificiale, troviamo correlazioni statistiche tra modalità di rappresentazione che sono già state prodotte in precedenza. La plausibilità statistica è legata all'occorrenza: più una cosa si è prodotta nel passato, più un certo tipo di rappresentazione è stato riproposto e diffuso in rete, più conoscenza si è prodotta attorno a esso, più sarà probabile che quel dato venga assemblato nella risposta”. Nel caso delle immagini della Gaza riviera o della moschea di Gerusalemme che brucia, il passato che “pesa” nel generare il futuro dipende “da un immaginario coloniale sionista che da oltre cent'anni ritrae la Striscia di Gaza come un paradiso turistico innocuo, senza popolazione locale, un pezzo di terra di cui ci si può riappropriare. Quando viene fuori l’immagine Gaza Riviera, con la spiaggia e le palme, ci troviamo davanti a qualcosa di già visto: un'immagine del passato riciclata come futuro”, precisa la ricercatrice. Il libro si chiude evocando l’immagine della Global Sumud Flotilla che arriva a Gaza, anch’essa prodotta con l’IA. Ma allora è possibile sovvertire l’uso di queste tecnologie per immaginare futuri in cui i diritti umani sono rispettati, Gaza esiste e riceve aiuti umanitari? “L'immagine della Flotilla che arriva a Gaza è potente perché immagina un futuro chiaro”, osserva Della Ratta. Secondo l’autrice però “Quello che oggi manca a molte forze progressiste è la capacità di immaginare il futuro. Se l'immaginazione scarseggia sarà difficile utilizzare l'intelligenza artificiale per generare immagini di futuri alternativi a quelli proposti dall’estrema destra.”

Cosa vedere:

Come vederlo:

Online con Sky:

Le immagini generate dall’IA ci abituano alla violenza?

Donata Columbro