La Commissione ha inviato formalmente richieste di informazioni a Bing, Google Search, Facebook, Instagram, Snapchat, TikTok, YouTube e X per avere informazioni sulle misure di attenuazione dei rischi legati all'IA generativa, tra l'altro per la diffusione di deepfake e le manipolazioni che possano ingannare gli elettori
I contenuti generati o modificati dall’intelligenza artificiale sono ormai da tempo al centro dell’attenzione di policy makers e analisti, anche in vista degli importanti appuntamenti elettorali previsti nel 2024 tra cui il rinnovo del Parlamento Europeo e l’elezione del Presidente degli Stati Uniti. E la Commissione europea si è mossa: l’organo esecutivo dell’Unione ha infatti inviato formalmente richieste di informazioni ai sensi della legge sui servizi digitali a Bing, Google Search, Facebook, Instagram, Snapchat, TikTok, YouTube e X per avere informazioni sulle misure di attenuazione dei rischi legati all'IA generativa, tra l'altro per la diffusione di deepfake e la manipolazioni che possano ingannare gli elettori.
Le informazioni richieste dall’Ue
Per quanto riguarda le informazioni richieste alle otto grandi compagnie del mondo tech, la Commissione ha spiegato che la richiesta di informazioni riguarda i rischi legati all'IA generativa, come le cosiddette “allucinazioni” in cui l’intelligenza artificiale fornisce informazioni false, la diffusione virale di deepfake e la manipolazione automatizzata dei servizi che possono ingannare gli elettori. Inoltre sono state richieste informazioni e documenti interni sulle valutazioni dei rischi e sulle misure di mitigazione legati all'impatto dell'IA generativa, sui processi elettorali, diffusione di contenuti illegali, tutela dei diritti fondamentali, violenza di genere, tutela dei minori, benessere mentale, protezione dei dati personali, tutela dei consumatori e proprietà intellettuale. Le aziende sono chiamate a fornire le informazioni richieste alla Commissione entro il 5 aprile per quanto riguarda la tutela delle elezioni, ed entro il 26 aprile per le rimanenti questioni.
leggi anche
AI Act, ok dal Parlamento Ue a norme su intelligenza artificiale
I deepfake e la ricerca per contrastarli
Il tema dei deepfake e dei loro possibili rischi è stato trattato anche nel white paper realizzato nell’ambito di un gruppo di progetti di ricerca finanziati dall’Unione europea: Vera.ai, AI4TRUST - di cui Sky TG24 è partner -, AI4media e TITAN. Nel documento viene dato ampio spazio ai tipi di contenuti di disinformazione generati dall’intelligenza artificiale, e tra questi ci sono anche i deepfake. "Oggi chiunque, anche senza competenze tecniche specifiche, può generare contenuti sintetici in diversi formati, dal testo alle immagini fino ai video. È molto semplice per attori malintenzionati creare una falsa narrativa, ci sono barriere molto basse nella generazione di disinformazione”, ha spiegato Symeon Papadopoulos, Principal Researcher presso il CERTH-ITI e coordinatore del progetto Vera.ai. Ma l’IA può essere usata anche per contrastare la diffusione di questi contenuti, e proprio questo è lo scopo dei progetti di ricerca che hanno lavorato al white paper: “Oggi stiamo facendo enormi sforzi, in diversi progetti, per creare tecnologie che permettano agli esperti dei media, ai fact-checkers ma anche ai cittadini comuni di diventare più consapevoli e anche più abili nell’identificare i contenuti che potenzialmente potrebbero essere falsi”, ha spiegato Riccardo Gallotti, a capo dell’unità Complex Human Behaviour della Fondazione Bruno Kessler e coordinatore del progetto AI4TRUST.
leggi anche
Disinformazione e IA generativa, white paper: a che punto siamo
L’intervista a Nina Jankowicz
Il fenomeno dei deepfake è stato trattato anche in una recente puntata di Progress su Sky TG24: “Si tratta di video o immagini sinteticamente generati ma estremamente realistici”, ha spiegato la professoressa Elisa Ricci dell’università di Trento e della Fondazione Bruno Kessler. “Di solito si tratta di immagini di persone su cui è stata manipolata una parte dell’immagine, per esempio il volto, e sono il frutto dei progressi di questa nuova ondata di intelligenza artificiale generativa”. Nel corso della puntata è stata intervistata anche Nina Jankowicz, vicepresidente U.S. del Centre for Information Resilience, che ha spiegato i rischi nelle prossime elezioni americane e di quando è rimasta vittima di una campagna di disinformazione e di violenza online. Nei mesi scorsi inoltre deepfake hanno colpito diverse personalità dello spettacolo e non solo: tra questi ci sono Taylor Swift, Tom Hanks e altri ancora.
leggi anche
Deepfake porn, un fenomeno in crescita e il 99% delle vittime è donna
