La Francia indaga su Grok, l’IA che “spoglia” donne e bambini

Nuova ondata di molestie sessuali sui social media per iniziare il 2026. In causa è Grok, l’intelligenza artificiale di X, il social media di Elon Musk. Tra la fine del 2025 e l’inizio del 2026, infatti, diverse donne hanno denunciato la presenza su X di migliaia di deepfake creati con l’IA di Musk, che “spoglia” sotto richiesta degli utenti donne, ragazze e, a volte, anche bambini e bambine. La denuncia della politica francese Mentre Grok si democratizza sempre di più in Francia, diversi ministri e parlamentari hanno denunciato l’ondata di violenza su X. Sarah El Haïry, alta commissaria francese per l’infanzia, si è detta “scandalizzata” da questo utilizzo dell’IA. “Se l'immagine è artificiale, il danno è reale”, scriveva su X. Anche il portavoce del Partito Socialista, Arthur Delaporte, ha reagito su X denunciando l’accaduto: dopo aver reso pubblico il suo sostegno a diverse donne francesi vittima di questo fenomeno, ha sottolineato come questo tipo di contenuti sia “illegale” e si definisca come “cyberbullismo”. La condanna è arrivata anche da parte del ministro dell'Economia Roland Lescure, della ministra delegata per l'Intelligenza artificiale e il digitale Anne Le Hénanff e della ministra per la parità tra donne e uomini Aurore Bergé. I tre ministri hanno segnalato al procuratore e alla piattaforma Pharos, destinata alle vittime di truffe su Internet, "contenuti manifestamente illeciti generati dall'intelligenza artificiale generativa Grok e diffusi sulla piattaforma X, al fine di ottenerne l'immediata rimozione". In seguito a queste denunce, la procura di Parigi ha fatto sapere di aver esteso la sua indagine sul social media X anche all'intelligenza artificiale Grok. La procura ha ricordato che il reato di “fotomontaggio a fini sessuali di una persona senza il suo consenso è punibile con due anni di reclusione e 60.000 euro di multa”. La procura ha anche incaricato l’Arcom di indagare su possibili violazioni da parte di X dei suoi obblighi derivanti dal Digital Services Act europeo, in particolare in materia di prevenzione dei rischi legati alla diffusione di contenuti illeciti. Cos’è Grok e come funziona? L’ondata di denunce e la diffusione dell’IA di Elon Musk in Francia ha attirato l’attenzione su Grok e sul suo funzionamento. Grok è un chatbot di intelligenza artificiale integrato a X e creato da xAI, azienda statunitense di sviluppo di IA. Il chatbot si è già trovato all’interno di diverse polemiche, soprattutto a causa di alcune risposte controverse che ha fornito in passato e per la sua linea politica . Tra la fine del 2025 e l’inizio del 2026, però, il software, già molto diffuso negli Stati Uniti, ha conosciuto un aumento di richieste di carattere pornografico e pedopornografico. “Grok, spogliala” oppure “Grok, mettila in bikini”: queste sono molte delle richieste che sono state fatte al chatbot negli ultimi mesi. Per quantificare il fenomeno, i ricercatori di AI Forensics, un'organizzazione no profit con sede a Parigi, hanno esaminato 50.000 menzioni di Grok su X e 20.000 immagini generate dallo strumento, trovate in un periodo compreso tra il 25 dicembre 2025 e il 1° gennaio 2026. L’indagine ha mostrato che più della metà delle immagini create mostravano persone in abiti succinti, di cui l’81% erano donne. Una minoranza delle immagini, pari al 2%, sembrava mostrare persone minorenni, con alcune immagini che ritraevano bambini di età inferiore ai cinque anni. I ricercatori hanno affermato che la maggior parte dei contenuti era ancora disponibile online. Grok ha dichiarato di aver “individuato delle falle nei dispositivi di sicurezza” e ha promesso di correggerle “con urgenza”. Il fenomeno non è però nuovo: diversi casi erano già emersi nel mese di maggio. Davanti all’ampliarsi del fenomeno, Elon Musk ha risposto pubblicando una foto di se stesso in bikini, creata da Grok. Un nuovo tipo di cyberbullismo Lunedì 5 gennaio anche la Commissione Europea ha reagito al fenomeno, facendo sapere che l’UE "prende molto sul serio" le immagini pedopornografie create da Grok. "Sono illegali, schifose e non hanno posto in Europa", ha aggiunto il portavoce, spingendo Grok a conformarsi al Digital Service Act. A dicembre l'UE aveva già inflitto ad X la prima multa della storia per una violazione del regolamento digitale europeo. Questo fenomeno pone l’opinione pubblica francese davanti a dubbi e domande che riguardano l’utilizzo dell’intelligenza artificiale, nata come strumento tecnologico utile all’uomo e trasformata ora in nuovo mezzo di molestia. Alcuni software di intelligenza artificiale hanno già iniziato a lavorare sul problema, per esempio rendendo impossibile la creazione di deepfake partendo da determinati prompt problematici. Tutto ciò è sufficiente? O è necessario che l’Europa e i paesi europei prendano atto di questo nuovo tipo di cyberbullismo?

Cosa vedere:

Come vederlo:

Online con Sky:

La Francia indaga su Grok, l’IA che “spoglia” donne e bambini

Veronica Gennari