Le "nudify app" sono ancora sugli store. E i minori riescono a usarle

Mancano poche settimane a una stretta importante dell'Unione europea contro uno degli utilizzi più odiosi dell'intelligenza artificiale generativa. Dal prossimo 2 dicembre diventerà infatti applicabile il nuovo divieto per i sistemi di AI che generano o manipolano materiale intimo non consensuale, categoria nella quale rientrano le cosiddette “nudify app”, strumenti capaci di partire dalla fotografia di una persona vestita per produrne una falsa immagine nuda o sessualizzata. Il problema è che non sempre queste applicazioni si presentano agli utenti e soprattutto ai controllori degli store per quello che sono. Alcune possono apparire come normali strumenti di editing fotografico, generatori di immagini, servizi per modificare volti e video o più genericamente app basate sull'AI che non si capisce bene cosa facciano. Le funzionalità più problematiche possono rimanere nascoste durante l’iniziale processo di revisione e comparire solo successivamente, con gli aggiornamenti. È il meccanismo che Apple definisce “bait-and-switch”: un'app dichiara uno scopo durante i controlli e, una volta approvata, rende disponibili capacità differenti e vietate. A quel punto ci vuole un po’ per beccarla e farla fuori. La questione riguarda direttamente anche la protezione dei minori. Nell'ambito dell'applicazione del Digital Services Act, la Commissione europea ha già chiesto ad Apple e Google chiarimenti sulle misure adottate per impedire agli utenti, compresi bambini e adolescenti, di accedere attraverso i loro store ad applicazioni illegali o dannose e sull'efficacia dei sistemi utilizzati per classificare i contenuti in base all'età. Ma questo è un tema più generale. Il test con gli account di tredicenni Quanto questi filtri possano rivelarsi permeabili emerge da una nuova indagine del Tech Transparency Project, pubblicata il 19 ottobre negli Stati Uniti. I ricercatori hanno creato quattro account di prova attribuiti a ragazzi di 13 anni e li hanno utilizzati sugli ecosistemi Apple e Google, con e senza parental control. Nel complesso l'indagine ha individuato 135 applicazioni accessibili agli account di prova e dotate di funzionalità in grado di rimuovere artificialmente i vestiti dalle fotografie o inserire il volto di una persona all'interno di contenuti sessualmente espliciti. Secondo TTP, le applicazioni individuate totalizzavano complessivamente 5,5 miliardi di download e 3,9 miliardi di dollari di ricavi, sulla base dei dati della società di analisi AppMagic. Dietro questa roba c’è un business micidiale. Il risultato più significativo riguarda però gli account sottoposti alle restrizioni parentali. L'account Apple supervisionato è riuscito ad accedere a 24 applicazioni di questo tipo, quello Google a 51. In alcuni casi le app risultavano classificate per fasce d'età molto basse nonostante permettessero di produrre contenuti sessualizzati. Uno dei punti deboli individuati dall'indagine riguarda proprio il modo in cui vengono attribuite queste classificazioni. Apple e Google chiedono agli sviluppatori informazioni sulle caratteristiche delle applicazioni attraverso appositi questionari, sulla base dei quali viene determinato l'age rating. Se la descrizione fornita non corrisponde pienamente alle funzionalità effettive, un'app può quindi superare filtri pensati proprio per impedire ai più giovani di accedere a determinati contenuti o strumenti, implementati più avanti. Dopo essere state informate dei risultati dell'indagine, i colossi sono ovviamente intervenuti. Cupertino ha rimosso diverse applicazioni mentre Mountain View ha sospeso quelle risultate in violazione delle proprie policy e limitato alcuni termini di ricerca collegati a questi strumenti. Secondo TTP, tuttavia, alcune delle applicazioni eliminate dagli store continuavano a funzionare sui dispositivi sui quali erano già state installate. E su quello c’è poco da fare. Apple rafforza le regole contro le app mascherate Il problema non nasce dall'assenza assoluta di regole. Anzi. Google Play vieta già le applicazioni che distribuiscono contenuti sessuali non consensuali e include fra quelli proibiti i deepfake sessuali prodotti attraverso l'intelligenza artificiale. La difficoltà è semmai riuscire a individuare strumenti che non dichiarano apertamente ciò che permettono di fare. Apple è intervenuta proprio su questo punto pochi giorni fa, rafforzando le proprie App Review Guidelines. La società sottolinea che il materiale pornografico era già vietato sull'App Store e che il divieto comprende anche le applicazioni capaci di generare immagini sessualmente esplicite di persone reali senza il loro consenso. Le nuove indicazioni rendono però più esplicita la responsabilità degli sviluppatori nella prevenzione dei contenuti intimi non consensuali. Ma in particolare la Mela ha chiarito ulteriormente le regole contro le funzionalità nascoste, dormienti o non documentate. La società cita esplicitamente le app che durante il processo di revisione si presentano per uno scopo e soltanto dopo l'approvazione fanno emergere capacità di “nudification”. In questi casi l'app può essere rimossa dall'App Store e lo sviluppatore rischia l'esclusione dal programma Apple. È un passaggio fondamentale perché una “nudify app”, come detto, spesso non mostra contenuti espliciti nella pagina attraverso cui viene scaricata e non si presenta come tale. Può apparire come uno degli infiniti editor fotografici o generatori AI disponibili sugli store. È proprio la distanza fra come un'app viene presentata e ciò che consente effettivamente di fare a complicare i controlli: nonostante gli store blocchino ricerche esplicite come “nudify”, “undress” o “deepfake”, le ricerche spiegano che applicazioni di questo tipo continuano a emergere attraverso termini più neutri come “face swap”, “AI video generator” e “AI try on”. In Europa una europarlamentare su sei è stata colpita Nel frattempo il fenomeno ha assunto in Europa anche una dimensione politica. Un'analisi di Agora Digital Transformation ha individuato 50 eurodeputati coinvolti nell'ecosistema dei deepfake sessualizzati: 46 sono donne e quattro uomini. Significa che circa una europarlamentare su sei è stata colpita. Tra le vittime, come accaduto in passato a esponenti anche italiane, c'è l'eurodeputata austriaca dei Verdi Lena Schilling, che ha raccontato di avere scoperto immagini provenienti da una sua conferenza stampa manipolate digitalmente per farla apparire nuda. Insieme alla presidente del gruppo dei Verdi al Parlamento europeo Terry Reintke ha promosso un'iniziativa per chiedere che la nuova normativa non rimanga soltanto sulla carta. Una lettera sottoscritta da 119 europarlamentari di diversi gruppi politici ha ribadito alla Commissione e agli Stati membri di predisporre strumenti e autorità in grado di applicare concretamente il divieto europeo. Dal 2 dicembre prossimo nell'Unione diventerà infatti applicabile il divieto per i sistemi di intelligenza artificiale utilizzati per generare o manipolare materiale intimo non consensuale. Ma proprio le indagini condotte sugli app store mostrano quale sarà uno dei problemi centrali dell'applicazione delle nuove regole: individuare uno strumento vietato quando questo si presenta come qualcosa di completamente diverso. Una sfida ancora più delicata quando a scaricarlo può essere un pre-adolescente. A dare la misura del fenomeno è anche l’International AI Safety Report 2026. Una ricerca condotta su oltre 16mila persone in dieci paesi ha rilevato che il 2,2% degli intervistati dichiara che qualcuno ha creato immagini intime non consensuali che li ritraevano. Il rapporto richiama inoltre studi secondo cui la pornografia rappresenta la parte largamente prevalente dei deepfake individuati online, con donne e ragazze particolarmente esposte a questo tipo di abuso.

Cosa vedere:

Come vederlo:

Online con Sky:

Le "nudify app" sono ancora sugli store. E i minori riescono a usarle

Simone Cosimi