L'IA genera tutto. Il problema sono i limiti

Per affrontare i rischi associati alla diffusione di contenuti inappropriati, OpenAI ha iniziato a distribuire un sistema di predizione dell’età su ChatGPT, pensato per stimare se un account appartiene a un utente sotto i 18 anni e applicare automaticamente protezioni per ridurre l’esposizione a materiali sensibili e rischiosi. Queste misure - che si basano su segnali legati all’attività dell’account e ai modelli di utilizzo e non si rivelano sempre efficaci, a dirla tutta - si inseriscono in una strategia più ampia per adattare l’esperienza alle diverse fasce di età e includono anche possibilità di verifica tramite selfie per ripristinare l’accesso per gli adulti. In vista della “Modalità adulti” presto in arrivo. L’immaginazione AI al limite: il caso Grok e i deepfake sessuali La questione dell’età non nasce nel vuoto: piattaforme come Grok, l’intelligenza artificiale di xAI integrata in X, tutto di Elon Musk, sono finite sotto accusa a causa della loro capacità di generare immagini e video manipolati su richiesta, compresi contenuti sessuali espliciti e non consensuali. Il fenomeno va avanti da tempo ma è esploso nelle scorse settimane. Gli utenti hanno richiesto e ottenuto con grande facilità la creazione di immagini che spogliano persone, incluse donne e minorenni, o le inseriscono in contesti pornografici, sollevando proteste normative e in mezzo mondo. Un meccanismo potenzialmente infinito, una responsabilità condivisa Questo tipo di uso mette in luce un aspetto strutturale delle tecnologie generative: la loro potenzialità di produrre quasi qualsiasi immaginazione testuale o visiva, senza limiti intrinseci se non quelli imposti da policy, filtri e norme. Nella definizione più neutra, un deepfake è semplicemente un contenuto sintetico creato con tecniche di AI ma il suo uso può includere ambiti delicati come la pornografia non consensuale, l’abuso di immagini di persone reali, la disinformazione o l’alterazione di fatti e identità. Per questo il dibattito su policy, filtri e soprattutto norme non è affatto secondario: è il cuore di una diffusione che molti vorrebbero senza troppi lacci ma che invece segnerà un gran pezzo delle dinamiche di convivenza civile. Cominciano ad esempio a moltiplicarsi i casi di cronaca, anche nera, in cui l’elemento trigger e d’innesco a situazioni senza ritorno è stato un contenuto creato con l’IA, ma non riconosciuto come tale. L’“Adult Mode” di ChatGPT è una funzionalità programmata da OpenAI per il primo trimestre del 2026 che consentirà agli utenti maggiorenni verificati di accedere a un’esperienza conversazionale più ampia rispetto alla versione standard del servizio. Con questo aggiornamento, in pratica, il chatbot non sarà più limitato dai filtri attuali su temi di natura sessuale, relazionale o “sensibile” ma potrà gestire contenuti più espliciti o in tono realistico, compresi aspetti di erotismo, intimità e discussioni complesse sulla sessualità, pur restando soggetto a policy rigorose contro contenuti illegali o dannosi. Non si sa ancora come gestirà i prompt relativi alle immagini. OpenAI ha definito questa iniziativa come un modo per “trattare gli adulti come adulti”, ampliando la libertà espressiva all’interno di confini regolamentati. Giusto. Ma allora dovremmo davvero trattare i minori come minori. La sfida per regolatori e piattaforme La storia recente mostra che senza adeguate salvaguardie questi strumenti possono diventare “un mezzo per produrre veramente qualsiasi immaginazione”, compresi contenuti che violano la dignità, la privacy o la legge. Anche senza allarmismi, va riconosciuto che la potenza di generazione illimitata impone alle piattaforme di adottare sistemi di filtraggio, moderazione e verifica dell’età robusti – forse più robusti della predizione dell’età - insieme a regole chiare e responsabilità legali per gli sviluppatori e gestori.

Cosa vedere:

Come vederlo:

Online con Sky:

L'IA genera tutto. Il problema sono i limiti

Simone Cosimi