Il lato oscuro del web visibile: il caso Roblox

Si tende a credere che per accedere a contenuti inappropriati o pericolosi sia necessario inoltrarsi nelle zone più oscure della rete, come il dark web, spesso associato a traffici illeciti, teorie cospirative, contenuti violenti e materiale pedopornografico. Una convinzione comprensibile, considerando l’anonimato che queste aree garantiscono e l’uso distorto che ne viene fatto. Sempre più spesso, però, accade che contenuti problematici circolino anche nel surface web - la parte visibile e facilmente accessibile di Internet - mascherati da ambienti ludici e apparentemente innocui. È il caso di Roblox. Tra innovazione digitale e rischi di adescamento La piattaforma di gioco online è frequentata quotidianamente da milioni di bambini e adolescenti, ed è più volte finita al centro di critiche per la sua vulnerabilità rispetto ai fenomeni di adescamento. Fondato nel 2004, Roblox è accessibile gratuitamente da PC, smartphone, tablet e console. Ogni gioco è definito “esperienza” e può spaziare da simulazioni a giochi d’azione, puzzle, roleplay e molto altro. Gli utenti possono scegliere tra esperienze create da altri o svilupparne di proprie. La piattaforma, infatti, è una sorta di YouTube dei videogiochi, dove i contenuti sono generati dalla community. La valuta interna al videogioco è il Robux ed è utilizzata per acquistare beni digitali, convertibile in denaro reale per i creator più seguiti. "Realtà come Roblox rappresentano un motore economico e di innovazione di grande importanza, con miliardi di utenti che stimolano creatività, sviluppo di competenze digitali e un ecosistema di contenuti fonte di valore per il mercato globale– afferma Carlo Alberto Carnevale Maffè docente di Strategia aziendale presso l’Università Bocconi e SDA Bocconi School of Management -. Nel rispetto delle normative europee come il Digital Services Act e il GDPR, è quindi essenziale analizzare con grande attenzione i potenziali rischi, senza però demonizzare l'innovazione”. Un sistema aperto che espone i minori Il suo design aperto e partecipativo solleva, però, diverse preoccupazioni. Roblox è stato spesso paragonato a un “casinò per minorenni”, per via delle dinamiche di monetizzazione e i complessi meccanismi di moderazione. Più grave, tuttavia, è l’allarme lanciato riguardo la presenza di predatori sessuali all’interno della piattaforma. “L’assenza di verifiche rigorose sull’età, per tutelare la privacy, e la vastità della piattaforma, con miliardi di interazioni quotidiane, rendono difficile monitorare ogni conversazione, creando un’opportunità per potenziali comportamenti abusivi - specifica Maffè -. Queste caratteristiche non sono intrinsecamente negative, ma richiedono ottimizzazioni per mitigare i rischi, garantendo che la crescita economica del settore non sia ostacolata da regolazioni eccessive”. In Roblox, i giocatori entrano in un mondo virtuale in cui possono giocare e chattare attraverso personaggi digitali. Circa 40 milioni di utenti della piattaforma - più di un terzo - hanno meno di 13 anni, rendendola il luogo di ritrovo online per eccellenza per i bambini. “I predatori digitali su Roblox tipicamente operano in modo subdolo, sfruttano l'anonimato per creare profili falsi che si fingono coetanei e instaurare relazioni apparentemente innocue - spiega Maffè -. Attraverso regali virtuali e conversazioni su hobby, mirano a isolare i minori su piattaforme esterne meno regolamentate. Questo processo, noto come grooming, avviene spesso in ambienti di roleplay o giochi personalizzati, dove le interazioni sembrano ludiche ma mirano a manipolare emotivamente i minori”. I casi che hanno lanciato l’allarme Secondo i dati raccolti da Bloomberg Businessweek, tra il 2018 e il 2024, più di due dozzine di adulti sono state arrestate con l'accusa di aver rapito o abusato di vittime adescate tramite Roblox. In un caso noto, raccontato dal New York Times, un ragazzo autistico statunitense di 15 anni si è tolto la vita nell’aprile del 2024 dopo essere stato adescato su Roblox e minacciato su Discord, una app di messaggistica molto diffusa tra gli appassionati di videogiochi, da un adulto che si fingeva coetaneo. E ancora, a maggio un uomo del New Jersey è stato condannato a 15 anni di carcere dopo aver accompagnato a casa sua una quindicenne conosciuta sulla piattaforma tramite Uber, dove ha ripetutamente abusato sessualmente di lei. “L’enorme volume di contenuti rende complesso applicare Ai efficaci per il rilevamento automatico di utenti falsi, con il rischio di penalizzare quelli legittimi – specifica Maffè -. Normative come il GDPR limitano la raccolta di dati sensibili, complicando l’identificazione senza violare la privacy. Le sfide giurisdizionali ostacolano la collaborazione con autorità investigative e i costi elevati della moderazione umana, combinati con la necessità di bilanciare rapidità e accuratezza, rappresentano vere e proprie barriere. In un approccio pro-innovazione, investire in tecnologie scalabili come il machine learning avanzato può risolvere queste difficoltà, senza imporre oneri regolatori eccessivi”. Nuove misure contro i rischi digitali A luglio, Roblox ha introdotto nuove misure per verificare l’età, come la scansione dei video del volto. Una volta verificati, gli utenti tra i 13 e 17 anni possono accedere alla funzione “Connessioni Affidabili”, che consente di distinguere i contatti reali dagli sconosciuti e comunicare liberamente solo con i primi. Gli adulti possono connettersi con i minori solo dimostrando di conoscerli offline, ad esempio tramite rubrica telefonica o QR code. Il timore, però, è che tutte queste misure di sicurezza con il tempo possano comunque essere aggirate. Questo tipo di piattaforme offrono a milioni di creator la possibilità di progettare esperienze interattive monetizzabili tramite microtransazioni e pubblicità, contribuendo a un mercato globale valutato in miliardi di euro. È necessario, quindi, - conclude Maffè - “bilanciare lo sviluppo tech con il sacrosanto e ineludibile compito di tutelare la sicurezza dei minori, come richiesto dal DSA, adottando misure concrete e proporzionate. Servono meccanismi di age assurance non invasivi, filtri Ai contro il grooming e controlli parentali avanzati per proteggere i minori. Le piattaforme dovrebbero pubblicare report di moderazione e collaborare con autorità Ue. Queste misure rafforzano la sicurezza senza frenare la spinta innovativa”.

Cosa vedere:

Come vederlo:

Online con Sky:

Il lato oscuro del web visibile: il caso Roblox

Beatrice Subissi