Vedremo sempre più violenza sui social?

“Ho visto un uomo che piangeva mentre due persone con una maschera lo forzavano a mangiare. Non era un video finto”. Sono le 3 di notte, la content creator Andreea Tolomeiu racconta in lacrime di aver visto nella sezione Reels di Instagram contenuti violenti, maltrattamenti su minori, morti registrate con un cellulare. L’influencer non è l’unica persona che nell’ultima settimana di febbraio, aprendo l'app, si è trovata in quello che è sembrato un massiccio flusso di scene brutali e disturbanti che ha investito i feed di migliaia di utenti. “Qualcosa dentro Meta non ha funzionato", come ha ammesso la stessa azienda parlando di un “errore” nei sistemi. È probabile che i video siano stati caricati in quei giorni o in quelle ore e non siano stati bloccati. Sappiamo che Instagram premia post che ricevono un gran numero di interazioni nel breve lasso di tempo e, purtroppo, i cosiddetti “contenuti sensibili” hanno la capacità di fare il giro del web molto più velocemente di un normale contenuto” commenta Danilo Maimone, esperto di strategie social. Secondo le linee guida, Meta, l’azienda proprietaria di Instagram, si impegna a proteggere gli iscritti da “contenuti sensibili”, che consistono in immagini disturbanti, e rimuove contenuti particolarmente violenti. Questi vengono rilevati il prima possibile tramite l’intelligenza artificiale, a cui si affiancano un team di addetti al controllo e circa 15 mila revisori che esaminano i singoli post nel caso in cui le violazioni siano sfuggite al sistema automatico. Il meccanismo così come lo conosciamo, però, potrebbe presto cambiare e le conseguenze sono incerte. Dobbiamo prepararci a più violenza sulle piattaforme? L’incidente di fine febbraio arriva a poca distanza dal video con cui il CEO di Meta, Mark Zuckerberg, ha informato che presto verranno riviste le politiche di moderazione. Secondo quanto riportato, i stemi automatizzati smetteranno di cercare tutte le violazioni delle policy e si concentreranno solo su violazioni di tipo illegale o particolarmente gravi, come terrorismo, sfruttamento sessuale di minori, droga, frodi e truffe. Per le violazioni meno gravi, Meta si affiderà principalmente alle segnalazioni degli utenti prima di intervenire. Verranno inoltre eliminate molte delle penalizzazioni preventive, ossia il blocco di contenuti giudicati solo potenzialmente contro le linee guida. In previsione c’è anche un nuovo sistema di verifica dell’attendibilità dei contenuti basato sulle “Community Notes”: gruppi di utenti selezionati che potranno lasciare note sui post, indicando se sono affidabili o meno. Tale metodo va a sostituire, per ora solo negli Stati Uniti, i programmi di fact-checking di terze parti, come fact-checker indipendenti o quotidiani accreditati dall'International Fact-Checking Network. “Questa novità potrebbe influenzare il modo in cui i contenuti vengono condivisi, includendo anche quelli sensibili. Con l’evoluzione dell’intelligenza artificiale, sarà fondamentale affinare i meccanismi di controllo, dato che la creazione di contenuti realistici è sempre più accessibile e richiede strumenti adeguati per valutarne l’autenticità” commenta Danilo Maimone. Da spettatori ad attori della violenza: il caso dei “killer da zero a cento” Assistere in modo continuativo a episodi disturbanti desensibilizza rispetto al tema della violenza, come sostengono da tempo diversi studi. Gli adolescenti sono tra le categorie più fragili ed esposte. Circa il 70% dei ragazzi tra i 13 e i 17 anni ha incontrato contenuti violenti sui social nel 2024. È quanto riporta il fondo britannico Youth Endowment Fund in una ricerca condotta su 10 mila giovani nel Regno Unito. Tik Tok è la piattaforma dove è più probabile imbattersi in contenuti violenti, seguono X, Facebook, Snapchat e Instagram. Un teenager su quattro ha assistito a episodi di violenza reale, come risse, accoltellamenti e scontri tra gang senza averli cercati attivamente: venivano suggeriti dal sistema di raccomandazione algoritmica che invece dovrebbe mostrare solo contenuti selezionati in base alle preferenze dell’utente. Moltissimi degli adolescenti che hanno assistito a immagini contenenti armi hanno affermato di sentirsi meno sicuri quando sono fuori casa e il 39% ha dichiarato di sentirsi più propenso a uscire portando con sé un’arma. Secondo il report, “Quasi i due terzi degli adolescenti che hanno ammesso di aver commesso atti di violenza nell’ultimo anno dichiarano che i social media hanno avuto un ruolo nel loro comportamento. Tra i fattori più frequentemente citati ci sono le discussioni online e l’escalation di conflitti già esistenti, che spesso sfociano in violenza nel mondo reale”. Il quotidiano britannico The Guardian ha di recente parlato del legame tra violenza online e violenza fisica, descrivendo il fenomeno dei “killer da zero a cento che passano dal guardare video di torture, mutilazioni e decapitazioni nelle loro stanze al commettere omicidi”. Il caso di riferimento è quello di Nicholas Prosper, diciottenne senza precedenti penali, che a settembre 2024 ha ucciso sua madre e i suoi fratelli e progettava di compiere una strage in una scuola elementare senza un apparente motivo. Si è scoperto in seguito che era solito cercare online contenuti relativi a massacri e morti violente. Il criminologo David Wilson, intervistato dal Guardian, suggerisce che la natura immersiva dei social media e la personalizzazione dei contenuti mostrati dagli algoritmi potrebbe spingere i ragazzi verso contenuti sempre più estremi. Il fenomeno potrebbe avere conseguenze pericolose soprattutto su determinate categorie di individui, descritti da Jonathan Hall, revisore indipendente della legislazione sul terrorismo per il governo britannico, come “ragazzi isolati, più spesso maschi che femmine; per loro Internet ha un ruolo centrale, e una percentuale piuttosto alta ha delle neurodivergenze”. Come evitare immagini violente sui social media Per evitare che contenuti violenti vengano suggeriti da Instagram, si può attivare l’opzione per visualizzare meno post “inappropriati”, come spiega una guida fornita dalla stessa piattaforma. “Per i minori di 16 anni, entro il 2025 dovrebbe arrivare anche in Italia l’account per teenager” ricorda Maimone. Oltre a una serie di limitazioni sull’utilizzo e l’interazione con altri utenti, al profilo viene applicata in automatico una restrizione più severa sull’accesso a contenuti sensibili nelle sezioni Esplora e Reels. “In generale, da utenti dei social dobbiamo ricordare che i nostri comportamenti e la diffusione di contenuti attraverso personaggi o community “estreme” potrebbero aiutare a favorire la viralizzazione di contenuti sensibili” afferma Danilo Maimone. “Purtroppo non possiamo sapere con certezza se i post violenti aumenteranno. È fondamentale però avere un corretto comportamento nella piattaforma. Possiamo segnalare contenuti e profili che vanno contro le linee guida e non interagire con gli stessi. In questo modo, evitiamo che diventino virali e diamo al sistema un feedback immediato, per dare la possibilità di cancellare o revisionare il contenuto quanto prima”.

Cosa vedere:

Come vederlo:

Online con Sky:

Vedremo sempre più violenza sui social?

Federica De Lillis