L'odio online c'è anche se non si vede

Nel dibattito sull’odio online spesso si fa strada un’idea che risulta consolatoria e recita più o meno così: forse ci siamo stancati, forse la parabola è discendente e le persone online, tutto sommato, stanno smettendo di insultarsi a vicenda. La letteratura scientifica, però, non sembra d’accordo con questa interpretazione; non c’è una curva elegante che sale e poi scende: semmai ondate ricorrenti, legate a campagne elettorali, crisi geopolitiche, emergenze sanitarie, con un livello di fondo di litigiosità che resta alto e si sposta da una piattaforma all’altra, invece di scomparire tout court. Le meta-analisi più recenti mostrano come l’hate speech online continui a mettere sistematicamente nel mirino minoranze etniche, religiose e gruppi vulnerabili, con effetti misurabili sulla loro partecipazione politica e sul senso di sicurezza percepito nello spazio pubblico digitale. Uno dei centri del problema è che quello che chiamiamo odio, nell’era delle piattaforme, non è distribuito in modo uniforme. Durante le tornate elettorali più divisive il volume di messaggi ostili e disumanizzanti può aumentare verticalmente, avendo spesso come bersagli avversari politici, migranti o minoranze particolari. Un’analisi condotta in Indonesia durante la campagna per le elezioni dell’anno scorso ha rilevato che, all’interno di un campione esaminato, oltre la metà dei contenuti politici rilevanti su X conteneva elementi riconducibili all’hate speech, con percentuali solo di poco inferiori riferite a Facebook. L’idea di una “stanchezza” generalizzata verso la scomunica e la contumelia propiziata dagli algoritmi, quindi, non è del tutto sbagliata ma è parziale: questa evoluzione convive con fasi di iper-polarizzazione in cui l’odio torna a diventare un linguaggio politico diffuso. Siamo assuefatti all'odio C’è poi un elemento che riguarda l’assuefazione: alcuni studi sull’esperienza degli utenti mostrano che, man mano che aumenta il tempo trascorso sui social, diminuisce il senso di indignazione mostrato verso i contenuti d’odio: non necessariamente perché questi ultimi diminuiscono, ma piuttosto perché l’utenza ci si abitua, li normalizza filtrandoli come un inevitabile rumore di fondo. Da qui, forse, nasce la percezione diffusa di una scena online in cui l’insulto risulta meno centrale e urticante: molti utenti scelgono un minor coinvolgimento diretto, altri invece estromettono dal loro campo visivo i contenuti più rischiosi. Ma non è detto che questo calo di sensibilità generale per questo versante sia una buona notizia: meno indignazione potrebbe anche tradursi in una minore pressione sociale a sanzionare chi usa un linguaggio apertamente discriminatorio. La “parabola” dell’odio è complicata anche dal fatto che l’ecosistema dei social oggi si è frantumato. Mentre le grandi piattaforme rendono più complessi e capillari i loro strumenti di moderazione, gli utenti si radicalizzano in spazi alternativi che rivendicano una supposta “libertà di parola”, che in realtà spesso si traduce in libertà di odiare. Piattaforme come Gab, nate con un posizionamento esplicitamente contrario alla moderazione di colossi come Twitter, sono un tripudio di contenuti legati all’estrema destra, teorie del complotto e forme più esplicite di incitamento all’odio. In questo senso l’odio non sparisce, limitandosi a cambiare indirizzo e a stabilirsi in nicchie meno visibili. I deterrenti delle piattaforme Se guardiamo ai deterrenti, però, qualcosa in effetti si sta muovendo. Sul fronte delle piattaforme, una parte degli studi sperimentali indica che una moderazione mirata può ridurre in modo efficace l’esposizione ai contenuti più tossici, anche su piattaforme come X. Un lavoro pubblicato su "Proceedings of the National Academy of Sciences" ha mostrato che interventi selettivi e concentrati sulle forme più gravi di violenza riescono a ridurre il danno senza azzerare il dibattito. Un esperimento di quest’anno ha ricreato migliaia di sessioni di utilizzo, registrando la rapidità con cui gli algoritmi espongono l’utenza a contenuti violenti, d’odio o comunque ostili. Il risultato è stato ambivalente: le barriere non sono impermeabili, ma si vede che in alcuni contesti – a parità di esperienza d’uso – piccoli cambiamenti nelle regole interne o nei filtri di raccomandazione riducono sensibilmente la frequenza con cui compaiono contenuti harmful. È un indizio che ci conferma ciò che dovremmo già avere imparato, ovvero che scelte di design delle piattaforme non sono neutre: rallentare la viralità, de-prioritizzare gli account recidivi, inserire prompt di conferma per certi input aggressivi possono fare la differenza. Come le leggi possono ridurre l'hate speech Il deterrente forse più visibile, almeno in Europa, è quello normativo. La Germania è stata tra i primi Paesi a sperimentare una legge specifica contro l’odio online, con obblighi stringenti per le piattaforme sulla rimozione dei contenuti illegali. Una recente ricerca di area economica, condotta da studiosi legati all’Università Bocconi, segnala come un rafforzamento effettivo della moderazione possa ridurre l’hate speech non solo online ma anche nella vità offine, portando a una misurazione di cali di crimini d’odio. Su scala europea il Digital Services Act, entrato pienamente in applicazione nel febbraio 2024, ha integrato nel proprio perimetro il Codice di condotta sul contrasto all’odio illegale online: per i grandi intermediari digitali ciò si è tradotto in obblighi di trasparenza, sistemi di segnalazione efficaci e la necessità di valutare in tempi rapidi i contenuti potenzialmente illegali. Con una serie di conseguenze pratiche, anche recenti: proprio in questi giorni la Commissione europea ha inflitto a X una multa da 120 milioni di euro proprio per violazioni del DSA, in particolare per meccanismi opachi di verifica degli account, scarsa trasparenza pubblicitaria e ostacoli all’accesso ai dati sulla disinformazione per i ricercatori specializzati. È un segnale politico forte, che rende i costi dell’inerzia meno accettabili per i grandi player. Ma esistono anche deterrenti più di livello “micro”, che incidono sul comportamento dei singoli utenti. Il blocco o la sospensione dell’account, la perdita di visibilità algoritmica, la demonetizzazione dei contenuti che superano certe soglie di tossicità sono strumenti che molti creator prendono sul serio, proprio perché incidono su reputazione . I dati mostrano che, quando la moderazione rende un ambiente digitale meno attraente per gli inserzionisti, le piattaforme ricevono incentivi a ridurre la presenza di contenuti pericolosi; d’altra parte, però, parte dell’utenza “bannata” migra in spazi meno regolati, spazzando la polvere sotto al tappeto. Un meccanismo imperfetto Nessuno di questi deterrenti è privo di costi. I rapporti delle agenzie europee per i diritti umani segnalano come gli attuali sistemi di moderazione – sia tradizionali che automatizzati – tendano a perdersi ancora molti contenuti d’odio e, al tempo stesso, a colpire in modo sproporzionato alcune categorie di utenti, specie quando usano un linguaggio rivendicativo o persino ironico associato a determinate identità. Altri studi sottolineano che la moderazione è davvero efficace solo se i criteri sono chiari e percepiti come legittimi: quando le regole appaiono arbitrarie, il rischio è alimentare la narrativa della “censura” e spingere ulteriormente verso altra radicalizzazione in spazi chiusi. Accanto agli strumenti repressivi, la letteratura scientifica disponibile suggerisce di non sottovalutare l’aspetto dell’istruzione e di un uso consapevole, fin dall’infanzia. Ricerche in ambito psicologico indicano che una maggiore empatia e consapevolezza dell’impatto dei social sulla vita delle persone migliorano la capacità di riconoscere l’hate speech e di astenersi dal diffonderlo. Progetti di “contro-narrazione” e commenti che disinnescano l’odio, anziché limitarsi a cancellarlo, possono ridurre la propensione di altri utenti a unirsi al coro de-umanizzante. In contesti polarizzati, il fatto che qualcuno intervenga a marcare il confine tra critica legittima e tossicità discriminatoria ha un effetto normativo implicito sul piano sociale: ricorda che insultare non è la norma. Alla domanda iniziale – la parabola dell’odio online è in discesa o no? – la risposta onesta, dunque, dovrebbe essere che non esiste ancora un calo strutturale e generalizzato. Ci sono contesti in cui l’odio è meno visibile perché spinto ai margini, oppure è stato confinato in piattaforme minori, e altri in cui esplode periodicamente con grande intensità. I deterrenti introdotti negli ultimi anni – dalle leggi nazionali al DSA, passando per la moderazione algoritmica e le scelte di design – stanno producendo effetti misurabili, ma spesso locali, fragili e accompagnati da rovesci della medaglia temibili. Più che una parabola, l’andamento dell’odio online assomiglia a un grafico a gradini: qualche discesa, molte risalite, frequenti cambi di piattaforma. Se l’obiettivo è far scendere davvero quella curva, servirà un insieme coerente e applicabile di regole chiare: tecnologie meno opache, maggiori responsabilità da far rispettare alle piattaforme e una nuova alfabetizzazione digitale degli utenti. Così da non cedere alla tentazione di leggere come “fine dell’odio” ciò che, talvolta, è solo una resa da ubriacatura.

Cosa vedere:

Come vederlo:

Online con Sky:

L'odio online c'è anche se non si vede

Davide Piacenza