Instagram usa l’apprendimento automatico contro il cyberbullismo

Non saranno più le segnalazioni degli utenti l’unico modo per individuare i contenuti inappropriati pubblicati su Instagram. Il social network ha annunciato il lancio di un nuovo strumento caratterizzato dall’apprendimento automatico, in grado di analizzare un post e rilevare eventuali elementi offensivi, per poi inviare autonomamente una notifica alla comunità di moderatori. La nuova tecnologia segna un importante passo avanti nella lotta di Instagram contro video e foto che violano le regole: in precedenza l’app adottava infatti un filtro per il controllo dei testi, ma bastava modificare un contenuto aggiungendo una scritta e pubblicarlo come un immagine per aggirare la restrizione.

Limitare il cyberbullismo

La novità è stata annunciata da Instagram attraverso un comunicato firmato da Adam Mosseri, diventato recentemente il nuovo CEO dell’azienda dopo un’esperienza decennale con Facebook. Nella nota, il dirigente spiega che “il fenomeno del bullismo online è estremamente complesso”e che il social network è chiamato ad agire per trovare altri modi, oltre a quelli esistenti, “per limitare ulteriormente il cyberbullismo e diffondere la gentilezza”. Ecco dunque da dove nasce la necessità di ideare un nuovo strumento da affiancare alle segnalazioni degli utenti.

A protezione dei più giovani

L’apprendimento automatico, noto anche come machine learning, rappresenta un campo dell’Intelligenza artificiale che sfrutta tecniche di statistica per permettere ai sistemi computerizzati di eseguire compiti senza che essi siano programmati per farlo. Grazie a questa nuova tecnologia, Instagram sarà quindi in grado di analizzare una foto pubblicata e la sua didascalia per individuare possibili segni di bullismo online. In questo caso, il sistema segnalerà il contenuto alla comunità di moderatori, che provvederà alla revisione. Secondo Mosseri questo aiuterà l’azienda “a proteggere gli utenti più giovani, poiché sono proprio gli adolescenti a essere colpiti dal fenomeno in misura maggiore rispetto agli altri”. Instagram ha inoltre comunicato che estenderà il suo filtro per i commenti offensivi, già presente nelle sezioni ‘Esplora’ e ‘Profilo’, anche durante i ‘Live’, affinché “rimangano un modo sicuro e divertente per connettersi in modo autentico con i propri amici ecoltivare i propri interessi”.