Google dichiara guerra all’odio in rete con Perspective

Si chiama Perspective ed è la nuova “arma” messa in campo da Google per combattere l’odio in rete. Si tratta di un software che, sfruttando la capacità di apprendimento dell’intelligenza artificiale, è in grado di identificare i commenti offensivi che compaiono sotto gli articoli pubblicati online. La nuova tecnologia sviluppata da Mountain View è stata messa a punto con la collaborazione del New York Times e di Wikipedia.

Come funziona Perspective – Il software, nato dall’incubatore di Google Jigsaw, sfrutta il “machine learning”, ovvero le capacità di apprendimento dell’intelligenza artificiale. Perspective analizza i commenti di un articolo online e assegna loro un punteggio. Come? In base a quanto i commenti risultino simili a quelli che gli utenti hanno definito come inappropriati (tossici), o che li hanno spinti ad abbandonare una conversazione. Per far sì che il programma imparasse in maniera autonoma a riconoscere i commenti di questo genere, è stato addestrato con centinaia di migliaia di commenti che erano già stati etichettati come "tossici" dagli utenti. Grazie a questo addestramento continuo, basato sull’apprendimento e l’interazione con le informazioni degli utenti, il software è in grado di migliorare progressivamente esperienza dopo esperienza.

La collaborazione con i media – Negli scorsi mesi, la fase beta di Perspective è già stata testata in collaborazione con il team del New York Times, che ha il compito di moderare quotidianamente oltre 11 mila commenti. Numeri talmente elevati da spingere il giornale ad aprire alla discussione solo il 10% dei propri articoli. Con il nuovo software sviluppato da Jigsaw, questa percentuale potrebbe essere migliorata rendendo più efficiente e semplice il lavoro di moderazione. Perspective, infatti, assegna dei punteggi, segnalando quali siano i commenti più volgari e violenti. Sta poi all’uomo decidere se eliminarli in base alle analisi della macchina. L'innovativo software è uno strumento che potrebbe avere anche un ruolo importante per la sensibilizzazione della comunità in rete, abbattendo la barriera tra realtà e virtuale. In che modo, lo spiega sul blog di Google il presidente di Jigsaw, Jared Cohen: “Potrete direttamente vedere il livello di ‘tossicità’ del vostro intervento nel momento in cui lo state scrivendo”.

Gli obiettivi di lungo periodo – In futuro, spiega Cohen sul blog, l’idea è quella di migliorare, non solo i commenti degli utenti, ma in generale il livello delle conversazioni online. Per ora Perspective funziona solo per i commenti in inglese, ma già a partire dal prossimo anno la volontà è quella di offrire modelli che funzionino in altre lingue. Non solo: anche le funzionalità del software potrebbero aumentare e migliorare. Ad esempio – spiega Cohen – il programma potrebbe essere capace di identificare commenti riconosciuti come attacchi personali distinguendoli da quelli che, semplicemente, escono dal tema trattato, pur senza offendere nessuno.