L'IA rischia di sviluppare pregiudizi, Amazon abbandona il progetto

Uno strumento in grado di esaminare in un breve lasso di tempo centinaia di curricula, selezionando automaticamentesenza l’intervento dell’uomo i migliori profili da assumere. A partire dal 2014, Amazon ha sperimentato un programma simile nel tentativo di rendere più veloce ed efficiente il percorso volto a individuare i talenti da accogliere all’interno dell’azienda. Quello che sembrava essere il sogno dei reparti di risorse umane di tutto il mondo si è però rivelato un buco nell’acqua. A distanza di anni, la compagnia statunitense ha infatti abbandonato lo sviluppo dello strumento dopo aver realizzato che il sistema, basato sull’Intelligenza artificiale, tendeva a preferire le candidature maschili.

Difetto nella progettazione

Il problema, secondo quanto riportato da Reuters, deriva dalla fase di progettazione dello strumento. Il sistema computerizzato, che si avvale dell’Intelligenza artificiale, avrebbe dovuto apprendere a selezionare i candidati ideali dopo aver osservato un database contenente i curricula ricevuti da Amazon in un periodo di 10 anni. Tuttavia, la predominanza di profili professionali maschili in un settore come quello tecnologico ha fatto sì che il programma del colosso statunitense sviluppasse una sorta di pregiudizio, preferendo le candidature di uomini. In particolare, spiegano a Reuters alcune persone coinvolte nella realizzazione dello strumento, il sistema penalizzava i cv che contenevano la parola ‘donne’ o i riferimenti a due college a frequentazione esclusivamente femminile.

Modifiche e rinuncia

“Tutti volevano questo ‘Sacro Graal’, una macchina a cui sottoporre 100 curricula perché ne selezionasse i migliori cinque da assumere”, spiega un ingegnere parte del team che ha sviluppato il programma e che, come gli altri testimoni, ha preferito rimanere anonimo. Nel 2015, Amazon si è accorto che il sistema non era in grado di effettuare le selezioni in maniera neutrale. Inizialmente l’azienda ha provato a modificare i programmi, ma senza la sicurezza che il modello computerizzato non potesse trovare altri modi per esprimere le stesse preferenze verso i curricula degli uomini. Infine, all’inizio del 2017 Amazon ha deciso di abbandonare definitivamente il progetto, smantellando il team che lo aveva realizzato.