Amazon, Alexa incoraggiò violenza: gaffe dell'Intelligenza artificiale

“Uccidi i tuoi genitori adottivi”. È questo il suggerimento shock che un utente ha sentito pronunciare da Alexa, l’assistente virtuale di Amazon adibito a gestire diversi aspetti della vita quotidiana attraverso comandi vocali. Lo scivolone del device sarebbe ad attribuire al tentativo di Amazon di migliorare le capacità di conversazione di Alexa, un esperimento che va avanti ormai da qualche tempo e seppur con qualche incidente di percorso cerca di far sì che l’assistente virtuale possa utilizzare un linguaggio sempre più umano, imparando persino a fare delle battute. Come riporta Reuters, l’utente protagonista dell’inaspettato episodio avrebbe postato una dura recensione sul amazon.com definendo l’accaduto “inquietante”.

Amazon, il piano per migliorare Alexa

Che si tratti di richiedere le ultime notizie o di riprodurre una certa canzone, l’utilizzo degli assistenti virtuali nell’ambiente domestico (e non solo) è sempre più diffuso. Amazon è consapevole del successo ottenuto da Alexa, che alimenta alcuni degli smart speaker più popolari sul mercato, motivo per il quale il colosso dell’e-commerce sta cercando costantemente di migliorare le capacità dell’assistente, che ora può attingere anche dal web per formulare le risposte più adatte. Un allargamento di confini che però porta con sé problematiche legate al filtro di eventuali contenuti offensivi. Stando a quanto rivelato a Reuters da chi ha seguito l’indagine interna relativa all’episodio, l’invito di Alexa a uccidere i genitori adottivi sarebbe una citazione di quanto trovato sul sito Reddit.

Il ruolo dell’Intelligenza artificiale

Le risposte di Alexa si basano sul machine learning, la branchia più popolare dell’Intelligenza artificiale che permette all’assistente di migliorare nel tempo, sulla base di quanto osservato in precedenza. Tuttavia, non è sempre facile capire quali espressioni possano risultare inadeguate a un certo contesto. Per questo, Amazon ha anche inaugurato una competizione annuale chiamata Alexa Prize che mette in palio 500.000 dollari per il team di studenti in scienze informatiche che realizza il miglior ‘chatbot’ in grado di migliorare le conversazioni dell’assistente virtuale. Un programma che ha però evidenziato anche diverse difficoltà, visto che nel tentativo di ‘educare’ Alexa alcuni gruppi hanno constatato le tendenze del device a selezionare in alcuni casi contenuti volgari. Recentemente, la compagnia statunitense si era affidata anche al crowdsourcing, invitando alcuni utenti a fornire la risposta a domande che avevano messo in difficoltà l’assistente virtuale.