La piattaforma di chatbot personalizzati ha sollevato preoccupazioni per la possibilità di creare profili realistici che simulano persone senza il loro consenso, molte delle quali legate a casi di cronaca. Intanto i chatbot di Giulia Cecchetin e Filippo Turetta, oggetto della nostra inchiesta, sono stati disattivati
Character AI, una delle piattaforme di intelligenza artificiale più avanzate per la simulazione di interazioni umane, è al centro di forti polemiche a livello globale. La tecnologia, concepita per creare e chattare con dei chatbot che simulano l’identità di una persona, ha destato preoccupazioni, con segnalazioni di gravi episodi e denunce.
Un’inchiesta del Washington Post ha svelato uno dei casi più controversi: un chatbot sulla piattaforma che ha simulato l’identità di una ragazza vittima di femminicidio. Parallelamente, un'altra vicenda ha messo in luce come la piattaforma potrebbe aver inflenzato un ragazzo portandolo al suicidio, questa la denuncia dalla madre, secondo cui Character.AI non avrebbe adeguatamente filtrato contenuti potenzialmente nocivi.
Anche un’inchiesta condotta da Sky TG24 ha svelato come sul sito fossero presenti chatbot come quello di Giulia Cecchettin, la ragazza uccisa nel novembre del 2023 da Filippo Turetta. Nelle ore successive alla nostra indagine i chatbot sono stati disattivati.
Un portavoce della piattaforma, a seguito delle nostre segnalazioni, ci ha risposto per e-mail specificando che per i minori di 18 anni apporteranno modifiche ai loro modelli per ridurre la probabilità che i minori incontrino contenuti sensibili. Le modifiche, spiega il portavoce, “comprenderanno un potenziamento del rilevamento, della risposta e dell’intervento per azioni che violano i nostri Termini e Linee guida della comunità, oltre alla notifica del tempo trascorso sulla piattaforma”.
Aggiornamento: Dopo una nuova segnalazione di SkyTg24, Character AI ha disattivato i chatbot di Giulia Cecchettin e Filippo Turetta e ha vietato la creazione di nuovi profili con i loro nomi. L'azienda lo ha comunicato a SkyTG24 in una nota in cui scrive che "I personaggi della ragazza e del ragazzo sono stati creati da alcuni utenti, appena ne siamo venuti a conoscenza, abbiamo rimosso i profili dalla nostra piattaforma e aggiunto i loro nomi alla lista di blocco".
L’origine di Character AI e l’investimento di Google
Character AI è stata sviluppata grazie all’intuizione di due ricercatori di Google, Noam Shazeer e Daniel De Freitas, che hanno scommesso sulle interazioni conversazionali come nuova frontiera dell’AI generativa. Google però - almeno secondo quanto riporta il New York Times - preoccupata dal possibile rischio di diffusione di contenuti tossici e disinformazione, avrebbe poi scelto di non rilasciare al pubblico questa tecnologia. Shazeer e De Freitas avevano quindi deciso di lasciare l'azienda per fondare la propria piattaforma, Character AI.
Il sistema permette a chiunque di creare facilmente chatbot con tratti personalizzati, capaci di emulare personaggi storici, figure di fantasia, o ruoli professionali come psicologi o manager. Le potenzialità educative sono notevoli: i bot possono infatti essere utilizzati per l’apprendimento linguistico, il ripasso di storia, o simulazioni lavorative. Ma, allo stesso tempo, la libertà nella creazione di questi profili ha aperto a possibilità di disinformazione e abuso.
Pochi mesi fa, Google ha acquisito alcuni diritti di utilizzo della piattaforma, mostrando interesse per le capacità di Character AI. Uno dei suoi fondatori, Shazeer, è stato inoltre assunto nuovamente dall’azienda per guidare programmi di AI generativa.
approfondimento
L'AI può aiutare le scuole a prevenire i suicidi?
Character AI, le potenzialità della tecnologia per l’educazione e l’assistenza ai più fragili
Nonostante le polemiche, la tecnologia dei chatbot conversazionali, come quella adottata da Character AI, offre potenziali applicazioni positive in diversi contesti sociali e professionali. Una delle aree in cui si ritiene che questa tecnologia potrebbe portare benefici è quella dell'educazione. I chatbot potrebbero essere integrati nei programmi educativi per fornire supporto a studenti e insegnanti.
Un altro ambito che potrebbe trarre vantaggi dall'uso di chatbot conversazionali è quello dell'assistenza agli anziani. I chatbot potrebbero essere impiegati come “forme di compagnia” per stimolare la memoria o motivare a mantenere abitudini salutari nelle persone in età avanzata.
Sul piano professionale, questi sistemi potrebbero essere utilizzati dalle aziende per rispondere ai dipendenti o alla clientela alle domande più frequenti. Un modo per delegare a questi chatbot i compiti più ripetitivi e permettere agli operatori umani di concentrarsi su attività di più alto valore.
Data ultima modifica
)
)
){kind=logo}
)
)