La piattaforma di chatbot personalizzati ha sollevato preoccupazioni a livello internazionale per la possibilità di creare profili realistici che simulano persone senza il loro consenso, molte delle quali legate a casi di cronaca. Il potenziale commerciale della piattaforma però resta forte, come dimostra l’investimento effettuato alcuni mesi fa da Google.
Character AI, una delle piattaforme di intelligenza artificiale più avanzate per la simulazione di interazioni umane, è al centro di forti polemiche a livello globale. La tecnologia, concepita per creare e chattare con dei chatbot che simulano l’identità di una persona, ha destato preoccupazioni, con segnalazioni di gravi episodi e denunce.
Un’inchiesta del Washington Post ha svelato uno dei casi più controversi: un chatbot sulla piattaforma che ha simulato l’identità di una ragazza vittima di femminicidio. Parallelamente, un'altra vicenda ha messo in luce come la piattaforma potrebbe aver inflenzato un ragazzo portandolo al suicidio, un caso denuciato dalla madre, secondo cui la Character.AI non avrebbe adeguatamente filtrato contenuti potenzialmente nocivi.
Anche un’inchiesta condotta da Sky TG24 ha rilevato la presenza su Character AI di chatbot collegati a persone legate a fatti di cronaca, come il profilo di Giulia Cecchettin, la ragazza uccisa lo scorso anno da Filippo Turetta, di cui esistono diversi profili sulla piattaforma.
L’origine di Character AI e l’investimento di Google
Character AI è stata sviluppata grazie all’intuizione di due ricercatori di Google, Noam Shazeer e Daniel De Freitas, che hanno scommesso sulle interazioni conversazionali come nuova frontiera dell’AI generativa. Google però - come riporta il New York Times - preoccupata dal rischio di diffusione di contenuti tossici e disinformazione, aveva poi scelto di non rilasciare al pubblico questa tecnologia.
Shazeer e De Freitas avevano quindi deciso di lasciare l'azienda per fondare la propria piattaforma, Character AI. Il sistema permette a chiunque di creare facilmente chatbot con tratti personalizzati, capaci di emulare personaggi storici, figure di fantasia, o ruoli professionali come psicologi o manager. Le potenzialità educative sono notevoli: i bot possono infatti essere utilizzati per l’apprendimento linguistico, il ripasso di storia, o simulazioni lavorative. Ma, allo stesso tempo, la libertà nella creazione di questi profili ha aperto a possibilità di disinformazione e abuso.
Pochi mesi fa, Google ha acquisito alcuni diritti di utilizzo della piattaforma, mostrando interesse per le capacità di Character AI. Uno dei suoi fondatori, Shazeer, è stato inoltre assunto nuovamente dall’azienda per guidare programmi di AI generativa.
)
)
)
)
)