Se il medico è un chatbot

L’idea è chiara: trasformare i chatbot in veri assistenti sanitari personali. Ultima della serie, pure Microsoft sta spingendo in modo deciso in questa direzione, integrando funzionalità sempre più avanzate nel suo Copilot per aiutare gli utenti a interpretare sintomi, documenti clinici e percorsi di cura. Un’evoluzione che segna un cambio di passo: non più semplici risposte generiche ma strumenti progettati esplicitamente per entrare nel perimetro della salute individuale. Avvicinandosi a una funzione di triage digitale. Il progetto si inserisce in una corsa più ampia che coinvolge l’intero settore. Dai modelli di OpenAI integrati in app e servizi sanitari passando per ChatGPT Health lanciato qualche tempo fa fino a Claude for Healthcare o a Helath AI di Amazon, i chatbot dei colossi della tecnologia stanno rapidamente guadagnando terreno come primo punto di accesso alle informazioni sanitarie. La promessa è quella di alleggerire i sistemi sanitari, migliorare l’accesso e fornire orientamento immediato. Come sempre, non tutto è come vorrebbero raccontarcela. Diversi importanti studi degli ultimi mesi mostrano per esempio che, in contesti medici, i chatbot possono letteralmente “deragliare”: fornire cioè risposte convincenti ma non corrette, oppure sottovalutare segnali clinici rilevanti. La criticità non è solo tecnica ma cognitiva: il tono assertivo e la fluidità delle risposte tendono pericolosamente a generare fiducia, anche quando il contenuto è parziale o del tutto sbagliato. In ambito sanitario, questo può tradursi in decisioni ritardate o inappropriate. Perfino fatali, sotto certi punti di vista. A complicare il quadro c’è poi l’irrisolta questione dei dati. Inserire sintomi, diagnosi o referti in un chatbot significa come sappiamo condividere informazioni estremamente sensibili al di fuori dei tradizionali circuiti sanitari. E qui il punto si fa meno trasparente. Dove vengono archiviati questi dati? Per quanto tempo? Possono essere utilizzati per migliorare i modelli? E con quali garanzie di anonimato reale? E potrei aggiungere un’altra dozzina di domande molto pertinenti sul tema. Le grandi aziende tecnologiche assicurano livelli elevati di protezione e, nel caso europeo, il necessario rispetto del GDPR e delle diverse leggi nazionali che hanno recepito uqel regolamento. Tuttavia, la filiera dell’intelligenza artificiale è complessa: infrastrutture cloud, sistemi multipli di collegamento, eventuali revisioni umane, un comparto che è comunque ai suoi primi anni e spesso sfugge anche al controllo dei propri sviluppatori. Anche quando i dati vengono trattati in forma aggregata o pseudonimizzata, il rischio di ricostruzione non è mai del tutto nullo. Il paradosso è quindi evidente: proprio mentre i chatbot diventano più “bravi” a parlare di salute, cresce anche la quantità e la qualità dei dati sanitari che raccolgono. E questo li rende ancora più appetibili, sia per lo sviluppo tecnologico sia - potenzialmente - per altri usi. Nel frattempo, seminano comunque patacche: nel recente studio dell’università di Oxford citato poco sopra i ricercatori hanno messo alla prova diversi sistemi di intelligenza artificiale con scenari clinici simulati, chiedendo indicazioni su sintomi e possibili azioni da intraprendere. Il risultato è stato ambiguo. Da un lato, i chatbot sono spesso in grado di fornire risposte coerenti e ben formulate dall’altro, tendono a commettere errori proprio nei passaggi più delicati, come la valutazione della gravità dei sintomi o l’urgenza di rivolgersi a un medico. Come si diceva, in alcuni casi minimizzano problemi seri, in altri suggeriscono percorsi non necessari. Bene ma non benissimo. La direzione, tuttavia, sembra tracciata. Ma restano aperte alcune domande cruciali. Un assistente AI pur specializzato e con tassi statistici di successo piuttosto elevati può davvero sostituire il primo livello di valutazione medica? Quanto siamo disposti a delegare, e a chi, l’interpretazione del nostro stato di salute? In certi casi potrebbe perfino apparirci una scorciatoia obbligata, per esempio in contesti di Servizi sanitari ingolfati come quello italiano: potrebbe venire da dirsi che sia meglio di niente, se il telefono del medico di base è sempre occupato e non ci risponde mai a una mail o a un messaggio su Whatsapp. E soprattutto: abbiamo strumenti sufficienti per controllare cosa accade alle informazioni che condividiamo?

Cosa vedere:

Come vederlo:

Online con Sky:

Se il medico è un chatbot

Simone Cosimi