Epistemia: i chatbot AI parlano bene, è vero. Ma non sanno nulla

Per decenni il seminale saggio di Alan Turing del 1950, Computing Machinery and Intelligence, è stato trattato come uno spartiacque teorico. Il suo celebre test non nasceva come una definizione ontologica dell’intelligenza, ma come un espediente operativo: se una macchina riesce a sostenere una conversazione indistinguibile da quella umana, possiamo comportarci come se fosse intelligente. Col tempo, però, questo criterio è stato trasformato in un traguardo assoluto e distorto mano a mano che le tecnologie si sono fatte più potenti. L’automazione linguistica è stata scambiata per rivoluzione cognitiva e, da lì, il dibattito pubblico si è popolato di esperti improvvisati, metafore fragili e analisi fondate più sulla suggestione dell’esplosione di chatbot come ChatGPT o Gemini che su una reale comprensione tecnica. È in questo contesto che emerge il concetto di epistemia: l’illusione di conoscenza prodotta da giudizi che appaiono solidi perché ben confezionati linguisticamente ma appunto privi di fondamento epistemico. Non un errore individuale, bensì un effetto strutturale dell’uso di sistemi progettati per ottimizzare la plausibilità del linguaggio, non la verifica dei fatti. Ne abbiamo parlato con Walter Quattrociocchi, professore di Informatica alla Sapienza Università di Roma, direttore del Center of Data Science and Complexity for Society . I suoi interessi di ricerca includono data science, network science, scienze cognitive e la modellizzazione data-driven di processi dinamici nelle reti complesse. Quattrociocchi vanta un’ampia produzione scientifica su conferenze e riviste peer-reviewedtra cui Nature e PNAS. Le sue ricerche sulla diffusione della disinformazione hanno èer esempio contribuito al Global Risk Report 2016 e 2017 del World Economic Forum e il suo lavoro è stato ampiamente ripreso dai media internazionali, tra cui Scientific American, New Scientist, The Economist, The Guardian, New York Times, Washington Post, Bloomberg, Fortune, Poynter e The Atlantic. Quattrociocchi, che cos’è l’epistemia e cosa c’entra con l’intelligenza artificiale? “L’epistemia è il nome di un cortocircuito epistemico: la conoscenza viene simulata nella sua forma, ma non nei suoi presupposti. È l’illusione di sapere che nasce quando un enunciato ben formato, coerente e plausibile viene scambiato per comprensione. Il termine richiama epistème, la conoscenza fondata, ma ne indica la degenerazione; e richiama epidemia e infodemia perché non descrive un errore individuale, bensì una condizione sistemica. Un ambiente informativo in cui produrre risposte convincenti è più facile, più rapido e più economico che verificarle. Con l’intelligenza artificiale questo cortocircuito diventa centrale. Non perché i modelli sbaglino, ma perché i grandi modelli linguistici possono produrre testi che assomigliano a giudizi umani senza possedere nulla di ciò che rende il giudizio un atto cognitivo. Un LLM non ha credenze, non ha esperienza, non ha accesso al mondo. Non può verificare un fatto, né distinguere tra ciò che è vero e ciò che è solo ben detto. Il suo compito è automatizzare il linguaggio, ottimizzando la continuità e la plausibilità delle sequenze testuali sulla base di ciò che ha osservato nei dati. Per questo l’epistemia è insidiosa. Sfrutta il nostro criterio più antico per riconoscere l’intelligenza, cioè il linguaggio. Per millenni, chi parlava bene era quasi sempre qualcuno che aveva visto, fatto, studiato, capito. Oggi quel legame si spezza. Il linguaggio può essere generato senza comprensione e può farlo su scala industriale. Noi però continuiamo a leggere la fluidità come competenza, la struttura argomentativa come ragionamento, la sicurezza del tono come affidabilità. Qui, invece, sono effetti stilistici emergenti da statistiche, non segnali epistemici. Un’immagine utile è quella della passeggiata su un grafo di associazioni linguistiche. Ogni parola è un nodo; ogni transizione è pesata dalla frequenza e dal contesto nei dati di addestramento. Il modello tende a seguire i sentieri più battuti, quelli che, statisticamente, danno meglio risultati rispetto a ciò che precede. Questo produce risposte fluide, spesso utili e talvolta corrette, ma non garantisce alcuna relazione con la realtà. Il percorso può essere perfettamente plausibile eppure falso, perché non è vincolato dalla verifica, ma dalla coerenza statistica. In sintesi, l’epistemia è ciò che accade quando ereditiamo strumenti capaci di imitare l’output del sapere - spiegazioni, sintesi, valutazioni - senza ereditarne i meccanismi di produzione: controllo, confronto con le evidenze, possibilità di smentita, responsabilità. È una nuova ecologia dell’informazione in cui il ‘suona giusto’ rischia di sostituire lo ‘sta in piedi’. E quando questo diventa normale, il problema non è solo l’intelligenza artificiale. È il modo in cui, silenziosamente, cambia la soglia stessa della conoscenza pubblica”. Perché l’essere umano tende ad attribuire capacità cognitive a sistemi statistico-linguistici così potenti? Cosa ci trae in tentazione? “Perché, per l’essere umano, il linguaggio è storicamente il principale indicatore di intelligenza. Nella nostra esperienza individuale e collettiva, chi parla in modo articolato di solito ha visto, studiato, compreso. La competenza linguistica è sempre stata un segnale affidabile di competenza cognitiva, e questa associazione è radicata nei nostri riflessi mentali più profondi. I modelli linguistici entrano esattamente in questo punto cieco. Producono risposte coerenti, strutturate e con tono sicuro. Non esitano, non mostrano incertezza spontanea, non danno segnali di ignoranza. Il nostro cervello fa ciò che ha sempre fatto: attribuisce intenzione, comprensione, capacità di giudizio. Non è ingenuità: è una scorciatoia cognitiva adattiva che ha funzionato per millenni in un mondo composto solo da esseri umani. Il problema nasce quando quel segnale viene disaccoppiato dalla sua causa. Qui il linguaggio non è l’esito di un processo cognitivo che passa per l’esperienza, il controllo dei fatti e l’assunzione di responsabilità. È il risultato di una procedura statistica che ottimizza la forma delle risposte, non il loro rapporto con la realtà. La competenza che percepiamo è stilistica, non epistemica. La tentazione è forte perché il sistema ‘sembra sapere’. E noi siamo biologicamente programmati a fidarci di chi sembra sapere. L’epistemia nasce proprio da questa frizione: strumenti che parlano come chi capisce, in un contesto in cui il parlare bene non è più una garanzia di comprensione. In quel punto, il nostro istinto cognitivo smette di proteggerci e diventa una vulnerabilità strutturale”. Il linguaggio è anche l’unica interfaccia che abbiamo oggi con i chatbot. Come se ne esce? Esistono interfacce future meno esposte al rischio di epistemia? “Con le architetture attuali è difficile immaginare un’uscita semplice. Questi sistemi sono generatori di linguaggio: l’interfaccia linguistica non è un accidente, è la loro natura. Cambiare l’interfaccia senza modificare il meccanismo interno non elimina il problema. La vera via d’uscita non è rendere l’AI “più umana”, ma renderla epistemicamente più onesta: sistemi che mostrino in modo esplicito limiti, incertezze, dipendenze dai dati, assenza di verifica. Interfacce che separino chiaramente l’inferenza statistica da quella basata su conoscenza controllata. In parallelo, serve una nuova alfabetizzazione: capire che dialogare con una macchina che parla non equivale a interagire con un soggetto cognitivo. Finché confondiamo le due cose, l’epistemia resta strutturale”. Quali altri rischi porta con sé l’AI da questo punto di vista? “Il rischio principale è la normalizzazione dell’errore plausibile. Risposte sbagliate ma ben scritte, valutazioni prive di fondamento ma espresse con sicurezza, sintesi che appiattiscono il dissenso e la complessità. Questo ha effetti concreti: nel giornalismo, nella scuola, nella policy, nella consulenza. Si abbassa la soglia di verifica perché ‘suona giusto’. L’autorità viene spostata dalla competenza alla fluidità. È un cambiamento silenzioso ma profondo dei criteri con cui decidiamo a chi credere”. Come vede il dibattito sull’AI in Italia, tra accademia, media e politica? Cosa servirebbe di più? “Il dibattito italiano sull’intelligenza artificiale è, nel complesso, povero e mal impostato. Si parla moltissimo, si capisce pochissimo. Si scambia la metafora per il modello, la suggestione per l’analisi, la sicurezza del tono per la competenza. Ne escono racconti enfatici costruiti su basi tecniche fragili, quando non inesistenti, venduti come visione strategica. Il problema non è il disaccordo ma l’assenza di criteri minimi di realtà. Manca la competenza verificabile. Manca la capacità di distinguere tra automazione statistica e cognizione, tra linguaggio e conoscenza, tra una risposta che suona bene e un risultato che regge. In questo vuoto prosperano figure che parlano di tutto senza sapere nulla in profondità, spesso aiutandosi proprio con gli strumenti che dovrebbero spiegare. In tempi di epistemia questo è particolarmente pericoloso. Perché l’illusione di capire viene scambiata per una comprensione reale e l’opinione ben scritta per un’analisi fondata. Pubblicare libri dal titolo accattivante o riempire palchi non è una garanzia di competenza, soprattutto su tecnologie di natura matematica e statistica profonda e non riducibile a metafore di senso comune. Se si vuole alzare il livello del dibattito, servono meno parole e più metodo. Meno narrazione e più dati. E soprattutto serve una cosa che oggi sembra rivoluzionaria: la capacità di dire ‘non lo so’. Senza questo, l’intelligenza artificiale non diventa uno strumento di comprensione, ma uno specchio che amplifica l’ignoranza con una grammatica migliore”.

Cosa vedere:

Come vederlo:

Online con Sky:

Epistemia: i chatbot AI parlano bene, è vero. Ma non sanno nulla

Simone Cosimi