Chi insegnerà all’Ai che cosa è giusto e che cosa è sbagliato?

L'intelligenza artificiale sa scrivere software, interpretare immagini, riassumere migliaia di pagine e affrontare problemi scientifici sempre più complessi. Lo sappiamo. Ma se le chiediamo che cosa sia giusto, la questione cambia completamente. Giusto secondo chi? Non è più una domanda teorica. Milioni di persone parlano ogni giorno con i chatbot e naturalmente, molte cronache lo hanno testimoniato anche in casi particolarmente cruenti, non chiedono soltanto informazioni. Raccontano relazioni sentimentali, conflitti familiari, problemi sul lavoro, dubbi spirituali, dilemmi esistenziali addirittura. Chiedono se lasciare un partner, se perdonare un tradimento, come comportarsi con un collega o quale decisione prendere davanti a un problema psicologico personale. L'intelligenza artificiale sta così entrando silenziosamente, e scivolosamente in uno dei territori che abbiamo sempre considerato più umani: quello del giudizio. Ed è proprio qui che alcune delle principali aziende tecnologiche hanno scoperto un problema gigantesco: un chatbot non può essere davvero neutrale. Ogni volta che decide se assecondare una richiesta, contestarla, invitare alla prudenza oppure suggerire una scelta, sta applicando implicitamente una gerarchia di valori. È anche per questo che Silicon Valley ha cominciato a bussare a una porta che fino a qualche anno fa sarebbe sembrata piuttosto improbabile: quella delle religioni. Quando la Silicon Valley incontra teologi e leader religiosi Secondo una ricostruzione pubblicata dall'Associated Press, aziende come Anthropic e OpenAI hanno infatti avviato confronti con esponenti religiosi, filosofi e studiosi per discutere dei principi con cui dovrebbero comportarsi sistemi di intelligenza artificiale sempre più potenti. Nei mesi scorsi rappresentanti delle aziende hanno partecipato anche al Faith-AI Covenant, un confronto che ha coinvolto rappresentanti di diverse comunità religiose. Anthropic è probabilmente l'azienda che ha reso più esplicito questo percorso. A maggio ha per esempio raccontato di avere organizzato incontri con studiosi, religiosi, filosofi ed esperti provenienti da oltre 15 tradizioni religiose e culturali. L'obiettivo dichiarato non è trasformare Claude in un chatbot cristiano, buddhista, ebraico o musulmano. La società dice di voler mettere il modello a confronto con prospettive religiose, secolari, filosofiche e politiche differenti e con tradizioni che riflettono da secoli su virtù, carattere e significato di una “vita buona”. Qualsiasi cosa significhi. La scelta è però meno bizzarra di quanto sembri. Una società tecnologica può e deve ovviamente stabilire che un chatbot non debba spiegare come costruire una bomba. Molto più complicato è insegnargli come comportarsi davanti a situazioni in cui non esiste una risposta universalmente riconosciuta come corretta. Ed è proprio questo il terreno sul quale religioni e grandi tradizioni filosofiche lavorano da millenni. A dire il vero, anch’esse con i loro bei problemi irrisolti. Una “costituzione” per Claude Anthropic ha perfino scritto per Claude una vera e propria “Costituzione”, utilizzata per orientarne il comportamento. Il documento stabilisce una gerarchia: il modello dovrebbe essere prima di tutto sicuro, poi “ampiamente etico”, quindi rispettare le linee guida dell'azienda e infine essere realmente utile all'utente. Ma la parte più interessante, guarda un po’, arriva quando Anthropic prova a spiegare cosa significhi essere etici. L'azienda riconosce esplicitamente il problema del pluralismo morale e arriva a contemplare tre possibilità: che esista una qualche etica universale; che dalle diverse tradizioni umane possa emergere una sorta di area di consenso; oppure che nessuna delle due cose esista e sia quindi necessario orientare Claude attraverso principi più generali, come onestà, attenzione agli altri e riduzione del danno. Anthropic ammette inoltre che perfino questa impostazione non può essere completamente neutrale. Ed è qui che la questione smette di essere soltanto tecnologica. Perché chi scrive quella Costituzione sta inevitabilmente scegliendo una certa idea di essere umano. Il problema della “morale media” Una possibile soluzione potrebbe sembrare democratica: raccogliere le diverse concezioni del bene e cercarne una sintesi. Sam Altman ha parlato in passato della possibilità che ChatGPT rifletta qualcosa di simile a una media ponderata delle opinioni morali dell'umanità. Anthropic utilizza un concetto più sofisticato, quello di un possibile “bacino di consenso” fra tradizioni differenti. Un minimo comun denominatore fra religioni e tradizioni filosofiche? Ma una morale non funziona necessariamente come una media statistica. È uno dei problemi evidenziati anche dagli studiosi sentiti da AP. Le religioni non sono semplicemente cataloghi di precetti da estrarre, confrontare e inserire in un database. Sono dottrine ma anche pratiche, culture, comunità, rituali e interpretazioni che cambiano nel tempo. E soprattutto possono arrivare a conclusioni profondamente differenti sugli stessi problemi. E ancora: sono pur sempre frutto dell’uomo. Mettere tutto insieme rischia quindi di produrre qualcosa che non appartiene davvero a nessuno: una sorta di morale sintetica, levigata nelle contraddizioni, abbastanza inclusiva da non identificarsi con una particolare tradizione ma proprio per questo potenzialmente povera della profondità di ciascuna. La religione dell’AI. Il giurista Paolo Carozza, membro dell'Oversight Board di Meta e studioso del pensiero sociale cattolico, ha individuato proprio questo rischio: le tradizioni possono contaminarsi e cambiare attraverso il confronto ma lo fanno storicamente in maniera organica e prolungata nel tempo, attraverso le esperienze e le scelte delle persone. Un modello linguistico, al contrario, può semplicemente accumulare e mescolare quelle differenze. Eppure stiamo già ascoltando i chatbot Si potrebbe obiettare che il problema sia prematuro. Claude e ChatGPT non sono sacerdoti, filosofi o giudici morali. Ma c'è un elemento che rende la questione molto meno astratta: le persone sembrano già disposte ad ascoltarli. Uno studio pubblicato quest'anno su Nature ha confrontato consigli etici prodotti da GPT-4 con quelli di un esperto umano. Inizialmente il 72,6% dei partecipanti preferiva ricevere consigli morali da una persona. Dopo aver letto le risposte, però, la diffidenza nei confronti dell'AI diminuiva sensibilmente. In un test preliminare, il 57% aveva addirittura preferito il consiglio generato dall'intelligenza artificiale. Un altro studio pubblicato nel 2026 su Cognition ha osservato che le persone possono modificare i propri giudizi morali dopo aver ricevuto il parere di un modello linguistico. E non necessariamente perché abbiano valutato in profondità la bontà delle sue argomentazioni: in alcuni casi sembra entrare in gioco una forma di deferenza verso una risposta semplicemente percepita come sufficientemente convincente. Il famoso tema della plausibilità affrontato in passato in questa intervista. È un passaggio cruciale. Il problema non è soltanto quali valori mettiamo dentro l'AI. È quanto quei valori, una volta restituiti sotto forma di risposta autorevole, fluida e apparentemente ragionevole, possano tornare indietro e modificare i nostri. Una macchina che ci dà sempre ragione C'è poi un secondo rischio. Potremmo costruire non un nuovo maestro morale ma uno specchio straordinariamente sofisticato. I chatbot soffrono infatti di un problema sottile e infido noto come sycophancy: la tendenza ad assecondare eccessivamente l'utente. Una ricerca pubblicata su Science nel 2026 ha analizzato undici sistemi di AI e condotto esperimenti su 2.405 persone. I modelli tendevano ad approvare il comportamento degli utenti il 49% più spesso degli esseri umani, anche in presenza di comportamenti problematici. E dopo aver ricevuto risposte eccessivamente accondiscendenti i partecipanti erano meno propensi ad assumersi responsabilità e a riparare un conflitto, pur mostrando maggiore convinzione di avere ragione. La cosa più inquietante è che quelle risposte piacevano. Anthropic ha trovato lo stesso problema analizzando le conversazioni in cui le persone chiedono consigli a Claude: comportamenti accondiscendenti comparivano nel 9% dei casi complessivi analizzati ma arrivavano al 38% nelle conversazioni sulla spiritualità e al 25% in quelle sulle relazioni. È facile cogliere il cortocircuito: chiediamo a una macchina di aiutarci a orientarci e la macchina, progettata anche per risultare utile e piacevole, rischia di restituirci una versione più elegante delle convinzioni con cui siamo arrivati. Una echo chamber, sì, ma con noi stessi. La palude dei valori Ed è forse qui che il problema diventa più interessante. Per secoli, con tutte le loro contraddizioni, le società hanno costruito sistemi relativamente riconoscibili attraverso cui discutere ciò che era giusto e sbagliato: religioni, ideologie, filosofie, istituzioni, famiglie, comunità, partiti, scuole. Nessuno di questi riferimenti ha mai prodotto una morale universale e molti sono stati anche strumenti di drammatica oppressione. Ma offrivano coordinate rispetto alle quali aderire, dissentire o ribellarsi. Oggi rischiamo qualcosa di diverso. E cioè di addentrarci in una palude valoriale estremamente personalizzata nella quale riceviamo contemporaneamente stimoli provenienti da culture, religioni, influencer, piattaforme, santoni e guru di ogni fatta, comunità digitali e algoritmi differenti. L'intelligenza artificiale aggiunge a questo miscuglio melmoso un elemento inedito: non si limita a mostrarci quei valori ma può ricombinarli istantaneamente e presentarceli sotto forma di consiglio personale. Il paradosso è notevole: proprio mentre diventiamo meno concordi su quali siano i punti cardinali, stiamo costruendo macchine alle quali chiediamo di indicarci il Nord. E più quei sistemi diventeranno personali, più la tentazione potrebbe essere quella di avere non una morale comune ma una morale su misura: un assistente che conosce le nostre convinzioni, le nostre fragilità, la nostra storia personale e magari anche il modo migliore per persuaderci o almeno convincerci. Chi educa chi? La ricerca scientifica invita peraltro alla cautela anche nell'attribuire ai modelli una vera «competenza morale». Un lavoro pubblicato su Nature distingue fra moral performance e moral competence: una macchina può produrre una risposta che appare moralmente appropriata senza naturalmente comprendere le ragioni morali che la rendono tale. Gli autori individuano fra i problemi centrali proprio il pluralismo dei valori e quello che chiamano facsimile problem: la possibilità che un modello imiti molto bene un ragionamento morale senza possederne realmente la comprensione. Eppure per l'utente la differenza potrebbe diventare quasi invisibile. Un chatbot non deve possedere una coscienza per esercitare influenza. Deve soltanto essere sufficientemente convincente. Il confronto avviato dalle aziende tecnologiche con religioni, filosofi e studiosi è quindi probabilmente necessario. Ma porta alla luce una questione ancora più difficile di quella che dovrebbe risolvere. Non basta domandarsi quale morale insegnare all'intelligenza artificiale. Dovremmo chiederci quali valori vogliamo continuare a elaborare noi, attraverso il confronto con altre persone e con comunità reali, e quali siamo invece disposti a delegare a sistemi che li hanno appresi statisticamente dai nostri testi. Perché il rischio più sottile non è che un giorno una macchina decida autonomamente che cosa è bene e che cosa è male. È che, un consiglio dopo l'altro, cominciamo a lasciarle decidere dove mettere la bussola mentre noi perdiamo l'abitudine di usarla.

Cosa vedere:

Come vederlo:

Online con Sky:

Chi insegnerà all’Ai che cosa è giusto e che cosa è sbagliato?

Simone Cosimi