Pennisi: “L’IA non è un’amica e non è un terapeuta”

L’intelligenza artificiale non va respinta né accolta come una tecnologia capace di risolvere qualsiasi problema. Prima di tutto va capita, a partire dalla sua storia, ai suoi limiti e dagli equivoci che accompagnano il modo in cui la utilizziamo. È il punto di partenza di Il grande inganno dell’AI. Come l’intelligenza artificiale può migliorarci la vita , il nuovo libro di Martina Pennisi, pubblicato da Solferino. Un saggio di 192 pagine che prova a sottrarre il dibattito sull’IA alla contrapposizione fra entusiasmo e paura, ricostruendone allo stesso tempo retroterra, funzionamento, protagonisti e implicazioni sociali. Classe 1983, vice caporedattrice del Corriere della Sera, Pennisi segue da quasi quindici anni l’evoluzione del digitale e il suo impatto sulla società. Nel libro parte dalle origini dell’intelligenza artificiale e arriva alla stagione inaugurata dall’esplosione dell’IA generativa, attraversando i laboratori di ricerca, la Silicon Valley, la competizione fra Stati Uniti e Cina, la guerra dei chip e le sfide della regolamentazione. Al centro c’è però soprattutto lo scivoloso rapporto che stiamo costruendo con macchine capaci di produrre un linguaggio sorprendentemente naturale e plausibile. È qui che si nasconde il “grande inganno” evocato dal titolo: la tendenza a confondere la capacità dei chatbot di rispondere in modo fluido e apparentemente empatico con una reale comprensione di ciò che dicono e di chi hanno di fronte. Da questo equivoco sbocciano interrogativi che riguardano il modo in cui impariamo, lavoriamo, ci informiamo e ci relazioniamo. Pennisi affronta anche privacy, diritto d’autore, agenti di IA e prospettive dell’intelligenza artificiale generale, per arrivare infine a un decalogo pratico dedicato all’uso di questi strumenti: che cosa conviene delegare, che cosa è meglio continuare a fare da soli e come sfruttarne le capacità senza rinunciare al pensiero critico. Il titolo del suo libro è molto netto: “Il grande inganno dell’IA”. In che cosa consiste esattamente questo inganno e quanto dipende dalla tendenza ad attribuire a chatbot capaci di conversare in modo fluido comprensione, intenzioni ed empatia che in realtà non possiedono? "L'inganno si fonda sull'intersezione di tre elementi. Il primo è che le aziende hanno lanciato i modelli linguistici senza chiarire a cosa sarebbero serviti e li hanno vestiti con la grafica familiare di una chat quotidiana, come WhatsApp: le nuvolette di testo che scorrono e i puntini che simulano l'attesa del pensiero creano un’illusione di presenza e di dialogo tra pari. Siamo al cospetto di una affordance falsa: il design ci suggerisce un uso diverso da quello che può essere garantito. Il secondo elemento: il dialogo fra pari non può essere garantito perché gli Llm non possiedono una reale comprensione del mondo, conoscenza o empatia. Terzo: noi che siamo biologicamente portati a reagire ai segnali sociali inviati dalla macchina attivando le stesse dinamiche relazionali che applichiamo verso le persone. Questo produce una situazione che ci porta a scambiare la fluidità del linguaggio e la persuasività di quello che viene generato per comprensione o corretta rappresentazione della realtà”. Nel libro non c’è un rifiuto dell’intelligenza artificiale ma l’invito a utilizzarla senza delegarle le nostre capacità critico-analitiche. Quali sono le indicazioni pratiche più importanti per usare meglio questi strumenti nella vita quotidiana? "Assolutamente non un rifiuto: al contrario scrivo più volte che vorrei rinascere e ricominciare la mia carriera adesso, non fosse altro per la possibilità di trascrivere così fedelmente file audio in pochi secondi e tradurre da qualsiasi lingua. Alla fine del libro ho stilato un breve decalogo. Il consiglio più importante è che questa tecnologia va usata come uno strumento di supporto, avendo ben chiari gli obiettivi che si hanno, senza cedere alla pigrizia di delegarle il pensiero critico. Aiuta a battere l'ansia della pagina bianca, è un asso per lavorare su testi esistenti o interrogare dati e documenti. Non è un amico o un'amica e non è un terapeuta. Può aiutare a riassumere e comprendere le notizie - ed è così che una percentuale crescente di persone la usa, soprattutto fra i giovani - ma non è una testata, non applica il metodo e le verifiche giornalistiche. Ancor più di un prompt corretto, ormai aiuta il contesto che si dà”. Dopo aver studiato a fondo questi sistemi per scrivere il libro, quali sono oggi le sue maggiori speranze sull’intelligenza artificiale e quali invece i timori più concreti, dalla perdita di pensiero critico alle conseguenze sul lavoro e sull’informazione? "Uno dei grandi punti di forza dell’AI - e qui parliamo dei modelli e non dei chatbot basati sui modelli stessi - è la capacità di scandagliare quantità sterminate di dati e lavorarci sopra a una velocità e su una scala inaccessibili a un essere umano. Possono prendere strade inattese, motivo per cui si allarma ma anche per cui si festeggia il contributo a risultati straordinari nell'ambito matematico. Il timore è la perdita di pensiero critico che deriva dalla delega sistematica della struttura e del ragionamento. C'è poi il rischio, chiamato "epistemia" dal gruppo di lavoro di Walter Quattrociocchi della Sapienza di Roma, che la forma fluida e plausibile della conoscenza si sostituisca alla verifica della verità e delle fonti”. Donald Trump ha proposto di sostituire l’espressione “Artificial Intelligence” con “Super Intelligence”. Che cosa pensa di questa definizione? Non rischia di rafforzare proprio quell’attribuzione all’IA di capacità quasi umane, o perfino superiori a quelle umane, che il suo libro invita a mettere in discussione? "Il dibattito sul termine intelligenza artificiale è iniziato con la nascita del termine stesso. Anzi, l'anno prima, nel 1955 - ne scrivo nel libro - quando si scontrarono John McCarthy e il matematico Claude Shannon. La parte storica mi ha affascinato da matti. AI è un termine larghissimo e ambizioso, che in parte ha condizionato il modo in cui abbiamo accolto alcune delle principali innovazioni che ne sono derivate. Trump complica la faccenda, mentre ancora ci si sta interrogando su come chiamare e inquadrare le capacità crescenti dei modelli di correlare diversi elementi della realtà, perché fa un salto ulteriore: non solo intelligenza paragonabile alla nostra, anche se artificiale, ma addirittura super. Diciamo che Trump sta super mostrando i muscoli. E sta cercando di super spostare il dibattito da rischi e reali capacità a una indefinita promessa con gli steroidi”. Negli Stati Uniti è sempre più evidente la commistione fra potere politico e vertici delle grandi aziende tecnologiche che stanno sviluppando l’IA. Quanto la preoccupa questa concentrazione di potere economico, tecnologico e politico e chi dovrebbe realmente fissare le regole e i limiti di questi sistemi? "Mi preoccupa nella misura in cui mi sembra che non abbiamo imparato molto dal recente passato con le piattaforme digitali. Nel libro in realtà parto auspicando il contrario. Il recente pranzo di Trump con i big dell'AI è stato un segnale chiaro di chi abbia il pallino in mano e di quali siano le non-regole con cui vuole venga giocata questa partita”.

Cosa vedere:

Come vederlo:

Online con Sky:

Pennisi: “L’IA non è un’amica e non è un terapeuta”

Simone Cosimi