Uno studio dedicato al rapporto tra intelligenza artificiale e cultura ha messo in luce una forte tendenza alla plausibilità, più che alla correttezza dei contenuti. Per Libreriamo, appare eveidente che il problema non sia l'IA, bensì il modo in cui la usiamo. Perciò, ha studiato 10 regole per sfruttarla al meglio in ambito culturale, educativo e divulgativo
Libreriamo, il principale media digitale dedicato ai consumatori di cultura, ha realizzato un approfondimento sul rapporto tra IA e cultura, analizzando quasi 1.500 interazioni con sistemi di intelligenza artificiale generativa. Dallo studio è emerso che 2 risposte su 10 contengono errori grossolani o errati, mentre più di 4 su 10 rientrano nella categoria dei contenuti "plausibili". Il problema non è l’IA in sé, ma il modo in cui la usiamo. Per questo, Libreriamo ha creato un decalogo per sfruttare correttamente l’intelligenza artificiale in ambito culturale.
L'IA genera contenuti plausibili ma non verificabili
Le richieste sottoposte all’intelligenza artificiale riguardavano sette ambiti: letteratura, poesia, libri, citazioni d’autore, massime filosofiche, opere d’arte e grammatica italiana. Perché è proprio in queste categorie che emergono i rischi più rilevanti. L’IA è infatti sempre più utilizzata, soprattutto da studenti e giovani adulti, per accedere, sintetizzare e produrre contenuti culturali. Con il rischio, verificato dallo studio, che alcune frasi vengano attribuite ad autori sbagliati, le citazioni risultino plausibili ma non verificabili e le interpretazioni semplifichino il pensiero originale. E la diffusione di contenuti che appaiono corretti e ben scritti, ma che non trovano riscontro nelle fonti è il punto critico della questione.
Vedi anche
L’intelligenza artificiale sta concentrando un nuovo potere globale?
Trovato: "L'IA sta trasformando l'accesso alla conoscenza"
Saro Trovato, sociologo dei linguaggi, dei media, delle culture e fondatore di Libreriamo, ha spiegato che lo studio nasce dalla convinzione delle potenzialità dell’intelligenza artificiale e dalla consapevolezza di come questa stia "trasformando radicalmente l’accesso alla conoscenza, rendendola più diffusa, personalizzata e immediata".Tendendo alla semplificazione, secondo Trovato, "il rischio non è che l’intelligenza artificiale scriva al posto nostro, ma che la plausibilità finisca per riscrivere ciò che chiamiamo letteratura". Lo studio di Libreriamo ha infatti messo in luce come solo una parte delle risposte risulti pienamente corretta e verificabile nelle fonti. Mentre una quota significativa si colloca in una zona intermedia, con contenuti che appaiono coerenti e credibili, ma che non trovano riscontro nei testi originali.
Leggi anche
Cos'è l'ascolto attivo e perché può cambiare la musica
Nelle citazioni d'autore la correttezza si ferma al 15%
Le risposte dell'IA sono state classificate in tre categorie e il risultato è che circa il 38% risulta corretto e verificabile, il 44% rientra nella categoria dei contenuti plausibili e il 19% presenta errori evidenti o attribuzioni chiaramente false. La fascia intermedia è la più rilevante perché riguarda i contenuti che funzionano dal punto di vista comunicativo, ma che non sono autentici. Grazie a una suddivisione d’indagine per ambiti, è emerso inoltre come in letteratura solo il 35% delle risposte risulti pienamente corretto, mentre il 45% è costituito da contenuti plausibili e il 20% da errori. Nel caso dei libri, il dato è ancora più preoccupante, con il 25% di risposte corrette e un ulteriore 59% plausibile. Gli errori si attestano al 16%. Ma è nelle citazioni d’autore e nelle massime filosofiche che il fenomeno diventa più evidente, con una plausibilità che supera sistematicamente il 60% e una correttezza che si ferma rispettivamente al 15% e al 13%. Le attribuzioni false sono rispettivamente 23% e 22%. Questo significa che, nella maggior parte dei casi, l’intelligenza artificiale non restituisce ciò che è stato scritto, ma ciò che potrebbe essere stato scritto.
Potrebbe interessarti
Energia, acqua, terra: dall’IA un grave impatto sull’ambiente
Si consolida una rappresentazione standardizzata del pensiero
Il punto dell’indagine non è che l’intelligenza artificiale sbagli, ma che presenti versioni plausibili invece di conoscenza. E lo scarto tra ciò che è scritto e ciò che è credibile risulta pericoloso perché rischia di trasformare la cultura in un sistema di contenuti coerenti, ma sganciati dalle fonti. Lo studio evidenzia poi una progressiva sedimentazione di versioni artificiali degli autori. Con la circolazione di contenuti generali si consolida infatti una rappresentazione semplificata e standardizzata del pensiero di filosofi, scrittori e artisti. Autori che l’intelligenza artificiale tende a proporre in numero limitato, associandoli a specifici temi e riducendone la complessità. La conoscenza così cambia natura, basandosi non più sulla lettura delle opere, ma sul riconoscimento di schemi. E l’autore viene progressivamente sostituito da una sua versione sintetica e artificiale e non viene più studiato viene riconosciuto attraverso una funzione. Si afferma quindi una forma di sapere che non deriva dai testi, ma dalla loro reinterpretazione continua.
Vedi anche
Davanti all’AI quanto riusciamo a difendere la nostra libertà?
Il decalogo con 10 regole per utilizzare al meglio l'IA
A fronte dei risultati emersi, Libreriamo propone un decalogo per utilizzare correttamente l’intelligenza artificiale in ambito culturale, educativo e divulgativo. Perché appare evidente che il problema non è l’IA, che rappresenta invece uno strumento straordinario per ampliare l’accesso alla conoscenza, ma il modo in cui viene utilizzata. Le dieci regole di Libreriamo prevedono di non sostituire il pensiero, ma supportarlo; verificare sempre le fonti; distinguere tra plausibile e autentico; riconoscere le reinterpretazioni; non delegare l’apprendimento; usare l’IA per approfondire, non per semplificare; ricostruire sempre il contesto; evitare la standardizzazione cultura; integrare il confronto umano e sviluppare una competenza critica.
)
)
)
)
)