Se l’IA entra in biblioteca per censurare i libri

Lo scrittore americano Fritz Leiber, nel 1961, immaginò un mondo in cui i robot scrivevano i libri. Nel futuro distopico de “Le argentee teste d’uovo” una macchina bigotta, Miss Blushes, era incaricata di controllare i testi, programmata appositamente per la censura. Sessant’anni dopo, il romanzo di Leiber sembra, per molti aspetti, un’inquietante profezia di quello che potrebbe essere il futuro prossimo e che è, in parte, già il presente. A Salford, nel Regno Unito, la scuola secondaria Lowry Academy ha avviato un processo interno di verifica del catalogo della biblioteca, che ha portato alla rimozione, o alla ricollocazione per fascia di età, di 200 titoli, giudicati non idonei. L’audit, così è stato definito dall’istituto, è stato messo a punto con l’aiuto di strumenti di intelligenza artificiale. Così nella lista sono finiti l’autobiografia di Michelle Obama “Becoming” e “Il codice Da Vinci” di Dan Brown, solo per citare due esempi. Anche le graphic novel sono state targettizzate e una versione fumetto di “1984” non ha passato il vaglio. Per non parlare di Twilight, un cult del genere young adult, di Stephenie Meyer considerato troppo spinto dal punto di vista “romantico”. L’IA è servita a classificare i contenuti dei libri, anche se non è stato spiegato chiaramente il modo in cui è stata impiegata. Pare, però, che i criteri seguiti siano stati, ad esempio, la presenza di temi politici o di riferimenti sessuali e l’esclusione dei libri non scritti per l’infanzia. Uno standard, quest’ultimo, che fa sgranare gli occhi, visto che potrebbero rientrare in questa categoria capisaldi come “Frankenstein” di Mary Shelley e “Il buio oltre la siepe” di Harper Lee. Colpisce inoltre che la vicenda abbia varcato le mura dell’istituto e abbia visto intervenire le autorità locali: la bibliotecaria, accusata di aver esposto i minori a testi inopportuni e di aver messo sugli scaffali materiali inappropriati, è stata costretta alle dimissioni. Se conosciamo questa storia è grazie alla testimonianza della diretta interessata che ha contattato a gennaio il portale Index on Censorship per denunciare l’accaduto, ma il caso britannico apre interrogativi: siamo di fronte a un episodio o a un fenomeno più diffuso di censura applicata attraverso l’utilizzo acritico dell’intelligenza artificiale? Oltreoceano, come abbiamo già raccontato su Sky Insider, è in corso ormai dal 2021 un’offensiva portata avanti da gruppi conservatori con decine di migliaia di libri, spesso grandi classici della letteratura, banditi da molte biblioteche scolastiche sparse in tutti gli States. Il ritorno di Trump alla Casa Bianca ha dato un ulteriore impulso a questi sistematici “book ban” che colpiscono soprattutto storie LGBTQIA+ e testi di denuncia delle discriminazioni razziali. Quello che però sta emergendo, e che un’inchiesta di 404 Media ha rivelato, è che adesso il più grande alleato dell’ultradestra americana è proprio l’intelligenza artificiale. Era già arrivata notizia nel 2023 di un distretto scolastico dello Utah che aveva utilizzato ChatGPT per mettere all’indice alcuni titoli e, sì, anche “Beloved” di Toni Morrison. Negli ultimi tempi, però, si è fatto un ulteriore salto. L'obiettivo è quello di utilizzare la tecnologia per incentivare la produzione di recensioni negative sui libri nel mirino. È il caso di BLOCKADE, che sta per "Blocking Lustful Overzealous Content, Keeping Away Depravity and Extremism". Questo software disponibile su Github si basa - come spiega 404 Media - sulle chiavi API di xAI o OpenAI per generare recensioni di libri a partire da file formato PDF o in versione ePUB. Lo script del programma include un elenco di circa 300 parole, a ciascuna delle quali è assegnato un punteggio di gravità. La somma finale è un voto di “appropriatezza” basato su metriche specifiche. Alla fine del processo, viene redatta dal sistema una scheda che stabilisce se un testo è “offensivo per i valori conservatori”. La scheda-verdetto può essere facilmente inviata alla biblioteca scolastica con la richiesta di ritirare un determinato titolo, accelerando i tempi e massimizzando i risultati. Mentre il mondo si preoccupa dei libri scritti con l’aiuto dei chatbot e dell’originalità delle opere, non dovremmo forse tormentarci di più per l'utilizzo strumentale e sempre meno episodico di Large Language Model, incapaci di comprendere contesto e sfumature, eppure elevati a nuove guide supreme della letteratura per l’infanzia? Se è vero che nei casi segnalati all’IA non è stata delegata la decisione finale, preoccupa l’impiego come setaccio di queste tecnologie imperfette e fallibili. È potenzialmente a rischio un’intera categoria professionale, quella dei bibliotecari che da custodi del sapere potrebbero finire per diventare esecutori di controverse e, spesso, ideologiche deliberazioni algoritmiche.

Cosa vedere:

Come vederlo:

Online con Sky:

Se l’IA entra in biblioteca per censurare i libri

Ludovica Passeri