Esplora tutte le offerte Sky

Santa Sede: "L'IA un'opportunità ma l'uomo può diventare schiavo delle macchine"

Mondo
©IPA/Fotogramma
I titoli di Sky Tg24 del 28 gennaio, edizione delle 8
NEWS
I titoli di Sky Tg24 del 28 gennaio, edizione delle 8
00:01:38 min

Le fake news, l'utilizzo dell'intelligenza artificiale in ambiti di guerra ma non solo. In 117 paragrafi totali, sono stati diffusi i moniti del Papa sull'utilizzo dell’IA di questi ultimi anni all'interno dell’”Antiqua et Nova”, documento nel quale il Pontefice ha sottolineato sfide e opportunità dello sviluppo dell’IA nei campi di educazione, economia, lavoro, sanità, relazioni internazionali e interpersonali, sottolineando anche le possibili criticità

PlayCreated with Sketch.
ascolta articolo

Dopo il caso della start-up cinese DeepSeek che ha scosso il mondo dell’intelligenza artificiale, tanto da far vacillare le certezze delle grandi aziende negli Stati Uniti e delle Borse, è arrivato il commento sul tema anche della Santa Sede. In particolare, i moniti del Papa sull'utilizzo dell’IA di questi ultimi anni rientrano nell’”Antiqua et Nova”, la nota sul rapporto tra intelligenza artificiale e umana frutto della mutua riflessione tra Dicastero per la Dottrina della Fede e Dicastero per la Cultura e l'Educazione.

Le raccomandazioni

"Fuorviante", sottolinea la Santa Sede è usare la parola stessa "intelligenza" in riferimento all'IA: non è "una forma artificiale dell'intelligenza", ma "uno dei suoi prodotti".  "La presunzione di sostituire Dio con un'opera delle proprie mani è idolatria", si legge nella nota che cita le Sacre Scritture per mettere in guardia dal fatto che l'IA può risultare "più seducente rispetto agli idoli tradizionali". E viene ricordato pertanto che essa non è altro che "un pallido riflesso" dell'umanità. "Non è l'IA a essere divinizzata e adorata, ma l'essere umano, per diventare, in questo modo, schiavo della propria stessa opera". Da qui, una raccomandazione: "L'IA dovrebbe essere utilizzata solo come uno strumento complementare all'intelligenza umana e non sostituire la sua ricchezza". E come ogni prodotto dell'ingegno umano, anche l'IA può essere diretta verso "fini positivi o negativi". 

L’IA e i contesti di guerra

Nel dettaglio è stato spiegato ancora come l’IA non debba esser considerata come una persona e nemmeno “divinizzata”. Inoltre, “non deve sostituire le relazioni umane, ma deve essere utilizzata solo come strumento complementare all'intelligenza umana". Questo, in sostanza, il nucleo del documento rivolto a genitori, insegnanti, preti, vescovi e tutti coloro che sono chiamati a educare e trasmettere la fede, ma anche a coloro che condividono l'esigenza di uno sviluppo scientifico e tecnologico "al servizio della persona e del bene comune". In 117 paragrafi totali, il Papa ha dunque sottolineato sfide e opportunità dello sviluppo dell’IA nei campi di educazione, economia, lavoro, sanità, relazioni internazionali e interpersonali, oltre che in contesti di guerra. Proprio in quest’ambito, ad esempio, le potenzialità dell'IA possono avere modo di accrescere le risorse belliche "ben oltre la portata del controllo umano", accelerando di fatto "una corsa destabilizzante agli armamenti con conseguenze devastanti per i diritti umani". Nella nota, si legge, le "capacità analitiche" dell'IA potrebbero essere impiegate per aiutare le nazioni a ricercare pace e sicurezza, ma "grave motivo di preoccupazione etica" sono i sistemi di armi autonome e letali, in grado di "identificare e colpire obiettivi senza intervento umano diretto". Le macchine in grado di uccidere con precisione in modo autonomo e altre capaci di distruzione di massa sono una minaccia vera e propria per "la sopravvivenza dell'umanità o di intere regioni". Queste tecnologie "danno alla guerra un potere distruttivo incontrollabile, che colpisce molti civili innocenti, senza risparmiare nemmeno i bambini", denuncia Antiqua et Nova.

La preoccupazione per “l’uso intenzionale nella manipolazione delle fake news”

Il documento elenca poi i pericoli dell'IA ma anche i progressi, che anzi vuole incoraggiare. La preoccupazione, è emerso, è data da tutte le innovazioni i cui effetti sono ancora imprevedibili, anche per ciò che al momento appare innocuo come la generazione di testi e immagini. Ma esiste anche "un serio rischio che l'IA generi contenuti manipolati e informazioni false", le cosiddette “fake news”, così da alimentare una "allucinazione" da IA, con contenuti non veritieri che sembrano reali. "Le conseguenze di tali aberrazioni e false informazioni possono essere assai gravi", viene ancora sottolineato. E risulta "ancora più preoccupante" un "suo uso intenzionale a fini di manipolazione", come immagini, video e audio deepfake "per ingannare o danneggiare". L'appello, contenuto nel documento, è quindi ad avere sempre "cura di controllare la veridicità" di quanto divulgato e a evitare, in ogni caso, "la condivisione di parole e immagini degradanti per l'essere umano", escludendo "ciò che alimenta l'odio e l'intolleranza, svilisce la bellezza e l’intimità della sessualità umana, sfrutta i deboli e gli indifesi".

Approfondimento

IA, perché il chatbot di DeepSeek ha scosso i colossi Usa e la Borsa

Mondo: I più letti