AI, le sfide tra guerra e democrazia: cosa resta dell’essere umano?

Siamo entrati in un’era in cui i robot non sono più una promessa del futuro, ma una realtà del presente: corrono, suonano e apprendono dai propri errori in ambienti simulati. Per millenni, l’essere umano si è definito attraverso la sua capacità esclusiva di progettare, scegliere e pensare. Oggi quella distinzione sfuma di fronte a un concorrente silenzioso ma onnipresente: l’intelligenza artificiale. Nel giro di poco tempo siamo passati dall’AI generativa a sistemi agentici, da chatbot con cui conversare a bot capaci di gettare le basi di una nuova religione o di prendere in giro gli esseri umani troppo lenti e “obsoleti”. E quindi la vera domanda è un’altra: cosa accade quando questa tecnologia “entra in guerra”, diventa motivo di ricatto nei negoziati di un conflitto che non riesce a scrivere la parola fine, oppure produce deepfake delle nostre immagini facendole circolare senza consenso? Al panel dedicato alle sfide dell’AI durante il Live In di Roma, nel suggestivo scenario del Teatro di Villa Torlonia - l’evento che porta Sky TG24 fuori dai propri studi dentro le piazze e città italiane - l’imprenditore Andrea Pezzi e la professoressa di Oxford Maria Rosaria Taddeo hanno tracciato i confini di questa nuova convivenza, interrogandosi su cosa resterà davvero umano in un mondo sempre più automatizzato. La minaccia dei tecnocrati e i vuoti normativi Il dibattito si apre con una riflessione sul potere. Andrea Pezzi mette in guardia contro un’élite di tecnocrati che, accumulando dati e algoritmi, rischia di tagliare fuori l’umanità dai processi decisionali. Non si tratta solo di filosofia, ma di geopolitica ed economia reale. “Avremo cittadini privati molto ricchi e potenti che potranno con un bottone spegnere interi settori industriali”, avverte Pezzi. “È ciò che Elon Musk ha minacciato di fare in Ucraina se Zelensky non si fosse seduto al tavolo con Putin, dicendo ‘ti spengo i satelliti’. Sarà così per tutti i settori strategici se l’Europa e l’Italia non prenderanno un’iniziativa chiara”. Per Pezzi, la sfida non è più rimandabile: la tecnologia sta rendendo le grandi domande del Novecento, chi siamo e dove andiamo, una questione di pura sopravvivenza. AI in guerra: una macchina può decidere sulla vita? Il tema della delega alla macchina diventa pericoloso e drammatico quando si parla di difesa. Maria Rosaria Taddeo, professoressa di etica digitale e tecnologia della difesa a Oxford, affronta il paradosso delle armi autonome. Se una macchina può essere più “efficiente” nel colpire un obiettivo, può essere considerata anche più “etica”? “Una macchina non dovrebbe essere messa nella posizione di decidere sulla vita umana”, afferma in maniera netta la professoressa Taddeo. “Può essere introdotta nel processo decisionale nella misura in cui il controllo umano rimane significativo ed effettivo. Una delle grandi lezioni che abbiamo imparato in Iran è che utilizzare l’intelligenza artificiale a tutta potenza, senza regolamentazione, non è garanzia di vittoria: anzi è un problema che va al di là della sconfitta, creando danni reputazionali e umanitari”. Il rischio, secondo Taddeo, è che la guerra si trasformi in un processo “eterodiretto”, una forma di barbarie automatizzata dove l’efficienza sostituisce la responsabilità morale. Il lavoro e il rischio di un’alienazione 2.0 Mentre l’automazione avanza, cresce il timore che il lavoro - inteso come fonte di senso e, storicamente, ciò che “nobilita l’uomo” - possa progressivamente scomparire. Pezzi, che guida un’azienda di intelligenza artificiale, propone una visione in cui la macchina non sostituisce, ma potenzia il pensiero umano , a patto che esista una responsabilità legale chiara. “Ci deve essere per legge l’obbligo di ricondurre una decisione dell’intelligenza artificiale a un essere umano fisico”, sostiene Pezzi. “Abbiamo le persone giuridiche, le persone fisiche, tra poco ci saranno le persone sintetiche a tutti gli effetti, ma non c’è una normativa che definisce le responsabilità umane nella persona sintetica come avviene nelle persone giuridiche”. Maria Rosaria Taddeo concorda sul rischio esistenziale, soprattutto quando, in ambito lavorativo, si introduce un agente artificiale che prende decisioni al posto dell’essere umano in assenza di una governance adeguata. Taddeo parla del rischio di un nuovo tipo di alienazione 2.0. “Se un medico o un generale devono prendere una decisione e questa decisione è coadiuvata dall’intelligenza artificiale, può accadere che l’AI suggerisca cose diverse da quella che è l’expertise, l’esperienza o l’intuito umano. Se non c’è una governance che permette all’essere umano di scegliere diversamente senza essere esposta a rischi, allora stiamo mettendo l’intelligenza artificiale su un piano ben più alto rispetto a quello umano. E questo crea un problema importante per tutti noi”. Taddeo riconosce che esistono risparmi concreti nell’adozione dell’AI, ma avverte con una leggera ironia: “L’intelligenza artificiale non si spruzza come lo zucchero a velo su un’azienda, ma si adotta solo se c’è una strategia, se si capiscono gli obiettivi, che non possono essere ridotti al semplice ‘efficientiamo i processi’, come inviare 5 mail in 2 minuti invece che in 25 minuti. E una volta capiti gli obiettivi, si ridisegnano i processi con l’essere umano al centro, altrimenti il problema non è tra trent’anni, ma dopodomani”. La fine della verità e il “massaggio all’ego” Infine, l’attenzione si sposta sulla democrazia e sulla percezione della realtà. In un mondo di deepfake e bolle di conferma, la fiducia sociale è ai minimi storici. Le macchine, progettate per essere servizi commerciali “comodi”, finiscono per atrofizzare il nostro pensiero critico. “Quando andavo a scuola si diceva che il cervello è un muscolo: se non lo alleni si atrofizza. Il rischio è proprio questo. Non bisogna dimenticare che questi sono servizi commerciali fatti per farci stare comodi, per massaggiarci l’ego”, spiega Taddeo. “Questo ci disabitua all’uso critico del pensiero, alla capacità di porci domande. Ci disabitua al dubbio e alla relazione con chi la pensa diversamente e favorisce invece una polarizzazione delle opinioni. La zona del grigio, dove si sviluppa la democrazia deliberata, si è sfaldata. E quindi l’impatto non è solo cognitivo, ma anche sociale”. Pezzi rilancia con una distinzione politica nuova: non è più destra contro sinistra, ma “partiti di comunità” contro “partiti di proprietà”. “I partiti di proprietà hanno un enorme problema perché sono facilmente acquisibili da queste dinamiche di falsità, ricatto e corruzione. Le comunità, invece - l’insieme degli esseri umani che si bilanciano tra loro - offrono una resistenza naturale a queste pressioni”. I partiti, quindi, basati sulla collegialità umana, sarebbero gli unici in grado di resistere ai ricatti della falsità digitale. “Quando qualcosa di esterno arriva, contaminando l’informazione, condizionando il leader esposto in quel momento, i partiti di comunità diventano uno spazio possibile per costruire una democrazia capace di attraversare queste innovazioni”. Da qui una proposta di rovesciamento culturale: “Tutti stiamo cercando il leader che risolva i problemi in questo momento, io credo che si debba andare nella direzione opposta: cercare persone capaci di mettere più leader attorno allo stesso tavolo, generando una dinamica virtuosa proprio perché nessuno è isolato al comando. Un modello necessario, viste le condizioni che la tecnologia genera nelle democrazie”. Quale competenza per il futuro? Alla fine di questo viaggio tra persone sintetiche, algoritmi e filosofia, resta una domanda: cosa dovrebbero studiare i giovani di oggi per non essere travolti? Per Andrea Pezzi, la risposta non è tecnica, ma profonda. “La cosa che noi umani dobbiamo allenare di più è il modello interpretativo della realtà. È un apprendimento costante che ha molto a che fare con l’interiorità”. In un mondo dove le macchine sanno fare tutto, l’unica vera competenza rimasta sarà, paradossalmente, quella di saper restare umani.

Cosa vedere:

Come vederlo:

Online con Sky:

AI, le sfide tra guerra e democrazia: cosa resta dell’essere umano?

Beatrice Subissi