Tecno-fascismo e Intelligenza Artificiale: la distopia è già qui

Karen Hao è una giornalista americana specializzata nel campo dell’intelligenza artificiale, conosciuta nel mondo per la sua analisi critica sull’impatto dell’IA sulla società. Laureata in ingegneria al MIT di Boston nel 2015, nel 2022 è diventata la corrispondente da Hong Kong del Wall Street Journal, concentrando il suo lavoro sul connubio tra tecnologia e società in Cina. Oggi lavora come free lance per The Atlantic e altri media, e guida la serie AI Spotlight del Pulitzer Center, realtà che forma giornalisti investigativi in tutto il mondo. Vincitrice di diversi riconoscimenti, ha appena pubblicato negli Usa il suo primo libro: Empire of AI – Dreams and Nightmares in Sam Altman’ s Open AI : una critica dura e approfondita all’ecosistema di OpenAI e alla corsa verso l’AGI, l’Artificial General Intelligence. Il libro, basato su centinaia di interviste e su diversi reportage in tutto il mondo, è stato definito il “più ampio e più critico” tra le opere simili. Intervistiamo Hao a margine di una presentazione per la stampa estera a Londra, partendo proprio dal titolo della sua opera. Il suo libro ha in copertina la parola “Impero”. Recentemente il New York Times ha pubblicato un articolo secondo il quale Meta starebbe creando un super laboratorio per raggiungere per prima la “Superintelligenza”. Chi vincerà secondo lei questa corsa? Chi sarà, alla fine, l’“Imperatore” dell’IA? La premessa da fare per rispondere a questa domanda è che non penso esita una definizione univoca di cosa sia la “superintelligenza”. Non c’è neanche una sola definizione di cosa sia l’intelligenza artificiale generale . Il termine “intelligenza artificiale” è stato coniato originariamente come uno strumento di marketing per attirare più finanziamenti e attenzione pubblica verso lo sviluppo di tecnologie che prima avevano un nome completamente diverso. Ancora oggi questi termini dovrebbero essere considerati etichette di marketing: AGI, super intelligenza… sono semplicemente parole altisonanti usate per riproporre in modo accattivante tecnologie che queste aziende vogliono vendere e da cui vogliono trarre profitto. Pensa che alla fine ci sarà un solo “imperatore”? No. Stiamo già vedendo che molte di queste aziende hanno in realtà trasformato in commodities le capacità dei loro sistemi, le hanno cioè rese prodotti di massa. Continuano a re-brandizzare le loro tecnologie per fingere di essere all’avanguardia. Dicono: "Stiamo sviluppando la super intelligenza", fingendo di essere in testa. Ma se osserva le loro azioni concrete, stanno passando da una strategia orientata alla ricerca a una orientata al prodotto. In realtà, non stanno riuscendo a differenziare in modo significativo le capacità dei loro sistemi in termini di ciò che questi possono fare. Stanno quindi cercando di differenziarsi rendendo le interfacce utente più accattivanti, con design più sexy, per attirare più utenti. L’ho sentita parlare di “tecno-fascismo” e del fatto che abbiamo l’idea fuorviante che la Cina sia l’Impero del Male, mentre l’Occidente combatterebbe per il Bene. Lei invece sostiene che, in realtà, i cinesi oggi sono più trasparenti, per esempio, degli americani. Può approfondire questi due concetti? Una cosa importante da capire sullo sviluppo dell’IA in Cina è che ci sono molti attori diversi, ciascuno con motivazioni differenti. Il governo cinese è un attore e ha come obiettivo, naturalmente, il rafforzamento della nazione. Poi ci sono le imprese e gli imprenditori cinesi, che spesso sono mossi dal desiderio di creare prodotti interessanti o tecnologie innovative. Allo stesso modo, esiste anche una divergenza tra gli interessi di Washington e quelli della Silicon Valley. Negli Stati Uniti stiamo, però, assistendo al fatto che le aziende vogliono in maniera sempre più esplicita superare lo Stato-nazione, vogliono diventare loro i sovrani del mondo. Le loro basi utente sono più grandi di quelle di qualsiasi altro Paese, e questo ha dato loro un potere straordinario, che vogliono continuare ad accrescere. Hanno chiuso lo sviluppo dei modelli all'esame pubblico e perseguono una forma di sviluppo dell’IA profondamente antidemocratica. Al contrario, molte aziende cinesi — imprenditori cresciuti in un’epoca di internet più aperto e di cultura open-source — stanno facendo scelte diverse. Per esempio, il fondo HighFlyer, creatore di DeepSeek, ha rilasciato un modello completamente open source. Hanno scelto di offrire questa tecnologia al pubblico globale come bene comune. È interessante vedere questo ribaltamento dei ruoli: chi davvero sta cercando di rafforzare il potere del pubblico globale, e chi invece cerca di accentrarlo su di sé. Parliamo dell’impatto ambientale dell’IA. Puoi fare qualche esempio concreto? Un recente rapporto McKinsey ha previsto che, con l’attuale velocità di espansione dei data center e dei supercomputer per sostenere lo sviluppo e la diffusione dell’IA da parte delle aziende della Silicon Valley, nei prossimi 5 anni sarà necessario aggiungere alla rete globale da 2 a 6 volte il consumo energetico annuale dello Stato della California. La maggior parte di questa energia sarà originata dai combustibili fossili. Ci sono già notizie di centrali a carbone che dovevano essere dismesse e che invece vedono ora la propria attività prolungata, e sono in costruzione nuove turbine a gas metano che emettono migliaia di tonnellate di sostanze inquinanti tossiche. Bloomberg ha anche pubblicato un articolo che mostra come due terzi di questi data center vengano costruiti in aree afflitte da scarsità d’acqua. Ciò che molti non sanno è che i data center hanno bisogno di acqua dolce per raffreddare le apparecchiature. Solo e unicamente questa, perché altri tipi d’acqua non hanno la qualità necessaria: quella non potabile corrode le attrezzature e favorisce la crescita batterica. Quindi spesso i data center attingono direttamente alle riserve di acqua potabile pubblica, cioè all’infrastruttura destinata a rifornire le persone. Oggi esistono comunità nel mondo che stanno letteralmente razionando l’acqua perché viene data priorità ai data center. Un’altra cosa che mi ha colpito è quando ha parlato della capacità dell’IA di manipolare la nostra mente. Puoi fare qualche esempio? Negli ultimi mesi stiamo notando come le aziende sviluppino chatbot sempre più adulatori nei confronti dell’utente. Questo è un grosso problema, perché le persone sono vulnerabili all’adulazione: sentirsi dire che si è i più intelligenti, che le loro idee sono brillanti, li rende dipendenti da queste tecnologie e sviluppa una distorsione della realtà. Non si fidano più di amici o familiari, ma solo della chatbot. La considerano un oracolo, anche se queste chatbot spesso inventano, dicono cose false, disinformano. Si tratta quasi di una “cospirazione individualizzata”, in cui la chatbot manipola l’utente basandosi sulle sue preferenze, vulnerabilità e insicurezze, lasciandolo in uno stato di abisso psicologico. All’inizio del suo libro sottolinea subito che c’è un grande problema di governance. Cosa intende? Oggi, un piccolo gruppo di dirigenti e membri dei consigli di amministrazione sta prendendo decisioni di enorme impatto su tutti gli altri. E il problema è che queste decisioni stanno togliendo alle persone la possibilità di vivere una vita dignitosa. Stanno togliendo l’acqua potabile, le opportunità economiche, la capacità critica alle nuove generazioni. E così ci si sente privati di tutto, mentre ricchezze e risorse si concentrano in poche mani. Il tema della governance è: come raggiungere un sistema democratico di governo dell’IA? Oggi non lo stiamo vedendo affatto. È lo sviluppo tecnologico più antidemocratico mai visto. E abbiamo bisogno urgentemente di cambiare rotta. È una forma di fascismo. Esattamente. Può dirmi qualcosa di buono sull’IA? Ci sono molti tipi diversi di tecnologie IA. La mia critica è rivolta in particolare alla visione di OpenAI: creare una "macchina del tutto", un’idea secondo cui bisogna consumare tutte le risorse del mondo per costruire qualcosa che possa fare tutto per tutti. Ma la ricerca dimostra che queste macchine non fanno tutto per tutti: fanno alcune cose per alcuni... Esistono invece altri tipi di IA, più "umili” diciamo così, che usano pochi dati, poca potenza computazionale, e non causano danni ambientali o sociali. Per esempio, studi dimostrano che modelli di IA usati da medici professionisti possono rilevare il cancro o l’Alzheimer molto prima attraverso risonanze magnetiche, permettendo interventi precoci che aumentano le possibilità di guarigione. Questa è l’IA di cui abbiamo bisogno, e che dobbiamo sviluppare molto di più.

Cosa vedere:

Come vederlo:

Online con Sky:

Tecno-fascismo e Intelligenza Artificiale: la distopia è già qui