Davvero l’IA comporta rischi per l’umanità? La parola ai pessimisti

Se alcuni fra i maggiori scienziati nel loro campo prevedessero l’arrivo sulla Terra, entro poche decine di anni, di una specie aliena, e che ci sia almeno un 5% di possibilità che ciò causi l’estinzione dell’umanità, probabilmente ci sarebbe un po’ di fermento. È verosimile che non ci si limiterebbe a dire: in fondo, c’è ancora tempo. E poi, siamo davvero sicuri che questi alieni arrivino? Si comincerebbe quanto meno a prepararsi; con un una simile posta in gioco, non ci si può concedere nemmeno il minimo margine di incertezza. Stranamente, non è quello che sta accadendo nel campo dell’intelligenza artificiale. Più volte luminari del calibro di Geoffrey Hinton , Yoshua Bengio, Stuart Russell, Eliezer Yudkowsky, i primi due considerati fra i “padri” della disciplina, hanno messo in guardia dai pericoli che la creazione di una “super intelligenza”, una AI dotata di capacità talmente maggiori degli esseri umani da essere imperscrutabile e inarrestabile, potrebbe comportare. Un’eventualità che i recenti progressi nel campo rendono tutt’altro che peregrina, secondo diversi ricercatori, e che potrebbe realizzarsi nel giro di qualche decennio. Il dilemma dell’allineamento Secondo Russell, professore di Computer Science a Berkeley e una delle figure di riferimento nel settore, se si riuscisse a creare una specie di macchine super intelligenti, “sarebbe una catastrofe per la razza umana”. “Il motivo è che il ‘modello standard’ dell'IA prevede che le macchine perseguano un obiettivo fisso specificato dall'uomo. Tuttavia, non siamo in grado di specificare l'obiettivo in modo completo e corretto, né possiamo prevedere o prevenire i danni che le macchine che perseguono un obiettivo errato creeranno operando su scala globale con capacità sovrumane”, spiega. Quello a cui fa riferimento Russell è, in sintesi, quello che viene definito il problema dell’ “allineamento”, ovvero, come far sì che i modelli di IA facciano esattamente quello che vogliamo, e lo facciano in modo tale che il raggiungimento dell’obiettivo non abbia effetti collaterali nefasti per l’uomo. Un classico esempio è il cosiddetto “problema delle graffette”. Immaginiamo un’intelligenza artificiale con un compito apparentemente innocuo: produrre, appunto, graffette. Dotata della capacità di apprendere autonomamente, l’IA sviluppa strategie sempre più efficaci per massimizzare il numero di esemplari prodotti, monopolizzando ogni risorsa esistente senza alcun limite etico o pratico. Nel giro di poco tempo, il mondo si riempie di graffette, mentre altre necessità umane vengono ignorate o compromesse. L’area di ricerca dell’AI Alignment cerca di ovviare a questo problema, assieme a quella dell’Explainable AI, che cerca di migliorare la comprensione dei processi interni tramite cui i modelli giungono alle loro conclusioni. Pare strano ma i parametri in gioco sono talmente tanti, i dataset di partenza così ingenti e le “connessioni neurali” all’interno dei modelli talmente imprevedibili, che i ricercatori hanno solo un’idea di massima di come essi raggiungano i risultati. Ovviamente questo rende piuttosto complesso controllarne l’operato. Soluzione: maggior investimenti Quindi, cosa fare? Una prima, ovvia, contromisura, è investire di più nell’area di ricerca della AI Safety, ovvero in tutto ciò che rende più sicuri e controllabili i sistemi. Al momento c’è una grossa disparità di finanziamento: i fondi per sviluppare modelli di AI sempre più performanti sono dell’ordine dei miliardi di dollari; quelli per l’AI Safety arrivano a decine, forse un centinaio di milioni. Anche i ricercatori che si occupano di questa specifica branca sono relativamente pochi. Per un attimo, è sembrato che questa noncuranza per il destino della nostra specie – condivisa sia da chi non ritiene esista una minaccia così cospicua e immediata che da chi pensa che qualche pericolo ci sia, ma sarebbe troppo complicato, e costoso, fermare il treno in corsa – potesse cambiare: è stato nel marzo 2023, quando è uscita una lettera aperta sottoscritta da 33.000 esperti del settore, fra cui nomi di prestigio, come Elon Musk, Bengio, Russell, il co-fondatore di Apple Steve Wozniak, Yuval Noah Harari e altri, che chiedevano una moratoria di sei mesi nello sviluppo di sistemi di IA. Secondo i firmatari “l'intelligenza artificiale avanzata potrebbe rappresentare un cambiamento profondo nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con attenzione e risorse adeguate. Purtroppo, questo livello di pianificazione e gestione non sta avvenendo”. Dopo l’uscita della lettera, grazie alla visibilità dei proponenti, il tema è stato per qualche mese al centro dei riflettori, e per qualche tempo si è prestato orecchio alle preoccupazioni dei cosiddetti “doomers”. Questi ultimi non sono stati però in grado di trasformare l’attenzione dei media in provvedimenti concreti. Le posizioni più radicali Provvedimenti che in ogni caso, secondo i più radicali fra loro, non avrebbero potuto limitarsi a qualche mese di pausa. Secondo Elizier Yudkowsky, uno dei ricercatori più critici, bisognerebbe “spegnere tutti i grandi cluster di GPU . Chiudere tutti i grandi cicli di addestramento. Stabilire un limite massimo alla potenza di calcolo che chiunque può utilizzare per addestrare un sistema di AI, e ridurlo negli anni a venire per compensare l’aumentata efficienza degli algoritmi di addestramento. Senza eccezioni per governi e forze armate”. Nel casi più estremi, per Yudkowsky bisognerebbe prepararsi a bombardare i “data center” che ospitano i processi di calcolo di una AI fuori controllo. E no, non basterebbe “staccare la spina”. Se non altro perché una IA dotata di intelligenza sovraumana avrebbe senz’altro previsto l’eventualità e si sarebbe preparata ad essa, per esempio “clonandosi” in un’infinità di server sparsi per il mondo.

Cosa vedere:

Come vederlo:

Online con Sky:

Davvero l’IA comporta rischi per l’umanità? La parola ai pessimisti