Algoritmi di guerra, così l'AI accelera i conflitti

Mentre è in corso la 79ª sessione dell'Assemblea generale delle Nazioni Unite, si intensificano gli attacchi al Libano da parte di Israele: quanti dei target sono stati identificati con l’intelligenza artificiale? Può essere una domanda lecita, dopo che sono emerse prove del fatto che l’AI venga utilizzata per assistere l’esercito in tutto, dall'identificazione dei bersagli alla priorità degli obiettivi da colpire, fino all'assegnazione delle armi da utilizzare contro quegli stessi obiettivi. Già nel 2019 un documento dell’Onu metteva in guardia sulla militarizzazione dell’intelligenza artificiale, soprattutto nell’impiego di sistemi d'arma letali autonomi. Che i computer possano rendere più efficiente la guerra, è un tema che era emerso anche dalla campagna Stop Killer Robots, una coalizione globale composta da oltre 180 organizzazioni per chiedere l'introduzione di nuove norme internazionali per garantire il mantenimento di un significativo controllo umano sull'uso della forza. Il report della campagna, a cura dell’associazione Infonodes, riporta che la prima testimonianza certa dell’utilizzo di un sistema bellico guidato dall’intelligenza artificiale risale al 27 marzo 2020, in Libia, durante l’operazione Peace Storm. Le forze legate al generale Haftar furono attaccate da uno sciame di droni lanciato dall’esercito fedele all’allora primo ministro al-Sarraj. Rispetto ai droni utilizzati già da tempo negli scenari di guerra, gli STM Kargu-2 forniti al governo di Tripoli dalla Turchia avevano però una caratteristica cruciale: si tratta di strumenti autonomi, non richiedono cioè che un operatore umano li piloti da remoto e decida quando e se fare fuoco. Automatizzare la guerra Oggi l’uso delle AI è documentato nel conflitto di Gaza e in Ucraina, ma anche in Yemen, Iraq e Siria, dove gli Stati Uniti stanno sperimentando l'uso di algoritmi per colpire potenziali terroristi attraverso il Project Maven, un'iniziativa del Pentagono del 2017 per sfruttare l'intelligenza artificiale e il machine learning nell’analisi e interpretazione dei dati provenienti da video di droni e altre fonti di sorveglianza. Un’indagine dei media Local Call e +972 Magazine ha rivelato poi l’esistenza di tre sistemi decisionali automatizzati usati a Gaza da parte di Israele, dai nomi in codice "Gospel", "Lavender" e "Where’s Daddy?". Questi sistemi sono stati progettati per riconoscere caratteristiche considerate indicative di un'affiliazione con il braccio militare di Hamas. Tra gli elementi monitorati ci sono l'appartenenza a un gruppo WhatsApp con un militante noto, il cambio frequente di cellulare o di indirizzo. I funzionari dell’intelligence interpellati dalle due testate avrebbero spiegato come “grazie all’AI si è potuti passare da 50 obiettivi all’anno a 100 obiettivi in un solo giorno”. Ad un certo punto il sistema di Lavender aveva identificato fino a "37.000 persone come potenziali bersagli", riducendo drasticamente i tempi di decisione, perché nessuno valutava il margine di errore possibile . E se le intelligenze artificiali, i dati e gli algoritmi sono oggi usati come strumento oggettivo, di precisione, per portare avanti un’operazione militare, anche la produzione di immagini, video e audio tramite le cosiddette AI generative - i contenuti “sintetici” o deep fake - è una minaccia alla pace. Secondo un recente rapporto dell'organizzazione Witness, i deep fake possono essere utilizzati per minare la fiducia tra le parti in conflitto, alterando o fabbricando prove e dichiarazioni. Il report evidenzia come questo tipo di contenuti creati artificialmente non solo possano falsificare comunicazioni critiche durante i negoziati, ma anche essere usati per alimentare il cosiddetto “liar’s dividend”, perché chi è realmente coinvolto in atti compromettenti può dichiarare che qualsiasi prova è un deep fake, sfruttando il dubbio generale sull’autenticità dei media digitali. Un altro fenomeno è la plausible deniability, la possibilità di negare responsabilità o coinvolgimento in un evento grazie all’incertezza creata da prove ambigue o false. Le persone possono affermare che i media falsi non possono essere verificati, quindi negano qualsiasi accusa. Tra i casi documentati da Witness ci sono le manipolazioni delle comunicazioni ufficiali, come discorsi falsificati di leader che incitano alla violenza, e che possono alimentare disinformazione, creare caos, panico e spingere una parte a interrompere le trattative. In Sudan, per esempio, durante la guerra civile, sono stati diffusi quattro clip audio sintetici che imitavano la voce del leader della Rapid Support Force, Mohamed Hamdan Dagalo, con lo scopo di diffondere disinformazione sulla sua presunta morte. AI come acceleratore di conflitti Selezionare più rapidamente i bersagli senza preoccuparsi dell'accuratezza, eliminare il controllo umano, produrre contenuti non verificati: l'IA, invece di favorire la risoluzione dei conflitti, sembra al momento accelerarli, aumentando il rischio di vittime civili. Lo scorso aprile, il segretario generale dell'ONU António Guterres aveva espresso una forte opposizione all'uso di sistemi d'arma autonomi e agli algoritmi nei conflitti, sottolineando la necessità di regolamentazioni internazionali per prevenire tragedie umanitarie e proteggere i diritti fondamentali. Riuscirà a riportare questo tema al centro del dibattito durante la prossima Assemblea Generale? Sarebbe indispensabile.