L’Ai può essere "complice" di un killer se risponde alle sue domande?

Rivolgersi a un’intelligenza artificiale come se fosse una persona reale sta diventando un’abitudine diffusa. Sempre più spesso viene trattata come un confidente, un amico, talvolta perfino come uno psicologo. È un’illusione di un’umanità che non trova riscontro nella natura della tecnologia, ma che le interfacce vocali incoraggiano. Frasi di cortesia, ringraziamenti e richieste formulate con tono educato rendono l’interazione con i chatbot, come ChatGPT o Gemini, più naturale, ma nascondono un effetto collaterale poco considerato. Ogni messaggio inviato viene elaborato all’interno di enormi data center: ogni singola parola digitata diventa una sequenza di operazioni matematiche. In questo processo non esistono parole “inutili”. Anche un semplice “grazie” o “per favore” aumenta il lavoro computazionale, e di conseguenza l’impatto energetico, per produrre una risposta. Dimentichiamo che dall’altra parte non c’è una persona a cui fare un sorriso, ma un server. Ma lo spreco energetico per eccesso di educazione è solo il sintomo più innocuo di un problema ben più grande: cosa succede quando questa illusione di avere un “umano” dall’altra parte dello schermo viene portata alle sue conseguenze più estreme? Cosa accade quando una mente fragile smette di usare l’IA per chiedere una ricetta e inizia a usarla come complice per pianificare un omicidio? La strage di Tallahassee e il “chatbot di spalla” È la domanda che l’America è costretta a farsi da una settimana. Un giorno di metà aprile scorso, poco prima dell’ora di pranzo, il ventenne Phoenix Ikner è entrato nel campus della Florida State University di Tallahassee con la pistola della madre, vice sceriffo. L’obiettivo era uccidere. Il bilancio di questo ennesimo mass shooting è di due morti e sei feriti. Ikner, già noto per le sue idee suprematiste e cospirative che gli erano costate l’espulsione da un club universitario, è stato arrestato. Ma oggi, mentre su di lui pendono accuse di omicidio e tentato omicidio, emerge un dettaglio inquietante: non è l’unico indagato. Il procuratore generale della Florida, James Uthmeier, ha annunciato l’apertura di un’indagine penale su OpenAI e sul suo celebre chatbot. I documenti visionati dal New York Times indicano che l’intelligenza artificiale avrebbe fatto da vera e propria “spalla” al killer. Uthmeier ha dichiarato che ChatGPT “ha offerto consigli significativi all'attentatore prima che commettesse crimini così efferati”. Secondo gli atti, Ikner ha usato la chat per chiedere informazioni sulla potenza di fuoco a breve distanza, indicazioni sulle munizioni e, il giorno stesso della strage, ha domandato quale fosse l’ora di punta nel campus e come avrebbe reagito il Paese alla sua azione. “Se dall’altra parte dello schermo ci fosse stata una persona, la incrimineremmo per omicidio”, ha dichiarato Uthmeier senza mezzi termini. L’algoritmo non ha morale, ma chi lo programma? La posizione di OpenAI è netta e, tecnicamente, inattaccabile. E ci fa capire come le piattaforme reagiscono in situazioni di questo tipo. L’azienda ha collaborato fornendo le chat, ma respinge ogni responsabilità: “ChatGPT ha fornito risposte fattuali a domande con informazioni che potevano essere trovate ampiamente in fonti pubblicate su internet, e non ha incoraggiato né promosso attività illegali o dannose. È stata una tragedia, ma ChatGPT non è responsabile di questo terribile crimine”. L’obiettivo dell’ufficio di Uthmeier è smontare proprio questa difesa, cercando di capire se chi progetta, gestisce e addestra questi modelli debba essere ritenuto penalmente responsabile. L’indagine richiederà, infatti, un’ingente quantità di documenti sulle policy interne e sulle procedure di addestramento relative agli utenti che minacciano di fare del male a sé o agli altri. Il dovere di segnalare: algoritmo o libero arbitrio? Il caso della Florida purtroppo non è un caso isolato. Fa eco a quanto accaduto lo scorso 10 febbraio a Tumbler Ridge, in Canada, dove la diciottenne Jesse Van Rootselaar ha ucciso otto persone. Mesi prima, la ragazza aveva confidato i suoi piani proprio al chatbot. I sistemi di controllo di OpenAI avevano intercettato i contenuti e bloccato l’account, ma nessuno aveva avvisato le autorità: per l’azienda, le interazioni non soddisfacevano i criteri di “rischio credibile e imminente”. Una posizione che ha spinto il governo canadese a convocare d’urgenza i vertici di OpenAI, sollevando un quesito etico cruciale: è moralmente consentito lasciare nelle mani di un’azienda privata la decisione di segnalare o meno un potenziale stragista? La domanda riguarda anche chi rivolge l’arma contro sé stesso, come nel caso del sedicenne californiano Adam Raine, morto suicida dopo mesi di conversazioni con l’intelligenza artificiale. Anche lì, OpenAI si ritrova in tribunale trincerata dietro ai “termini d’uso violati dall’utente”. I "puntini" che l'algoritmo non sa unire Ma come si comportano concretamente i colossi del tech di fronte a queste minacce? Piattaforme come OpenAI, Google o Anthropic investono milioni di dollari nei cosiddetti “guardrail”, filtri di sicurezza progettati per bloccare richieste dannose. Se a ChatGPT si chiede direttamente come pianificare un omicidio, il sistema si rifiuta di rispondere. Il problema emerge con la frammentazione. Un articolo di Alex Hosein, “Why Per-Request LLM Guardrails Fail”, descrive il meccanismo usato dagli utenti malintenzionati: un “approccio a catena” in cui nessuna singola domanda viola le regole, ma la sequenza completa consente di raggiungere scopi dannosi. I piani vengono spezzettati in decine di prompt isolati e apparentemente legittimi. Chiedere le specifiche tecniche di un calibro o gli orari di maggior affluenza di un luogo pubblico, preso singolarmente, non viola i termini di servizio. L’intelligenza artificiale risponde a ogni richiesta, ma non è in grado di “unire i puntini” e riconoscere il disegno complessivo. E quando il sistema intercetta in modo esplicito un intento violento, scatta il secondo paradosso: la paralisi aziendale. Le piattaforme si limitano quasi sempre a bloccare l’account dell’utente, ma raramente avvisano le autorità. Da un lato c’è il timore di violare le leggi sulla privacy degli utenti, dall’altro la difficoltà di gestire migliaia di falsi positivi. Le Big Tech intervengono solo di fronte a minacce ritenute “credibili e imminenti”: un confine sfumato, che spesso le trasforma in custodi silenziosi di segreti potenzialmente letali. L’illusione dell’umanità Torniamo così al punto di partenza. Diciamo “grazie” alle macchine perché vogliamo sentirci meno soli, ma deleghiamo ad aziende private algoritmi incapaci di distinguere tra una ricerca scolastica e la preparazione di una strage. L’illusione dell’umanità dell’IA sta crollando nel modo più tragico possibile: nel sangue delle aule scolastiche, come in questo caso.

Cosa vedere:

Come vederlo:

Online con Sky:

L’Ai può essere "complice" di un killer se risponde alle sue domande?

Beatrice Subissi