DeepSeek e il buco nero per la privacy

Due settimane lunghe due anni. Negli ultimi giorni intorno a DeepSeek, il chatbot cinese a base di intelligenza artificiale sviluppata con un modello open source e low cost, è successo di tutto. Nell’ordine: dopo aver innescato un terremoto finanziario globale e aver toccato i vertici delle classifiche delle app più scaricate in tutto il mondo, la piattaforma è scomparsa dagli store di Apple e Android in Italia – ma rimane disponibile via desktop e per chi abbia scaricato l’app, pur con molti rallentamenti. Le richieste del Garante della privacy Con ogni probabilità il ritiro è il frutto di una scelta preventiva dopo la richiesta di informazioni inoltrata dal Garante italiano per la protezione dei dati personali alle due società che risultano gestire il servizio: la Hangzhou DeepSeek Artificial Intelligence e la Beijing DeepSeek Artificial Intelligence. A loro, l’autorità guidata da Pasquale Stanzione – come fa di solito e come fece nel marzo 2023 con OpenAI rispetto a ChatGPT – ha chiesto chiarimenti sui molti aspetti critici del trattamento dei dati, “considerato l'eventuale alto rischio per i dati di milioni di persone in Italia”. Quali raccolga davvero, dove li conservi, quale sia la base giuridica del trattamento, se li adoperi per addestrare ulteriori versioni del suo LLM, cioè large language model e come e in che modo gli utenti vengano informati: questo vuole sapere l’authority. D’altronde, dai termini d’uso di DeepSeek manca del tutto ogni riferimento all’ampio e complesso corpus normativo europeo e si fa naturalmente riferimento alle leggi cinesi. “In particolare, i chiarimenti richiesti riguardano l’eventuale uso di tecniche di web scraping per raccogliere informazioni e come gli utenti, sia iscritti che non iscritti, siano stati informati riguardo al trattamento dei loro dati personali”, spiegano gli avvocati Livio Bossotto e Francesca Corbinelli di A&O Shearman. “L’intervento del Garante dei dati italiano non sorprende e ha un doppio significato – aggiunge a SkyTg24 Insider Rocco Panetta, avvocato tra i massimi esperti a livello internazionale di IA e data economy – da un lato, dimostra come la nostra autorità interpreti correttamente il suo ruolo in prima linea nella protezione dei dati delle persone, operando come apripista a livello internazionale. Dall’altro, riafferma che la normativa europea sulla protezione dei dati, il Gdpr, è la prima linea per uno sviluppo dell’IA bilanciata tra esigenze di business e libertà degli individui. Grazie poi all’approvazione dell’AI Act, la prima legge al mondo in materia, il perimetro di tutele in Europa è destinato a crescere, garantendo al contempo un contesto che agevola lo sviluppo economico”. Le prime falle di sicurezza documentate In seconda battuta, una società specializzata in cybersicurezza, Wiz Research, ha pubblicato un rapporto in cui denuncia come DeepSeek abbia lasciato uno dei suoi database critici esposto su internet, divulgando registri di sistema, invii di prompt degli utenti e persino token di autenticazione API, per un totale di oltre un milione di record, a chiunque si imbattesse nel database. Terza tappa: inchieste e indagini giornalistiche in tutto il mondo hanno iniziato ad analizzare nel dettaglio il funzionamento della piattaforma, mettendo meglio a fuoco i dati che raccoglie – tantissimi, compresi quelli impiegati per creare un account e i pattern di scrittura - e i potenziali rischi. Senza contare che negli Stati Uniti alcune branche dell’amministrazione come la Marina Militare hanno deciso di vietarne l’uso ai primi militari e dipendenti. Altro che TikTok. Tutti i rischi per la privacy: dai server al web scraping “La privacy è il primo e principale problema per la maggior parte degli utenti. I rischi variano leggermente per i privati, che probabilmente utilizzeranno DeepSeek sui loro smartphone, rispetto alle aziende che potrebbero utilizzare i modelli tramite interfacce di programmazione per consentire la business intelligence e altre funzioni”, spiega Chester Wisniewski, director and global field CTO della società di cybersicurezza Sophos. "Gli utenti che utilizzano le applicazioni dai propri device personali devono essere consapevoli che l'applicazione DeepSeek raccoglierà le loro informazioni personali , le informazioni del loro dispositivo e, naturalmente, qualsiasi richiesta digitata sarà registrata e utilizzata per addestrare il modello. Poiché tutti questi dati vengono inviati ai server dell'intelligenza artificiale in Cina, le informazioni devono essere rese disponibili, su richiesta, al governo cinese per legge. Per questo motivo, si consiglia di evitare o di limitare il più possibile, la condivisione di informazioni sensibili con DeepSeek”. “Nell’attesa dei rilievi istruttori che il Garante potrà individuare, in generale nel contesto dell’uso di sistemi di IA generativi online occorre prestare sempre attenzione su quali dati decidiamo di condividere con questi servizi – conferma l’avvocato Panetta - il rischio è di non essere pienamente consapevoli dei possibili utilizzi delle nostre informazioni personali. Pensiamo, ad esempio, all’addestramento dei modelli, che molte volte avviene anche tramite tecniche di web scraping, una sorta di pesca a strascico sul web”. L’uso dei dati da parte di terze parti e la de-anonimizzazione debole Bossotto e Corbinelli aggiungono inoltre che “i dati personali raccolti da DeepSeek durante le interazioni, come nomi, indirizzi e-mail, numeri di telefono e altre informazioni sensibili, se non adeguatamente protetti, sono esposti a furti o abusi. Un sistema di sicurezza inadeguato apre infatti la strada ad attacchi informatici con cui i malintenzionati potrebbero riuscire a penetrare nel sistema e ad accedere alle informazioni sensibili degli utenti”. Senza trasparenza nell'elaborazione dei dati, dice Adrianus Warmenvoven, esperto di cybersecurity a NordVPN, entrando nello specifico, “DeepSeek potrebbe condividere gli input degli utenti con terze parti non divulgate, inclusi set di dati di formazione AI, inserzionisti o persino attori statali”. E anche se DeepSeek dice di rendere anonimi i dati, “le tecniche di intelligenza artificiale avanzate possono correlare dettagli apparentemente innocui attraverso più interazioni, ricostruendo le identità degli utenti. Se set di dati esterni vengono combinati con input di chatbot, la de-anonimizzazione diventa una minaccia seria, esponendo potenzialmente gli utenti a frodi di identità o sorveglianza” dice Warmenvoven. Per le aziende, la questione è in parte diversa: “Le aziende che desiderano esplorare la tecnologia per abilitare i processi aziendali e l'automazione hanno più opzioni – prosegue invece Wisniewski - rischi simili esistono se si utilizzano i server cloud di DeepSeek con sede in Cina, ma dato che il modello di intelligenza artificiale è liberamente disponibile, è possibile ospitarlo internamente o utilizzarlo da un fornitore di servizi che lo ospita nell'UE, negli Usa o in un'altra giurisdizione. Questo limita i rischi per la privacy, ma non elimina eventuali distorsioni intrinseche programmate nel modello di IA stesso”. D’altronde “le iniziative delle autorità di controllo devono essere viste dalle aziende anche come un monito a migliorare i propri processi e servizi, rendendoli più sostenibili sotto il profilo della circolazione dei dati delle persone. Introdurre meccanismi di trasparenza, informazione, proporzionalità nell’uso dei dati, migliora la fiducia, tiene bilanciati i servizi e riduce il rischio sanzioni” conclude Panetta. Un altro fronte, quello dei bias nei contenuti e nel ragionamento Oltre il tema della privacy, esiste quello dei cosiddetti bias, i pregiudizi interni al modello linguistico che possono riguardare i contenuti ma anche e soprattutto il meccanismo di ragionamento. È probabile che questo modello ne contenga moltissimi, non diversi da quelli dei modelli di OpenAI, Claude o Google. Le distorsioni saranno tuttavia potenzialmente diverse e stanno appena iniziando a essere esplorate. Capire cosa fa un modello e perché lo fa è difficile e comporta dei rischi. La decisione degli Stati Uniti di vietare TikTok era dovuta solo in parte ai dati inviati alla società madre ma anche e in particolare al timore che l'algoritmo guidasse gli utenti verso un tipo di contenuto piuttosto che un altro. “Lo stesso – spiega Wisniewski - potrebbe valere per un modello di intelligenza artificiale. Questi modelli sono una sorta di “scatola nera” e può essere difficile decifrare il modo in cui ottengono le risposte. Per fare un esempio, un'azienda potrebbe utilizzare un'IA come assistente alla programmazione del computer per poi scoprire che ha una tendenza a creare codice vulnerabile agli attacchi”. I potenziali abusi per attacchi informatici C'è infine il rischio, come è già avvenuto nei primissimi giorni in cui il modello R1 v3 di DeepSeek è stato distribuito, che la sua tecnologia possa essere adottata e “piegata” dai criminali informatici per contribuire al confezionamento di cyberattacchi più sofisticati. “Finora abbiamo assistito solo ad abusi di base dei modelli di intelligenza artificiale più diffusi ma poiché questo, come Llama, è liberamente disponibile, potrebbe essere maggiormente preferito da chi ha cattive intenzioni. Quando si può usare il modello sui propri computer, si può più facilmente disabilitare/bypassare qualsiasi protezione contro l'uso dannoso” conclude dal canto suo il top manager di Sophos. Mentre quello di NordVPN alza il tiro e spiega che “se gli autori di attacchi malintenzionati sfruttano le interazioni dei chatbot, manipolando le risposte o accedendo ai registri archiviati, potrebbero creare attacchi di phishing altamente mirati, schemi di personificazione o addirittura dedurre le risposte alle domande di sicurezza, con conseguenti gravi rischi per la sicurezza informatica”.

Cosa vedere:

Come vederlo:

Online con Sky:

DeepSeek e il buco nero per la privacy