Il watermark di Claude: perché può non essere sempre legittimo

Dal mese di agosto 2026, Antropic ha inaugurato uno strumento di watermaking per segnalare i contenuti generati da Claude. Questa iniziativa ha l’obiettivo di rispettare la disciplina sulla trasparenza prevista dall’AI Act. La decisione di Antropic è passata un po' in sordina ma lascia aperti diversi interrogativi. Cosa significa una filigrana invisibile che marca un contenuto generato dall’IA? Nel caso dei testi, la filigrana è impercettibilmente intrecciata nel testo con l’effetto di stabilire un rapporto statistico tra parole e sinonimi contrassegnando il documento come generato dall’IA. È un espediente che, ad esempio, non può essere aggirato con il copia-incolla perché la filigrana resta sempre attiva. Agli occhi di tutti il testo sembrerà del tutto normale come provenissero da un essere umano; eppure, un software che Anthopic renderà disponibile sarà in grado di individuare senza possibilità di smentita tutti i pattern statistici propri di Claude. Per evitare di incappare nel “tranello” di Claude non sono sufficienti interventi superficiali oppure trascurabili alterazioni o modifiche del testo. L’inquietante watermark è sempre lì che sorveglia ed è pronto a tradirti per dichiarare a tutti che “hai copiato”. È ovvio che una completa riscrittura del testo impedirà al software di intercettare gli schemi statistici di Claude e solo in questo caso il testo sarà finalmente liberato dalla inquietante filigrana. Cosa certifica il watermark? La certificazione non prevede l’indicazione di dati personali di qualunque tipo; la proprietà dell’output continua ad essere riferita all’utente ma il watermark certificherà che "Claude ha preso parte alla scrittura". Formula tanto vaga quanto suscettibile di diverse critiche. Una marcatura nascosta e invisibile significa trasparenza? Un documento realizzato con l’aiuto dell’intelligenza artificiale può essere certificato da una marcatura nascosta ed invisibile? Se l’obiettivo è la trasparenza, perché stabilire una marcatura non visibile che, come una spia nemica, ricama il testo e rimane non percepibile all’utente? Non è forse un indebito non autorizzato stigma nell’uso dell’intelligenza artificiale? Chi stabilisce il limite entro il quale questa specie di “spionaggio” sul testo è legittimo secondo i parametri unilaterali elaborati da Antropic? Chi verifica come sono state elaborate le metriche di riconoscimento di Antropic e quali sono esattamente? Trasparenza e human in the loop L’obiettivo della legge italiana ed europea è porre l’uomo al centro del sistema tecnologico. Perché allora affidare ad Antropic il potere di stabilire se è in quale modo un testo deve essere contrassegnato da una persecutoria filigrana che si nasconde? Un onnipotente watermarking senza possibilità di controllo umano non stabilisce una forma di soggezione nei confronti dell’IA in contrasto con il principio della centralità umana nei rapporti con la nuova tecnologia? Pare a tutti che si tratti di un tema, che sotto le mentite spoglie della “trasparenza”, di fatto è in grado di comprimere alcuni fondamentali principi di libertà e di democrazia che la civiltà umana ha conquistato in millenni di storia. Sappiamo che alcune situazioni non sono neutre a tale tipo di verifica. Fotografie che rappresentano una immagine falsa, la voce che viene ingannevolmente riprodotta dall’AI, un video frutto di manipolazione e ogni forma di deepfake. Si tratta di contesti dal cui inganno è indispensabile proteggersi. In queste situazioni sapere che il contenuto è stato prodotto in modo artificiale è assolutamente necessario per ovvie ragioni di tutela e di sicurezza. Questo però non significa che l’essere umano sia costretto a subire una sorta di spia ossessiva che dichiara sistematicamente se e in quale misura sia intervenuta l’IA per svolgere il proprio lavoro. La stessa UNESCO, nella sua Recommendation on the Ethics of Artificial Intelligence, ha avuto cura di segnalare il pericolo dell'assolutizzazione della trasparenza, precisando che il grado di trasparenza deve essere adeguato al contesto e deve essere bilanciato con altri fondamentali valori quali quello della privacy, dell'autonomia e della libertà individuale. La nostra libertà può essere delegata alla certificazione di una big-tech? Sul piano della tutela dei diritti costituzionali è legittimo delegare una certificazione sull’uso dell’IA ad un soggetto privato la cui investitura, a tale precipuo scopo con le modalità sopra indicate, non è prevista dalla legge? È lecito che questo potente soggetto privato possa utilizzare un software che non conosciamo e che le istituzioni nazionali ed europee non hanno mai avuto possibilità di testare, verificare, collaudare o tarare per accertare il suo esatto funzionamento e le sue reali coordinate di rilevamento? Perché introdurre un'attenzione quasi poliziesca su un innocuo testo generato con l’aiuto dell’IA come se il rapporto con la tecnologia avesse bisogno della sovraintendenza di un’attività ispettiva anche quando manca una vera ragione di protezione e di sicurezza? Un testo generato con l’IA si riconosce facilmente: è sempre uguale, a volte stucchevole e fastidiosamente perfettino perché non dice nulla di veramente autentico e umano. Allora, a maggior ragione, a cosa serve il watermarking di Claude? Il libero diritto di fare uso della tecnologia L’uso della tecnologia non è stato in passato una valida ragione per stabilire obblighi di vigilanza e di rilevamento forzato. Nella storia dell’innovazione tecnologica non abbiamo mai preteso una simile disclosure. Non dichiariamo con quale programma abbiamo scritto un documento, quale motore di ricerca abbiamo consultato, quale banca dati ci ha aiutato nella ricerca, quale correttore automatico abbia suggerito una modifica, quale calcolatore abbia completato calcoli complessi in pochi decimi di secondo. È davvero accettabile che un avvocato che utilizza l’intelligenza artificiale per confrontare due argomentazioni, un medico per organizzare la propria letteratura scientifica, un giornalista per verificare la struttura di un articolo, uno scrittore per discutere una frase debba ogni volta fare i conti con un disturbatore fisso che vigila impenitente per stabilire se il risultato di quel lavoro è veramente tuo? Del resto, anche in passato, quando si elaborava un testo non vigeva alcun obbligo di dichiarare da quale enciclopedia, saggio, libro o articolo avevamo preso spunto. La situazione oggi non cambia. Perché allora accettare una filigrana che fa da spia sul nostro lavoro? Quando il risultato del testo viene controllato, modificato, verificato e fatto proprio dall’autore sotto la propria responsabilità che senso ha stabilire se l’autore ha preso spunto dall’IA, da un saggio o da un libro? La trasparenza sull’uso dell’IA serve per evitare un inganno e per proteggere un diritto ma non può essere fraintesa con l’obbligo di stabilire un controllo invisibile e generalizzato sul processo utilizzato per il proprio lavoro. La compressione di questa libertà non è assolutamente ammissibile. Quando il watermark diventa promozione Quando un provider inserisce nel sistema dei propri output un mark, un watermark o una propria credenziale digitale non solo è possibile risalire all’uso dell’IA ma viene indirettamente individuato lo stesso provider. In questo caso la credenziale sull’uso di IA diventata la credenziale sul prodotto, con un effetto di promozione commerciale e pubblicitaria. Quando milioni di documenti individuano il sistema utilizzato questo sistema ha consentito al provider di beneficiare di un gigantesco vantaggio in termini concorrenziali consentendo la circolazione della propria identità commerciale in nome della “trasparenza”. Ogni singolo utente paga uno strumento per lavorare e allo stesso tempo diventa un veicolo commerciale del potente provider. È un risultato di non trascurabile importanza che merita di essere oggetto di profonda riflessione perché un sistema che invoca trasparenza per l’utente deve essere anche commercialmente neutrale. La trasparenza non deve diventare sinonimo di dipendenza I sistemi di intelligenza artificiale possono diventare egemoni in molti settori: nella scrittura, nella medicina, nella ricerca scientifica, nel diritto, nell’ingegneria, nella musica e in numerose altre attività. Se il lavoro dell’uomo che usa la nuova tecnologia deve sempre marcato dal segno il segno dell’intelligenza artificiale, è inevitabile favorire il rischio di una rappresentazione culturale potentissima: “l’essere umano ha bisogno della macchina” oppure “l’uomo non può più nulla senza la macchina”. In questo modo il “mark IA” avrà affermato l’idea della soggezione umana alla macchina, agli antipodi rispetto al principio antropocentrico previsto dalle leggi europee e nazionali. È mai esistita nel passato una disclosure così invasiva? La scrittura ha avuto la potenza di trasformare la memoria. La stampa quella di diffondere le idee. Il computer ha trasformato quasi ogni attività intellettuale mentre internet ha modificato le tecniche di ricerca e di accesso alla conoscenza. Non si è mai pensato di ricorrere a queste tecnologie con un obbligo generalizzato di dichiarare il loro utilizzo. Perché invece con l’IA si deve subire una rendicontazione permanente che afferma l’assistenza tecnologica ricevuta dall’uomo? Una rendicontazione che si sviluppa grazie a milioni di utenti non si limita più a fornire una mera informazione di trasparenza perché invece, sul piano della percezione, genera la convinzione che l’intelligenza umana da sola non basta più. Il rischio di una asimmetria Se l’uomo deve dichiarare la macchina, perché la macchina non deve dichiarare l’uomo? Si pretende che ogni singolo utente umano dichiari di utilizzare l’intelligenza artificiale . Si omette tuttavia di dare conto che l’intelligenza artificiale non è nata dal nulla. Le capacità dei grandi modelli contemporanei si sono sviluppate solo grazie a millenni di storia dell’umanità e attraverso l’uso di incommensurabili quantità di linguaggio, conoscenze e produzioni culturali create dall’umanità. Generazioni di scienziati, matematici, filosofi, scrittori, artisti, medici, giuristi, musicisti e insegnanti. Sono loro la vera ricchezza dell’IA. Sono loro che in millenni di storia hanno costruito il patrimonio intellettuale che oggi, paradossalmente, siamo costretti a pagare a colpi di token alle grandi imprese della nuova tecnologia artificiale. Chi è allora veramente in debito? Chi ha la vera paternità di quanto le big-tech vendono come bene commerciale proprio? Si potrebbe aprire un ambito più vasto di riflessione. Ci limitiamo invece a considerare la reale origine dell’IA che rischia progressivamente di diventare invisibile. È cruciale il tema della reciprocità. Se l’uomo deve dichiarare la macchina, perché la macchina non dovrebbe dichiarare l’uomo? La tutela della conoscenza delle generazioni future È un aspetto di fondamentale importanza soprattutto per le prossime generazioni. L’UNESCO, nella Recommendation on the Ethics of Artificial Intelligence, afferma che l’IA sta creando una nuova dimensione nella quale è completamente immersa la crescita e lo sviluppo di bambini e adolescenti che condiziona la loro comprensione del mondo e di sé stessi. Nel lungo periodo, i sistemi artificiali possono trasformare in modo anche radicale la considerazione che l’essere umano svilupperà di sé, della propria autonomia, della propria capacità di agire e dello stesso valore della dignità umana. Il mondo prima dell’intelligenza artificiale è a noi noto. La formazione delle nostre abilità è frutto della nostra intelligenza. Siamo perfettamente consapevoli che alla radice di ogni sapere c’è il lavoro esclusivamente umano. Per chi verrà dopo di noi questo dato pacifico potrebbe non essere più scontato. Per le prossime generazioni l’intelligenza artificiale sarà semplicemente qualcosa che esiste e nel tempo potrà sparire la consapevolezza che il sapere della macchina era il sapere del genere umano. È l’umanità che ha diritto ad un mark di provenienza del sapere Sarebbe utile considerare un copyright collettivo o un simbolo universale destinato a marcare i sistemi di intelligenza artificiale per tutelare nel tempo la memoria dell’origine umana di questo imponente progresso tecnologico. Dovrebbe essere un segno che la nostra generazione lascia a quelle che verranno, con una funzione educativa in armonia con i principi affermati dall’UNESCO, perché la trasparenza non può avere una sola direzione ma deve essere coerente con la finalità pubblica di promozione e educazione delle competenze digitali e di piena comprensione dell’intelligenza artificiale. Non possiamo costruire un mondo nel quale l’uomo è paradossalmente obbligato a dichiarare il proprio debito verso la macchina mentre la macchina tace sul proprio immenso debito originario verso l’uomo. Non è accettabile una gerarchia culturale rovesciata in nome di un distorto principio di trasparenza. Potrebbe arrivare un futuro nel quale l’umanità avrà dimenticato la propria origine e crederà servilmente che ogni sapere è solo artificiale. Questo non dovremmo permetterlo.

Cosa vedere:

Come vederlo:

Online con Sky:

Il watermark di Claude: perché può non essere sempre legittimo

Giovanni Reho