Hacker inventa pellicola che rende “invisibile” l’auto alle telecamere: ecco come funziona
Tecnologia
Un esperimento condotto a Las Vegas porta la sfida tra intelligenza artificiale e sistemi di sorveglianza su un terreno inedito. E ora il progetto potrebbe andare ben oltre le automobili e sbarcare anche sui vestiti, per nascondere anche le persone
Un hacker ha inventato una pellicola capace di rendere invisibile la sua auto. Non è una sorta di mantello dell'invisibilità alla Harry Potter, ma un "trucco tecnologico": la pellicola, con i suoi colori e un particolare motivo geometrico, riesce infatti a camuffare l'auto in modo che le telecamere di sicurezza che controllano i veicoli in strada (come ad esempio il Tutor in Italia) non la riconoscano. L'immagine dell'auto viene regolarmente registrata, ma il sistema di intelligenza artificiale che gestisce il rilevamento non riesce a identificarla come tale.
La pellicola che rende l'auto invisibile alle telecamere
A sviluppare la tecnologia è stato Bill Swearingen, hacker e ricercatore di cybersecurity. E il suo progetto, noRecognition, è nato proprio con l'obiettivo di creare pattern grafici in grado di confondere i sistemi di computer vision utilizzati per identificare automaticamente persone e veicoli.
La tecnologia, riporta TechCrunch è stata messa alla prova a Las Vegas, durante la Def Con, una delle principali conferenze internazionali dedicate alla cybersicurezza. Swearingen ha ricoperto una Toyota Yaris con uno dei pattern generati dal sistema, e l'ha fatta passare ripetutamente davanti a una telecamera di Flock, azienda che sviluppa sistemi automatici di sorveglianza e lettura delle targhe.
Il risultato è stato sorprendente: la telecamera continuava a riprendere la Toyota, ma il sistema non riusciva a classificarla come veicolo. E quindi non la prendeva in considerazione e non ne leggeva nemmeno la targa: la Toyota diventava a tutti gli effetti "invisibile" agli occhi del sistema di sorveglianza.
L'auto è ancora visibile, ma l'IA non la riconosce
È questo il punto centrale del "trucco" messo a punto dall'hacker: la pellicola non blocca la telecamera e non cancella la Toyota dal video: l'auto continua a essere perfettamente visibile e viene registrata. A essere ingannata è l'intelligenza artificiale che analizza le immagini. Se l'algoritmo non riesce a identificare correttamente il veicolo, non attiva nemmeno le funzioni di rilevamento (e quindi non ne legge la targa e non scatta la multa).
Questa tecnologia non è però (ancora) un sistema universale capace di rendere un'auto invisibile a qualsiasi telecamera: L'efficacia dipende dal tipo di algoritmo contro cui viene utilizzato il pattern.
Come funziona il pattern dell'invisibilità
Il disegno sulla pellicola è stato creato dopo milioni di tentativi. Swearingen ha utilizzato un sistema di intelligenza artificiale per generare e mettere alla prova una enorme quantità di motivi geometrici e colori, verificando ogni volta se gli algoritmi di computer vision riuscissero ancora a riconoscere l'oggetto.
Il processo è andato avanti per circa 31 milioni di tentativi nell'arco di un anno, fino a individuare configurazioni grafiche capaci di mandare in difficoltà i sistemi di rilevamento. Il principio sfrutta una delle caratteristiche dei sistemi di computer vision: l'intelligenza artificiale non interpreta un'immagine esattamente come farebbe un essere umano. Analizza invece una serie di caratteristiche e associazioni apprese durante l'addestramento. Modificando opportunamente ciò che compare nell'immagine, è quindi possibile creare situazioni nelle quali l'oggetto rimane evidente per una persona, ma diventa difficile da classificare per l'algoritmo.
Secondo Inc.com, il modello utilizzato da Swearingen è in grado di generare pattern che riescono a eludere 11 algoritmi open source di rilevamento, compreso quello utilizzato da Flock.
Leggi anche
Cosa dice l’AI Act sul riconoscimento facciale e cosa è vietato fare
Dalle auto ai vestiti
L'esperimento sulla Toyota Yaris è però soltanto una delle applicazioni immaginate da Swearingen. Il progetto noRecognition punta infatti anche a utilizzare gli stessi pattern sulle persone. L'hacker sta lavorando alla trasformazione dei disegni in motivi da applicare sui capi d'abbigliamento come T-shirt, felpe e altri accessori.
L'idea è quella di applicare alle persone lo stesso principio già sperimentato sull'auto: interferire con i sistemi automatici di riconoscimento senza impedire alla telecamera di registrare la scena. I pattern possono essere utilizzati anche su accessori destinati a coprire parzialmente il volto o la testa. Il progetto prevede inoltre la possibilità di realizzare disegni personalizzati.
La sfida tra riconoscimento e privacy
Dietro la pellicola di Swearingen c'è una sfida destinata a diventare sempre più concreta: da una parte sistemi di sorveglianza capaci di riconoscere automaticamente volti, targhe, persone e veicoli, dall'altra tecnologie sviluppate per impedire proprio quel riconoscimento. È una sorta di "corsa agli armamenti" tra intelligenza artificiale e privacy, nella quale ogni nuovo strumento di identificazione può spingere alla ricerca di un nuovo modo per sottrarsi al controllo automatico.
Il progetto noRecognition si colloca esattamente su questo secondo fronte. Non prova a impedire alle telecamere di vedere, ma a fare in modo che ciò che vedono non possa essere riconosciuto dai loro algoritmi. Un approccio che, partendo da una pellicola applicata a un'auto, punta già a estendersi all'abbigliamento e quindi direttamente alle persone.
){kind=tracking}
)
){kind=tracking}
)
)