Chatbot e adolescenti, l'AI quanto può influenzare la crescita?

Prima sono arrivati gli strumenti, poi milioni di ragazzi in tutto il mondo hanno cominciato a usarli e solo in seguito ci siamo seriamente interrogati sui loro effetti. È una sequenza che conosciamo bene dalla storia dei social network e che rischia di ripetersi con l’intelligenza artificiale generativa. Con una differenza importante: un chatbot non si limita a proporre contenuti o mettere in contatto le persone. Dialoga, risponde, ricorda, simula attenzione e può assumere agli occhi di chi lo utilizza il ruolo di consigliere, confidente o perfino amico. Tutti ruoli che non può avere, semplicemente perché non ha alcuna forma di coscienza vagamente “umana”. È su questo terreno ancora largamente inesplorato che interviene un nuovo studio pubblicato su AI & Society . I ricercatori hanno coinvolto 141 studiosi dello sviluppo giovanile, esperti di tecnologia e professionisti di settori collegati e condotto 15 interviste approfondite per individuare quali aspetti del rapporto fra adolescenti e chatbot dovrebbero essere studiati con maggiore urgenza e quali protezioni sarebbe urgente adottare già oggi. Una tecnologia già diffusa e una ricerca che rincorre Il paradosso è evidente. Mentre la scienza sta ancora cercando di capire quali domande porre, l'intelligenza artificiale è già entrata nella quotidianità dei più giovani. Lo ha fatto a una velocità spropositata nel giro degli ultimi tre anni. Lo studio cita infatti stime secondo cui negli Stati Uniti l'86% dei ragazzi fra 9 e 17 anni utilizza strumenti di AI, il 64-67% usa specificamente chatbot e il 28% lo fa ogni giorno. Gli utilizzi possono naturalmente essere molto diversi: cercare informazioni, studiare, divertirsi, chiedere consigli di ogni tipo oppure instaurare interazioni che assumono una dimensione più personale e relazionale. Talvolta scivolosa, come molte cronache hanno dimostrato. Ed è proprio qui che il confronto con le tecnologie precedenti comincia a diventare insufficiente. L'adolescenza è una fase cruciale nella quale cambiano profondamente i rapporti sociali, la costruzione dell'identità, la sensibilità all'approvazione degli altri e la capacità di controllo degli impulsi. Un chatbot può pericolosamente inserirsi in questi processi offrendo qualcosa che nessun social network tradizionale offriva nello stesso modo: un interlocutore sempre disponibile, personalizzabile e apparentemente interessato a ciò che abbiamo da raccontargli. Contraddistinto fra l’altro da una piaggeria assoluta. Un interlocutore che non ci giudica mai Gli autori sottolineano alcune caratteristiche che rendono questi sistemi particolarmente interessanti dal punto di vista dello sviluppo. I chatbot possono adattare tono e personalità, ricordare informazioni e restituire risposte emotivamente coerenti con ciò che viene raccontato. L'interazione può dunque apparire significativa e intima anche se dall'altra parte non esiste alcuna coscienza né, naturalmente, comprensione umana ma solo un’interazione statistica. Qualcosa può essere modificato lavorando sulle impostazioni dei diversi ambienti ma la questione non cambia nella sostanza. E un’altra recente indagine dell’organizzazione no profit statunitense Common Sense Media ha svelato che perfino le modalità dedicate come ChatGPT for Teens deludono sotto molti punti di vista. Inoltre un chatbot non ha esigenze proprie, non chiede reciprocità e non giudica. Sono caratteristiche potenzialmente molto attraenti per un adolescente particolarmente sensibile al rifiuto dei coetanei o ancora impegnato nell'apprendimento delle complesse regole delle relazioni umane. Questo non significa che l'AI faccia necessariamente male. Alcuni esperti coinvolti nello studio mettono esplicitamente in guardia dal rischio di un nuovo panico morale tecnologico. Insomma, nessun catastrofismo di default. I chatbot potrebbero sostenere l'apprendimento, aiutare a comprendere concetti difficili o fornire indicazioni utili nell'affrontare situazioni sociali complicate. Il problema è che non disponiamo ancora di prove sufficienti per stabilire con precisione quando questi strumenti aiutino e quando possano invece interferire con lo sviluppo. Non sappiamo nulla. Come non sapevamo nulla fino a qualche anno fa sugli effetti dei social media nei confronti dei minori – e a dirla tutta, pure degli effetti sugli adulti. Tra le questioni prioritarie individuate dagli esperti ci sono perciò il rischio di eccessiva dipendenza dall'AI, il suo utilizzo come attore sociale o relazionale, la costruzione dell'identità, l'alfabetizzazione all'intelligenza artificiale e soprattutto le situazioni nelle quali possono verificarsi conseguenze gravi o irreversibili, come quelle legate all'autolesionismo o allo sfruttamento. Il precedente dei social media È difficile non riconoscere uno schema già visto. Per anni bambini e adolescenti hanno utilizzato social network progettati essenzialmente secondo esigenze commerciali e modelli di interazione pensati per un pubblico generale. Solo progressivamente sono arrivati account per adolescenti, parental control, limiti ai contenuti, impostazioni specifiche e norme più severe. Spinti dentro un recinto progettato con altri scopi. Lo studio richiama esplicitamente questo precedente: senza adeguate protezioni, l'AI potrebbe svilupparsi nella vita dei ragazzi come è accaduto con i social media, con la ricerca sugli effetti e le politiche di tutela costrette a inseguire l'innovazione tecnologica. La domanda diventa quindi anche progettuale. Ha senso continuare a costruire prodotti per tutti e aggiungere successivamente protezioni dedicate ai minori oppure dovremmo progettare fin dall'origine ambienti digitali pensati intorno alle loro caratteristiche cognitive, emotive e sociali? Come d’altronde tutte le regolamentazioni internazionali propongono e anzi presto prescriveranno, secondo lo schema del safety by design. La posizione che emerge dagli esperti consultati per l’inagine è piuttosto chiara: la sicurezza non dovrebbe essere scaricata del tutto o quasi sui ragazzi e sulle loro famiglie. Tra le misure considerate prioritarie figurano una regolamentazione realmente centrata sui giovani, una progettazione basata sulle diverse fasi dello sviluppo e una maggiore alfabetizzazione all'intelligenza artificiale. Quasi la metà degli intervistati, il 47,6%, indica inoltre trasparenza del design e della raccolta dei dati fra le protezioni fondamentali. La scienza è più lenta dell’AI C'è infine un problema quasi paradossale. Studiare scientificamente una tecnologia – anzi, un variegato insieme di strumenti e tecnologie - che cambia ogni pochi mesi è estremamente difficile. Quasi impossibile. Il 76% degli esperti indica proprio la velocità con cui evolvono sistemi e modalità d'uso come uno dei principali ostacoli alla ricerca. Specie quella sociale e psicologica, che richiede metodi e tempi differenti da una puramente basata sui dati. A questo si aggiungono la scarsa trasparenza dell'industria, le difficoltà di finanziamento e i tempi inevitabilmente lunghi degli studi scientifici. Un ricercatore coinvolto nello studio ha ferocemente riassunto il problema: "È già obsoleto mentre è ancora in fase di revisione". Ed è forse questo il punto più difficile da risolvere. Non possiamo aspettare dieci anni per conoscere gli effetti di tecnologie che bambini e adolescenti utilizzano oggi. Ma non possiamo neppure trasformare timori ancora da verificare in certezze scientifiche. Dal social dilemma, per ricalcare il titolo di un celebre documentario, all’AI dilemma. La lezione dei social media dovrebbe almeno averci insegnato qualcosa: non è necessario conoscere già tutte le conseguenze di una tecnologia per chiedere che chi la progetta tenga conto, fin dall'inizio, delle persone più giovani e vulnerabili che inevitabilmente finiranno per utilizzarla.

Cosa vedere:

Come vederlo:

Online con Sky:

Chatbot e adolescenti, l'AI quanto può influenzare la crescita?

Simone Cosimi