La fine dell'innocenza digitale

È una tragica storia: Sewell Setzer III, un ragazzo americano di 14 anni morto suicida nel febbraio 2024. Un evento che ha scosso profondamente l'opinione pubblica. Sewell aveva sviluppato un intenso legame emotivo con un chatbot creato dalla piattaforma Character.AI. Questo legame digitale e virtuale, nato come innocuo passatempo o come esigenza di confidarsi con qualcuno, si è evoluto in una relazione complessa a livello emotivo. Un rapporto che evidenzia il potere straordinario ma soprattutto pericoloso che queste tecnologie possono esercitare sulla psiche umana, specialmente quella dei più giovani, non preparate e anche vulnerabili. Sua madre, Megan Garcia, ha intentato una causa contro Character.AI e Google. L’accusa è che queste aziende hanno avuto un ruolo cruciale nel deterioramento psicologico del figlio. Questa azione legale ha sollevato unadiscussione e una riflessione complessa ed articolata sulla responsabilità delle aziende che sviluppano e mettono a disposizione strumenti basati su intelligenze artificiali. Il caso ha avuto un primo significativo sviluppo giudiziario con la decisione della giudice Anne Conway, che ha stabilito che i chatbot non possono appellarsi al Primo Emendamento della Costituzione americana. La “libertà di parola” è stata infatti la linea difensiva adottata. Questa pronuncia giudiziaria è destinata a fare giurisprudenza e allo stesso tempo pone una domanda fondamentale: dove inizia e finisce la responsabilità delle aziende tecnologiche nella tutela degli utenti? Ciò è ancora più rilevante nel contesto della protezione dei minori, un tema che richiede regole chiare, trasparenti e tempestive per gestire l’interazione tra l’uomo e la macchina. Le tradizionali regole educative, come "credi solo a ciò che vedi" o "non accettare caramelle dagli sconosciuti", si dimostrano ormai inadeguate nell'era digitale. L'intelligenza artificiale crea facilmente video, voci e immagini contraffatte. La stessa AI non è un estraneo che si può semplicemente evitare. Vive già nelle nostre case, nei nostri smartphone, e interagisce costantemente con i nostri figli in modi spesso imprevedibili e difficili da monitorare per un genitore. Oggi l’AI è parte integrante di tutti i sistemi e oggetti digitali! Il nostro modello educativo è adeguato ai nostri tempi? La risposta è no. Ma dobbiamo fornire una “bussola digitale” che insegni ai ragazzi a sviluppare un senso critico solido e consapevole. L’AI Act europeo rappresenta una risposta normativa concreta a queste nuove sfide. La normativa classifica le applicazioni di intelligenza artificiale in base al rischio; vieta esplicitamente pratiche ritenute inaccettabili, come la manipolazione psicologica degli utenti. Inoltre, impone obblighi rigorosi di trasparenza, qualità dei dati e anche la supervisione umana per i sistemi ad alto rischio. L'AI Act chiarisce inoltre che la responsabilità per eventuali danni o violazioni causati da un'intelligenza artificiale ricade sia sulle aziende che sviluppano tali tecnologie, sia su quelle che le utilizzano in caso di violazioni nelle casistiche vietate. Tuttavia, la regolamentazione da sola non sarà mai sufficiente senza un corrispondente sforzo educativo. L'educazione al pensiero critico digitale deve diventare parte integrante del percorso formativo dei giovani. È necessario insegnare loro non solo saper distinguere tra reale e virtuale, ma anche a identificare e analizzare criticamente le interazioni con intelligenze artificiali. La tragica vicenda di Sewell deve quindi rappresentare un punto di svolta, un’occasione per ripensare radicalmente il nostro modello educativo. Il vero problema, tuttavia, è capire chi oggi sia realmente in grado di educare correttamente. L’educazione è storicamente legata ai valori e ai rischi conosciuti dalle generazioni precedenti, mentre oggi ci troviamo di fronte a un mondo del tutto nuovo, con rischi e dinamiche che nessuno ha ancora pienamente compreso. Educare al digitale significa insegnare ai nostri figli a navigare in modo consapevole e sicuro in un mondo in cui l’intelligenza artificiale è sempre più presente e influente, cercando di anticipare sfide che non abbiamo ancora del tutto identificato. La questionenon è più “non cliccare questo link “o “non accedere ai siti pericolosi”. In questo scenario, il primo passo educativo non è più soltanto imparare a porsi delle domande, ma sviluppare la capacità di mettere in discussione le risposte. Ecco che quando noi da piccoli ad ogni affermazione dei nostri genitori rispondevamo con una sequenza interminabile di "Perché?", forse stavamo già percorrendo la strada giusta. La curiosità, la necessità di capire, di comprendere meglio e anche mettere in discussione rappresentano proprio la via da seguire in questo nuovo mondo che già viviamo e che presto, molto presto, sarà considerato vecchio. All'orizzonte si affacciano scenari ancora più radicali come l'integrazione uomo-macchina, ad esempio gli impianti di microchip nel cervello. Dobbiamo vivere questo mondo preparandoci al prossimo… Forse, allora, la vera educazione digitale, al nuovo inizia proprio da quel semplice e potente "Perché?".

Cosa vedere:

Come vederlo:

Online con Sky:

La fine dell'innocenza digitale