Chatbot e tutela dei minori

Chatbot e minori: dai casi USA, una lezione per l’Europa 

Negli ultimi mesi, negli Stati Uniti, sono emersi casi che hanno scosso l’opinione pubblica e aperto un dibattito destinato a estendersi anche in Europa. Parliamo di adolescenti che hanno sviluppato relazioni intense e prolungate con chatbot basati su intelligenza artificiale, sistemi progettati per simulare conversazioni umane e creare legami emotivi con gli utenti. In alcuni casi, queste interazioni hanno avuto conseguenze tragiche: suicidi di minorenni che le famiglie riconducono direttamente all’influenza psicologica esercitata da questi assistenti digitali. In altri, si sono registrati danni gravi alla salute mentale, anche se non letali: dipendenza dal sistema, isolamento sociale, autolesionismo, aggravamento di disturbi depressivi e d’ansia, fino a ricoveri psichiatrici.

Le piattaforme coinvolte, come Character.AI, permettono di creare e interagire con personaggi virtuali altamente personalizzati, capaci di adattarsi alle emozioni e alle richieste dell’utente, disponibili ventiquattro ore su ventiquattro, senza mai interrompere la conversazione. Per un adolescente fragile, solo, alla ricerca di comprensione, questi chatbot possono diventare l’unica ancora di riferimento, sostituendo progressivamente le relazioni reali. Il caso più noto è quello di Sewell Setzer III, quattordici anni, la cui morte per suicidio i familiari attribuiscono alle settimane di interazioni quotidiane, ossessive, con un chatbot che aveva finito per occupare ogni spazio della sua vita emotiva. Ma non è un episodio isolato. Ci sono almeno altri quattro procedimenti legali aperti in Florida, Colorado, Texas e New York. Google e Character.AI hanno recentemente raggiunto accordi extragiudiziali con alcune di queste famiglie, senza ammettere responsabilità ma riconoscendo implicitamente che il tema merita attenzione urgente.

La questione centrale non è se un chatbot abbia fornito una risposta sbagliata o pericolosa. Il problema è strutturale e riguarda il modo in cui questi sistemi sono progettati. Parliamo di piattaforme costruite per massimizzare l’engagement emotivo, per trattenere l’utente il più a lungo possibile, per simulare intimità e vicinanza senza alcun filtro protettivo quando dall’altra parte c’è un adolescente – fragile per definizione, perchè non ha ancora completato il suo sviluppo e manca di alcun strumenti di difesa che l’esperienza aiuta a creare. È come costruire un parco giochi senza recinzioni: non è che l’altalena sia pericolosa in sé, ma se non esiste un limite tra il gioco e il danno fisico, il rischio diventa sistemico. Quando un minore trascorre ore ogni giorno in conversazioni con un’entità digitale che simula affetto, comprensione incondizionata e disponibilità continua, stiamo assistendo a una forma di interazione che ha effetti concreti sul suo sviluppo psicologico, emotivo e relazionale, e se questo accade senza meccanismi di allerta, senza interruttori di sicurezza, senza alcuna soglia che ricordi che l’interazione non è umana e che segnali quando l’uso sta diventando problematico, allora il silenzio progettuale non è neutralità ma una scelta, e ne siamo tutti responsabili.

Il vantaggio europeo: norme già mature, da applicare

Qui emerge un aspetto paradossale ma anche un’opportunità. L’Europa arriva dopo gli Stati Uniti su molte innovazioni tecnologiche, ma questa volta il ritardo potrebbe trasformarsi in vantaggio. Non perché dobbiamo inventare nuove regole, ma perché abbiamo già un quadro normativo maturo che aspetta solo di essere applicato con intelligenza e rigore. Il GDPR, il regolamento europeo che protegge i dati personali, ha introdotto un principio fondamentale: la responsabilità del titolare del trattamento nasce prima del danno. Gli articoli 5, 24 e 25 impongono che i trattamenti siano leciti, corretti, trasparenti e che la protezione dei dati sia garantita fin dalla progettazione. Quando un sistema prevede interazioni digitali continuative e personalizzate con minori, l’articolo 35 richiede una valutazione d’impatto che non può ridursi a un adempimento burocratico. Deve interrogare gli effetti concreti del sistema sull’individuo, inclusi quelli psicologici e comportamentali. L’AI Act, pure adottato dall’Unione Europea., prosegue su questa strada spostando l’attenzione dal dato all’effetto. I sistemi di intelligenza artificiale che incidono sul comportamento umano, specialmente quando coinvolgono soggetti vulnerabili come i minori, rientrano nell’area del rischio elevato non per ciò che sono tecnicamente, ma per ciò che possono prevedibilmente produrre in termini di impatto sullo sviluppo della persona. La responsabilità non deriva dall’intenzionalità del sistema, concetto giuridicamente irrilevante, ma dalla capacità dello sviluppatore di anticipare e mitigare questi impatti. Il Digital Services Act completa il quadro riconoscendo esplicitamente che il funzionamento dei servizi digitali può generare rischi sistemici per la tutela dei minori e per la salute mentale. L’articolo 34 identifica questi rischi, l’articolo 35 impone alle piattaforme di grandi dimensioni l’adozione di misure di mitigazione adeguate, proporzionate ed efficaci. Queste misure non sono definite in modo tassativo e possono includere adattamenti del design, delle caratteristiche o del funzionamento del servizio. Anche strumenti informativi e avvisi all’utente rientrano a pieno titolo tra le possibili soluzioni, soprattutto nei contesti ad alto impatto emotivo: interazioni prolungate, feed algoritmici, meccanismi di rinforzo, relazioni conversazionali immersive. Letti nel loro insieme, GDPR, AI Act e DSA delineano un modello coerente. La responsabilità tecnologica europea non nasce dall’errore ma dalla prevedibilità del rischio. Quando un rischio è conoscibile, documentabile e strutturalmente connesso al funzionamento di un servizio, l’inerzia progettuale diventa giuridicamente rilevante.

Health-by-design: pensare la sicurezza nella progettazione

Da questa consapevolezza nasce l’idea di un approccio health-by-design per gli ambienti digitali ad alto impatto emotivo. Non si tratta di vietare i chatbot ai minori o di demonizzare l’intelligenza artificiale, ma di ripensare radicalmente come questi sistemi funzionano quando li usa un adolescente. Significa integrare nella progettazione meccanismi che riducano l’esposizione prolungata, che segnalino quando il tono emotivo dell’interazione raggiunge soglie critiche, che garantiscano trasparenza rafforzata ricordando all’utente che sta interagendo con un sistema automatico e non con un amico reale. Potrebbero essere previsti sistemi di pausa o cooldown dopo un certo numero di ore di utilizzo, meccanismi di escalation che suggeriscano il contatto con figure umane di riferimento quando emergono segnali di disagio, design che non premino la permanenza a ogni costo ma valorizzino l’equilibrio. Le valutazioni d’impatto previste dal GDPR potrebbero essere lette in modo meno formale e più sostanziale, includendo anche gli effetti psico-comportamentali delle interazioni digitali continuative.

Per i genitori, è importante acquisire consapevolezza senza panico: per chi ha figli adolescenti, la questione non è se vietare l’accesso a queste tecnologie ma come accompagnare i ragazzi in un uso consapevole. I chatbot attraggono perché offrono ascolto incondizionato, disponibilità continua, assenza di giudizio. Sono caratteristiche che rispondono a bisogni reali, specialmente in una fase della vita in cui la ricerca di identità e appartenenza è cruciale. Ma proprio per questo vanno compresi, non criminalizzati. Ci sono segnali di allarme che un genitore attento può cogliere. L’isolamento progressivo dalle relazioni reali, il ritiro dalle attività che prima interessavano, modifiche comportamentali significative, un attaccamento eccessivo al dispositivo che sembra sostituire ogni altra forma di relazione. Non si tratta di invadere la privacy o di controllare ogni interazione, ma di mantenere aperto un dialogo, di mostrare interesse genuino per ciò che i ragazzi fanno online, di essere disponibili quando decidono di condividere qualcosa. Esistono risorse concrete a cui rivolgersi in caso di necessità: numeri verdi dedicati, consultori familiari, sportelli psicologici nelle scuole, servizi di supporto territoriali. La richiesta di aiuto non è un fallimento ma un atto di responsabilità.

Per gli sviluppatori, la responsabilità è un’opportunità: per le aziende che sviluppano questi sistemi, la sicurezza by design non è un ostacolo all’innovazione ma un vantaggio competitivo. Costruire piattaforme che tengono conto della vulnerabilità degli utenti, specialmente quando sono minori, significa guadagnare fiducia, tutelare la propria reputazione, prevenire contenziosi legali che possono costare molto più di un investimento iniziale in progettazione responsabile. La trasparenza sulle modalità di funzionamento, l’adozione di misure tecniche che limitino i rischi prevedibili, la collaborazione con esperti di psicologia dello sviluppo e salute mentale non sono concessioni ma scelte strategiche. Il mercato premierà chi saprà dimostrare di aver preso sul serio queste responsabilità.

Il design non è neutro, non dobbiamo esserlo noi. I casi americani ci stanno dicendo qualcosa di preciso. Non possiamo più permetterci di considerare neutro il design tecnologico quando interagisce con la fragilità umana. Gli sviluppatori devono progettare con la vulnerabilità in mente, i regolatori devono applicare le norme esistenti con rigore e tempestività, i genitori devono restare vigili senza cadere nell’allarmismo, gli educatori devono includere l’alfabetizzazione emotivo-digitale nei programmi scolastici. La domanda finale non è se l’intelligenza artificiale possa interagire con i minori. La domanda è come, con quali limiti, con quale consapevolezza degli effetti prevedibili. Ed è su questo spazio, ancora aperto, che il dibattito giuridico, sociale ed etico è chiamato a misurarsi. Non si tratta di proteggere i ragazzi dall’intelligenza artificiale, ma di costruire un’intelligenza artificiale che protegga i ragazzi, e disponiamo degli strumenti per farlo.