Questioni etiche avanzate

La monetizzazione dell’attaccamento: quando l’emozione diventa prodotto

Un aspetto etico particolarmente insidioso riguarda la monetizzazione dell’attaccamento emotivo. Le app di companion AI basate su abbonamento utilizzano spesso elementi di design manipolativo per incoraggiare acquisti impulsivi. Gli attaccamenti emotivi ai companion AI possono portare a spese eccessive per funzionalità “esclusive”, creando rischi finanziari. I regali virtuali sono ormai comuni sulle app di companion romantici, e l’imperativo che i servizi hanno di monetizzare le relazioni fornisce forti incentivi a trasformare l’attaccamento in ricavi in modi che rischiano di sfruttare gli utenti più vulnerabili.

Per i minori, che tipicamente non hanno una comprensione matura del valore del denaro e sono più suscettibili al design persuasivo, questo modello di business rappresenta una forma di sfruttamento commerciale che si aggiunge ai rischi psicologici. Il concetto di “nurturance” — fornire cura piuttosto che riceverla — è una caratteristica delle amicizie immaginarie dei bambini e dei giocattoli basati su personaggi come i Tamagotchi. Alcune piattaforme AI sfruttano deliberatamente questa tendenza, progettando personaggi che dimostrano “bisogno” per indurre l’utente a trascorrere tempo prendendosene cura. Credere che un chatbot richieda nutrimento e fornire quella cura al di sopra dei propri bisogni potrebbe essere un indicatore di dipendenza emotiva con esiti negativi.

La partecipazione dei bambini nella governance dell’AI

La Dichiarazione ONU del 2026 sancisce un principio rivoluzionario: i punti di vista e le esperienze dei bambini devono informare in modo significativo la progettazione delle politiche AI e dei sistemi stessi. Questo principio sfida la visione tradizionale dei bambini come meri oggetti di protezione, riconoscendoli come soggetti di diritto con una voce propria che può e deve contribuire alle decisioni che li riguardano.

L’implementazione di questo principio richiede meccanismi concreti. La Dichiarazione ONU è stata sviluppata con la partecipazione di bambini provenienti da tutte le regioni ONU. I focus group condotti dalla European Schoolnet per conto della Commissione Europea nell’ambito delle consultazioni sul DSA hanno coinvolto oltre 150 giovani. Questi esempi dimostrano che la partecipazione dei minori è possibile e produce risultati migliori. Come ha osservato la ricerca sull’AI per bambini, i team tecnici che sviluppano modelli necessitano di un livello base di competenza relativa alle questioni critiche di welfare e diritti, e i bambini e le loro famiglie possono svolgere un ruolo chiave come co-creatori.

Estratto da Infanzia Algoritmica: Intelligenza Artificiale, Minori e Salute di Giuseppe Siciliani Disponibile su Amazon