Quando l'AI non ti vede: il bias razziale negli output visivi

I workshop scozzesi: frustrazione e invisibilità

Una delle scoperte più toccanti e politicamente significative degli workshop del Turing Institute con i bambini scozzesi riguarda il bias razziale negli output dell’AI generativa. Durante le sessioni pratiche, i bambini di colore spesso si sentivano frustrati o turbati dal fatto che gli strumenti di AI generativa non producevano immagini che li rappresentavano. Quando un bambino chiede all’AI di generare un’immagine e il risultato sistematicamente non riflette le sue caratteristiche fisiche, il messaggio implicito è potente e dannoso: tu non esisti nel mondo che l’AI conosce.

Questo risultato qualitativo conferma quantitativamente ciò che la letteratura sui bias algoritmici ha documentato a livello teorico: i dataset di addestramento, prevalentemente composti da immagini di persone bianche provenienti da contesti occidentali, producono sistemi che riflettono e amplificano la sottorappresentazione delle minoranze. Per un bambino di 9-10 anni, l’esperienza di essere “invisibile” per un sistema tecnologico percepito come autorevole e onnisciente può avere effetti significativi sull’autostima e sul senso di appartenenza. Come documenta lo studio, i bambini che sentivano che gli output dell’AI generativa non riflettevano la loro identità o i loro interessi erano meno propensi a voler utilizzare l’AI generativa in futuro.

Questo fenomeno rappresenta un caso emblematico di come il bias tecnico si traduca in danno psicologico concreto per i minori. L’esclusione algoritmica non è un’astrazione: è un bambino che si sente non visto, non rappresentato, non considerato. La responsabilità ricade sia sugli sviluppatori dei modelli (che devono garantire dataset diversificati) sia sugli educatori (che devono preparare i bambini a riconoscere e contestare il bias) sia sui regolatori (che devono imporre standard di inclusività negli output dell’AI).

Estratto da Infanzia Algoritmica: Intelligenza Artificiale, Minori e Salute di Giuseppe Siciliani Disponibile su Amazon