Deepfake nelle scuole: la nuova frontiera del cyberbullismo

Il fenomeno del deepfake scolastico

Tra tutte le manifestazioni della minaccia deepfake ai minori, quella che ha raggiunto le proporzioni più allarmanti nel biennio 2025-2026 è l’utilizzo di strumenti AI da parte degli studenti stessi per creare immagini sessualmente esplicite dei propri compagni di classe. Questo fenomeno, documentato in modo estensivo dalla Associated Press nel dicembre 2025, rappresenta una forma di cyberbullismo qualitativamente diversa da qualsiasi precedente.

Il caso emblematico è quello di una scuola media in Louisiana, dove immagini nude generate dall’AI si sono diffuse rapidamente tra gli studenti. Due ragazzi sono stati infine incriminati, ma non prima che una delle vittime fosse espulsa per aver iniziato una rissa con il ragazzo che accusava di aver creato le immagini di lei e delle sue amiche. Come ha dichiarato lo sceriffo della Parish di Lafourche, Craig Webre, sebbene la capacità di alterare le immagini esista da decenni, l’avvento dell’AI ha reso incredibilmente facile per chiunque alterare o creare tali immagini senza alcuna formazione o esperienza.

Il caso della Louisiana non è isolato. Negli anni recenti si sono moltiplicati i casi di studenti che utilizzano deepfake per prendere in giro o bullizzare i propri compagni. Il TAKE IT DOWN Act, la prima legge federale americana specificamente rivolta a questo fenomeno, è nato proprio da un incidente del 2023 in una scuola superiore ad Aledo, in Texas, dove diversi studenti sono stati vittime di molestie sessuali quando un compagno ha preso loro foto apparentemente innocue e le ha pubblicate manipolate su Snapchat attraverso un account anonimo, utilizzando software esistente per farle apparire nude.

La scala del problema: dati dal National Center for Missing and Exploited Children

La dimensione quantitativa del fenomeno è sconvolgente. Il National Center for Missing and Exploited Children (NCMEC) ha riportato che il numero di immagini di abuso sessuale su minori generate dall’AI segnalate alla sua cyber tipline è esploso da 4.700 nel 2023 a 440.000 nei soli primi sei mesi del 2025 — un incremento di quasi cento volte in meno di due anni. La CyberTipline del NCMEC ha ricevuto complessivamente più di 500.000 segnalazioni di truffe di sextortion rivolte a minori nel solo 2024.

In ambito scolastico, un sondaggio di Education Week del 2024 ha rivelato che due terzi degli educatori riferiscono che i loro studenti sono stati ingannati da deepfake. Un sondaggio del 2025 condotto da Incogni e dalla National Organization for Women ha mostrato che una donna americana su quattro ha subito abusi online, con il 9% che riguarda abusi sessuali e il 2% specificamente impatto da deepfake. Le ragazze sono molto più colpite dei ragazzi nel bullismo scolastico, e gran parte di questo bullismo avviene online o attraverso messaggi di testo.

Dall’autore al complice: quando i minori sono sia vittime che perpetratori

Un aspetto particolarmente complesso del fenomeno dei deepfake scolastici è che i minori possono essere contemporaneamente vittime e autori. Come osserva la Prof.ssa Rebecca Delfino della Loyola Marymount University, il comportamento che osserviamo nei minori non è sostanzialmente diverso dai modelli di crudeltà, umiliazione, sfruttamento e bullismo che i giovani hanno sempre praticato tra loro. La differenza risiede non solo nell’uso della tecnologia per attuare questi comportamenti, ma nella facilità con cui il materiale viene diffuso.

Studenti sono stati perseguiti penalmente in Florida e Pennsylvania ed espulsi in luoghi come la California. Un caso particolarmente inquietante ha coinvolto un insegnante di quinta elementare in Texas, accusato di aver utilizzato l’AI per creare pornografia infantile raffigurante i propri studenti. Nel 2025, almeno la metà degli stati americani ha emanato legislazione specifica riguardante l’uso dell’AI generativa per creare immagini e suoni realistici ma fabricati, secondo la National Conference of State Legislatures.

Il trauma psicologico causato dai deepfake ha caratteristiche peculiari rispetto al bullismo tradizionale. I deepfake AI sono diversi dalle forme tradizionali di bullismo perché creano un tipo di danno permanente e virale: le immagini possono essere copiate, condivise e ripubblicate infinite volte, rendendo impossibile per la vittima recuperare il controllo sulla propria immagine. Le vittime possono essere costrette a ritirarsi dalla vita online a causa della diffusione di immagini non consensuali. La ricerca indica che l’abuso sessuale basato su immagini ha impatti negativi sulla salute mentale paragonabili a quelli della violenza sessuale offline.

Il ruolo delle scuole: impreparazione e sindrome dello struzzo

Sameer Hinduja, co-direttore del Cyberbullying Research Center e professore di Criminologia alla Florida Atlantic University, descrive la portata del problema come “sbalorditiva” e raccomanda che le scuole aggiornino le proprie politiche sui deepfake generati dall’AI e migliorino la propria capacità di spiegarli. L’obiettivo è che gli studenti non pensino che il personale e gli educatori siano completamente ignari, il che potrebbe far sentire loro di poter agire impunemente.

Hinduja osserva che molti genitori presumono che le scuole stiano affrontando il problema quando in realtà non lo fanno. Descrive una diffusa “sindrome dello struzzo” in ambito scolastico: dirigenti e insegnanti che seppelliscono la testa nella sabbia, sperando che il fenomeno non stia accadendo tra i loro giovani. Questa impreparazione è pericolosa perché crea un vuoto di responsabilità in cui né la scuola né i genitori affrontano attivamente il problema.

Laura Tierney, fondatrice e CEO del Social Institute, un’organizzazione che educa all’uso responsabile dei social media, conferma che il numero di deepfake AI è in crescita e che un numero sempre maggiore di studenti — prevalentemente ragazze — ne viene colpito. Le scuole necessitano urgentemente di programmi educativi specifici, protocolli di intervento aggiornati e formazione del personale sulla gestione di questi incidenti.

Estratto da Infanzia Algoritmica: Intelligenza Artificiale, Minori e Salute di Giuseppe Siciliani Disponibile su Amazon