Deepfake a scuola: dati, rischi reali e cosa possiamo fare subito

La foto è falsa, l’umiliazione è reale. A scuola e in università i deepfake stanno colpendo in modo sproporzionato ragazze e donne. E no, non è una “goliardata”: è un danno che lascia tracce, online e fuori.

Deepfake a scuola: i numeri che non possiamo ignorare

Cosa dice l’analisi di Cybernews

Un’analisi di Cybernews, basata su episodi legati a scuole e università raccolti in un database di settore, mette a fuoco una dinamica precisa e inquietante:

• Il 71% degli episodi registrati riguarda contenuti a sfondo sessuale.
• Nei casi in cui il genere è noto, il 97% delle vittime sono ragazze e donne.
• Quando è disponibile l’età, il 72% delle vittime sono minorenni.
• Gli studenti risultano creatori nel 57% dei casi; insegnanti e personale nell’18%.

Questi dati non dicono quanto il fenomeno sia diffuso in assoluto, ma indicano una tendenza chiara: gli strumenti di intelligenza artificiale abbassano le barriere tecniche e rendono più facile colpire chi è più esposto: ragazze, spesso minorenni.

Perché colpiscono soprattutto ragazze e minorenni

Le ragioni sono culturali e tecnologiche. Da un lato, persiste una cultura sessista che normalizza l’oggettificazione femminile, specialmente nell’adolescenza, dove la pressione sociale e l’ansia di accettazione amplificano il danno. Dall’altro, l’AI generativa consente a chiunque, senza competenze avanzate, di produrre immagini credibili in pochi minuti. Il risultato è un mix tossico: facilità d’uso, viralità istantanea, scarsa consapevolezza delle conseguenze.

Consenso, responsabilità e legge

Chi crea e chi condivide: entrambi responsabili

Un punto chiave spesso rimosso: creare un deepfake senza consenso è un atto lesivo. Condividerlo aggrava il danno e può avere conseguenze legali. Anche quando il contenuto è “solo” allusivo o “per scherzo”, l’effetto è reale: reputazione distrutta, ansia, isolamento, impatto sulla vita scolastica e futura. La giustificazione “è digitale, non è come dal vivo” non regge: la traccia online resta, si replica e sfugge al controllo.

Il ruolo di piattaforme e strumenti AI

Le piattaforme e i tool di AI hanno responsabilità concrete:

• Filtri proattivi per bloccare il nudity swapping e il face swapping non consensuale.
• Watermarking e tracciabilità dei contenuti generati, per facilitare segnalazioni e rimozioni.
• Procedure rapide di take-down e conservazione delle prove per eventuali azioni legali.

La tecnologia non è neutra: se facilita l’abuso, deve anche facilitare la protezione.

Scuole in prima linea: cosa fare adesso

Educazione all’AI e cittadinanza digitale

Non basta parlare di “competenze digitali”. Serve un percorso continuo su consenso, rispetto e conseguenze. Alcune mosse immediate:

• Moduli obbligatori su deepfake, privacy e sextortion per studenti, docenti e famiglie.
• Esercitazioni pratiche: come riconoscere contenuti manipolati, come verificare le fonti, come reagire senza amplificare l’abuso.
• Contratti educativi di istituto: regole chiare su creazione, condivisione, segnalazione; sanzioni graduate ma effettive.

Procedure chiare di segnalazione e supporto

Quando succede, ogni minuto conta. La scuola deve poter agire subito:

• Canale dedicato (anche anonimo) per segnalazioni rapide.
• Protocollo step-by-step: raccolta delle prove (screenshot, URL), contatto con piattaforme, informativa alle famiglie, supporto psicologico.
• Rete territoriale: associazioni, sportelli anti-bullismo, forze dell’ordine, consulenza legale.

Prevenzione tecnica e policy

• Blocchi e filtri sui device scolastici per tool noti di nudity/face swap.
• Policy BYOD (porta il tuo dispositivo) con regole d’uso e conseguenze trasparenti.
• Formazione dei docenti sui segnali d’allarme e sulle procedure di escalation.

Attenzione al linguaggio: non è una “goliardata”

Minimizzare fa danni. Parlare di “scherzo” sposta la responsabilità dalla violenza all’autoironia della vittima. Il messaggio da passare è netto: la manipolazione dell’immagine altrui senza consenso è abuso. Non normalizziamolo nei corridoi, non spettacolarizziamolo online. Ogni condivisione è una seconda aggressione.

Il punto: preparare i ragazzi significa anche proteggere

L’AI è potente e rimarrà con noi. Preparare gli studenti non vuol dire solo insegnare a usarla, ma come usarla nel rispetto degli altri, con senso del limite e responsabilità. Le scuole possono diventare il primo baluardo: educazione, regole, tempestività. Le piattaforme devono fare la loro parte. E noi adulti, dentro e fuori l’aula, dobbiamo alzare gli standard, non le spalle.

👉 Per scoprire tutti i dettagli e l’opinione personale di Mario Moroni, ascolta la puntata completa su Spotify.