Allarme IWF: boom di materiale d’abuso su minori generato dall’AI. E adesso?

L’innovazione corre, ma anche il lato oscuro. I nuovi dati sull’aumento di immagini illegali create con l’intelligenza artificiale mettono tutti davanti alle proprie responsabilità: aziende tech, piattaforme, istituzioni e, sì, anche noi utenti. Ecco cosa sta succedendo e cosa dobbiamo pretendere subito.

I numeri che non possiamo ignorare

Secondo l’Internet Watch Foundation, nel solo primo semestre del 2026 sono state individuate 6.310 immagini illegali di abuso su minori generate dall’AI, circa il 40% in più rispetto all’intero 2025. Lo riporta il The Guardian, sottolineando che si tratta di contenuti fotorealistici e che la maggior parte delle immagini analizzate riguarda bambine tra i 7 e i 13 anni.

È un dato parziale: parliamo solo di ciò che gli analisti riescono a intercettare e classificare. La scala reale del fenomeno è, con ogni probabilità, molto più ampia. E mentre le cifre ufficiali considerate sono relative alle immagini statiche, si registra un’impennata anche nei video generati o manipolati con l’AI, una tendenza che peggiora ulteriormente l’impatto e la diffusione del problema.

Un’immagine artificiale, un danno reale

L’idea che “nessuno sia stato coinvolto” perché il contenuto è sintetico è una pericolosa illusione. La produzione e la circolazione di materiale che sessualizza minori (anche se creato artificialmente) alimenta la domanda, normalizza l’abuso e colpisce persone reali attraverso deepfake, minacce e ricatti. Un danno concreto, non virtuale.

Perché l’AI cambia la scala del problema

L’intelligenza artificiale abbassa drasticamente costi, competenze e tempi di produzione, tra generatori di immagini, video e modelli aperti. In parallelo, la distribuzione è istantanea, tra social, piattaforme di messaggistica e siti specializzati. È la combinazione che fa esplodere il fenomeno.

La sfida per il contrasto del fenomeno è tecnica e organizzativa: i criminali sperimentano senza sosta per aggirare i controlli; i sistemi di rilevazione faticano a riconoscere contenuti sintetici che imitano volti minorili; i watermark sono spesso rimovibili; le policy non sono armonizzate tra piattaforme e Paesi. Servono risposte coordinate e standard comuni.

Responsabilità: chi deve agire e come

Piattaforme e social

• Safety by default: rilevazione proattiva di materiale di abuso su minori (reale e sintetico), revisione prioritaria e blocco automatico alla prima pubblicazione.
• Modelli di rilevazione multimodali per individuare minori, età apparente e contesto, con soglie conservative e supervisione umana.
• Hashing e condivisione di segnature tra aziende e organizzazioni accreditate per impedire ri-upload e varianti.
• Friction e verifiche su account che tentano pattern di abuso: limitazioni, KYC mirato, collaborazione immediata con le autorità.

Aziende che sviluppano AI

• Guardrail robusti a livello di modelli e interfacce: blocco sistematico di prompt che sessualizzano minori, anche in forma ambigua (es. “age regression”, “giovanile”).
• Provenance e watermark resilienti integrati by design, con standard aperti e verificabili a valle dalle piattaforme.
• Audit e incident response: monitoraggio di abusi, canali rapidi di segnalazione, sospensione di chi elude ripetutamente i controlli.
• Cooperazione strutturata con IWF, NCMEC e organismi equivalenti per condividere segnature, pattern e dataset di addestramento alla rilevazione.

Istituzioni

• Quadro normativo chiaro che equipari esplicitamente il materiale sintetico di abuso su minori al materiale reale, con sanzioni effettive.
• Standard minimi per piattaforme e provider AI: log di provenienza, tempi massimi di rimozione, trasparenza sui volumi di blocco e segnalazione.
• Risorse a vittime e forze dell’ordine: fondi, formazione e strumenti forensi basati su AI per l’individuazione rapida.
• Coordinamento internazionale per rendere esecutiva la rimozione cross-border e l’azione penale.

Strumenti e segnali di speranza

Accanto alla crescita del fenomeno, cresce anche la consapevolezza. Nel Regno Unito il servizio Report and Remove ha ricevuto 420 segnalazioni da bambini su immagini falsificate o manipolate, già oltre le 397 dell’intero 2025. In Italia, realtà come PermessoNegato supportano la rimozione rapida di contenuti illeciti e l’assistenza alle vittime.

L’AI, insomma, non è solo lo strumento del problema: è anche parte della soluzione. Modelli di rilevazione dedicati, hashing più evoluto, tracciabilità dell’origine possono rendere la vita difficile ai criminali. Ma servono investimenti continui, collaborazione e misure obbligatorie, non solo volontarie.

Cosa possono fare oggi aziende e genitori

Per le aziende

• Policy chiare su CSAM sintetico e reale, con escalation interna e canali dedicati di segnalazione.
• Integrazione di strumenti di rilevazione e blocco nei flussi di upload, moderazione e advertising.
• Formazione del personale per riconoscere segnali di abuso e gestire correttamente prove e segnalazioni.
• Trasparenza periodica su rimozioni, tempi di risposta e cooperazione con le autorità.

Per genitori e utenti

• Ridurre al minimo la condivisione di foto e video dei figli online; controllare privacy e platea.
• Educazione digitale su consenso, rischi dei deepfake e come chiedere aiuto in caso di abuso.
• Segnalare subito contenuti illeciti alle piattaforme e alle autorità; non interagire con gli autori.
• Conservare le prove per gli investigatori e rivolgersi a servizi dedicati alla rimozione.

Conclusione

La tecnologia non è neutra quando impatta sui più vulnerabili. Mettere la protezione dei bambini al centro dell’innovazione non è uno slogan: è una scelta concreta di prodotto, di policy e di mercato. Pretendiamola, ogni giorno, da chi costruisce e da chi ospita l’AI.

👉 Per scoprire tutti i dettagli e l’opinione personale di Mario Moroni, ascolta la puntata completa su Spotify.