Instagram ferma i deepfake con Muse Image: cosa è successo, perché conta e come difendersi
Meta ha eliminato la funzione che permetteva di creare immagini con l’IA citando qualunque profilo pubblico con una semplice @. Vittoria delle proteste, sì. Ma il punto resta: quando in mezzo ci sono volti e identità, il consenso non è un dettaglio.
Cos’era la funzione e perché ha fatto infuriare tutti
Per pochi giorni Instagram ha testato un’integrazione dell’intelligenza artificiale che consentiva di generare immagini partendo dalle foto di qualunque profilo pubblico. Bastava menzionare un account con la @ all’interno degli strumenti di Meta (Muse Image) e il sistema usava gli scatti esistenti come riferimento stilistico e visivo, senza chiedere un’autorizzazione specifica al titolare di quell’account.
La reazione è stata immediata: creator, giornalisti, utenti comuni e perfino il sindacato americano degli attori hanno criticato una scelta che, di fatto, trasformava i profili pubblici in mini-dataset sempre pronti per produrre deepfake. Il rischio? Immagini false e realistiche di persone riconoscibili, utili per truffe, molestie, campagne diffamatorie, contenuti sessualizzati e ricatti. Un problema noto da anni, ma qui amplificato dalla facilità d’uso e dalla legittimazione “ufficiale” dentro Instagram.
Dopo le proteste, Meta ha rimosso la funzione e ha ammesso che l’esperimento non aveva centrato l’obiettivo. Anche The Verge ha documentato le criticità e i feedback negativi raccolti in poche ore.
Pubblico non significa riutilizzabile: il problema del consenso
La questione chiave non è tecnica, ma culturale e di prodotto: pubblicare una foto su un profilo pubblico significa renderla visibile, non concedere automaticamente il permesso a trasformarla. La differenza tra visibilità e riuso resta il vero spartiacque del consenso.
L’errore di design: l’opt-out che scarica la responsabilità
Meta aveva previsto un controllo nelle impostazioni per impedire l’uso delle proprie foto. Ma impostare l’opt-out (disattivazione a carico dell’utente) al posto dell’opt-in (consenso esplicito) significa spostare la responsabilità su chi spesso non sa, non capisce o non trova l’opzione giusta in un labirinto di menu. È un pattern già visto: la funzione parte attiva, l’utente deve difendersi.
Minori e immagini: un rischio fuori scala
Il tema è ancora più delicato quando si parla di minori: non hanno strumenti, consapevolezza né voce formale per decidere se e come le loro immagini possano essere usate. La pubblicazione di foto di bambini, anche da parte dei genitori, espone a rischi moltiplicati nell’era dei modelli generativi. Qui la responsabilità non è solo delle piattaforme, ma anche di famiglie, scuole e brand.
La marcia indietro di Meta: buona notizia, problema aperto
Spegnere Muse Image dentro Instagram è una decisione corretta. Ma fermare una singola funzione non elimina il fenomeno. Con screenshot, scraping o altri tool, chi vuole può comunque creare deepfake. La differenza, però, è sostanziale: quando la piattaforma integra attivamente il riuso dei contenuti, abbassa barriere e normalizza comportamenti pericolosi; quando fa un passo indietro, rialza il costo di frizione e manda un segnale normativo all’intero ecosistema.
Resta aperta la sfida di lungo periodo: costruire prodotti che mettano il consenso al centro, con impostazioni predefinite protettive, trasparenza sui dati usati per addestrare o ispirare l’IA, etichette chiare sui contenuti generati e strumenti rapidi per rimuovere abusi e ricorsi efficaci per gli utenti colpiti.
Cosa imparano creator, brand e utenti
Qualche pratica concreta per ridurre il rischio (e guadagnare controllo) già da oggi:
- Ripensa le impostazioni di visibilità. Valuta se passare a un profilo privato per album sensibili o archivi storici. La privacy non è binaria: puoi segmentare cosa resta pubblico e cosa no.
- Riduci il valore “riusabile” degli scatti. Evita pose standard, sfondi neutri e alta risoluzione per volti che non vuoi finiscano nei dataset informali. Non è una soluzione definitiva, ma aumenta l’attrito per i generatori.
- Proteggi i minori per default. Se proprio pubblichi, sfoca i volti, rimuovi dettagli identificativi (scuola, indirizzo, routine) e limita la geolocalizzazione. Meglio ancora: evita la pubblicazione.
- Monitora e reagisci velocemente. Usa gli strumenti di segnalazione di Instagram per deepfake, molestie e nudità non consensuale. Documenta gli abusi con screenshot e timestamp: serve per le richieste di rimozione e per eventuali azioni legali.
- Inserisci clausole anti-deepfake nei contratti. Per creator e brand: prevedi divieti espliciti di uso AI non autorizzato dell’immagine, procedure di take-down e penali. La contrattualizzazione aiuta quando il contenuto viaggia fuori piattaforma.
- Watermark? Utile ma non risolutivo. Può scoraggiare riusi “amatoriali”, ma non ferma i modelli avanzati. Non affidarti solo a questo.
- Trasparenza e formazione interna. Team social e agenzie devono conoscere policy, rischi e procedure: chi decide in ore di crisi deve sapere come muoversi.
Domande aperte per il prossimo round
La vicenda illumina tre nodi che torneranno presto:
- Consenso esplicito come standard di piattaforma. L’opt-in deve diventare la regola per qualunque funzione IA che riusa volti e contenuti degli utenti.
- Tracciabilità dei contenuti generati. Etichette chiare, metadati resistenti e policy di rimozione accelerate per i deepfake dannosi.
- Tutela dei soggetti vulnerabili. Minori e categorie a rischio richiedono default più protettivi e canali privilegiati per la protezione dell’immagine.
In sintesi: la marcia indietro di Meta è un segnale importante, ma non basta. Il confine tra “visibile” e “riusabile” va ridisegnato con regole chiare, scelte di design responsabili e una cultura del consenso che non scarichi l’onere sull’utente.
Iscriviti alla newsletter e ricevi ogni mattina la puntata con le fonti.
👉 Per scoprire tutti i dettagli e l’opinione personale di Mario Moroni, ascolta la puntata completa su Spotify.