Riconoscimento facciale a Londra: mezzo milione di volti, zero arresti. L’AI è pronta per la sicurezza?

Telecamere “intelligenti”, grandi promesse, pochi risultati. A Londra il test del riconoscimento facciale in stazione ha prodotto un solo allarme, per giunta sbagliato. Tra costi alti e falsi positivi, la domanda è semplice: quanto deve essere affidabile una tecnologia prima di finire sulle nostre strade?

I numeri che contano: quando i dati raffreddano l’entusiasmo

La British Transport Police ha sperimentato il riconoscimento facciale dal vivo in alcune tra le stazioni più affollate della capitale. Il bilancio? Più di mezzo milione di volti scansionati, 18 interventi, oltre 320.000 sterline di spesa tra attrezzature e risorse. Risultato operativo: un solo alert generato dal sistema (rivelatosi un falso positivo) e nessun arresto. Lo riporta un’inchiesta citata dal The Guardian.

Cosa dicono (davvero) questi risultati

• Precisione pratica quasi nulla: se l’unico allarme è sbagliato, la capacità del sistema di fornire “segnalazioni utili” è, nei fatti, pari a zero.
• Costo/beneficio sbilanciato: quando spendi centinaia di migliaia di sterline per ottenere un falso allarme, non stai comprando sicurezza: stai comprando complessità.
• Rischio reputazionale: errori così evidenti minano la fiducia pubblica e complicano qualsiasi futura adozione su larga scala.

Perché il riconoscimento facciale crolla nel mondo reale

Il problema non è solo l’algoritmo. È il contesto. Le stazioni sono ambienti estremi per il riconoscimento: persone in movimento, volti parzialmente coperti, angoli variabili, luci difficili, folla. In più, c’è il lato operativo: chi stiamo cercando? Con quale probabilità passerà da lì e quando? Le “watchlist” devono essere aggiornate, bilanciate e a rischio legale controllato. Le telecamere vanno posizionate con criterio. La qualità dei frame conta quanto (se non più) del modello.

Falsi positivi: non è un dettaglio tecnico

Un falso positivo non è solo un fastidio per i tecnici. È tempo sprecato per gli agenti, è un cittadino innocente fermato o controllato, è fiducia pubblica che evapora. Quando parliamo di sicurezza, l’errore costa. E se colpisce gruppi specifici in modo sproporzionato, i problemi si moltiplicano.

“Live” contro “post-evento”

I modelli funzionano meglio in analisi post-evento e in contesti controllati. A freddo si possono ripulire i dati, confrontare più immagini, tarare soglie e rianalizzare. Nel live, invece, ogni millisecondo è una scelta: abbassi la soglia e aumenti i falsi positivi; la alzi e rischi di sbagliare le corrispondenze. Non è banale.

Soldi pubblici, metriche chiare e responsabilità

Quando paga il contribuente, la tecnologia deve rispondere a metriche pubbliche e obiettivi misurabili. Una sperimentazione ha senso se porta apprendimento e risultati, non solo comunicati stampa. Prima di scalare, servono paletti concreti:

• Soglie di affidabilità minime: tassi di falsi positivi e falsi negativi dichiarati, con margini accettabili per contesti sensibili.
• Hit rate attribuibile: quante azioni efficaci nascono davvero dalla tecnologia e non dal lavoro umano standard?
• Audit indipendenti: valutazioni esterne su bias, sicurezza dei dati, catena di custodia e rispetto delle norme.
• Adattamento al contesto: un sistema per la metropolitana non si “copia e incolla” sull’autostrada. Condizioni e obiettivi cambiano, così come i modelli da usare.
• Trasparenza: pubblicare regolarmente risultati, limiti e costi. La fiducia si costruisce con i numeri, non con gli slogan.

Come rendere utile questa tecnologia

Modelli “smart” e regole rigorose

Il futuro praticabile passa da modelli specializzati per compiti specifici e da architetture di verifica multilivello (ad esempio, riconoscimento + contesto + controllo umano). Watchlist più piccole e verificate, impostazioni conservative e “privacy by design” non sono orpelli etici: sono ciò che riduce l’errore e aumenta l’utilità.

Dove ha senso oggi

La tecnologia è più matura in scenari stabili e normati: varchi controllati, ambienti con illuminazione prevedibile, flussi gestibili. Anche su strada, dove il compito è diverso (come il rilevamento delle targhe o di comportamenti specifici), l’AI può dare una mano se il problema è ben definito e l’immagine è chiara. Nel caos delle grandi stazioni, invece, serve ancora lavoro su misura prima di promettere miracoli.

La domanda chiave per le città (e per noi)

Vogliamo più sicurezza, non più sorveglianza inefficace. Finché il rapporto tra costi, errori e risultati resta questo, l’adozione su larga scala è prematura. La priorità non è “mettere l’AI dappertutto”, ma dimostrare che, in un contesto preciso, porta benefici misurabili senza scaricare gli errori sui cittadini.

Se ti piacciono i progetti indipendenti che mettono al centro persone e tecnologia, dai uno sguardo anche ad Achille & KiPI su Kickstarter.

👉 Per scoprire tutti i dettagli e l’opinione personale di Mario Moroni, ascolta la puntata completa su Spotify.