Il Ministero dell'Interno ammette che la tecnologia di riconoscimento facciale identifica erroneamente le minoranze

I ministri sono sotto pressione per rafforzare le misure di sicurezza sul riconoscimento facciale dopo che il Ministero dell'Interno ha ammesso che la tecnologia ha maggiori probabilità di identificare erroneamente persone di colore e asiatiche in alcune impostazioni.

Il Ministero dell'Interno ha affermato che è "più probabile che includa erroneamente alcuni gruppi demografici nei risultati di ricerca".

I commissari di polizia e criminalità hanno affermato che i risultati "fanno luce su un preoccupante pregiudizio insito" e hanno invitato alla cautela mentre il governo si muove verso un'espansione nazionale della tecnologia.

I risultati sono emersi poche ore dopo che il ministro della polizia Sarah Jones aveva descritto il riconoscimento facciale come "la più grande svolta dai tempi della comparazione del DNA".

La tecnologia scansiona i volti e confronta le immagini con le liste di controllo di criminali noti o ricercati. Può essere implementata su riprese di telecamere in tempo reale in spazi pubblici o utilizzata retrospettivamente per identificare i sospettati attraverso i database della polizia, dei passaporti o dell'immigrazione.

A un livello di sistema più basso, gli analisti hanno riscontrato notevoli disparità razziali.

Il rapporto afferma: "Il tasso di identificazione dei falsi positivi (FPIR) per i soggetti bianchi (0.04%) è inferiore a quello dei soggetti asiatici (4.0%) e dei soggetti neri (5.5%).

“L’FPIR per i soggetti maschi neri (0.4%) è inferiore a quello per i soggetti femmine neri (9.9%).”

L'Associazione dei commissari di polizia e criminalità ha affermato che i dati hanno confermato un pregiudizio insito nel sistema.

Affermava: "Ciò significa che in alcune circostanze è più probabile che vengano abbinate erroneamente persone nere e asiatiche rispetto alle loro controparti bianche.

"Il linguaggio è tecnico, ma dietro i dettagli sembra chiaro che la tecnologia è stata impiegata nelle attività di polizia operative senza adeguate misure di salvaguardia."

Nella dichiarazione si chiedeva perché i risultati non fossero stati condivisi prima con le comunità interessate.

Affermava: "Sebbene non vi siano prove di effetti negativi in ​​nessun caso specifico, si tratta più di fortuna che di premeditazione.

“I guasti del sistema sono noti da tempo, ma non sono stati condivisi con le comunità interessate, né con i principali stakeholder del settore.”

Il governo ha avviato una consultazione pubblica di 10 settimane volta ad ampliare l'uso del riconoscimento facciale da parte della polizia.

Verrà chiesto ai cittadini se sia opportuno consentire alla polizia di effettuare ricerche al di fuori dei registri esistenti, compresi i database dei passaporti e delle patenti di guida, per individuare i sospettati.

I funzionari pubblici stanno inoltre collaborando con la polizia per realizzare un nuovo sistema nazionale di riconoscimento facciale che dovrebbe contenere milioni di immagini.

Charlie Whelton, responsabile delle politiche e delle campagne presso Liberty, ha messo in guardia dalle gravi conseguenze:

"Il pregiudizio razziale in queste statistiche mostra gli effetti dannosi nella vita reale derivanti dal fatto che la polizia utilizzi il riconoscimento facciale senza le opportune misure di sicurezza.

"Con migliaia di ricerche al mese che utilizzano questo algoritmo discriminatorio, ora ci sono seri interrogativi a cui rispondere su quante persone di colore siano state identificate falsamente e quali conseguenze ciò abbia avuto.

"Questo rapporto è l'ennesima prova che questa tecnologia potente e opaca non può essere utilizzata senza l'adozione di solide misure di sicurezza per proteggerci tutti, tra cui una reale trasparenza e un controllo significativo.

"Il governo deve fermare la rapida implementazione della tecnologia di riconoscimento facciale finché non saranno implementate per proteggere ciascuno di noi e dare priorità ai nostri diritti, cosa che sappiamo essere auspicabile per il pubblico".

Preoccupazioni sono state sollevate anche da esponenti politici di alto livello. L'ex ministro David Davis ha reagito dopo che i vertici della polizia hanno suggerito di installare telecamere nei centri commerciali, negli stadi e negli snodi dei trasporti:

Benvenuti al Grande Fratello Gran Bretagna. È chiaro che il governo intende diffondere questa tecnologia distopica in tutto il Paese.

"Una cosa di questa portata non dovrebbe accadere senza un dibattito approfondito e approfondito alla Camera dei Comuni."

Le autorità sostengono che il riconoscimento facciale sia necessario per individuare i trasgressori più gravi. Affermano che le misure di sicurezza manuali sono integrate nella formazione, nelle pratiche operative e nelle linee guida.

In questo modo, tutti i potenziali risultati provenienti dal database nazionale della polizia devono essere esaminati visivamente da utenti qualificati e agenti inquirenti.

Un portavoce del Ministero degli Interni ha dichiarato:

"Il Ministero dell'Interno prende sul serio i risultati del rapporto e ha già preso provvedimenti."

"È stato testato e acquisito un nuovo algoritmo indipendente, che non presenta distorsioni statisticamente significative. Sarà testato all'inizio del prossimo anno e sarà soggetto a valutazione.

"Data l'importanza di questa questione, abbiamo anche chiesto all'ispettorato di polizia, insieme all'ente regolatore delle scienze forensi, di rivedere l'uso del riconoscimento facciale da parte delle forze dell'ordine.

"Valuteranno l'efficacia delle misure di mitigazione, sostenute dal Consiglio nazionale dei capi della polizia".

I risultati ora sottopongono i piani di espansione del governo a un nuovo esame, poiché i promotori e i commissari chiedono una supervisione più severa prima di un'ulteriore implementazione.