L'app di riconoscimento facciale Mobile Fortify, utilizzata dall'Immigration and Customs Enforcement (ICE), ha identificato erroneamente una donna in stato di fermo in due diverse occasioni, sollevando seri dubbi sull'affidabilità dello strumento.

Dettagli dell'incidente

Durante un tentativo di identificazione e verifica dello status migratorio di una donna arrestata in Oregon, l'app ha restituito due nomi diversi e incorretti. L'episodio mette in discussione l'accuratezza di Mobile Fortify, un'applicazione che, secondo quanto dichiarato dall'ICE ai legislatori, fornisce una determinazione "definitiva" dello status migratorio di una persona, da considerarsi più attendibile di un certificato di nascita.

Preoccupazioni sulla tecnicia

Cooper Quintin, ricercatore sulla sicurezza presso l'Electronic Frontier Foundation, ha espresso preoccupazione per l'uso di questa tecnicia imperfetta per determinare lo status di un individuo e potenzialmente deportarlo. L'incidente ha coinvolto una donna di 45 anni, identificata come MJMA nei documenti del tribunale, arrestata durante un raid. L'avvocato della donna sostiene che l'app non è affidabile e non dovrebbe essere utilizzata sul campo.

Implicazioni e reazioni

Il deputato Bennie G. Thompson ha dichiarato che i risultati dell'app dimostrano che non è né affidabile né accurata e non dovrebbe essere utilizzata sul campo. In precedenza, 404 Media aveva rivelato l'esistenza di Mobile Fortify e aveva scoperto che sia l'ICE che il CBP utilizzano l'app in tutto il paese. È stata anche lanciata una versione dell'app per le forze dell'ordine locali, poi rimossa dal Google Play Store.

Contesto generale

I sistemi di riconoscimento facciale sono da tempo oggetto di preoccupazione per la loro imprecisione, che ha portato all'arresto o all'incriminazione di persone innocenti. Gli errori sono più frequenti nei confronti delle persone di colore. Alcuni ricercatori sostengono che l'uso di una tecnicia così fallibile suggerisce che l'apparenza di un processo sia più importante dell'accuratezza o dell'equità.