La Mancanza di Trasparenza negli Arresti Effettuati tramite il Riconoscimento Facciale IA Suscita Preoccupazioni

Un’inchiesta pubblicata oggi da The Washington Post rivela che centinaia di americani sono stati arrestati a causa della tecnologia di riconoscimento facciale, senza mai essere informati del suo utilizzo.

L’indagine ha scoperto più di 1.000 casi penali in 15 stati in cui la polizia non ha rivelato la sua dipendenza dalla tecnologia, spesso mascherando il suo ruolo attribuendo l’identificazione del sospetto a “mezzi investigativi” o testimoni.

Questa mancanza di trasparenza solleva preoccupazioni riguardo l’equità, soprattutto considerando che si è dimostrato che il software di riconoscimento facciale è incline a errori, specialmente nell’identificare persone di colore.

Ad esempio, il caso di Robert Williams, un uomo di colore, che ha raggiunto un accordo con la città di Detroit a seguito del suo arresto ingiusto nel 2020 a causa di un difettoso riconoscimento facciale.

Il Post riporta che i test federali indicano che i principali software di riconoscimento facciale sono più propensi a non identificare correttamente certi gruppi, inclusi le persone di colore, le donne e gli individui più anziani.

Il motivo di ciò è che le loro caratteristiche facciali sono sottorappresentate nei dati utilizzati per addestrare gli algoritmi. Questa informazione proviene da Patrick Grother, che dirige i test biometrici presso l’Istituto Nazionale di Standard e Tecnologia a Washington, come riportato da The Post.

Il Post ha riferito che a Evansville, nell’Indiana, e a Pflugerville, in Texas, i sospetti sono stati identificati utilizzando la tecnologia di riconoscimento facciale, ma non sono mai stati informati del suo ruolo nel loro arresto. La polizia ha citato le caratteristiche fisiche o le banche dati investigative invece, nascondendo il coinvolgimento del software.

Questo modello è stato comune in molti dipartimenti, con solo 30 su 100 che fornivano registrazioni pertinenti al Post, riflettendo una riluttanza più ampia a divulgare l’uso del riconoscimento facciale.

Il Post spiega che i software di riconoscimento facciale, come Clearview AI, funzionano confrontando le immagini dei luoghi del crimine con enormi database di foto, che includono foto segnaletiche e immagini dei social media.

I critici sostengono che questa pratica metta a rischio le persone innocenti di essere falsamente coinvolte in crimini semplicemente perché la loro immagine appare online, come riportato dal Post. I gruppi per i diritti civili e gli avvocati della difesa sostengono che le persone hanno il diritto di sapere quando vengono identificate da tale tecnologia, soprattutto data la sua suscettibilità all’errore, sottolinea il Post.

The Post afferma che in alcuni recenti casi giudiziari, i risultati del riconoscimento facciale sono stati con successo messi in discussione a causa di dubbi sulla affidabilità della tecnologia. Tuttavia, The Post nota che i dipartimenti di polizia continuano a difendere la loro pratica di non divulgazione, con alcuni che citano il privilegio investigativo come giustificazione.

Nonostante la crescente preoccupazione, la legge federale non richiede attualmente alla polizia di divulgare l’uso del riconoscimento facciale, ha detto The Post. In alcuni stati, come il New Jersey, i tribunali hanno stabilito che gli imputati hanno il diritto di sapere se il riconoscimento facciale è stato utilizzato nel loro caso.

Tuttavia, la maggior parte degli stati non ha un tale requisito, lasciando gli imputati all’oscuro del ruolo che l’IA potrebbe aver avuto nei loro arresti, ha sottolineato The Post.