Un système de reconnaissance faciale conduit à une arrestation injustifiée

L’Intelligence Artificielle en charge du contrôle biométrique a nommé un homme noir comme l’auteur de vols alors qu’il n’était même pas sur les lieux du crime.

Le système de reconnaissance faciale a identifié par erreur un individu accusé de crime. Sauf que la personne n’était même pas sur le lieu en question. Une nouvelle situation qui a de nouveau attiré l’attention sur la disparité raciale dans l’utilisation de l’intelligence artificielle et de la biométrie.

Il n’avait jamais mis les pieds dans le lieu surveillé !

Randall Reid, 28 ans, a été arrêté fin novembre 2022 dans l’État de Géorgie. Son avocat a déclaré que les autorités avaient accusé à tort Reed d’avoir volé des portefeuilles en Louisiane. Le plus inquiétant, Reed n’a jamais mis les pieds en Louisiane. Il a été libéré cinq jours aprés son arrestation !

Reed est noir et son arrestation attire une attention renouvelée sur l’utilisation de la technologie qui, selon les critiques, conduit à des niveaux plus élevés d’erreur d’identification.

Les lois officielles stipulent que les outils de reconnaissance faciale ne peuvent être utilisés que pour générer des prospects, et seulement après le dépôt d’une demande formelle approuvée, des mesures destinées à lutter contre les abus. Mais Reid a été arrêté après qu’une pièce d’identité bâclée ait incité un responsable à délivrer un mandat, qui a ensuite été triangulé avec les autorités géorgiennes et la biométrie !

Doigt dans l’œil pour l’IA biométrique

Un détective du comté a obtenu un mandat d’arrêt affirmant que Reed faisait partie des trois hommes impliqués dans un vol de sac à main. Cependant, en raison de différences dans l’apparence de Reed, le shérif a annulé le mandat. Il a remarqué un grain de beauté sur le visage du suspect et une grande différence de poids (environ 18 kg) entre Reed et le vrai voleur dans les images de surveillance.

Malgré ce genre de bévu, un rapport du Pew Research Center de 2022 a révélé que les Américains étaient plus susceptibles de considérer la reconnaissance faciale par la police comme étant bonne plutôt que mauvaise. Dans ce même rapport, cependant, 66% des adultes américains ont déclaré qu’ils pensaient que la technologie de reconnaissance faciale serait utilisée pour surveiller les quartiers noirs et hispaniques beaucoup plus fréquemment que les autres quartiers.

Robocop biométrique

En république dominicaine, la biométrie employée par les autorités aurait permis d’arrêter 843 suspects de crimes, et cela en 4 mois. L’application biométrique indique aux patrouilleurs si la personne qu’ils ont arrêtée a un casier judiciaire, possède une arme à feu ou est en fuite. Il leur suffit de scanner simplement le visage d’un individu.

Le système extrait des informations d’une base de données gouvernementale contenant des informations biométriques sur plus de 10 millions de personnes. L’écran devient rouge s’il s’avère que la personne interpellée dispose d’un mandat d’arrêt. La couleur verte signifie que la personne n’a pas de condamnations et d’infractions à son actif. Jaune indique que la personne a un casier judiciaire. La couleur grise signifie que la personne possède une arme à feu.