Un système de reconnaissance faciale conduit à une arrestation injustifiée

L’Intelligence Artificielle en charge du contrôle biométrique a nommé un homme noir comme l’auteur de vols alors qu’il n’était même pas sur les lieux du crime.

Le système de reconnaissance faciale a identifié par erreur un individu accusé de crime. Sauf que la personne n’était même pas sur le lieu en question. Une nouvelle situation qui a de nouveau attiré l’attention sur la disparité raciale dans l’utilisation de l’intelligence artificielle et de la biométrie.

Il n’avait jamais mis les pieds dans le lieu surveillé !

Randall Reid, 28 ans, a été arrêté fin novembre 2022 dans l’État de Géorgie. Son avocat a déclaré que les autorités avaient accusé à tort Reed d’avoir volé des portefeuilles en Louisiane. Le plus inquiétant, Reed n’a jamais mis les pieds en Louisiane. Il a été libéré cinq jours aprés son arrestation !

Reed est noir et son arrestation attire une attention renouvelée sur l’utilisation de la technologie qui, selon les critiques, conduit à des niveaux plus élevés d’erreur d’identification.

Les lois officielles stipulent que les outils de reconnaissance faciale ne peuvent être utilisés que pour générer des prospects, et seulement après le dépôt d’une demande formelle approuvée, des mesures destinées à lutter contre les abus. Mais Reid a été arrêté après qu’une pièce d’identité bâclée ait incité un responsable à délivrer un mandat, qui a ensuite été triangulé avec les autorités géorgiennes et la biométrie !

Doigt dans l’œil pour l’IA biométrique

Un détective du comté a obtenu un mandat d’arrêt affirmant que Reed faisait partie des trois hommes impliqués dans un vol de sac à main. Cependant, en raison de différences dans l’apparence de Reed, le shérif a annulé le mandat. Il a remarqué un grain de beauté sur le visage du suspect et une grande différence de poids (environ 18 kg) entre Reed et le vrai voleur dans les images de surveillance.

Malgré ce genre de bévu, un rapport du Pew Research Center de 2022 a révélé que les Américains étaient plus susceptibles de considérer la reconnaissance faciale par la police comme étant bonne plutôt que mauvaise. Dans ce même rapport, cependant, 66% des adultes américains ont déclaré qu’ils pensaient que la technologie de reconnaissance faciale serait utilisée pour surveiller les quartiers noirs et hispaniques beaucoup plus fréquemment que les autres quartiers.

Robocop biométrique

En république dominicaine, la biométrie employée par les autorités aurait permis d’arrêter 843 suspects de crimes, et cela en 4 mois. L’application biométrique indique aux patrouilleurs si la personne qu’ils ont arrêtée a un casier judiciaire, possède une arme à feu ou est en fuite. Il leur suffit de scanner simplement le visage d’un individu.

Le système extrait des informations d’une base de données gouvernementale contenant des informations biométriques sur plus de 10 millions de personnes. L’écran devient rouge s’il s’avère que la personne interpellée dispose d’un mandat d’arrêt. La couleur verte signifie que la personne n’a pas de condamnations et d’infractions à son actif. Jaune indique que la personne a un casier judiciaire. La couleur grise signifie que la personne possède une arme à feu.

Au sujet de l'auteur
Damien Bancal (damienbancal.fr) est un expert internationalement reconnu en cybersécurité. Il a fondé le projet Zataz en 1989. ZATAZ.com est devenu une référence incontournable en matière d'information sur la sécurité informatique et les cybermenaces pour le grand public. Avec plus de 30 ans d'expérience, Damien Bancal s'est imposé comme une figure majeure dans ce domaine, contribuant à la sensibilisation et à la protection des internautes contre les cyberattaques. Sa carrière est marquée par une forte implication dans l'éducation à la cybersécurité, notamment à travers des conférences et des publications spécialisées. Il est l'auteur de plusieurs ouvrages (17) et articles (plusieurs centaines : 01net, Le Monde, France Info, Etc.) qui explorent les divers aspects du piratage informatique et de la protection des données. Il a remporté le prix spécial du livre du FIC/InCyber 2022. Finaliste 2023 du 1er CTF Social Engineering Nord Américain. Vainqueur du CTF Social Engineering 2024 du HackFest 2024 (Canada). Damien Bancal a également été largement reconnu par la presse internationale dont le New York Times, qui souligne non seulement son expertise mais aussi son parcours inspirant. Par exemple, un portrait de La Voix du Nord le décrit comme "Monsieur Cybersécurité", soulignant son influence et son rôle essentiel dans ce domaine. Enfin, il figure parmi les personnalités les plus influentes dans la cybersécurité, comme le souligne Le Big Data, et a été classé parmi les 500 personnalités tech les plus influentes en 2023 selon Tyto PR. Chroniqueur TV et Radio (France Info, M6, RTL, Medi1, Etc.) Volontaires de la réserve citoyenne - Gendarmerie Nationale et de l'Éducation Nationale. Médaillé de la DefNat (Marine Nationale) et de la MSV (Gendarmerie Nationale). Entrepreneur, il a lancé en 2022 la société veillezataz.com.

Articles connexes

Laisser un commentaire

*

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.