L'algorithme de reconnaissance faciale a provoqué une arrestation injustifiée

Un jeudi après-midi de janvier, Robert Julian-Borchak Williams était dans son bureau d'une entreprise de fournitures automobiles lorsqu'il a reçu un appel du département de police de Détroit lui disant de se rendre au poste pour être arrêté. Il a d'abord pensé que c'était une farce.

Une heure plus tard, quand il est entré dans son allée dans un quartier calme de Farmington Hills, dans le Michigan, une voiture de police s'est arrêtée derrière, le bloquant. Deux policiers sont sortis et ont menotté M. Williams sur sa pelouse, devant son femme et deux jeunes filles, qui étaient bouleversées. La police n'a pas voulu dire pourquoi il était arrêté, mais lui a seulement montré un morceau de papier avec sa photo et les mots «mandat pour crime» et «larcin».

Sa femme, Melissa, a demandé où il était emmené. "Google it", se souvient-elle un officier répondant.

La police a conduit M. Williams dans un centre de détention. Il s'est fait tirer dessus, prendre ses empreintes digitales et son ADN et a été détenu pendant la nuit. Vendredi vers midi, deux détectives l'ont emmené dans une salle d'interrogatoire et ont placé trois morceaux de papier sur la table, face vers le bas.

"À quand remonte la dernière fois que vous êtes allé dans un magasin Shinola?" demanda l'un des détectives, selon les souvenirs de M. Williams. Shinola est une boutique haut de gamme qui vend des montres, des vélos et des articles en cuir dans le quartier branché de Midtown à Detroit. M. Williams a déclaré que sa femme et lui l'avaient vérifié lors de l'ouverture du magasin en 2014.

Le détective retourna le premier morceau de papier. C'était une image fixe d'une vidéo de surveillance, montrant un homme corpulent, vêtu de noir et portant une casquette rouge des Cardinals de St. Louis, debout devant un affichage de montre. Cinq montres, d'une valeur de 3,800 XNUMX $, ont été volées à l'étalage.

"Est-ce toi?" demanda le détective.

Le deuxième morceau de papier était un gros plan. La photo était floue, mais ce n'était clairement pas M. Williams. Il a ramassé l'image et l'a tenue à côté de son visage.

"Non, ce n'est pas moi", a déclaré M. Williams. "Vous pensez que tous les hommes noirs se ressemblent?"

M. Williams savait qu'il n'avait pas commis le crime en question. Ce qu'il ne pouvait pas savoir, alors qu'il était assis dans la salle d'interrogatoire, c'est que son cas pourrait être le premier récit connu d'un Américain arrêté à tort sur la base d'une correspondance erronée provenant d'un algorithme de reconnaissance faciale, selon des experts en technologie et en droit .

Un système défectueux

Un débat national fait rage le racisme dans l'application des lois. À travers le pays, des millions de personnes protestent non seulement contre les actions des agents individuels, mais contre les préjugés dans les systèmes utilisés pour surveiller les communautés et identifier les personnes à poursuivre.

Les systèmes de reconnaissance faciale ont été utilisés par les forces de police plus de deux décennies. Études récentes par MIT et le Institut National des Standards et de la technologie, ou NIST, ont constaté que si la technologie fonctionne relativement bien sur les hommes blancs, les résultats sont moins précis pour d'autres données démographiques, en partie en raison d'un manque de diversité dans les images utilisées pour développer les bases de données sous-jacentes.

L'année dernière, lors d'une audience publique sur l'utilisation de reconnaissance faciale à Detroit, un chef de police adjoint figurait parmi ceux qui ont fait part de leurs préoccupations. "Sur la question des faux positifs - c'est absolument factuel, et c'est bien documenté", a déclaré James White. "Donc, cela me concerne en tant qu'homme afro-américain."

Ce mois-ci, Amazon, Fonctionnel avec et  IBM a annoncé qu'ils arrêteraient ou pause leurs offres de reconnaissance faciale pour l'application de la loi. Les gestes étaient largement symboliques, étant donné que les entreprises ne sont pas de grands acteurs de l'industrie. La technologie utilisée par les services de police est fournie par des entreprises qui ne sont pas des noms familiers, telles que Vigilant Solutions, Cognitec, NEC, Rank One Computing et IA Clearview.

Lire l'histoire complète ici…