Le logiciel de reconnaissance faciale d'Amazon est `` imparfait, biaisé et dangereux ''

S'il vous plaît partager cette histoire!

Après avoir identifié 28 membres du Congrès comme suspects de la police, l'IA de reconnaissance faciale d'Amazon ne semble fonctionner qu'environ 80% du temps, et pourtant elle est vendue en masse aux gouvernements et aux services de police. Même si cela a fonctionné 95% du temps, les 5% qui sont mal identifiés risquent de voir leur vie détruite pour rien. ⁃ Éditeur TN

Un outil de reconnaissance faciale vendu par Amazon.com Inc aux développeurs Web a identifié à tort les membres du Congrès de 28 comme des suspects de la police, lors d'un test mené par l'Union américaine des libertés civiles (ACLU), a annoncé jeudi l'organisation.

Amazon, dans une réponse, a déclaré avoir contesté les paramètres de son outil d'identification de visage lors du test. Les résultats soulignent néanmoins les risques auxquels les individus pourraient faire face si la police utilisait la technologie de certaines manières pour attraper les criminels.

Depuis mai, l'ACLU et d'autres groupes de défense des droits civiques ont fait pression sur Amazon pour qu'il arrête de vendre aux gouvernements l'accès à Rekognition, un puissant logiciel d'identification d'image dévoilé en 2016 par la division de cloud computing de l'entreprise.

Les groupes ont cité l'utilisation de la reconnaissance par les forces de l'ordre de l'Oregon et de la Floride et ont averti que l'outil pourrait être utilisé injustement pour cibler les immigrants et les personnes de couleur.

Leur activisme a lancé un débat public. Le président de Microsoft Corp, le rival d'Amazon qui utilise également la technologie de reconnaissance faciale, a appelé le Congrès au début du mois pour étudier d'éventuelles réglementations.

L'ACLU a déclaré qu'elle souhaitait que le Congrès adopte un moratoire sur l'utilisation de la technologie par les forces de l'ordre.

La reconnaissance faciale est déjà largement utilisée en Chine à des fins policières, et un certain nombre de start-up là-bas - certaines évaluées à des milliards de dollars - poursuivent activement la technologie.

Amazon a vanté diverses utilisations de Rekognition, allant de la détection de contenu offensant en ligne à l'identification de célébrités.

«Nous restons enthousiasmés par la façon dont l'analyse d'images et de vidéos peut être un moteur du bien dans le monde», a déclaré une porte-parole d'Amazon Web Services dans un communiqué, citant son aide à retrouver les enfants perdus et à prévenir les crimes. Elle a dit que Rekognition était normalement utilisée pour restreindre le champ de l'examen humain, pas pour prendre des décisions finales.

L’ACLU a déclaré qu’elle n’avait déboursé que 12.33 pour que Amazon Rekognition compare les photos officielles de chaque membre de la Chambre des États-Unis et du Sénat américain à une base de données de photos d’arrestations publiques 25,000.

La technologie a identifié des «correspondances» pour 28 membres du Congrès avec une précision d'au moins 80%, le paramètre par défaut d'Amazon, a déclaré l'ACLU.

Lire l'histoire complète ici…