Reconnaissance faciale L'IA prédit les criminels en fonction du visage?

Une équipe de l'Université de Harrisburg, Pennsylvanie, a développé un logiciel de reconnaissance faciale automatisé qui, selon elle, peut prédire avec 80% de précision et «aucun préjugé racial» si une personne est susceptible d'être un criminel, uniquement en regardant une image de leur. «En automatisant l'identification des menaces potentielles sans biais, notre objectif est de produire des outils pour la prévention du crime, l'application de la loi et les applications militaires», ont-ils déclaré, déclarant qu'ils recherchaient des «partenaires stratégiques» avec lesquels travailler pour mettre en œuvre leur produit.

Dans une utilisation inquiétante des mots, l'équipe à part entière communiqué de presse, passer de faire référence à ceux que le logiciel reconnaît comme étant des «criminels probables» à «criminels» en l'espace d'une seule phrase, suggérant qu'ils sont confiants dans la pseudoscience raciste discréditée de la phrénologie qu'ils semblent avoir mise à jour pour le 21e siècle.

La réaction du public au projet n'a pas été enthousiaste, à en juger par commentaires laissé sur Facebook, qui comprenait «Les sociétés tentent de faire avancer l'idée de« criminels nés »depuis des siècles», «et ce n'est pas du profilage parce que ……?» et "20 pour cent sont constamment harcelés par la police parce qu'ils ont le" visage du crime "". En effet, la réponse a été si négative que l'université a retiré le communiqué de presse d'Internet. Cependant, il est toujours visible en utilisant le Machine de retour sur Internet.

Alors que l'équipe de recherche prétend éliminer les biais et le racisme de la prise de décision, laissant à un algorithme sans visage, ceux qui écrivent le code et ceux qui décident qui constitue un criminel en premier lieu, ont certainement leurs propres préjugés . Pourquoi les sans-abri ou les personnes de couleur qui «flânent» sur les trottoirs sont-ils criminalisés, mais pas les sénateurs et les membres du Congrès qui votent pour les guerres et les opérations de changement de régime? Et qui est le plus susceptible d'être arrêté? Des dirigeants de Wall Street qui font de la cocaïne dans leurs bureaux ou des gens de la classe ouvrière qui fument de la marijuana ou du crack? Plus le niveau d'une personne est élevé dans la société, plus ses crimes deviennent graves et nuisibles, mais la probabilité d'une arrestation et d'une peine privative de liberté diminue. Les Noirs sont plus susceptibles d'être arrêtés pour le même crime que les Blancs et sont condamnés à séjours plus longs en prison aussi. De plus, le logiciel de reconnaissance faciale est célèbre pour être incapable de distinguer les personnes de couleur, ce qui soulève de nouvelles préoccupations.

Lire l'histoire complète ici…