Smackdown biométrique: le contrecoup se renforce contre la reconnaissance faciale

YouTube
S'il vous plaît partager cette histoire!
Les récits de résistance aux schémas biométriques sont rarement vus dans les médias établis, car les avocats de Big Tech les corrigent en intimidant les médias à l'aide de menaces juridiques. Monsanto et Big Pharma ont transformé cela en une forme d'art. ⁃ Éditeur TN

Un adolescent poursuit Apple pour un milliard de dollars 1. le procès, déposée lundi, repose sur l’utilisation alléguée d’une technologie de plus en plus populaire - et controversée -: la reconnaissance faciale. Le technicien peut identifier une personne en analysant ses traits faciaux dans des images, des vidéos ou en temps réel.

Le plaignant, Ousmane Bah, un étudiant âgé de 18, affirme que la société outil de reconnaissance faciale l'a conduit à être arrêté pour les vols Apple Store il n'a pas commis, en liant à tort son nom au visage du vrai voleur. Des officiers de la NYPD sont venus chez Bah dernier à l'automne dernier pour l'arrêter à 4 dans la matinée, seulement pour découvrir qu'ils avaient apparemment le mauvais gars. Bah dit que toute cette épreuve lui a causé une profonde détresse émotionnelle. Apple insiste pour que ses magasins n'utilisent pas la technologie de reconnaissance faciale.

Quelle que soit la vérité dans cette affaire, le procès de Bah est le dernier signe d'une réaction de plus en plus vive contre la reconnaissance faciale. Au fur et à mesure que la technologie est mise en œuvre dans de plus en plus de domaines, elle suscite de plus en plus de controverses. Prenons, par exemple, les locataires noirs de Brooklyn qui ont récemment opposé au plan de leur propriétaire d'installer la technologie dans leur bâtiment à loyer stabilisé. Ou le voyageur qui s'est plaint via Twitter que JetBlue l'avait enregistrée dans son vol en utilisant la reconnaissance faciale sans son consentement. (La compagnie aérienne a expliqué qu'elle avait utilisé les données du département de la Sécurité intérieure pour s'exécuter et s'est excusée.)

C'est en plus de la chercheursdéfenseurs et des milliers de membres du publicqui s'inquiètent du risque de reconnaissance faciale conduisant à des arrestations injustifiées. Ils craignent que certains groupes ne soient affectés de manière disproportionnée. La technologie de reconnaissance faciale est assez efficace pour identifier les visages masculins blancs, car ce sont les types de visages sur lesquels elle a été formée. Mais trop souvent, ça identifie mal les personnes de couleur et les femmes. En raison de ce parti pris, ils pourraient être mis en cause de manière disproportionnée au fur et à mesure que de plus en plus d'organismes chargés de l'application de la loi utiliseraient cette technologie.

Nous arrivons maintenant à un point d'inflexion où de grandes entreprises - non seulement Apple, mais aussi Amazon et Microsoft - sont obligées de prendre au sérieux de telles plaintes. Et bien qu'ils essaient finalement de dire qu'ils sont sensibles aux préoccupations, il est peut-être trop tard pour regagner la confiance. L’insatisfaction du public a atteint un tel niveau de fièvre que certains, y compris la ville de San Francisco, envisagent maintenant d’interdire totalement les technologies de reconnaissance faciale.

Un vote pour interdire à Amazon de vendre Rekognition

Amazon n'est pas connu pour jouer gentiment. Il a la réputation de lutter contre les lois proposées, il n'aime pas et pour défendre agressivement son travail avec la police et le gouvernement. Pendant des années, il pourrait se permettre de se comporter de cette façon. Pourtant, le tumulte sur la reconnaissance faciale rend cette posture plus difficile à maintenir.

L’outil de reconnaissance faciale d’Amazon, Rekognition, a déjà été vendu aux forces de l’ordre et lancé pour l'immigration et l'application des douanes. Mais les principaux chercheurs en IA ont récemment argumenté une lettre ouverte que la technologie est profondément imparfaite. (Exemple: lors d’un test l’an dernier, Rekognition a comparé les membres du Congrès 28 à des photos d'identité criminelle.) Et les actionnaires d’Amazon réclament un vote sur le point de savoir si la société devrait cesser de vendre cet outil aux agences gouvernementales jusqu’à ce qu’elle passe un examen indépendant de son impact sur les droits civils.

Amazon s'est battu pour empêcher le vote, mais la Securities and Exchange Commission a statué ce mois-ci, la société doit le laisser aller de l'avant. Cela aura lieu le mois de mai 22. Bien que le résultat soit en grande partie symbolique - les résolutions des actionnaires ne sont pas contraignantes - le vote devrait attirer une attention négative sur Amazon.

Dans l’intervalle, la société a été essayant d'adoucir son image en recourant par exemple à certaines de ses tactiques de promotion agressives. Kartik Hosanagar, professeur à la Wharton School of Business, a affirmé Valérie Plante. Amazon prend des «mesures préventives» pour rendre les choses «bien avant que l’un des candidats [présidentiels] ne fasse de Amazon l’affiche de ce qu’ils appellent les problèmes de Big Tech».

Messages mitigés de Microsoft sur l'utilisation éthique de la reconnaissance faciale

Alors qu'Amazon est encore une jeune société fondée en 1994, Microsoft a atteint l'âge adulte - cela existe depuis 1975. Cette durée de vie plus longue signifie qu'il a eu plus de temps pour faire des erreurs, mais aussi plus pour apprendre d'eux. Kim Hart chez Axios affirme que c'est la raison Microsoft a, pour la plupart, réussi à éviter le contrecoup contre les grandes technologies. «Microsoft, qui a mené sa propre bataille antitrust contre le ministère de la Justice dans« 90s », a évité les erreurs commises par ses frères plus jeunes et plus impétueux, Big Tech», écrit-elle.

Pourtant, Microsoft n’est nullement à l’abri de la réaction. Après avoir appris ce mois-ci que des chercheurs de Microsoft avaient publié trois articles sur l'IA et la reconnaissance faciale auprès d'une université gérée par une armée en Chine, des politiciens américains ont critiqué l'entreprise pour avoir aidé un régime en détention. un million de musulmans ouïghours dans des camps d'internement et  surveiller des millions d'autres. Sénateur Marco Rubio appelé «Profondément troublant… un acte qui les rend complices de l'aide à l'appareil de censure totalitaire du gouvernement communiste chinois.»

La presse a également souligné que la société avait vendu son logiciel de reconnaissance faciale à une prison américaine, et que le président de Microsoft, Brad Smith, a déclaré qu'il serait "cruel" d'arrêter complètement de vendre le logiciel aux agences gouvernementales.

Quelques jours plus tard, la société s’est efforcée de montrer qu’elle se préoccupait de l’utilisation éthique de l’IA. Smith a annoncé qu'il avait refusé de vendre son logiciel de reconnaissance faciale à un organisme d'application de la loi californien qui souhaitait l'installer dans les voitures et les caméscopes des officiers. Il a déclaré que Microsoft avait refusé pour des raisons liées aux droits de l'homme, sachant que l'utilisation du logiciel entraînerait des personnes de couleur et des femmes placées en détention de manière disproportionnée aux fins d'interrogatoire.

La poussée pour interdire carrément la technologie de reconnaissance faciale

Ce mois-ci a clairement montré que la pression du public s’agissait de la reconnaissance faciale. Les sociétés behemoth savent qu'elles ne peuvent plus ignorer les critiques - ou, comme elles l'ont fait récemment, elles se contenteraient de se féliciter de la réglementation de cette technologie. Les critiques expliquent clairement que cela ne suffit pas - ils veulent voir de telles entreprises «se retirer complètement du secteur de la surveillance». comme l'American Civil Liberties Union a dit Vox.

Lire l'histoire complète ici…

S'abonner
Notifier de
invité

0 Commentaires
Commentaires en ligne
Voir tous les commentaires