Des systèmes de reconnaissance faciale devraient-ils être installés dans les écoles américaines?

Image: Steve Ringman / Le Seattle Times
S'il vous plaît partager cette histoire!
image_pdfimage_print
Les parents protestent moins qu'ils ne le devraient si l'identification biométrique de leurs enfants sera absolue avant même d'obtenir leur diplôme d'études secondaires. Les technocrates traitent généralement les préoccupations éthiques et constitutionnelles, plaident l'efficacité et la commodité. ⁃ Éditeur TN

RealNetworks propose aux écoles un nouvel outil de sécurité gratuit: un logiciel de reconnaissance faciale. Mais à mesure que la technologie progresse dans les espaces publics, elle soulève des problèmes de confidentialité et appelle à une réglementation - même de la part des entreprises technologiques qui inventent le logiciel biométrique.

Alors que Mike Vance s’approche de la porte vitrée menant au bureau d’ingénierie de RealNetworks, il sourit légèrement à une petite caméra montée devant lui. Cliquez sur. La porte se déverrouille, en réponse à une commande du logiciel alimentant la caméra, reconnaissant le visage de Vance et confirmant son identité.

Vance, directeur principal de la gestion des produits de la société de technologie de Seattle, dirige l’équipe qui a créé SAFR (Secure, Accurate Facial Recognition), une technologie que la société a commencé à offrir gratuitement aux écoles K-12 cet été.

Il a fallu trois ans, des millions de visages 8 et plus de un milliard de points de données 8 pour développer la technologie, qui permet d'identifier un visage avec une précision presque parfaite. Selon les dirigeants de RealNetworks, l’objectif à court terme est d’accroître la sécurité dans les écoles.

«Il y a beaucoup d'avantages à ce que les écoles comprennent qui va et vient», a déclaré Vance.

Le logiciel est déjà utilisé dans une école de Seattle et RealNetworks est en pourparlers pour l’étendre à plusieurs autres dans tout le pays. Pour l'avenir, RealNetworks - connu pour ses logiciels de streaming vidéo et de musique mis en place dans les premiers 2000 - prévoit de vendre SAFR à divers secteurs, bien que la société reste totalement muette sur les détails pour le moment.

L’introduction de cette technologie a propulsé RealNetworks au centre d’un domaine en pleine expansion, à mesure que les logiciels identifient mieux les visages. Mais les préoccupations en matière de confidentialité et les demandes croissantes en matière de réglementation ne cessent de croître, même de la part des entreprises technologiques qui inventent le logiciel biométrique.

La technologie de reconnaissance faciale est déjà utilisée couramment, des applications de photo qui trient des personnes à la déverrouillage d’un iPhone, en passant par le déverrouillage d’un iPhone, aux services de détection et de répression cherchant dans la base de données des photos de permis de conduire.

La reconnaissance faciale est largement utilisée de deux manières, a déclaré Oren Etzioni, PDG de l'Allen Institute for Artificial Intelligence de Seattle, l'organisation sœur de l'institut des sciences du cerveau de Paul Allen. L'un est la commodité du consommateur, comme le regroupement de photos, et l'autre est pour la surveillance et le suivi.

Les grands acteurs de la technologie ont été impliqué depuis des années: Microsoft marchés face API permettant aux entreprises d'identifier et de regrouper des visages similaires pour des applications et d'autres produits, tandis qu'Amazon a Rekognition, qui a été critiquée plus tôt cette année lorsque le ACLU a demandé à la société d'arrêter le vendre aux organismes chargés de l'application de la loi. Google, Apple et Facebook sont également présents dans le jeu, comme l'illustrent le marquage et le regroupement de photos sur un smartphone.

Mais à présent, comme le montre le SAFR de RealNetworks, la technologie progresse de plus en plus dans les espaces publics. Et avec cela, les défenseurs de la vie privée se demandent si les gens réalisent pleinement à quelle fréquence leurs visages sont numérisés, et les défenseurs, ainsi que l’industrie, se demandent s’il existe une limite entre les avantages pour le public et le coût de la vie privée.

Apprendre un visage

La technologie de reconnaissance faciale fonctionne beaucoup comme les empreintes digitales - chaque visage a sa propre signature et les entreprises apprennent aux machines à reconnaître et à faire correspondre les caractéristiques uniques des personnes.

La technologie de RealNetworks cartographie 1,600 3,300 points de données sur chaque face qu'elle voit. L'équipe «forme» sa machine depuis environ deux ans, depuis le lancement de RealTimes, son application gratuite qui permet aux gens de créer des diaporamas photo. L'accord utilisateur de XNUMX mots de cette application est intégré dans un langage qui permet à RealNetworks d'utiliser les photos des clients pour entraîner son système de reconnaissance faciale.

SAFR ne connaît pas l'identité des personnes figurant sur les photos RealTimes, a déclaré Vance - il n'y a aucun nom, adresse ou autre information d'identification dans la base de données volumineuse de 8 millions de visages. Mais ce qu'il peut faire, c'est dire si deux visages sont la même personne. Il est devenu si précis qu'il peut distinguer des jumeaux identiques et faire correspondre les photos de famille de la même personne, même s'ils étaient séparés de plusieurs décennies.

SAFR s'appuie sur sa capacité à identifier les personnes "dans la nature" ou à agir franchement sans poser de pose.

«Ce qui est formidable avec ce genre de visage, c'est qu'ils font des choses qu'ils font naturellement dans la vie», a déclaré Vance. «Ce ne sont pas des coups de gueule ou des coups en conserve. Vous pouvez surentraîner un système pour les personnes regardant directement dans la caméra. Mais lorsque vous vous promenez dans une école, vous ne regardez pas toujours directement la caméra. "

De nombreuses technologies de reconnaissance faciale peuvent également identifier les données démographiques de base d'une personne. L'API de Microsoft Face, par exemple, peut deviner votre âge avec une seule photo - une fonctionnalité qui est devenue plus précise depuis sa première publication en 2015 pour faire échouer les avis des utilisateurs.

Cela a conduit à préoccupations de partialité, cependant, surtout depuis un étudier au Media Lab du MIT ont découvert que les applications de reconnaissance faciale de certaines grandes entreprises de technologie affichaient des taux d'erreur supérieurs de 35 lors de l'identification de femmes à la peau plus sombre par rapport aux hommes à la peau plus claire. Certains craignaient que cela ne conduise à une mauvaise identification des femmes et des personnes de couleur, un problème troublant, en particulier si les systèmes sont utilisés par les forces de l'ordre.

Microsoft a reconnu les problèmes de partialité et prend des mesures pour mieux identifier les différents visages,élargir la base de données utilisée pour former son système en ajoutant des photos de personnes plus diverses. 

RealNetworks, cependant, n'a pas formé son logiciel pour identifier une personne en fonction de sa race. Vous ne pouvez pas, par exemple, demander à SAFR de vous alerter lorsqu'un homme blanc franchit une porte car il ne saura pas quels visages sont blancs.

Lire l'histoire complète ici…

S'INSCRIRE
Notifier de
invité
0 Commentaires
Commentaires en ligne
Voir tous les commentaires