Réclamation: l'IA de reconnaissance faciale peut révéler votre parti politique

Les chercheurs ont créé un système d'apprentissage automatique qui, selon eux, peut déterminer le parti politique d'une personne, avec une précision raisonnable, en se basant uniquement sur son visage. L'étude, d'un groupe qui a également montré que la préférence sexuelle peut apparemment être déduite de cette manière, aborde franchement et évite soigneusement les pièges de la «phrénologie moderne», menant à la conclusion inconfortable que notre apparence peut exprimer plus d'informations personnelles que nous pensons.

L'étude, parue cette semaine dans la revue Nature Scientific Reports, a été dirigé par Michal Kosinski de l'Université de Stanford. Kosinski a fait la une des journaux en 2017 avec un travail qui a constaté que les préférences sexuelles d'une personne pouvaient être prédites à partir des données faciales.

L'étude a suscité des critiques non pas tant pour ses méthodes que pour l'idée même que quelque chose qui est théoriquement non physique pourrait être détecté de cette façon. Mais le travail de Kosinski, comme il l'a expliqué alors et après, a été fait spécifiquement pour contester ces hypothèses et était aussi surprenant et dérangeant pour lui que pour les autres. L'idée n'était pas de construire une sorte d'IA gaydar - bien au contraire, en fait. Comme l'équipe l'a écrit à l'époque, il était nécessaire de publier pour avertir les autres qu'une telle chose peut être construite par des personnes dont les intérêts dépassaient le cadre de l'universitaire:

Nous avons été vraiment perturbés par ces résultats et avons passé beaucoup de temps à se demander s'ils devaient être rendus publics. Nous ne voulions pas activer les risques mêmes contre lesquels nous mettons en garde. La capacité de contrôler quand et à qui révéler son orientation sexuelle est cruciale non seulement pour son bien-être, mais aussi pour sa sécurité.

Nous avons estimé qu'il était urgent de sensibiliser les décideurs et les communautés LGBTQ aux risques auxquels ils sont confrontés. Nous n'avons pas créé un outil de violation de la vie privée, mais plutôt montré que les méthodes de base et largement utilisées posent de graves menaces à la vie privée.

Des avertissements similaires peuvent être émis ici, car si l'affiliation politique au moins aux États-Unis (et du moins à l'heure actuelle) n'est pas as sensible ou personnel un élément comme préférence sexuelle, il est toujours sensible et personnel. Une semaine passe à peine sans lecture d'un «dissident» politique ou religieux ou d'un autre arrêté ou tué. Si des régimes oppressifs pouvaient obtenir ce qui passe pour une cause probable en disant «l'algorithme vous a signalé comme un extrémiste possible», au lieu, par exemple, d'intercepter des messages, cela rend ce type de pratique beaucoup plus facile et plus évolutif.

L'algorithme lui-même n'est pas une technologie hyper-avancée. L'article de Kosinski décrit un processus assez ordinaire consistant à alimenter un système d'apprentissage automatique en images de plus d'un million de visages, collectées sur des sites de rencontres aux États-Unis, au Canada et au Royaume-Uni, ainsi que sur des utilisateurs américains de Facebook. Les personnes dont les visages ont été utilisés se sont identifiées comme politiquement conservatrices ou libérales dans le cadre du questionnaire du site.

L'algorithme était basé sur un logiciel de reconnaissance faciale open-source, et après un traitement de base pour rogner uniquement sur le visage (de cette façon, aucun élément d'arrière-plan ne s'insinue en tant que facteurs), les visages sont réduits à 2,048 scores représentant diverses fonctionnalités - comme avec d'autres reconnaissance faciale algorithmes, ce ne sont pas des choses intuitives nécessaires comme la «couleur des sourcils» et le «type de nez», mais des concepts plus natifs de l'ordinateur.

Le système a reçu des données d'affiliation politique provenant des gens eux-mêmes, et avec cela, il a commencé à étudier avec diligence les différences entre les statistiques faciales des personnes s'identifiant comme conservateurs et celles s'identifiant comme libérales. Parce qu'il s'avère qu'il y a des différences.

Bien sûr, ce n'est pas aussi simple que «les conservateurs ont des sourcils plus broussailleux» ou «les libéraux froncent davantage les sourcils». Cela ne se résume pas non plus à la démographie, qui rendrait les choses trop faciles et trop simples. Après tout, si l'identification des partis politiques est corrélée à la fois à l'âge et à la couleur de la peau, cela en fait un simple algorithme de prédiction. Mais bien que les mécanismes logiciels utilisés par Kosinski soient assez classiques, il a pris soin de couvrir ses bases afin que cette étude, comme la dernière, ne puisse pas être rejetée comme une pseudoscience.

La manière la plus évidente de résoudre ce problème consiste à demander au système de deviner le parti politique des personnes du même âge, du même sexe et de la même origine ethnique. Le test impliquait d'être présenté avec deux visages, un de chaque partie, et de deviner lequel était lequel. La précision aléatoire est évidemment de 50%. Les humains ne sont pas très bons dans cette tâche, ne réalisant que légèrement au-dessus du hasard, environ 55% de précision.

L'algorithme a réussi à atteindre une précision de 71% lors de la prédiction d'un parti politique entre deux individus similaires, et 73% se sont présentés avec deux individus de tout âge, appartenance ethnique ou sexe (mais toujours garantis d'être un conservateur, un libéral).

Lire l'histoire complète ici…