Réclamation: l'IA de reconnaissance faciale peut révéler votre parti politique

Image: Michal Kosinski / Rapports scientifiques sur la nature
S'il vous plaît partager cette histoire!
image_pdfimage_print
La question n'est pas que cela fonctionne réellement, mais qu'ils croient que cela fonctionne. La croyance et la réalité sont deux choses différentes, et la société est imprégnée de tromperie sur ce qui est réel et factuel. Ils devraient tester pour voir si l'IA fonctionne mieux pendant une pleine lune. ⁃ Éditeur TN

Les chercheurs ont créé un système d'apprentissage automatique qui, selon eux, peut déterminer le parti politique d'une personne, avec une précision raisonnable, en se basant uniquement sur son visage. L'étude, d'un groupe qui a également montré que la préférence sexuelle peut apparemment être déduite de cette manière, aborde franchement et évite soigneusement les pièges de la «phrénologie moderne», menant à la conclusion inconfortable que notre apparence peut exprimer plus d'informations personnelles que nous pensons.

L'étude, parue cette semaine dans la revue Nature Scientific Reports, a été dirigé par Michal Kosinski de l'Université de Stanford. Kosinski a fait la une des journaux en 2017 avec un travail qui a constaté que les préférences sexuelles d'une personne pouvaient être prédites à partir des données faciales.

L'étude a suscité des critiques non pas tant pour ses méthodes que pour l'idée même que quelque chose qui est théoriquement non physique pourrait être détecté de cette façon. Mais le travail de Kosinski, comme il l'a expliqué alors et après, a été fait spécifiquement pour contester ces hypothèses et était aussi surprenant et dérangeant pour lui que pour les autres. L'idée n'était pas de construire une sorte d'IA gaydar - bien au contraire, en fait. Comme l'équipe l'a écrit à l'époque, il était nécessaire de publier pour avertir les autres qu'une telle chose peut être construite par des personnes dont les intérêts dépassaient le cadre de l'universitaire:

Nous avons été vraiment perturbés par ces résultats et avons passé beaucoup de temps à se demander s'ils devaient être rendus publics. Nous ne voulions pas activer les risques mêmes contre lesquels nous mettons en garde. La capacité de contrôler quand et à qui révéler son orientation sexuelle est cruciale non seulement pour son bien-être, mais aussi pour sa sécurité.

Nous avons estimé qu'il était urgent de sensibiliser les décideurs et les communautés LGBTQ aux risques auxquels ils sont confrontés. Nous n'avons pas créé un outil de violation de la vie privée, mais plutôt montré que les méthodes de base et largement utilisées posent de graves menaces à la vie privée.

Des avertissements similaires peuvent être émis ici, car si l'affiliation politique au moins aux États-Unis (et du moins à l'heure actuelle) n'est pas as sensible ou personnel un élément comme préférence sexuelle, il est toujours sensible et personnel. Une semaine passe à peine sans lecture d'un «dissident» politique ou religieux ou d'un autre arrêté ou tué. Si des régimes oppressifs pouvaient obtenir ce qui passe pour une cause probable en disant «l'algorithme vous a signalé comme un extrémiste possible», au lieu, par exemple, d'intercepter des messages, cela rend ce type de pratique beaucoup plus facile et plus évolutif.

L'algorithme lui-même n'est pas une technologie hyper-avancée. L'article de Kosinski décrit un processus assez ordinaire consistant à alimenter un système d'apprentissage automatique en images de plus d'un million de visages, collectées sur des sites de rencontres aux États-Unis, au Canada et au Royaume-Uni, ainsi que sur des utilisateurs américains de Facebook. Les personnes dont les visages ont été utilisés se sont identifiées comme politiquement conservatrices ou libérales dans le cadre du questionnaire du site.

L'algorithme était basé sur un logiciel de reconnaissance faciale open-source, et après un traitement de base pour rogner uniquement sur le visage (de cette façon, aucun élément d'arrière-plan ne s'insinue en tant que facteurs), les visages sont réduits à 2,048 scores représentant diverses fonctionnalités - comme avec d'autres reconnaissance faciale algorithmes, ce ne sont pas des choses intuitives nécessaires comme la «couleur des sourcils» et le «type de nez», mais des concepts plus natifs de l'ordinateur.

Le système a reçu des données d'affiliation politique provenant des gens eux-mêmes, et avec cela, il a commencé à étudier avec diligence les différences entre les statistiques faciales des personnes s'identifiant comme conservateurs et celles s'identifiant comme libérales. Parce qu'il s'avère qu'il y a des différences.

Bien sûr, ce n'est pas aussi simple que «les conservateurs ont des sourcils plus broussailleux» ou «les libéraux froncent davantage les sourcils». Cela ne se résume pas non plus à la démographie, qui rendrait les choses trop faciles et trop simples. Après tout, si l'identification des partis politiques est corrélée à la fois à l'âge et à la couleur de la peau, cela en fait un simple algorithme de prédiction. Mais bien que les mécanismes logiciels utilisés par Kosinski soient assez classiques, il a pris soin de couvrir ses bases afin que cette étude, comme la dernière, ne puisse pas être rejetée comme une pseudoscience.

La manière la plus évidente de résoudre ce problème consiste à demander au système de deviner le parti politique des personnes du même âge, du même sexe et de la même origine ethnique. Le test impliquait d'être présenté avec deux visages, un de chaque partie, et de deviner lequel était lequel. La précision aléatoire est évidemment de 50%. Les humains ne sont pas très bons dans cette tâche, ne réalisant que légèrement au-dessus du hasard, environ 55% de précision.

L'algorithme a réussi à atteindre une précision de 71% lors de la prédiction d'un parti politique entre deux individus similaires, et 73% se sont présentés avec deux individus de tout âge, appartenance ethnique ou sexe (mais toujours garantis d'être un conservateur, un libéral).

Lire l'histoire complète ici…

A propos de l'auteur

Patrick Wood
Patrick Wood est un expert de premier plan et critique sur le développement durable, l'économie verte, l'Agenda 21, l'Agenda 2030 et la technocratie historique. Il est l'auteur de Technocracy Rising: The Trojan Horse of Global Transformation (2015) et co-auteur de Trilaterals Over Washington, Volumes I and II (1978-1980) avec le regretté Antony C. Sutton.
S’inscrire
Notifier de
invité
3 Commentaires
Le plus ancien
Date Les plus votés
Commentaires en ligne
Voir tous les commentaires
DawnieR

Drôle!!! On n'a pas besoin de «technologie de reconnaissance faciale» pour savoir ce qu'est une fête. Tous les individus laids et méchants (notez que je n'ai PAS dit «PEOPLE» !!), sont les Lib.T, ards !!

PSA: Les sociopathes et les psychopathes ne sont PAS HUMAINS! Traitez-les comme tels! TOUTES LES VIVES N'ONT PAS D'IMPORTANCE!

[…] Allégation: l'IA de reconnaissance faciale peut révéler votre parti politique: […]

trackback

[…] Allégation: l'IA de reconnaissance faciale peut révéler votre parti politique […]