En avril 2021, la Commission européenne (CE) a publié son très attendu Loi sur l'intelligence artificielle, une proposition réglementaire complète qui classe les applications d'IA sous différentes catégories de risques. Parmi les applications à haut risque identifiées, les systèmes biométriques à distance, qui incluent la technologie de reconnaissance faciale (FRT), ont été identifiés comme particulièrement préoccupants. Leur déploiement, en particulier dans le domaine de l'application des lois, peut conduire à des violations des droits humains en l'absence de mécanismes de gouvernance solides.
Application de la loi et technologie de reconnaissance faciale
Dans toutes les juridictions, les décideurs sont de plus en plus conscients des opportunités et des risques associés à l'utilisation du TRF par les forces de l'ordre. Ici, la reconnaissance faciale fait référence au processus de reconnaissance (possible) d'une personne en comparant une image de sonde (photos ou films/images fixes de suspects ou de personnes d'intérêt) à des images faciales de criminels et de personnes disparues stockées dans une ou plusieurs bases de données de référence pour faire avancer une enquête policière.
D'une part, FRT a le potentiel d'aider à résoudre, arrêter et prévenir les crimes et traduire les contrevenants en justice. Plus précisément, il pourrait être utile pour divers types d'enquêtes, notamment pour rechercher l'identité d'un fraudeur aux guichets automatiques, rechercher un terroriste dans l'espace public, lutter contre la maltraitance des enfants ou encore retrouver des personnes disparues. D'autre part, les premières expériences montrent que sans une surveillance appropriée, la FRT pourrait entraîner des violations des droits de l'homme et nuire aux citoyens.
Dans ce contexte, trouver le bon équilibre apparaît difficile. Les décideurs politiques peuvent explorer diverses options allant d'une interdiction pure et simple à l'introduction de mécanismes de responsabilité supplémentaires pour limiter le risque d'arrestations injustifiées. Aux États-Unis, des villes comme San Francisco, Oakland et boston ont interdit l'utilisation du FRT par les organismes publics, tandis que les États de Washington, Virginie et Massachusetts ont introduit une législation pour réglementer son utilisation. Dans d'autres régions, les décisions des tribunaux jouent un rôle important dans l'élaboration de l'agenda politique. La Cour d'appel du Royaume-Uni a jugé illégal le déploiement du FRT par la police du sud du Pays de Galles identifier les personnes recherchées lors de certains événements et lieux publics où le crime était considéré comme susceptible de se produire.
A un niveau plus global, le récent rapport du Haut-Commissariat des Nations Unies aux droits de l'homme (HCDH) sur le droit à la vie privée à l'ère numérique recommande aux gouvernements d'arrêter l'utilisation de la reconnaissance biométrique à distance dans les espaces publics en temps réel jusqu'à ce qu'ils puissent montrer qu'il n'y a pas de problèmes importants d'exactitude ou d'effets discriminatoires. Cela suggère également que ces systèmes d'IA doivent se conformer à de solides normes de confidentialité et de protection des données.
La technologie de reconnaissance faciale nécessite une structure de gouvernance solide
Malgré ces développements importants, la plupart des gouvernements du monde entier reconnaissent le potentiel des systèmes de reconnaissance faciale pour la sûreté et la sécurité nationales, mais sont toujours aux prises avec les défis de la réglementation du FRT, car des considérations cruciales ont été largement négligées. Si nous devions autoriser l'utilisation proportionnelle du TRF à des fins policières légitimes, quel organe de contrôle devrait être chargé d'évaluer la conformité des activités répressives avec les droits de l'homme et de suivre les plaintes potentielles des citoyens ? Comment maintenir un haut niveau de performance des solutions FRT déployées ? Quels processus d'approvisionnement devraient être mis en place pour les organismes chargés de l'application de la loi ?
Pour relever ces défis, le Forum économique mondial – en partenariat avec l'Organisation internationale de police criminelle (INTERPOL), le Centre d'intelligence artificielle et de robotique de l'Institut interrégional de recherche des Nations Unies sur la criminalité et la justice (UNICRI) et la police néerlandaise – a publié un livre blanc qui présente un cadre de gouvernance structuré autour de deux composants critiques :
- Un ensemble de principes d'action qui définit ce qui constitue une utilisation responsable de la reconnaissance faciale pour les enquêtes des forces de l'ordre en couvrant toutes les considérations politiques pertinentes ;
- Un questionnaire d'auto-évaluation qui détaille les exigences que les organismes d'application de la loi doivent respecter pour assurer le respect des principes d'action.
En tant que telle, cette initiative représente la réponse politique la plus complète aux risques associés au TRF pour les enquêtes des forces de l'ordre, dirigée par une communauté mondiale et multipartite.
C'est bien beau, mais puisque les forces de l'ordre opèrent sous les directives des politiciens, étant donné la corruption au sein du gouvernement que nous voyons dans le monde aujourd'hui, je suis sceptique quant à la bonne utilisation de la technologie. Irriter le mauvais politicien et se retrouver injustement incarcéré ou pire, mort. Désolé, mais il fallait l'articuler.
Cela nécessite une « structure de gouvernance robuste », hein ? .. le type de gouvernement qui ne s'entend pas pour voler les élections ? ; le type de gouvernement qui ne détruit pas l'économie et n'impose pas un coup empoisonné pour asservir ses citoyens et gagner d'énormes sommes d'argent ? ; un gouvernement qui ne travaille pas en collaboration avec la Chine et le CDC pour financer l'expérimentation de gain de fonction qui nous a amenés à ce point ? Pas CE genre de gouvernement, évidemment. Malheureusement, c'est le type de gouvernement dont dispose l'Amérique, et c'est la toute dernière institution en laquelle vous auriez confiance pour protéger les droits et libertés individuels. Schwab vit... Lire la suite »
Comme quelqu'un l'a dit un jour, il n'y a pas de réalité où quelque chose comme ça ne soit pas terriblement maltraité
Abus total de la technologie et abus des droits humains fondamentaux. wef doit être démoli immédiatement par tous les moyens possibles.
Des organisations comme celle-ci doivent sérieusement continuer à se branler collectivement et laisser les gens tranquilles.
Voici un résumé parfait des raisons pour lesquelles nous assistons à toute cette folie, . . .
Le grand « pourquoi » du monde occidental
Triste, mais passez-le.
Accrochez-vous à vos couches pour le visage COVID ineptes. Ils peuvent s'avérer utiles à quelque chose.
Pourquoi les membres du Forum économique mondial ne sont-ils pas en prison et ne cherchent-ils pas à punir les violations de Nuremberg et les meurtres de masse ?
[…] Pendant ce temps... Le WEF crée un cadre pour la reconnaissance faciale « responsable » […]