Le PDG d'IBM, Arvind Krishna, a annoncé aujourd'hui que la société ne vendrait plus de services de reconnaissance faciale, appelant à un «dialogue national» sur son utilisation. Il a également exprimé son soutien à un nouveau projet de loi visant à réduire la violence policière et à accroître la responsabilité.
Dans une lettre rapporté par CNBC, écrit à l'appui de la Loi sur la justice dans les services policiers présenté aujourd'hui, Krishna explique la sortie de l'entreprise de l'entreprise controversée de l'identification faciale en tant que service.
IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois.
Cette approche prudente du développement et du déploiement de la technologie n'est pas nouvelle: IBM l'a souligné l'année dernière avec une nouvelle base de données de données faciales c'était plus diversifié que tout ce qui était disponible à l'époque. Après tout, comme tout programme, ces systèmes sont aussi bons que les informations que vous y introduisez.
Cependant, la reconnaissance faciale ne semble pas avoir fait beaucoup d'argent à l'entreprise, le cas échéant. Pour être juste, la technologie en est à ses balbutiements et il y a peu d'applications où un fournisseur d'entreprise comme IBM a du sens. Le service controversé de rekognition d'Amazon, bien qu'il ait été testé par un bon nombre d'entités chargées de l'application des lois, n'est pas bien pensé sur le terrain. Il ne serait pas très avantageux pour IBM d'essayer de rivaliser avec un produit qui est à peine assez bon à utiliser.
La lettre de Krishna dit également que «les fournisseurs et les utilisateurs des systèmes Al ont la responsabilité partagée de s'assurer que Al est testé pour les biais, en particulier lorsqu'il est utilisé dans l'application de la loi, et que ces tests de biais sont audités et signalés». Il s'agit d'une sorte de coup de départ pour ceux du domaine, Amazon en particulier, qui ont été dénoncés pour la mauvaise qualité des systèmes de reconnaissance faciale mais n'ont pas cessé de les commercialiser.
Il n'est pas clair si ou comment l'entreprise continuera à effectuer des recherches sur l'IA dans ce sens.
wpDiscuz