IBM a utilisé des images de surveillance NYPD pour mettre au point une technologie permettant aux policiers d'effectuer des recherches par couleur de peau

Dans la décennie Après les attaques de 9 / 11, le service de police de la ville de New York a pris des mesures pour placer des millions de New-Yorkais sous surveillance constante. Avertissement de menaces terroristes, le département a créé un plan pour détaillé Les rues du centre-ville de Manhattan avec des milliers de caméras et avaient, par 2008, a centralisé ses opérations de vidéosurveillance sur un seul centre de commande. Deux ans plus tard, le NYPD a annoncé que le centre de commande, connu sous le nom de centre de coordination de la sécurité dans le Lower Manhattan, avait intégré un logiciel d’analyse vidéo de pointe dans certaines caméras de la ville.

Le logiciel d'analyse vidéo a capturé des images fixes d'individus capturés sur des séquences télévisées en circuit fermé et étiqueté automatiquement les images avec des balises physiques, telles que la couleur des vêtements, permettant à la police de rechercher rapidement, pendant des heures, des images d'individus correspondant à une description d'intérêt. A l'époque, le logiciel commençait aussi générer des alertes pour les colis laissés sans surveillance, les voitures accélérant une rue dans la mauvaise direction ou les personnes pénétrant dans des zones réglementées.

Au fil des ans, le NYPD n'a communiqué que de petites mises à jour occasionnelles sur les progrès du programme. Dans une interview 2011 avec Scientific AmericanPar exemple, l'inspecteur Salvatore DiPace, alors commandant de la Lower Manhattan Security Initiative, a déclaré que le service de police testait si le logiciel pouvait masquer les images des visages des personnes alors qu'elles passaient devant des caméras de métro, puis les supprimer pour diverses raisons non spécifiées ». traits du visage. "

Bien que la technologie de reconnaissance faciale, qui mesure les visages individuels à sur les points 16,000 comparaisons fines avec d’autres images faciales, a attiré un nombre important de personnes examen juridique et l'attention des médias, ce logiciel d’identification d’objets a largement évité l’attention. Le NYPD n'a jamais révélé publiquement comment cette technologie a été développée et quelles sont les caractéristiques particulières du logiciel conçu pour le catalogue.

Maintenant, grâce à documents d'entreprise confidentiels et des entretiens avec de nombreux techniciens impliqués dans le développement du logiciel, The Intercept et le Investigative Fund ont appris qu'IBM avait commencé à développer cette technologie d'identification d'objets en utilisant un accès secret aux images de caméras NYPD. Avec l'accès aux images de milliers de New-yorkais inconnus proposées par des responsables de la police de New York, dès 2012, IBM créait de nouvelles fonctionnalités de recherche permettant aux autres services de police de rechercher dans des images filmées des personnes par couleur, cheveux, peau et ton chair .

IBM a refusé de commenter son utilisation des images NYPD pour développer le logiciel. Cependant, dans une réponse électronique aux questions, le NYPD a déclaré à The Intercept que «Une vidéo, de temps en temps, était fournie à IBM pour garantir que le produit qu’il développait fonctionnerait dans l’environnement urbain peuplé de New York et nous aiderait à protéger la ville. . Rien dans l'accord conclu entre le NYPD et IBM n'empêche le partage de données avec IBM à des fins de développement du système. En outre, tous les fournisseurs qui passent des accords contractuels avec le NYPD ont l'obligation absolue de garder confidentielles toutes les données fournies par le NYPD pendant la durée de l'accord, après la fin de l'accord et en cas de résiliation de l'accord. "

Dans un email à The Intercept, Le NYPD a confirmé que certains responsables de la lutte contre le terrorisme avaient déjà accès à une version préliminaire du programme d'IBM, qui incluait des fonctionnalités de recherche de tons chair, dès l'été de 2012. Le porte-parole de la NYPD, Peter Donald, a déclaré que les caractéristiques de la recherche n'étaient utilisées qu'à des fins d'évaluation et que les agents avaient pour instruction de ne pas inclure la fonction de recherche de la peau dans leur évaluation. Le ministère a finalement décidé de ne pas intégrer le programme d'analyse dans son architecture de surveillance plus large et a supprimé progressivement le programme IBM sous 2016.

Après avoir testé ces fonctions de recherche corporelle avec le NYPD, IBM a publié certaines de ces fonctionnalités dans une version de produit 2013. Plus tard versions du logiciel IBM a retenu et étendu ces capacités de recherche corporelle. (IBM n'a pas répondu à une question sur la disponibilité actuelle de ses programmes d'analyse vidéo.)

Interrogé sur le secret de cette collaboration, le NYPD a déclaré que «divers responsables élus et parties prenantes» avaient été informés des efforts déployés par le département pour «assurer la sécurité de cette ville», ajoutant que le partage de l'accès à la caméra avec IBM était nécessaire au bon fonctionnement du système. IBM n'a pas répondu à une question sur les raisons pour lesquelles la société n'a pas rendu cette collaboration publique. Donald a déclaré qu'IBM avait octroyé au département des licences lui permettant d'appliquer le système aux caméras 512, tout en précisant que les analyses avaient été testées sur «moins de cinquante». Il a ajouté que le personnel d'IBM avait accès à certaines caméras dans le seul but de configurer le système de NYPD. Le ministère a mis en place des garanties pour protéger les données, notamment des «accords de non-divulgation pour chaque personne ayant accès au système; accords de non-divulgation pour les entreprises pour lesquelles les vendeurs ont travaillé; et vérification des antécédents.

Lire l'histoire complète ici…