Comme prévu, les logiciels antérieurs à la criminalité ont balayé le pays, les ministères à tous les niveaux essayant de tirer parti de la promesse utopique de les attraper avant de s’engager. Cependant, les critiques se rendent compte que cela se transforme en une nouvelle méthode de profilage à laquelle il ne peut y avoir aucune issue. ⁃ Éditeur TN
Sgt. Charles Coleman est sorti de son VUS de police et a balayé une rue semée de déchets, fréquentée par les sans-abri de la ville, en réponse à un crime qui ne s'était pas encore produit.
Ce n’était pas un appel 911 qui avait amené l’officier du département de police de Los Angeles à cet endroit, mais un ordinateur volumineux chargé de données criminelles pour en arriver à une prédiction: un vol de voiture ou un cambriolage se produirait probablement près d’ici ce matin.
Dans l'espoir de s'en sortir, Coleman inspecta une ligne de véhicules récréatifs délabrés utilisés par les sans-abri pour s'abriter, réveilla un homme endormi dans une camionnette et frappa du côté d'une cabane faite de contreplaqué et de bâches.
"Comment ça va, mon coeur?", Demanda-t-il à une femme qui sortit. Coleman a écouté avec sympathie lorsqu'elle a décrit le fait qu'elle avait presque été violée à bout de couteau quelques mois plus tôt, affirmant que la région était «vraiment difficile» pour une femme.
Bientôt, Coleman était de retour dans son VUS pour combattre le prochain crime commis. Des dizaines d'autres officiers de la police de Los Angeles ont fait de même à d'autres endroits, guidés par le système de pronostic criminel, appelé PredPol.
La «police prédictive» représente un changement de paradigme qui touche les services de police du pays. Les organismes chargés de l'application de la loi tentent de plus en plus de prévoir où et quand un crime sera commis, ou qui pourrait en être l'auteur ou la victime, en utilisant un logiciel qui repose sur des algorithmes, les mêmes calculs que Amazon utilise pour recommander des livres.
«L’espoir est le Saint-Graal de l’application de la loi - prévenir le crime avant qu’il ne se produise», a déclaré Andrew G. Ferguson, professeur de droit à l’Université du District de Columbia, en train de préparer un livre sur le Big Data et le maintien de l’ordre.
Désormais utilisées par 20, l'une des forces de police les plus importantes du pays, 50, les technologies sont au centre d'un débat de plus en plus acharné sur leur efficacité, leur impact potentiel sur les communautés pauvres et minoritaires et leurs incidences sur les libertés civiles.
Certains services de police ont salué PredPol et d'autres systèmes comme ayant contribué à réduire la criminalité, en concentrant les rares ressources sur les points chauds et les individus et en remplaçant les intuitions et les biais potentiels des agents par des données fiables.
Mais les groupes de la vie privée et de la justice raciale affirment qu’il existe peu de preuves que les technologies fonctionnent et notent que les formules à la base des systèmes sont en grande partie secrètes. Ils craignent que la pratique ne concentre injustement l'application des lois dans les communautés de couleur en s'appuyant sur des données de police asymétriques sur le plan racial. Et ils craignent que les agents qui s'attendent à un vol ou à un cambriolage soient plus susceptibles de traiter les personnes qu'ils rencontrent comme des criminels potentiels.
Les expériences constituent l’un des tests les plus conséquents d’algorithmes qui sont des forces de plus en plus puissantes dans notre vie, déterminant les cotes de crédit, mesurant le rendement au travail et signalant les enfants susceptibles d’être maltraités. La Maison Blanche a étudié comment équilibrer les avantages et les risques qu’ils présentent.
«Les capacités techniques du Big Data ont atteint un niveau de sophistication et d'omniprésence qui impose de réfléchir au meilleur moyen d'équilibrer les opportunités offertes par le Big Data par rapport aux questions sociales et éthiques soulevées par ces technologies», a écrit la Maison Blanche dans un récent rapport.
Un changement sismique dans le maintien de l'ordre
C'était 6: 45 le lundi, mais la feuille de papier que Coleman tenait entre ses mains laissait entrevoir l'avenir d'octobre 24: un vol de voiture près du coin de Van Nuys et de Glenoaks, un cambriolage à Laurel Canyon et à Roscoe etc.
La prévision de la criminalité est produite par PredPol au début de chaque quart de travail. Des boîtes rouges réparties sur Google Maps de la vallée de San Fernando, soulignant les emplacements 500 par 500 pieds où PredPol a conclu que des crimes contre la propriété étaient probables.
