Lorsque le juge en chef John G. Roberts Jr. a visité l’Institut polytechnique Rensselaer le mois dernier, on lui a posé une question surprenante, un avec des nuances de science-fiction.
"Pouvez-vous prévoir un jour", a demandé Shirley Ann Jackson, président du collège dans le nord de l'État de New York, "lorsque des machines intelligentes, dotées d'une intelligence artificielle, contribueront à l'établissement des faits dans les salles d'audience ou, de manière encore plus controversée, à la prise de décisions judiciaires?"
La réponse du juge en chef était plus surprenante que la question. «C'est un jour qui se tient ici», a-t-il déclaré, «et qui pèse lourdement sur la manière dont le pouvoir judiciaire fait les choses.»
Il pensait peut-être au cas d’un homme du Wisconsin, Eric L. Loomis, qui a été condamné à six ans de prison basé en partie sur le logiciel propriétaire d'une entreprise privée. M. Loomis a déclaré que son droit à une procédure régulière avait été violé à la suite de l'examen par un juge d'un rapport généré par l'algorithme secret du logiciel, que M. Loomis n'avait pas pu inspecter ni contester.
En mars, signalant que les juges étaient intrigués par le cas de M. Loomis, ils ont demandé au gouvernement fédéral déposer un mémoire d'ami de la cour offrant son point de vue sur l'opportunité pour le tribunal d'entendre son appel.
Dans le cas de M. Loomis, le rapport était produit par un produit appelé Compas, vendu par Northpointe Inc. Il comprenait une série de graphiques à barres qui évaluaient le risque que M. Loomis commette davantage de crimes.
Le rapport Compas, a déclaré un procureur au juge de première instance, montrait «un risque élevé de violence, un risque élevé de récidive, un risque élevé avant le procès». Le juge a accepté, déclarant à M. Loomis que "vous avez été identifié comme une personne qui présente un risque élevé pour la communauté. "
Cour suprême du Wisconsin statué contre M. Loomis. Le rapport ajoutait des informations précieuses, a-t-il déclaré, et M. Loomis aurait été condamné à la même peine sur la seule base des facteurs habituels, notamment son crime - fuyant la police dans une voiture - et ses antécédents criminels.
En même temps, la cour semblait mal à l'aise avec l'utilisation d'un algorithme secret pour envoyer un homme en prison. Juge Ann Walsh Bradley, écrit pour le tribunal, discuté, par exemple, un rapport de ProPublica à propos de Compas conclu que les accusés noirs du comté de Broward, en Floride, «étaient beaucoup plus susceptibles que les accusés blancs d’être à tort jugés à un taux de récidive plus élevé».
Le juge Bradley a souligné que Northpointe avait contesté l'analyse. Néanmoins, a-t-elle écrit, «cette étude et d'autres soulèvent des préoccupations concernant la corrélation entre les facteurs de risque d'une évaluation Compas et la race».
En fin de compte, le juge Bradley a toutefois autorisé les juges qui ont prononcé la peine à utiliser Compas. Ils doivent prendre en compte les limites de l'algorithme et le secret qui l'entoure, a-t-elle écrit, ajoutant que le logiciel pourrait être utile «en fournissant au tribunal chargé de la détermination de la peine autant d'informations que possible pour parvenir à une peine individualisée».
Le juge Bradley a expliqué que le rôle de Compas dans la détermination de la peine ressemblait à la considération de la race dans le programme d'admission holistique d'une université sélective. Cela pourrait être un facteur parmi d’autres, écrit-elle, mais pas un facteur déterminant.
La série télévisée 1980 de Blake des années 7 avait une petite boîte qui jugeait Blake et ses amis et les envoyait à la colonie pénitentiaire sur Jupiter. Je pense que c'est sur le premier épisode de Blake's 7 où ils sont au tribunal.
La série télévisée 1980 de Blake des années 7 avait une petite boîte qui jugeait Blake et ses amis et les envoyait à la colonie pénitentiaire sur Jupiter. Je pense que c'est sur le premier épisode de Blake's 7 où ils sont au tribunal.