L'IA voit l'humanité elle-même comme une chose à optimiser, éliminant toute inefficacité. Lorsqu'elle est déchaînée en tant que chef, l'IA vous transforme efficacement en un robot vivant à contrôler comme une marionnette sur une corde. Les employés ne toléreront jamais cela indéfiniment. ⁃ Éditeur TN
Les critiques ont accusé des entreprises d'utiliser des algorithmes pour des tâches de gestion, affirmant que les systèmes automatisés peuvent déshumaniser et punir injustement les employés.
Lorsque Conor Sprouls, représentant du service clientèle du centre d'appels du géant de l'assurance MetLife, s'entretient par téléphone avec un client, il garde un œil sur le coin inférieur droit de son écran. Là, dans une petite boîte bleue, AI lui dit comment il va.
Parler trop vite? Le programme fait clignoter l’icône du compteur de vitesse, indiquant qu’il doit ralentir.
Vous semblez somnolent? Le logiciel affiche un «signal d’énergie» avec l’image d’une tasse de café.
Pas assez empathique? Une icône de coeur apparaît.
Pendant des décennies, les gens ont imaginé avec effroi des armées de robots hyper efficaces envahissant les bureaux et les usines, engloutissant des emplois autrefois occupés par des humains. Mais, dans l'inquiétude suscitée par le potentiel de l'intelligence artificielle pour remplacer les employés de base, nous avons peut-être oublié la possibilité de remplacer les patrons également.
Sprouls et les autres employés du centre d’appel de son bureau de Warwick, dans le Rhode Island, ont encore beaucoup de superviseurs humains. Mais le logiciel sur leurs écrans - créé par Cogito, une société d’intelligence artificielle basée à Boston - est devenu une sorte de responsable adjoint, qui les surveille toujours. À la fin de chaque appel, les notifications Cogito de Sprouls sont comptabilisées et ajoutées à un tableau de bord de statistiques que son superviseur peut consulter. S'il cache la fenêtre de Cogito en la minimisant, le programme en informe son superviseur.
Cogito est l'un des nombreux programmes d'intelligence artificielle utilisés dans les centres d'appels et autres lieux de travail. Selon Joshua Feast, directeur général de Cogito, l’objectif est de rendre les travailleurs plus efficaces en leur fournissant des informations en temps réel.
«Les performances humaines varient», a déclaré Feast. "Nous pouvons déduire de la façon dont les gens se parlent si les choses vont bien ou pas."
L’automatisation a toujours eu pour objectif l’efficacité, mais dans ce nouveau type de lieu de travail, AI considère l’humanité elle-même comme la chose à optimiser. Amazon utilise des algorithmes complexes pour suivre la productivité des travailleurs dans ses centres de distribution et peut automatiquement générer la paperasserie pour licencier les travailleurs qui n'atteignent pas leurs objectifs, comme l'a révélé The Verge cette année. (Amazon a contesté le licenciement de travailleurs sans intervention humaine, affirmant que les responsables peuvent intervenir dans le processus.) IBM a utilisé Watson, sa plate-forme d’intelligence artificielle, lors de l’évaluation des employés pour prévoir les performances futures, et affirme avoir un taux de précision 96%.
Ensuite, il y a les startups. Cogito, qui travaille avec de grandes compagnies d’assurance telles que MetLife et Humana, ainsi que des sociétés financières et des sociétés de distribution, affirme avoir des utilisateurs 20,000. Percolata, société de la Silicon Valley qui compte parmi ses clients Uniqlo et 7-Eleven, utilise des capteurs en magasin pour calculer un score de «productivité réelle» pour chaque travailleur et classer les travailleurs des plus productifs aux moins productifs.
La gestion par algorithme n'est pas un nouveau concept. Au début du 20ème siècle, Frederick Winslow Taylor révolutionna le monde de la fabrication avec sa théorie de la «gestion scientifique», qui tentait de réduire l'inefficacité des usines en chronométrant et en mesurant chaque aspect d'un travail. Plus récemment, Uber, Lyft et d'autres plates-formes à la demande ont généré des milliards de dollars en externalisant des tâches classiques de ressources humaines - ordonnancement, paie, évaluations de performances - vers des ordinateurs.
Mais l'utilisation de l'IA pour gérer les travailleurs dans les tâches classiques, de 9 à 5, a été plus controversée. Les critiques ont accusé des entreprises d'utiliser des algorithmes pour des tâches de gestion, affirmant que les systèmes automatisés peuvent déshumaniser et punir injustement les employés. Et s'il est clair que les dirigeants voudraient une intelligence artificielle capable de suivre tout ce que font leurs travailleurs, il est moins clair pourquoi.
Il est surréaliste de penser que toute entreprise pourrait licencier ses propres travailleurs sans aucune implication humaine », a déclaré Marc Perrone, président du Syndicat international des travailleurs et travailleuses de l'alimentation et du commerce, qui représente les travailleurs de l'alimentation et de la vente au détail, en avril.
«… S'il est clair pourquoi les dirigeants voudraient une IA capable de suivre tout ce que font leurs employés, il est moins clair pourquoi les travailleurs le feraient.
Et c'est là que réside le problème: des humains faibles, ignorants et effrayés. C'est ce sur quoi les profiteurs mondiaux comptent - la probabilité statistique que les masses agiront de cette manière.
wpDiscuz
«… S'il est clair pourquoi les dirigeants voudraient une IA capable de suivre tout ce que font leurs employés, il est moins clair pourquoi les travailleurs le feraient.
Et c'est là que réside le problème: des humains faibles, ignorants et effrayés. C'est ce sur quoi les profiteurs mondiaux comptent - la probabilité statistique que les masses agiront de cette manière.