Professeur : les militants libéraux politisent l'intelligence artificielle

Que faites-vous si des décisions qui étaient autrefois prises par des humains, avec tous leurs préjugés, commencent à être prises par des algorithmes mathématiquement incapables de préjugés ? Si vous êtes rationnel, vous devriez célébrer. Si vous êtes un militant libéral, vous reconnaissez cette évolution pour la menace mortelle qu'elle représente et vous vous démenez pour reprendre le contrôle.

Vous pouvez voir cela se dérouler lors des conférences sur l'IA. La semaine dernière, j'ai assisté à l'édition 2020 de NeurIPS, la principale conférence internationale sur l'apprentissage automatique. Ce qui a commencé comme un petit rassemblement rassemble maintenant suffisamment de personnes pour remplir une arène sportive. Cette année, pour la première fois, NeuroIPS exigeait que la plupart des articles incluent une déclaration «d'impacts plus larges» et soient soumis à l'examen d'un comité d'éthique. Chaque article décrivant comment accélérer un algorithme, par exemple, doit maintenant avoir une section sur les biens et les maux sociaux de cette avancée technique obscure. "Indépendamment de la qualité scientifique ou de la contribution", indiquait l'appel à contributions, "une soumission peut être rejetée pour… y compris les méthodes, applications ou données qui créent ou renforcent un parti pris injuste".

Ce n'était que le dernier tour du rochet. Les précédentes ont inclus le changement de nom de la conférence en quelque chose de plus politiquement correct et l'obligation pour les participants d'accepter explicitement un «code de conduite» complet avant de pouvoir s'inscrire, ce qui permet à la conférence d'expulser les participants pour avoir publié quelque chose sur les réseaux sociaux que les responsables ont désapprouvé. Plus sérieusement, tout un sous-domaine de l'IA a vu le jour dans le but exprès, entre autres, de " débiaiser " les algorithmes. C'est maintenant en plein essor.

J'ai posté quelques tweets soulevant des questions sur les derniers changements - et la foule d'annulation est descendue sur moi. Insultes, railleries, menaces, etc. On pourrait penser que les scientifiques seraient au-dessus de tels comportements, mais non. J'ai souligné que NeurIPS est une valeur aberrante en exigeant des déclarations d'impact plus larges, et les annuleurs ont changé de sujet à plusieurs reprises. Je me suis opposé à la politisation de l'IA, mais ils ont pris cela comme un déni de la validité de toute considération éthique. Un directeur d'entreprise de recherche en machine learning, également professeur de Caltech, a publié sur Twitter à la vue de tous une longue liste de personnes à annuler, leur seul crime étant de m'avoir suivi ou aimé un de mes tweets. La même foule a réussi à faire publier par mon université une déclaration désavouant mes opinions et réaffirmant ses références libérales.

Pourquoi tout ce remue-ménage ? Les données peuvent avoir des biais, bien sûr, tout comme les data scientists. Et les algorithmes codés par les humains peuvent en principe faire tout ce que nous leur disons. Mais les algorithmes d'apprentissage automatique, comme à peu près tous les algorithmes que vous trouvez dans les manuels d'informatique, ne sont essentiellement que des formules mathématiques complexes qui ne savent rien de la race, du sexe ou du statut socio-économique. Ils ne peuvent pas être plus racistes ou sexistes que la formule y = ax + b.

Le best-seller de Daniel Kahneman, Penser, Fast and Slow, a un chapitre entier sur la façon dont les algorithmes sont plus objectifs que les humains, et donc prennent de meilleures décisions. Pour l'esprit libéral militant, cependant, ce sont des cloaques d'iniquité et doivent être nettoyés.

Ce que signifie nettoyer les algorithmes, en pratique, c'est y insérer des préjugés favorisant des groupes spécifiques, rétablissant en fait sous une forme automatisée les contrôles sociaux auxquels la gauche politique est si attachée. « Débiaiser », en d'autres termes, signifie ajouter un biais. Sans surprise, cela rend les algorithmes moins performants dans leur fonction prévue. Les algorithmes de notation des cartes de crédit peuvent rejeter des candidats plus qualifiés afin de s'assurer que le même nombre de femmes et d'hommes sont acceptés. Les algorithmes de consultation sur libération conditionnelle peuvent recommander de laisser les criminels les plus dangereux en liberté dans le but de faire libérer un nombre proportionnel de Blancs et de Noirs. Certains préconisent même d'interdire l'utilisation dans les algorithmes de toutes les variables corrélées à la race ou au sexe, au motif qu'elles équivalent à une redlining. Cela rendrait non seulement l'apprentissage automatique et tous ses avantages essentiellement impossibles, mais serait particulièrement ironique étant donné que ces variables sont précisément ce dont nous avons besoin pour séparer les décisions de celles que nous voulons exclure.

Si vous remettez en question ceci ou n'importe quel autre d'un large éventail d'exigences libérales sur l'IA, vous allez avoir beaucoup de chagrin. Plus le chercheur annulé est important, mieux c'est, car il envoie le message le plus effrayant à tous les autres, en particulier aux jeunes chercheurs. Jeff Dean, responsable légendaire de l'IA chez Google, et Yann LeCun, scientifique en chef de l'IA chez Facebook et co-fondateur de l'apprentissage en profondeur, ont tous deux se sont retrouvés à l'extrémité réceptrice du mécontentement du groupe libéral.

Jusqu'à présent, les conservateurs ont été largement inconscients de l'empiétement accéléré de la politique progressiste sur l'IA. Si l'IA était encore un domaine obscur et immature, cela pourrait être OK, mais le temps est révolu depuis longtemps. Les algorithmes dirigent de plus en plus nos vies, et ils peuvent imposer une société militantement libérale (en réalité illibérale) par la petite porte. Chaque fois que vous effectuez une recherche sur le Web, utilisez les médias sociaux ou obtenez des recommandations d'Amazon ou de Netflix, les algorithmes choisissent ce que vous voyez. Les algorithmes aident à sélectionner les candidats à un emploi, les électeurs à cibler dans les campagnes politiques et même les personnes à ce jour. Les entreprises et les législateurs doivent veiller à ce qu'ils ne soient pas altérés. Et nous devons tous être conscients de ce qui se passe, afin que nous puissions avoir notre mot à dire. Pour ma part, après avoir vu comment les progressistes attribuent allègrement des préjugés même à des algorithmes qui, de manière transparente, ne peuvent en avoir, j'ai commencé à remettre en question la vision orthodoxe des préjugés humains. Sommes-nous vraiment aussi profondément et irrémédiablement racistes et sexistes qu'ils le prétendent ? Je crois que non.

Pedro Domingos est professeur émérite d'informatique et d'ingénierie à l'Université de Washington.

Lire l'histoire complète ici…