Les psychopathes ont beaucoup à nous apprendre sur l'IA

Que se passe-t-il lorsque des machines apprennent à nous manipuler en simulant nos émotions? À en juger par le rythme auquel les chercheurs développent des agents d’IA similaires à ceux de l’humain, nous sommes sur le point de le découvrir.

Des chercheurs du monde entier tentent de créer une intelligence artificielle plus humaine. Par définition, ils développent des psychopathes artificiels. Ce n’est pas nécessairement une mauvaise chose: il n’ya rien de mal en soi à être un psychopathe, et tous les agents d’IA sont des psychopathes artificiels simplement parce qu’ils manquent de toute la gamme des émotions humaines neurotypiques.

Mais le chevauchement entre le comportement psychopathique et le comportement de l'agent de l'IA est indéniable. Nous devrions examiner cela avant qu'il ne soit trop tard.

Le dilemme du prisonnier

Un trio de chercheurs de l'Université de Waterloo a récemment a mené une expérience pour déterminer comment les manifestations d'émotions peuvent aider l'IA à manipuler les humains pour qu'ils coopèrent. L'étude a utilisé une expérience classique de théorie des jeux appelée «Le dilemme du prisonnier», qui montre pourquoi les personnes qui bénéficieraient d'une coopération ne le font souvent pas.

Il y a beaucoup de variations dans le jeu, mais c'est fondamentalement ceci: il y a deux prisonniers isolés l'un de l'autre qui sont interrogés par la police pour un crime qu'ils ont commis ensemble. Si l'un d'eux craque et l'autre pas, le non-traître a trois ans et le vif d'or se met en marche. Cela fonctionne dans les deux sens. Si les deux sont vif, ils ont tous deux deux ans. Si ni l'un ni l'autre ne se moque, ils ne reçoivent chacun qu'un an avec une charge moindre.

L'étude de Waterloo a substitué un avatar de l'intéressé à l'un des «prisonniers» humains et leur a permis d'interpréter les émotions de chacun. Et au lieu de peines de prison, ils utilisaient de l’or. L’important était donc d’obtenir le score le plus élevé possible, par opposition au plus faible. Comme nous l'avons dit, il y a des variations dans le jeu. Mais, plus important encore, ils ont découvert que les humains étaient plus faciles à transformer en résultats coopératifs en améliorant le niveau de comportement semblable à celui de l'IA. Selon les recherches de l'équipe de Waterloo papier:

Bien que les chercheurs puissent améliorer avec succès la perception des traits d'unicité humaine en rendant les agents plus intelligents, les émotions sont essentielles à la perception des traits de la nature humaine. Cette amélioration a également eu une incidence positive sur la coopération des utilisateurs avec l'agent et sur leur satisfaction.

Pendant ce temps, une autre équipe de chercheurs a récemment publié une expérience différente impliquant le problème du dilemme du prisonnier. Des scientifiques de l’Université Victoria de Wellington et de l’Université de Southampton ont classé les étudiants volontaires 190 en quatre groupes comprenant différents ratios d’étudiants en neurotypie et présentant des caractéristiques de psychopathie. Les chercheurs ont découvert qu'avoir des psychopathes dans une dynamique de groupe était compatible avec une coopération moindre.

Pour être clair, l’étude Victory / Southhampton n’a pas utilisé de personnes considérées comme des psychopathes complets, mais des étudiants présentant un plus grand nombre de traits psychopathiques que les autres. Le but de cette étude était de déterminer si l'introduction de personnes présentant une psychopathie même modifiait la dynamique de groupe. Ils ont trouvé cela fait:

Nos résultats montrent que les personnes présentant des niveaux plus élevés de traits psychopathiques ont une incidence sur la dynamique de groupe. Nous avons constaté une divergence significative de coopération entre les groupes ayant une forte densité de participants psychopathes élevés par rapport aux groupes de densité zéro.

L'extorsionniste amical

L'introduction d'agents émotionnels à moitié cuits dans la société risque d'être cauchemardesque. Une autre étude récente de l’expérience du dilemme du prisonnier, celle de la société Max Planck, indique que la meilleure stratégie pour le jeu est de devenir le «gentil extorqueur». En substance, il est dit que lorsque des bonus et des incitatifs sont en jeu, Le mieux est de créer l'illusion de coopération tout en incitant l'autre joueur à coopérer, peu importe le nombre de fois.

Lire l'histoire complète ici…