Des robots tueurs? Des chercheurs d'IA signent une pétition disant «non!

S'il vous plaît partager cette histoire!
Le génie est déjà sorti de la bouteille, mais les chercheurs avancés en IA sont désormais très préoccupés par la manière dont leurs créations seront utilisées dans la guerre autonome. L'IA est sur le point de s'auto-répliquer, ce qui signifie que les applications malhonnêtes déterminées à tuer des humains pourraient se multiplier jusqu'à l'extinction de la race humaine. ⁃ Éditeur TN

Des milliers de scientifiques spécialisés dans l'intelligence artificielle (IA) ont déclaré qu'ils ne participeraient pas au développement ou à la fabrication de robots capables d'identifier et d'attaquer des personnes sans surveillance humaine.

Demis Hassabis chez Google DeepMind et Elon Musk chez la société américaine SpaceX font partie des sociétés plus que 2,400 signataires de la promesse qui vise à dissuader les entreprises militaires et les nations de mettre en place des systèmes d'armes létales et autonomes, également appelés lois.

Cette initiative est la dernière en date parmi les scientifiques et les organisations concernés qui ont souligné les dangers de confier des décisions de vie ou de mort aux machines améliorées pour l’IA. Il en résulte des appels à une interdiction préventive sur la technologie qui, selon les militants, pourrait inaugurer une nouvelle génération d’armes de destruction massive.

Orchestré par l'organisation basée à Boston, The Future of Life Institute, cet engagement engage les gouvernements à se mettre d'accord sur des normes, des lois et des réglementations qui stigmatisent et interdisent effectivement le développement de robots tueurs. En l’absence de telles mesures aujourd’hui, les signataires s’engagent à «ne participer ni au soutien au développement, à la fabrication, au commerce ou à l’utilisation d’armes létales autonomes». Plus de sociétés et d’organisations liées à 150 AI ont ajouté leur nom à cet engagement. a annoncé aujourd'hui à la Conférence conjointe internationale sur la grippe aviaire à Stockholm.

Yoshua Bengio, un pionnier de l'IA à l'Institut d'algorithmes d'apprentissage de Montréal, a déclaré au Guardian que si l'engagement était en mesure de faire honte à ces entreprises et organisations militaires fabriquant des armes autonomes, l'opinion publique leur échapperait. «Cette approche a en fait fonctionné pour les mines terrestres, grâce aux traités internationaux et à la honte publique, même si des pays majeurs comme les États-Unis n'ont pas signé le traité d'interdiction des mines antipersonnel. Les entreprises américaines ont cessé de construire des mines antipersonnel », a-t-il déclaré. Bengio a signé la promesse d'exprimer sa "vive préoccupation concernant les armes autonomes mortelles".

L'armée est l'un des plus importants bailleurs de fonds et adoptants de la technologie de l'IA. Avec des systèmes informatiques avancés, les robots peuvent effectuer des missions sur des terrains hostiles, naviguer sur le sol et patrouiller sous les mers. Des systèmes d’armes plus sophistiqués sont en préparation. Lundi, le secrétaire à la Défense, Gavin Williamson, a dévoilé un plan de £ 2bn pour un nouveau combattant de la RAF, la Tempest, qui pourra voler sans pilote.

Les ministres britanniques ont déclaré que la Grande-Bretagne ne développait pas de systèmes d'armes autonomes létaux et que ses forces contrôleraient et contrôlaient toujours les armes déployées. Mais les militants avertissent que les progrès rapides de l'IA et d'autres domaines signifient qu'il est désormais possible de construire des armes sophistiquées capables d'identifier, de suivre et de tirer sur des cibles humaines sans le consentement d'un contrôleur humain. Pour de nombreux chercheurs, laisser aux machines le choix des personnes qui vivent et meurent dépasse les limites de la morale.

«Nous devons faire de la norme internationale que les armes autonomes ne sont pas acceptables. Un humain doit toujours être au courant », a déclaré Toby Walsh, professeur d'intelligence artificielle à l'Université de New South Wales à Sydney, qui a signé l'engagement.

Lire l'histoire complète ici…

S'abonner
Notifier de
invité

1 Commentaire
Le plus ancien
Date Les plus votés
Commentaires en ligne
Voir tous les commentaires

enfants basés sur l'histoire réelle de About Real-Life Kids Who Changed the World