Les technocrates de l'armée qui construisent simplement parce qu'ils le peuvent constituent une menace pour le monde entier. L'humanité souhaite que la technologie serve et aide les humains, et non les tue ou les contrôle. ⁃ Éditeur TN
La controverse entourant l'intelligence artificielle militaire est enracinée dans des "idées fausses et graves" sur ce que le ministère tente réellement de faire, selon des responsables de la Défense actuels et anciens.
La protection des États-Unis au cours des prochaines décennies obligera le Pentagone à effectuer des investissements «substantiels et durables» dans l'intelligence artificielle militaire. Les critiques doivent comprendre qu'il ne faut pas prendre cette tâche à la légère, selon des responsables du Département de la Défense (anciens et actuels).
Les efforts visant à développer l'utilisation des systèmes d'intelligence artificielle par le département ont suscité un tollé général dans les milieux de la technologie et des politiques qui craignent que les États-Unis ne confient bientôt aux machines le soin de prendre des décisions décisives sur le champ de bataille. L'année dernière, les manifestations d'employés ont mené Google retirer un projet de l'armée de l'air qui utilisait l'apprentissage automatique pour trier les images de surveillance.
Mercredi, les responsables ont déclaré que le Pentagone est aller très loin veiller à ce que toutes les applications potentielles d'Amnesty International adhèrent à des normes éthiques strictes et à des normes internationales. Même si l'armée américaine hésite à déployer cette technologie, ils ont prévenu que les adversaires mondiaux tels que la Russie et la Chine ne le feraient certainement pas et que leur cadre éthique ferait probablement défaut.
«Le ministère de la Défense est absolument sans excuse pour poursuivre cette nouvelle génération d'armes activées par l'IA», a déclaré mercredi l'ancien secrétaire adjoint à la Défense Robert Work lors d'un événement organisé par la section de l'AFCEA à Washington, DC. «Si nous voulons réussir contre un concurrent comme la Chine qui est à fond dans cette compétition… nous allons devoir saisir l'inévitabilité de l'IA.
Sorti en février, le Stratégie de l'IA du Pentagone exige explicitement que les opérateurs humains soient en mesure de déjouer toute décision prise par un système d'IA militaire et garantissent que la technologie respecte les lois des conflits armés.
"Je dirais que l'armée américaine est la force militaire la plus éthique de l'histoire de la guerre, et nous pensons que le passage aux armes basées sur l'IA poursuivra cette tendance", a déclaré Work. Et malgré les critiques, at-il ajouté, la technologie pourrait potentiellement sauver des vies en réduisant les tirs amis et en évitant les pertes civiles.
Le lieutenant-général Jack Shanahan, qui dirige le nouveau Centre d'Intelligence Artificielle mixte du ministère, a expliqué au public que la plupart des critiques qu'il avait dirigées contre les efforts de l'IA militaire avaient pour origine «des idées fausses sur ce sur quoi le département travaille». Alors que certains pourraient envisager un système d'IA général «qui va errer sans discernement sur le champ de bataille», a-t-il déclaré, la technologie ne sera appliquée que de manière étroite et les humains resteront toujours au courant.
La levée de boucliers montre que le Pentagone n'engage pas suffisamment l'industrie des projets qu'il poursuit, selon Shanahan.
wpDiscuz