Intelligence artificielle et avenir de la guerre

Résumé du papier

• Les robots militaires et commerciaux incorporeront à l'avenir une "intelligence artificielle" (IA) qui pourrait les rendre capables d'entreprendre des tâches et des missions par eux-mêmes. Dans le contexte militaire, cela donne lieu à un débat quant à savoir si de tels robots devraient être autorisés à exécuter de telles missions, en particulier s'il est possible que des vies humaines soient en jeu.
• Pour mieux comprendre les enjeux, ce document présente un cadre expliquant l'état actuel des connaissances en matière d'intelligence artificielle, les forces et les faiblesses de la technologie et les perspectives d'avenir. Le cadre démontre que si les ordinateurs et l'IA peuvent être supérieurs aux humains dans certaines tâches basées sur des compétences et des règles, dans des situations qui nécessitent jugement et connaissance, en présence d'une incertitude significative, les humains sont supérieurs aux ordinateurs.
• Dans le débat complexe sur la question de savoir si et comment il convient de contrôler le développement des armes autonomes, il convient de prendre pleinement en considération le marché commercial en pleine expansion pour les systèmes autonomes tant aériens que terrestres. Interdire une technologie autonome à usage militaire peut ne pas être pratique, étant donné que des technologies dérivées ou supérieures pourraient bien être disponibles dans le secteur commercial.
• Une course aux armements métaphorique est en cours dans la sphère commerciale du développement de systèmes autonomes, et ce déplacement des efforts et des dépenses de R&D des milieux militaires vers les milieux commerciaux est problématique. Le développement de systèmes autonomes militaires a été au mieux lent et progressif, et pâle en comparaison des progrès réalisés dans les systèmes autonomes commerciaux tels que les drones, et en particulier dans les voitures sans conducteur.
• Sur un marché extrêmement concurrentiel pour les roboticiens hautement qualifiés et les ingénieurs associés dans les secteurs les plus intéressés par l'intelligence artificielle, l'aérospatiale et la défense, où le financement est largement supérieur à celui des secteurs de l'automobile commerciale ou de l'information et de la communication, attire moins le personnel qualifié. En conséquence, l’industrie mondiale de la défense est à la traîne par rapport à ses homologues commerciaux en termes d’innovation technologique. L’écart ne fait que se creuser à mesure que les ingénieurs les plus brillants et les plus brillants se tournent vers la sphère commerciale.
• En ce qui concerne l'avenir de la guerre car elle est liée à l'IA, la grande disparité actuelle entre les dépenses de R&D commerciales et militaires pour le développement de systèmes autonomes pourrait avoir un effet en cascade sur les types et la qualité d'autonomie qui seront finalement incorporés dans les systèmes militaires. Une question cruciale à cet égard est de savoir si les entreprises de défense auront la capacité de développer et de tester des systèmes autonomes sûrs et contrôlables, en particulier ceux qui tirent des armes.
• L'utilisation de technologies naissantes sans tests complets pourrait exposer à la fois le personnel militaire et les civils. Cependant, le développement rapide des systèmes autonomes commerciaux pourrait normaliser l'acceptation des systèmes autonomes par l'armée et le public, ce qui pourrait inciter les forces armées d'État à financer le développement de tels systèmes à un niveau correspondant davantage aux investissements dans les systèmes dotés de personnel.