Les militaires créent des systèmes d'armes IA pour être `` prêts à être massacrés ''

La vidéo est austère. Deux hommes menaçants se tiennent à côté d'une camionnette blanche dans un champ, tenant des télécommandes. Ils ouvrent les portes arrière de la camionnette et le son pleurnichard des drones quadcopter crescendos. Ils actionnent un interrupteur et les drones pullulent comme des chauves-souris d'une grotte. En quelques secondes, nous sommes passés à une salle de classe d'université. Les robots tueurs affluent par les fenêtres et les évents. Les étudiants hurlent de terreur, piégés à l'intérieur, alors que les drones attaquent avec une force mortelle. La leçon que le film, Abatteurs, essaie de communiquer est clair: de minuscules robots tueurs sont soit ici, soit à une petite avancée technologique. Les terroristes pourraient facilement les déployer. Et les défenses existantes sont faibles ou inexistantes.

Certains experts militaires ont fait valoir que Slaughterbots - qui a été créé par le Future of Life Institute, une organisation de recherche menaces existentielles à l'humanité - sensationnalisé un problème grave, attisant la peur là où une réflexion calme était nécessaire. Mais quand il s'agit de l'avenir de la guerre, la frontière entre la science-fiction et les faits industriels est souvent floue. L'armée de l'air américaine a prédit un avenir dans lequel «les équipes du Swat enverront des insectes mécaniques équipés de caméras vidéo pour se glisser à l'intérieur d'un bâtiment lors d'une impasse». Un «collaboratif de microsystèmes» a déjà sorti Octoroach, un «robot extrêmement petit avec une caméra et un émetteur radio pouvant couvrir jusqu'à 100 mètres au sol». Ce n’est qu’un parmi tant d'autres "biomimétique», Ou des armes imitant la nature qui se profilent à l'horizon.

Qui sait combien d'autres créatures nocives sont aujourd'hui des modèles pour les théoriciens militaires d'avant-garde. Un roman récent de PW Singer et August Cole, situé dans un futur proche dans lequel les États-Unis sont en guerre avec la Chine et la Russie, présentait une vision kaléidoscopique de drones autonomes, de lasers et de satellites détournés. Le livre ne peut être considéré comme un fantasme techno-militaire: il comprend des centaines de notes de bas de page documentant le développement de chaque matériel et logiciel qu'il décrit.

Les progrès dans la modélisation des machines à tuer robotiques ne sont pas moins inquiétants. Une histoire de science-fiction russe des années 60, Crabs on the Island, décrit une sorte de Hunger Games pour les IA, dans lequel les robots se battent pour obtenir des ressources. Les perdants seraient mis au rebut et les gagnants se reproduiraient, jusqu'à ce que certains deviennent les meilleures machines à tuer. Lorsqu'un informaticien de premier plan a évoqué un scénario similaire à la Darpa (Defense Advanced Research Projects Agency) des États-Unis, le qualifiant de «robot Jurassic Park», qu'un dirigeant a qualifié de «faisable». Il ne faut pas beaucoup de réflexion pour réaliser qu'une telle expérience a le potentiel de devenir incontrôlable. La dépense est le principal obstacle à une grande puissance qui expérimente de telles machines potentiellement destructrices. La modélisation logicielle peut même éliminer cette barrière, permettant à des simulations virtuelles testées au combat d'inspirer de futurs investissements militaires.

Dans le passé, les États-nations se sont unis pour interdire les nouvelles armes particulièrement horribles ou terrifiantes. Au milieu du XXe siècle, les conventions internationales interdisaient les armes biologiques et chimiques. La communauté des nations a interdit l'utilisation de technologie laser aveuglante, aussi. Un solide réseau d'ONG a exhorté avec succès l'ONU à convoquer les États membres pour qu'ils acceptent une interdiction similaire des robots tueurs et autres armes qui peuvent agir seuls, sans contrôle humain direct, pour détruire une cible (également connue sous le nom de systèmes d'armes autonomes létales) , ou lois). Et bien qu'il y ait eu un débat sur la définition de cette technologie, nous pouvons tous imaginer des types d'armes particulièrement terrifiants que tous les États devraient accepter de ne jamais fabriquer ou déployer. Un drone qui progressivement chauffé à mort les soldats ennemis violerait les conventions internationales contre la torture; les armes soniques conçues pour détruire l'ouïe ou l'équilibre d'un ennemi devraient mériter un traitement similaire. Un pays qui a conçu et utilisé de telles armes doit être exilé de la communauté internationale.

Dans l'abstrait, nous pouvons probablement convenir que l'ostracisme - et une punition plus sévère - est également mérité pour les concepteurs et les utilisateurs de robots tueurs. L'idée même d'une machine prête à être abattue est effrayante. Et pourtant, certaines des plus grandes armées du monde semblent ramper vers le développement de telles armes, en poursuivant une logique de dissuasion: elles craignent d'être écrasées par l'IA de leurs rivaux s'ils ne peuvent pas libérer une force tout aussi puissante. La clé pour résoudre une telle course aux armements insoluble réside peut-être moins dans les traités mondiaux que dans une mise en garde sur les utilisations de l'IA martiale. Comme "la guerre rentre à la maison», Le déploiement d'une force de niveau militaire dans des pays comme les États-Unis et la Chine est un avertissement sévère à leurs citoyens: quelles que soient les technologies de contrôle et de destruction que vous autorisez votre gouvernement à acheter pour une utilisation à l'étranger maintenant pourraient bien être utilisées contre vous à l'avenir.

Lire l'histoire complète ici…