L'analyse des menaces et les décisions seront prises de manière autonome, en informant les agents de patrouille aux frontières; cependant, il s'agit d'une pente glissante qui pourrait trop facilement être introduite dans de larges pratiques d'application de la loi. ⁃ Éditeur TN
Imaginez que vous êtes en randonnée à travers les bois près d'une frontière. Soudain, vous entendez un bourdonnement mécanique, comme une abeille gigantesque. Deux quadcoptères vous ont repéré et vous avez plongé pour regarder de plus près. Des antennes sur les deux drones et sur un véhicule terrestre autonome à proximité captent les fréquences radio provenant du téléphone portable dans votre poche. Ils envoient les signaux à un serveur central, qui triangule votre position exacte et le renvoie aux drones. Les robots se rapprochent
Les caméras et autres capteurs installés sur les machines vous reconnaissent en tant qu'être humain et tentent de déterminer vos intentions. Êtes-vous une menace? Vous traversez illégalement une frontière? Avez-vous une arme à feu? Vous engagez-vous dans des actes de terrorisme ou de crime organisé? Les machines envoient des flux vidéo à leur opérateur humain, un garde-frontière installé dans un bureau situé à des kilomètres, qui vérifie les vidéos et décide que vous ne courez aucun risque. Le garde-frontière appuie sur un bouton et les robots se désengagent et continuent leur patrouille.
Ce n'est pas de la science fiction. L'Union européenne finance un projet de développement de drones pilotés par l'intelligence artificielle et conçus pour patrouiller de manière autonome aux frontières de l'Europe. Les drones opéreront par essaims, coordonnant et corroborant les informations entre les flottes de quadcoptères, de petits avions à voilure fixe, de véhicules terrestres, de sous-marins et de bateaux. Les développeurs du projet, connu sous le nom de Roborder, affirment que les robots seront capables d'identifier les humains et de décider de manière indépendante s'ils représentent ou non une menace. S'ils déterminent que vous pouvez avoir commis un crime, ils en informeront la police des frontières.
Le président Donald Trump a utilisé le spectre des criminels traversant la frontière sud pour susciter le sentiment politique nationaliste et dynamiser sa base. En Europe, deux ans après l’apogée de la crise migratoire qui a amené plus d’un million de personnes sur le continent, principalement du Moyen-Orient et d’Afrique, l’immigration reste un sujet brûlant, alors même que le nombre de nouveaux arrivants a diminué. Les partis politiques de l’Union européenne remportent les élections sur plateformes anti-immigrés et promulguant de plus en plus restrictif politiques frontalières. Les éthiciens spécialistes de la technologie et les défenseurs de la vie privée craignent que Roborder et des projets similaires externalisent trop de travail de maintien de l'ordre pour des acteurs non humains et puissent facilement être utilisés comme arme contre des personnes vivant dans des zones frontalières.
"Le développement de ces systèmes est une étape sombre dans un territoire moralement dangereux", a déclaré Noel Sharkey, professeur émérite de robotique et d'intelligence artificielle à l'université de Sheffield, au Royaume-Uni, et l'un des fondateurs du comité international de contrôle des robots, une organisation à but non lucratif. milite contre l'utilisation militaire de la robotique. Sharkey énumère des exemples de drones armés sur le marché: robots volants équipés de Tasers, spray au poivre, balles en caoutchouc et autres armes. Il met en garde contre les implications de la combinaison de cette technologie avec une prise de décision basée sur l'IA et de son utilisation dans des zones frontalières politiquement chargées. "Ce n'est qu'une question de temps avant qu'un drone puisse prendre des mesures pour arrêter des personnes", a déclaré Sharkey à The Intercept.
Les développeurs de Roborder pourraient également enfreindre les conditions de leur financement, selon des documents concernant le projet obtenus via les règles de transparence de l'Union européenne. L'initiative est principalement financée par une subvention européenne de recherche et d'innovation d'un montant de 8 €, conçue pour des projets exclusivement non militaires, mais les développeurs de Roborder reconnaissent que certaines parties de leur système proposé impliquent une technologie militaire ou peuvent facilement être converties pour un usage militaire.
Une grande partie du développement de Roborder est classifiée, mais l’Intercept a obtenu des rapports internes relatifs à des considérations éthiques et à des préoccupations concernant le programme. Cette documentation a été mal rédigée et publiée par inadvertance en totalité.
Dans l'un des rapports, les développeurs de Roborder ont cherché à répondre aux critères éthiques liés à leurs financements européens. Les développeurs se sont demandé si leurs travaux pourraient être modifiés ou améliorés de manière à nuire à l'homme et ce qui pourrait se produire si la technologie ou les connaissances développées dans le projet "se retrouvaient entre de mauvaises mains". Ces questions éthiques sont soulevées, ont écrit les développeurs, lorsque "la recherche exploite d'informations, de matériaux ou de techniques classifiés; matières dangereuses ou à utilisation restreinte [;] et si des résultats spécifiques de la recherche pourraient présenter un danger pour les participants ou pour la société dans son ensemble. "
Les développeurs de Roborder ont fait valoir que ces préoccupations éthiques ne s'appliquaient pas à leur travail, affirmant que leur seul objectif était de développer et de tester la nouvelle technologie, et qu'elle ne serait ni vendue ni transférée en dehors de l'Union européenne pendant le cycle de vie du projet. Mais dans des entretiens avec The Intercept, les développeurs de projets ont reconnu que leur technologie pourrait être réutilisée et vendue, même en dehors de l'Europe, une fois le cycle du projet européen terminé, ce qui devrait se produire l'année prochaine.
Au-delà du projet Roborder, les rapports d’éthique déposés auprès de la Commission européenne suggèrent une question plus vaste: en ce qui concerne les nouvelles technologies susceptibles d’être utilisées contre des personnes vulnérables dans des endroits peu protégés par les droits de l’homme, qui décide ce que nous devons ou ne devons pas développer ?
Roborder a remporté son 2017 et a décidé de développer un prototype commercialisable - «un essaim de robotique au service de la surveillance des frontières» - d'ici le milieu de la période 2020. Ses développeurs espèrent construire et équiper une collection de drones aériens, maritimes et terrestres pouvant être combinés et envoyés en missions de patrouille frontalière, recherchant de manière autonome les «menaces» sur la base d'informations fournies par des opérateurs humains, a déclaré Stefanos Vrochidis, responsable de projet chez Roborder. .
Les drones utiliseront des caméras optiques, infrarouges et thermiques; radar; et des capteurs de fréquence radio pour déterminer les menaces le long de la frontière. Les fréquences des téléphones portables seront utilisées pour déterminer l'emplacement des personnes soupçonnées d'activités criminelles, et des caméras permettront d'identifier les êtres humains, les armes à feu, les véhicules et d'autres objets. «L'objectif principal est d'avoir le plus grand nombre possible de capteurs sur le terrain pour assister le personnel de patrouille», a déclaré Kostas Ioannidis, responsable technique de Roborder.
wpDiscuz