Lorsque l'éco-monde met la main sur un logiciel d'IA `` faux profond '', il peut créer des images de la Terre qui ne peuvent pas être détectées comme étant fausses, en insérant des choses qui ne sont pas là et en supprimant celles qui sont là. Oubliez «mentir avec les statistiques»; Maintenant, c'est couché avec des images. ⁃ Éditeur TN
Étape 1: utilisez l'IA pour apporter des modifications indétectables aux photos prises en extérieur. Étape 2: libérez-les dans le monde des logiciels libres et profitez du chaos.
Se soucie de faux gravesDes vidéos manipulées à la machine de célébrités et de dirigeants du monde prétendument affirmant ou faisant des choses qu’ils n’ont pas vraiment vécues sont étranges par rapport à une nouvelle menace: des images trafiquées de la Terre elle-même.
La Chine est un leader reconnu dans l'utilisation d'une technique émergente appelée réseaux accusatoires génératifs pour amener les ordinateurs à voir des objets dans des paysages ou dans des images satellites absentes, a déclaré Todd Myers, responsable de l'automatisation et responsable des technologies de l'information au bureau du directeur de la technologie. à l'Agence nationale de renseignement géospatial.
«Les Chinois sont bien devant nous. Ce n’est pas une information classée ", a déclaré Myers jeudi à la deuxième édition de Machines de génie sommet, organisé par Défense One et Nextgov. “Les Chinois ont déjà conçu; ils le font déjà en ce moment, en utilisant des GAN, qui sont des réseaux contradictoires génératifs, pour manipuler des scènes et des pixels afin de créer des éléments pour des raisons néfastes. "
Par exemple, a déclaré Myers, un adversaire pourrait tromper vos analystes en imagerie assistée par ordinateur en leur signalant qu'un pont traverse une rivière importante à un moment donné.
«Du point de vue tactique ou de la planification de la mission, vous entraînez vos forces à suivre un certain chemin, vers un pont, mais ce n’est pas là. Ensuite, une grande surprise vous attend », a-t-il déclaré.
Prénom décrit dans 2014Les GAN représentent une grande évolution dans la façon dont les réseaux de neurones apprennent à voir et à reconnaître les objets et même à détecter la vérité à partir de fiction.
Supposons que vous demandiez à votre réseau neuronal conventionnel de déterminer quels objets sont quoi dans les photos satellite. Le réseau divisera l'image en plusieurs morceaux, ou groupes de pixels, calculera la relation entre ces morceaux brisés, puis déterminera quel est le produit final ou si les photos sont réelles ou falsifiées. Tout est basé sur l'expérience de regarder de nombreuses photos satellite.
Les GAN inversent ce processus en opposant deux réseaux - d'où le mot «contradictoire». Un réseau conventionnel pourrait dire: «La présence de x, y et z dans ces groupes de pixels signifie qu'il s'agit d'une image de chat.» Mais un réseau GAN pourrait dire: «Ceci est une image d'un chat, donc x, y et z doivent être présents. Que sont x, y et z et comment se rapportent-ils? »Le réseau accusatoire apprend à construire ou à générer x, y et z de manière à convaincre le premier réseau de neurones, ou le discriminateur, qu'il existe quelque chose quand, peut-être, ce n'est pas.
De nombreux spécialistes ont trouvé les GAN utiles pour repérer des objets et trier des images valides de fausses. En 2017, les érudits chinois ont utilisé GAN identifier les routes, les ponts et autres éléments sur les photos satellite.
La préoccupation, en tant que technologues en IA ditQuartz L’année dernière, c’est la même technique qui permet de distinguer de vrais ponts de faux peut aussi aider à créer de faux ponts que l’IA ne peut pas distinguer de la réalité.
Myers s'inquiète du fait que, alors que le monde compte de plus en plus sur des images open source pour comprendre le terrain physique, quelques jeux de données manipulés de manière experte et entrés dans la chaîne d'approvisionnement en images open source pourraient créer des ravages. «Oubliez le [ministère de la Défense] et la [communauté du renseignement]. Imaginez-vous que Google Maps soit infiltré avec ça, à dessein? Et imaginez cinq ans à partir de maintenant Tesla [auto conduite] demi-finales y a-t-il des routages?
En ce qui concerne les fausses vidéos de personnes, indicateurs biométriques comme le pouls et la parole peuvent vaincre le faux effet. Mais les paysages truqués ne sont pas vulnérables aux mêmes techniques.
