Le président de Microsoft menace que 1984 d'Orwell se produise en 2024

La vie décrite dans 1984 de George Orwell «pourrait se réaliser en 2024» si les législateurs ne protègent pas le public contre l'intelligence artificielle, a averti le président de Microsoft.

S'adressant à Panorama de la BBC, Brad Smith a déclaré qu'il serait «difficile de rattraper» les progrès rapides de la technologie.

Le programme explore l'utilisation croissante de l'IA par la Chine pour surveiller ses citoyens.

Les critiques craignent que la domination de l'État dans la région ne menace la démocratie.

«Si nous n'adoptons pas les lois qui protégeront le public à l'avenir, nous trouverons la technologie en marche et ce sera très difficile à rattraper», a déclaré M. Smith.

«Je me souviens constamment des leçons de George Orwell dans son livre 1984. Vous connaissez l'histoire fondamentale… était celle d'un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait tout le temps.

«Eh bien, cela ne s'est pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait arriver en 2024.»

Dans certaines parties du monde, la réalité rattrape de plus en plus cette vision de la science-fiction, a-t-il ajouté.

L'ambition de la Chine est de devenir le leader mondial de l'IA d'ici 2030, et beaucoup considèrent que ses capacités vont bien au-delà de l'UE.

Eric Schmidt, ancien directeur général de Google qui est maintenant président de la Commission de sécurité nationale américaine sur l'intelligence artificielle, a averti qu'il était impératif de battre la Chine dans l'IA.

«Nous sommes dans un conflit stratégique géopolitique avec la Chine», a-t-il déclaré. «Le moyen de gagner est de rassembler nos ressources pour avoir des stratégies nationales et mondiales pour que les démocraties gagnent en IA.

«Si nous ne le faisons pas, nous envisagerons un avenir où d’autres valeurs nous seront imposées.»

«La Chine ne cherche pas à exporter ses valeurs», a-t-elle ajouté.

Le Dr Schmidt est devenu conseiller du Pentagone en 2016, tout en conservant un poste de président exécutif d'Alphabet, la société mère de Google.

Le Dr Eric Schmidt préside la US National Security Commission on Artificial Intelligence.

Dans les années suivantes, Google a commencé un contrat avec le Pentagone, lui permettant d'utiliser certaines de ses technologies de reconnaissance d'image dans le cadre d'un projet militaire.

Le projet Maven a utilisé l'apprentissage automatique pour distinguer les personnes et les objets dans les vidéos de drones.

«Maven à l'époque était… un moyen de remplacer les yeux humains par une vision automatique pour les images de drones qui étaient utilisées dans les différents conflits arabes», a déclaré le Dr Schmidt. "J'ai considéré l'utilisation de cette technologie comme un net positif pour la sécurité nationale et un bon partenariat pour Google."