Le parrain d'AI Deep Learning Yoshua Bengio s'inquiète de son utilisation en Chine pour dominer la société

S'il vous plaît partager cette histoire!
Un inventeur principal de l'IA, Bengio dit «C'est le scénario 1984 Big Brother». Bengio et ses collègues scientifiques technocrates auraient dû y penser avant maintenant, mais cela reflète leur vision pollyanna-ish de l'humanité. ⁃ Éditeur TN

Yoshua Bengio, un informaticien canadien qui a contribué à inventer les techniques à la base de l'enthousiasme actuel pour l'intelligence artificielle, s'inquiète de l'utilisation par la Chine de l'IA pour la surveillance et le contrôle politique.

Bengio, qui est également cofondateur de la société montréalaise Element AI, spécialisée dans les logiciels d'intelligence artificielle, s'est dit préoccupé par la technologie qu'il a aidé à créer, utilisée pour contrôler le comportement des gens et influencer leur esprit.

«C'est le scénario Big Brother de 1984», a-t-il déclaré dans une interview. «Je pense que ça devient de plus en plus effrayant.»

Bengio, professeur à l'Université de Montréal, est considéré comme l'un des trois «parrains» de l'apprentissage profond, avec Yann LeCun et Geoff Hinton. C'est une technologie qui utilise des réseaux neuronaux - une sorte de logiciel vaguement basé sur des aspects du cerveau humain - pour faire des prédictions basées sur des données. Il est responsable des progrès récents en matière de reconnaissance faciale, de traitement du langage naturel, de traduction et d'algorithmes de recommandation.

L'apprentissage en profondeur nécessite une grande quantité de données pour fournir des exemples à partir desquels apprendre - mais la Chine, avec sa vaste population et son système de tenue de registres d'État, en a beaucoup.

Le gouvernement chinois a commencé à utiliser des caméras vidéo en circuit fermé et la reconnaissance faciale pour surveiller ce que font ses citoyens en public, du jaywalking à la dissidence politique. Il a également créé une plate-forme nationale de partage d'informations sur le crédit, qui est utilisée pour mettre sur liste noire les passagers ferroviaires et aériens pour comportement «antisocial» et envisage d'étendre l'utilisation de ce système à d'autres situations.

"L'utilisation de votre visage pour vous suivre devrait être très réglementée", a déclaré Bengio.

Bengio n'est pas le seul à s'inquiéter des cas d'utilisation de la Chine par la Chine. Le milliardaire George Soros a récemment utilisé un discours prononcé lors du Forum économique mondial le X. 24 pour souligner les risques que l'utilisation de l'IA par le pays fait peser sur les libertés civiles et les droits des minorités.

Contrairement à certains pairs, Bengio, qui dirige l’Institut d’algorithmes d’apprentissage de Montréal (Mila), a résisté à la tentation de travailler pour une grande entreprise de technologie axée sur la publicité. Il a ajouté que le développement responsable de l'intelligence artificielle pourrait obliger certaines grandes entreprises technologiques à modifier leur mode de fonctionnement.

La quantité de données que les grandes entreprises technologiques contrôlent est également un sujet de préoccupation. Il a déclaré que la création de fiducies de données - des entités à but non lucratif ou des cadres juridiques dans lesquels les gens possèdent leurs données et ne permettent leur utilisation qu'à certaines fins - pourrait être une solution. Si une fiducie contenait suffisamment de données, elle pourrait négocier de meilleures conditions avec les grandes entreprises technologiques qui en avaient besoin, a-t-il déclaré jeudi lors d'une conférence au bureau d'Amnesty International UK à Londres.

Lire l'histoire complète ici…

S'abonner
Notifier de
invité

0 Commentaires
Commentaires en ligne
Voir tous les commentaires