Une super-IA pourrait émerger comme un coronavirus pour détruire la civilisation

Oren EtzioniOren Etzioni
S'il vous plaît partager cette histoire!
Les mêmes technocrates qui nous ont apporté l'IA en premier lieu se demandent maintenant si une `` super-IA '' pourrait soudainement émerger et détruire la civilisation. Pour une réponse plus fiable, ils devraient peut-être demander à Alexa. ⁃ Éditeur TN

Le PDG de l'Institut Allen pour l'IA, le professeur Oren Etzioni, a émis une série de signes avant-coureurs potentiels qui nous alerteraient de la «super-intelligence» au coin de la rue.

Les humains doivent être prêts à détecter des signes de super-intelligence robotique, mais doivent avoir suffisamment de temps pour les résoudre, a averti un informaticien de renom.

Oren Etzioni, PDG de Allen Institute for AI, a récemment écrit un article intitulé: «Comment savoir si intelligence artificielle est sur le point de détruire la civilisation.

Il a écrit: «Pourrions-nous nous réveiller un matin stupéfaits qu'une IA super puissante ait émergé, avec des conséquences désastreuses?

«Des livres comme Superintelligence de Nick Bostrom et Life 3.0 de Max Tegmark, ainsi que des articles plus récents, soutiennent que la super-intelligence malveillante est un risque existentiel pour l'humanité.

«Mais on peut spéculer à l'infini. Il vaut mieux poser une question plus concrète et empirique: qu'est-ce qui nous alerterait que la super-intelligence est effectivement au coin de la rue? »

Il a comparé les signaux d'avertissement aux canaris dans les mines de charbon, qui ont été utilisés pour détecter le monoxyde de carbone car ils s'effondreraient.

Le professeur Etzioni a fait valoir que ces signes avant-coureurs surviennent lorsque les programmes d'IA développent une nouvelle capacité.

Il a poursuivi pour MIT Review: «Le célèbre test de Turing pourrait-il servir de canari? Le test, inventé par Alan Turing en 1950, postule que l'IA au niveau humain sera atteinte lorsqu'une personne ne peut pas distinguer la conversation avec un humain de la conversation avec un ordinateur.

«C'est un test important, mais ce n'est pas un canari; c'est plutôt le signe que l'IA au niveau humain est déjà arrivée.

«De nombreux informaticiens pensent que si ce moment arrive, la superintelligence suivra rapidement. Nous avons besoin de plus de jalons intermédiaires. »

Mais il a averti que la «formulation automatique des problèmes d'apprentissage» serait le premier canari, suivie des voitures autonomes.

Lire l'histoire complète ici…

S'abonner
Notifier de
invité
1 Commentaire
Le plus ancien
Date Les plus votés
Commentaires en ligne
Voir tous les commentaires
Elle

Qu'est-ce que la «formulation automatique des problèmes d'apprentissage»? Je suis allé sur le lien mais le site veut des informations que je n'étais pas prêt à fournir.