Remarque TN: le Dr Eden a peut-être regardé trop de films de science-fiction, mais sa bio est impressionnant. Il demande ci-dessous: «L'âge du surhumain inaugurerait-il une ère où la notion d'être humain est passée?» TN publie de telles histoires pour faire comprendre au spectateur que de nombreux scientifiques et ingénieurs éminents y croient vraiment; ou, ils viennent de sauter les rails.
Des robots d’intelligence artificielle libres pourraient finir par détruire l’humanité ou même complètement changer ce que cela signifie d’être humain si nous les laissons penser par eux-mêmes, a averti un scientifique.
Le Dr Amnon Eden a déclaré qu'il fallait faire davantage pour examiner les risques liés à la poursuite de l'IA.
Il a averti que nous approchions du point de non-retour en termes d'IA, sans une compréhension adéquate des conséquences.
Le Dr Eden a déclaré: «La nouvelle année doit voir cette controverse mal informée remplacée par une analyse mieux informée de l'impact potentiel de l'IA et de ses applications.
«En 2016, l'analyse des risques par les experts doit gagner un rôle beaucoup plus important dans la réflexion des décideurs politiques, des gouvernements et des entreprises.»
Le Dr Eden est directeur du projet Sapience, un groupe de réflexion créé pour examiner les effets perturbateurs potentiels de l'intelligence artificielle liée à l'intelligence artificielle.
La science-fiction a régulièrement exploré si des robots pourraient détruire l’humanité, notamment les films de Terminator interprétés par Arnold Schwarzenegger.
La position du Dr Eden vient après que le professeur d'Oxford Nick Bostrom ait déclaré que l'intelligence artificielle de super-intelligence pourrait «avancer à un point où ses objectifs ne sont pas compatibles avec ceux des humains».
Il a affirmé que contrairement au changement climatique et au génie génétique, où il a déclaré que les gouvernements du monde entier mettent en place des mécanismes pour minimiser les risques de ce qui est, "rien n'est fait pour contrôler les progrès de l'IA".
M. Bostrom a déclaré: «Il y a un vide politique qui doit être comblé si cette avancée inévitable doit être utilisée à bon escient.»
Discutant des risques potentiels, il a déclaré: «Un ordinateur est fondamentalement une boîte et ce qu'il contient est tout ce qu'il peut utiliser, donc à moins que nous lui disions que les gens dans les pays froids peuvent mourir s'ils n'ont pas de chauffage, et c'est mauvais, comment le saura-t-il? Comment définir ce qu'est réellement «bon» ou «amical»?
«Le résultat de cette singularité n'est peut-être pas que l'IA est malveillante, mais il se peut qu'elle ne soit pas capable de« sortir de ses sentiers battus »et qu'elle n'ait aucune conception de la morale humaine.
«L'autre préoccupation de l'IA est celle qu'Hollywood utilise depuis des années comme thème et c'est la montée en puissance de l'être de type 'Terminator' et la lutte pour survivre contre une armée de robots hostiles aux formes changeantes dirigée par un individu conscient de lui-même. AI a appelé Skynet. "
wpDiscuz