Les technocrates qui construisent uniquement parce qu'ils le peuvent, créent finalement beaucoup plus de problèmes qu'ils n'en résolvent en premier lieu. La complexité croissante entraîne invariablement une «surcharge du système» où tout tourne hors de contrôle. ⁃ Éditeur TN
Ce qui distingue les humains des machines, c'est la vitesse à laquelle nous pouvons apprendre de notre environnement.
Mais les scientifiques ont formé avec succès des ordinateurs à l'utilisation de l'intelligence artificielle pour tirer des enseignements de l'expérience. Un jour, ils pourraient être plus intelligents que leurs créateurs.
Les scientifiques ont maintenant admis qu'ils étaient déjà déconcertés par les cerveaux mécaniques qu'ils avaient construits, laissant entrevoir la possibilité que nous en perdions totalement le contrôle.
Les ordinateurs réalisent déjà des exploits incroyables - comme conduire des voitures et prédire les maladies - mais les fabricants disent qu'ils ne contrôlent pas entièrement leurs créations.
Cela pourrait avoir des conséquences catastrophiques pour la civilisation, ont averti les experts techniques.
Prenez l'étrange voiture sans conducteur qui est apparue dans les rues du New Jersey, aux États-Unis, l'année dernière.
Il se différenciait des véhicules autonomes de Google, Tesla ou Uber, qui suivaient les règles définies par les développeurs techniques pour réagir aux scénarios sur la route.
Cette voiture pourrait prendre ses propres décisions après avoir observé comment les humains apprenaient à conduire.
Et ses créateurs, des chercheurs de la société de fabrication de puces Nvidia (qui fournit des puces de superordinateur à certains des plus grands constructeurs automobiles), ont déclaré qu'ils n'étaient pas sûrs à 100% de la manière dont il l'avait fait, MIT Technology Review rapporté.
Son esprit mystérieux pourrait être un signe de sombre période à venir, craint les sceptiques.
La technologie sous-jacente de la voiture, appelée «apprentissage en profondeur», est un puissant outil de résolution de problèmes.
Cela nous aide à identifier nos amis sur Facebook, fournit une assistance sur nos smartphones utilisant Siri, Cortana ou Google.
L'apprentissage en profondeur a aidé les ordinateurs à mieux reconnaître les objets qu'une personne.
L'armée injecte des millions de dollars dans la technologie afin qu'elle puisse être utilisée pour diriger des navires, contrôler des drones et détruire des cibles.
Et on espère qu'il sera capable de diagnostiquer des maladies mortelles, de faire des négociants des milliardaires en lisant les marchés boursiers et de transformer totalement le monde dans lequel nous vivons.
Mais si nous ne nous assurons pas que les créateurs comprennent parfaitement le fonctionnement de ce logiciel, nous avons de graves problèmes, affirment les scientifiques.
S'ils ne peuvent pas comprendre comment les algorithmes (les formules qui permettent aux ordinateurs d'effectuer les tâches que nous leur demandons de faire) fonctionnent, ils ne pourront pas prédire quand ils échoueront.
Tommi Jaakkola, professeur au MIT qui travaille sur les applications de l'apprentissage automatique, avertit: «Si vous aviez un très petit réseau neuronal [algorithme d'apprentissage en profondeur], vous pourriez peut-être le comprendre."
"Mais une fois que cela devient très grand, et qu'il y a des milliers d'unités par couche et peut-être des centaines de couches, alors cela devient tout à fait incompréhensible."
Cela signifie qu'une voiture sans conducteur, comme celle de Nvidia, pourrait s'envoler la tête la première dans un arbre et nous ne saurions pas pourquoi elle a décidé de le faire.
wpDiscuz