Revendication: Quand AI règle, un programmeur voyou pourrait mettre fin à la race humaine

US Navy
S'il vous plaît partager cette histoire!

En fin de compte, ce seront des technocrates humains saturés de technologies, et non de programmes, qui créeront les politiques et les résultats anti-humains qui nuisent à l'humanité. Ils vont se cacher derrière l'IA pour échapper à toute responsabilité et tout le monde pensera que les algorithmes les ont utilisés. Éditeur TN

L’idée que de petits groupes d’humains puissent contrôler certaines des armes les plus puissantes jamais construites est effrayante, mais c’est la réalité dans laquelle nous vivons. Dans un avenir pas si lointain, ce pouvoir et cette responsabilité incroyables pourraient être confiés à IA et systèmes robotiques, qui sont déjà en développement actif. Dans une paire de lettres ouvertes aux premiers ministres australiens et canadiens, des centaines de chercheurs et de scientifiques spécialisés dans l'IA plaident pour que cela ne se produise pas.

La crainte, disent-ils, est que le fait de retirer l’élément humain des décisions de vie et de mort pourrait inaugurer un âge destructeur qui sonnera le glas de l’humanité. Les systèmes d'armes de l'IA sont, comme le disent les chercheurs, des «armes de destruction massive» qui doivent être interdites d'emblée avant de pouvoir causer de graves dommages.

"Déléguer des décisions de vie ou de mort à des machines transcende une ligne morale fondamentale - peu importe de quel côté les construit ou les utilise", écrit la lettre. Explique. «Jouer à la roulette russe avec la vie des autres ne peut jamais être justifié par la simple efficacité. Ce n'est pas seulement une question fondamentale des droits de l'homme. La décision d'interdire ou d'engager des armes autonomes va au cœur de notre humanité. "

Dans un contexte où les ordinateurs ont le dernier mot pour décider s'ils doivent ou non se livrer à des actes hostiles - même sous le prétexte de défendre leurs propres territoires ou de protéger les populations qu'ils sont programmés à protéger - les conflits pourraient s'intensifier beaucoup plus rapidement que l'homme ne l'a jamais vu. Des semaines, des mois, voire des années, de postures et de diplomatie pourraient se transformer en quelques minutes voire en quelques secondes, les missiles volant avant même que les humains ne puissent commencer à intervenir. Et puis, bien sûr, il y a le problème de l'IA manipulée de manière imprévue.

«Ce seront des armes de destruction massive», déclarent les scientifiques. «Un programmeur sera capable de contrôler toute une armée. Toutes les autres armes de destruction massive ont été interdites: les armes chimiques, les armes biologiques et même les armes nucléaires. Nous devons ajouter des armes autonomes à la liste des armes qu'il est moralement inacceptable d'utiliser. ”

Lire l'histoire complète ici…

S'abonner
Notifier de
invité

0 Commentaires
Commentaires en ligne
Voir tous les commentaires