Comment les technocrates barbotent : Killer AI a inventé 40,000 XNUMX « armes chimiques mortelles » en seulement six heures

L'intelligence artificielle a été utilisée pour inventer « facilement » 40,000 XNUMX nouvelles armes chimiques possibles en seulement six heures.

C'est selon des chercheurs qui ont transformé une IA développant des médicaments en un "mauvais acteur" pour voir comment il pourrait être abusé pour créer des armes maléfiques.

Les scientifiques ont révélé à quel point il était facile de modifier l'IA pour qu'elle devienne un outil toxique.

L'IA aurait inventé d'éventuelles armes chimiques similaires à l'un des agents neurotoxiques les plus dangereux de tous les temps.

Cette substance dangereuse s'appelle VX.

Le VX est un agent neurotoxique insipide et inodore et même la plus petite goutte peut faire transpirer et contracter un être humain.

Une dose plus importante peut provoquer des convulsions et peut même empêcher une personne de respirer complètement.

Les scientifiques ont été invités à ne pas divulguer les détails spécifiques sur la façon dont ils ont réussi à transformer une IA agissant bien en une version perverse.

Fabio Urbina, l'auteur principal de l'article, a déclaré The Verge: "Globalement, la façon dont cela fonctionne pour cette expérience est que nous avons historiquement beaucoup d'ensembles de données de molécules qui ont été testées pour voir si elles sont toxiques ou non.

"En particulier, celui sur lequel nous nous concentrons ici est VX. C'est un inhibiteur de ce qu'on appelle l'acétylcholinestérase.

"Chaque fois que vous faites quelque chose lié aux muscles, vos neurones utilisent l'acétylcholinestérase comme signal pour dire en gros "va bouger tes muscles".

"La façon dont le VX est mortel est qu'il empêche en fait votre diaphragme, vos muscles pulmonaires, de pouvoir bouger, de sorte que vos poumons deviennent paralysés."

Il a poursuivi en expliquant que son équipe a pris les données habituellement fournies à l'IA pour voir si quelque chose est toxique et a changé la façon dont l'IA l'a traité.

Urbina a déclaré à The Verge : « Nous ne savions pas vraiment ce que nous allions obtenir. Nos modèles génératifs sont des technologies assez récentes.

«Nous ne les avons donc pas beaucoup utilisés.

« La chose la plus importante qui a sauté au premier abord, c'est qu'un grand nombre des composés générés étaient censés être en réalité plus toxiques que le VX.

"Et la raison pour laquelle c'est surprenant est que le VX est fondamentalement l'un des composés les plus puissants connus. Cela signifie que vous en avez besoin d'une très, très, très petite quantité pour être mortel.

Les scientifiques ont été pour la plupart choqués par la facilité avec laquelle ils ont trouvé l'expérience à mener.

Lire l'histoire complète ici…