Joe Allen: Countdown to Gigadeath - De la course aux armements de l'IA à la guerre des artilects

Pour les vrais croyants, l'intelligence artificielle deviendra inévitablement surhumaine. Selon leur mythe, nous sommes à la dérive dans un cosmos sans Dieu. C'est donc à nous de créer des divinités numériques. Ou plutôt, c'est à quelques geeks de la technologie de les créer. Le reste d'entre nous peut soit s'agenouiller devant leur autel, soit être poussé dans l'abîme.

Alors que les robots envahissent nos vies, la tension entre eux et nous augmente. Certains jours, on a l'impression de se précipiter vers une guerre raciale informatisée entre des cyborgs naissants et des humains hérités. Après trop de temps passé devant l'écran - alors que mes synapses se réorganisent pour s'adapter aux données qui affluent - on ne sait pas à quelle sous-espèce j'appartiens.

Pour mémoire, je suis plus agnostique que vrai croyant. Les techniciens font toutes sortes de promesses vides. Ils prospèrent grâce à la projection de pouvoirs mystiques. Même ainsi, nous ignorons leur révolution techno-culturelle à nos risques et périls.

Les entreprises technologiques détiennent le véritable pouvoir de contrôle de l'information. Ils déforment littéralement la conscience publique à grande échelle. Du côté militaire, les forces de l'ordre ont la capacité de vous faire exploser depuis l'autre bout du monde. Vous pourriez vous moquer du fait que les forces armées américaines ont créé plus d'officiers trans que de soldats cyborg. Mais si vous ne pouvez pas viser votre AR-15 plus vite que leur drone ne peut le faire, vous ricanez sous une botte. L'intelligence artificielle ne fait que renforcer cet ancrage.

En 2018, la Defense Advanced Research Projects Agency des États-Unis annoncé il « concentre ses investissements sur une troisième vague d'IA qui produit des machines capables de comprendre et de raisonner en contexte ». Le directeur de l'Information Innovation Office de la DARPA, Brian Pierce, est follement enthousiaste à propos d'une "véritable symbiose entre Homo sapiens et l'émergence de Machina sapiens".

 papier blanc du ministère britannique de la Défense affirme : « Au cœur de l'avantage militaire futur se trouvera l'intégration efficace des humains, de l'intelligence artificielle et de la robotique dans les systèmes de combat - des équipes homme-machine - qui exploitent les capacités des personnes et des technologies pour surpasser nos adversaires. ”

Chine a des ambitions cyborg similaires. Alors faites Russie et NATO. "L'intelligence artificielle est l'avenir", a proclamé Vladimir Poutine. "Celui qui devient le leader dans ce domaine deviendra le maître du monde."

Peut-être que les généraux gaspillent de l'argent dans la guerre des geeks. Peut-être qu'ils jouent juste avec de nouveaux jouets.

Je n'y compterais pas.

Déjà, nous constatons que les IA étroites dépassent la reconnaissance des formes humaines dans les tâches spécifiques pour lesquelles elles sont conçues : modélisation des protéines, analyse radiologique, surveillance du champ de bataille et acquisition de cibles, pour n'en nommer que quelques-unes. Par exemple, l'entrepreneur de défense américain Palantir fournit librement son IA à l'Ukraine. C'est l'une des principales raisons pour lesquelles ils ont résisté si longtemps aux grandes forces russes.

"La puissance des systèmes de guerre algorithmique avancés est maintenant si grande qu'elle équivaut à avoir des armes nucléaires tactiques contre un adversaire avec uniquement des armes conventionnelles", a déclaré le PDG de Palantir, Alex Karp. dit le Washington Post. « Le grand public a tendance à sous-estimer cela. Nos adversaires ne le font plus.

Entre les mains de prédateurs d'élite, ces outils numériques sont mortellement sérieux. Lorsque les dirigeants ne déploient pas la technologie contre leurs rivaux, ils la retournent contre leurs propres citoyens. N'oubliez pas que la reconnaissance faciale Clearview AI activé les flics pour traquer les manifestants du 6 janvier.

La technologie, c'est le pouvoir. A toujours été.

Cependant, tout le monde n'est pas alarmé. Les sceptiques se moquent de la notion de machines « intelligentes ». « L'IA n'existe pas », disent-ils. "C'est juste un algorithme." "Les ordures à l'intérieur, les ordures à l'extérieur." Typiquement, ce sont d'anciens programmeurs vivant encore dans les années 90. Ils répètent si souvent « ordures à l'intérieur, ordures à la sortie », c'est comme s'ils avaient été programmés pour le dire.

Ces gars ont raison. Une IA est seulement aussi bonne que la conception de son réseau de neurones et les données sur lesquelles elle est formée. Ce n'est pas différent des humains de cette façon. Mais quand c'est bon, c'est effrayant bon. Si une IA solide est formée pour reconnaître les relevés bancaires, par exemple, elle peut fouiller dans des montagnes d'ordures et en trouver une en quelques secondes, comme un Rain Man qui plonge dans une benne à ordures pour voler votre identité.

L'IA qui m'a secoué était AlphaZero, développé par DeepMind de Google en 2017. Programmé avec uniquement des règles de jeu de base et le "désir" de gagner, ce réseau de neurones s'est enseigné pour jouer au go, aux échecs et à un certain nombre de jeux vidéo en quelques heures seulement. La maîtrise du Go est particulièrement importante. Pendant des décennies, les sceptiques ont insisté sur le fait qu'aucun ordinateur ne saisirait cet ancien jeu chinois. La complexité de Go, selon eux, nécessite une intuition profonde que seuls les humains possèdent. Il s'avère que c'était un vœu pieux.

AlphaZero, comme son prédécesseur AlphaGo, invente des stratégies efficaces auxquelles aucun humain n'a jamais pensé. Et le plus alarmant, ces esprits numériques écraser maîtres humains à leurs propres jeux. Si les gens avaient un putain de bon sens, ils auraient débranché la prise à ce moment-là. Sur tout ça. Mais vous savez ce qu'ils disent : « Vous ne pouvez pas arrêter le progrès.

L'étape suivante consiste à combiner ces capacités cognitives étroites en un seul « cerveau artificiel ». Ce intelligence générale artificielle (AGI) serait suffisamment flexible pour passer d'un domaine à l'autre, ou adopter plusieurs modules simultanément, pour résoudre des problèmes du monde réel.

En théorie, on pourrait regrouper n'importe quelle combinaison de facultés - reconnaissance faciale, traitement du langage naturel, modélisation sociale, systèmes de contrôle robotique, algorithmes esthétiques - tout ce que vous pourriez souhaiter dans un cerveau robotique. La machine surpasserait probablement les humains dans tous ces domaines. Mais peu importe la combinaison que vous proposez, ce ne serait pas entièrement humain. Il ne partagerait pas non plus nos valeurs ou notre expérience du monde. Ce serait un enfant aveugle et déformé gravé dans du silicium, mais doté d'un superbe pouvoir cognitif - un peu comme le démiurge gnostique.

Pour les transhumanistes, l'avènement d'un AGI auto-améliorant marquera un "moment singulier dans l'histoire" - le Singularité. À partir de là, les humains hérités sont juste de la partie. Si nous avons de la chance.

C'est le rêve, en tout cas. Et de grandes entreprises comme DeepMind et OpenAI, ainsi que leurs homologues chinois chez Baidu et Tencent, sont course faire de certaines versions une réalité. Leurs PDG tiennent la promesse d'une utopie numérique, ou d'une approximation. Ils préféreraient que vous vous détendiez et que vous ne posiez pas de questions.

Cependant, il y a quelques alarmistes qui disent que l'IA emballante pourrait signifier l'anéantissement de la race humaine. Parce que nous sommes les sages-femmes de l'AGI, conseillent-ils, notre tâche principale est d'enseigner à ce dieu informatique infantile à être bienveillant - à aligner ses valeurs sur les nôtres. Sinon, nous devenons esclaves ou mourons. Ils appellent cela le "problème d'alignement de l'IA". Alors que diverses factions se battent pour savoir à quel point ChatGPT est «réveillé» ou «basé», cela semble plutôt sombre.

Curieusement, certains des appels d'alarme les plus forts proviennent de ceux qui travaillent sur AGI. Ils incluent Sam Altman et Elon Musk (OpenAI), Demis Hassabis (DeepMind), et opérant depuis la Chine, Ben Goertzel (SingularityNET) et le prophète fou de la technocalypse, Hugo de Garis (Université de Xiamen).

Le transhumaniste d'Oxford Nick Bostrom, auteur d'un livre de 2014, a expliqué l'importance d'une conduite Tesla public TED:

Le potentiel de superintelligence sommeille dans la matière, tout comme le pouvoir de l'atome dormait tout au long de l'histoire humaine, attendant patiemment là-bas - jusqu'en 1945. Au cours de ce siècle, les scientifiques apprendront peut-être à éveiller le pouvoir de l'intelligence artificielle. Et je pense que nous pourrions alors assister à une explosion du renseignement.

Quels que soient les risques existentiels, affirment ces hommes, toute nation qui n'adoptera pas l'IA tombera derrière celles qui le feront. La même dynamique s'applique aux individus et aux organisations qui se font concurrence au sein des nations. Dans un écosystème numérique, c'est la survie des cyborgs les plus aptes, l'IA étant présentée comme un anneau de pouvoir mythique.

De tous les futurs projetés par les transhumanistes, celle évoquée par Hugo de Garis est la plus horrible. C'est aussi le plus honnête. Beaucoup dans la Silicon Valley pensent que l'intelligence artificielle surhumaine conduira à une "abondance radicale" et à une connaissance illimitée de l'univers. En tant que physicien et constructeur de robots, de Garis pense que toutes ces choses se produiront.

Cependant, il prophétise également que la création d'"artilects" - abréviation d'"intellects artificiels" ; essentiellement AGI - conduira probablement à la destruction de l'humanité. Peut-être que ces dieux numériques n'auront aucune utilité pour nous et nous écraseront comme des insectes. Ou tout aussi probablement, selon de Garis, un événement de "gigamort" se produira alors que les humains se disputeront pour savoir s'il faut les créer en premier lieu. Cela signifie que des milliards meurent en un éclair.

« La question qui va dominer le 21^st la politique mondiale du siècle sera : « Qui ou quoi devrait être l'espèce dominante sur la planète, les artilectes ou les êtres humains ? exterminateurs potentiels ?

Inventant de nouveaux mots farfelus comme un joueur de Scrabble indiscipliné, de Garis explore ce conflit dans son livre de 2005 Il s'attend à ce qu'il éclate d'ici quelques générations. "Cette guerre utilisera les armes les plus destructrices jamais conçues, basées sur la fin du 21^st la science et la technologie du siècle.

Nous parlons de super-nucléaires et d'armes biologiques conçues par l'IA - un horizon sombre grouillant de chiens de l'enfer robotiques et d'essaims de nanobots.

La Guerre des Artilects se déroulera entre les "Terrans", qui tueraient pour préserver l'humanité organique, et les "Cosmistes", dont la dévotion religieuse à construire des artilects est si intense, qu'ils seront prêts à mourir pour cette divinisation. En fait, ils seront prêts à voir tout le monde mourir pour ça :

Au 20^th siècle, les nazis ont anéanti 20 millions de Russes, les Japonais ont assassiné 20 millions de Chinois, Staline en a tué 30 millions lors de ses purges et Mao a affamé 50 millions de paysans chinois. Ce sont parmi les plus grands crimes de l'histoire, mais ils pâlissent par rapport à l'ampleur de la tragédie si jamais les artilects décident d'anéantir l'humanité. Le drame serait total dans le sens où il ne resterait plus d'êtres humains pour pleurer la disparition de l'espèce.

Comme le note de Garis, il est stupéfiant qu'un être humain poursuive un tel objectif sachant que des milliards pourraient être massacrés. Mais pour les cosmistes, la création de machines surhumaines est une quête religieuse au-delà du bien et du mal. Dans la lignée des savants fous rongés par la culpabilité, de Garis se place dans ce dernier camp, gigadeath be damned :

Mon objectif ultime est de voir l'humanité, ou du moins une partie de l'humanité, devenir cosmiste et de le faire avec succès en construisant des artilects vraiment divins qui dominent nos faibles capacités intellectuelles humaines et autres.

Un concept clé dans La guerre des artilectes est la « dominance des espèces ». Ayant créé la vie artificielle, l'humanité affronte un nouveau concurrent évolutif. Alors que certaines personnes fusionnent avec la vie numérique comme des ténias dans un méca-intestin, l'humanité se divisera en sous-espèces - des cyborgs suceurs de robots et des humains "chétifs".

Avec la spéciation vient la concurrence. S'appuyant sur la théorie politique et évolutionniste, de Garis dit qu'il n'y a pas beaucoup de place au-dessus du tas de merde. Parce que l'égalité n'existe pas dans la nature, la domination des espèces est inévitable. Avec l'histoire humaine comme guide, cela signifie violence.

La première place sera-t-elle occupée par les ordinateurs à QI élevé qui orbitent autour de la planète et qui sont "plus rapides et meilleurs que les humains par des facteurs de trillion de trillions" ?

Ou sera-t-il occupé par les cosmistes qui construisent et déploient ces machines ?

Ou les Terriens tueront-ils ce culte transhumain et recommenceront-ils à battre des tambours dans la forêt ?

Il semble aussi probable que nous tomberons dans une guerre nucléaire avec la Russie ou la Chine, nous épargnant complètement cette guerre d'Artilect. Il y a beaucoup de gigadeath à faire sans un Super Computer God.

Mais si nous parvenons à éviter de nous bombarder mutuellement dans la poussière de l'espace, il se pourrait que la rivalité des superpuissances conduise l'évolution technologique - en particulier la technologie militaire - vers quelque chose qui ressemble à la vision de de Garis. Pensez-y comme une singularité avec un bang.

En réalité, l'importance du cauchemar d'Hugo de Garis peut être son influence sur la culture technologique chinoise. De 2006 à 2010, il a terminé sa carrière professionnelle en Chine, d'abord à l'Université de Wuhan, puis à la tête du laboratoire de cerveau artificiel de l'Université de Xiamen. Jusqu'à la pandémie, son proche collègue Ben Goertzel courait SingularityNET hors de Hong-Kong. Ce projet AGI a fonctionné en partenariat avec Robotique Hanson—toujours basée à Hong Kong—dont le robot Sophia est exalté comme une déesse transhumaine sur la scène mondiale.

L'ampleur du transfert de technologie vers le Parti communiste chinois est inconnue. Mais il est raisonnable de supposer que quelles que soient leurs intentions, de Garis et Goertzel ont contribué à l'objectif de la Chine de surpasser les États-Unis en matière d'intelligence artificielle. Cette ambition comprend la liaison des cerveaux humains à l'IA et la création d'une intelligence générale artificielle, avec un œil sur les applications militaires.

Le volume de novembre 2021 de PRISM, publié par la National Defense University à DC, présente un article de recherche révélateur, «Le projet AI-Brain de « nouvelle génération » de la Chine.” Il ne fait aucun doute que l'impulsion transhumaine traverse l'âme chinoise. Les auteurs citent un chercheur de haut niveau du PCC, Xu Bo, s'adressant au journal officiel du ministère de la Science et de la Technologie :

Comme l'a souligné le secrétaire général Xi Jinping dans l'étude collective du Politburo, la recherche sur l'intelligence artificielle doit explorer les "zones sans pilote". Dans les domaines de l'intelligence en essaim, de l'intelligence hybride homme-machine et de l'intelligence autonome, il existe de vastes zones sans pilote à explorer. … Nous pensons que l'évolution autonome est un pont entre l'intelligence artificielle faible et l'intelligence artificielle générale.

Ou, comme l'a dit le doyen de l'Académie de l'intelligence artificielle de Pékin, Huang Tiejun, lors d'une conférence sur l'avenir de la vie :

Notre race humaine n'en est qu'à un stade. Pourquoi s'arrêter ? Les humains évoluent trop lentement. Il est impossible pour les humains de se comparer à la superintelligence basée sur la machine. Cela arrivera tôt ou tard, alors pourquoi attendre ? Même du point de vue du centrisme humain ou de l'exceptionnalisme humain, la superintelligence est nécessaire pour faire face aux grands défis que nous ne pouvons pas comprendre. C'est pourquoi je soutiens l'idée.

Traduisant des déclarations de l'ensemble de l'establishment technologique chinois, les auteurs de l'article PRISM observent sèchement : "D'autres pronostics de ce type sont monnaie courante".

L'avenir s'annonce sombre, mais les possibilités sont encore grandes ouvertes. Encore une fois, je suis quelque part entre les sceptiques et les vrais croyants - et je l'admets, c'est une haie tiède.

Comme les smartphones ou Internet, l'IA ne se déroulera jamais comme annoncé. L'évolution technologique est une saga de bogues inattendus et de conséquences imprévues. Il regorge d'actions pompées, de contrats gouvernementaux surfaits et de projets universitaires surfinancés.

Il n'y a pas (encore) de voitures volantes. Il n'y a pas (encore) de fusion froide. Il n'y a pas de nanobots de contrôle mental (n'est-ce pas ?).

Pourtant, seul un imbécile refuse de voir que les smartphones et Internet ont détruit la culture organique. Il en va de même pour la surveillance de masse et la guerre des drones. Quelle que soit la forme que prendra finalement l'IA, je suis convaincu qu'elle aura des impacts similaires, sinon pires.

Il se pourrait que les chatbots IA et les esclaves sexuels virtuels arrachent certaines personnes à la réalité réelle, les rendant plus fous qu'ils ne le sont déjà. Ou il se pourrait qu'une armée de cyborgs génétiquement modifiés et dotés d'une puce cérébrale descendent sur des nuages ​​de nanobots pour mener une guerre raciale contre ce qui reste des humains hérités.

Seul le temps nous le dira. Gardez votre papier d'aluminium serré et votre poudre sèche. Et pour l'amour de Dieu, éteignez votre smartphone. C'est comme ça qu'ils t'attrapent.

Lire l'histoire complète ici…