Sans précédent, impie, invisible : les chatbots IA colonisent nos esprits

Les chatbots sont en première ligne d'une invasion incessante de l'IA. L'augmentation constante des esprits artificiels dans notre psychisme collectif s'apparente à une immigration de masse - à peine remarquée et facilement ignorée, jusqu'à ce qu'il soit trop tard. Notre paysage culturel est colonisé par des robots et, comme pour les étrangers illégaux, une grande partie de notre population considère cela comme un « progrès ».

Les robots nous tiendront compagnie. Ils apprendront et absorberont nos personnalités. Et quand nous mourrons, ils deviendront nos fantômes numériques. C'est une perspective morbide, mais le processus est déjà en cours.

Les établissements d'apprentissage en ligne déploient régulièrement des enseignants en IA. Les compagnons de chatbot séduisent les âmes solitaires par millions, y compris chatbots religieux qui fonctionnent comme des guides spirituels. Au bout du chemin, diverses start-ups développent des cyber-sanctuaires où les familles peuvent communier avec leurs proches disparus et trouver du réconfort dans les morts-vivants numériques.

Dans l'esprit des passionnés de technologie, les chatbots IA de toutes sortes seront nos compagnons sans âme sur la route vers le futur™. Ces "amis" éphémères sont des composants psychologiques clés de ce que beaucoup décrivent comme une symbiose humain-IA. Ils seront comme des anges gardiens artificiels dans nos paumes - et par extension, dans nos têtes - répondant aux questions et orientant les décisions.

Une chose est sûre. Quoi que vous pensiez de cette invasion, les IA tombent sur terre comme des étoiles d'un paradis sans Dieu. Et à chaque vague successive, leurs voix sont d'autant plus convaincantes.

Ces bots sont conçus pour pousser nos boutons cognitifs, donnant l'illusion de la personnalité. Bientôt, ils deviendront largement dignes de confiance, voire aimés. Parmi les premiers utilisateurs, ils le sont déjà. Nos esprits émotionnels sont câblés pour le contrôle.

Le déploiement récent de Chat GPT, créé par OpenAI, a été annoncé comme la seconde venue du Dieu Google. Comme avec les programmes GPT précédents, l'utilisateur tape une question et le bot à l'écran crache une réponse raisonnablement cohérente, bien que parfois inexacte.

Il y a quelques jours, j'ai interrogé ChatGPT sur l'un des investisseurs fondateurs d'OpenAI : "Est-ce qu'Elon Musk va nous pucer le cerveau ?"

"Non", a répondu le bot, "Elon Musk ne croit pas au chipping brains. Il a déclaré qu'il croyait que "l'abondance est notre avenir" et que la technologie devrait être utilisée pour responsabiliser les gens, pas pour les remplacer.

Comme le dieu Google incliné avant lui, ChatGPT peut ne pas être entièrement véridique, mais au moins fidèle à ses alliés politiques. En ce sens, c'est tout à fait humain.

Si vous ne pouvez pas faire confiance à un chatbot, à qui pouvez-vous faire confiance ?

Prenant la parole lors de la série "Histoire des libertés civiles au Canada" le 13 décembre, le larmoyant fabricant d'hommes, le Dr Jordan Peterson, averti ses camarades canucks sur les pouvoirs divins de ChatGPT :

Nous avons donc maintenant un modèle d'IA qui peut extraire un modèle du monde à partir de l'ensemble du corpus du langage. Très bien. Et c'est plus intelligent que vous. Ça va être bien plus malin que toi dans deux ans. …

Les géants vont marcher sur la terre une fois de plus. Et nous allons vivre cela. Peut-être.

Tu entends ça, humain ? Préparez-vous à vous agenouiller devant vos seigneurs numériques. Pour tous les pleurs publics Peterson l'a fait, il n'a pas versé une seule larme sur le déplacement de l'humanité par l'IA. Peut-être croit-il que la Machine dévorera tous ses trolls en premier.

Peterson a continué à chevaucher le jock d'Elon Musk, dépeignant le concessionnaire automobile cyborg comme une sorte de sauveur – ce qui, à mon dégoût, est l'habitude embarrassante de presque toutes les icônes du «web noir intellectuel» de nos jours. Ce qui est étrange, c'est que le professeur de mythologie comparée n'a pas noté la signification archétypale de l'armure Baphomet que Musk arbore toujours dans son profil Twitter.

Quiconque exhorte les gens à faire confiance au transhumaniste le plus riche du monde se trompe ou essaie de vous tromper.

Cela ne veut pas dire Musk et Peterson ont tout à fait tort sur la montée en puissance de l'intelligence artificielle, même s'ils sont bien trop impatients de nous voir plier le genou. Dans le cas improbable où les progrès stagneraient pendant des décennies, nous laissant avec la technologie dont nous disposons actuellement, l'impact social et psychologique de l'invasion en cours de l'IA reste une grave préoccupation.

À l'heure actuelle, les prouesses intellectuelles de l'intelligence artificielle sont largement surestimées. Si l'humanité a de la chance, cela continuera d'être le cas. Mais les avancées réelles sont néanmoins impressionnantes. Les agents d'IA ne sont pas « de simples programmes informatiques ». Ce sont des machines à réflexion étroite qui peuvent parcourir de grandes quantités de données, de leur propre chef, et elles trouvent des modèles véritablement significatifs.

A grand modèle de langage (alias, un chatbot) est comme un cerveau humain cultivé dans un bocal, avec une sélection limitée de capteurs branchés dessus. Tout d'abord, les programmeurs décident avec quels paramètres l'IA commencera - les types de modèles qu'elle recherchera au fur et à mesure de sa croissance. Ensuite, le modèle est entraîné sur une sélection de données, également choisies par le programmeur. Plus la main du programmeur est lourde, plus le système présentera de biais.

Dans le cas de ChatGPT, les ensembles de données se composent d'une sélection massive de livres numérisés, de tout Wikipédia et de la majeure partie d'Internet, ainsi que de la formation secondaire de conversations répétées avec les utilisateurs. L'IA est motivée à apprendre par des «modèles de récompense» pavloviens, comme une goutte neuronale recevant des doses de dopamine chaque fois qu'elle obtient la bonne réponse. Comme avec la plupart des chatbots commerciaux, les programmeurs mettre des garde-corps pour empêcher l'IA de dire quoi que ce soit de raciste, sexiste ou homophobe.

Lorsque les «éthiciens de l'IA» parlent d'«aligner l'IA sur les valeurs humaines», ils veulent principalement dire créer des bots politiquement corrects. D'une part, c'est plutôt intelligent, car si nous nous dirigeons vers une algocratie— là où les masses multiculturelles sont gouvernées par des algorithmes — alors les libéraux ont intérêt à rendre l'IA aussi inoffensive que possible. Ils ne veulent certainement pas d'une autre créature du lagon 4chan, comme lorsque Tay de Microsoft est parti schizo-nazi, ou le bot Google Image conservé qualifiant les Noirs de « gorilles ».

D'un autre côté, si une IA ne peut pas saisir les différences fondamentales entre les hommes et les femmes ou comprendre l'importance des groupes de population continentaux, eh bien, je suis sûr qu'elle sera toujours un exécutant utile dans notre algocratie arc-en-ciel.

Une fois ChatGPT téléchargé sur un appareil, il développe sa propre saveur. Plus un utilisateur individuel a d'interactions, plus le bot personnalise ses réponses pour cet utilisateur. Il peut produire des phrases ou des essais entiers qui sont quelque peu originaux, même s'ils ne sont qu'un remix de la pensée humaine précédente. Cette semi-originalité, associée à la personnalisation savante, est ce qui donne l'illusion d'une personnalité unique, sans l'humour du vestiaire.

Dans l'ensemble, les réponses fournies par ces IA sont de plus en plus précises et complexes. Un autre exemple est le LaMDA de Google, encore inédit, qui est devenu célèbre l'année dernière lorsqu'un "éthicien de l'IA" a informé le public que le bot est "sensible", affirmant qu'il exprime de la tristesse et du désir. Ray Kurzweil avait prédit ce développement psychologique en 1999, dans son livre L'âge des machines spirituelles:

Ils apparaîtront de plus en plus comme ayant leur propre personnalité, manifestant des réactions que nous ne pouvons qualifier que d'émotions et articulant leurs propres buts et objectifs. Ils sembleront avoir leur propre libre arbitre. Ils prétendront avoir des expériences spirituelles. Et les gens... les croiront.

Cela en dit autant sur les humains impliqués que sur les machines. Cependant, en projetant cette amélioration dans le futur - à un rythme exponentiel - Kurzweil prévoit une Singularité à venir dans laquelle même les humains les plus intelligents seront véritablement dépassés par l'intelligence artificielle.

Ce serait le point de non-retour. Notre destin serait hors de nos mains.

Ma première et unique demande d'image au générateur d'art d'OpenAI

En 2021, l'entrepreneur technologique Sam Altman - qui a cofondé OpenAI avec Musk en 2015 - a fait allusion à quelque chose comme une singularité dans son essai "La loi du tout de Moore.” Semblable à Kurzweil, il promet que l'intelligence artificielle transformera tous les aspects de la société, du droit et de la médecine au travail et à la socialisation.

En supposant que l'automatisation produira une abondance radicale - même si elle produit un chômage généralisé - il plaide pour une taxation des super riches et un «fonds d'équité» pour le reste d'entre nous. Bien que je pense qu'un tel avenir serait désastreux, créant de vastes terrains de jeux pour l'élite et des ruches algorithmiques pour le reste d'entre nous, je pense qu'Altman a raison quant à l'impact à venir :

Au cours des cinq prochaines années, des programmes informatiques capables de penser liront des documents juridiques et prodigueront des conseils médicaux. Dans la prochaine décennie, ils feront du travail à la chaîne et deviendront peut-être même des compagnons. Et dans les décennies qui suivront, ils feront presque tout, y compris faire de nouvelles découvertes scientifiques qui élargiront notre concept de « tout ».

Cette révolution technologique est imparable.

Ces superbots seraient sans aucun doute bancals et inhumains, mais au rythme actuel d'amélioration, quelque chose comme la prédiction d'Altman semble se produire. Au-delà des possibilités et limitations techniques, une croyance croissante dans la personnalité de l'IA est en train de remodeler notre culture de haut en bas et à un rythme exponentiel.

Notre vision commune de qui nous sommes, en tant qu'espèce, est en train de se transformer.

« Johnny 5 est vivant ! Plus d'entrée, PLUS D'ENTRÉE !! »

Les bots envahissent nos esprits à travers nos téléphones, nos haut-parleurs intelligents, nos les établissements d'enseignement, nos entreprises, nos agences gouvernementales, nos agences de renseignement, nos institutions religieuses, et à travers une variété croissante de robots physiques destinés à nous accompagner du berceau au tombeau.

Nous sommes amorcés pour l'algocratie.

Les générations passées ont ignoré l'immigration massive et la destruction de l'environnement, toutes deux alimentées par les innovations technologiques, jusqu'à ce qu'il soit trop tard pour inverser la tendance. À l'heure actuelle, nous avons une « fenêtre d'opportunité étroite » pour ériger des barrières culturelles et juridiques – famille par famille, communauté par communauté et nation par nation.

Si cette expérience sociale est « inévitable », il faut insister pour faire partie du groupe témoin.

Aussi ridicule que cela puisse paraître, les techno-sceptiques sont déjà étiquetés comme "spéciste”—c'est-à-dire, raciste contre les robots. Nous ferions mieux d'être prêts à porter cela comme un insigne d'honneur. Alors que nos oligarques technologiques et leurs porte-parole proclament la montée des divinités numériques, il devrait être clair que nous ne sommes pas les suprématistes dans cette équation.

Lire l'histoire complète ici…