Le PDG d'OpenAI, Altman, sonne l'alarme sur l'IA et ChatGPT

Le PDG d'OpenAI, Sam Altman, et Fang Bingxing, considérés comme le "père du grand pare-feu chinois", se joignent au co-fondateur d'OpenAI, Elon Musk, pour soulever des inquiétudes concernant les dangers de l'intelligence artificielle (IA).

"Nous devons être prudents ici", a déclaré Altman, 37 ans. ABC Nouvelles la semaine dernière, ajoutant "Je pense que les gens devraient être heureux que nous ayons un peu peur de cela."

"Je suis particulièrement inquiet que ces modèles puissent être utilisés pour la désinformation à grande échelle... Maintenant qu'ils s'améliorent dans l'écriture de code informatique, [ils] pourraient être utilisés pour des cyber-attaques offensives."

Cela dit, Altman pense également que cela pourrait être "la plus grande technologie que l'humanité ait encore développée".

OpenAI est la société derrière Chat GPT, qui a lancé "GPT-4" il y a moins de deux semaines. Le chatbot hautement sophistiqué peut atteindre des scores presque parfaits aux tests de mathématiques SAT, et obtenir 90 % à l'examen du barreau américain.

Et il a des concurrents…

D'autres startups basées sur l'IA font également des progrès surprenants dans le domaine. RAD IA a récemment lancé la première plateforme de marketing d'IA conçue pour comprendre les émotions, et certaines des plus grandes entreprises de la planète l'utilisent déjà.

GenèseAI est une startup qui crée un marché pour permettre à toute entreprise d'intégrer l'IA et l'automatisation dans son entreprise. Cela signifie que bientôt l'IA pourrait faire autant partie intégrante d'une entreprise que les employés eux-mêmes. –Benzinga

Selon Altman, cependant, ChatGPT-4 utilise un raisonnement déductif par rapport à la mémorisation, qui peut conduire à des résultats inexacts.

"La chose que j'essaie le plus de mettre en garde les gens est ce que nous appelons le" problème des hallucinations "", a déclaré Altman. ABC Nouvelles. "Le modèle énoncera avec confiance les choses comme s'il s'agissait de faits (mais ils) sont entièrement inventés."

Altman pense il faut une réglementation de l'IA en général.

"Il y aura d'autres personnes qui ne mettront pas certaines des limites de sécurité que nous imposons", a-t-il déclaré. "La société, je pense, a un temps limité pour comprendre comment réagir à cela, comment réglementer cela, comment le gérer."

GPT-4 et une IA similaire sont également préoccupés par Fang Bingxing, le père de la soi-disant Grande Muraille pare-feu de Chine.

Selon Fang, de tels chatbots peuvent conduire à un "cocon d'information" (par opposition à la libre circulation de l'information en Chine ?)

"Les perspectives des gens peuvent être manipulées lorsqu'ils recherchent toutes sortes de réponses de l'IA", a-t-il déclaré à Red Star News, un média affilié au Chengdu Economic Daily, soutenu par l'État, comme l'a rapporté par SCMP.

Fang, informaticien et ancien fonctionnaire du gouvernement, est largement considéré comme le concepteur en chef du célèbre système chinois de censure et de surveillance d'Internet. Il a joué un rôle clé dans la création et le développement du Grand Pare-feu, un système sophistiqué de filtres et de blocages Internet qui permet au gouvernement chinois de contrôler ce à quoi ses citoyens peuvent accéder en ligne.

Le Grand Pare-feu a été renforcé au cours de la dernière décennie, bloquant l'accès des internautes chinois à un large éventail de sites Web étrangers et de services en ligne, notamment Facebook, Twitter et Google. -SCMP

Fang a également averti que lorsque l'IA évoluerait davantage, elle pourrait constituer une menace pour l'humanité.

« Maintenant, il s'agit simplement d'un logiciel utilisé dans un scénario de chat en ligne. S'il est intégré dans des robots et des voitures, nous devons rester vigilants quant aux dommages potentiels qu'ils pourraient causer aux humains. »

Lire l'histoire complète ici…