Inventeur d'Internet: le désastre menace quand l'IA dirige l'économie

L'architecte du World Wide Web, Sir Tim Berners-Lee, a évoqué aujourd'hui certaines de ses préoccupations pour Internet au cours des prochaines années, notamment un scénario cauchemardesque où l'intelligence artificielle (IA) pourrait devenir les nouveaux `` maîtres de l'univers '' en créant et diriger leurs propres entreprises.

Maîtres de l'univers est une référence au roman de Tom Wolfe de 1987 Le feu de joie des vanités, concernant les hommes (et c'étaient des hommes) qui ont commencé à accumuler des salaires de plusieurs millions de dollars et une grande influence de leurs rôles financiers à Wall Street et à Londres pendant le boom du trading informatisé avant le lundi noir.

Parlant à la Sommet mondial Innovate Finance Aujourd'hui, Berners-Lee a imaginé un monde où les systèmes d'IA commenceraient à développer des capacités décisionnelles et leur impact sur l'équité de nos systèmes économiques.

Il a présenté le scénario dans lequel l'IA pourrait décider des entreprises à acquérir et en a tiré la conclusion logique: «Ainsi, lorsque l'IA commence à prendre des décisions telles que qui obtient une hypothèque, c'est une question importante. Ou quelles entreprises acquérir et quand l'IA commence à créer ses propres entreprises, à créer des holdings, à générer de nouvelles versions d'elle-même pour gérer ces entreprises.

«Ainsi, vous avez la survie des entreprises les plus aptes entre ces sociétés d’IA jusqu’à ce que vous atteigniez le point où vous vous demandez s’il devient possible de comprendre comment s’assurer qu’elles sont équitables, et comment décrivez-vous à un ordinateur qu'est-ce que cela signifie de toute façon?

Bien qu'il soit difficile d'imaginer verser trop de larmes à cause de la perte du décideurs responsable du crash de 2007, le scénario menace de détruire tout un secteur et soulève de sérieuses questions quant à la loyauté d'un système financier sans aucune implication humaine.

C’est semblable à la peur exprimée récemment par Elon Musk, sceptique envers l’IA, Vanity Fair: «Supposons que vous créez une IA auto-améliorable pour cueillir les fraises et que la cueillette des fraises et des cueillettes de plus en plus s'améliore et qu'elle s'améliore d'elle-même, donc tout ce qu'elle veut vraiment, c'est cueillir des fraises. Alors, tout le monde serait des champs de fraises. Les champs de fraises pour toujours. » Pas de place pour les êtres humains.

Berners-Lee a reçu le prix AM Turing de l'Association for Computing Machinery la semaine dernière, et il a attiré l'attention des médias pour critiquer le recul par l'administration Trump des protections de neutralité du net dans une interview avec The Guardian.

Berners-Lee a également récemment publié une lettre à l’occasion du 28ème anniversaire du World Wide Web, détaillant ce qu’il considère comme les trois principaux défis du Web: perte du contrôle sur les données personnelles, propagation de la désinformation sur le Web et nécessité de la transparence dans la publicité politique en ligne

Lire l'histoire complète ici…