La technocratie et le danger caché des données volumineuses

Dans la théorie des jeux, le «prix de l'anarchie» décrit comment les individus agissant dans leur propre intérêt au sein d'un système plus large ont tendance à réduire l'efficacité de ce système plus large. C'est un phénomène omniprésent, auquel nous sommes presque tous confrontés régulièrement.

Par exemple, si vous êtes un urbaniste en charge de la gestion du trafic, vous pouvez gérer les flux de trafic de deux manières. En règle générale, une approche centralisée et descendante - une approche qui comprend l'ensemble du système, identifie les points d'étranglement et apporte des modifications pour les éliminer - sera plus efficace que de simplement laisser les conducteurs individuels faire leurs propres choix sur la route, en supposant que ces choix conduira à un résultat acceptable. La première approche réduit le coût de l'anarchie et fait un meilleur usage de toutes les informations disponibles.

Le monde est inondé de données. L'année dernière, nous avons produit autant de données que celles créées dans toutes les années précédentes de la civilisation humaine. Nous approchons rapidement de ce que l'écrivain italien Italo Calvino a appelé avec prescience la «mémoire du monde»: une copie numérique complète de notre univers physique.

Au fur et à mesure qu'Internet se déploie dans de nouveaux domaines de l'espace physique, le prix de l'anarchie deviendra une mesure cruciale et la tentation de l'éliminer grâce au pouvoir de l'analyse de données volumineuses deviendra de plus en plus forte.

Les exemples de cela abondent. Considérons Amazon. Il contient une montagne d'informations sur tous ses utilisateurs, qu'il utilise pour prédire ce qu'il pourrait acheter par la suite. Comme dans toutes les formes d'intelligence artificielle centralisée, les modèles passés sont utilisés pour prévoir les futurs. Amazon peut consulter les derniers livres 10 que vous avez achetés et, avec une précision croissante, suggérer ce que vous voudrez peut-être lire par la suite.

Mais ici, nous devrions considérer ce qui est perdu lorsque nous réduisons le niveau d'anarchie. Le livre le plus significatif que vous devriez lire après les versions précédentes de 10 n’est pas un livre qui s’inscrit parfaitement dans un modèle établi, mais plutôt un livre qui vous surprend ou vous incite à regarder le monde différemment.

Contrairement au scénario de flux de trafic, des suggestions optimisées pourraient ne pas être le meilleur paradigme pour la navigation de livre en ligne. Les mégadonnées peuvent multiplier nos options tout en filtrant les éléments que nous ne voulons pas voir, mais il y a quelque chose à dire pour découvrir ce livre 11th par pur hasard.

Ce qui est vrai de l'achat de livres l'est aussi pour de nombreux autres systèmes en cours de numérisation, comme nos villes. Les systèmes municipaux centralisés utilisent désormais des algorithmes pour surveiller les infrastructures urbaines, depuis les feux de signalisation et l'utilisation du métro jusqu'à l'élimination des déchets et la fourniture d'énergie. De nombreux maires du monde entier sont fascinés par l'idée d'une salle de contrôle centrale, comme le centre des opérations conçu par IBM à Rio de Janeiro, où les responsables municipaux peuvent réagir en temps réel aux nouvelles informations.

Mais avec des algorithmes centralisés gérant toutes les facettes de la société, la technocratie axée sur les données menace de submerger l'innovation et la démocratie. Ce résultat devrait être évité. La prise de décision décentralisée est cruciale pour l'enrichissement de la société. L’optimisation pilotée par les données, au contraire, dérive des solutions d’un paradigme prédéterminé, qui, dans sa forme actuelle, exclut souvent les idées transformationnelles ou contre-intuitives qui propulsent l’humanité vers l’avenir.

Une certaine quantité de hasard dans nos vies permet de nouvelles idées ou modes de pensée qui autrement seraient manqués. Et, à une échelle macro, c'est nécessaire pour la vie elle-même. Si la nature avait utilisé des algorithmes prédictifs empêchant la mutation aléatoire dans la réplication de l'ADN, notre planète en serait probablement encore au stade d'un organisme monocellulaire très optimisé.

La prise de décision décentralisée peut créer des synergies entre les intelligences humaine et machine à travers des processus de co-évolution naturelle et artificielle. L'intelligence distribuée peut parfois réduire l'efficacité à court terme, mais elle conduira finalement à une société plus créative, diversifiée et résiliente. Le prix de l'anarchie est un prix qui vaut la peine d'être payé si nous voulons préserver l'innovation par le hasard.

Lire l'histoire complète ici…

• Carlo Ratti dirige le Senseable City Laboratory au Massachusetts Institute of Technology et dirige le Global Agenda Council on Future Cities du Forum économique mondial. Dirk Helbing est professeur de sciences sociales computationnelles à l'Ecole polytechnique fédérale de Zurich.