Lorsque la complexité de l'IA dépasse la capacité de l'homme à comprendre son fonctionnement, les conséquences de son utilisation ne peuvent pas non plus être comprises. Les technocrates créent parce qu'ils le peuvent, sans grand souci de la sécurité ou des conséquences. Le moment viendra où il faudra tirer sur la fiche, remettant tout le système sous contrôle humain. ⁃ Éditeur TN
L’intelligence artificielle va remodeler le monde de la finance au cours des dix prochaines années en automatisant les services d’investissement et autres, mais elle pourrait aussi introduire des faiblesses et des risques systématiques troublants, selon la même source. un nouveau rapport du Forum économique mondial (WEF).
Compilé à partir d'entretiens avec des dizaines d'experts financiers et de leaders du secteur, le rapport conclut que l'intelligence artificielle perturbera le secteur en permettant aux premiers utilisateurs de déjouer leurs concurrents. Cela suggère également que la technologie créera des produits plus pratiques pour les consommateurs, tels que des outils sophistiqués de gestion des finances personnelles et des investissements.
Mais surtout, le rapport souligne le potentiel des grandes institutions financières pour créer des services basés sur l’apprentissage automatique, basés sur le cloud et accessibles à d’autres institutions.
«La dynamique de l'apprentissage automatique crée une forte incitation à la mise en réseau du back-office», explique Jesse McWaters, l'auteur principal du rapport, qui dirige le projet sur l'IA dans les services financiers du Forum économique mondial. «Un monde plus en réseau est plus vulnérable aux risques de cybersécurité et crée également des risques de concentration.»
En d’autres termes, les systèmes financiers qui intègrent l’apprentissage automatique et auxquels de nombreuses institutions différentes ont accès par le nuage pourraient constituer une cible juteuse pour les pirates informatiques et un point unique de défaillance systémique.
Wall Street est déjà en train d’adopter rapidement le machine learning, technologie au centre du boom de l’intelligence artificielle. Les sociétés de financement ont généralement beaucoup de données et d’incitations à innover. Les fonds spéculatifs et les banques recrutent les chercheurs en intelligence artificielle aussi rapidement que possible, et le secteur financier expérimente l'automatisation du back-office à grande échelle. L’automatisation du trading haute fréquence a déjà créé des risques systémiques, comme le soulignent plusieurs événements commerciaux fous, ou "flash se bloque," dans les années récentes.
Andrew Lo, professeur à la Sloan School of Management du MIT, étudie la question du risque systémique dans le système financier et a déjà prévenu que le système dans son ensemble peut être vulnérable en raison de sa complexité même.
[…] Forum économique mondial : l'IA pourrait provoquer l'effondrement du système financier mondial (technocracy.news) […]