Selon Martin Schmalzried, seuls les êtres humains, dotés de valeurs, de principes et de connaissances dans divers domaines non technologiques peuvent reconnaître les biais inhérents et les problèmes de société cachés dans les algorithmes et la technologie «neutres».
Numérisation, innovation, science, technologie, «l'Europe à la traîne»… Les manchettes font les manchettes depuis des années sur le fait que l'Europe «manque la révolution numérique» et la nécessité d'investir massivement dans ces domaines, ce qui, bien sûr, résoudra une myriade de problèmes de société: les fintechs vont promouvoir l'inclusion financière, les voitures autonomes vont réduire les décès sur les routes, les soins de santé «intelligents» vont prévenir les maladies et sauver des vies, la police prédictive va améliorer la sécurité et la sûreté, l'apprentissage automatique va transformer profondément nos sociétés, y compris le monde de travail.
Et ensuite, vous entendez les partisans nous avertir d'un avenir orwellien / dystopique régi par des machines, opposant l'Europe à la croissance économique, aux emplois, à la création de richesses et, bien sûr, en tuant des personnes pouvant être sauvées par les technologies qu'elles bloquent actuellement. .
À bien des égards, cet écart peut être expliqué entre ceux qui croient que tout peut être quantifié et objectivé, ce qui permet de prendre des décisions «éclairées» sur la base d’une analyse stricte «d’évaluation d’impact» ou de «coût-bénéfice», c’est-à-dire des technocrates, et d'autre part, ceux qui croient que des décisions humaines fondées sur des principes, des valeurs, des idéologies et des débats sont la base sur laquelle nos sociétés sont construites et ne peuvent être remplacées par la seule science, à savoir les démocrates. Il est temps de vaincre les technocrates une fois pour toutes.
Premièrement, examinons l’affirmation de «croissance économique». En mesurant la croissance de la productivité et le PIB, les technocrates ont de solides arguments pour affirmer que l’innovation et la technologie ont amélioré les deux.
En regardant le revenu réel moyen des ménages par quintile aux États-Unis, toutefois, une autre image est donnée.
À l'exception du quintile supérieur, le revenu réel des ménages a stagné depuis les 1960. En bref, les retombées économiques de l’innovation et de la technologie n’ont abouti que dans les poches des plus riches. Et la question évidente est donc: comment devrions-nous redistribuer les avantages et la richesse générés par l’innovation?
Deuxièmement, examinons la revendication «sauver des vies». Cela est plus généralement lié à la tentative des technocrates de se vider de leurs actions en instrumentalisant des valeurs et des principes fondamentaux tels que les droits de l'homme afin de justifier leurs actions. Mais leur application sélective révèle facilement les intentions cachées, généralement des profits énormes. Les exemples historiques incluent l'industrie du tabac, qui a produit des preuves scientifiques minimisant l'impact du tabagisme sur la santé.
On peut en dire autant de la pseudo-recherche sur le changement climatique financée par des entreprises du secteur des énergies fossiles. Dans ces cas, la science était et est toujours instrumentalisée pour bloquer une action politique indispensable, directement liée à la nécessité d'enraciner toutes les décisions politiques sur des bases scientifiques plutôt que de prendre des décisions politiques fondées sur des principes de précaution. Au vu des dilemmes actuels entourant la technologie, les technocrates sont incapables de répondre, au moins de manière humainement acceptable, aux compromis délicats de la technologie.
La question très discutée «Dans une situation où une voiture autonome doit sacrifier ses passagers ou ses piétons, qui doit tuer la voiture autonome?» En est un exemple. Quelle que soit la décision prise, la technologie ne peut y répondre. La même chose vaut pour les soins de santé. Très certainement, si nous surveillons via des implants une multitude d'indicateurs médicaux de tous les êtres humains sur Terre, nous pourrons prévenir un nombre élevé de décès. En prenant une telle technologie à l'extrême, nous pourrions même décider de séparer les êtres humains dans des bulles gonflées géantes qui les protégeraient de tout, y compris d'une blessure accidentelle ou de l'exposition à des bactéries et à des virus.
Et encore une fois, c’est là que la technocratie échoue car elle n’a pas de réponse claire sur la manière d’équilibrer les désirs des hommes pour la liberté, la prise de risque, la maîtrise de leur propre destin et leurs désirs pour la sécurité, la sûreté et la peur de la mort.. Bien sûr, de nombreux technocrates tenteront de répondre au nom de l’humanité, car cela pourrait économiser des millions de dollars (en dépenses de soins de santé ou augmenter les primes de risque pour les êtres humains vivant dans des modes de vie risqués).
Enfin, examinons si la "preuve" est vraiment scientifiquement exacte. Le maintien de l'ordre par prédiction est probablement le moyen le plus simple d'illustrer les failles fondamentales du recours aux technocrates. Que nous dit la police prédictive? Que les Noirs / Latino / Marrons sont plus susceptibles de commettre des crimes? Ou que les personnes issues d'une famille défavorisée, qui travaillent deux fois pour joindre les deux bouts, qui ont souffert de discrimination et qui ont grandi dans un quartier défavorisé, sont plus susceptibles de commettre des crimes?
Cette distinction est extrêmement importante car, dans un cas, la politique pourrait être de renforcer les contrôles et de jeter tous les criminels en prison, alors que dans ce dernier cas, des investissements importants seraient nécessaires pour créer des emplois, refinancer les écoles, investir dans le développement urbain et lutter contre la discrimination. .
Seuls les êtres humains, dotés de valeurs, de principes et de connaissances dans divers domaines non technologiques tels que la sociologie, l'histoire, la psychologie ou la philosophie, peuvent reconnaître les biais inhérents et les problèmes de société cachés dans les technologies et les algorithmes «neutres». Ce sont les compétences «réelles» qui seront nécessaires pour diriger la révolution numérique vers la réalisation du bien commun.