Faire rage contre l'algorithme: Google et la technologie persuasive

Les monstres et les titans partagent le stade de la mythologie à travers les cultures comme les réalisations nécessaires de l'imagination humaine. De la grotte de pierre à la demeure urbaine, le thème est ininterrompu; gardés dans l'imaginaire, ces créatures remplissent assez innocemment des fonctions bénignes. Le problème ici est la tendance humaine à réaliser de telles créatures. Ils prennent la forme d'ingénierie sociale et d'utopie. Folie liée, de tels projets et entreprises finissent par se corrompre et se dégrader. Le monstre est né et l’affreuse vérité se dégage: camp de concentration, état de surveillance, newspeak, armées de censure.

Les géants de la technologie de l’époque actuelle sont les utopistes modernes, cédant à la faim et aux intérêts humains en les façonnant. Une entreprise nous donne l'archétype. C'est Google, qui a la particularité d'être à la fois nom et verbe, entité et action. Le pouvoir de Google est extrêmement vaste, une étendue effrayante qui privilégie la transparence tout en la manquant et la conservation des informations tout en en régulant la portée. C’est aussi une entité qui est devenue au-delà d’un simple référentiel de recherches et de données, une tentative visant à induire un changement de comportement de la part des utilisateurs.

Google donne toujours l’impression que ses utilisateurs sont en tête, autonomes, indépendants dans un pays verdoyant de ébats numériques. L'idée que la société elle-même favorise un tel changement, mettant en avant des modifications de comportement, est mise de côté. Il n'y a pas de Svengalis à Googleland, car nous sommes tous libres. Gratuit, mais nécessitant une assistance dans le chaos et le multitâche.

Les gens ont ce que le appels d'entreprise «Micro-moments», ceux-là, comme l'économiste comportemental Dan Ariely décrit en tant que «moments mobiles en déplacement» où les décisions sont prises par un utilisateur alors qu’il s’engage simultanément dans diverses tâches: réservation d’hôtels, choix de voyages, choix d’horaires de travail. Tandis qu'Ariely écrit plus largement du point de vue de l'omniprésente spécialiste du marketing numérique, le langage utilisé est purement googléléien, et associe une part de persuasion et une part d'imposition. “Voulez-vous développer une stratégie pour façonner vos décisions de consommation?” demande à Google. «Commencez par comprendre les micro-moments clés de leur parcours.» Comprenez-les; nourrir leur esprit; leur tenir la main.

La dépendance à Google engendre ce qui ne peut plus être considéré comme retardant, mais stimulant. Une génération grandit sans bibliothèque de recherche sur papier, sans liste de classiques prêts à l'emploi et sans moyen de parcourir des enregistrements sans avoir recours à ces fichues clés numériques. Des débats sont inévitables (certains polluent déjà l’espace numérique) sur le point de savoir si cela est nécessairement une condition à déplorer. Embrassez l'amnésie numérique! Pour Google, c'est exister.

Ce qui est indéniable, c’est que le moyen de trouver des informations - instantané, débordant, désespérément rapide - a créé des utilisateurs qui habitent un espace qui guide leur pensée, leur anticipation, leur cajolerie et leur adaptation. Une forme d'alphabétisation, pourrait-on bien dire, est remplacée par une autre: l'imbécile de Google est sur nous.

Compte tenu de la nature de ces effets, il n’est pas étonnant que les politiciens trouvent Google menaçant leur métier moisi et rouillé. La réserve du politicien est bonne - ou pas saine - la communication; le succès aux prochaines élections dépend de l’idée que les électeurs comprennent et approuvent ce qui leur a été transmis (qu’il s’agisse de faits, qu’ils soient factuels ou non, qu’ils soient mensongers ou non, n’est pas pertinent: l’homme politique aspire à convaincre pour gagner).

L'ancien moteur de recherche titan fournit quelque chose d'un obstacle à cet égard. D'une part, il offre aux classes politiques les moyens de toucher un public mondial, un moyen de faire entendre leur voix et de promouvoir le prochain stratagème déréglé dans l'esprit de l'apparence politique. Mais que se passe-t-il si le message est bloqué, trouvant des retards dans les moyens de ce que l’on appelle «l’optimisation des moteurs de recherche»? Est-ce que Google est à blâmer ou à éliminer la banalité ordinaire du politicien?

Les politiciens américains pensent avoir une réponse. Ils sont les seuls autorisés à contrôler le récit et à diffuser le mensonge. Ces derniers temps, ils ont essayé de tracer un chemin auquel ils ne sont pas habitués: réglementer les industries autrefois considérées comme des sentinelles de la liberté, des promoteurs de la liberté. Leurs plaintes ont tendance à manquer de cohérence. D'un côté, ils trouvent divers algorithmes de Google problématiques (préférence pour les sites de droite, gruau conspirateur comme dommageable), mais leur biais est méchant et biaisé. Si ces algorithmes avaient conduit à des termes de recherche favorables (conformiste, constant, inconditionnel, anti-Trump), la matière serait un non-starter. Notre message, diraient-ils, est de sortir.

Cette semaine, le Comité du commerce, des sciences et des transports du Sénat américain a tenté de donner un sens, plutôt accusateur, à la «technologie persuasive». Nanette Byrnes fournit nous avec une définition: «l’idée que les ordinateurs, les téléphones mobiles, les sites Web et d’autres technologies pourraient être conçues pour influencer le comportement et même les attitudes des gens». Le pape reste résolument catholique.

La solution audition du comité présentaient des opinions telles que celles du sénateur John Thune (R-SD), qui souhaitait utiliser les procédures pour élaborer une législation qui «exigerait que les plateformes Internet donnent aux consommateurs la possibilité de s’engager sur la plateforme sans que l’expérience ne soit modelée par des algorithmes». Senator accepte volontiers que l'intelligence artificielle «permette aux automatismes d'afficher du contenu pour optimiser l'engagement», mais voit un diable en marche, car «les algorithmes d'intelligence artificielle peuvent avoir un inconvénient inattendu et peut-être même dangereux». Cela revient à vouloir un Grand Prix de Formule 1 sans voitures rapides et une compétition d’athlétisme au ralenti.

Maggie Stanphill, directrice de Google User Experience, faisait face aux sénateurs. Sa témoignage était formulé avec des mots plus proches du lustre d'une brochure de voyage avec une pincée de cocaïne offerte. "L'Initiative sur le bien-être numérique de Google est l'un des principaux objectifs de l'entreprise. Elle vise à fournir à nos utilisateurs des informations sur leurs habitudes et outils numériques afin de soutenir une relation intentionnelle avec la technologie." Google crée simplement des produits qui améliorent la vie de ceux qui les utilisent. " La société a fourni un accès qui «a démocratisé les informations et fourni des services à des milliards de personnes dans le monde». Lorsqu'on lui a demandé si Google faisait sa part dans le domaine de la persuasion, Stanphill était sans équivoque. "Nous n'utilisons pas de technologie persuasive."

Le thème de la session était clair: les tas de choses et de contenu sont bons, mais doivent être appropriés. Dans Information Utopia, où Adam et Eve numériques fonctionnent encore nus, la méchanceté ne sera pas autorisée. Si les gens veulent rechercher un contenu qui est «négatif» (cette horrible nature arbitraire continue de paraître), ils ne devraient pas être autorisés à le faire. Les bâillonner et s'assurer que les termes populaires recherchés sont blanchis de toute importation offensante ou dangereuse. Imposer aux techniciens la responsabilité de contrôler le négatif.

Le sénateur Brian Schatz (D-Hawaii) s'est plaint de ces sociétés «laissant ces algorithmes se déchaîner […], laissant les humains nettoyer le désordre. Les algorithmes sont amoraux. »Tristan Harris, cofondateur et directeur exécutif du Center for Humane Technology, a parlé de la concurrence entre les entreprises pour utiliser des algorithmes qui "prédisent plus précisément ce qui va retenir les utilisateurs plus longtemps". Si vous souhaitez maximiser le temps passé à la recherche de termes ou, dans le cas de YouTube, regarder une vidéo, concentrez-vous sur "toute la colonie de fourmis de l’humanité vers la ville folle. »Pour Harris,« la technologie corrige les faiblesses humaines ». La morale? Ne donnez pas aux gens ce qu'ils veulent.

La rage contre l’algorithme et la conviction qu’aucune impulsion comportementale n’a lieu dans la technologie de recherche sont mal placées sur plusieurs fronts. À un certain niveau, tous acceptent le fonctionnement de tels modes de récupération des informations. Le désaccord survient quant à leurs conséquences, une concession, effectivement, à l'utilisateur de Google en tant qu'imbécile. Stanphill fait preuve d'hypocrisie en présumant que la technologie de persuasion n'est pas une fonction du travail de Google (c'est bien le cas, compte tenu de l'intention de l'entreprise d'améliorer la «relation intentionnelle avec la technologie»). Dans son témoignage, elle a parlé de la création de «produits avec confidentialité, contrôle et transparence pour les utilisateurs, et nous construisons une relation durable avec l'utilisateur, ce qui est primordial». Les Sénateurs, à leur tour, craignent que les utilisateurs, dégradés par des encouragements dans leurs intérêts de recherche, sont incapables de créer leurs propres esprits fragiles.

La nature des informations gérées dans l'expérience numérique n'est pas, comme le montrent Google, YouTube et des sociétés similaires, un cas d'élargissement des connaissances mais de réaffirmation des hypothèses existantes. La chambre d'écho se hérisse de confirmations et non de défis, avec le confort des préjugés plutôt que l'inconfort de l'apprentissage de l'artillerie lourde. Mais les élus sur la Colline et les cyberutopistes continuent de se débattre et de se débattre dans la jungle numérique, perçue comme une utopie de l'information à la hauteur de tous. Pour les géants de la Big Tech, c'est assez simple: le spectacle qui attire l'attention, des surprises sur les sièges et des téléchargements à gogo.

Lire l'histoire complète ici…