Flashback 2012 - L'Atlantique relie directement Facebook à la technocratie

Le désir d'efficacité de Facebook signifie que la démocratie est terminée et que le règne technocratique du développeur-roi est en place.

Disons que Facebook n'est pas un pays, que les vrais gouvernements remplissent bien plus de fonctions et que les gens ne sont pas citoyens de leurs réseaux sociaux.

Néanmoins, 900 millions d'êtres humains font quelque chose comme vivre dans l'espace virtuel bleu et blanc du plus grand réseau structuré de personnes au monde. Et ces gens se retrouvent dans des différends qu'ils s'attendent à voir tranchés. Ils ont cette attente en partie parce que Facebook a longtemps déclaré vouloir créer un environnement sûr pour se connecter avec d'autres personnes. (Sinon, comment pouvez-vous amener les gens à être "plus ouvert et connecté«?) Mais les gens veulent aussi que quelqu'un soit responsable, ils veulent une autorité à laquelle ils peuvent faire appel si une autre personne est un imbécile.

Sauf dans ce cas, la personne est vraiment une personne morale. Donc, lorsque vous signalez quelque chose ou que quelqu'un rapporte quelque chose de vous, c'est Facebook qui prend la décision sur ce qui a été publié, même si nous savons que quelque part, un être humain doit incarner l'entreprise que nous, ne serait-ce que pour assez longtemps pour cliquez sur un bouton.

Toute décision individuelle prise par l'équipe de Facebook - comme prendre cette photo d'un couple gay s'embrasser - est facile à remettre en question. Ken Fisher d'Ars Technica détaillé tout un tas de problèmes ponctuels que les gens ont rencontrés avec le système de rapports de Facebook. Dans chacun d'eux, il y a une partie lésée, mais nous n'entendons qu'un côté du conflit lorsque ces problèmes surgissent. À travers de nombreux événements uniques, vous avez deux personnes (ou des entités comme des entreprises) avec des désirs contradictoires. C'est un cas classique où vous avez besoin d'une sorte de gouvernement.

Il n'est pas difficile d'imaginer prendre une, 20 ou même 200 décisions concernant des photos ou des mises à jour de statut en une semaine, mais il est ahurissant de considérer que Facebook doit traiter 2 millions de rapports par semaine, et cela n'inclut pas les simples messages «marquer comme spam».

Comment concevez-vous un système pour gérer cette charge de travail? J'ai parlé avec James Mitchell, qui dirige ce que Facebook appelle «l'intégrité du site» au sein de son département des opérations utilisateur, et Jud Hoffman, le responsable de la politique mondiale de l'entreprise concernant le processus de reporting. Ce sont les architectes de la technocratie de Facebook.

«La quantité de réflexion et de débat qui accompagne le processus de création et de gestion de ces règles n'est pas si différente d'un processus législatif et judiciaire réuni en un seul», m'a dit Hoffman, un avocat. «Et James a l'élément exécutif / judiciaire. Je ne pense pas qu'il soit exagéré de penser à cela dans un contexte de gouvernance, mais c'est une forme différente et nous la prenons vraiment, vraiment au sérieux.

L'étape clé, m'a dit Mitchell, était de structurer le processus de rapport. À ses débuts en 2006, il n'existait aucune forme de plainte des utilisateurs. Cela signifiait qu'il y avait une file d'attente massive de problèmes indifférenciés. Ainsi, lui et son équipe ont commencé à réfléchir aux types de problèmes qu'ils ont reçus et ont créé des catégories de problèmes qu'ils ont affinés au fil du temps.

Cela permet aux rapports d’être acheminés par l’intermédiaire d’un ensemble complexe de processus et d’équipes, de sorte qu’ils arrivent devant des êtres humains ou des ordinateurs qui savent quoi en faire.

Facebook a révélé cette infrastructure pour la première fois aujourd'hui. C'est le fruit de plus de cinq ans de travail de plusieurs équipes au sein de Facebook, qui ont travaillé pour rendre le processus de traitement de ce flot de demandes d'utilisateurs aussi efficace que possible.

À la fin de bon nombre de ces liens hiérarchiques, il y a une personne qui doit prendre une décision concernant le message de l'utilisateur. Certaines de ces décisions sont binaires - Cette photographie contient-elle de la nudité? - et ceux-ci sont généralement sous-traités à des équipes qui peuvent appliquer des formules simples et rigoureuses telles que demander: «Cette personne est-elle nue?» D'autres décisions sont complexes et rendent les machines très efficaces pour les gérer. (Par exemple, il y a plus de 50 signaux que les algorithmes de Facebook examinent pour déterminer si un profil est du spam, et les réponses automatisées sont plus précises que les réponses humaines.)

Mais la plupart des rapports sont envoyés par une équipe sans visage de plusieurs centaines d'employés de Facebook à Mountain View, Austin, Dublin et Hyderabad. Ces personnes et les outils qu'ils ont construits sont devenus de facto les législateurs, les bureaucrates, la police et les juges de la quasi-nation de Facebook. Certaines décisions qu'ils prennent ont un impact modeste sur des centaines de millions de personnes; d'autres décisions changeront considérablement la vie d'un petit nombre de personnes.

Ce qui me fascine, c'est que Facebook a essentiellement recréé une bureaucratie gouvernementale complète avec des régulateurs et des forces de l'ordre, mais optimisée pour des valeurs totalement différentes de celles des gouvernements traditionnels. Au lieu d'une constitution, Facebook a la double mission de rendre «le monde plus ouvert et connecté» et de maintenir les utilisateurs sur son site en minimisant leurs expériences négatives. Surtout, la solution de Facebook à tous les problèmes de gouvernance doit être conçue pour une efficacité extrême à grande échelle.

Comme indiqué ci-dessus, les gouvernements du monde réel doivent remplir toutes sortes de fonctions en dehors des conflits entre citoyens, mais il suffit de regarder la différence d'échelle entre le gouvernement de Facebook et le gouvernement de Palo Alto. Palo Alto compte environ 65,000 habitants et 617 à temps plein employés. Facebook compte 900 millions de «résidents» et quelques centaines de bureaucrates qui prennent toutes les décisions relatives au contenu.

Le désir d'efficacité de Facebook signifie que la démocratie est révolue et que la règle technocratique du roi des développeurs est en place. Les gens ne votent pas sur les règles, et même lorsque Facebook a offert à ses utilisateurs la possibilité de voter sur une nouvelle politique de confidentialité la semaine dernière, le taux de participation était de 0.038 pour cent. Les gens savent que Facebook contrôle une grande partie de leur vie numérique, mais ils n'ont pas le sens de la citoyenneté numérique. Et cette apathie donne à la technocratie de Facebook une chance de réussir là où ses antécédents historiques n'ont pas réussi.

Les technocrates d'origine étaient un groupe de penseurs et d'ingénieurs des années 1930 qui ont relancé le rêve de Platon du philosophe-roi, mais avec une tournure de l'ère de la machine. Dirigés par Thorstein Veblen, Howard Scott et M. King Hubbert, ils ne préconisaient pas de gouverner par le peuple ou la monarchie ou le dictateur, mais par les ingénieurs. Les ingénieurs et les scientifiques gouverneraient de manière rationnelle et impartiale. Ils créeraient une technocratie qui fonctionnait comme une horloge et assurerait la productivité de tous était efficacement distribuée. Ils ont mis au point un système entier par lequel le continent nord-américain serait gouverné avec des séquences fonctionnelles qui permettraient au directeur continental de faire avancer les choses.