Les technocrates se tournent vers les éthiciens pour `` sauver leur âme ''

SocrateWikipédia Commons, Greg O'Beirne
S'il vous plaît partager cette histoire!
image_pdfimage_print
Les technocrates créent parce qu'ils le peuvent, pas parce qu'il y a un argument moral ou éthique pour le faire. Dans leur esprit, la technologie n'est ni éthique ni morale et ne mérite donc pas d'être prise en compte lors des processus de développement. ⁃ TN Editor

Cinquante-deux étages sous le sommet de la Salesforce Tower, je rencontre Paula Goldman dans une salle de conférence aux panneaux de verre où les mots EQUALITY OFFICE sont épelés sur une banderole patchwork, le genre de décoration que vous pourriez acheter pour la fête d'anniversaire d'un enfant.

Goldman est titulaire d'une maîtrise de Princeton et d'un doctorat. de Harvard, où elle a étudié comment les idées controversées deviennent courantes. Elle est arrivée chez Salesforce il y a un peu plus d'un an pour devenir son tout premier Chief Ethical and Humane Use Officer, assumant un titre sans précédent et décidément ambigu qui a été créé spécifiquement pour son travail sans précédent, ambigu, mais très spécifique: veillez à ce que Salesforce rend le monde meilleur, pas pire.

«Je pense que nous sommes à un moment dans l'industrie où nous sommes à ce point d'inflexion», me dit Goldman. «Je pense que l'industrie de la technologie était là avant, avec la sécurité dans les années 80. Tout à coup, il y avait des virus et des vers, et il fallait une toute nouvelle façon de penser et de gérer cela. Et vous avez vu une industrie de la sécurité se développer après cela. Et maintenant, c'est juste un protocole standard. Vous n’expédiez pas un produit majeur sans l’associer en rouge ou sans vous assurer que les bonnes mesures de sécurité y figurent. »

«Je pense que nous sommes à un moment similaire avec l'éthique», dit-elle. «Cela nécessite non seulement d'avoir un ensemble d'outils pour faire le travail, mais aussi un ensemble de normes, c'est important. Alors, comment mettez-vous ces normes à l'échelle? »

Je lui demande comment ces normes sont décidées en premier lieu.

«Dans un certain sens, c'est la question du milliard de dollars», dit-elle. «Tous ces problèmes sont extrêmement compliqués et il y en a très peu pour lesquels la réponse est absolument claire. Droite? Cela se résume en grande partie à, quelles valeurs tenez-vous le plus haut dans votre calcul? »

···

À la suite du scandale de Cambridge Analytica, des débrayages d'employés et d'autres incidents politiques et de confidentialité, les entreprises technologiques ont dû faire face à une vague de en cours à louer ce que les chercheurs du Data & Society Research Institute appellent «Propriétaires de l'éthique», des personnes chargées d'opérationnaliser «les débats anciens, qui sautent dans les domaines et qui ne peuvent être résolus sur les valeurs humaines qui sous-tendent l'enquête éthique» de manière pratique et démontrable.

Salesforce a engagé Goldman hors du réseau Omidyar en tant que culmination d'un processus de gestion de crise de sept mois après que les employés de Salesforce ont protesté contre l'implication de l'entreprise dans le travail d'immigration de l'administration Trump. D'autres entreprises, répondant à leurs propres crises et préoccupations respectives, ont embauché un petit groupe de professionnels similaires - philosophes, experts en politique, linguistes et artistes - tous pour s'assurer que lorsqu'ils promettent de ne pas être mauvais, ils ont en fait une idée cohérente de ce que cela implique.

Alors qu'est-il arrivé?

Alors que certaines entreprises de technologie ont pris des mesures concrètes pour insérer une réflexion éthique dans leurs processus, Catherine Miller, PDG par intérim du cabinet de conseil en éthique Doteveryone, dit qu'il y a également eu beaucoup de «flotter» sur le sujet.

Les critiques le rejettent comme «Éthique-lavage», La pratique de simplement se courber dans le sens des valeurs morales afin d'éviter la réglementation gouvernementale et la critique des médias. Le terme appartient au lexique de plus en plus répandu autour de l'éthique de la technologie, ou «téthique», une abréviation qui a commencé comme une satire dans l'émission télévisée «Silicon Valley», mais est depuis devenue un usage parfois sérieux.

«Si vous n'appliquez pas ce truc dans les pratiques réelles et dans vos structures d'incitation, si vous n'avez pas de processus d'examen, eh bien, cela devient comme un vaporware moral», déclare Shannon Vallor, philosophe de la technologie au Markkula Center d'éthique appliquée à l'Université de Santa Clara. «C'est quelque chose que vous avez promis et que vous vouliez livrer, mais cela n'est jamais arrivé.»

Google, tristement célèbre, a créé un Conseil de l'IA puis, en avril de l'année dernière, démantelé après les employés ont protesté l'inclusion d'un défenseur anti-LGBTQ. Aujourd'hui, l'approche éthique de Google comprend l'utilisation de "Cartes modèles»Qui visent à expliquer son IA.

«Ce n'est pas quelque chose qui a des dents», déclare Michael Brent, éthicien des données chez Enigma et professeur de philosophie à l'Université de Denver. «C'est juste comme, 'Voici une très belle carte.'»

L'entreprise a déployé des efforts plus importants: Vallor vient de terminer une période de service chez Google, où elle a donné des séminaires d'éthique aux ingénieurs et aidé l'entreprise à mettre en place des structures de gouvernance pour le développement de produits. «Quand je parle d'éthique dans des contextes organisationnels, la façon dont je la présente souvent est que c'est l'ensemble des connaissances morales et des compétences morales qui aide les gens et les organisations à assumer leurs responsabilités envers les autres», me dit Vallor.

Plus de 100 employés de Google ont assisté formations à l'éthique développées au centre de Markkula. L'entreprise a également développé un module d'équité dans le cadre de son cours accéléré d'apprentissage machine, et mises à jour sa liste trimestrielle de «pratiques d'IA responsables». «La grande majorité des personnes qui composent ces entreprises veulent créer des produits qui sont bons pour les gens», déclare Vallor. «Ils ne veulent vraiment pas briser la démocratie, et ils ne veulent vraiment pas créer de menaces pour le bien-être humain, et ils ne veulent vraiment pas diminuer l'alphabétisation et la conscience de la réalité dans la société. Ils veulent faire des choses dont ils sont fiers. Alors est-ce que je vais faire ce que je peux pour les aider à atteindre cet objectif? Oui."

···

Le centre de Markkula, où travaille Vallor, porte le nom de Mike Markkula Jr., le «inconnu"Co-fondateur d'Apple qui, en 1986, a donné au centre une subvention de démarrage de la même manière qu'il a accordé au jeune Steve Jobs un prêt initial. Il n'a jamais voulu que son nom soit sur le bâtiment - c'était une surprise, un signe de gratitude de la part de l'université.

Markkula s'est retiré pour vivre une vie tranquille, travaillant dans son vaste domaine fermé à Woodside. Ces jours-ci, il n'a pas beaucoup de contacts avec l'entreprise qu'il a créée - «seulement quand j'ai un problème avec mon ordinateur», me dit-il. Mais quand il est arrivé au campus de Santa Clara pour une orientation avec sa fille au milieu des années 80, il était le président d'Apple et il s'inquiétait de la façon dont les choses se passaient dans la vallée. «Il était clair pour nous deux, Linda [sa femme] et moi, qu'il y avait pas mal de gens qui occupaient des postes de décision et qui n'avaient tout simplement pas l'éthique sur leur écran radar», dit-il. «Ce n'est pas qu'ils étaient contraires à l'éthique, ils n'avaient tout simplement aucun outil avec lequel travailler.»

Lire l'histoire complète ici…

S'INSCRIRE
Notifier de
invité
3 Commentaires
Le plus ancien
Date Les plus votés
Commentaires en ligne
Voir tous les commentaires
justsayin

«Tous ces problèmes sont extrêmement compliqués», dit-elle. Les valeurs sont à la hauteur de l'individu. Dans un certain sens, oui, cela dépend de nous individuellement, mais la question n'est pas compliquée. Ils ont pris l'appât et ça marche. Ils sont importants pour eux-mêmes et, en tant que tels, se sont fait de petits dieux connaissant le bien et le mal, non seulement pour eux-mêmes, mais ils l'ont également choisi pour nous. L'éthique et la jurisprudence étaient enseignées à l'école, mais elles ont été rejetées avec la Bible. Regardez tous les avocats qui font de la publicité à la télévision. La vérité est que nous sommes TOUS des pécheurs. Oui ça... Lire la suite »

Steve Prewitt

Cet article tout entier m'a frappé comme «vaporware». L'éthique est une blague quand le plus grand acteur de l'industrie travaille main dans la main avec la Chine, créant un goulag technocratique national (et non, je ne parle pas des camps de «rééducation» pour les musulmans qui définissent le mal).