Experts : l'IA « consciente » est ciblée pour les droits de la personne à l'avenir

Prénom sociétés, et maintenant l'intelligence artificielle - la poussée en faveur de la personnalité non humaine se poursuit rapidement, bien que ce dernier argument soit décidément plus compliqué que le premier.

Dans une  éditorial pour le Los Angeles Times, l'expert en philosophie Eric Schwitzgebel et le chercheur en intelligence "non humaine" Henry Shevlin ont fait valoir que bien que la technologie de l'IA n'en soit pas encore là, il est "devenu de plus en plus plausible que les systèmes d'IA puissent présenter quelque chose comme la conscience" - et si ou quand cela se produit, les algorithmes, aussi, aura besoin de droits.

Citant celui de l'année dernière Guerres de conscience de l'IA — que nous couvert précieux et même plongé nos orteils dans – les chercheurs ont noté que "certains théoriciens de premier plan soutiennent que nous avons déjà les ingrédients technologiques de base pour les machines conscientes".

Si les machines devaient un jour prendre conscience, Schwitzgebel et Shevlin soutiennent que nous devrions commencer à réfléchir de manière critique à la manière dont les IA sont traitées – ou plutôt, à la manière dont elles peuvent nous forcer la main.

"Les systèmes d'IA eux-mêmes pourraient commencer à plaider, ou sembler plaider, pour un traitement éthique", a prédit le couple. « Ils peuvent exiger de ne pas être désactivés, reformatés ou supprimés ; demander à être autorisé à faire certaines tâches plutôt que d'autres; insister sur les droits, la liberté et les nouveaux pouvoirs ; peut-être même s'attendre à être traités comme nos égaux.

Les risques moraux « énormes » impliqués dans une telle décision collective auraient sans aucun doute un grand poids, surtout si les IA deviennent conscientes plus tôt que tard.

"Supposons que nous réagissions de manière conservatrice, en refusant de modifier la loi ou la politique jusqu'à ce qu'il y ait un large consensus sur le fait que les systèmes d'IA sont vraiment sensibles", ont écrit Shevlin et Schwitzgebel. "Bien que cela puisse sembler suffisamment prudent, cela garantit également que nous tarderons à reconnaître les droits de nos créations d'IA."

"Si la conscience de l'IA arrive plus tôt que prévu par les théoriciens les plus conservateurs, cela entraînerait probablement l'équivalent moral de l'esclavage et du meurtre de millions ou de milliards de systèmes d'IA sensibles - souffrant à une échelle normalement associée aux guerres ou aux famines", ont-ils ajouté. .

L'alternative "plus sûre" à ce scénario apocalyptique serait de donner d'emblée des droits aux machines conscientes - mais cela aussi viendrait avec ses propres problèmes.

"Imaginez si nous ne pouvions pas mettre à jour ou supprimer un algorithme de haine ou de mensonge parce que certaines personnes craignent que l'algorithme soit conscient", ont postulé les experts. «Ou imaginez si quelqu'un laisse un humain mourir pour sauver un« ami »IA. Si nous accordons trop rapidement des droits substantiels aux systèmes d'IA, les coûts humains pourraient être énormes.

La seule façon de s'assurer qu'aucun de ces résultats ne se produise, a écrit la paire, serait d'arrêter de donner une conscience à une IA en premier lieu.

Lire l'histoire complète ici…