Des informaticiens créent un plan pour la conscience des machines

Les chercheurs renommés Manuel Blum et Lenore Blum ont consacré toute leur vie à l'étude de l'informatique avec un accent particulier sur la conscience. Ils ont rédigé des dizaines d'articles et enseigné pendant des décennies à la prestigieuse université Carnegie Mellon. Et, tout récemment, ils ont publié de nouvelles recherches qui pourraient servir de modèle pour développer et démontrer la conscience des machines.

Ce papier, intitulé «A Theoretical Computer Science Perspective on Consciousness», n'est peut-être qu'un papier pré-imprimé, mais même s'il tombe en panne et brûle lors d'un examen par les pairs (ce ne sera presque sûrement pas le cas), il conservera toujours une distinction incroyable dans le monde de l'informatique théorique.

Les Blum sont rejoints par un troisième collaborateur, un Avrim Blum, leur fils. D'après l'article de Blum:

Les trois Blums ont obtenu leur doctorat au MIT et ont passé au total 65 merveilleuses années à la faculté du département d'informatique de la CMU. Actuellement, les deux aînés sont émérites et le plus jeune est Chief Academic Officer au TTI Chicago, un institut de recherche en informatique qui accorde un doctorat et se concentre sur les domaines de l'apprentissage automatique, des algorithmes, de l'IA (robotique, langage naturel, parole et vision), de la science des données et biologie computationnelle, et situé sur le campus de l'Université de Chicago.

Ceci est leur premier article commun.

Chapeau aux Blums, il ne peut y avoir trop de familles d'informatique théorique à la pointe de la recherche sur la conscience des machines. Je suis curieux de savoir à quoi ressemble l'animal de la famille.

Passons au papier, d'accord? C'est une partie fascinante et bien expliquée de recherche hardcore qui pourrait très bien changer certaines perspectives sur la conscience des machines.

Par le papier:

Notre contribution majeure réside dans la définition formelle précise d'une Machine de Turing Consciente (CTM), également appelée IA Consciente. Nous définissons le CTM dans l'esprit de la définition simple mais puissante d'Alan Turing d'un ordinateur, la Turing Machine (TM). Nous ne cherchons pas un modèle complexe du cerveau ni de la cognition mais un modèle simple de (le concept certes complexe de) la conscience.

Dans ce contexte, une CTM semble être n'importe quelle machine capable de démontrer la conscience. La grande idée ici n'est pas nécessairement le développement d'un robot pensant, mais plus une démonstration des concepts de base de la conscience dans l'espoir que nous obtiendrons une meilleure compréhension de la nôtre.

Cela nécessite la réduction de la conscience à quelque chose qui peut être exprimé en termes mathématiques. Mais c'est un peu plus compliqué que de simplement mesurer les vagues. Voici comment les Blum le disent:

Un objectif majeur important est de déterminer si le CTM peut ressentir des sentiments et non pas simplement les simuler. Nous étudions en particulier les sentiments de douleur et de plaisir et suggérons des moyens de générer ces sentiments. Nous soutenons que même une connaissance complète des circuits du cerveau - y compris les corrélats neuronaux de la conscience - ne peut pas expliquer ce qui permet au cerveau de générer une expérience consciente telle que la douleur.

Nous proposons une explication qui fonctionne aussi bien pour les robots ayant des cerveaux de silicium et d'or que pour les animaux ayant des cerveaux de chair et de sang. Notre thèse est qu'en CTM, c'est l'architecture du système, ses processeurs de base; son langage intérieur expressif que nous appelons Brainish; et sa dynamique (prédiction, compétition, rétroaction et apprentissage); qui le rendent conscient.

Définir la conscience n'est que la moitié de la bataille - et qui ne sera probablement gagnée qu'après que nous l'aurons singée. L'autre aspect de l'équation est l'observation et la mesure de la conscience. Nous pouvons regarder un chiot réagir à un stimulus. Même la conscience végétale peut être observée. Mais pour qu'une machine démontre sa conscience, ses observateurs doivent être certains qu'elle n'imite pas simplement la conscience par un mimétisme intelligent.

N'oublions pas ça GPT-3 peut éblouir même les esprits les plus cyniques avec sa capacité étrange à sembler convaincante, cohérente et poignante (n'oublions pas non plus que vous devez appuyer plusieurs fois sur «générer un nouveau texte» pour y parvenir parce que la plupart de ce il crache des ordures).

Les Blums contournent ce problème en concevant un système destiné uniquement à démontrer leur conscience. Il n'essaiera pas d'agir humain ou de vous convaincre qu'il pense. Ce n'est pas un projet artistique. Au lieu de cela, cela fonctionne un peu comme un sablier numérique où chaque grain de sable est une information.

Lire l'histoire complète ici…