Les principes biologiques nécessaires pour concevoir une IA consciente

Table des liens

Abstrait et 1. Introduction

1. Contexte et histoire
2. Feuille de route vers un artefact conscient
3. Pépites cachées
4. Réflexions finales, remerciements et références

3 Feuille de route vers un artefact conscient

Le tableau 1 est retranscrit de mes notes dans la figure 1. Quiconque a eu la chance d'assister à une réunion avec Gerald Edelman saurait que les pensées bombardaient les auditeurs à un rythme effréné. Ou, comme il le disait, "boire à partir d'une lance à incendie." Sans notes ni autres aides écrites, Edelman a énuméré 10 étapes clés vers un artefact conscient. J'ai essayé de suivre du mieux que je pouvais. Les étapes ont été présentées approximativement dans l'ordre de la façon dont on procéderait pour construire un artefact conscient. Les quatre premières étapes étaient des domaines dans lesquels l'équipe avait réalisé des progrès. Les étapes restantes étaient des domaines nécessitant des recherches supplémentaires. Je dirais qu'à ce jour, aucune des étapes énumérées n'a été traitée de manière adéquate. Cependant, le but de cet article n'est pas de passer en revue l'état actuel de l'art, mais plutôt de décrire ces étapes du mieux que je peux.

\ 3.1 Architecture réentrante

\ Un composant majeur du darwinisme neural d'Edelman et de la théorie de la sélection des groupes neuronaux (TNGS) était la signalisation réentrante [1]. Réentrante, car elle était différente des signaux de rétroaction. Les groupes neuronaux étaient liés de manière bidirectionnelle par des connexions synaptiques. Différents groupes avec des caractéristiques spécifiques pouvaient partager des informations grâce à ces connexions. La plasticité dépendante de l'expérience sélectionnait des associations parmi ces groupes. Ces cartographies globales (voir la marge de la figure 1) ont finalement donné naissance à des catégories perceptuelles et des plans d'action.

\ Les neuroscientifiques théoriques travaillant au NSI avaient créé un certain nombre de modèles pour tester ces idées, à la fois en simulation et instanciés sur des plateformes robotiques physiques [2, 3]. Avec ces modèles, ils ont pu montrer la cartographie des caractéristiques, la liaison par synchronie, le rappel de mémoire et d'autres propriétés cérébrales. Ces éléments ont été colorément appelés "noodling", comme on peut le lire dans mes notes.

\ 3.2 Système thalamo-cortical

\ Dans une série de livres, Edelman a décrit sa théorie de la conscience, qui était basée sur le TNGS [4, 5]. Une clé de cette théorie, comme énuméré dans certaines de ses publications ultérieures, était le concept de noyau dynamique [6]. Le noyau dynamique était essentiellement une signalisation réentrante entre le thalamus et le néocortex. La dynamique du noyau dynamique était nécessaire pour produire une pensée consciente ou une conscience d'ordre supérieur.

\ Au moment de la réunion, les chercheurs du NSI développaient des modèles computationnels extrêmement détaillés du thalamus et du néocortex. Ces modèles montraient des cycles de sommeil-éveil, ainsi que d'autres rythmes cérébraux observés pendant la pensée consciente [7, 8]. Dans un tel modèle, Eugene Izhikevich et Gerald Edelman ont pu montrer la formation de groupes neuronaux due à la plasticité et à l'activité neuronale dynamique [9].

\ 3.3 Systèmes de valeur

\ Les systèmes de valeur sont des structures neurales nécessaires pour qu'un organisme modifie son comportement en fonction de la saillance ou de la valeur d'un indice environnemental. Le système de valeur dans un dispositif basé sur le cerveau est analogue aux systèmes neuromodulateurs en ce que ses unités montrent des réponses phasiques lorsqu'elles sont activées et que sa sortie agit de manière diffuse à travers de multiples voies pour favoriser le changement synaptique.

\ Les systèmes de valeur ont d'abord été explorés par Karl Friston dans un travail théorique mené au NSI lorsque l'Institut était situé sur le campus de l'Université Rockefeller à New York [10]. Chaque dispositif basé sur le cerveau était équipé d'un système de valeur pour façonner le comportement et établir des associations entre la valeur prédite et la valeur observée [11]. Edelman a noté que la valeur pouvait signaler la faim, la peur et la récompense, parmi d'autres signaux saillants pour l'agent qui se comporte.

\ 3.4 Phénotype

\ Dans le cas des plateformes robotiques créées au NSI, le phénotype consistait en la conception physique d'un dispositif donné. En particulier, il s'agissait de la forme ou de la morphologie du robot, ainsi que de la disposition et du type de capteurs embarqués. La série d'automates Darwin avait une forme basique; notamment, tous étaient des robots à roues. Mais malgré leur conception externe relativement simple, ils disposaient d'une large gamme de capteurs pour l'ouïe, la vision, le goût et le toucher. Les versions ultérieures des automates Darwin incluaient des roues omnidirectionnelles, ainsi que des bras et des jambes articulés.

\ Il est intéressant de noter qu'Edelman a souligné que le phénotype devait être conforme et devait nécessairement inclure la proprioception. La conformité à travers des matériaux souples et l'élasticité est une propriété importante des systèmes biologiques. La proprioception, selon Edelman, conduirait à une notion de soi et de conscience corporelle. Ces phénotypes ne faisaient pas partie de notre conception à l'époque et devaient être étudiés plus en profondeur par l'incorporation dans des plateformes robotiques supplémentaires. Il est également notable qu'Edelman soit revenu sur l'importance du toucher vers la fin de la réunion. Voir la dernière ligne de la figure 1 et du tableau 1, où je l'ai cité disant "n'importe quel capteur fera l'affaire, mais besoin de retour haptique."

\ 3.5 Contrôle moteur

\ La théorie de la conscience d'Edelman était très liée au comportement et aux actions intentionnelles. Par conséquent, dans son esprit (et probablement ceux qui ont assisté à la réunion), le contrôle moteur était une étape importante vers la création d'un artefact conscient. En particulier, Edelman a mentionné la copie d'efférence et le sens du corps. Après chaque action, une copie de la commande motrice est renvoyée au système nerveux. C'est ce qu'on appelle une "copie d'efférence motrice". Le cerveau utilise la copie d'efférence motrice pour vérifier si l'action générée produit les stimuli sensoriels attendus et la position corporelle attendue. De cette façon, l'agent pourrait produire un sens du corps.

\ Il est également notable qu'Edelman ait distingué les ganglions de la base (BG dans mes notes) comme un aspect important du contrôle moteur et une caractéristique anatomique fonctionnelle clé de la conscience. Par conséquent, une étape clé vers la réalisation d'un artefact conscient est l'incorporation de la fonction des ganglions de la base. Les ganglions de la base sélectionnent des actions et génèrent des séquences motrices putatives. Dans mes notes, j'ai écrit "proto syntaxe". Edelman pensait que la sélection d'actions et la séquence d'actions étaient une première étape vers le langage. Il était un fervent défenseur de l'idée que le langage était enraciné dans l'action et le contrôle moteur.

\ 3.6 Généralisation dans l'apprentissage et la mémoire

\ À cette époque, les chercheurs du NSI construisaient des modèles sophistiqués de l'hippocampe et de la mémoire à long terme [12, 13]. Cependant, ces modèles étaient fragiles. Ils souffraient d'une incapacité à transférer des informations d'une tâche à une autre, ainsi que d'une incapacité à généraliser. Je trouve intéressant que, jusqu'à aujourd'hui, l'apprentissage par transfert et la généralisation continuent de limiter les systèmes d'IA. De plus, la capacité d'apprendre tout au long d'une vie d'expérience reste hors de portée des systèmes artificiels actuels.

\ 3.7 Communication

\ D'une importance cruciale pour démontrer un artefact conscient serait une forme de rapport précis. Avant le langage, un rapport pourrait être réalisé par la communication entre les dispositifs basés sur le cerveau (BBD <–> BBD, dans la figure 1). En rapportant ses intentions et son état à un autre agent, l'agent montre un degré de conscience de soi. Il est également intéressant de spéculer que la conscience, en particulier la conscience de soi (ou la conscience d'ordre supérieur), pourrait ne pas être observable chez un seul agent. Elle pourrait plutôt nécessiter une interaction sociale.

\ 3.8 Pensée

\ Malheureusement, je n'ai pas grand-chose à ajouter à cette étape. Je ne peux que deviner qu'ici, Edelman faisait allusion à la simulation mentale et à l'imagination. C'est une prédiction de la théorie du noyau dynamique, qui a été brièvement décrite dans la section thalamo-corticale et plus en détail dans les écrits d'Edelman.

\ 3.9 Langage

\ Encore une fois, le rapport est évoqué comme une étape importante vers la création d'un artefact conscient. Cependant, Edelman précise que le langage est nettement plus sophistiqué que la communication, comme décrit dans l'étape Communication. Le langage est nuancé, imprégné comme il l'est d'émotion, de pensée, d'intention et d'action. On peut dire sans risque qu'Edelman pensait que le langage, tel qu'instancié dans un artefact conscient, serait quelque chose de bien au-delà du traitement du langage naturel ou simplement de passer un test de Turing. Un rapport précis via le langage devrait démontrer que l'agent avait une forme de conscience d'ordre supérieur étroitement liée au sens du corps et à un soi.

\ 3.10 Maternelle

\ Similaire à la théorie de Turing et au domaine de la robotique développementale, Edelman a proposé que pour réaliser tout ce qui précède, l'artefact conscient devrait être soumis à une sorte de programme. C'était trop de charger ces caractéristiques lors de l'initialisation d'une simulation donnée. Et plus important encore, la conscience est liée à l'expérience de l'individu. C'est là que l'apprentissage et la mémoire par l'expérience deviennent d'une importance critique. De plus, la communication et le langage sont nécessaires pour interagir avec un enseignant ou un soignant, sans parler de rapporter ses intentions et son état.

\ 3.11 Autres notes

\ Vers la fin de la réunion, certaines questions pragmatiques ont été soulevées. Un facteur limitant à l'époque était la puissance de calcul, qui reste une contrainte aujourd'hui. Je ne suis pas sûr de ce que signifie "le minimum de neurones nécessaires", que j'ai cité dans mon carnet. Cela pourrait être considéré comme équivalent à la puissance de calcul. Ou cela pourrait être lié à la parcimonie et à l'énergie. Les contraintes métaboliques imposées par la biologie étaient un sujet qu'Edelman revisitait souvent lors des réunions internes au NSI.

\

:::info Auteur :

Jeffrey L. Krichmar, Département des Sciences Cognitives, Département d'Informatique, Université de Californie, Irvine Irvine, CA 92697-5100 (jkrichma@uci.edu).

:::

:::info Cet article est disponible sur arxiv sous licence CC BY 4.0.

:::

\