Биологические принципы, необходимые для создания сознательного ИИ

Таблица ссылок

Резюме и 1. Введение

1. Предыстория и история
2. Дорожная карта к сознательному артефакту
3. Скрытые гемы
4. Заключительные мысли, благодарности и ссылки

3 Дорожная карта к сознательному артефакту

Таблица 1 перепечатана из моих заметок на Рисунке 1. Каждый, кому посчастливилось присутствовать на встрече с Джеральдом Эдельманом, знает, что мысли обрушивались на слушателей шквальным огнем. Или, как он сам говорил, это было подобно "питью из пожарного шланга". Без заметок или других письменных подсказок Эдельман быстро перечислил 10 ключевых шагов к созданию Сознательного Артефакта. Я старался как мог успевать за ним. Шаги были представлены примерно в том порядке, в котором следовало бы приступать к созданию Сознательного Артефакта. Первые четыре шага были областями, в которых команда добилась некоторого прогресса. Остальные шаги требовали дальнейшего исследования. Я бы сказал, что на сегодняшний день ни один из перечисленных шагов не был адекватно решен. Однако цель данной статьи не в том, чтобы рассмотреть текущее состояние дел, а в том, чтобы описать эти шаги настолько хорошо, насколько я могу.

\ 3.1 Реентрантная архитектура

\ Основным компонентом Нейронного Дарвинизма Эдельмана и Теории Отбора Нейронных Групп (TNGS) была реентрантная сигнализация [1]. Реентрантная, потому что она отличалась от сигналов обратной связи. Нейронные группы были двунаправленно связаны синаптическими соединениями. Различные группы с определенными характеристиками могли обмениваться информацией через эти соединения. Пластичность, зависящая от опыта, отбирала ассоциации между этими группами. Эти глобальные отображения (см. поля Рисунка 1) в конечном итоге привели к возникновению перцептивных категорий и планов действий.

\ Теоретические нейробиологи, работавшие в NSI, создали ряд моделей для проверки этих идей как в симуляции, так и воплощенных на физических роботизированных платформах [2, 3]. С помощью этих моделей они смогли продемонстрировать отображение признаков, связывание через синхронизацию, воспоминания и другие свойства мозга. Эти процессы красочно назывались "нудлингом", как можно прочитать в моих заметках.

\ 3.2 Таламо-кортикальная система

\ В серии книг Эдельман описал свою теорию сознания, основанную на TNGS [4, 5]. Ключом к этой теории, как указано в некоторых его более поздних публикациях, была концепция Динамического Ядра [6]. Динамическое Ядро по сути представляло собой реентрантную сигнализацию между таламусом и неокортексом. Динамика Динамического Ядра была необходима для создания сознательной мысли или сознания высшего порядка.

\ Во время встречи исследователи в NSI разрабатывали чрезвычайно детальные вычислительные модели таламуса и неокортекса. Эти модели демонстрировали циклы сна и бодрствования, а также другие ритмы мозга, наблюдаемые во время сознательного мышления [7, 8]. В одной из таких моделей Евгений Ижикевич и Джеральд Эдельман смогли показать формирование нейронных групп благодаря пластичности и динамической нейронной активности [9].

\ 3.3 Системы ценностей

\ Системы ценностей - это нейронные структуры, необходимые организму для изменения своего поведения на основе значимости или ценности сигнала из окружающей среды. Система ценностей в устройстве на основе мозга аналогична нейромодуляторным системам в том, что ее единицы показывают фазовые ответы при активации, а ее выход действует диффузно по множеству путей для стимулирования синаптических изменений.

\ Системы ценностей впервые были исследованы Карлом Фристоном в теоретической работе, проведенной в NSI, когда Институт находился на территории Рокфеллеровского университета в Нью-Йорке [10]. Каждое устройство на основе мозга было оснащено системой ценностей для формирования поведения и построения ассоциаций между прогнозируемой ценностью и наблюдаемой ценностью [11]. Эдельман отметил, что ценность могла сигнализировать о голоде, страхе и вознаграждении, среди других сигналов, значимых для действующего агента.

\ 3.4 Фенотип

\ В случае роботизированных платформ, созданных в NSI, фенотип состоял из физического дизайна данного устройства. В частности, это были форма или морфология робота, а также расположение и тип бортовых датчиков. Серия автоматов Дарвина имела базовую форму; примечательно, что все они были колесными роботами. Но, несмотря на их относительно простой внешний дизайн, они имели широкий спектр датчиков для слуха, зрения, вкуса и осязания. Более поздние версии автоматов Дарвина включали всенаправленные колеса, а также шарнирные руки и ноги.

\ Интересно, что Эдельман отметил, что фенотип должен быть податливым и обязательно включать проприоцепцию. Податливость через мягкие материалы и эластичность является важным свойством биологических систем. Проприоцепция, по мнению Эдельмана, приведет к понятию себя и осознанию тела. Эти фенотипы не были частью нашего дизайна в то время и требовали дальнейшего исследования путем включения в дополнительные роботизированные платформы. Также примечательно, что Эдельман вернулся к важности осязания к концу встречи. См. последнюю строку Рисунка 1 и Таблицы 1, где я процитировал его слова "подойдет любой датчик, но нужна тактильная обратная связь".

\ 3.5 Моторный контроль

\ Теория сознания Эдельмана была тесно связана с поведением и намеренными действиями. Поэтому, по его мнению (и, предположительно, тех, кто присутствовал на встрече), моторный контроль был важным шагом к созданию Сознательного Артефакта. В частности, Эдельман упомянул эфферентную копию и чувство тела. После каждого действия копия моторной команды возвращается в нервную систему. Это называется "моторная эфферентная копия". Мозг использует моторную эфферентную копию, чтобы проверить, дает ли сгенерированное действие ожидаемые сенсорные стимулы и ожидаемое положение тела. Таким образом, агент может создать чувство тела.

\ Также примечательно, что Эдельман выделил базальные ганглии (BG в моих заметках) как важный аспект моторного контроля и ключевую функциональную анатомическую особенность сознания. Поэтому ключевым шагом к достижению сознательного артефакта является включение функции базальных ганглиев. Базальные ганглии выбирают действия и генерируют предполагаемые моторные последовательности. В своих заметках я написал "прото-синтаксис". Эдельман считал, что выбор действия и последовательность действий были первым шагом к языку. Он был сильным сторонником идеи о том, что язык коренится в действии и моторном контроле.

\ 3.6 Обобщение в обучении и памяти

\ В это время исследователи в NSI создавали сложные модели гиппокампа и долговременной памяти [12, 13]. Однако эти модели были хрупкими. Они страдали от неспособности передавать информацию от одной задачи к другой, а также от неспособности к обобщению. Я нахожу интересным, что до сегодняшнего дня трансферное обучение и обобщение продолжают ограничивать системы ИИ. Более того, способность учиться на протяжении всего жизненного опыта остается за пределами возможностей современных искусственных систем.

\ 3.7 Коммуникация

\ Критически важным для демонстрации Сознательного Артефакта была бы некая форма точного отчета. До языка отчет мог быть реализован посредством коммуникации между устройствами на основе мозга (BBD <–> BBD, на Рисунке 1). Сообщая о своих намерениях и состоянии другому агенту, агент демонстрирует степень самосознания. Также интересно предположить, что сознание, в частности самосознание (или сознание высшего порядка), может быть не наблюдаемым у одиночного агента. Скорее, оно может требовать социального взаимодействия.

\ 3.8 Мышление

\ К сожалению, мне нечего добавить к этому шагу. Я могу только предположить, что здесь Эдельман намекал на ментальную симуляцию и воображение. Это предсказание теории динамического ядра, которая была кратко описана в разделе о таламо-кортикальной системе и более подробно в работах Эдельмана.

\ 3.9 Язык

\ Снова отчет упоминается как важный шаг к созданию Сознательного Артефакта. Однако Эдельман ясно дает понять, что язык значительно сложнее, чем коммуникация, описанная в шаге Коммуникация. Язык нюансирован, пронизан эмоциями, мыслями, намерениями и действиями. Можно с уверенностью сказать, что Эдельман думал, что язык, воплощенный в Сознательном Артефакте, будет чем-то далеко за пределами обработки естественного языка или просто прохождения теста Тьюринга. Точный отчет через язык должен был бы продемонстрировать, что агент обладает формой сознания высшего порядка, тесно связанной с чувством тела и самости.

\ 3.10 Детский сад

\ Подобно теории Тьюринга и области развивающей робототехники, Эдельман предложил, что для достижения всего вышеперечисленного Сознательный Артефакт должен быть подвергнут своего рода учебной программе. Было слишком много загружать эти характеристики при инициализации данной симуляции. И, что более важно, сознание связано с индивидуальным опытом. Именно здесь обучение и память из опыта становятся критически важными. Кроме того, коммуникация и язык необходимы для взаимодействия с учителем или опекуном, не говоря уже о том, чтобы сообщать о своих намерениях и состоянии.

\ 3.11 Другие заметки

\ К концу встречи были подняты некоторые прагматические вопросы. Одним из ограничивающих факторов в то время была вычислительная мощность, которая остается ограничением и сегодня. Я не уверен, что имеется в виду под "минимально необходимыми нейронами", что я процитировал в своем блокноте. Это можно рассматривать как равносильное вычислительной мощности. Или это может быть связано с разреженностью и энергией. Метаболические ограничения, налагаемые биологией, были темой, к которой Эдельман часто возвращался во время внутренних встреч в NSI.

\

:::info Автор:

Джеффри Л. Крихмар, Кафедра когнитивных наук, Кафедра компьютерных наук