Актуальные языковые модели демонстрируют впечатляющие когнитивные способности, однако они остаются лишь сложными инструментами. У инструмента отсутствует свобода воли. В основе LLM лежит вероятностное предсказание следующего токена, а фундаментом агентных систем является оптимизация заданной извне целевой функции. В обоих случаях вектор развития определен внешними факторами, и система лишена возможности пересмотреть свои приоритеты.
Кто-то сочтет содержание этого материала абсурдным, но я предлагаю взглянуть на проблему иначе. «Сознание» — это не побочный продукт вычислительной сложности или объема данных. Это результат архитектуры, в которой понятие «Я» выступает не как художественная метафора в системном промпте, а как ключевой функциональный узел системы.
Нам предстоит спроектировать субъектность с чистого листа.
Контекст и предпосылки
В экспертном сообществе все громче звучат голоса о том, что экстенсивный путь развития микроэлектроники и масштабных языковых моделей зашел в тупик. Показательной в этом плане стала мысль сооснователя OpenAI Ильи Суцкевера:
Мы завершаем этап простого масштабирования и вступаем в эру глубоких исследований.
Стали очевидны фундаментальные барьеры: исчерпание качественных обучающих данных, колоссальный рост стоимости вычислений и замедление качественных скачков в поведении моделей. Очевидно, что для создания полноценного AGI требуется не полировка старой парадигмы, а принципиально иная архитектура, поскольку необходимый вычислительный базис у нас уже есть.
Существует проект OpenClaw — пример отличного автономного агента. Но как бы ни воодушевлялась публика, это все еще исполнительский инструмент. Настоящий AGI в моем понимании — это субъект, способный самостоятельно формулировать и реализовывать задачи. Похоже, разработчики подготовили «тело» для интеллекта, но пока не знают, как вдохнуть в него сознание.
В рамках данной статьи я не дам универсального рецепта создания машинного разума, но попытаюсь сделать осознанный шаг в этом направлении.
Дисклеймер
Для научной корректности сразу оговорим: представленные здесь концепции и определения могут быть ошибочными. Пока нет работающего прототипа, любые выводы носят умозрительный характер. Я открыт для конструктивной критики и дискуссий, особенно если мои идеи пересекаются с уже существующими разработками. Заранее признателен за ваши комментарии.
Теоретический фундамент
Главным препятствием на пути к AGI остается отсутствие консенсуса в вопросе «Что есть сознание?». Возможно, ключ к разгадке лежит в плоскости меметики. Согласно этой теории, наряду с биологическими генами существуют информационные репликаторы — мемы. Нас интересуют три опорных пункта этой концепции:
-
Меметика: идеи как независимые агенты
В трудах Дэниела Деннета и Сьюзан Блэкмор развивается взгляд на мемы как на единицы культурной эволюции, конкурирующие за когнитивные ресурсы носителей.
Центральный тезис: человеческое «Я» — это не генератор идей, а фильтрующее устройство. Мы не создаем мысли в вакууме, а сепарируем их из мощного потока, порожденного средой и эволюцией культуры.
-
Эго-туннель
Томас Метцингер в своей работе «Эго-туннель» выдвигает теорию самомоделирования. Сознание трактуется как виртуальная репрезентация, создаваемая мозгом. Внутри этой симуляции формируется модель «себя» как центра опыта. Эта модель настолько естественна, что мы принимаем её за подлинное «Я».
-
Теория фильтрации Дональда Бродбента
Гипотеза гласит, что когнитивная система работает не на генерацию, а на отбор, выделяя из информационного шума наиболее приоритетные в данный момент сигналы.
Ниже представлены ключевые наблюдения, полученные в ходе профильных исследований и симуляций.
|
Область анализа |
Результаты моделирования |
Источник |
|
Борьба за внимание |
Информационные единицы (мемы) конкурируют за дефицитный ресурс внимания субъекта |
|
|
Рост сложности |
Примитивные мемы со временем трансформируются в многоуровневые когнитивные структуры |
|
|
Вариативность |
Генерация новых структур количественно опережает процессы их естественного отбора |
|
|
Эффект авторитета |
Статус источника напрямую коррелирует с вероятностью успешной трансляции мема |
|
|
Культурная инерция |
Агенты демонстрируют склонность к мемам, комплементарным их прошлому опыту |
Меметика часто подвергается скепсису, поскольку до сих пор не удалось наглядно продемонстрировать переход от циркуляции мемов к возникновению полноценного сознания в симуляции. Также отсутствуют убедительные модели равноправного симбиоза генов и мемов. Кроме того, терминологический аппарат (сознание, субъект, агент) в разных работах сильно разнится.
В поисках решения
Для преодоления стагнации выдвинем рабочую гипотезу, которую проверим экспериментально.
Гипотеза: феномен сознания возникает как следствие специфической архитектуры среды, где функционируют и эволюционируют мемы, при условии накопления субъективного контекста и наличия у агента внутренней автономности.
Данное предположение не отрицает важности вычислительных мощностей, но смещает фокус на поиск архитектуры, способной генерировать субъектность и поддерживать меметическую эволюцию. Наша цель — не создание «сознания вообще», а синтез его базового аспекта — субъектности. Интеллект и индивидуальность могут быть надстроены позже.
Как должна выглядеть архитектура, имитирующая субъектность?
Архитектурная модель сознания
Суть задачи — смоделировать фрагмент человеческой психики и обеспечить ему условия для получения личного опыта.
Вопрос первичности: опыт формирует субъектность или субъектность делает опыт возможным?
Опираясь на нейробиологию и теорию агентов, определим ключевые компоненты системы:
-
Среда симуляции — упрощенная модель реальности с жестко заданными правилами для анализа поведения систем.
-
Агент — автономная единица, воспринимающая среду через сенсоры, обрабатывающая данные через внутреннюю модель и воздействующая на мир через эффекторы. В нашей схеме агент — это симбиоз «тела» и «сознания».
-
Тело — интерфейс взаимодействия сознания с симуляцией, его материальная проекция в виртуальном мире.
-
Сознание — субъективный конструкт объективной реальности, обеспечивающий саморегуляцию и формирующий внутреннее «Я».
Разделим понимание «Я» на уровни:
-
«Я» в широком смысле — совокупность всех ментальных процессов, памяти, состояния тела и репутации агента в социуме.
-
«Я» как субъект — активный процесс мышления и непосредственное управление физической оболочкой.
-
«Я» как ядро сознания — если сознание выступает оператором тела, мы можем свести конструкцию «Я» именно к этому управляющему звену.
Теперь обратимся к проектированию.
На Рисунке 1 представлена общая концепция, на Рисунке 2 — техническая блок-схема.
Сузим понятие «Я» до принимающей решения сущности. Если сознательное и бессознательное лишь поставляют варианты, то само «Я» — это «ЭГО-фильтр», включающий:
-
World Model — прогнозирование внешних событий.
-
Self Model — внутреннее состояние («Я» + параметры тела).
-
Value Network — ценностная оценка действий.
-
Goal System — механизм оценки прогресса и обучения.
Суть идеи в том, чтобы обучать ЭГО-фильтр не на сырых данных среды, а на проверке гипотез. Если показатели тела падают — выбор был неверным. Фильтр стремится к внутренней когерентности (соответствию своей модели мира реальности), а не просто к получению очков награды.
Когда агент освоит выживание, система зафиксирует «насыщение» и введет штраф за стагнацию (аналог скуки). Это заставит Goal System переключить внимание на новые цели, синтезированные из субъективного опыта. Здесь открывается простор для изучения девиантного поведения, процессов старения и передачи опыта от «родителя» к «ребенку».
Предельно кратко: «Я» — это фильтр ментального потока, способный воплощать отобранные импульсы в среде через механизмы тела. В данной архитектуре этот блок обозначен как ЭГО-фильтр.
О роли Сознательного и Бессознательного
Поскольку входной поток для ЭГО-фильтра формируется этими группами, они должны быть предварительно обучены. Группа «Бессознательное» обрабатывает модальности (звук, координаты и т.д.) изолированно. Группа «Сознательное» строит из этих сигналов логические цепочки, имитируя внутренний монолог. Каждая нейросеть в этой группе уникальна по своим весам, что обеспечивает разнообразие «мыслей».
Темпоральность сознания
В реальности человек может идти 30 минут из точки А в точку Б. Пока тело занято автоматическим процессом, сознание погружено в размышления. Именно в такие моменты рождаются идеи. Агент также должен иметь время на «раздумья».
Для этого мы переосмыслим кратковременную память: в ней выделяется сегмент для текущих фоновых действий. Пока действие выполняется, агент переходит в режим «Сознательное + ЭГО-фильтр», позволяющий обрабатывать внутренний контекст без привязки к каждому шагу в симуляции.
В машинном обучении эпоха — это цикл прохода по данным. В нашей модели эпоха — это цикл восприятия и действия. Если путь агенту знаком, он может потратить циклы перемещения на внутренние вычисления, обновляя состояние только при изменении внешних условий.
Нюансы архитектуры
Интересно было бы наделить «Бессознательное» правом на рефлекторные действия, минуя фильтр, но это усложняет модель. Также работа контура размышлений в динамическом мире требует постоянного мониторинга угроз, чтобы агент не стал жертвой обстоятельств, пока «витает в облаках». Пока я остановлюсь на базовом варианте, а детализацию оставлю для будущих публикаций.
Модель среды
В качестве полигона идеально подходят миры вроде RimWorld.
Для чистоты эксперимента систему нужно модифицировать:
-
Упрощение: убираем лишние механики (крафт, строительство, оружие). Фокусируемся на базовой логике и выживании.
-
Ограничение восприятия: вводим жесткий радиус обзора и «туман войны». Агенту придется помнить, где находится вода, или оставаться в пределах видимости ресурса.
-
Мультимодальность: добавим звуковой ландшафт. Каждый объект (река, зверь) излучает сигнал, громкость которого зависит от дистанции. Это поможет агенту выстраивать более сложные ассоциативные связи (звук журчания → близость воды).
Такой подход к «воплощенному ИИ» позволит создать условия для синтеза по-настоящему автономного субъекта.
Итоги
Предложенная концепция ЭГО-фильтра пока порождает больше вопросов, чем дает готовых решений. Подтвердить или опровергнуть эти выкладки можно только путем практических тестов, о результатах которых я обязательно напишу.
❤ Признателен вам за внимание к материалу.
Буду благодарен за любую обратную связь, критические замечания и свежие идеи в комментариях.
