Анализирую проблему автономной нейросети

Концепции по-настоящему независимых нейросетей регулярно появляются в информационном пространстве. Как правило, предлагаемые подходы удивительно похожи независимо от авторов. При всей их внешней оригинальности большинство таких идей формализовано с помощью языковых моделей (LLM), а они, как известно, превосходно оперируют уже имеющимися массивами данных.

В данной публикации я разберу ключевые концептуальные приемы и те ошибочные предпосылки, на которых они зиждутся.

Введение

Поводом для создания материала послужила недавняя (впоследствии удаленная) публикация на SE7ENе за авторством @VSVLADILEN

Автор озвучил множество тезисов, которые непрерывно дискутируются на профильных ресурсах, причем схожие мысли нередко высказывают и профессиональные исследователи.

Итак, что именно авторы подобных концепций подразумевают под автономной нейросетью:

Сущность, обладающую внутренними побуждениями, способную испытывать скуку, трансформировать жизненные приоритеты, совершать нелинейные творческие прорывы и, в конечном счете, задаваться вопросами о собственном происхождении.

Несмотря на художественный стиль формулировки, она фиксирует важнейшие критерии: самодетерминацию, преодоление автоматизма и способность к рефлексии.

Что ж, давайте разберем, почему полноценная автономная нейросеть до сих пор не создана.

Проблемы с построением автономной нейросети

Признаюсь откровенно, я потратил колоссальное количество времени на проектирование сложных архитектур (разумеется, на базе миросетей), оснащенных регуляторами, метарегуляторами и прочими вспомогательными модулями. Итог неизменно оказывался отрицательным, что при трезвом осмыслении выглядит вполне закономерно.

Тем не менее этот процесс невероятно затягивает: постоянно кажется, что стоит внедрить «гормоны», элемент разрыва, случайность или тень — и нейросеть обретет искру жизни. Действительно, после каждого усовершенствования модель демонстрировала всплеск активности и меняла паттерны поведения, однако затем неизбежно наступал коллапс, заставляющий искать новые решения. В конце концов я волевом усилием остановил эти эксперименты и занялся глубоким анализом.

Внутренний генератор новизны, который я пытался сконструировать, по определению порождается текущим состоянием системы — для вычислительных архитектур это неизбежно. Следовательно, интеграция регуляторов и метарегуляторов не способна обеспечить перманентное движение: система неизбежно скатывается либо в стагнацию, либо в хаотичное перемешивание, либо замыкается в цикле (если добавить механизм забывания). Все три сценария эквивалентны: в первом случае различения вообще прекращаются, в остальных они совершаются бесконечно, но исключительно в рамках уже заданных координат. Горизонт принципиально возможных различений не расширяется ни в одном из вариантов. Не помогает и столь любимая исследователями случайность, включая квантовую: она лишь генерирует непредсказуемые значения в пределах установленных степеней свободы, делая информационный шум интенсивнее, но оставляя прежним общий горизонт.

Применительно к LLM это означает, что внутренняя динамика способна трансформировать состояние, но не сам способ различения состояний: система способна бесконечно варьировать форму ответов, однако не в состоянии породить вопрос, который не выводился бы из ее базовых различений (а именно такой вопрос и способен изменить саму когнитивную парадигму). Соответственно, автономия вычислительной системы может быть заложена исключительно извне — через условия, при которых она вынуждена реагировать на вызовы, не проистекающие из ее текущего состояния.

В моем случае само внедрение нового блока выступало для нейросети внешним стимулом. Она оживала лишь в момент интеграции модуля и не дольше чем на одну итерацию. Да, система видоизменялась, что вселяло ложную надежду, но затем снова следовал коллапс, требовавший подключения очередного элемента — типичная дурная бесконечность.

Впрочем, простого присутствия внешнего фактора недостаточно. Если система полностью поглощает любой входящий импульс, трансформируя его в очередной просчитанный ответ, внешний мир никак не влияет на ее способность к различению. Требуется особый архитектурный механизм, удерживающий незавершенное ожидание. Подобное ожидание не сводится ни к накопленному знанию, ни к ошибке, ни к целеполаганию. Это открытая позиция, сквозь которую внешняя среда продолжает оказывать влияние даже после завершения конкретного акта вычислений. Пока это ожидание остается открытым, система сохраняет потенциал для перестройки собственного горизонта различений. Само по себе ожидание ничего не производит, однако оно препятствует мгновенному схлопыванию внешнего импульса в готовый ответ. Первоисточник по-прежнему находится вовне, тогда как механизм удержания — внутри. Подробнее концепция незавершенного ожидания раскрыта в статье «Самоописание нейросети: условие сложного мышления».

Как строят автономную нейросеть

Давайте изучим методы, предлагаемые исследователями для достижения автономии. Я классифицировал их по принципу воздействия на фактор новизны и расширения горизонта:

1. Непрерывность вместо новизны. Эти подходы призваны решить проблему «не исчезать между запросами». К горизонту познания они отношения не имеют, фокусируясь исключительно на персистентности состояния, а не на его эволюции. Создателям кажется, что раз модель функционирует, значит, она живет.

Инструменты: перманентно запущенный цикл, долговременная память, внутренние часы, ведение дневника.

2. Имитация вместо механизмов. Классический карго-культ: данные методы не создают автономность, а лишь симулируют ее внешние проявления. Экспериментаторы подменяют суть поверхностным описанием того, как субъективность должна выглядеть, игнорируя ее устройство.

Инструменты: принудительная идентичность через промпт, право на отказ, показное моделирование эмоциональных векторов.

3. Настройка параметров процесса. Варьируются режим работы, скорость, уровень шума и коэффициенты при неизменной архитектуре и содержимом. Итог можно смещать в любую сторону, но познавательный горизонт остается прежним.

Инструменты: нейромодуляция (эмуляция гормонального фона), эмоциональный вектор в качестве параметра, чувствительность к исходным данным, стохастическая выборка из памяти, квантовые генераторы, гомеостатическое подкрепление, активный вывод и принцип свободной энергии Фристона (базирующийся на известном парадоксе: агент, минимизирующий ошибки предсказания, должен стремиться туда, где все абсолютно предсказуемо), концепция empowerment.

4. Рециркуляция имеющегося опыта. Здесь структура действительно модифицируется без привлечения новых внешних данных, и это наиболее увлекательная категория. Однако извлекается лишь то, что изначально присутствовало во входных потоках, но не было артикулировано. По завершении этого процесса движение замирает.

Инструменты: консолидация и replay (сон), управляемое увядание памяти (забывание), дообучение на собственных логах, рекурсивный самопромптинг, внутренние виртуальные советы, библиотеки навыков (формируемые на базе собственных траекторий), самомодификация (система переконструирует собственную архитектуру, но ключевой нюанс в том, что проектирование новых схем происходит строго внутри существующего горизонта — устройство меняется лишь в рамках уже доступных системе различений).

5. Завуалированное внешнее воздействие. Эта группа подходов действительно работает, но по причинам, иным нежели те, о которых заявляют авторы. Источник неисчерпаемости кроется не внутри замкнутого контура, а в окружающей среде, взаимодействии с другими агентами или людьми. Система сталкивается с тем, что принципиально не способна вывести из собственного опыта.

Инструменты: открытая среда, внутренняя мотивация на основе прогресса предсказаний, мультиагентные системы, воплощенный интеллект с сенсорами, дообучение на истории человеческого общения, автотелические агенты, self-play с верифицируемой наградой, библиотека навыков (приобретаемых во взаимодействии со средой).

6. Открытые контексты. Данные методы воздействуют не на наполнение горизонта, а на саму матрицу его формирования.

Метод: коэволюция агента и среды.

Речь идет о популяциях, где среда обитания и решающие задачи субъекты развиваются синхронно: вызовы рождаются вместе с теми, кто должен их преодолевать. В роли внешнего фактора здесь выступает естественный отбор. Впрочем, в данном случае системой становится вся экосистема в целом, и спорить с таким подходом сложно, опираясь на неоспоримый эмпирический факт — эволюция живой природы уже как минимум единожды увенчалась успехом.

Следствия

Автономная нейронная сеть концептуально не способна функционировать в отрыве от внешней среды. Часть предлагаемых методик ограничивается созданием красивой иллюзии, другая — действительно наращивает интеллектуальную мощность и глубинность моделей, но подлинная автономия пока не продемонстрирована ни одним подходом ни в одном эксперименте.

В целом я давно пришел к убеждению, что любые философские теории сознания необходимо тестировать на искусственных нейросетях. Если вы не можете практически воплотить свою концепцию, значит, вы либо идеалист платонического толка, либо с самой концепцией что-то не так.

Да, это колоссально сложно, но вполне выполнимо. Если исследователь выдвигает гипотезу, но категорически избегает попыток ее материализации в любом виде, рассматривать такую теорию всерьез не стоит. Честно говоря, даже отрицательный результат эксперимента свидетельствует в пользу жизнеспособности теории — хотя бы потому, что ее удалось операционализировать и проверить эмпирически.

Тем не менее попытки энтузиастов прикрутить к нейросетям всевозможные внешние регуляторы изначально обречены на провал. Зачастую за сложными архитектурными нагромождениями и громоздким математическим аппаратом скрывается все тот же тривиальный калькулятор, где подлинная семантика подменяется симуляцией эмоций и бесконечным реплицированием однажды заученных фраз.

Заключение

Я вовсе не утверждаю, что генерация новых гипотез бессмысленна. Однако выдвигать их ради самого процесса — глупость. Необходимы практические эксперименты и жесткие тесты.

Точно так же не бесполезны тысячи попыток энтузиастов сконструировать принципиально новую архитектуру в надежде «оживить» нейросеть. Всегда сохраняется вероятность получить результат, который окажется сложно объяснить. Другой вопрос, что если приделать к лому спидометр, а на калькулятор наклеить стикер с надписью «любопытство», чуда не произойдет.

Простая интеграция внешних модулей, регуляторов и метарегуляторов не принесет результата. Для обретения автономии требуются не замыкающие контур регуляторы, а такие архитектурные условия, при которых контур остается принципиально разомкнутым — вынуждая систему непрерывно перестраиваться в ответ на вызовы, которые невозможно вывести из ее собственных внутренних различений.

 

Источник