Новые мыслители эпохи ИИ: как Фристон и Ванчурин потеснили академическую философию

Пока индустрия больших языковых моделей делает ставку на экстенсивное масштабирование вычислительных мощностей и датасетов, закономерно назревает вопрос: каков следующий рубеж? Энергоресурсы, объем доступных знаний и финансовые вливания конечны. Что произойдет, когда эти лимиты будут исчерпаны?

Технологические лидеры уповают на создание AGI, рассчитывая, что универсальный интеллект самозародится из тераватт энергии и петабайт данных, решив любые задачи. Однако подобные ожидания вызывают обоснованный скепсис.

Фундаментальная сложность заключается в отсутствии предпосылок для возникновения AGI в рамках действующей вычислительной парадигмы. Система не способна качественно расширить собственный горизонт сугубо внутренними средствами — необходим внешний импульс, невыводимый из ее текущего состояния. Именно поэтому исследователи все чаще обращаются к философскому инструментарию в поисках новых ориентиров.

В этой статье мы разберем, способна ли философия указать верный вектор и кому предстоит решать эту задачу, если академическая мысль окажется бессильна.

Профессиональная философия

Я с глубоким уважением отношусь к философии и ее адептам. Тем не менее участие специалистов по философии сознания в прикладной разработке ИИ сегодня фактически сведено к этико-правовым дискуссиям. На практике это выливается в абстрактные рассуждения о том, как сверхразум распорядится судьбой человечества. Почему же столь глубокие теоретики дистанцируются от ключевых проблем архитектуры интеллекта?

Недавно мне довелось поучаствовать в содержательной дискуссии в философском сообществе Матвея Сысоева (МГУ) с кандидатом философских наук, преподавателем СПбГУ Родионом Савиновым.

Ключевой вопрос, который я поднял, касался точек соприкосновения философских концепций с эмпирической реальностью — материальным миром аппаратного обеспечения, алгоритмов и вычислительных систем.

Итог дискуссии выразился в следующем комментарии:

И наивный эмпиризм, и платонизм имели пересечение с реальностью: реальностью системного мышления и объяснения его работы. Когда оказалось, что эти модели не удовлетворяют тому, как мышление работает, от них вынуждены были отказаться. На фоне этих изменений, конечно, шли и политические перевороты, и научная революция. Поэтому слово реальность в данном случае не означает нечто, что можно потрогать или взять в рот.

С другой стороны, могли ли вы это назвать «внутренним основанием»? Наверное, да, учитывая произвольность вашего словоупотребления…

Что касается сегодняшнего положения дел, то нынче, как я говорил, мы имеем целый ряд моделей (к примеру, эмпиризм, рационализм и критицизм), которые в различных версиях конкурируют друг с другом и составляют своего рода «жесткое ядро» той или иной научно-исследовательской программы. Учитывая их устойчивость, вероятно, должна поменяться радикально сама наша способность познавать, чтобы какие-то из этих моделей оказались нерелевантны. Отдельных открытий или смены одной физической или биологической теории другой тут будет явно недостаточно.

Перед нами исчерпывающе сформулированная классическая академическая позиция. В рамках этой парадигмы реальность понимается не как физическая данность, а как «реальность системного мышления», валидность которой философы верифицируют исключительно собственными теоретическими методами.

Таким образом, философия существует автономно от инженерной практики, оказывая на нее лишь опосредованное и крайне медленное воздействие. Ни технологические сдвиги, ни революции в естественных науках не рассматриваются академическим сообществом как достаточный повод для пересмотра базовых философских моделей.

Подобный изоляционизм объясняет, почему академическая среда не способна помочь в создании AGI. С точки зрения инженерного подхода концепция, не влияющая на материальный мир, фактически лишена онтологического статуса.

При этом острая нехватка теоретической базы для формулирования проверяемых гипотез в программно-аппаратной среде очевидна всем практикующим исследователям.

На стыке этих противоречий сформировалось движение специалистов, стремящихся понять принципы работы сознания и транслировать их в архитектуру нейросетей, исследуя вычислительные основы бытия. Поскольку классическая философия замкнута в своих границах, этих исследователей точнее всего назвать инженерами-мыслителями. Они вынуждены философствовать, но делают это сугубо в практическом ключе.

Их труды публикуются на профильных ресурсах и в репозиториях arXiv. Они могут ошибаться, однако обладают ключевым преимуществом перед чистыми теоретиками: они опираются на эксперимент и верификацию реальностью. Их метод строится не на апелляции к авторитету, а на строгой математике и программном коде.

Ниже мы рассмотрим концепции двух исследователей этого направления: нейробиолога Карла Фристона и физика Виталия Ванчурина.

Карл Фристон

Карл Фристон — один из наиболее цитируемых нейробиологов современности, чьи идеи оказали фундаментальное влияние не только на науку о мозге, но и на сообщество ML-исследователей и философов сознания. Его ключевой вклад — принцип свободной энергии, изначально разработанный для описания биологических нейросистем, но быстро ставший базой для передовых моделей машинного обучения.

Согласно принципу свободной энергии, мозг стремится минимизировать удивление (surprise) или энтропию восприятия. Для этого он строит генеративные модели среды и непрерывно сопоставляет свои прогнозы с входящим сенсорным потоком, корректируя модель ради максимизации точности.

В обобщенном виде любая самоорганизующаяся система, ориентированная на выживание, сопротивляется энтропийному распаду, удерживая себя в границах гомеостаза — подобно тому, как температура человеческого тела поддерживается в строго заданном интервале.

Гомеостаз означает, что система подавляющую часть времени находится в узком диапазоне вероятных состояний. График этих состояний имеет выраженный пик: гомеостатические конфигурации воспринимаются системой как ожидаемые, а все отклонения — как неожиданные. Количественная мера маловероятности текущего состояния и определяется как «удивление».

Систематический уход в область маловероятных состояний ведет к коллапсу системы. Фристон фактически описал гомеостатические процессы языком вариационного исчисления: удержание стабильности обеспечивается подавлением неожиданности, то есть избеганием сценариев, критически отклоняющихся от внутренней модели.

Поскольку вычислить точное значение удивления в открытом мире невозможно, система минимизирует его верхнюю математическую оценку — вариационную свободную энергию. Уменьшение этой величины эквивалентно снижению неожиданности.

Устранить расхождение между прогнозом и сенсорным сигналом можно двумя путями: через перцептивное обновление (адаптация внутренней модели под факты среды) или через действие (преобразование среды до совпадения с предсказанием). Если агент ожидает ощутить предмет в руке, он совершает физический захват, подтверждая гипотезу. Этот второй механизм получил название «активный вывод» (active inference).

Благодаря этой модели такие разрозненные процессы, как восприятие, обучение, принятие решений и целенаправленное поведение, объединяются в рамках единой математической задачи — минимизации свободной энергии.

Слепые пятна модели Фристона

Следует учесть, что выбор действия в концепции активного вывода опирается на предсказание, замыкая прогноз на собственный вход системы. Возникает классическая диагональная схема Тьюринга: если агент строит предикцию о том, что возьмет объект, он волен отменить действие, опровергая собственный расчет. Включение предсказания в состав предсказываемого процесса делает абсолютно полную самопредикцию принципиально невозможной на структурном уровне.

Таким образом, у любого агента существует неустранимый нижний порог ошибки самомоделирования, не зависящий от объема параметров. Этот фундаментальный разрыв порожден тем, что система вынуждена моделировать себя в акте собственного предсказания.

Распространенное возражение к теории Фристона — так называемый «парадокс темной комнаты»: агент, прямолинейно минимизирующий неожиданность, должен стремиться в абсолютно статичное и предсказуемое пространство.

Сторонники концепции парируют, что алгоритм оптимизирует не мгновенную, а ожидаемую свободную энергию. В формуле возникает эпистемический член, мотивирующий исследовательской активностью и естественным образом выводящийся при планировании на длинных временных горизонтах. Однако со стороны это выглядит искусственной надстройкой функции «любопытства».

В действительности парадокс темной комнаты разрешается структурно: даже в абсолютной изоляции агент остается источником неудаляемой внутренней ошибки самомоделирования. Система может изолироваться от внешней среды, но не способна исключить энтропию собственной петли обратной связи.

При этом важно понимать, что эпистемическая компонента не создает вектор автономии. В архитектуре Фристона целеполагание строго детерминировано априорными предпочтениями (prior preferences). Агент оптимизирует ожидаемую полезность в рамках текущего пространства состояний, но не способен самостоятельно переопределить базис собственных предпочтений.

Алгоритм минимизации свободной энергии сам по себе бессодержателен: направленность процессу задают лишь экзогенно внесенные априорные ценности. Именно они служат внешней точкой отсчета для всей модели.

Это требует пересмотра интерпретации модели: субъектность и целеполагание не рождаются из самого процесса минимизации свободной энергии; этот математический аппарат лишь описывает динамику агента с уже предустановленной системой целей. Происхождение же самих базовых преференций теория оставляет за скобками.

Интегрировать механизм генерации целей внутрь подобной архитектуры невозможно. Минимизация имеет смысл только относительно априорного распределения. Если же функция оптимизации начнет сама конструировать собственные приоры, система сорвется в тривиальное самозамыкание.

Откуда же берутся априорные предпочтения? В базовых моделях они калибруются в ходе функционирования (в русле идей Гельмгольца, Рао, Балларда, акцептора действия Анохина или модели потребного будущего Бернштейна).

Эволюционный отбор отсекает нежизнеспособные конфигурации через отбраковку агентов средой, что формально закрывает вопрос о базовых физиологических приоритетах.

Однако для объяснения когнитивной сферы человека аппарата Фристона недостаточно.

Ключевой массив человеческих предпочтений не сводится ни к биологической эволюции, ни к изолированному опыту. Он транслируется социумом. Ребенок перенимает понятийную сетку, значения и языковые структуры не через оптимизацию сенсорного шума, а через усвоение культурных образцов без предварительной проверки.

Здесь уместнее опереться на культурно-историческую теорию Выготского: различение изначально формируется в интерпсихическом пространстве социума и лишь затем интериоризируется субъектом. Ребенок не изобретает понятийный аппарат с нуля через минимизацию энтропии. Сама система фильтрации данных — чему доверять и что считать нормой — задается социальной средой.

Фристон моделирует агента через минимизацию свободной энергии, но вынужден внешним образом постулировать приоры, фиксирующие понятие нормы для системы.

При этом существует критическая разница между постулатом-ограничением и постулатом-содержанием. Ограничение лишь задает граничные условия (подобно пределу скорости света), тогда как целевой постулат выступает директивным актом, предписывающим системе конкретный финал. Если вектор целеполагания привнесен извне, система лишается подлинной агентности: она стремится к исходам, генезис которых ей неподконтролен.

Виталий Ванчурин

Физик-теоретик Виталий Ванчурин разрабатывает масштабную концепцию «Мир как нейронная сеть». Мне довелось присутствовать на его докладе и обсудить ключевые аспекты модели напрямую. Представленный ниже анализ основан как на публикациях автора, так и на его комментариях.

Подход Ванчурина можно охарактеризовать как предельное расширение принципов оптимизации на фундаментальную физику: динамика Вселенной интерпретируется как процесс обучения нейросети. Автор занимает строгую научную позицию, формулируя тезис осторожно: не «Вселенная есть нейросеть», а «Вселенная может быть эффективно описана через аппарат обучающихся систем». Концептуально работа опирается на инфофизику Уилера, энтропийную гравитацию Якобсона и Верлинде, стохастическую механику Нельсона и информационную геометрию Амари, исключая при этом квантовые постулаты, метрику пространства-времени и гравитацию из числа первичных сущностей.

Архитектура модели Ванчурина управляется двумя фундаментальными параметрами:

1. Глубина оптимизационного шага в целевой функции: одношаговая схема порождает классический градиентный спуск, двухшаговая формирует эффект инерции и движение по геодезическим, выступая аналогом системной памяти.

2. Количество скрытых степеней свободы, недоступных агенту и заменяемых эффективными макропеременными. Подобно тому как ненаблюдаемое число молекул описывается через макропараметр давления, ограниченность агента порождает эффективные физические взаимодействия. Каждое такое огрубление индуцирует в уравнениях специфические члены: калибровочные поля, термодинамические величины или квантовые фазы.

Из комбинации этих параметров аналитически выводятся базовые феномены физической реальности.

В своей работе автор демонстрирует происхождение временной шкалы, метрики, инерции, термодинамики, квантовых эффектов, электромагнетизма, спинорных полей и гравитационного взаимодействия.

Рассмотрим, однако, исходные допущения этой конструкции.

Постулируемые основания модели

Глобальная функция потерь вводится на старте как исходная данность, а механизм ее возникновения не раскрывается. Автор признает необходимость определенных постулатов, без которых невозможно построение физической теории.

Аналогично обстоит дело с гиперпараметрами: шаг и темп обучения формируют понятие массы, а стохастический шум градиента определяет постоянную Планка. В машинном обучении эти параметры калибруются разработчиком; вопрос о том, что фиксирует и обеспечивает прецизионную стабильность констант во вселенском масштабе, остается открытым. Кроме того, модель опирается на допущение о квазиравновесии быстрых переменных и четырехмерности пространства (выводимой из спинорной структуры). Уравнения поля Эйнштейна и Максвелла отбираются по стандартным критериям локальности и калибровочной инвариантности.

Все эти рамки исследователь оговаривает открыто, однако статус целевой функции в его модели смещается из категории гипотез в категорию аксиоматических условий постановки задачи.

Отказ от самореференции и его следствия

Агент в структуре Ванчурина отделен от оптимизируемого вычислительного массива и не включает самого себя в контур моделирования. На прямой вопрос автор подтвердил отсутствие механизма самооптимизации ввиду наличия фиксированной границы.

Теорема Геделя о неполноте и проблема останова Тьюринга возникают там, где вычислительная система строит репрезентацию собственного поведения, влияющую на ее функционирование. Исключая контур самореференции, Ванчурин выводит свою модель из-под ограничений Геделя и Тьюринга. Это снимает ряд теоретических парадоксов, но возвращает теорию в плоскость строгого детерминизма. Без автореферентной петли неопределенность сводится лишь к дефициту вычислительных ресурсов агента, а не к фундаментальному свойству реальности. Как следствие, квантовая неопределенность трактуется автором как неполнота описания, а процесс обучения предполагается потенциально бесконечным без достаточных онтологических оснований.

Акт измерения объявляется уточнением огрубленного описания, однако локализация самого оператора редукции остается неопределенной: если он включен в систему, возвращается самореференция; если нет — процедура выносится за рамки физики.

Обучение без построения метамодели тождественно локальной оптимизации параметров. При неизменной функции потерь система неминуемо стремится к финальному экстремуму, где всякое движение угасает. Включение механизма неудаляемой ошибки самомоделирования могло бы предотвратить этот коллапс, однако модель исключает этот путь.

Тем не менее агенты представлены обучаемыми переменными внутри неизменяемых ячеек решетки. Это означает, что состояние агента все же погружено в оптимизируемый ландшафт, возвращая проблему включенного наблюдателя.

Итог

На текущем этапе концепция самообучающейся Вселенной предлагает новую интерпретацию существующей физической картины, но пока не генерирует новых предсказаний, меняющих наше взаимодействие с реальностью. Базовые константы и уравнения фактически воспроизводят известные законы за счет предварительной калибровки гиперпараметров.

Гипотеза о связи космологической постоянной с масштабами интегрирования перспективна, но пока не прошла проверку практической верификацией: физический статус наблюдаемого мира остается неизменным вне зависимости от истинности модели.

Концепции Фристона и Ванчурина объединяет базовый постулат: динамика системы обеспечивается минимизацией рассогласования между ожиданием и текущим состоянием. Однако критерии этого ожидания — априорные распределения у Фристона и функция потерь у Ванчурина — неизменно задаются как внешние условия.

Ни одна из теорий не дает ответа на вопрос о механизме эндогенного зарождения цели: Фристон делегирует его филогенезу, а Ванчурин постулирует функционал a priori.

Заключение

Оба рассмотренных подхода фундаментальны и глубоки, а их ограничения служат прямым продолжением их методологических достоинств. Главная проблема остается нерешенной: алгоритмическая система не способна вывести собственное целеполагание изнутри вычислений. Это открывает пространство для междисциплинарного синтеза с философией, но требует перехода от абстрактных императивов к строгим операциональным механизмам.

Пока же доминирует позиция, озвученная Родионом Савиновым:

Однако, повторю, что философия не дублирует естественные науки, она занимается изучением интеллектуальных предпосылок в том числе и научного мышления.

В этих условиях инженерному сообществу приходится решать фундаментальные вопросы собственными силами. Диалог с академическими философами нередко затруднен их нежеланием верифицировать концепции практикой, а также цеховым скепсисом по отношению к исследователям без профильного бэкграунда.

Философский аппарат критически необходим индустрии ИИ именно на границе инженерных методов. Однако это требует отказа от взгляда на философию как на замкнутую систему рассуждений, свободную от процедур экспериментальной проверки.

Если философская теория претендует на экспликацию природы сознания, субъектности и генезиса целей, к ней применим строгий инженерный критерий: к какому измеримому изменению в архитектуре искусственной системы ведет данная идея?

Если ответ операционализируем — гипотеза может быть реализована в алгоритмах, протестирована и скорректирована. Если же концепция принципиально избегает верификации, она остается умозрительной конструкцией.

Именно здесь лежит основа для философии нового типа: дисциплины, которая не диктует инженерам готовые догмы, а готова трансформировать собственные основания в диалоге с экспериментальной реальностью.

 

Источник