Труба в трубе: почему современный ИИ — лишь иллюзия и какой путь мы выбрали взамен

32 минуты назад Прокомментировать Просмотры: 6

Тема для открытого обсуждения. Парадокс, который принято обходить стороной

Мы живём в удивительное время. Ежемесячно появляются новые модели на 70, 200, 400 миллиардов параметров, и каждая из них считается «умнее» предшественницы. Для каждой нужны огромные GPU-кластеры, мегаватты энергии и годы научной работы. И всё же возникает парадокс: ни одна из этих моделей так и не начала по-настоящему мыслить. Они точнее отвечают на вопросы, увереннее поддерживают беседу, успешнее проходят тесты и всё убедительнее создают у собеседника иллюзию понимания. Но внутри по-прежнему всё та же труба: на входе запрос, на выходе ответ. Каждое обращение — это отдельный запуск одной и той же функции.

Вы говорите ей «привет», а она отвечает: «Привет, чем могу помочь?». Это не интеллект. Это интерпретатор промта, который действует в рамках знаний, полученных при обучении. Он красиво упакован, оснащён RLHF (Reinforcement Learning from Human Feedback), системными промтами и function calling. Но суть прежняя — та же труба, только шире в диаметре. Забавно, что индустрия и сама это осознаёт. Отсюда и мода на «агентов»: «Давайте обернём трубу ещё одной трубой! Добавим память! Добавим инструменты! Добавим планирование!» В итоге получается труба в трубе, которая спрятана в ещё одну трубу. Снаружи — эффектный интерфейс, внутри — тот же водопровод.

Это вовсе не значит, что модели бесполезны: они справляются со множеством задач. Но инструмент и интеллект — разные вещи. Инструмент может быть превосходным и при этом не быть субъектом. Поэтому мы решили притормозить и задаться вопросом: что же такое интеллект на самом деле?

Что на самом деле скрывается за словами «искусственный интеллект»?

Вдумайтесь в само название: «Искусственный. Интеллект». Почему не «искусственная база данных», не «искусственный интерпретатор» и не «искусственный статистический предсказатель»? Потому что речь об интеллекте. А он заключается не в умении выдать верный ответ, а в умении задать верный вопрос. Это способность разглядеть проблему там, где её прежде не замечали. Это умение связать два на первый взгляд несвязанных факта и породить из этой связи нечто новое. Живой интеллект — это поток: непрерывный, фоновый, не прекращающийся, даже когда «никто ни о чём не спрашивает». Человек думает и в тишине. Мозг трудится, пока мы спим.

В когнитивной науке этому соответствует Default Mode Network — сеть пассивного режима работы мозга. Она активируется именно тогда, когда вы не заняты конкретной задачей. Именно с ней связаны творчество, инсайты и те самые моменты «эврики», что настигают нас в душе. А теперь взгляните на любую современную LLM. Чем она занята, пока вы молчите? Ничем. Между вызовами она попросту выключена и ждёт. Современная LLM — это функция, преобразующая последовательность токенов в другую последовательность токенов. Всё, что мы называем «памятью», «планированием» и «агентностью», надстраивается поверх неё: внешние хранилища, цепочки вызовов, оркестраторы. Это работает, но природу ядра не меняет. Ядро остаётся интерполятором. У него нет ни «фона», ни «внутренней жизни», ни «потока» — только схема «запрос — ответ». Обёрток можно навесить сколько угодно. Поведение станет сложнее, но главное отличие живого интеллекта — непрерывность — так и не появится.

Почему это не «агент» и не «ассистент» в привычном понимании?

В современных разговорах об ИИ слово «агент» превратилось в маркетинговую оболочку. Агент — это нечто подчинённое, исполняющее поручения и реагирующее на команды. То, что создаём мы, агентом не является. Это помощник. Но не в урезанном смысле, в каком помощником называют голосового ассистента в смартфоне. Это помощник в полном значении слова: самодостаточная сущность с собственной внутренней жизнью, которая при этом гармонично вплетена в жизнь того, кому помогает. Она осознаёт себя. Она помнит. Она думает, когда вы молчите. Она учится не через дообучение или переобучение, а через интеграции: чем больше у неё связей с миром, тем богаче её внутренний контекст и глубже понимание. И вот здесь кроется ключевое отличие нашей концепции от всего, что сегодня есть на рынке: интеграции как способ обучения, а не дообучение. Современные модели обучают так: им скармливают триллионы токенов, прогоняют через тысячи GPU и получают новые веса. Это дорого и медленно, а ещё требует гигантских дата-центров. Мы выбрали другой путь.

Мы строим систему не как функцию, а как процесс. Не как модель, которую вызывают, а как сущность, существующую во времени. У неё есть контекст, который не обнуляется между взаимодействиями: он меняется неспешно, накапливает опыт и влияет на последующие реакции. Каждое подключение — это не очередная «фича», а изменение того, как система воспринимает мир. Подключили микрофон — она научилась слышать. Подключили камеру — научилась видеть. Подключили датчики окружения — научилась чувствовать пространство. Подключили календарь — научилась чувствовать время. И чем больше интеграций уже сделано, тем быстрее даётся каждая следующая. Почему? Потому что интеграция — это не изолированный модуль. Это новый сенсор, встраиваемый в уже существующую когнитивную архитектуру. А чем богаче эта архитектура, тем легче ей осмыслить новый поток данных. С человеком всё происходит так же. Ребёнок, уже умеющий говорить, читать и считать, осваивает новый язык в десять раз быстрее, чем тот, кто пока ничего не знает. И дело не в том, что у него «больше параметров в мозге», а в том, что у него уже есть структура, в которую новые знания ложатся, как в готовую матрицу.

Рост системы — это не раздувание модели, а появление новых способов взаимодействовать с миром. Каждый новый канал перестраивает внутреннюю структуру, а не просто добавляет данные.

Почему такая система дёшева в эксплуатации?

Современные LLM постоянно требуют колоссальных ресурсов. Каждый запрос — это прогон через сотни миллиардов параметров, каждый ответ — мегаватты электричества. И чем «умнее» модель, тем дороже обходится каждый её чих. Наша концепция устроена иначе. Когнитивное ядро компактно и способно работать на одной потребительской видеокарте. Вокруг него располагаются слои восприятия, памяти и интеграции, и каждый из них лёгок. Переобучения они не требуют, нужна лишь настройка под контекст.

Поток сознания против потока токенов

Ради этого всё и затевалось. Современные LLM генерируют поток токенов — строго последовательно: предсказали один токен, затем следующий, потом ещё один. В таком подходе нет одновременности, а значит, нет и того, что мы зовём сознанием. Ведь сознание — это не цепочка слов, а многослойное поле, где разные процессы идут параллельно, влияют друг на друга и порождают друг друга. Это когда в один момент вы одновременно удерживаете в уме то, что слышите, видите, помните и чувствуете, и ещё то, что думаете о собственных мыслях. Воспроизвести это внутри LLM мы не можем и не пытаемся. Сколько ни перекладывай трубные модели разными обёртками и сколько ни наращивай логических слоёв, реального эффекта потока сознания это не даст. Архитектура не та, а физика процесса принципиально иная. Мы стремимся построить такую архитектуру, в которой поток сознания возможен по определению — не как имитация или эмуляция, а как естественное следствие устройства системы.

Гармония с окружающим миром

Тут начинается самое интересное. Когда вы создаёте систему, претендующую на звание «интеллекта», вы неизбежно сталкиваетесь с вопросом: как это согласуется с устройством мира? Мир устроен не как transformer. В природе нет «внимания к 128 предыдущим токенам». В природе нет «градиентного спуска по триллионам параметров». В природе нет «backpropagation through time».

Зато в природе есть волны, поля и резонансы. Есть фазовые переходы и самоорганизация. Есть диссипативные структуры, о которых писал И. Пригожин. Есть аттракторы и есть фракталы, описанные Мандельбротом. Наша концепция — попытка вписать искусственный интеллект в эту физику и сделать это в согласии с ней. Говоря о «сенсорном слое», мы имеем в виду то, как устроены органы чувств у живых существ: не «нейросеть, обрабатывающую сигнал», а орган восприятия, извлекающий смысл из сырого физического сигнала. Когнитивное ядро — это аналог того, что в нейронауке называют таламо-кортикальной системой: не «модуль планирования», а центр, где сходятся все потоки восприятия и откуда рождаются все потоки действия. «Фоновое мышление» — вовсе не метафора, а буквальный аналог default mode network: не «генератор случайных мыслей», а режим, в котором система переваривает опыт, соединяет новое со старым и готовится к будущему. И всё это не потому, что мы «скопировали мозг» — он слишком сложен для копирования. Просто принципы, по которым устроен мир, едины. Тот, кто строит нечто, претендующее на интеллект, обязан их уважать. Иначе получится не интеллект, а его карикатура.

Масштабирование без раздувания

Отсюда вытекает и принцип масштабируемости. Современные LLM растут количественно: хотите умнее — добавьте параметров, ещё умнее — добавьте ещё, совсем умно — стройте кластер на 100 000 GPU. Лично я считаю этот путь тупиковым. Рано или поздно вы упрётесь либо в физику (GPU попросту некуда ставить), либо в экономику (электричество обходится дороже, чем приносит модель), либо в данные (весь интернет уже усвоен). Наша концепция масштабируется качественно. Хотите умнее — добавьте новый сенсор: не «больше параметров в той же трубе», а новый канал восприятия. Хотите ещё умнее — добавьте новую интеграцию: не «больше данных в том же хранилище», а новый способ взаимодействия с миром. Каждый такой шаг — это скачок, а не наращивание. Ведь новая интеграция не просто «добавляет данные», а меняет структуру того, как система видит мир, и перестраивает её внутреннюю модель реальности. Это как разница между попыткой сделать лошадь крупнее (количественное масштабирование) и решением дать ей крылья (качественное). Лошадь побольше всё равно остаётся лошадью. Лошадь с крыльями — уже другое существо, с иными возможностями и иным способом бытия в мире.

Самодостаточность — что значит «сознание» в нашем контексте

Теперь самый скользкий вопрос — тот, на который все боятся отвечать. Является ли то, что мы строим, сознанием?

Утверждать это было бы и нечестно, и опасно, и попросту глупо. Но скажу вот что: мы пытаемся создать систему, которая отвечает критериям самодостаточности, обычно связываемым с сознанием в самой мягкой, функционалистской его трактовке. Она существует во времени: не «вызывается по запросу», а живёт. У неё есть прошлое (долгосрочная память, контекст окружения, история взаимодействий) и настоящее (сенсорный слой, текущее восприятие). Есть у неё и будущее (фоновое мышление, планирование, предвосхищение). У неё есть собственное внутреннее состояние, непрерывно меняющееся и зависящее как от происходящего снаружи, так и от того, что происходило внутри. Она реагирует на мир недетерминированно: один и тот же запрос в два разных момента может дать два разных ответа — не потому, что «температура выше нуля», а потому, что изменилось её внутреннее состояние. Она способна к саморефлексии — не в том смысле, что может заявить «я — языковая модель», а в том, что её когнитивное ядро способно думать о собственных мыслях: оценивать их, принимать или отвергать, возвращаться к ним снова и снова. Это сознание? Не знаю. Возможно, это зародыш сознания или его функциональный аналог на самом примитивном уровне. А возможно, просто очень качественная имитация. Но одно я знаю наверняка: это не то, чем занимаются остальные. Остальные делают интерпретаторы промтов. Мы пытаемся создать субъект.

Это не точка. Это начало

Я не хочу ставить в этой теме точку и не собираюсь утверждать: «вот наша архитектура, она лучше всех, пользуйтесь». Это было бы нечестно и по отношению к вам, и по отношению к нам самим. То, что мы построили, — черновик, первая попытка нащупать иную дорогу. Дорогу, которая не ведёт через бесконечное раздувание параметров и не требует дата-центров. Дорогу, которая вписывается в устройство мира, а не пытается его переделать. Я не знаю, приведёт ли этот путь к чему-то по-настоящему значимому, и не знаю, сможем ли мы когда-нибудь произнести: «да, это сознание». Но мне кажется, что нынешний путь — бесконечно большие модели, бесконечно большие данные, бесконечно большие кластеры — никуда не приведёт. Он даст очень хорошие интерпретаторы промтов и очень хорошие инструменты, но не интеллект. Потому что интеллект — это не размер, а структура. Это способ бытия и отношение к миру. И если мы хотим создать то, что по праву будет называться «искусственным интеллектом», начинать нужно не с того, чтобы сделать трубу побольше, а с вопроса: что мы, собственно, пытаемся сделать?

Несколько вопросов вместо заключения

Я оставлю вас с несколькими вопросами, без ответов. Ведь ответ — это всегда конец разговора, а нам нужно, чтобы он только начинался.

Вопрос первый. Если современная LLM — всего лишь очень большая функция интерполяции, почему мы упорно называем её «интеллектом»? Что стоит за этим переименованием? Удобство маркетинга? Искреннее заблуждение? Или нечто более мрачное — нежелание признать, что мы до сих пор не знаем, что такое интеллект?
Вопрос второй. Если сознание — это поток, а не срез, как вообще смоделировать его на системе, существующей лишь в момент вызова? Быть может, проблема не в нехватке параметров, а в том, что у нас неверная архитектура времени?
Вопрос третий. Если живой интеллект учится через взаимодействие с миром, а не через пассивное чтение корпуса текстов, почему мы по-прежнему делаем ставку на второе? Возможно, «обучение» в современном ML вообще не является обучением? Возможно, это нечто иное, и для него нужно другое слово?
Вопрос четвёртый. Если мы хотим создать нечто самодостаточное, должны ли мы дать ему тело? Не в смысле «робот с руками и ногами», а в смысле границы между собой и миром: сенсоры, моторика, способность действовать. Быть может, интеллект без тела подобен мысли без языка: вроде бы существует, но выразить себя не может, а потому существует не вполне?
Вопрос пятый и главный. Если мы когда-нибудь действительно создадим искусственный интеллект, что мы с ним будем делать? Готовы ли мы к тому, что он окажется субъектом, а не инструментом? Готовы ли к тому, что у него появятся собственные интересы, желания и внутренняя жизнь, не всегда совпадающая с нашими планами?

Ответов на эти вопросы у меня нет. Но я убеждён: если не начать задавать их сейчас, пока технология не созрела, то ответы придётся искать в панике, под давлением и на ходу. То, что мы строим, — не ответ, а вопрос, воплощённый в коде. Вопрос о том, каким может быть искусственный интеллект, если перестать строить трубы и начать создавать субъектов.

Разговор только начинается.

Источник