По-настоящему великие произведения искусства тем и отличаются от проходных, что спустя десятилетия в них обнаруживаются глубокие смыслы, которые сами создатели едва ли вкладывали намеренно. В 2000 году триллер «Мементо» (в ином переводе — «Помни») принес тогда еще малоизвестному режиссеру Кристоферу Нолану мировую славу. Картина удостоилась двух номинаций на «Оскар» и прочно закрепилась в топе лучших лент по версии IMDb. В сегодняшнюю эпоху расцвета нейросетей этот фильм заиграл новыми красками: история человека, утратившего память, поразительно точно описывает принципы функционирования современных ИИ-агентов, хотя авторы сценария вряд ли могли предвидеть появление подобных технологий.
О чем эта история?
То, что я не помню событий, не лишает мои действия осмысленности.
Бывший страховой следователь Леонард Шелби одержим поиском убийцы своей супруги. Ситуация осложняется тем, что после тяжелой черепно-мозговой травмы герой страдает антероградной амнезией: он безупречно помнит все, что было до происшествия, но утратил способность формировать новые устойчивые воспоминания. Каждые 10–15 минут его сознание как бы перезагружается, и ему приходится с нуля реконструировать текущую ситуацию: кто он, где находится и какая задача перед ним стоит.
Чтобы не сбиться с курса, Леонард создал собственную систему внешнего хранения данных. Ключевые факты он увековечивает в виде татуировок на теле — например, «Джон Г. изнасиловал и убил мою жену». Текущие задачи он фиксирует на клочках бумаги: герой доверяет лишь своему почерку. А для идентификации людей он использует моментальные снимки Polaroid, снабжая их подписями с именами и важными примечаниями.
Структура фильма уникальна: основные цветные фрагменты развиваются в обратном хронологическом порядке, что позволяет зрителю буквально вжиться в шкуру главного героя, лишенного краткосрочной памяти. Эти эпизоды чередуются с черно-белыми флешбэками, где Леонард ведет телефонный разговор с незнакомцем, делясь деталями прошлого. В финале обе линии встречаются, черно-белое изображение переходит в цвет, и зритель наконец понимает истинную завязку сюжета.
Мы не будем раскрывать все карты, чтобы не портить впечатление тем, кто еще не знаком с фильмом. Вместо этого разберем отдельные сцены, которые наглядно иллюстрируют механизмы работы ИИ-агентов.
Архитектура LLM
До травмы Леонард был профессионалом высокого класса, умевшим разоблачать мошенников и добиваться результата там, где другие опускали руки. После инцидента его аналитические способности сохранились, но механизм фиксации нового опыта оказался разрушен. Он по-прежнему блестяще мыслит «здесь и сейчас», но любой полученный опыт мгновенно улетучивается.
В основе любого ИИ-агента лежит большая языковая модель (LLM) — его «интеллектуальное ядро». Всё, что находится вокруг, — лишь вспомогательная обвязка. Жизненный цикл нейросети состоит из двух фаз: обучения и инференса (работы). В процессе обучения модель пропускают через массивные объемы данных, настраивая миллиарды параметров (весов), которые формируют ее «базовые знания». После этого веса фиксируются, и наступает стадия эксплуатации.
С этого момента модель, по сути, страдает той же амнезией, что и Леонард. Она не обучается «на лету» в ходе диалогов и каждую сессию начинает с чистого листа. Поэтому, как и герою фильма, ей жизненно необходимы внешние хранилища данных для восстановления контекста.
Контекстное окно
Если мы заговоримся, я упущу нить наших рассуждений.
В коротких промежутках между «обнулениями» памяти Леонард вполне адекватен и последователен. Однако его кратковременная память ограничена: если информация не перенесена на носитель, она исчезает безвозвратно.
У языковых моделей ситуация схожая: они не обладают персистентной памятью состояний. Чтобы поддержать связный диалог, нам приходится отправлять историю общения целиком при каждом новом запросе. Это крайне ресурсоемко, и с ростом объема данных эффективность падает, а затраты растут нелинейно. Отсюда проистекает фундаментальное ограничение — контекстное окно. При его заполнении качество ответов нейросети деградирует, вынуждая нас начинать новую сессию, предварительно сохранив ключевые выводы во внешней памяти.
Статичная картина мира
Я помню свою личность и прошлое, но всё, что было после травмы, ускользает от меня.
Леонард сохранил навыки, привычки и знания о мире, накопленные до аварии. Однако его реальность ограничена точкой во времени, когда произошла травма. Он застрял в прошлом, будучи не в силах обновлять свою базу знаний о текущем положении дел.
У LLM есть аналогичный порог — дата отсечения знаний (knowledge cutoff), определяемая моментом завершения сбора данных для тренировки. Если вы спросите модель о свежих технологиях, она может не знать о событиях, произошедших после ее «обучающей даты». Без доступа к поисковым инструментам нейросеть оказывается заперта в мире, который уже стал историей. Примечательно, что Леонард никогда не смотрит на календарь: Нолан подчеркивает, что человек без памяти существует вне времени. Точно так же и модели: даже если спросить их о текущей дате, это знание не поможет им «вспомнить» события, случившиеся между датой отсечения и сегодняшним днем.
Системный промпт
Для выживания Леонард опирается на систему татуировок — это его самый надежный «жесткий диск». Фразы вроде «Джон Г. убил мою жену» или советы самому себе («Скрывай слабость», «Не доверяй») служат каркасом его личности и мотивации.
В мире нейросетей эту роль исполняет системный промпт. Это фундаментальная инструкция, задающая модельную идентичность, правила поведения, ограничения и список доступных инструментов. По сути, для современного ИИ-агента системный промпт — это те же татуировки, которые определяют, как модель должна мыслить и действовать в неопределенных ситуациях.
Внешние хранилища
Вся моя жизнь сосредоточена в этих записках.
Помимо татуировок, Леонард активно пользуется полароидными снимками и бумажными заметками. Это гибкий, но уязвимый инструмент: записку легко потерять, а фото может зафиксировать неверный контекст, основанный на ложных умозаключениях.
ИИ-агенты точно так же сохраняют информацию в текстовые файлы — своего рода «заметки на полях». В начале сессии агент считывает эти данные, пытаясь восстановить контекст. Но надежность этого механизма невысока: агент может проигнорировать критически важный файл или, наоборот, довериться ложной информации, заложенной в него ранее, действуя как слепой.
Проблема потери внимания (Lost in the middle)
Амнезия Леонарда приводит к парадоксальным ситуациям: он может забыть, преследователь он или преследуемый, прямо в разгар динамичной погони. В работе LLM существует схожий феномен — «потеря в середине». Модель лучше всего концентрируется на начале и конце текста, тогда как информация, скрытая в глубине длинного контекста, часто «размывается» и теряется. Простое увеличение контекстного окна здесь не панацея — чем больше данных, тем легче модели заблудиться в собственных рассуждениях.
Уязвимость перед манипуляциями
Персонаж Натали искусно манипулирует Леонардом, подкладывая ему ложные факты в моменты его «забывчивости». ИИ-агенты также подвержены инъекциям промптов (prompt injection). Столкнувшись с вредоносной инструкцией, спрятанной, к примеру, в содержимом веб-страницы, агент может легко свернуть с намеченного пути, поверив, что совершает нечто полезное.
Системный подход
Для результата необходима система.
Без своих «костылей» в виде татуировок и записей Леонард беспомощен. Но благодаря им он становится эффективным инструментом, пусть и склонным к ошибкам. ИИ-агент — это аналогичный синтез модели (LLM) и «обвязки» (harness). Формула проста: Агент = Модель + Обвязка. Именно обвязка (циклы исполнения, инструменты, доступ к файлам, политики безопасности) превращает статичную нейросеть в функционального помощника, способного выполнять сложные задачи.
Мир глазами ИИ
Память — это то, что определяет, кто мы такие.
Если смотреть на работу ИИ-агентов через призму «Мементо», их частые ошибки и «туннельное» зрение становятся логичными. Каждая новая сессия — это попытка заново обрести себя среди обрывков внешней памяти. Даже при наличии продвинутых хранилищ нейросети остаются заложницами своей архитектуры, нуждаясь во всё более совершенных «системах татуировок» для взаимодействия с реальностью.
Возможно, будущее принесет нам принципиально иные архитектуры, способные к непрерывному обучению. Но пока LLM остаются такими, какими мы их знаем, они будут во многом напоминать Леонарда Шелби — гениальных, но крайне зависимых от внешних инструкций и правил существ.
Рекомендую «Мементо» каждому. Даже без поиска параллелей с нейросетями — это шедевр, который хочется пересматривать вновь и вновь. А с пониманием принципов работы ИИ фильм становится глубоким философским эссе о природе интеллекта.
Больше размышлений о том, как нейросети меняют разработку и нашу жизнь, я публикую в своем телеграм-канале: https://t.me/greenrus_ai. Буду рад видеть вас в числе моих читателей.
