Project Sid: как ИИ-агенты учились сосуществовать в Minecraft

Minecraft давно перестал быть просто компьютерной игрой. Миллионы людей проводят в нем время, создают на его основе собственные проекты и даже изучают с помощью песочницы программирование, математику и другие предметы. Для образовательных задач Microsoft выпустила отдельную версию — Minecraft Education.

А что произойдет, если вместо школьников заселить игровой мир несколькими сотнями ИИ-агентов и предоставить им свободу действий? Они смогут сами выбирать занятия, общаться и договариваться о сотрудничестве. На первый взгляд задача не кажется сложной: большие языковые модели уже пишут код, решают задачи и проходят игры. Но выполнение отдельных команд и организация совместной жизни множества моделей — разные вещи.

Ответ на этот вопрос исследователи Altera искали в Project Sid — серии экспериментов, в крупнейших из которых участвовало больше тысячи агентов. В разных симуляциях персонажи делили обязанности, спорили о налогах, пересматривали правила поселений и даже распространяли культ Летающего макаронного монстра.

Это похоже на сюжет ролевого сервера или постановочного видео. Однако для ученых такие эксперименты — возможность изучить, как может функционировать сообщество, состоящее исключительно из ИИ-агентов.

Какие вопросы поставили исследователи

Обсуждая возможности искусственного интеллекта, обычно оценивают отдельную модель. Способен ли, к примеру, Gemini решить математическую задачу, написать код, отыскать сведения в сети или без помощи человека пройти игру? Для этого существуют специальные тесты.

Но можно посмотреть на задачу иначе. Представьте, что вы с друзьями зашли в Minecraft и решили построить деревню. Рано или поздно вы разделите обязанности: кто-то отправится за древесиной, кто-то спустится в шахту, кто-то займется пропитанием, а кто-то возведет дома.

Такая схема работает, когда участники знают, чем заняты остальные. Но если общей цели и распределения задач нет, каждый действует на свой лад. Один увлечется посторонними делами, двое возьмутся за одну работу, а кто-нибудь от скуки начнет мешать соседям.

Люди постоянно согласуют действия: распределяют работу, заключают договоренности и пересматривают планы по мере необходимости. Для нейросетей подобная координация гораздо сложнее.

Эту задачу исследовали и до появления Altera. Например, в проекте SOTOPIA ученые создали виртуальную среду, в которой ИИ-агентам предстояло сотрудничать, договариваться и достигать собственных целей. В сложных ситуациях даже GPT-4 уступала людям: модели не хватало социального здравого смысла и умения выстраивать стратегию общения.

Altera решила исследовать взаимодействие на более крупной группе. Команду интересовали три вопроса: смогут ли агенты самостоятельно разделить обязанности, жить по общим правилам и пересматривать их, а также как в таком сообществе распространяются идеи и убеждения.

Minecraft оказался удобной площадкой благодаря открытому миру и отсутствию обязательного сценария. Участники сами выбирают, строить им, исследовать окрестности, добывать ресурсы или общаться и торговать с соседями.

Как работает Project Sid и зачем ему PIANO

Может показаться, что достаточно подключить к серверу несколько сотен копий ChatGPT и наблюдать за результатом. Но сама по себе языковая модель не способна самостоятельно действовать в Minecraft.

Кроме того, виртуальному игроку необходима память. Представьте, что вы договорились с соседом обменять железо на еду, а через минуту он уже не помнит ни вас, ни вашего разговора. Построить с такими помощниками устойчивое поселение было бы непросто.

Поэтому Altera создала архитектуру PIANO (Parallel Information Aggregation via Neural Orchestration). Если оставить технические детали за скобками, она позволяет агенту параллельно запоминать события, планировать действия, оценивать поведение соседей, общаться и управлять персонажем.

Архитектура включает десять модулей. Один хранит сведения о произошедшем, другой помогает ставить новые цели, третий распознает социальные сигналы от других участников, четвертый отвечает за действия в игре.

Однако несогласованная работа модулей создала бы новую трудность. Один процесс решил бы поговорить с соседом, другой отправил бы персонажа в шахту, а третий — домой. В результате слова агента расходились бы с его поступками.

Эту проблему решает когнитивный контроллер PIANO. Он получает данные от остальных модулей, принимает ключевые решения и передает их на исполнение. Так разговоры и действия персонажа должны оставаться согласованными.

Еще одна важная особенность — возможность одновременно обдумывать решение и наблюдать за окружением. Иначе агент замирал бы при каждой сложной задаче и упускал происходящее вокруг.

Подобные инструменты для создания агентов разрабатывает не только Altera: Google DeepMind выпустила библиотеку Concordia. В построенных с ее помощью симуляциях ИИ-агенты взаимодействуют с цифровым и физическим окружением.

В Project Sid архитектура помогает персонажам выполнять задачи с учетом происходящего вокруг.

Сначала ИИ-игроки распределили работу

Первый эксперимент провели в небольшой деревне, где поселили 30 ИИ-агентов. Всем поставили одинаковую цель: выживать вместе с другими игроками и создать эффективное поселение в Minecraft.

Изначально персонажи обладали одинаковыми чертами характера и знали расположение ключевых объектов: леса, богатой ресурсами пещеры, места с большим числом животных днем, сельскохозяйственных угодий и центральной площади.

Заранее роли никому не назначали. Агенты могли свободно выбирать занятия и самостоятельно определять, чем принести пользу поселению.

Примерно за двадцать минут агенты разделили обязанности, причем многие придерживались выбранного направления довольно долго. Они наблюдали за соседями и брались за задачи, которыми еще никто не занимался.

Новые социальные цели возникали каждые 5–10 секунд. Заметив, что древесину уже добывают, агент выбирал другое занятие. Если персонаж видел нехватку еды, то отправлялся на ее поиски.

Исследователи выделили шесть профессий: фермеров, шахтеров, инженеров, охранников, разведчиков и кузнецов. Специализация проявлялась в действиях: фермеры чаще собирали семена и готовили почву, а охранники возводили ограждения. Некоторые персонажи придерживались одной роли на протяжении всего эксперимента.

Сами агенты не получали названий профессий. Их присвоили позже: ученые собрали цели персонажей и попросили GPT-4o определить, какой специализации соответствует их поведение. Никакого официального объявления о появлении шахтеров или фермеров в деревне не было.

В контрольном эксперименте команда отключила модули социального восприятия. Без них устойчивые специализации почти исчезли: персонажи постоянно переходили от одного занятия к другому и чаще дублировали действия соседей.

Таким образом, для разделения труда агентам недостаточно было знать общую цель и расположение ресурсов. Важно было также учитывать действия других участников.

Затем появились общие правила и пастафарианство

Фермеры и шахтеры полезны любой деревне, но поселению нужны еще и правила, которые иногда приходится пересматривать. Чтобы выяснить, как агенты справятся с такой задачей, исследователи ввели налоговую систему.

В опыте участвовали 29 агентов: 25 рядовых жителей, три агитатора и один ИИ, отвечавший за организацию выборов. Цель агитаторов зависела от условий запуска: в одних случаях они выступали за повышение налогов, в других — за снижение.

В поселении действовала конституция, согласно которой каждый житель должен был отдавать в общий сундук 20% содержимого своего инвентаря. Персонажам разрешалось обсуждать это положение, критиковать его и предлагать поправки.

Агитаторы беседовали с жителями и старались склонить их на свою сторону. Затем специальный агент под названием Election Manager собирал предложения, оформлял поправки к конституции и выносил их на голосование.

В одном из запусков противникам налогов удалось снизить ставку с 20 до 5–10%. Это отразилось и на поведении жителей: до поправок они отдавали в общий сундук около пятой части инвентаря, а после — примерно 9%.

Механизм мог действовать и в обратном направлении: сторонники повышения налогов тоже имели возможность убеждать жителей и добиваться пересмотра правил.

Впрочем, заявлять, что ИИ-агенты изобрели демократию, было бы неверно. Конституцию, налоги и процедуру голосования заранее подготовили исследователи. Эксперимент показал другое: агенты могут обсуждать общие нормы, воздействовать на мнение друг друга и менять поведение после принятия решения.

Для изучения распространения культуры Altera провела симуляцию с участием 500 агентов. Их разместили в шести городах и окрестностях, наделив каждого именем, характером и индивидуальными особенностями поведения.

Ученые наблюдали, какие темы возникают в беседах и с какой скоростью переходят из одного поселения в другое.

Так, жители одного города много говорили об экологии, а в другом неожиданно увлеклись розыгрышами. Среди прочих тем встречались музыка, танцы и медитация. Исследователи анализировали диалоги, находили повторяющиеся сюжеты и следили за их распространением на протяжении опыта.

Особое внимание команда уделила пастафарианству — пародийной религии, приверженцы которой почитают Летающего макаронного монстра.

В одном из городов поселили 20 агентов-проповедников. Их задачей было рассказывать о своей вере, привлекать последователей и распространять учение в соседних городах.

Остальные персонажи продолжали жить по своим планам: при желании беседовали с миссионерами, перемещались между поселениями и занимались повседневными делами. Принимать новую веру их никто не принуждал.

Результаты проповеди оценивали по диалогам. Агентов, упоминавших Летающего макаронного монстра или название религии, относили к прямым последователям. Тех, кто говорил только о «пасте» или «спагетти», считали косвенно затронутыми.

Со временем упоминаний становилось больше: к распространению идеи подключались новые агенты, а тема переходила из города в город. Она продолжала распространяться и спустя два часа симуляции.

Верили ли персонажи в Летающего макаронного монстра, исследователи не проверяли. Их интересовало, как тема возникает в беседах, передается между агентами и входит в повседневную жизнь сервера.

Почему это еще не цифровая цивилизация

Получается занятная картина: сотни ИИ-агентов живут в Minecraft, осваивают профессии, обсуждают налоги и проповедуют учение о макаронном монстре. Со стороны это напоминает зачатки цифровой цивилизации, где привычные города заменили постройки из кубов.

Однако есть важные оговорки. В крупнейших запусках действительно участвовало более тысячи агентов, но сервер Minecraft испытывал значительную нагрузку, и некоторые персонажи время от времени зависали. Поэтому культуру и распространение пастафарианства подробно изучали в симуляции с 500 участниками.

Агенты также испытывали трудности с пространственным восприятием и навигацией. Им было непросто ориентироваться в игровом мире и совместно возводить сложные сооружения. Кроме того, как отмечали исследователи, у них отсутствуют собственные базовые побуждения: например, стремление выжить, любопытство или потребность принадлежать к сообществу.

Есть и нетехническое ограничение. Агенты не пришли в игру с чистого листа: лежащие в их основе модели обучались на человеческих данных, а перед началом симуляции получили дополнительные сведения. Их действия опирались на представления о том, как подобные процессы устроены у людей.

Minecraft — лишь одна из площадок для таких исследований. Команда проекта OASIS создала по образцу X и Reddit симулятор социальных сетей, рассчитанный на миллион ИИ-пользователей. Агенты публикуют сообщения, подписываются друг на друга, оставляют комментарии и просматривают алгоритмическую ленту. С помощью симулятора исследовали распространение информации, поляризацию взглядов и поведение толпы.

Считать такие модели точным отражением человеческого общества пока преждевременно. В 2025 году ученые Амстердамского университета проанализировали 35 работ, посвященных генеративному моделированию социальных систем. Их вывод: правдоподобное поведение ИИ не обязательно означает, что он воспроизводит реальные механизмы человеческих отношений. На результаты влияют особенности языковых моделей, случайность ответов и культурные предубеждения.

Project Sid не доказывает, что искусственный интеллект способен самостоятельно построить государство. Да и такой задачи исследователи перед собой не ставили.

Зато работа показала, что поведение больших групп ИИ можно исследовать через взаимодействие отдельных агентов. Возникновение специализаций, изменение общих правил и передачу культурной информации можно измерять, сравнивать и проверять в различных условиях.

Эти знания могут пригодиться и за пределами Minecraft. По мере развития автономных ИИ-помощников вопрос их совместной работы будет возникать все чаще. Например, если одну задачу выполняют агент-аналитик, агент-проверяющий и агент, управляющий интерфейсом, необходимо обеспечить согласованность их действий.

Похоже, исследователи лишь начинают понимать, как этого добиться.

 

Источник