ИИ-агент начал играть на виртуальном острове без цели и поощрения

Группа учёных Массачусетского технологического института (MIT) выложила препринт, посвящённый воплощённому кодинг-агенту (embodied coding agent) Eko. Он не ограничивается написанием кода, а непосредственно действует в виртуальной среде. Агент находился на небольшом цифровом острове, где ему не ставили ни конкретной цели, ни наград, ни обязательных занятий. В ходе 30-часовых сессий он карабкался по рельефу, собирал конструкции из блоков, рисовал, изобретал игры и исследовал физические законы этого мира.

В исследовании участвуют 13 агентов, действующих в единой замкнутой песочнице: на острове расположены блоки, камень, участки рельефа и кольцо, которые можно двигать и применять в несложных взаимодействиях. Как сообщают авторы, агенты выстраивали блоки друг на друга, поднимались на возвышенности, создавали мандалы, придумывали новые правила для спортивных игр и фиксировали приёмы, которые потом помогали им расширять возможности. При этом у каждого агента формировалась собственная линия поведения, хотя общие закономерности встречались у всех.

Полученные последовательности действий авторы анализируют с опорой на устоявшиеся поведенческие концепции игры. Вместе с тем они прямо подчёркивают: исследование не утверждает, что система испытывала удовольствие, обладала сознанием или достигла общей автономности. Речь идёт лишь о наблюдаемых действиях и накопленных знаниях в рамках ограниченной симуляции.

Препринт пока не прошёл рецензирование, а сама среда намеренно сделана узкой. Тем не менее для создателей агентов работа ценна по иной причине: она демонстрирует, что узкие эталонные тесты, оценивающие выполнение задач, способны упускать поведение, возникающее, когда у ИИ-агента есть время исследовать мир, запоминать находки и пересматривать собственные стратегии.

Главный практический вопрос, который поднимает исследование, — насколько подробно описаны модель, промпты, память, пространство действий, ограничения безопасности и протокол оценки, чтобы другая команда смогла повторить результат. Без этого невозможно делать выводы о переносимости поведения на реальные задачи, о надёжности или о готовности к внедрению. Препринт остаётся свидетельством, полученным в ограниченной симуляции, а не подтверждением общей способности.

Источник: iXBT