Путь к AGI: эволюционное самообучение нейросетей с нуля в рамках экосистемы

Эволюция разума в цифровой среде: Двухлетнее исследование нейросетевых популяций

Приветствую всех энтузиастов глубокого обучения и искусственного интеллекта! В данной публикации я представлю результаты масштабного эксперимента по созданию интеллектуальной экосистемы. Моей целью было поместить нейросети в конкурентную среду, где они вынуждены взаимодействовать, бороться за ресурсы и развиваться в условиях естественного отбора.

Это полноценное исследование, длившееся два года. Проектов подобного масштаба, сфокусированных именно на когнитивной эволюции нейросетей, в открытом доступе практически не существует.

Концепция и отличия от классических симуляций

Многие знакомы с экспериментами по симуляции эволюции на основе генетических алгоритмов (например, проекты по настройке базовых параметров вроде скорости и голода). Однако такие системы моделируют лишь примитивные формы жизни — условные РНК и ДНК. Мой подход иной: я сосредоточился на моделировании «мозга». Существа здесь управляются полноценными нейросетями, что гораздо ближе к Deep Learning, чем к простым алгоритмам.

Проект вырос из амбициозного вопроса: способны ли эволюционные алгоритмы в замкнутой системе повторить путь развития высших животных — врановых, китообразных или даже человека?

Ключевым вызовом стало отсутствие библиотек с полноценной поддержкой RNN (рекуррентных нейронных сетей) для алгоритма NEAT. Без рекуррентных связей нейросеть лишена памяти и способности к сложному прогнозированию. В итоге мне пришлось написать собственные библиотеки на C# для реализации экосистемы и работы с весами нейронов.

Подробный разбор алгоритма NEAT представлен в моей предыдущей статье. Рекомендую ознакомиться с ней для лучшего понимания механик нейроэволюции.

Путь к AGI: эволюционное самообучение нейросетей с нуля в рамках экосистемы
Интерфейс симуляции и визуализация структуры связей нейронов

Архитектура экосистемы

Ресурсы и сельское хозяйство

Мир населен растениями, которые служат источником энергии. Каждое растение дает семена и пищу. Если семя остается неподвижным и не портится в течение определенного времени, из него вырастает новое дерево. Таким образом, у нейросетей была теоретическая возможность освоить примитивное земледелие. Кроме того, каждые 50 эпох происходят глобальные «вымирания», резко сокращающие кормовую базу и обостряющие конкуренцию.

Социальная структура и кланы

Чтобы избежать биологического детерминизма, я убрал мутации физических параметров (скорость, выносливость). Основное внимание уделено двум шкалам: «Возраст» (естественный лимит жизни) и «Здоровье/Голод». Органами чувств служат рейкасты, позволяющие идентифицировать объекты, сородичей и врагов.

Популяция разделена на четыре клана. Особи внутри клана могут скрещиваться, но не могут убивать друг друга. Это создает предпосылки для формирования социальных групп и межвидовой борьбы за выживание.

Прорыв в анализе: Слух и Кооперация

Первые итерации показали, что нейросети действуют разрозненно. Чтобы стимулировать развитие, я внедрил два критических обновления:

  • Пространственное рождение: Новые особи теперь появляются рядом с родителями, а не в центре карты. Это позволило кланам колонизировать отдаленные территории.
  • Коммуникация (Слух): Я добавил возможность обмена токенами (языковой лимит — 1000 единиц). Существа получили возможность «общаться» с ближайшими сородичами.
График динамики популяции
Динамика численности кланов. Заметны резкие спады в периоды дефицита ресурсов и последующее восстановление.

Эти изменения привели к настоящей когнитивной революции: возникли группы исследователей и, что более важно, скоординированные столкновения между кланами.

Результаты исследования: Межклановые войны

Самым впечатляющим итогом стало возникновение войн. Анализ графиков и поведения показал, что популяции научились атаковать конкурентов для захвата пищевых ресурсов. На графиках отчетливо видно, как один клан может полностью истребить другой в борьбе за территорию. Обычно через неделю симуляции доминирующим остается лишь один клан, захвативший всю доступную область.

Анализ социальных взаимодействий

К сожалению, к осознанному сельскому хозяйству нейросети так и не перешли, предпочитая стратегию экспансии и потребления.

Технические подробности и FAQ

  • Стек: C#, среда разработки Unity. Выбор пал на C# из-за высокой производительности и необходимости работы в 3D-пространстве.
  • Производительность: Симуляция запускалась локально на MacBook с чипом M1 Pro. Дизайн намеренно минималистичен, чтобы направить все вычислительные мощности на обучение нейросетей.
  • Open Source: Исходный код доступен для изучения и доработки.

Репозитории проекта:
NEATUnity — Ядро экосистемы
NEATranslator — Модуль перевода

Заключение

Данный эксперимент доказал, что NEAT с рекуррентными связями обладает колоссальным потенциалом для формирования сложных поведенческих структур. Мы увидели зачатки социального взаимодействия и стратегического планирования в конкурентной среде.

Несмотря на скепсис многих специалистов по машинному обучению относительно эволюционных алгоритмов в задачах NLP, я верю, что мы лишь на пороге великих открытий в этой области. Если вы разделяете мой интерес к нейроэволюции — присоединяйтесь к исследованию. Возможно, именно ваш вклад поможет преодолеть текущий «потолок» сложности нейросетевых структур.

 

Источник

Читайте также