Полномасштабное использование автономных ИИ-систем потребует сотен гигаватт электроэнергии, что выходит далеко за рамки пропускной способности существующих дата-центров. К такому выводу пришли эксперты Корейского института передовых технологий (KAIST), впервые всесторонне проанализировавшие энергетический след агентов, способных к самостоятельному планированию и выполнению многоэтапных задач.
В отличие от классических чат-ботов, выдающих ответ в рамках одного промпта, современные ИИ-агенты задействуют сложные алгоритмы: они многократно обращаются к языковым моделям, анализируют данные из сети, пишут код и взаимодействуют с внешними приложениями. Подобная автономность существенно расширяет возможности систем в сфере автоматизации и программирования, но предъявляет колоссальные требования к вычислительным мощностям.
Исследовательская группа под руководством профессора Минсу Рю из Школы электротехники KAIST сфокусировалась на оценке ИИ-агентов как специфического типа нагрузки на инфраструктуру, протестировав их в реалистичных производственных условиях.
Согласно полученным данным, время обработки запроса ИИ-агентом возрастает почти в 154 раза по сравнению с традиционными методами «цепочки рассуждений» (chain-of-thought). При этом графические ускорители простаивают более половины времени (54,5%), ожидая завершения внешних программных операций, однако продолжают потреблять значительное количество энергии.
Результаты шокируют: выполнение одного запроса моделью с 70 млрд параметров требует 348,41 Вт·ч, что превышает показатели обычного чат-бота в 136,5 раз. Если экстраполировать эту нагрузку на ежедневный объем поисковых запросов Google (около 13,7 млрд), то для обеспечения работы такой системы потребовалось бы порядка 198,9 ГВт. Это колоссальный показатель — почти половина суммарного потребления электроэнергии США, который на порядки превосходит возможности нынешних вычислительных центров.
Несмотря на то что технологические гиганты вроде OpenAI, Microsoft и Google активно развивают направление агентов, авторы исследования подчеркивают: дальнейший прогресс упирается не только в интеллект алгоритмов. По мнению профессора Минсу Рю, фокус конкуренции в ИИ-индустрии смещается от создания «умных» моделей к архитектурной эффективности. Для масштабирования технологии потребуются прорывы в оптимизации GPU, модернизация серверного оборудования и кардинальное расширение энергетической инфраструктуры.
Результаты этой научной работы были представлены на симпозиуме IEEE (HPCA). В открытый доступ также выложены наборы тестов для оценки эффективности ИИ-агентов, призванные помочь разработчикам снизить операционные расходы, которые сейчас превращаются в один из самых критических барьеров для развития искусственного интеллекта.
Источник: iXBT
