Новое исследование показало, что ChatGPT использует в 10 раз меньше энергии, чем предполагалось ранее

Свежий анализ, выполненный некоммерческим институтом искусственного интеллекта Epoch AI, выявил, что популярный чат-бот ChatGPT компании OpenAI может потреблять заметно меньше энергии, чем предполагалось ранее. В результате анализа выяснилось, что типичный запрос к ChatGPT, работающему на последней модели GPT-4o, потребляет примерно 0,3 ватт-часа электроэнергии. Этот показатель значительно ниже предыдущей оценки в 3 ватт-часа и сравним с энергопотреблением стандартных бытовых устройств.

Джошуа Ю, аналитик данных Epoch AI, возглавивший исследование, указал, что ранние предположения основывались на устаревших данных и допущениях о менее эффективном оборудовании, применяемом OpenAI. «На фоне использования обычной бытовой техники, отопительных и охлаждающих систем, а также автомобилей, энергопотребление ChatGPT не выглядит значительным», – отметил Ю в беседе с TechCrunch.

Тем не менее, исследователь подчеркнул, что значение в 0,3 ватт-часа является ориентировочным из-за отсутствия у OpenAI детальных данных, необходимых для точных вычислений. Кроме того, анализ не учитывает дополнительные энергетические затраты на функции ChatGPT, такие как генерация изображений или обработка крупномасштабных данных.

Несмотря на низкие показатели текущих затрат энергии, Джошуа Ю прогнозирует, что базовый уровень энергопотребления ChatGPT будет расти по мере совершенствования искусственного интеллекта, требующего всё больших ресурсов для обучения и выполнения более сложных задач.

За последние месяцы произошли значительные изменения в эффективности ИИ, и ожидается, что масштабы его внедрения приведут к значительному расширению инфраструктуры, тратящей значительные энергетические ресурсы. Согласно докладу Rand, в ближайшие два года центрам обработки данных ИИ может понадобиться практически вся мощность электросетей Калифорнии за 2022 год (68 ГВт). К 2030 году обучение передовой модели может потребовать энергии, сопоставимой с мощностью восьми ядерных реакторов (8 ГВт).

Растущее число пользователей ChatGPT увеличивает спрос на серверные мощности. OpenAI в сотрудничестве с несколькими инвестиционными партнёрами планирует выделить миллиарды долларов на развитие данных инфраструктур в ближайшие годы.

Индустрия ИИ, включая OpenAI, постепенно смещает внимание к моделям рассуждения, которые, несмотря на более высокую вычислительную сложность, в большинстве случаев эффективнее справляются с задачами. В отличие от моделей наподобие GPT-4o, которые отвечают на запросы почти мгновенно, модели рассуждения требуют времени от нескольких секунд до минут, что увеличивает объёмы вычислений и энергетических затрат.

OpenAI начала выпуски более энергоэффективных моделей рассуждения, таких как o3-mini. Тем не менее, достижение некоторой эффективности, вероятно, не покроет увеличенные требования к энергии, связанные с более интенсивным процессом «мышления» и возросшим применением ИИ на глобальной арене.

Источник: iXBT