Одна стойка ускорителей Nvidia Kyber Ultra NVL576 будет потреблять 600 кВт электроэнергии

Развитие рынка ИИ уже сдерживает дефицит электроэнергии, а уже в следующем году нехватка мощностей может превратиться в серьёзный барьер для всей отрасли. Причина — в том числе в энергопотреблении новых систем: одна стойка Kyber Ultra NVL576 потребует 600 кВт.

Kyber Ultra NVL576 — стойка, рассчитанная на 576 ускорителей Rubin Ultra. Компания представила её в прошлом месяце и сообщила, что ускорители будут связаны с помощью технологии Customer Performance Optic (CPO). До этого крупнейшей анонсированной системой была Kyber Ultra NVL144, оснащённая 144 ускорителями.

Согласно официальным данным, Rubin Ultra NVL576 обеспечит производительность 15 экзафлопс при вычислениях с 4-битной плавающей точкой — для вывода данных — и 5 экзафлопс при вычислениях с 8-битной плавающей точкой, используемых для обучения. Это в 14 раз выше показателей Blackwell GB300 NVL72.

При этом энергопотребление системы достигнет 600 кВт — примерно столько расходуют 500 среднестатистических домов в США. Для сравнения: стойке с ускорителями Blackwell требуется около 120 кВт, а системе поколения Hopper — всего 40 кВт.

Проблема заключается не только в суммарном энергопотреблении дата-центров, оснащённых такими стойками. Переоборудовать существующую инфраструктуру, чтобы подавать по 600 кВт непосредственно на одну стойку, крайне сложно. Поэтому подобные объекты, вероятно, придётся возводить с нуля, что потребует ещё более значительных инвестиций.

Источник: iXBT