Nvidia представила кластер из четырёх DGX Spark с 512 ГБ памяти для запуска ИИ-моделей с числом параметров до 700 млрд

Прокомментировать Просмотры: 0

На конференции SC26 в Чикаго Nvidia представила DGX Spark HPC Developer Kit — кластер из четырёх компактных компьютеров DGX Spark с общим объёмом памяти 512 ГБ. Комплект предназначен для исследователей и разработчиков, которым необходимо локально запускать модели ИИ, отлаживать распределённые приложения и выполнять ресурсоёмкие вычисления.

В основе каждого DGX Spark лежит суперчип GB10 Grace Blackwell с 20-ядерным процессором Arm и графическим ускорителем Blackwell. Каждый узел оснащён 128 ГБ памяти LPDDR5X, общей для CPU и GPU. Совокупная ёмкость NVMe-накопителей достигает 16 ТБ. Пиковая производительность одного узла составляет 1 петафлопс при вычислениях FP4.

Узлы объединяются в кольцевую сеть с помощью сетевой карты Nvidia ConnectX-7. Каждый DGX Spark подключён к двум соседним устройствам, поэтому отдельный сетевой коммутатор не требуется.

По данным компании, мощности кластера достаточно для локального запуска моделей ИИ с числом параметров до 700 млрд. Nvidia также готовит руководство по развёртыванию HPC SDK, включающего компиляторы C, C++ и Fortran с GPU-ускорением, библиотеки и средства обмена сообщениями MPI для научных приложений.

Комплект уже доступен для заказа, однако его стоимость на сайте не указана. Чтобы узнать подробности, необходимо отправить заявку. При этом покупка четырёх отдельных DGX Spark со 128 ГБ памяти и SSD на 4 ТБ обойдётся почти в 28 тыс. долларов без учёта коммутации и дополнительного оборудования.

 

Источник

Похожие статьи

Поиск по играм, новостям и статьям…

Введите не менее двух символов

Введите не менее двух символов