Компания NVIDIA объявила о выпуске персонального суперкомпьютера Project Digits, ориентированного на задачи в области искусственного интеллекта. В основе устройства находится новейший процессор GB10 Grace Blackwell Superchip, который обеспечивает достаточную вычислительную мощность для работы со сложными моделями ИИ, оставаясь при этом настолько компактным, что его можно разместить на обычном рабочем столе и подключить к стандартной электрической сети.
Настольная система, располагающаяся внешне схожей с Mac Mini, способна обрабатывать ИИ-модели с числом параметров до 200 миллиардов. Начальная стоимость устройства составляет $3000. Каждая система Project Digits оснащается 128 ГБ оперативной памяти и накопителем NVMe объёмом до 4 ТБ. Для выполнения более сложных задач можно объединить две системы Project Digits, что позволит работать с моделями, содержащими до 405 миллиардов параметров (для сравнения, наиболее передовая модель Meta* — Llama 3.1 также включает в себя 405 миллиардов параметров).
Процессор GB10 способен достигать производительности до 1 петафлопс (квадриллион операций в секунду) с точностью FP4 за счёт аппроксимации, что ускоряет вычисления. Система включает новейшие ядра CUDA и тензорные ядра пятого поколения от NVIDIA, соединённые через NVLink-C2C с процессором Grace, имеющим 20 энергоэффективных ядер на архитектуре Arm. Компания MediaTek, известная своими чипами на базе Arm, принимала участие в разработке GB10 для обеспечения энергоэффективности и производительности.
Пользователи получат доступ к программной библиотеке NVIDIA, включающей в себя инструменты для разработки, средства оркестрации и предварительно обученные модели, доступные через каталог NVIDIA NGC. Система функционирует на базе операционной системы Linux-based NVIDIA DGX OS и поддерживает популярные фреймворки, такие как PyTorch, Python и Jupyter Notebook. Разработчики могут настраивать модели с помощью фреймворка NVIDIA NeMo и ускорять процессы обработки данных, используя библиотеки NVIDIA RAPIDS.
Созданные и протестированные на Project Digits модели ИИ можно развертывать в облачных сервисах или центрах обработки данных, применяя ту же архитектуру Grace Blackwell и программную платформу NVIDIA AI Enterprise.
В декабре NVIDIA также анонсировала более доступную версию компьютера для ИИ-приложений — Jetson Orin Nano Super стоимостью $249, способную работать с моделями до 8 миллиардов параметров.
*Meta признана экстремистской организацией и запрещена на территории РФ
Источник: iXBT
