Bosgame запустила модель DeepSeek-V3.1 на кластере из семи мини-ПК

Компания Bosgame продемонстрировала впечатляющий кейс использования своих высокопроизводительных мини-ПК M5 AI: объединение семи устройств позволило локально развернуть масштабную нейросеть DeepSeek-V3.1, насчитывающую 671 млрд параметров.

Модель M5 AI, дебютировавшая в прошлом году, базируется на процессоре Ryzen AI Max+ 395 и в максимальной комплектации оснащается 128 ГБ оперативной памяти. Хотя технические характеристики одного устройства не позволяют запускать столь массивные языковые модели в одиночку, производитель наглядно доказал эффективность масштабируемого подхода.

Синхронизация узлов реализована через прямое подключение по протоколу USB4, что фактически превращает группу компактных компьютеров в единый вычислительный комплекс. Такое решение выигрывает у классических серверных архитектур как по части бюджета, так и по уровню энергопотребления.

Созданный кластер из семи юнитов располагает суммарным объемом унифицированной памяти в 896 ГБ, из которых до 672 ГБ резервируется под нужды графической подсистемы. Использование USB4 избавляет от необходимости в громоздких серверных мощностях, обеспечивая эффективное взаимодействие между узлами.

Bosgame делает акцент на модульности: пользователи могут начать с одного мини-ПК и постепенно расширять вычислительные ресурсы системы по мере возрастания рабочих задач.

На момент релиза в прошлом году флагманская версия устройства оценивалась в 1700 долларов, однако на текущий момент стоимость ПК выросла до 2800 долларов.

Источник: iXBT