Стоит ли переплачивать за половину флагмана: обзор NVIDIA RTX PRO 5000 Blackwell с 72 ГБ VRAM

4 часа назад Прокомментировать Просмотры: 7

Корпорация NVIDIA продолжает запутывать пользователей своей актуальной линейкой профессиональных ускорителей Blackwell. Анализ идентификаторов PCI.ids для графических процессоров этого поколения демонстрирует следующую картину:

# RTX PRO Blackwell Series (Desktop / Workstation) "10de:2bb5|RTX PRO 6000 Blackwell Server Edition" "10de:2bb4|RTX PRO 6000 Blackwell Workstation Edition" "10de:2bb1|RTX PRO 6000 Blackwell Max-Q" "10de:2bb3|RTX PRO 5000 Blackwell" "10de:2c31|RTX PRO 4500 Blackwell" "10de:2c37|RTX PRO 4000 Blackwell" "10de:2c36|RTX PRO 3000 Blackwell" "10de:2d30|RTX PRO 2000 Blackwell" "10de:2c35|RTX PRO 2000 Blackwell (Alternative)" # RTX PRO Blackwell Series (Server / Embedded) "10de:2c3a|RTX PRO 4500 Blackwell Server Edition" "10de:2c77|RTX PRO 5000 Blackwell Embedded GPU"

# RTX PRO Blackwell Series (Laptop / Mobile) "10de:2c38|RTX PRO 5000 Blackwell Generation Laptop GPU" "10de:2f38|RTX PRO 3000 Blackwell Generation Laptop GPU" "10de:2db8|RTX PRO 1000 Blackwell Generation Laptop GPU"

При этом для каждой модификации может существовать несколько вариантов исполнения. Ярким примером стала героиня нашего сегодняшнего обзора — NVIDIA RTX PRO 5000 Blackwell, получившая расширенный до 72 ГБ буфер памяти. На рынке представлены две версии:

RTX PRO 5000 Blackwell (48 ГБ GDDR7): классическая базовая модификация с односторонним расположением микросхем памяти на печатной плате. Реализует аппаратное разделение MIG на два изолированных домена по 24 ГБ.
RTX PRO 5000 Blackwell (72 ГБ GDDR7): специализированная вариация с увеличенным объемом VRAM, созданная для эффективного инференса массивных генеративных моделей. Память распаяна по технологии clamshell (двухэтажная компоновка чипов). Поддерживает конфигурацию MIG в режиме 2 × 36 ГБ.

Глобальная стоимость стандартной 48-гигабайтной модели стартует от $5000, в то время как модификация на 72 ГБ обойдется как минимум в $9999 (что ровно вдвое дороже). На российском рынке младшую PRO 5000 можно приобрести по цене от 700 000 рублей, тогда как за старшую версию с 72 ГБ просят уже от 1 000 000 рублей.

Серверы с GPU NVIDIA и AMD

Выделенные и виртуальные серверы с графическими картами последних и предыдущих поколений с почасовой оплатой

Посмотреть

Если сопоставить новинку с безальтернативным флагманом в лице PRO 6000 Blackwell, целесообразность такой покупки с первого взгляда вызывает вопросы:

Характеристика	RTX PRO 5000 (72 ГБ)	RTX PRO 6000 (96 ГБ)
Объем видеопамяти	72 ГБ GDDR7 ECC	96 ГБ GDDR7 ECC
CUDA-ядра	14 080	24 064
Тензорные ядра	440 (5-е поколение)	752 (5-е поколение)
Пропускная способность	1 344 ГБ/с	1 792 ГБ/с
Производительность FP32	72,2 TFLOPS	125 TFLOPS
Энергопотребление (TDP)	300 Вт	600 Вт

Учитывая рекомендованную производителем базовую стоимость PRO 6000 Blackwell на уровне $8000, существование 5000-й серии на 72 ГБ кажется не столь очевидным. Однако текущие рыночные реалии и дефицит микросхем памяти привели к тому, что топовая карта стоит вдвое дороже (в России её ценник стартует от 2 000 000 рублей). На этом фоне RTX PRO 5000 Blackwell при двукратном снижении энергопотребления демонстрирует падение производительности вовсе не в два раза, а лишь примерно на 40%. При этом она гораздо менее требовательна к инфраструктуре питания и охлаждения.

Конструктивное исполнение стандартно для корпоративного сегмента: двухслотовый формат полной высоты и длины (FHFL) с активной турбиной (blower-style). Дизайн полностью повторяет старшую модель RTX PRO 6000.

Монтаж и бенчмарки

Мы заполучили в своё распоряжение этот ускоритель и организовали комплексное тестирование. Сервер был собран нашими инженерами под управлением операционной системы Ubuntu 24.04, а необходимые драйверы развернуты с помощью актуализированного скрипта.

Затем мы задействовали фирменный комплект для нагрузочного тестирования GPU. Поскольку достать физическую RTX PRO 6000 для прямого сравнения по всему спектру моделей не удалось, бенчмарки базируются на архитектуре DeepSeek R1.

GPU	VRAM	Model	Tokens/sec (average)	max ctx	Load (sec) average	Generate (sec) average
NVIDIA RTX PRO 5000 Blackwell	72 GB	deepseek-r1:32b	50.77	128 000	4.32	50.69
NVIDIA RTX PRO 5000 Blackwell	72 GB	deepseek-r1:70b	25.08	96 000	6.67	99.12
NVIDIA RTX PRO 5000 Blackwell	72 GB	gpt-oss:120b	156.52	128 000	9.43	21.70
NVIDIA RTX PRO 5000 Blackwell	72 GB	qwen3-coder-next:q4_K_M	192.13	128 000	7.50	14.97
NVIDIA RTX 6000 PRO Blackwell (gen5)	96 GB	deepseek-r1:32b	58.73	128 000	2.44	42.91
NVIDIA RTX 6000 PRO Blackwell (gen5)	96 GB	deepseek-r1:70b	30.19	112 000	4.5	84,23
NVIDIA RTX A5000 (gen3)	24 GB	deepseek-r1:32b	25.77	12 000	11.49	94.10
2xAMD RADEON AI PRO R9700	2×32 GB	deepseek-r1:32b	25.90	96 000	15.2	92.1
3xAMD RADEON AI PRO R9700	3×32 GB	deepseek-r1:70b	12.77	76 000	17.0	210.1
3×AMD RADEON AI PRO R9700	3×32 GB	gpt-oss:120b	60.75	128 000	21.05	57.34
3×AMD RADEON AI PRO R9700	3×32 GB	qwen3-coder-next:q4_K_M	128 000	17.85	79.55

Наличие 72 ГБ скоростной видеопамяти позволяет PRO 5000 Blackwell уверенно обрабатывать огромные контекстные окна (до 128 000 токенов для моделей среднего калибра в рамках наших тестов, вплоть до архитектурного максимума) и беспрепятственно запускать тяжеловесные нейросети с числом параметров до 120B. Скорость первичной инициализации и загрузки весов в память (Load) впечатляет — всего от 4 до 9 секунд, что свидетельствует об отменной пропускной способности интерфейса.

Сопоставление со старшим собратом (RTX 6000 PRO Blackwell, 96 ГБ)

Несмотря на более скромную аппаратную конфигурацию, в реальных сценариях RTX PRO 5000 дышит в спину флагману, отставая в среднем всего на 15–20%.

DeepSeek-R1 (32B): разрыв в производительности минимален. Младшая карта выдает 50.77 токена/с против 58.73 токена/с у RTX 6000. Временной лаг при генерации ответа составляет всего 8 секунд, а обе модели удерживают максимальный контекст на отметке 128 000 токенов.
DeepSeek-R1 (70B): на более ресурсоемкой модели отставание становится заметнее — 25.08 против 30.19 токена/с (~17%). Здесь вступают в силу ограничения подсистемы памяти: RTX PRO 5000 ограничена контекстом в 96 000 токенов, тогда как 96 ГБ VRAM у флагманской модификации позволяют расширить окно до 112 000 токенов.

Сравнение с предыдущим поколением (RTX A5000, 24 ГБ)

Эволюционный скачок по сравнению с картами позапрошлого поколения колоссален. Он обусловлен не только переходом на микроархитектуру Blackwell, но и трехкратным увеличением объема памяти (даже без учета продвинутых оптимизаций вроде NVFP4).

В задаче с моделью deepseek-r1:32b новая RTX PRO 5000 оказывается почти вдвое быстрее предшественницы (50.77 против 25.77 токена/с). Время ожидания ответа сократилось с полутора минут (94 сек) до комфортных 50 секунд, сказывается синергия новой памяти и передовой логики ядра.

Более того, скромный объем в 24 ГБ у старой RTX A5000 становится узким горлышком, жестко лимитирующим размер контекста 12 000 токенами. В то же время 72 ГБ на борту RTX PRO 5000 дают возможность работать с массивами данных, превышающими этот показатель более чем в 10 раз (128 000+ токенов), радикально меняя сценарии взаимодействия с длинными документами и историей диалогов.

Состязание с решениями от AMD (Radeon AI PRO R9700)

Даже при объединении нескольких ускорителей AMD в единый кластер, одиночная карта RTX PRO 5000 доминирует по скорости генерации. Во многом это заслуга более зрелой и глубокой программной оптимизации экосистемы NVIDIA CUDA. Впрочем, нельзя не отметить финансовый аспект: стоимость трех карт AI PRO R970 (от 200 000 рублей за штуку) сопоставима с ценой одной PRO 5000 на 48 ГБ, но на выходе пользователь получает те же 96 ГБ суммарной VRAM.

DeepSeek-R1 (32B): одиночная RTX 5000 опережает связку из двух плат AMD R9 7700 ровно в два раза;
GPT-OSS (120B): RTX 5000 демонстрирует феноменальные 156.52 токена/с, оставляя трио от AMD позади (60.75 токена/с) с двукратным с половиной отрывом. Ответ от NVIDIA формируется за 21 секунду против почти минуты (57 секунд) у конкурента;
Qwen3-Coder-Next (q4_K_M): здесь зафиксирован полный разгром «красного» лагеря. Ускоритель от NVIDIA выдает 192.13 токена/с, что превосходит результат трех карт AMD (37.42 токена/с) более чем в пять раз. Генерация завершается за 15 секунд вместо почти 80 секунд на платформе AMD.

Пул карт AMD привлекает в первую очередь ценой и общим объемом памяти при масштабировании, однако в чисто вычислительных задачах они существенно уступают дискретному решению среднего уровня на архитектуре Blackwell.

Практический тест в реальных условиях

Синтетика синтетикой, но реальные рабочие нагрузки гораздо показательнее. Мы протестировали GPU в сценарии «вайбкодинга» с использованием MiMo Code (аналога Open Code от Xiaomi), подключив его через Ollama к модели Qwen3-Coder-Next. В качестве подопытного стенда выступил наш собственный проект системы товарного учета с поддержкой госмониторинга «Честный знак».

Ускоритель стабильно выдавал от 100 до 120 токенов в секунду, безупречно справляясь с агентскими сценариями. Незначительное падение производительности наблюдалось лишь при выходе контекстного окна за пределы 200 000 токенов (при архитектурном пределе самой модели в 256 000).

При переходе на более массивную модель (gpt-oss-120b) скорость закономерно снижалась до 40–50 токенов в секунду, однако отзывчивость системы оставалась на уровне платных облачных подписок Xiaomi.

Итоги

Напиши мы этот материал полгода назад, вердикт звучал бы однозначно: «лучше переплатить и взять RTX PRO 6000 Blackwell».

Однако в реалиях сегодняшнего рынка с его ценниками и дефицитом полупроводников NVIDIA RTX PRO 5000 Blackwell заслуженно претендует на звание идеального компромисса для исследователей, инженеров и энтузиастов, развертывающих локальные LLM. В задачах инференса этот ускоритель уступает флагману всего четверть, потребляя при этом вдвое меньше энергии и кратно превосходя предыдущее поколение (A5000), полностью снимая проблему жестких лимитов контекста.

Благодаря полноценной поддержке механизма MIG 2 плату можно динамически разделить на две изолированные виртуальные единицы с 36 ГБ памяти на каждую и гарантированным уровнем сервиса (QoS), что открывает отличные возможности для оптимизации затрат в облачных GPU-инфраструктурах.

Серверы с GPU NVIDIA и AMD

Посмотреть

Источник