RTX 5090 с 96 ГБ памяти: почему характеристики не сходятся

При недостатке видеопамяти скорость генерации может снижаться в десятки раз. Мощные видеокарты, способные решить эту проблему, сегодня в дефиците и стоят недешево. Китайские компании предлагают альтернативу: модифицируют серийные GPU, увеличивая объем памяти RTX 4090 и RTX 5090 в два-три раза. Мы изучили, какие карты с расширенной памятью представлены на рынке, какие официальные модели они могут заменить и как выглядят на фоне профессиональных GPU, для которых 48 или 96 ГБ памяти — штатная характеристика.

RTX 5090 с 96 ГБ

В сентябре на Alibaba появилась RTX 5090 с 96 ГБ видеопамяти, вызвав заметный интерес. Ее предлагает Shenzhen Suqiao Intelligent Technology — китайский OEM/ODM-производитель видеокарт, материнских плат и серверов. Аналогичные объявления встречались и у других продавцов.

Чтобы получить такой объем, разработчики, вероятно, использовали двустороннюю печатную плату с модулями памяти на обеих сторонах. Кроме того, им пришлось изменить прошивку, чтобы карта правильно распознавала и адресовала увеличенный объем VRAM.

Сравним заявленные характеристики модифицированной карты с параметрами официальной RTX 5090.

Модифицированная RTX 5090 с 96 ГБ	Оригинальная RTX 5090 с 32 ГБ
Графический процессор: GB202	Графический процессор: GB202
Объем памяти: 96 ГБ	Объем памяти: 32 ГБ
Тип видеопамяти: GDDR6	Тип видеопамяти: GDDR7
Интерфейс: PCIe 5.0 x16	Интерфейс: PCIe 5.0 x16
Частота ядра: 2235 МГц	Частота ядра: базовая — 2017 МГц, в турборежиме — до 2407 МГц
Разрядность шины памяти: 256 бит	Разрядность шины памяти: 512 бит

В заявленных параметрах есть противоречия. Указана память GDDR6, однако для достижения объема 96 ГБ потребовались бы чипы по 3 ГБ. Среди серийных GDDR6 и GDDR6X таких нет: их максимальная емкость составляет 2 ГБ на чип. Модули по 3 ГБ выпускаются только в формате GDDR7 — например, они установлены в RTX PRO 6000 Blackwell. Вопросы вызывает и шина: для 96 ГБ нужны 512-битная шина и 32 чипа.

Главное преимущество модифицированной RTX 5090 — сравнительно низкая цена за 96 ГБ видеопамяти. На Alibaba карту предлагают за 3900–5900 долларов, но эта сумма плохо согласуется с предполагаемой себестоимостью. Одни только донорские RTX 5090 на 32 ГБ уже стоят дороже, а ведь нужно учитывать еще и цену дополнительных модулей памяти. В результате заявленная стоимость, как минимум втрое меньшая, чем у RTX PRO 6000 Blackwell на 96 ГБ, на практике может оказаться выше. Если, конечно, такие карты вообще кому-то отгружают: реальных экземпляров пока не замечено.

Главный технический барьер — прошивка. NVIDIA подписывает VBIOS, поэтому установить модифицированный образ просто так не получится. Применительно к Blackwell пока были лишь слухи об утечке прошивки RTX 5090.

А что известно о реальных экземплярах? Карта представлена на витринах уже больше двух месяцев, но подтверждений ее использования мы не нашли:

• нет обзоров или разборов карты, купленной на Alibaba;

• нет скриншотов GPU-Z или nvidia-smi из надежных источников;

• нет отзывов владельцев и результатов нагрузочных тестов.

В этой теме уже встречались подделки: например, в сети распространялся скриншот nvidia-smi с «RTX 5090 на 128 ГБ», подлинность которого так и не подтвердилась. Мы в mClouds тоже иногда получаем запросы на аренду RTX 5090 с 96 и даже 128 ГБ памяти, но пока не видели ни достоверных фотографий, ни обзоров таких карт.

Остается ждать реальных отзывов об RTX 5090 на 96 ГБ: в предложениях продавцов она есть, но практическое использование пока не подтверждено.

Если для работы с моделями или других задач нужны 96 ГБ видеопамяти, реальным вариантом для покупки или аренды пока остается RTX PRO 6000 на 96 ГБ. Эти карты также доступны в нашем облаке.

RTX 4090 с 48 ГБ

С RTX 4090 ситуация иная: это уже не новинка, существование которой остается под вопросом, а вполне реальное решение, применяемое на практике. Некоторые российские провайдеры сдают такие карты в аренду, другие пользователи приобрели их для собственной инфраструктуры. Стабильность зависит от конкретного экземпляра, поэтому карты необходимо тестировать и отбраковывать.

Принцип модификации похож: кристалл AD102 переносят на двустороннюю плату по образцу RTX 3090, рассчитанную на 24 модуля памяти. На оригинальной плате RTX 4090 предусмотрено 12 посадочных мест. В результате модифицированная карта получает 24 чипа GDDR6X по 2 ГБ.

Сравним характеристики доработанной и официальной RTX 4090.

RTX 4090 48 ГБ	NVIDIA GeForce RTX 4090
Графический процессор: AD102	Графический процессор: AD102
Объем памяти: 48 ГБ	Объем памяти: 24 ГБ
Тип видеопамяти: GDDR6X	Тип видеопамяти: GDDR6X
Интерфейс: PCI Express 4.0 ×16	Интерфейс: PCI Express 4.0 ×16
Частота ядра: 2235 МГц	Базовая частота: 2235 МГц

Дополнительные модули GDDR6X увеличивают объем памяти, но могут осложнять охлаждение. Для предотвращения локального перегрева и троттлинга в модифицированных картах часто используют турбинный вентилятор. Рабочие температуры таких устройств выше, поэтому под нагрузкой за ними нужно следить особенно внимательно. Кроме того, китайская модификация довольно шумная: уровень шума может достигать 65 дБ.

Официальная альтернатива — NVIDIA L40S. Она построена на том же кристалле AD102 и оснащена 48 ГБ памяти, но поддерживает ECC и использует пассивное охлаждение, рассчитанное на серверную стойку. L40S востребована, стабильна в работе, потребляет меньше энергии и лучше справляется с нагревом.

Что предлагает RTX PRO 6000 Blackwell с 96 ГБ?

NVIDIA выпустила три версии RTX PRO 6000:

• RTX PRO 6000 Blackwell Server Edition — для серверов и многокарточных конфигураций, с пассивным охлаждением.

• RTX PRO 6000 Blackwell Workstation Edition — версия для рабочих станций.

• RTX PRO 6000 Blackwell Max-Q Workstation Edition — решение для рабочих станций с потреблением 300 Вт и возможностью использовать несколько GPU.

Основные характеристики всех трех версий совпадают:

Графический процессор	GB202 с 24 064 ядрами CUDA
Объем памяти	96 ГБ
Видеопамять	GDDR7 с ECC
Тип интерфейса	PCIe 5.0 x16

Сейчас RTX PRO 6000 Blackwell — оптимальный вариант для проектов, которым требуется более 80 ГБ видеопамяти.

Увеличенное количество усовершенствованных ядер CUDA, а также продвинутые энкодеры и декодеры NVENC и NVDEC ускоряют рендеринг. Поддержка вычислений FP4 повышает производительность инференса.

Две RTX PRO 6000 можно пробросить в одну виртуальную машину и получить в ее распоряжение 192 ГБ видеопамяти. Обмен данными между картами при этом осуществляется через PCIe 5.0.

Сравнение видеокарт по ключевым параметрам

	Модифицированная RTX 5090 96 ГБ	Модифицированная RTX 4090 48 ГБ	RTX PRO 6000 Blackwell	NVIDIA L40S
Объем памяти	96 ГБ	48 ГБ	96 ГБ	48 ГБ
Графический процессор	GB202	AD102	GB202	AD102
Тип видеопамяти	GDDR6/6X, но должна быть GDDR7	GDDR6X	GDDR7 с ECC	GDDR6 с ECC
Разрядность шины памяти	Заявлено 256 бит	384 бита	512 бит	384 бита

Еще один вариант — пара L40S. Вместе они дают те же 96 ГБ памяти и даже превосходят PRO 6000 по производительности в FP8: 1466 TFLOPS против примерно 1000. Число видеодвижков у пары тоже больше: шесть NVENC/NVDEC против четырех. Недостаток такого решения — необходимость распределять модель между картами. В любом случае конфигурацию стоит проверить на собственных задачах.

Что в итоге?

Модифицированные видеокарты представляют собой два принципиально разных случая. RTX 4090 на 48 ГБ — реальный и доступный вариант: такие устройства уже работают в облаках, а некоторые пользователи приобрели их для себя. Правда, стоимость покупки и аренды тоже выросла. Это компромиссное, но понятное решение. Если стабильность при круглосуточной работе важнее компромиссов, оптимальным выбором среди карт на 48 ГБ будет NVIDIA L40S. Модифицированная RTX 5090 на 96 ГБ пока существует лишь в карточках товаров: ее характеристики противоречивы, цена не согласуется с предполагаемой себестоимостью, а реальные экземпляры никто не показал. Поэтому для задач с потребностью в 96 ГБ оптимальным вариантом по-прежнему остается RTX PRO 6000.

А вы бы использовали перепаянную карту в продакшене? Или, возможно, уже встречали RTX 5090 на 96 ГБ в реальности?

 

Источник