RTX 6000 Ada Blackwell в 4 раза эффективнее четырех RTX 5090 в задачах ИИ

Согласно результатам недавнего сравнительного анализа, представленного пользователем Steveibe в социальной сети X, профессиональный графический ускоритель Nvidia RTX PRO 6000 Blackwell способен на равных конкурировать с квартетом GeForce RTX 5090 в задачах искусственного интеллекта, при этом демонстрируя значительно более низкие показатели энергопотребления. Эксперт оценил возможности оборудования при запуске масштабной языковой модели MiniMax M2.7, содержащей 230 миллиардов параметров.

В ходе тестирования применялась квантованная модель IQ3_XXS — это оптимальный выбор для систем с дефицитом VRAM, который позволил практически полностью загрузить 96 ГБ видеопамяти ускорителя RTX PRO 6000 Blackwell. Параметры генерации включали контекстное окно в 32K токенов и лимит ответа в 4096 токенов.

Итоговая производительность четырех GeForce RTX 5090 составила 120,54 токена в секунду при задержке отклика первого токена в 725 мс. Профессиональная модель RTX PRO 6000 Blackwell показала практически идентичные показатели: 118,74 токена в секунду с задержкой 765 мс. Для сравнения: связка из четырех RTX 4090 продемонстрировала куда более скромный результат — 71,52 токена в секунду, в то время как DGX Spark едва достиг отметки в 24,41 токена в секунду.

Критически важным фактором стала энергоэффективность: если пиковое энергопотребление массива из четырех GeForce RTX 5090 достигает 2300 Вт, а RTX 4090 — около 1800 Вт, то один профессиональный ускоритель Blackwell потребляет всего 600 Вт.

Экономический аспект также говорит в пользу профессионального решения: стоимость RTX PRO 6000 Blackwell составляет около 9500 долларов, что значительно доступнее комплекта из четырех GeForce RTX 5090, цена которого достигает 14 000 долларов. При этом бюджетный DGX Spark за 4700 долларов проигрывает конкурентам по производительности с огромным отрывом.

Источник: iXBT