Китайская компания DeepSeek демонстрирует передовые методы работы с ИИ: их алгоритм увеличивает эффективность ускорителей Nvidia в восемь раз

В то время как Китай ограничен в доступе к передовым и наиболее мощным ускорителям AI от компании Nvidia, кажется, что их потребность в этих устройствах уменьшается.

DeepSeek, компания, услышавшееся благодаря своей нейросети, теперь заявляет об успешном достижении 580 TFLOPS производительности в режиме BF16 на ускорителе Nvidia H800. Это примерно в восемь раз больше, чем стандартные показатели этой модели.

Кроме того, благодаря рациональному использованию памяти, новое декодирующее ядро FlashMLA — главная особенность разработки — обеспечивает скорость передачи данных до 3000 ГБ/с, что вдвое превышает теоретический предел H800. Это все благодаря программным оптимизациям, что нашел свое отражение в том, что использование самых мощных вычислительных устройств не всегда необходимо для значительного роста производительности; иногда достаточно улучшений на уровне программного обеспечения.

Однако следует помнить, что существует альтернативная точка зрения касательно экономичности обучения DeepSeek. Если и другие компании смогут обеспечить аналогичные улучшения производительности на старых моделях ускорителей, это может быстро изменить рынок, который сегодня активно развивается в условиях гонки за увеличением производительности AI-устройств.

Источник: iXBT