На мероприятии Advancing AI компания AMD продемонстрировала, что даже самые совершенные ИИ-ускорители требуют поддержки мощных процессоров. В докладе были приведены данные, показывающие, что системы на базе процессоров AMD EPYC 9005 обеспечивают до 17% более высокую производительность в ИИ-задачах по сравнению с решениями от Intel.
Сегодня особенно много говорят об ускорителях Instinct MI300X — AMD активно продвигает их для обучения и работы с нейросетями. Однако, как отметил вице-президент компании Форрест Норрод, максимальной эффективности можно достичь только при гармоничном взаимодействии CPU и GPU.
В качестве примера компания сравнила два сервера: один на базе Intel Xeon 8592+ (пятое поколение), другой на EPYC 9575F, оба с 64 ядрами и аналогичным энергопотреблением. При тестировании с моделью Llama 3.1 8B конфигурация с EPYC продемонстрировала:
- в среднем на 6% более высокую производительность при выводе;
- до 17% лучшее выполнение с увеличением числа параметров модели.
Тесты проводились совместно с ускорителями Instinct MI300X, поэтому особое внимание уделялось совместной работе процессоров и графических ускорителей.
AMD также сообщила, что спрос на EPYC в дата-центрах стремительно растет, благодаря их высокой производительности, энергоэффективности и гибкости платформы. Для организаций, работающих с ИИ, это ясно указывает на то, что правильный выбор процессора является ключевым фактором эффективности инвестиций в ИИ-технологии.
***
Автор обложки: Wccftech. Источник: Wccftech
Источник: iXBT.games
