Nvidia снова делает упор на производительность одного ядра — этого требуют ИИ-агенты

В Nvidia уверены, что развитие ИИ-агентов меняет требования к серверным процессорам: после долгой гонки за числом ядер отрасли вновь нужна высокая производительность каждого из них. В интервью Wccftech разработчики объяснили, что процессоры эпохи облачных вычислений создавались прежде всего ради пропускной способности и плотности ядер, а скорость в однопоточных задачах нередко отходила на второй план. Однако ИИ-агенты постоянно переключаются между вычислениями на GPU и последовательными операциями на CPU, поэтому медленное выполнение одного шага может привести к простою дорогого ускорителя.

Решением этой проблемы Nvidia считает процессор Vera, который создаётся для ИИ-инфраструктуры и агентных вычислений. В отличие от многих конкурентов, использующих многокристальную компоновку, Vera построена на одном монолитном вычислительном кристалле, благодаря чему ядра обмениваются данными без дополнительных задержек, неизбежных при передаче между чиплетами. Среди заявленных особенностей — высокоскоростная память LPDDR5X и двунаправленная пропускная способность между половинами кристалла (bisection bandwidth) на уровне 3,4 ТБ/с. По оценке Nvidia, этот показатель примерно втрое выше, чем у ведущих x86-процессоров.

По данным компании, Vera на 50% производительнее предыдущего процессора Nvidia Grace. В агентных сценариях, включая запуск Python-скриптов и компиляцию кода, разработчики обещают преимущество до двух раз над ведущими x86-решениями, а среднее геометрическое превосходство в выбранном наборе таких задач составляет 1,6 раза. Кроме того, Nvidia применяет собственную схему пространственной многопоточности, которая разделяет работу потоков на вычисления и операции ввода-вывода. По словам команды, тесты показали: такой подход даёт прирост производительности около 20%, а не снижает её из-за дополнительных накладных расходов.

Есть и ещё одно изменение: Vera позиционируется не только как хост-процессор для GPU-серверов, но и как самостоятельное решение для стоек, целиком заполненных CPU. Такие системы способны обрабатывать вызовы инструментов ИИ-агентами и задачи обучения с подкреплением, не занимая ресурсы графических ускорителей. Nvidia не подтверждает обсуждаемый в отрасли прогноз о соотношении 80 CPU на один GPU, но признаёт, что рост числа агентных задач повышает спрос на процессорные мощности. Некоторые поставщики инфраструктуры уже обслуживают сотни тысяч изолированных программных сред для одного клиента.

Разработчики подчёркивают, что монолитная компоновка не означает полного отказа от чиплетов: выбор архитектуры будет зависеть от задач и запросов рынка. Главная мысль Nvidia состоит в том, что для инфраструктуры агентного ИИ важны не только число ядер и общая пропускная способность, но и скорость последовательных операций, доступ к памяти и обмен данными между ядрами. По мнению компании, именно эти качества помогут Vera удерживать высокую загрузку GPU в системах, где ИИ-агенты выполняют множество мелких взаимосвязанных задач.

Источник: iXBT