Процессоры AMD с 3D V-Cache показали превосходство над обычными CPU в задачах ИИ

Свежие испытания подтвердили, что процессоры AMD, оснащенные технологией вертикального кэша, обеспечивают значительное преимущество не только в гейминге, но и при выполнении задач, связанных с искусственным интеллектом. В рамках X3D RAG Benchmark, оценивающего быстродействие локальных RAG-пайплайнов (архитектуры ИИ, базирующейся на поиске в сторонних источниках для генерации точных ответов), чипы с увеличенным объемом кэш-памяти продемонстрировали впечатляющий отрыв от стандартных версий.

Поскольку функционирование RAG-систем опирается на внешние базы данных, основная вычислительная нагрузка при поиске ложится именно на центральный процессор, а не на графический адаптер. В этом контексте архитектурные особенности CPU и емкость его кэша становятся критическими факторами, определяющими общую производительность системы.

В тесте Batch Search 100K процессоры AMD с 3D V-Cache оказались до 88% эффективнее своих аналогов без расширенного кэша. В более ресурсоемком сценарии Batch Search 200K модель Ryzen 7 9850X3D превзошла Ryzen 7 9700X более чем на 50%. Примечательно, что даже при сравнении 8-ядерных моделей, версия с V-Cache в ряде тестов уверенно опережала флагманский 16-ядерный Ryzen 9 9950X.

Существенное ускорение наблюдалось и при индексировании данных: в режиме Index Build 100K время обработки сократилось наполовину, а в задаче 200K — на 39%. Минимальная разница зафиксирована лишь в показателе TTFT (время генерации первого токена), так как на этот этап решающее влияние оказывает мощность видеокарты.

Таким образом, бенчмарк наглядно демонстрирует, что процессоры AMD с технологией 3D V-Cache — это оптимальное решение для развертывания компактных локальных RAG-систем, требующих высокой скорости поиска и стабильной обработки параллельных запросов.

Источник: iXBT