ИИ-ускорители Nvidia Feynman могут оснастить выделенными языковыми процессорами (LPU) поверх основного кристалла GPU

Недавно стало известно о заключении «неисключительного лицензионного соглашения» между Nvidia и Groq, которое по своему характеру практически эквивалентно стратегическому поглощению. Согласно инсайдерской информации, перспективные ИИ-ускорители архитектуры Feynman могут получить интегрированные чипы на базе технологий Groq, при этом их физическая компоновка будет напоминать структуру процессоров Ryzen X3D. 

Ожидается, что помимо основного графического процессора (GPU), ускорители нового поколения будут оснащены специализированными блоками LPU (Language Processing Unit), спроектированными инженерами Groq. Nvidia планирует интегрировать их непосредственно поверх основного кристалла, используя передовую технологию межсоединений TSMC SoIC. Подобный метод вертикального монтажа аналогичен тому, как чипы 3D V-Cache размещаются в современных процессорах Ryzen X3D.  

Технология LPU от Groq представляет собой высокопроизводительный аппаратный модуль, оптимизированный для обработки естественного языка. Судя по результатам независимых тестов, данный языковой процессор является одним из наиболее эффективных решений для вывода (инференса) нейросетевых моделей на сегодняшний день. На текущий момент на рынке отсутствуют аналогичные ИИ-ускорители, а конкуренты вряд ли смогут в сжатые сроки представить достойную альтернативу этой разработке.  

Стоит отметить, что архитектура Feynman должна сменить поколение Rubin Ultra. Точные даты релиза пока не раскрываются, однако известно, что сами Rubin Ultra дебютируют не раньше 2027 года. Решения Feynman будут базироваться на сверхсовременном 1,6-нанометровом техпроцессе, а энергопотребление одного такого устройства может достигать внушительных 4,4 кВт.  

Источник: iXBT