Чип ИИ от Intellifusion: в 30 раз слабее, но в 200-400 раз дешевле, чем Nvidia H100

Пока самые производительные ускорители для ИИ стоят десятки тысяч долларов, китайская компания Intellifusion представила своё решение, которое на несколько порядок дешевле. 

Чип ИИ от Intellifusion: в 30 раз слабее, но в 200-400 раз дешевле, чем Nvidia H100

Блок ИИ под названием Deep Eyes представлен в виде SoC DeepEdge10Max и обойдётся клиентам всего в 140 долларов. Само собой, при такой цене речь идёт об очень скромной производительности — 48 TOPS. Это в несколько раз больше, чем в современных процессорах Intel и AMD, но вот SoC Snapdragon X Elite будет иметь производительность блока NPU до 75 TOPS. К слову, напомним, для запуска ряда функций ИИ Copilot локально на процессоре ПК нужен блок NPU с производительностью не менее 40 TOPS

Для сравнения, Nvidia H100 в том же режиме INT8 имеет производительность почти 4000 TOPS, то есть почти в 30 раз выше, но стоит в 200-400 раз больше. Впрочем, такое сравнение имеет смысл только с точки зрения демонстрации разных уровней чипов — сами по себе продукты несравнимы, и не только из-за разной производительности. 

Компания также собирается позже выпустить SoC DeepEdge10Pro с блоком ИИ производительностью 24 TOPS и DeepEdge10Ultra с производительностью 96 TOPS. 

Все эти решения являются собственными разработками компании и опираются на специальный нейронный чип Intellifusion NNP400T. В конфигурацию SoC также входит 10-ядерный процессор RISC-V с частотой 1,8 ГГц, GPU с частотой 800 МГц, а производиться всё это будет по техпроцессу 14 нм.  

 

Источник: iXBT

Читайте также