Пока самые производительные ускорители для ИИ стоят десятки тысяч долларов, китайская компания Intellifusion представила своё решение, которое на несколько порядок дешевле.
Блок ИИ под названием Deep Eyes представлен в виде SoC DeepEdge10Max и обойдётся клиентам всего в 140 долларов. Само собой, при такой цене речь идёт об очень скромной производительности — 48 TOPS. Это в несколько раз больше, чем в современных процессорах Intel и AMD, но вот SoC Snapdragon X Elite будет иметь производительность блока NPU до 75 TOPS. К слову, напомним, для запуска ряда функций ИИ Copilot локально на процессоре ПК нужен блок NPU с производительностью не менее 40 TOPS.
Для сравнения, Nvidia H100 в том же режиме INT8 имеет производительность почти 4000 TOPS, то есть почти в 30 раз выше, но стоит в 200-400 раз больше. Впрочем, такое сравнение имеет смысл только с точки зрения демонстрации разных уровней чипов — сами по себе продукты несравнимы, и не только из-за разной производительности.
Компания также собирается позже выпустить SoC DeepEdge10Pro с блоком ИИ производительностью 24 TOPS и DeepEdge10Ultra с производительностью 96 TOPS.
Все эти решения являются собственными разработками компании и опираются на специальный нейронный чип Intellifusion NNP400T. В конфигурацию SoC также входит 10-ядерный процессор RISC-V с частотой 1,8 ГГц, GPU с частотой 800 МГц, а производиться всё это будет по техпроцессу 14 нм.
Источник: iXBT