Однако показатели быстродействия весьма умеренные
Корпорация Unigen анонсировала выпуск модуля Amaretti E1.S AI — специализированного ускорителя для нейросетевых вычислений, выполненного в компактном стандарте E1.S.
В основе устройства лежит чип EdgeCortix SAKURA-II, чья вычислительная мощность ограничивается 60 TOPS. Данный показатель лишь незначительно превышает возможности актуальных APU серий Ryzen AI 300 и 400.
Тем не менее, преимущество новинки заключается в наличии выделенной оперативной памяти объемом 16 или 32 ГБ при крайне скромном энергопотреблении в 10 Вт. Разработчик утверждает, что решение демонстрирует эталонную энергоэффективность в своем классе.
Такой баланс параметров дает возможность корпоративным заказчикам развертывать локальные большие языковые модели (LLM) объемом до 20 миллиардов параметров, не опасаясь перегрева оборудования и не выходя за рамки жестких лимитов потребления энергии.
Благодаря форм-фактору E1.S модуль отличается минимальными габаритами. Стоимость изделия на текущий момент не разглашается.
Источник: iXBT
