Память Samsung HBM-PIM ускоряет работу искусственного интеллекта

Компания Samsung Electronics объявила о разработке первой в отрасли памяти с высокой пропускной способностью и встроенными цепями обработки данных — HBM-PIM (High Bandwidth Memory integrated with Processing-In-Memory). Как утверждается, эта память позволит ускорить работу алгоритмов искусственного интеллекта — в центрах обработки данных, суперкомпьютерах и мобильных устройствах.

Основой большинства современных вычислительных систем служит архитектура фон Неймана, в которой хранение и обработка данных разделены. Такой подход требует постоянного перемещения данных, что приводит к замедлению работы системы, особенно заметному при обработке больших объемов данных.

В HBM-PIM вычислительный ресурс находится непосредственно в месте хранения данных — оптимизированный для DRAM «движок ИИ» есть в каждом банке памяти, обеспечивая параллельную обработку и уменьшая потребность в перемещении данных. По сравнению с памятью Samsung HBM2 Aquabolt новая архитектура способна более чем удвоить производительность системы при снижении энергопотребления более чем на 70%. При этом HBM-PIM не требует каких-либо изменений аппаратного или программного обеспечения, за счет чего облегчается ее интеграция в существующие системы.

В настоящее время новая память тестируется в ускорителях искусственного интеллекта ведущими партнерами Samsung. Ожидается, что этот испытания завершатся в текущем полугодии.