6 ТБ памяти с пропускной способностью 1 ПБ/с и потреблением в несколько киловатт: планы HBM обещают невероятные устройства

Современные ИИ-ускорители высшего класса полагаются на память HBM3E, предоставляя до 300 ГБ этой памяти. В следующем году AMD планирует представить мощное устройство с 432 ГБ памяти. Однако, согласно дорожной карте развития памяти HBM, через 10 лет эти цифры покажутся минимальными.

На недавней презентации исследователи института KAIST (Korea Advanced Institute of Science & Technology) и лаборатории Tera (Terabyte Interconnection and Package Laboratory) представили будущее развитие HBM, раскрывая то, что можно ожидать от новых стандартов. В документах упоминаются как HBM4, готовая к выходу на рынок, так и более далекие поколения вплоть до HBM7 и 8.

Текущие решения HBM3E уже впечатляют своей производительностью и объемом, но будущие разработки обещают быть ещё более захватывающими.

Интересно, что рассказ о памяти включал также информацию о GPU Nvidia. В следующем поколении ИИ-ускорителей Rubin предполагается наличие двух GPU и восьми стеков HBM4 с пропускной способностью до 32 ТБ/с и объемом до 384 ГБ. Но через 10 лет могут появиться GPU из восьми кристаллов с 32 стеками HBM7, предоставляющей пропускную способность в 1 ПБ/с с объемом до 6 ТБ! Энергопотребление такого гиганта составит около 15 кВт.

Конечно, это приблизительные данные, но они выглядят вполне правдоподобно.

Отдельное внимание заслуживает HBM7, так как ожидается, что потребление каждой GPU не превышает 1200 Вт. При наличии восьми таких чипов, это составляет менее 10 кВт, что подразумевает, что одиночная память потребляет около 3-5 кВт.

Источник: iXBT