Компания AMD представила ускорители линейки Instinct MI300. Одноимённую модель нам впервые представили ещё в январе, теперь же AMD расширила линейку и раскрыла новые детали.
Instinct MI300 сама AMD называет именно ускорителем, хотя в целом его можно назвать и гибридным процессором. Правда, с определёнными оговорками, так как всё-таки с потребительскими APU данные монстры имеют мало общего. Собственно, термин APU компания также использует.
Также тут стоит отметить, что в линейке имеются две модели, и гибридным процессором по своей сути является лишь одна, так как вторая лишена CPU, то есть это ускоритель на основе GPU.
Итак, тот ускоритель, который в январе называли просто MI300, теперь называется Instinct MI300A. Именно он представляет наибольший интерес с точки зрения технической реализации, так как ничего подобного на рынке не существует.
Это гигантский APU, в состав которого входят 24 ядра Zen 4, GPU на основе архитектуры CDNA 3 и 128 ГБ памяти HBM3. AMD не раскрывает конфигурацию GPU, но ресурс WWCF Tech утверждает, что речь идёт о 228 блоках CU. Если их конфигурация не изменилась относительно MI200, то речь идёт о 14 592 потоковых процессорах.
Для производства разных чиплетов AMD использует техпроцессы 5 и 6 нм. Такой APU содержит 146 млрд транзисторов. Это больше, чем у Apple M2 Ultra.
Ещё больше транзисторный бюджет у Instinct MI300X — 153 млрд транзисторов. Судя по всему, это самый большой и сложный GPU в мире, но тут стоит отметить, что в общем количестве транзисторов явно учтены и транзисторы микросхем памяти. А памяти тут 192 ГБ (HBM3) с пропускной способностью 5,2 ТБ/с! Пропускная способность шины Infinity Fabric достигает 896 ГБ/с.
Для Instinct MI300X также не раскрывает количество блоков CU, но тот же источник говорит о 304, то есть 19 546 потоковых процессорах.
Линейка APU AMD Instinct MI300 будет совместима с совершенно новым сокетом, известным как SH5, который позволит объединить до четырех таких чипов вместе с использованием Infinity Fabric.
Именно на основе Instinct MI300 будет построен суперкомпьютер El Capitan с производительностью 2 эксафлопса. Также AMD отмечает, что Instinct MI300X является самым совершенным в мире ускорителем генеративного ИИ. В частности, благодаря огромному объёму памяти, клиенты AMD могут устанавливать большие языковые модели, такие как Falcon-40, с 40 млрд параметров на одном ускорителе.
APU Instinct MI300A доступны сразу после презентации, а Instinct MI300X появятся в следующем квартале.
Напомним, сегодня AMD также представила 128-ядерные процессоры Epyc Bergamo и Epyc Genoa-X с более чем 1 ГБ кэш-памяти.
Источник: iXBT