Зачем серверам дорогая оперативная память? Технология AMD MEXT позволяет заменить до 75% ОЗУ флеш-накопителями
Источник изображения: ИИ Gemini
AMD представила MEXT — технологию, которая позволяет расширять оперативную память серверов на базе процессоров EPYC с помощью недорогой флеш-памяти. Разработка призвана уменьшить зависимость дата-центров от дефицитной и дорожающей DRAM, на которую, по оценкам компании, приходится до 75% затрат на серверное оборудование.
Суть подхода состоит в переносе части нагрузки с оперативной памяти на обычные NVMe-накопители. Флеш-память примерно вдвое дешевле DRAM и расходует в 30 раз меньше энергии, однако уступает ей в скорости приблизительно в 500 раз. Чтобы сгладить эту разницу, AMD применяет алгоритмы искусственного интеллекта, которые анализируют обращения к данным и прогнозируют, какая информация вскоре потребуется процессору.
Часто используемые данные остаются в быстрой DRAM, а информация, к которой обращаются реже, перемещается на флеш-накопитель. Если алгоритм предсказывает скорый запрос к этим данным, он заранее возвращает их в оперативную память. Для приложений и операционной системы дополнительная флеш-память при этом должна выглядеть как расширение привычной RAM.
В состав MEXT входят специализированный драйвер для Linux, ИИ-движок и инструмент RAM View для контроля использования памяти. Алгоритмы выполняются на одном ядре процессора EPYC, обходятся без отдельного графического ускорителя и способны обучаться менее чем за секунду. По утверждению AMD, внедрение технологии не требует изменений в аппаратной конфигурации или программном обеспечении серверов.
По данным компании, MEXT сокращает потребность в DRAM на 20–75%, сохраняя в ряде задач производительность, близкую к исходной. В отдельных испытаниях система, использующая 50% оперативной и 50% флеш-памяти, достигала 99% производительности конфигурации, полностью основанной на DRAM. Для проектирования микросхем и работы с ИИ AMD приводит и другие показатели: в некоторых сценариях сочетание 25% DRAM и 75% MEXT обеспечивало до 3,5 раза более высокую производительность на каждый доллар, потраченный на оперативную память.
AMD уже внедряет MEXT в собственную серверную инфраструктуру и готовит технологию к более широкому распространению. Компания оценивает возможную экономию при первоначальном развёртывании в 83% по сравнению с использованием только DRAM. При увеличении числа серверов со 145 до 2000 к 2027 году это позволит избежать расходов примерно на $4,9 млн. В перспективе AMD также рассматривает применение разработки не только в дата-центрах, но и в персональных компьютерах.
Источник: iXBT
33 мощнейших двигателя Raptor 3 вблизи: SpaceX показала ускоритель Super Heavy B22, который поймают «Мехазиллой»
Представлено умное кольцо Rogbid VitalRing: титановый корпус, вес 5 граммов, водозащита и ЭКГ
Не только GeForce RTX 5090 и 5080: у владельца RTX 5070 расплавился разъём питания
Представлена спутниковая антенна Starlink Mini 2 со сменной батареей, защитой IP67 и Wi-Fi 6
Xiaomi Watch S5 выходят за пределы Китая: 14 дней без подзарядки, HyperOS 4, офлайн-навигация, NFC и водозащита
Вместо обычных камер наблюдения — летающий дрон и ездящий ровер: Ring представила Drone Cam и Rover Cam
Физики обнаружили лазейку в законах термодинамики, допускающую разделение чёрных дыр надвое
ОМК может купить фабрику разработчика российских процессоров «ЭЛВИС»: в микроэлектронике готовится крупная сделка