Сэм Альтман назвал оперативную память в компьютерах ужасной тратой дефицитных ресурсов

Сэм Альтман, глава OpenAI: ^[1]

Локальный инференс — крайне неэффективный способ распределения дефицитных ресурсов. Многие стремятся запускать модели на своих устройствах, считая, что с появлением моделей с открытым исходным кодом потребность в мощностях дата-центров исчезает. Однако в мировом масштабе такой подход крайне нерационален: существенная доля мировых запасов оперативной памяти (DRAM) находится в пользовательских компьютерах, где она задействована лишь пять процентов времени. При острой нехватке ресурсов следует стремиться к максимальной загрузке облачных мощностей.

Любопытно, что интуиция подсказывает многим людям прямо противоположное.

Напомню, что именно OpenAI спровоцировала этот дефицит, заказав у Samsung и SK Hynix 40% мирового объёма производства DRAM. В результате контрактные цены на память резко выросли на 171%.

Также напомню, что модель с открытыми весами Qwen3.8–27b демонстрирует результаты на уровне лучших моделей недавнего прошлого, не отправляет данные в облако и работает локально при наличии 16–24 ГБ видеопамяти. А Ling-3.0-tiny можно запустить с 8 ГБ видеопамяти или на центральном процессоре.

Источник