Microsoft внедрила новый способ работы RDMA: несколько ПК можно объединять по USB4 для запуска больших ИИ-моделей
Источник изображения: Videocardz
Microsoft реализовала поддержку RDMA (Remote Direct Memory Access) через USB. Это позволяет объединять несколько компьютеров для запуска более крупных моделей искусственного интеллекта.
Для соединения требуется USB4, обеспечивающий значительно более высокую скорость передачи данных. Поэтому воспользоваться технологией смогут владельцы сравнительно современных ПК. Кроме того, при объединении трех компьютеров один из них должен быть оснащен двумя портами USB4.
Технология RDMA позволяет передавать данные непосредственно между памятью двух систем, обходя большую часть обычного сетевого стека. Благодаря низким задержкам и небольшой нагрузке на процессор она широко применяется в системах хранения данных центров обработки данных и распределенных вычислениях. Теперь у нее появилось еще одно применение.
Сегодня мы представляем разработчикам предварительную версию RDMA через USB4 для Windows. Соедините кабелями USB4 два или более компьютеров с Windows и поддержкой этого интерфейса, чтобы распределить между ними нагрузку одной модели, объединив память и вычислительные ресурсы графических процессоров. При этом не потребуется покупать сетевой адаптер RDMA, настраивать коммутатор или устанавливать сторонние драйверы.
—
Провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp также доступны как проекты с открытым исходным кодом.

Для демонстрации Microsoft испытала технологию на мини-ПК с процессором Ryzen AI Max+ 395 и 128 ГБ оперативной памяти. Три соединенных компьютера успешно запустили модель Qwen3-235B-A22B с 4-битным квантованием. Результат Microsoft составил около 18,5 токена в секунду, тогда как AMD сообщила о 21,98 токена в секунду на собственной конфигурации.
Источник: iXBT
Nvidia исправила драйвер GeForce, незаметно расходовавший десятки гигабайт ресурса SSD
JEDEC раскрыла первые характеристики DDR6: отличия от DDR5 и их влияние на производительность
Что ждет нас после AGI: Google DeepMind исследует четыре пути к сверхразуму
Ядерные отходы станут ресурсом? Росатом готовит запуск нового цикла переработки
Маск пообещал робота Tesla Optimus, который будет убирать посуду и выносить мусор, но появится он лишь через год-полтора
GTA VI выявила проблему PS5 с жидким металлом: игроки массово жалуются на вылеты, переустановка и очистка кэша не помогают
Илон Маск рассказал, как чип Neuralink Blindsight поможет вернуть зрение незрячим
Характеристики Honor 700 и Honor 700 Pro раскрыли до премьеры: батареи на 9000 мАч, камеры на 200 Мп, защита IP69K и мощные платформы