Илон Маск поделился новостями о прогрессе в инфраструктуре для создания нейросетей: инженеры SpaceX практически закончили работу над первой версией специализированного программного обеспечения, написанного на языке C. Основной акцент сделан на предельной близости кода к аппаратным мощностям серверов.
Инновация представляет собой низкоуровневое решение, которое осуществляет непосредственное взаимодействие с кластерной системой, объединяющей около 220 тысяч графических процессоров Nvidia GB300 и высокоскоростные сетевые интерфейсы 800G. В архитектуру заложены принципы массивно-параллельных вычислений и отказ от лишних программных прослоек, что позволяет радикально сократить латентность и максимизировать пропускную способность.
Как отмечает Маск, концепция системы базируется на минимизации посредников между программным обеспечением и «железом», что позволяет выжать максимум из вычислительного ресурса. Подобная оптимизация должна обеспечить значительный скачок в эффективности при выполнении масштабных задач машинного обучения.
Глава компании также выразил уверенность, что новая разработка способна превзойти по быстродействию JAX — популярный инструмент для сложных вычислений в сфере ИИ — более чем в 10 раз.
Источник: iXBT
