Создатель Doom Джон Кармак предложил заменить DRAM оптоволокном для обучения ИИ

Джон Кармак, прославленный создатель Doom и визионер в области программирования, представил в социальной сети X концепцию принципиально нового подхода к хранению и обработке данных, ориентированного на нужды искусственного интеллекта.

Его гипотеза строится вокруг превращения сверхдлинных оптоволоконных магистралей в подобие кэш-памяти второго уровня (L2). По мнению Кармака, такая архитектура позволит хранить веса нейронных моделей, обеспечивая при этом колоссальную пропускную способность и стремящиеся к нулю задержки.

Суть идеи заключается в формировании замкнутого оптического кольца, которое служило бы буфером, непрерывно транслирующим поток весов непосредственно на вычислительные ядра ИИ-процессоров.

Современные эксперименты подтверждают возможность передачи до 256 Тбит/с по одномодовому волокну на дистанцию в 200 км. В таком сценарии внутри кабеля одновременно «находится» около 32 ГБ данных при пропускной способности в 32 Тбит/с. Поскольку процессы обучения и инференса нейросетей характеризуются предсказуемыми циклами обращения к параметрам, можно спроектировать систему без классической DRAM. В ней данные будут циклично циркулировать по оптоволокну, что напоминает технологическое переосмысление старых ртутных линий задержки. Хотя для работы с моделями на триллионы параметров потребуется целый массив таких устройств, темпы развития оптоволоконных технологий сегодня выглядят более многообещающими, чем эволюция DRAM.

С практической точки зрения аналогичного эффекта можно достичь, объединив множество доступных модулей флеш-памяти. При условии постраничного и конвейерного считывания это обеспечит необходимую скорость обмена данными, если ведущие производители чипов смогут договориться о внедрении унифицированных высокоскоростных интерфейсов.

Ключевым преимуществом подхода Кармака является потенциальное снижение энергопотребления в сравнении с традиционной оперативной памятью. И хотя развертывание подобных оптических контуров требует серьезных затрат, на фоне стремительного роста цен на полупроводниковую память эта концепция может стать экономически целесообразной.

Источник: iXBT