Cerebras установит более 1000 ускорителей CS-3 в пяти штатах США, Канаде и Франции

Стартап из Калифорнии, Cerebras Systems, начал активное внедрение своих ускорителей CS-3 для AI-инференса, стремясь создать одну из наиболее обширных инфраструктур в Северной Америке и Европе.

На конференции HumanX AI в Лас-Вегасе было объявлено, что к концу года компания планирует открыть новые дата-центры в Техасе, Миннесоте, Оклахоме и Джорджии, а также впервые выйти на рынок Канады и Франции с объектами в Монреале и Франции соответственно. Cerebras полностью владеет центрами в Оклахома-Сити и Монреале, а остальные строит в сотрудничестве с облачным подразделением эмиратского холдинга G42.

Наиболее мощный центр, располагающийся в Миннеаполисе (Миннесота), планируется запустить во втором квартале 2025 года. Он будет оснащён 512 ускорителями CS-3, потенциально обеспечивая 64 экзафлопс вычислительной мощности в формате FP16. Вместо традиционных AI-суперкомпьютеров Cerebras применяет уникальные процессоры, размер которых составляет 46 225 мм², содержащие 4 триллиона транзисторов, 900 000 ядер и 44 ГБ SRAM-памяти.

Хотя тысяча CS-3 может показаться скромной цифрой по сравнению с сотнями тысяч GPU от таких гигантов, как Nvidia, каждый ускоритель CS-3 обеспечивает 125 петафлопс в разрежённых FP-вычислениях — в 25 раз больше, чем H100, и значительно превосходит Blackwell. В процессе инференса модели Llama 3.1 70B система Cerebras имеет скорость до 2100 токенов в секунду. Ключевое достоинство — пропускная способность памяти составляет 21 петабайт в секунду, что значительно выше, чем у H100 с её 3,35 ТБ/с.

Однако основной прирост производительности (до 6×) обеспечивается благодаря спекулятивному декодированию: меньшая модель генерирует черновую версию ответа, которую проверяет более крупная модель на точность. Этот подход особенно важен для «рассуждающих» моделей, таких как DeepSeek-R1 и QwQ, где размышления могут занимать тысячи токенов.

Слабостью Cerebras остаётся ограниченная память: для работы Llama 3.3 70B в 16-битной точности требуется как минимум четыре CS-3, а для Llama 3.1 405B — более 20 ускорителей. Тем не менее, стартап уже привлёк таких клиентов, как Mistral AI, Perplexity и AlphaSense, причём последний переходит с проприетарных моделей на открытые, реализуемые на CS-3.

Дополнительное преимущество Cerebras было достигнуто благодаря интеграции с Hugging Face: через единый API разработчики теперь могут подключаться к его инфраструктуре наряду с SambaNova и Together.ai. Это расширяет доступ к экосистеме, в которой скорость генерации токенов становится важным фактором в условиях увеличивающегося спроса на сложные AI-вычисления.

Источник: iXBT