Google обошла Nvidia? Представлен TPU Ironwood 7-го поколения с 42,5 ExaFLOPS на модуль

Компания Google давно разрабатывает собственные ИИ-специфичные процессоры, которые успешно внедряет в свою инфраструктуру. Поколений TPU уже семь: сегодня компания представила седьмую версию.

Новая линейка получила название Ironwood. По словам Google, это наиболее мощный и высокомасштабируемый специализированный ИИ-ускоритель в её портфолио. Устройство оптимизировано для поддержки развертывания крупных интеллектуальных моделей и инференса.

Google раскрывает лишь часть параметров. Известно, что в одном чипе интегрировано 192 ГБ памяти HBM3E с пропускной способностью 7,37 ТБ/с. При вычислениях в формате FP8 его производительность достигает 4614 терафлопс, однако компания приводит данные о масштабах модулей: до 9216 чипов в одном модуле, что обеспечивает суммарно 42,5 экзафлопс. Google подчёркивает, что это в 24 раза превосходит показатели суперкомпьютера El Capitan, хотя тот оптимизирован под задачи FP64. Модули соединены фирменной сетью Inter-Chip Interconnect со скоростью 9,6 Тбит/с и оснащены в совокупности около 1,77 ПБ памяти HBM3E.

Google также сравнивает Ironwood с решениями Nvidia: стойка GB300 NVL72 у Nvidia выдаёт всего 0,36 экзафлопс, но остаётся неясным, насколько сопоставимы эти системы по энергоэффективности и стоимости.

 

Источник: iXBT