Компания Google давно разрабатывает собственные ИИ-специфичные процессоры, которые успешно внедряет в свою инфраструктуру. Поколений TPU уже семь: сегодня компания представила седьмую версию.
Новая линейка получила название Ironwood. По словам Google, это наиболее мощный и высокомасштабируемый специализированный ИИ-ускоритель в её портфолио. Устройство оптимизировано для поддержки развертывания крупных интеллектуальных моделей и инференса.
Google раскрывает лишь часть параметров. Известно, что в одном чипе интегрировано 192 ГБ памяти HBM3E с пропускной способностью 7,37 ТБ/с. При вычислениях в формате FP8 его производительность достигает 4614 терафлопс, однако компания приводит данные о масштабах модулей: до 9216 чипов в одном модуле, что обеспечивает суммарно 42,5 экзафлопс. Google подчёркивает, что это в 24 раза превосходит показатели суперкомпьютера El Capitan, хотя тот оптимизирован под задачи FP64. Модули соединены фирменной сетью Inter-Chip Interconnect со скоростью 9,6 Тбит/с и оснащены в совокупности около 1,77 ПБ памяти HBM3E.
Google также сравнивает Ironwood с решениями Nvidia: стойка GB300 NVL72 у Nvidia выдаёт всего 0,36 экзафлопс, но остаётся неясным, насколько сопоставимы эти системы по энергоэффективности и стоимости.
Источник: iXBT
