Google впервые за год выпустила четыре поколения чипов для ИИ, удвоив мощность без увеличения площади серверных стоек

Google представила два новых варианта собственных чипов для искусственного интеллекта — TPU 8tx и TPU 8i Max. С их появлением линейка восьмого поколения выросла до четырёх систем. Впервые в истории компании все новые модели одного поколения выпущены в течение одного года. Процессоры TPU (tensor processing unit) созданы для обучения и запуска нейросетей и конкурируют с решениями Nvidia на рынке инфраструктуры для ИИ.

TPU 8tx предназначен для государственных учреждений и регулируемых отраслей, работающих с конфиденциальной информацией. Он построен на той же кремниевой основе, что и чип для обучения TPU 8t, но дополнен аппаратным уровнем защиты конфиденциальных вычислений. Во время работы данные и веса моделей физически изолированы от внешних процессов. Это позволяет дообучать нейросети и запускать ИИ-агентов без передачи информации между кластерами. Усовершенствованная сетевая подсистема сокращает задержки до 50% по сравнению со стандартной версией.

Вторая новинка, TPU 8i Max, призвана устранить нехватку памяти при выполнении масштабных задач. В одном модуле объединены два чипа, благодаря чему вычислительная мощность, объём встроенной памяти и пропускная способность увеличиваются вдвое. Конфигурация оптимизирована для ИИ-агентов, анализирующих целые кодовые базы, и систем, обрабатывающих многочасовые видеопотоки. В стандартной стойке при этом размещается вдвое больше чипов, что повышает вычислительную плотность на квадратный метр и энергоэффективность.

По словам Амина Вадаата, главного технолога Google по ИИ и инфраструктуре, у экосистемы TPU уже почти 100 клиентов. Среди них — лаборатории, разрабатывающие передовые модели, финансовые организации, торговые сети и университеты. Компания также продолжает сотрудничать с четырьмя партнёрами по проектированию, совместно совершенствуя архитектуру. Точные сроки поставок и цены новых решений пока не объявлены, однако расширение линейки укрепляет позиции Google как одного из ключевых альтернативных поставщиков оборудования для масштабирования ИИ-сервисов.

Источник: iXBT