Новая плата Raspberry Pi AI HAT+ 2 за $130 позволит запускать генеративный ИИ локально

Команда Raspberry Pi анонсировала аппаратное расширение AI HAT+ 2, спроектированное для локального развертывания нейросетевых алгоритмов непосредственно на устройстве. Новинка представляет собой продвинутую и более дорогостоящую итерацию модуля, дебютировавшего в прошлом году. Технические характеристики AI HAT+ 2 включают 8 ГБ выделенной оперативной памяти и специализированный чип Hailo 10H, обеспечивающий производительность в операциях ИИ на уровне 40 TOPS. Стоимость устройства составляет $130.

Интеграция AI HAT+ 2 позволяет Raspberry Pi 5 делегировать ресурсоемкие вычисления нейропроцессору, освобождая основной чип Arm для системных процессов. В отличие от предшествующей версии, ориентированной преимущественно на компьютерное зрение, новая модификация оснащена собственной памятью, что открывает возможность для работы с компактными генеративными моделями, такими как Llama 3.2, DeepSeek-R1-Distill и семейство Qwen. Кроме того, плата поддерживает процессы обучения и тонкой настройки (fine-tuning) нейросетей.

В рамках демонстрации возможностей Raspberry Pi показала, как плата формирует текстовое описание видеопотока в реальном времени и анализирует присутствие людей в кадре. Другой сценарий использования задействовал модель Qwen2 для автоматического перевода текста с французского языка на английский.

Тем не менее, известный техноблогер Джефф Гирлинг в ходе тестирования обнаружил, что стандартная Raspberry Pi 5 с 8 ГБ ОЗУ зачастую превосходит AI HAT+ 2 по скорости работы в поддерживаемых моделях. Гирлинг объясняет это аппаратными ограничениями по питанию: если Pi 5 способна потреблять до 10 Вт, то бюджет мощности AI HAT+ 2 ограничен 3 Вт, что сдерживает потенциал чипа.

По мнению эксперта, наличие дополнительных 8 ГБ памяти не является решающим аргументом в пользу новинки, так как приобретение Raspberry Pi с 16 ГБ ОЗУ обеспечит большую гибкость и быстродействие в тех же задачах. При этом для работы с изображениями Гирлинг рекомендует обратить внимание на базовую версию AI HAT, которая остается актуальным решением при более доступной цене от $70.

Источник: iXBT