Карманный мини-ПК Tiiny AI Pocket Lab зафиксирован в Книге рекордов Гиннесса благодаря локальному запуску ИИ на 120 млрд параметров

Tiiny AI анонсировала мини-ПК AI Pocket Lab — устройство ультракомпактного форм-фактора, сопоставимого по размерам со смартфоном (чуть более толстое), которое официально занесено в Книгу рекордов Гиннесса как The Smallest MiniPC (100B LLM Locally).

По сути, это наименьший в мире компьютер, способный «на месте» запускать крупную языковую модель с 100 млрд параметров — точнее, Tiiny AI указывает на поддержку модели с 120 млрд параметров.

Из официальной информации известно лишь, что устройство базируется на 12-ядерном процессоре с архитектурой Arm v9.2. По всей видимости, помимо CPU оно оснащено гетерогенной однокристальной системой и дискретным NPU, суммарная мощность которых достигает 190 TOPS.

При таких компактных размерах впечатляют 80 ГБ оперативной памяти LPDDR5X, а для хранения данных предусмотрен SSD объёмом 1 ТБ.

Хотя облачные ИИ достигли выдающихся результатов, они породили зависимость, уязвимости и проблемы масштабируемости. С AI Pocket Lab от Tiiny AI мы убеждены, что интеллект должен находиться в руках пользователя, а не в ЦОДах. Это ключевой шаг к тому, чтобы сделать передовые модели действительно доступными, приватными и адаптированными под каждого, перенесши мощности крупных сетей на локальные устройства.

Устройство потребляет порядка 65 Вт, потому оборудовано активной системой охлаждения. Размеры составляют 142×80×25,3 мм при весе 300 г. Информации о цене пока нет.

Источник: iXBT