Нейросеть Google Gemma 3 с 270 миллионами параметров запустили на лазерном принтере с 14 МБ памяти
Источник изображения: ИИ Gemini
Языковую модель Google Gemma 3 270M запустили непосредственно на обычном офисном принтере Ricoh. Эксперимент провёл сотрудник Google Омар Сансевьеро, воспользовавшись Carbon — компактным движком для работы с нейросетями. При этом менять прошивку принтера или подключать дополнительные вычислительные платы не потребовалось: модель работала внутри устройства через встроенный интерпретатор PostScript Level 3, который используется для обработки заданий на печать.
Чтобы уложиться в ограниченные ресурсы принтера, разработчики применили динамическую загрузку слоёв нейросети, последовательно размещая их в памяти. Скорость генерации достигла 61,3 токена в секунду. Для проверки модели предложили продолжить фразу «Read the fine», и принтер напечатал ответ «Read the fine print» («Читайте мелкий шрифт»). Обработка исходного запроса, однако, заняла около 184 секунд. Тем не менее эксперимент продемонстрировал, что даже обычная офисная техника способна запускать локальные ИИ-модели без специального оборудования.
Источник: iXBT
Microsoft внедрила новый способ работы RDMA: несколько ПК можно объединять по USB4 для запуска больших ИИ-моделей
Nvidia исправила драйвер GeForce, незаметно расходовавший десятки гигабайт ресурса SSD
JEDEC раскрыла первые характеристики DDR6: отличия от DDR5 и их влияние на производительность
Что ждет нас после AGI: Google DeepMind исследует четыре пути к сверхразуму
Ядерные отходы станут ресурсом? Росатом готовит запуск нового цикла переработки
Маск пообещал робота Tesla Optimus, который будет убирать посуду и выносить мусор, но появится он лишь через год-полтора
GTA VI выявила проблему PS5 с жидким металлом: игроки массово жалуются на вылеты, переустановка и очистка кэша не помогают
Илон Маск рассказал, как чип Neuralink Blindsight поможет вернуть зрение незрячим