На PlayStation 4 запустили нейросеть Qwen3.5-9B с 9 миллиардами параметров

Хотя PlayStation 4 поступила в продажу ещё в 2013 году, энтузиаст Леонардо Алегрия сумел запустить на ней ИИ-модель с 9 млрд параметров.

Его проект Garlic LLM позволяет модели Qwen3.5-9B работать полностью автономно, без Linux и внешнего компьютера. Скорость генерации составляет от 1 до 39 токенов в секунду.

Чтобы разместить модель в памяти консоли, автор применил квантование и сократил её объём до 4,5 ГБ. Всего у приставки 8 ГБ унифицированной памяти.

Решение позволяет использовать консоль в качестве автономного ИИ-чат-бота с поддержкой голосового управления.

Источник: iXBT