На 20-летнем ноутбуке Apple PowerBook G4 удалось запустить современную ИИ-систему

Программист Эндрю Россиньол на своем блоге рассказал о результатах необычного эксперимента: он смог активировать генеративную модель искусственного интеллекта на ноутбуке PowerBook G4, выпущенном в 2005 году.

Этот ноутбук с процессором PowerPC G4 на 1,5 ГГц и 1 ГБ оперативной памяти давно считается устаревшим для современных задач. Однако, Россиньолу удалось успешно адаптировать языковую модель Llama 2 от компании Meta* для этого устройства.

В ходе реализации проекта, инженер использовал открытый код llama2.c, адаптировав его под архитектуру PowerPC. Производительность была улучшена благодаря интеграции векторного расширения AltiVec, встроенного в процессор. Этот опыт подтверждает, что даже технологии 20-летней давности можно использовать для выполнения сложных задач, таких как работа с большими языковыми моделями, при условии грамотной оптимизации программного обеспечения.

На своем блоге он детально описал технические этапы проекта, включая перенос и настройку.

* Meta признана в России экстремистской и запрещена.

Источник: iXBT