Программист Эндрю Россиньол на своем блоге рассказал о результатах необычного эксперимента: он смог активировать генеративную модель искусственного интеллекта на ноутбуке PowerBook G4, выпущенном в 2005 году.
Этот ноутбук с процессором PowerPC G4 на 1,5 ГГц и 1 ГБ оперативной памяти давно считается устаревшим для современных задач. Однако, Россиньолу удалось успешно адаптировать языковую модель Llama 2 от компании Meta* для этого устройства.
В ходе реализации проекта, инженер использовал открытый код llama2.c, адаптировав его под архитектуру PowerPC. Производительность была улучшена благодаря интеграции векторного расширения AltiVec, встроенного в процессор. Этот опыт подтверждает, что даже технологии 20-летней давности можно использовать для выполнения сложных задач, таких как работа с большими языковыми моделями, при условии грамотной оптимизации программного обеспечения.
На своем блоге он детально описал технические этапы проекта, включая перенос и настройку.
* Meta признана в России экстремистской и запрещена.
Источник: iXBT
