Команда энтузиастов провела эксперимент с запуском нейронной сети на виртуальном сервере, предоставляемом российским хостинг-провайдером RuVDS. Инженеры успешно решили поставленные задачи, используя минимальный объем вычислительных ресурсов, сопоставимый с возможностями современного смартфона.
Как сообщили в пресс-службе, система, цена которой не превышает 5 тысяч рублей, позволила последовательно развернуть несколько мультимодальных нейросетей, включая актуальные версии LLaMA и LLaVA.
Настроенные нейросети смогли вести диалог, анализировать предоставленные им изображения и переводить текст на них. Эксперимент продемонстрировал, что технологии машинного обучения могут эффективно работать даже на ограниченных ресурсах, и подчеркнул перспективы использования виртуальной среды компании для обучения навыкам работы с интеллектуальными системами.
В RuVDS добавили:
Тестирование проходило на конфигурации с накопителем NVMe SSD, четырехъядерным процессором, 12 ГБ оперативной памяти и операционной системой Linux.
Источник: iXBT