Google TensorFlowLite призвана исполнять ИИ-алгоритмы непосредственно на смартфонах

В настоящее время расчёты, касающиеся искусственного интеллекта, обычно производятся в облаке, но Google — как и другие крупные компании — хочет, чтобы они выполнялись и непосредственно на смартфоне. Во время на конференции разработчиков I/O 2017 поисковый гигант представил новую инициативу, которая призвана помочь спустить ИИ с небес на землю: оптимизированную для мобильных устройств версию библиотеки машинного обучения TensorFlowLite.

Оригинальная TensorFlow была выпущена в ноябре 2015 и быстро стала популярна среди исследователей и разработчиков, создающих ИИ-инструменты. В прошлом году Google специально под TensorFlow выпустила аппаратные ускорители TPU (Tensor Processor Unit), а в этом году — представила второе поколение. TensorFlow гибка, надёжна и имеет большой объём документации, что позволяет начинающим в этой области разработчикам быстрее осваивать технологию. Новая версия, TensorFlowLite, построена на существующей экосистеме и позволяет переносить алгоритмы машинного обучения для работы непосредственно на устройстве.

«Это библиотека для приложений, призванных быть быстрыми и небольшими, но при этом использовать передовые методы, — отметил Дэйв Бурке (Dave Burke) из Google. — Мы полагаем, что эти новые возможности помогут реализовать следующее поколение технологий распознавания речи, визуального поиска, дополненной реальности и прочих, работающих непосредственно на устройстве».

Компания также сообщила, что в будущем появится API, который позволит задачам машинного обучения лучше работать с чипами смартфонов — возможно, с помощью высокопараллельных расчётов на GPU, а быть может компания хочет появления специализированных блоков TPU в будущих аппаратах.

В чём преимущество исполнения ИИ на устройстве? Во-первых, будут меньше задержки между запросом и ответом, во-вторых, не требуется наличия интернет-подключения, а в-третьих, обеспечивается более высокий уровень приватности (данные не покидают устройство). В общем, окружение станет более дружественным.

Другие технологические компании тоже стараются двигаться в этом направлении. У Facebook это называется Caffe2Go — технология была представлена в ноябре прошлого года и позволила компании создать фильтры для фото и видео на основе нейронных сетей, работающих прямо на устройстве пользователя в реальном времени.