Одним из многих анонсов I/O 2017 стало представление TensorFlow Lite для машинного обучения на мобильных устройствах. Начиная с сегодняшнего дня, оптимизированная для Android и iOS версия библиотеки ML доступна в режиме разработчика.
Google называет эту Lite-версию TensorFlow эволюцией TensorFlow Mobile, позиционируя ее для машинного обучения на мобильных и встраиваемых устройствах по мере ее развития. Вице-президент по разработке Android Дэйв Берк отмечает, что это «ключевой шаг к обеспечению аппаратного ускорения обработки нейронных сетей в разнообразной кремниевой экосистеме Android».
Все еще находясь на стадии «активной разработки» и отмечая потенциально «широкий» охват Lite, этот первоначальный выпуск фокусируется на производительности ключевых моделей. В частности, он оптимизирован и обучен для:
- MobileNet: семейство моделей для компьютерного зрения, способных идентифицировать более 1000 различных классов объектов, специально разработанное для эффективной работы на мобильных и встраиваемых устройствах
- Inception v3: модель распознавания изображений, аналогичная по функциональности MobileNet, которая обеспечивает более высокую точность, но имеет больший размер
- Smart Reply: модель для ведения диалогов на устройстве, которая предлагает ответы в одно касание на входящие сообщения в чате. Сторонние и собственные приложения для обмена сообщениями используют эту функцию на Android Wear.
TensorFlow Lite был полностью переработан с нуля с акцентом на три области:
- Легковесность Обеспечивает инференс моделей машинного обучения на устройстве с небольшим размером двоичного файла и быстрой инициализацией/запуском
- Кроссплатформенность Среда выполнения, разработанная для работы на множестве различных платформ, начиная с Android и iOS
- Скорость Оптимизирована для мобильных устройств, включая значительно улучшенное время загрузки моделей и поддержку аппаратного ускорения
Он также поддерживает и использует преимущества все более распространенных на мобильных устройствах «специализированных аппаратных средств для более эффективной обработки рабочих нагрузок машинного обучения», таких как Pixel Visual Core. В связи с этим он поддерживает Android Neural Networks API, представленный в предварительной версии для разработчиков Android 8.1. Даже без аппаратного ускорителя TensorFlow Lite может вернуться к работе на ЦП.
Посетите 9to5Google на YouTube для получения дополнительных новостей: