Локальное машинное обучение предлагает ряд преимуществ, от скорости (меньшая задержка) до конфиденциальности. Чтобы помочь увеличить его использование на Android, Google теперь добавляет «Android ML Platform» — в основном TensorFlow Lite — непосредственно в Play Services.
Play Services отвечает за ключевые функции Android, видимые пользователям, и предоставляет сторонним разработчикам приложений доступ к различным инструментам. Последним нововведением станет локальное машинное обучение.
Компания выявила ряд ограничений, которые мешают приложениям отказаться от машинного обучения, выполняемого в облаке. К ним относятся ограничения по размеру файлов, связанные с включением дополнительных библиотек для машинного обучения, и различная производительность на разных устройствах, что приводит к значительным различиям в стабильности и точности. Наконец, «максимизация охвата может привести к использованию более старых, более широко доступных API».
Решение Google заключается в «обновляемом, полностью интегрированном стеке вывода ML», называемом «Android ML Platform». Он состоит из трех компонентов, начиная с того, что Google напрямую предоставляет возможности локального вывода почти на каждом устройстве Android:
TensorFlow Lite будет доступен на всех устройствах с Google Play Services. Разработчикам больше не нужно будет включать среду выполнения в свои приложения, что уменьшит размер приложений.
Чтобы обеспечить «оптимальную» производительность на различных устройствах, новая функция Automatic Acceleration в TensorFlowLite для Android включает «тестирование каждой модели для создания списков разрешенных устройств с учетом производительности, точности и стабильности». Эта функция, которая будет доступна позже в этом году, определяет, включено ли аппаратное ускорение.
Наконец, Google будет обновлять Neural Networks API вне выпусков Android OS. Он также сотрудничает с поставщиками чипсетов, такими как Qualcomm, для предоставления последних драйверов устройств вне обновлений ОС.
Это позволит разработчикам значительно сократить тестирование с тысяч устройств до горстки конфигураций. Мы рады объявить, что позднее в этом году мы запустим продукт совместно с Qualcomm в качестве нашего первого партнера.