Вывод TensorFlow Lite с метаданными

Вывод моделей с метаданными может быть таким же простым, как и несколько строк кода. Метаданные TensorFlow Lite содержат подробное описание того, что делает модель и как ее использовать. Он может предоставить генераторам кода возможность автоматически генерировать для вас код вывода, например, с помощью функции привязки Android Studio ML или генератора кода Android TensorFlow Lite . Его также можно использовать для настройки собственного конвейера вывода.

Инструменты и библиотеки

TensorFlow Lite предоставляет множество инструментов и библиотек для удовлетворения различных уровней требований к развертыванию, а именно:

Создайте интерфейс модели с помощью генераторов кода Android.

Существует два способа автоматического создания необходимого кода-оболочки Android для модели TensorFlow Lite с метаданными:

  1. Привязка модели Android Studio ML — это инструмент, доступный в Android Studio для импорта модели TensorFlow Lite через графический интерфейс. Android Studio автоматически настроит параметры проекта и создаст классы-оболочки на основе метаданных модели.

  2. Генератор кода TensorFlow Lite — это исполняемый файл, который автоматически генерирует интерфейс модели на основе метаданных. В настоящее время он поддерживает Android с Java. Код-обертка устраняет необходимость напрямую взаимодействовать с ByteBuffer . Вместо этого разработчики могут взаимодействовать с моделью TensorFlow Lite с помощью типизированных объектов, таких как Bitmap и Rect . Пользователи Android Studio также могут получить доступ к функции генерации кода через Android Studio ML Binding .

Используйте готовые API с помощью библиотеки задач TensorFlow Lite.

Библиотека задач TensorFlow Lite предоставляет оптимизированные готовые к использованию интерфейсы моделей для популярных задач машинного обучения, таких как классификация изображений, вопросы и ответы и т. д. Интерфейсы моделей специально разработаны для каждой задачи для достижения максимальной производительности и удобства использования. Библиотека задач работает кроссплатформенно и поддерживается на Java, C++ и Swift.

Создавайте собственные конвейеры вывода с помощью библиотеки поддержки TensorFlow Lite.

Библиотека поддержки TensorFlow Lite — это кроссплатформенная библиотека, которая помогает настраивать интерфейс модели и строить конвейеры вывода. Он содержит различные методы использования и структуры данных для выполнения предварительной/постобработки и преобразования данных. Он также разработан так, чтобы соответствовать поведению модулей TensorFlow, таких как TF.Image и TF.Text, обеспечивая согласованность от обучения до вывода.

Изучите предварительно обученные модели с метаданными

Просмотрите размещенные на TensorFlow Lite модели и TensorFlow Hub , чтобы загрузить предварительно обученные модели с метаданными как для машинного зрения, так и для текстовых задач. Также смотрите различные варианты визуализации метаданных .

TensorFlow Lite Поддержка репозитория GitHub

Посетите репозиторий TensorFlow Lite Support GitHub, чтобы получить дополнительные примеры и исходный код. Дайте нам знать ваше мнение, создав новый выпуск GitHub .