메타데이터를 이용한 TensorFlow Lite 추론

Inferencing models with metadata can be as easy as just a few lines of code. TensorFlow Lite metadata contains a rich description of what the model does and how to use the model. It can empower code generators to automatically generate the inference code for you, such as using the Android Studio ML Binding feature or TensorFlow Lite Android code generator. It can also be used to configure your custom inference pipeline.

도구 및 라이브러리

TensorFlow Lite는 다음과 같이 다양한 계층의 배포 요구 사항을 해결하도록 다양한 도구와 라이브러리를 제공합니다.

Generate model interface with Android code generators

There are two ways to automatically generate the necessary Android wrapper code for TensorFlow Lite model with metadata:

  1. Android Studio ML Model Binding is tooling available within Android Studio to import TensorFlow Lite model through a graphical interface. Android Studio will automatically configure settings for the project and generate wrapper classes based on the model metadata.

  2. TensorFlow Lite 코드 생성기는 메타데이터를 기반으로 모델 인터페이스를 자동으로 생성하는 실행 파일입니다. 현재 Java가 설치된 Android를 지원합니다. 래퍼 코드가 있어서 ByteBuffer와 직접 상호 작용할 필요가 없습니다. 대신, 개발자는 BitmapRect와 같은 형식화된 객체를 사용하여 TensorFlow Lite 모델과 상호 작용할 수 있습니다. Android Studio 사용자는 Android Studio ML Binding을 통해 codegen 특성에 액세스할 수도 있습니다.

TensorFlow Lite Task Library로 즉시 사용 가능한 API 활용하기

TensorFlow Lite Task Library는 이미지 분류, 질문 및 답변 등과 같은 주요 머신러닝 작업에 즉시 사용 가능한 최적화된 모델 인터페이스를 제공합니다. 모델 인터페이스는 각 작업에 맞게 특별히 설계되어 최상의 성능과 유용성을 제공합니다. Task Library는 교차 플랫폼으로 동작하며 Java, C++ 및 Swift에서 지원됩니다.

TensorFlow Lite Support Library로 사용자 정의 추론 파이프라인 빌드하기

TensorFlow Lite Support Library는 모델 인터페이스를 사용자 정의하고 추론 파이프라인을 구축하는 데 도움을 주는 교차 플랫폼 라이브러리입니다. 여기에는 사전/사후 처리 및 데이터 변환을 수행하기 위한 다양한 util 메서드와 데이터 구조가 포함되어 있습니다. 또한 TF.Image 및 TF.Text와 같은 TensorFlow 모듈의 동작과 일치하도록 설계되어 훈련에서 추론까지 일관성을 보장합니다.

메타데이터를 포함한 사전 훈련된 모델 찾아보기

TensorFlow Lite 호스팅 모델TensorFlow Hub를 검색하여 비전 및 텍스트 작업에 모두 사용할 수 있는 메타데이터가 포함된 사전 훈련된 모델을 다운로드하세요. 또한 메타데이터 시각화의 다양한 옵션을 참조하세요.

TensorFlow Lite Support GitHub repo

더 많은 예제와 소스 코드를 보려면 TensorFlow Lite Support GitHub 저장소를 방문하세요. 새로운 GitHub 문제를 생성하여 피드백을 보내주세요.