Google Play 서비스 C API의 TensorFlow Lite(베타)

Google Play 서비스 런타임의 TensorFlow Lite를 사용하면 TensorFlow Lite 라이브러리를 앱에 정적으로 번들링하지 않고도 머신러닝(ML) 모델을 실행할 수 있습니다. 이 가이드에서는 Google Play 서비스에 C API를 사용하는 방법에 대한 지침을 제공합니다.

Google Play 서비스 C API에서 TensorFlow Lite를 사용하기 전에 CMake 빌드 도구가 설치되어 있는지 확인하세요.

빌드 구성 업데이트

TensorFlow Lite용 Play 서비스 API에 액세스하려면 앱 프로젝트 코드에 다음 종속 항목을 추가하세요.

implementation "com.google.android.gms:play-services-tflite-java:16.2.0-beta02"

그런 다음 모듈의 build.gradle 파일의 android 블록을 업데이트하여 CMake 스크립트에서 C API에 액세스할 수 있는 Prefab 기능을 활성화합니다.

buildFeatures {
  prefab = true
}

마지막으로 AAR에서 가져온 tensorflowlite_jni_gms_client 패키지를 CMake 스크립트의 종속성으로 추가해야 합니다.

find_package(tensorflowlite_jni_gms_client REQUIRED CONFIG)

target_link_libraries(tflite-jni # your JNI lib target
        tensorflowlite_jni_gms_client::tensorflowlite_jni_gms_client
        android # other deps for your target
        log)

# Also add -DTFLITE_IN_GMSCORE -DTFLITE_WITH_STABLE_ABI
# to the C/C++ compiler flags.

add_compile_definitions(TFLITE_IN_GMSCORE)
add_compile_definitions(TFLITE_WITH_STABLE_ABI)

TensorFlow Lite 런타임 초기화

TensorFlow Lite Native API를 호출하기 전에 Java/Kotlin 코드에서 TfLiteNative 런타임을 초기화해야 합니다.

Task tfLiteInitializeTask = TfLiteNative.initialize(context);
      

val tfLiteInitializeTask: Task = TfLiteNative.initialize(context)
        

Google Play 서비스 작업 API를 사용하여 TfLiteNative.initialize Google Play 서비스의 TFLite 런타임을 애플리케이션의 런타임 프로세스에 비동기적으로 로드합니다. TensorFlow Lite API에 액세스하는 코드를 실행하기 전에 addOnSuccessListener() 사용하여 TfLite.initialize() 작업이 완료되는지 확인하세요. 작업이 성공적으로 완료되면 사용 가능한 모든 TFLite 네이티브 API를 호출할 수 있습니다.

네이티브 코드 구현

네이티브 코드로 Google Play 서비스에서 TensorFlow Lite를 사용하려면 다음 중 하나를 수행하면 됩니다.

• Java 코드에서 기본 함수를 호출하는 새로운 JNI 함수를 선언합니다.
• 기존 네이티브 C 코드에서 TensorFlow Lite 네이티브 API를 호출하세요.

JNI 기능:

다음과 같이 새로운 JNI 함수를 선언하여 Java/Kotlin으로 선언된 TensorFlow Lite 런타임을 네이티브 코드에 액세스할 수 있도록 할 수 있습니다.

package com.google.samples.gms.tflite.c;

public class TfLiteJni {
  static {
    System.loadLibrary("tflite-jni");
  }
  public TfLiteJni() { /**/ };
  public native void loadModel(AssetManager assetManager, String assetName);
  public native float[] runInference(float[] input);
}
      

package com.google.samples.gms.tflite.c

class TfLiteJni() {
  companion object {
    init {
      System.loadLibrary("tflite-jni")
    }
  }
  external fun loadModel(assetManager: AssetManager, assetName: String)
  external fun runInference(input: FloatArray): FloatArray
}
        

다음 loadModel 및 runInference 기본 함수 일치:

#ifdef __cplusplus
extern "C" {
#endif

void Java_com_google_samples_gms_tflite_c_loadModel(
  JNIEnv *env, jobject tflite_jni, jobject asset_manager, jstring asset_name){}
  //...
}

jfloatArray Java_com_google_samples_gms_tflite_c_TfLiteJni_runInference(
  JNIEnv* env, jobject tfliteJni, jfloatArray input) {
  //...
}

#ifdef __cplusplus
}  // extern "C".
#endif

그런 다음 Java/Kotlin 코드에서 C 함수를 호출할 수 있습니다.

tfLiteHandleTask.onSuccessTask(unused -> {
    TfLiteJni jni = new TfLiteJni();
    jni.loadModel(getAssets(), "add.bin");
    //...
});
    

tfLiteHandleTask.onSuccessTask {
    val jni = TfLiteJni()
    jni.loadModel(assets, "add.bin")
    // ...
}
      

C 코드의 TensorFlow Lite

Google Play 서비스 API에 TfLite를 포함하려면 적절한 API 헤더 파일을 포함하세요.

#include "tensorflow/lite/c/c_api.h"

그런 다음 일반 TensorFlow Lite C API를 사용할 수 있습니다.

auto model = TfLiteModelCreate(model_asset, model_asset_length);
// ...
auto options = TfLiteInterpreterOptionsCreate();
// ...
auto interpreter = TfLiteInterpreterCreate(model, options);

Google Play 서비스의 TensorFlow Lite 기본 API 헤더는 더 이상 사용되지 않거나 실험적인 기능을 제외하고 일반 TensorFlow Lite C API 와 동일한 API를 제공합니다. 현재는 c_api.h , c_api_types.h 및 common.h 헤더의 함수와 유형을 사용할 수 있습니다. c_api_experimental.h 헤더의 기능은 지원되지 않습니다. 설명서는 온라인에서 찾을 수 있습니다.

tflite.h 포함하여 Google Play 서비스에서 TensorFlow Lite 관련 기능을 사용할 수 있습니다.