GpuDelegateFactory.Options

パブリック静的クラスGpuDelegateFactory.Options
既知の直接サブクラス

委任オプション。

ネストされたクラス

列挙型GpuDelegateFactory.Options.GpuBackendどの GPU バックエンドを選択するか。

定数

整数INFERENCE_PREFERENCE_FAST_SINGLE_ANSWERデリゲートは 1 回だけ使用されるため、ブートストラップ/初期化時間を考慮する必要があります。
整数INFERENCE_PREFERENCE_SUSTAINED_SPEEDスループットを最大化することを優先します。

パブリックコンストラクター

オプション()

パブリックメソッド

ブール値
areQuantizedModelsAllowed ()
GpuDelegateFactory.Options.GpuBackend
getForceBackend ()
整数
getInferencePreference ()
弦
getModelToken ()
弦
getSerializationDir ()
ブール値
isPrecisionLossAllowed ()
GpuDelegateFactory.Options
setForceBackend ( GpuDelegateFactory.Options.GpuBackend ForceBackend)
GPU バックエンドを設定します。
GpuDelegateFactory.Options
setInferencePreference (int 設定)
精度/コンパイル/実行時のトレードオフの推論設定を設定します。
GpuDelegateFactory.Options
setPrecisionLossAllowed (ブール値の precisionLossAllowed)
精度の損失を許可するかどうかを設定します。
GpuDelegateFactory.Options
setQuantizedModelsAllowed (ブール値 quantizedModelsAllowed)
デリゲートを使用して量子化モデルを実行できるようにします。
GpuDelegateFactory.Options
setSerializationParams (文字列serializationDir、文字列modelToken)
デリゲートでシリアル化を有効にします。

継承されたメソッド

定数

public static Final int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

デリゲートは 1 回だけ使用されるため、ブートストラップ/初期化時間を考慮する必要があります。

定数値: 0

public static Final int INFERENCE_PREFERENCE_SUSTAINED_SPEED

スループットを最大化することを優先します。同じデリゲートが複数の入力で繰り返し使用されます。

定数値: 1

パブリックコンストラクター

パブリックオプション()

パブリックメソッド

public boolean areQuantizedModelsAllowed ()

public GpuDelegateFactory.Options.GpuBackend getForceBackend ()

public int getInferencePreference ()

パブリックString getModelToken ()

public String getSerializationDir ()

public boolean isPrecisionLossAllowed ()

public GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend ForceBackend)

GPU バックエンドを設定します。

パラメーター
フォースバックエンド

public GpuDelegateFactory.Options setInferencePreference (int 設定)

精度/コンパイル/実行時のトレードオフの推論設定を設定します。

パラメーター
好み「INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER」 (デフォルト)、「INFERENCE_PREFERENCE_SUSTAINED_SPEED」のいずれか。

public GpuDelegateFactory.Options setPrecisionLossAllowed (ブール値 precisionLossAllowed)

精度の損失を許可するかどうかを設定します。

パラメーター
許容精度損失「true」(デフォルト) の場合、GPU は FP16 でのテンソル、ダウンキャスト値、プロセスを定量化できます。 「false」の場合、計算は 32 ビット浮動小数点で実行されます。

public GpuDelegateFactory.Options setQuantizedModelsAllowed (ブール値の quantizedModelsAllowed)

デリゲートを使用して量子化モデルを実行できるようにします。

警告: これは実験的な API であり、変更される可能性があります。

パラメーター
量子化モデル許可true (デフォルト) の場合、GPU は量子化モデルを実行できます。

public GpuDelegateFactory.Options setSerializationParams ( StringserializationDir , String modelToken)

デリゲートでシリアル化を有効にします。シリアル化にはnull以外のserializationDirとmodelTokenが必要であることに注意してください。

警告: これは実験的な API であり、変更される可能性があります。

パラメーター
シリアル化ディレクトリデータの保存に使用するディレクトリ。呼び出し元は、モデルがパブリック ディレクトリに保存されていないことを確認する責任があります。 Context.getCodeCacheDir()を使用して、Android 上のアプリケーションにプライベートな場所を提供することをお勧めします。
モデルトークンモデルを識別するために使用されるトークン。呼び出し元は、トークンがモデルのグラフとデータに対して一意であることを確認する責任があります。