GpuDelegateFactory.Options

clase estática pública GpuDelegateFactory.Options
Subclases directas conocidas

Opciones de delegado.

Clases anidadas

enumeración GpuDelegateFactory.Options.GpuBackend Qué backend de GPU seleccionar.

Constantes

En t INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER El delegado se usará solo una vez, por lo tanto, se debe tener en cuenta el tiempo de arranque/inicio.
En t INFERENCE_PREFERENCE_SUSTAINED_SPEED Prefiere maximizar el rendimiento.

Constructores Públicos

Opciones ()

Métodos públicos

booleano
areQuantizedModelsAllowed ()
GpuDelegateFactory.Options.GpuBackend
obtenerForceBackend ()
En t
getInferencePreference ()
Cadena
obtenerModelToken ()
Cadena
getSerializationDir ()
booleano
esPrecisionLossAllowed ()
GpuDelegateFactory.Opciones
setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
Establece el backend de la GPU.
GpuDelegateFactory.Opciones
setInferencePreference (preferencia int)
Establece la preferencia de inferencia para compensaciones de precisión/compilación/tiempo de ejecución.
GpuDelegateFactory.Opciones
setPrecisionLossAllowed (precisión booleanaLossAllowed)
Establece si se permite la pérdida de precisión.
GpuDelegateFactory.Opciones
setQuantizedModelsAllowed (boolean quantizedModelsAllowed)
Permite ejecutar modelos cuantificados con el delegado.
GpuDelegateFactory.Opciones
setSerializationParams ( Cadena serializationDir, Cadena modelToken)
Habilita la serialización en el delegado.

Métodos heredados

Constantes

int final estático público INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

El delegado se usará solo una vez, por lo tanto, se debe tener en cuenta el tiempo de arranque/inicio.

Valor constante: 0

int final estático público INFERENCE_PREFERENCE_SUSTAINED_SPEED

Prefiere maximizar el rendimiento. El mismo delegado se utilizará repetidamente en múltiples entradas.

Valor constante: 1

Constructores Públicos

Opciones públicas ()

Métodos públicos

público booleano areQuantizedModelsAllowed ()

público GpuDelegateFactory.Options.GpuBackend getForceBackend ()

público int getInferencePreference ()

cadena pública getModelToken ()

cadena pública getSerializationDir ()

booleano público esPrecisionLossAllowed ()

público GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)

Establece el backend de la GPU.

Parámetros
fuerzaBackend

público GpuDelegateFactory.Options setInferencePreference (preferencia int)

Establece la preferencia de inferencia para compensaciones de precisión/compilación/tiempo de ejecución.

Parámetros
preferencia Uno de `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (predeterminado), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`.

público GpuDelegateFactory.Options setPrecisionLossAllowed (precisión booleanaLossAllowed)

Establece si se permite la pérdida de precisión.

Parámetros
precisionLossAllowed Cuando es "verdadero" (predeterminado), la GPU puede cuantificar tensores, valores abatidos y procesar en FP16. Cuando es "falso", los cálculos se realizan en punto flotante de 32 bits.

público GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)

Permite ejecutar modelos cuantificados con el delegado.

ADVERTENCIA: Esta es una API experimental y está sujeta a cambios.

Parámetros
modelos cuantificados permitidos Cuando true (predeterminado), la GPU puede ejecutar modelos cuantificados.

público GpuDelegateFactory.Options setSerializationParams ( String serializationDir, String modelToken)

Habilita la serialización en el delegado. Tenga en cuenta que se requieren serializationDir y modelToken no nulos para la serialización.

ADVERTENCIA: Esta es una API experimental y está sujeta a cambios.

Parámetros
serializaciónDir El directorio que se utilizará para almacenar datos. La persona que llama es responsable de garantizar que el modelo no se almacene en un directorio público. Se recomienda utilizar Context.getCodeCacheDir() para proporcionar una ubicación privada para la aplicación en Android.
modeloToken El token que se utilizará para identificar el modelo. La persona que llama es responsable de garantizar que el token sea exclusivo del gráfico y los datos del modelo.