Uma classe de opções para controlar o comportamento do interpretador de tempo de execução.
Construtores públicos
Opções () | |
Opções (opções InterpreterApi.Options ) |
Métodos públicos
Intérprete.Opções | addDelegate ( Delegado delegado) Adiciona um Delegate a ser aplicado durante a criação do intérprete. |
Intérprete.Opções | setAllowBufferHandleOutput (permissão booleana) Avançado: Defina se a saída do identificador de buffer é permitida. |
Intérprete.Opções | setAllowFp16PrecisionForFp32 (permissão booleana) Este método está obsoleto. Prefira usar NnApiDelegate.Options#setAllowFp16(boolean enable) . |
Intérprete.Opções | setCancellable (permissão booleana) Avançado: Defina se o intérprete pode ser cancelado. |
Intérprete.Opções | setNumThreads (int numThreads) Define o número de encadeamentos a serem usados para operações que suportam multiencadeamento. |
Intérprete.Opções | setRuntime (tempo de execução InterpreterApi.Options.TfLiteRuntime ) Especifique de onde obter a implementação do tempo de execução do TF Lite. |
Intérprete.Opções | setUseNNAPI (booleano useNNAPI) Define se a API NN deve ser usada (se disponível) para execução operacional. |
Intérprete.Opções | setUseXNNPACK (booleano useXNNPACK) Experimental: Desabilite um conjunto otimizado de kernels de CPU (fornecido pelo XNNPACK). |
Métodos Herdados
Construtores públicos
opções públicas ()
Métodos públicos
public Interpreter.Options addDelegate ( Delegate delegate)
Adiciona um Delegate
a ser aplicado durante a criação do intérprete.
Parâmetros
delegar |
---|
public Interpreter.Options setAllowBufferHandleOutput (permissão booleana)
Avançado: Defina se a saída do identificador de buffer é permitida.
Quando um Delegate
suporta aceleração de hardware, o interpretador disponibilizará os dados dos tensores de saída nos buffers de tensor alocados pela CPU por padrão. Se o cliente pode consumir o manipulador do buffer diretamente (por exemplo, lendo a saída da textura OpenGL), ele pode definir este sinalizador como falso, evitando a cópia dos dados para o buffer da CPU. A documentação do delegado deve indicar se há suporte para isso e como pode ser usado.
AVISO: Esta é uma interface experimental que está sujeita a alterações.
Parâmetros
permitir |
---|
public Interpreter.Options setAllowFp16PrecisionForFp32 (boolean allow)
Este método está obsoleto .
Prefira usar NnApiDelegate.Options#setAllowFp16(boolean enable) .
Define se permite a precisão float16 para cálculo de FP32 quando possível. O padrão é false (não permitir).
Parâmetros
permitir |
---|
public Interpreter.Options setCancellable (boolean allow)
Avançado: Defina se o intérprete pode ser cancelado.
Os intérpretes podem ter uma API experimental setCancelled(boolean) . Se este interpretador for cancelável e tal método for invocado, um sinalizador de cancelamento será definido como verdadeiro. O interpretador verificará o sinalizador entre as invocações de Op e, se for true
, o interpretador interromperá a execução. O interpretador permanecerá um estado cancelado até explicitamente "uncancelled" por setCancelled(false)
.
Parâmetros
permitir |
---|
public Interpreter.Options setNumThreads (int numThreads)
Define o número de encadeamentos a serem usados para operações que suportam multiencadeamento.
numThreads
deve ser >= -1
. Definir numThreads
como 0 tem o efeito de desabilitar o multithreading, que é equivalente a definir numThreads
como 1. Se não for especificado ou definido com o valor -1, o número de threads usados será definido pela implementação e dependente da plataforma.
Parâmetros
numThreads |
---|
public Interpreter.Options setRuntime (tempo de execução InterpreterApi.Options.TfLiteRuntime )
Especifique de onde obter a implementação do tempo de execução do TF Lite.
Parâmetros
tempo de execução |
---|
public Interpreter.Options setUseNNAPI (boolean useNNAPI)
Define se a API NN deve ser usada (se disponível) para execução operacional. O padrão é false (desativado).
Parâmetros
use NNAPI |
---|
public Interpreter.Options setUseXNNPACK (boolean useXNNPACK)
Experimental: Desabilite um conjunto otimizado de kernels de CPU (fornecido pelo XNNPACK).
Desabilitar este sinalizador desabilitará o uso de um conjunto altamente otimizado de kernels de CPU fornecidos por meio do delegado XNNPACK. Atualmente, isso é restrito a um subconjunto de operações de ponto flutuante. Consulte https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/delegates/xnnpack/README.md para obter mais detalhes.
AVISO: Esta é uma interface experimental que está sujeita a alterações.
Parâmetros
use XNNPACK |
---|