Interpreter.Options

classe statica pubblica Interpreter.Options

Una classe di opzioni per controllare il comportamento dell'interprete runtime.

Costruttori pubblici

Opzioni ()

Metodi pubblici

Opzioni.Interprete
addDelegate ( delegato delegato)
Aggiunge un Delegate da applicare durante la creazione dell'interprete.
Opzioni.Interprete
addDelegateFactory ( DelegateFactory delegateFactory)
Aggiunge una DelegateFactory che verrà richiamata per applicare il suo Delegate creato durante la creazione dell'interprete.
Opzioni.Interprete
setAllowBufferHandleOutput (autorizzazione booleana)
Avanzato: imposta se è consentito l'output dell'handle del buffer.
Opzioni.Interprete
setAllowFp16PrecisionForFp32 (autorizzazione booleana)
Questo metodo è deprecato. Preferisci utilizzare NnApiDelegate.Options#setAllowFp16(boolean abilita) .
Opzioni.Interprete
setCancellable (consenti booleano)
Avanzato: imposta se l'interprete può essere annullato.
Opzioni.Interprete
setNumThread (int numThread)
Imposta il numero di thread da utilizzare per le operazioni che supportano il multi-threading.
Opzioni.Interprete
setRuntime ( InterpreterApi.Options.TfLiteRuntime runtime)
Specificare da dove ottenere l'implementazione del runtime TF Lite.
Opzioni.Interprete
setUseNNAPI (useNNAPI booleano)
Imposta se utilizzare l'API NN (se disponibile) per l'esecuzione delle operazioni.
Opzioni.Interprete
setUseXNNPACK (uso booleanoXNNPACK)
Abilita o disabilita un set ottimizzato di kernel CPU (fornito da XNNPACK).

Metodi ereditati

Costruttori pubblici

Opzioni pubbliche ()

Opzioni pubbliche (opzioni InterpreterApi.Options )

Parametri
opzioni

Metodi pubblici

public Interpreter.Options addDelegate (delegato delegato )

Aggiunge un Delegate da applicare durante la creazione dell'interprete.

I delegati aggiunti qui vengono applicati prima di qualsiasi delegato creato da una DelegateFactory aggiunta con addDelegateFactory(DelegateFactory) .

Tieni presente che TF Lite in Google Play Services (vedi setRuntime(InterpreterApi.Options.TfLiteRuntime) ) non supporta delegati esterni (forniti dallo sviluppatore) e l'aggiunta di un Delegate diverso da ERROR(/NnApiDelegate) qui non è consentita quando si utilizza TF Lite in Servizi di Google Play.

Parametri
delegare

public Interpreter.Options addDelegateFactory ( DelegateFactory delegateFactory)

Aggiunge una DelegateFactory che verrà richiamata per applicare il suo Delegate creato durante la creazione dell'interprete.

I delegati di una factory delegata aggiunta qui vengono applicati dopo eventuali delegati aggiunti con addDelegate(Delegate) .

Parametri
delegateFactory

public Interpreter.Options setAllowBufferHandleOutput (autorizzazione booleana)

Avanzato: imposta se è consentito l'output dell'handle del buffer.

Quando un Delegate supporta l'accelerazione hardware, l'interprete renderà disponibili i dati dei tensori di output nei buffer tensori allocati dalla CPU per impostazione predefinita. Se il client può utilizzare direttamente l'handle del buffer (ad esempio leggendo l'output dalla texture OpenGL), può impostare questo flag su false, evitando la copia dei dati nel buffer della CPU. La documentazione del delegato dovrebbe indicare se questo è supportato e come può essere utilizzato.

ATTENZIONE: questa è un'interfaccia sperimentale soggetta a modifiche.

Parametri
permettere

public Interpreter.Options setAllowFp16PrecisionForFp32 (autorizzazione booleana)

Questo metodo è deprecato .
Preferisci utilizzare NnApiDelegate.Options#setAllowFp16(boolean abilita) .

Imposta se consentire la precisione float16 per il calcolo FP32 quando possibile. Il valore predefinito è falso (non consentito).

Parametri
permettere

public Interpreter.Options setCancellable (consenti booleano)

Avanzato: imposta se l'interprete può essere annullato.

Gli interpreti possono avere un'API sperimentale setCancelled(boolean) . Se questo interprete è cancellabile e viene richiamato tale metodo, un flag di cancellazione verrà impostato su true. L'interprete controllerà il flag tra le invocazioni Op e, se è true , l'interprete interromperà l'esecuzione. L'interprete rimarrà in uno stato annullato finché non verrà esplicitamente "non annullato" da setCancelled(false) .

Parametri
permettere

public Interpreter.Options setNumThreads (int numThreads)

Imposta il numero di thread da utilizzare per le operazioni che supportano il multi-threading.

numThreads dovrebbe essere >= -1 . L'impostazione di numThreads su 0 ha l'effetto di disabilitare il multithreading, che equivale a impostare numThreads su 1. Se non specificato o impostato sul valore -1, il numero di thread utilizzati sarà definito dall'implementazione e dipendente dalla piattaforma.

Parametri
numThread

public Interpreter.Options setRuntime (runtime InterpreterApi.Options.TfLiteRuntime )

Specificare da dove ottenere l'implementazione del runtime TF Lite.

Parametri
tempo di esecuzione

public Interpreter.Options setUseNNAPI (useNNAPI booleano)

Imposta se utilizzare l'API NN (se disponibile) per l'esecuzione delle operazioni. Il valore predefinito è false (disabilitato).

Parametri
utilizzareNNAPI

public Interpreter.Options setUseXNNPACK (booleano useXNNPACK)

Abilita o disabilita un set ottimizzato di kernel CPU (fornito da XNNPACK). Abilitato per impostazione predefinita.

Parametri
utilizzareXNNPACK