Interpreter.Options

Aggiunge un Delegate da applicare durante la creazione dell'interprete.

I delegati aggiunti qui vengono applicati prima di eventuali delegati creati da un oggetto DelegateFactory aggiunto con addDelegateFactory(DelegateFactory) .

Tieni presente che TF Lite in Google Play Services (vedi setRuntime(InterpreterApi.Options.TfLiteRuntime) ) non supporta i delegati esterni (forniti dallo sviluppatore) e l'aggiunta di un Delegate diverso da ERROR(/NnApiDelegate) qui non è consentita quando si utilizza TF Lite in Servizi Google Play.

Aggiunge un DelegateFactory che verrà richiamato per applicare il Delegate creato durante la creazione dell'interprete.

I delegati di una factory delegata che è stata aggiunta qui vengono applicati dopo tutti i delegati aggiunti con addDelegate(Delegate) .

Avanzato: impostare se è consentito l'output dell'handle del buffer.

Quando un Delegate supporta l'accelerazione hardware, l'interprete renderà disponibili i dati dei tensori di output nei buffer tensori allocati dalla CPU per impostazione predefinita. Se il client può utilizzare direttamente l'handle del buffer (ad esempio leggendo l'output dalla texture OpenGL), può impostare questo flag su false, evitando la copia dei dati nel buffer della CPU. La documentazione del delegato dovrebbe indicare se questo è supportato e come può essere utilizzato.

ATTENZIONE: questa è un'interfaccia sperimentale soggetta a modifiche.

Imposta se consentire la precisione float16 per il calcolo FP32 quando possibile. L'impostazione predefinita è false (disallow).

Avanzato: Imposta se l'interprete può essere cancellato.

Gli interpreti possono avere un'API sperimentale setCancelled(boolean) . Se questo interprete è cancellabile e tale metodo viene invocato, un flag di cancellazione verrà impostato su true. L'interprete controllerà il flag tra le invocazioni Op e, se è true , l'interprete interromperà l'esecuzione. L'interprete rimarrà in uno stato annullato fino a quando non verrà esplicitamente "non annullato" da setCancelled(false) .

Imposta il numero di thread da utilizzare per le operazioni che supportano il multithreading.

numThreads dovrebbe essere >= -1 . L'impostazione di numThreads su 0 ha l'effetto di disabilitare il multithreading, che equivale all'impostazione di numThreads su 1. Se non specificato o impostato sul valore -1, il numero di thread utilizzati sarà definito dall'implementazione e dipendente dalla piattaforma.

Specifica da dove ottenere l'implementazione del runtime di TF Lite.

Imposta se utilizzare l'API NN (se disponibile) per l'esecuzione dell'operazione. Il valore predefinito è false (disabilitato).

Abilita o disabilita un set ottimizzato di kernel CPU (fornito da XNNPACK). Abilitato per impostazione predefinita.