Unisciti alla community di SIG TFX-Addons e aiutaci a rendere TFX ancora migliore! Iscriviti a SIG TFX-Addons

tensorflow :: servendo:: AspiredVersionsManager :: Opzioni

#include <aspired_versions_manager.h>

Opzioni di configurazione e oggetti collegabili che verranno utilizzati da AspiredVersionsManager .

Sommario

Attributi pubblici

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
AspiredVersionPolicy da utilizzare per il gestore. Deve essere non nullo.
env = Env::Default()
Env *
L'ambiente da utilizzare per avviare i thread nel pool di thread o per dormire.
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
L'intervallo, in microsecondi, tra ogni nuovo tentativo di caricamento servibile.
manage_state_interval_micros = 100 * 1000
int64
La periodicità, in microsecondi, del thread che gestisce lo stato dei servables.
max_num_load_retries = 5
uint32
Numero massimo di tentativi di caricamento di un servable, dopo il primo errore, prima di rinunciare.
num_load_threads = 0
uint32
Il numero di thread nel pool di thread utilizzati per caricare i servable.
num_unload_threads = 0
uint32
Il numero di thread nel pool di thread utilizzati per scaricare i servable.
pre_load_hook
PreLoadHook
Richiamata da chiamare subito prima del caricamento di un servable.
resource_tracker
std::unique_ptr< ResourceTracker >
Il tracker delle risorse da utilizzare durante la gestione delle risorse servibili.
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus per pubblicare modifiche di stato pubblicabili.

Attributi pubblici

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicy da utilizzare per il gestore. Deve essere non nullo.

env

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

L'ambiente da utilizzare per avviare i thread nel pool di thread o per dormire.

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

L'intervallo, in microsecondi, tra ogni nuovo tentativo di caricamento servibile.

Se impostato negativo, non aspettiamo. Predefinito: 1 minuto.

manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

La periodicità, in microsecondi, del thread che gestisce lo stato dei servables.

Predefinito: 100 millisecondi. Se è impostato minore o uguale a 0, non eseguiamo affatto questo thread.

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

Numero massimo di tentativi di caricamento di un servable, dopo il primo errore, prima di rinunciare.

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

Il numero di thread nel pool di thread utilizzati per caricare i servable.

Se impostato su 0, non utilizziamo un pool di thread e i carichi servibili vengono eseguiti in modo seriale nel ciclo di lavoro principale del gestore.

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

Il numero di thread nel pool di thread utilizzati per scaricare i servable.

Se impostato come 0, non utilizziamo un pool di thread e gli scaricamenti servibili vengono eseguiti in serie nel ciclo di lavoro principale del gestore.

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

Richiamata da chiamare subito prima del caricamento di un servable.

Questo verrà chiamato sullo stesso thread di caricamento del gestore che avvia il caricamento.

resource_tracker

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

Il tracker delle risorse da utilizzare durante la gestione delle risorse servibili.

Opzionale. Se lasciato come nullptr, non convalidiamo l'utilizzo delle risorse servibili.

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus per pubblicare modifiche di stato pubblicabili.

Questo è facoltativo, se non impostato, non pubblichiamo.