przepływ tensorowy:: porcja:: AspiredVersionsManager:: Opcje
#include <aspired_versions_manager.h>
Opcje konfiguracyjne i wtykowym obiekty, które będą wykorzystywane przez AspiredVersionsManager .
Streszczenie
Atrybuty publiczne | |
---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy użyć do kierownika. Musi mieć wartość inną niż null. |
env = Env::Default() | Env * Środowisko używane do uruchamiania wątków w puli wątków lub do uśpienia. |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 Odstęp czasu w mikrosekundach między każdą ponowną próbą załadowania możliwego do wyświetlenia. |
manage_state_interval_micros = 100 * 1000 | int64 Okresowość, w mikrosekundach, wątku zarządzającego stanem obiektów serwowalnych. |
max_num_load_retries = 5 | uint32 Maksymalna liczba ponownych prób załadowania servable'a po pierwszym niepowodzeniu, zanim się poddamy. |
num_load_threads = 0 | uint32 Liczba wątków w puli wątków używanych do ładowania serwerów. |
num_unload_threads = 0 | uint32 Liczba wątków w puli wątków używanych do zwalniania obiektów serwowalnych. |
pre_load_hook | PreLoadHook Callback do wywołania tuż przed załadowaniem serwowalnego. |
resource_tracker | std::unique_ptr< ResourceTracker > Narzędzie do śledzenia zasobów używane podczas zarządzania zasobami możliwymi do wyświetlenia. |
servable_event_bus = nullptr | EventBus< ServableState > * EventBus do publikowania możliwych do wyświetlenia zmian stanu. |
Atrybuty publiczne
aspired_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicy użyć do kierownika. Musi mieć wartość inną niż null.
zazdrościć
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
Środowisko używane do uruchamiania wątków w puli wątków lub do uśpienia.
flush_filesystem_cache
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
Odstęp czasu w mikrosekundach między każdą ponowną próbą załadowania możliwego do wyświetlenia.
Jeśli ustawiono wartość ujemną, nie czekamy. Domyślnie: 1 minuta.
manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
Okresowość, w mikrosekundach, wątku zarządzającego stanem obiektów serwowalnych.
Domyślnie: 100 milisekund. Jeśli ta wartość jest mniejsza lub równa 0, w ogóle nie uruchamiamy tego wątku.
max_num_load_retries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
Maksymalna liczba ponownych prób załadowania servable'a po pierwszym niepowodzeniu, zanim się poddamy.
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
Liczba wątków w puli wątków używanych do ładowania serwerów.
Jeśli jest ustawiona na 0, nie używamy puli wątków, a serwowalne obciążenia są wykonywane szeregowo w głównej pętli roboczej menedżera.
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
Liczba wątków w puli wątków używanych do zwalniania obiektów serwowalnych.
Jeśli jest ustawiona na 0, nie używamy puli wątków, a wyładowania, które można serwować, są wykonywane szeregowo w głównej pętli roboczej menedżera.
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
Callback do wywołania tuż przed załadowaniem serwowalnego.
Będzie to wywołane w tym samym wątku ładowania menedżera, który uruchamia ładowanie.
śledzenie_zasobów
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
Narzędzie do śledzenia zasobów używane podczas zarządzania zasobami możliwymi do wyświetlenia.
Opcjonalny. Jeśli zostanie pozostawiony jako nullptr, nie weryfikujemy użycia zasobów możliwych do wyświetlenia.
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
EventBus do publikowania możliwych do wyświetlenia zmian stanu.
Jest to opcjonalne, jeśli nie jest ustawione, nie publikujemy.