tensorflow :: portion:: AspiredVersionsManager :: Options
#include <aspired_versions_manager.h>Les options de configuration et les objets connectables qui seront utilisés par le AspiredVersionsManager .
Résumé
Attributs publics | |
|---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > Le AspiredVersionPolicy à utiliser pour le gestionnaire. Doit être non nul. |
env = Env::Default() | Env * L'environnement à utiliser pour démarrer les threads dans le pool de threads ou pour dormir. |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 Intervalle, en microsecondes, entre chaque nouvelle tentative de chargement utilisable. |
manage_state_interval_micros = 100 * 1000 | int64 La périodicité, en microsecondes, du thread qui gère l'état des servables. |
max_num_load_retries = 5 | uint32 Nombre maximum de fois où nous réessayons de charger un serveur, après le premier échec, avant d'abandonner. |
num_load_threads = 0 | uint32 Le nombre de threads dans le pool de threads utilisé pour charger les servables. |
num_unload_threads = 0 | uint32 Le nombre de threads dans le pool de threads utilisé pour décharger les servables. |
pre_load_hook | PreLoadHook Callback à appeler juste avant qu'un serveur ne soit chargé. |
resource_tracker | std::unique_ptr< ResourceTracker > L'outil de suivi des ressources à utiliser lors de la gestion des ressources utilisables. |
servable_event_bus = nullptr | EventBus< ServableState > * EventBus pour publier les changements d'état utilisables. |
Attributs publics
aspiré_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
Le AspiredVersionPolicy à utiliser pour le gestionnaire. Doit être non nul.
env
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
L'environnement à utiliser pour démarrer les threads dans le pool de threads ou pour dormir.
flush_filesystem_caches
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
Intervalle, en microsecondes, entre chaque nouvelle tentative de chargement utilisable.
S'il est négatif, nous n'attendons pas. Par défaut : 1 minute.
manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
La périodicité, en microsecondes, du thread qui gère l'état des servables.
Par défaut : 100 millisecondes. Si cela est inférieur ou égal à 0, nous n'exécutons pas du tout ce thread.
max_num_load_retries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
Nombre maximum de fois où nous réessayons de charger un serveur, après le premier échec, avant d'abandonner.
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
Le nombre de threads dans le pool de threads utilisé pour charger les servables.
S'il est défini sur 0, nous n'utilisons pas de pool de threads et les charges utilisables sont effectuées en série dans la boucle de travail principale du gestionnaire.
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
Le nombre de threads dans le pool de threads utilisé pour décharger les servables.
S'il est défini sur 0, nous n'utilisons pas de pool de threads et les déchargements utilisables sont effectués en série dans la boucle de travail principale du gestionnaire.
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
Callback à appeler juste avant qu'un serveur ne soit chargé.
Cela sera appelé sur le même thread de chargement du gestionnaire qui démarre le chargement.
ressource_tracker
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
L'outil de suivi des ressources à utiliser lors de la gestion des ressources utilisables.
Optionnel. Si laissé comme nullptr, nous ne validons pas l'utilisation des ressources utilisables.
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
EventBus pour publier les changements d'état utilisables.
Ceci est facultatif, s'il n'est pas défini, nous ne publions pas.