جریان تنسور:: خدمت:: AspiredVersionsManager:: گزینه ها

#include <aspired_versions_manager.h>

گزینه های پیکربندی و اشیاء نردبان که توسط استفاده AspiredVersionsManager .

خلاصه

صفات عمومی

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
AspiredVersionPolicy برای استفاده برای بدهید. باید غیر پوچ باشد.
env = Env::Default()
Env *
محیطی که برای شروع نخ ها در استخر نخ یا خواب استفاده می شود.
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
فاصله، بر حسب میکروثانیه، بین هر بار قابل سرویس دهی مجدد.
manage_state_interval_micros = 100 * 1000
int64
تناوب، در میکروثانیه، رشته ای که وضعیت قابل خدمت را مدیریت می کند.
max_num_load_retries = 5
uint32
حداکثر تعداد دفعاتی که بعد از اولین شکست، قبل از تسلیم شدن، بارگذاری یک سرویس‌پذیر را دوباره امتحان می‌کنیم.
num_load_threads = 0
uint32
تعداد رشته‌های موجود در استخر نخی که برای بارگذاری قابل سرویس‌ها استفاده می‌شود.
num_unload_threads = 0
uint32
تعداد رشته‌های موجود در thread-pool که برای تخلیه سرویس‌ها استفاده می‌شود.
pre_load_hook
PreLoadHook
تماس برگشتی درست قبل از بارگیری یک سرویس پذیر فراخوانی می شود.
resource_tracker
std::unique_ptr< ResourceTracker >
ردیاب منبع برای استفاده در هنگام مدیریت منابع قابل سرویس.
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus برای انتشار تغییرات وضعیت قابل سرویس دهی.

صفات عمومی

سیاست_نسخه_آرزوی

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicy برای استفاده برای بدهید. باید غیر پوچ باشد.

env

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

محیطی که برای شروع نخ ها در استخر نخ یا خواب استفاده می شود.

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

فاصله، بر حسب میکروثانیه، بین هر بار قابل سرویس دهی مجدد.

اگر منفی تنظیم شود، منتظر نمی مانیم. پیش فرض: 1 دقیقه

manager_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

تناوب، در میکروثانیه، رشته ای که وضعیت قابل خدمت را مدیریت می کند.

پیش فرض: 100 میلی ثانیه اگر این مقدار کمتر یا مساوی 0 باشد، این موضوع را اصلا اجرا نمی کنیم.

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

حداکثر تعداد دفعاتی که بعد از اولین شکست، قبل از تسلیم شدن، بارگذاری یک سرویس‌پذیر را دوباره امتحان می‌کنیم.

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

تعداد رشته‌های موجود در استخر نخی که برای بارگذاری قابل سرویس‌ها استفاده می‌شود.

اگر 0 تنظیم شود، از Thread-pool استفاده نمی کنیم و بارهای قابل سرویس دهی به صورت سریال در حلقه کاری اصلی مدیر اجرا می شوند.

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

تعداد رشته‌های موجود در thread-pool که برای تخلیه سرویس‌ها استفاده می‌شود.

اگر به صورت 0 تنظیم شود، از Thread-pool استفاده نمی کنیم و تخلیه های قابل سرویس دهی به صورت سریال در حلقه کاری اصلی مدیر انجام می شود.

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

تماس برگشتی درست قبل از بارگیری یک سرویس پذیر فراخوانی می شود.

این روی همان رشته بار مدیریتی که بار را شروع می کند فراخوانی می شود.

منبع_ردیاب

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

ردیاب منبع برای استفاده در هنگام مدیریت منابع قابل سرویس.

اختیاری. اگر به عنوان nullptr باقی بماند، استفاده از منابع قابل سرویس را تأیید نمی کنیم.

اتوبوس سرویس پذیر_رویداد

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus برای انتشار تغییرات وضعیت قابل سرویس دهی.

این اختیاری است، اگر تنظیم نشده باشد، منتشر نمی کنیم.