انضم إلى مجتمع SIG TFX-Addons وساعد في جعل TFX أفضل! انضم إلى SIG TFX-Addons

تينسورفلو :: خدمة:: AspiredVersionsManager :: خيارات

#include <aspired_versions_manager.h>

خيارات التكوين والكائنات القابلة للتوصيل التي سيتم استخدامها بواسطة AspiredVersionsManager .

ملخص

السمات العامة

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
سياسة AspiredVersionPolicy المستخدمة للمدير. يجب ألا يكون فارغًا.
env = Env::Default()
Env *
البيئة المراد استخدامها لبدء الخيوط في تجمع الخيوط أو للنوم.
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
الفاصل الزمني ، بالميكروثانية ، بين كل محاولة تحميل قابلة للخدمة.
manage_state_interval_micros = 100 * 1000
int64
دورية ، بالميكروثانية ، الخيط الذي يدير حالة الخيوط.
max_num_load_retries = 5
uint32
أقصى عدد من المرات التي نعيد فيها محاولة تحميل خدمة قابلة للخدمة ، بعد الفشل الأول ، قبل أن نستسلم.
num_load_threads = 0
uint32
عدد مؤشرات الترابط في تجمع مؤشرات الترابط المستخدمة لتحميل الخوادم.
num_unload_threads = 0
uint32
عدد مؤشرات الترابط في تجمع مؤشرات الترابط المستخدمة لإلغاء تحميل الخوادم.
pre_load_hook
PreLoadHook
استدعاء رد الاتصال قبل تحميل الخدمة.
resource_tracker
std::unique_ptr< ResourceTracker >
أداة تعقب الموارد لاستخدامها أثناء إدارة الموارد القابلة للخدمة.
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus لنشر تغييرات الحالة القابلة للخدمة.

السمات العامة

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

سياسة AspiredVersionPolicy المستخدمة للمدير. يجب ألا يكون فارغًا.

الحسد

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

البيئة المراد استخدامها لبدء الخيوط في تجمع الخيوط أو للنوم.

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

الفاصل الزمني ، بالميكروثانية ، بين كل محاولة تحميل قابلة للخدمة.

إذا تم تعيينه سالبًا ، فلن ننتظر. الافتراضي: 1 دقيقة.

إدارة_حالة_الفترات_الصغيرة

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

دورية ، بالميكروثانية ، الخيط الذي يدير حالة الخيوط.

الافتراضي: 100 مللي ثانية. إذا تم تعيين هذا على أقل من أو يساوي 0 ، فلن نقوم بتشغيل هذا الموضوع على الإطلاق.

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

أقصى عدد من المرات التي نعيد فيها محاولة تحميل مادة قابلة للخدمة ، بعد الفشل الأول ، قبل أن نستسلم.

عدد_حمل_الخيوط

0 ابادف 9300

عدد مؤشرات الترابط في تجمع مؤشرات الترابط المستخدمة لتحميل الخوادم.

إذا تم التعيين على 0 ، فإننا لا نستخدم مجموعة مؤشرات الترابط ، ويتم تنفيذ الأحمال القابلة للخدمة بشكل متسلسل في حلقة العمل الرئيسية للمدير.

عدد_حمل_الخيوط

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

عدد مؤشرات الترابط في تجمع مؤشرات الترابط المستخدمة لإلغاء تحميل الخوادم.

إذا تم التعيين على 0 ، فإننا لا نستخدم تجمع مؤشرات الترابط ، ويتم تنفيذ عمليات التفريغ القابلة للخدمة بشكل متسلسل في حلقة العمل الرئيسية للمدير.

الخطاف المسبق

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

استدعاء رد الاتصال قبل تحميل الخدمة.

هذا سوف يسمى على نفس موضوع تحميل المدير الذي يبدأ التحميل.

مورد_تكسير

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

أداة تعقب الموارد لاستخدامها أثناء إدارة الموارد القابلة للخدمة.

اختياري. إذا تُركت كـ nullptr ، فإننا لا نتحقق من استخدام الموارد القابلة للخدمة.

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus لنشر تغييرات الحالة القابلة للخدمة.

هذا اختياري ، إذا لم يتم ضبطه ، فلن ننشره.