tensorflow :: ভজনা:: AspiredVersionsManager:: অপশন
#include <aspired_versions_manager.h>কনফিগ অপশন এবং প্লাগেবল যে বস্তু দ্বারা ব্যবহৃত হবে AspiredVersionsManager ।
সারসংক্ষেপ
পাবলিক বৈশিষ্ট্য | |
|---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy ম্যানেজার ব্যবহার করতে। নন-নাল হতে হবে। |
env = Env::Default() | Env * থ্রেড-পুলে থ্রেড শুরু করার জন্য বা ঘুমানোর জন্য ব্যবহার করার পরিবেশ। |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 ব্যবধান, মাইক্রোসেকেন্ডে, প্রতিটি পরিবেশনযোগ্য লোড পুনরায় চেষ্টা করার মধ্যে। |
manage_state_interval_micros = 100 * 1000 | int64 থ্রেডের পর্যায়ক্রমিকতা, মাইক্রোসেকেন্ডে, যা সার্বেলের অবস্থা পরিচালনা করে। |
max_num_load_retries = 5 | uint32 আমরা হাল ছেড়ে দেওয়ার আগে, প্রথম ব্যর্থতার পরে, সর্বাধিক কতবার আমরা একটি পরিষেবাযোগ্য লোড করার পুনরায় চেষ্টা করি। |
num_load_threads = 0 | uint32 থ্রেড-পুলে থ্রেডের সংখ্যা সার্বেল লোড করতে ব্যবহৃত হয়। |
num_unload_threads = 0 | uint32 থ্রেড-পুলে থ্রেডের সংখ্যা সার্ভেবল আনলোড করতে ব্যবহৃত হয়। |
pre_load_hook | PreLoadHook একটি সার্ভেবল লোড করার ঠিক আগে কলব্যাক কল করা হবে। |
resource_tracker | std::unique_ptr< ResourceTracker > পরিবেশনযোগ্য সংস্থানগুলি পরিচালনা করার সময় ব্যবহার করার জন্য রিসোর্স ট্র্যাকার৷ |
servable_event_bus = nullptr | EventBus< ServableState > * পরিবেশনযোগ্য রাষ্ট্র পরিবর্তন প্রকাশ করতে EventBus. |
পাবলিক বৈশিষ্ট্য
আকাঙ্ক্ষিত_সংস্করণ_নীতি
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicy ম্যানেজার ব্যবহার করতে। নন-নাল হতে হবে।
env
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
থ্রেড-পুলে থ্রেড শুরু করার জন্য বা ঘুমানোর জন্য ব্যবহার করার পরিবেশ।
flush_filesystem_caches
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
ব্যবধান, মাইক্রোসেকেন্ডে, প্রতিটি পরিবেশনযোগ্য লোড পুনরায় চেষ্টা করার মধ্যে।
যদি নেতিবাচক সেট করা হয়, আমরা অপেক্ষা করব না। ডিফল্ট: 1 মিনিট।
পরিচালনা_রাষ্ট্র_ব্যবধান_মাইক্রো
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
থ্রেডের পর্যায়ক্রমিকতা, মাইক্রোসেকেন্ডে, যা সার্বেলের অবস্থা পরিচালনা করে।
ডিফল্ট: 100 মিলিসেকেন্ড। যদি এটি 0 এর থেকে কম বা সমান সেট করা হয়, আমরা এই থ্রেডটি মোটেও চালাব না।
সর্বোচ্চ_সংখ্যা_লোড_পুনরায় চেষ্টা
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
আমরা হাল ছেড়ে দেওয়ার আগে, প্রথম ব্যর্থতার পরে, সর্বাধিক কতবার আমরা একটি পরিষেবাযোগ্য লোড করার পুনরায় চেষ্টা করি।
সংখ্যা_লোড_থ্রেড
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
থ্রেড-পুলে থ্রেডের সংখ্যা সার্বেল লোড করতে ব্যবহৃত হয়।
যদি 0 হিসাবে সেট করা হয়, আমরা একটি থ্রেড-পুল ব্যবহার করি না, এবং পরিবেশনযোগ্য লোডগুলি ম্যানেজারের প্রধান কাজের লুপে ধারাবাহিকভাবে সঞ্চালিত হয়।
সংখ্যা_আনলোড_থ্রেড
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
থ্রেড-পুলে থ্রেডের সংখ্যা সার্ভেবল আনলোড করতে ব্যবহৃত হয়।
যদি 0 হিসাবে সেট করা হয়, আমরা একটি থ্রেড-পুল ব্যবহার করি না, এবং পরিবেশনযোগ্য আনলোডগুলি ম্যানেজারের প্রধান কাজের লুপে ধারাবাহিকভাবে সঞ্চালিত হয়।
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
একটি সার্ভেবল লোড করার ঠিক আগে কলব্যাক কল করা হবে।
এটি একই ম্যানেজার লোড থ্রেডে কল করবে যা লোড শুরু করে।
রিসোর্স_ট্র্যাকার
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
পরিবেশনযোগ্য সংস্থানগুলি পরিচালনা করার সময় ব্যবহার করার জন্য রিসোর্স ট্র্যাকার৷
ঐচ্ছিক। যদি nullptr হিসাবে ছেড়ে দেওয়া হয়, আমরা পরিবেশনযোগ্য সম্পদ ব্যবহার বৈধ করি না।
পরিবেশনযোগ্য_ইভেন্ট_বাস
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
পরিবেশনযোগ্য রাষ্ট্র পরিবর্তন প্রকাশ করতে EventBus.
এটি ঐচ্ছিক, সেট না থাকলে, আমরা প্রকাশ করি না।