tensör akışı:: hizmet veren:: AspiredVersionsManager:: Seçenekler

#include <aspired_versions_manager.h>

Yapılandırma seçenekleri ve tarafından kullanılacak takılabilir nesneler AspiredVersionsManager .

Özet

Genel özellikler

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
AspiredVersionPolicy yöneticisi için kullanılacak. Null olmayan olmalıdır.
env = Env::Default()
Env *
İş parçacığı havuzunda iş parçacığı başlatmak veya uyumak için kullanılacak ortam.
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
Her kullanılabilir yük yeniden denemesi arasındaki mikrosaniye cinsinden aralık.
manage_state_interval_micros = 100 * 1000
int64
Yayınlanabilir öğelerin durumunu yöneten iş parçacığının mikrosaniye cinsinden periyodikliği.
max_num_load_retries = 5
uint32
İlk başarısızlıktan sonra, pes etmeden önce bir sunulabilir dosyayı yüklemeyi yeniden denediğimiz maksimum sayı.
num_load_threads = 0
uint32
Sunulabilirleri yüklemek için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı.
num_unload_threads = 0
uint32
Sunulabilirleri boşaltmak için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı.
pre_load_hook
PreLoadHook
Bir sunulabilir yüklenmeden hemen önce çağrılacak geri arama.
resource_tracker
std::unique_ptr< ResourceTracker >
Sunulabilir kaynakları yönetirken kullanılacak kaynak izleyici.
servable_event_bus = nullptr
EventBus< ServableState > *
Sunulabilir durum değişikliklerini yayınlamak için EventBus.

Genel özellikler

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicy yöneticisi için kullanılacak. Null olmayan olmalıdır.

ortam

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

İş parçacığı havuzunda iş parçacığı başlatmak veya uyumak için kullanılacak ortam.

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

Her kullanılabilir yük yeniden denemesi arasındaki mikrosaniye cinsinden aralık.

Negatif ayarlanırsa, beklemeyiz. Varsayılan: 1 dakika.

Manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

Yayınlanabilir öğelerin durumunu yöneten iş parçacığının mikrosaniye cinsinden periyodikliği.

Varsayılan: 100 milisaniye. Bu, 0'dan küçük veya 0'a eşit olarak ayarlanırsa, bu iş parçacığını hiç çalıştırmayız.

max_num_load_reries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

İlk başarısızlıktan sonra, pes etmeden önce bir sunulabilir dosyayı yüklemeyi yeniden denediğimiz maksimum sayı.

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

Sunulabilirleri yüklemek için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı.

0 olarak ayarlanırsa, bir iş parçacığı havuzu kullanmayız ve hizmet verilebilir yükler yöneticinin ana iş döngüsünde seri olarak gerçekleştirilir.

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

Sunulabilirleri boşaltmak için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı.

0 olarak ayarlanırsa, bir iş parçacığı havuzu kullanmayız ve sunulabilir kaldırma işlemleri yöneticinin ana iş döngüsünde seri olarak gerçekleştirilir.

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

Bir sunulabilir yüklenmeden hemen önce çağrılacak geri arama.

Bu, yükü başlatan aynı yönetici yükleme iş parçacığında çağrılır.

kaynak_izleyici

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

Sunulabilir kaynakları yönetirken kullanılacak kaynak izleyici.

İsteğe bağlı. nullptr olarak bırakılırsa, sunulabilir kaynak kullanımını doğrulamayız.

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

Sunulabilir durum değişikliklerini yayınlamak için EventBus.

Bu isteğe bağlıdır, ayarlanmazsa yayınlamayız.