tensör akışı:: hizmet veren:: AspiredVersionsManager:: Seçenekler
#include <aspired_versions_manager.h>Yapılandırma seçenekleri ve tarafından kullanılacak takılabilir nesneler AspiredVersionsManager .
Özet
Genel özellikler | |
|---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy yöneticisi için kullanılacak. Null olmayan olmalıdır. |
env = Env::Default() | Env * İş parçacığı havuzunda iş parçacığı başlatmak veya uyumak için kullanılacak ortam. |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 Her kullanılabilir yük yeniden denemesi arasındaki mikrosaniye cinsinden aralık. |
manage_state_interval_micros = 100 * 1000 | int64 Yayınlanabilir öğelerin durumunu yöneten iş parçacığının mikrosaniye cinsinden periyodikliği. |
max_num_load_retries = 5 | uint32 İlk başarısızlıktan sonra, pes etmeden önce bir sunulabilir dosyayı yüklemeyi yeniden denediğimiz maksimum sayı. |
num_load_threads = 0 | uint32 Sunulabilirleri yüklemek için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı. |
num_unload_threads = 0 | uint32 Sunulabilirleri boşaltmak için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı. |
pre_load_hook | PreLoadHook Bir sunulabilir yüklenmeden hemen önce çağrılacak geri arama. |
resource_tracker | std::unique_ptr< ResourceTracker > Sunulabilir kaynakları yönetirken kullanılacak kaynak izleyici. |
servable_event_bus = nullptr | EventBus< ServableState > * Sunulabilir durum değişikliklerini yayınlamak için EventBus. |
Genel özellikler
aspired_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicy yöneticisi için kullanılacak. Null olmayan olmalıdır.
ortam
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
İş parçacığı havuzunda iş parçacığı başlatmak veya uyumak için kullanılacak ortam.
flush_filesystem_caches
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
Her kullanılabilir yük yeniden denemesi arasındaki mikrosaniye cinsinden aralık.
Negatif ayarlanırsa, beklemeyiz. Varsayılan: 1 dakika.
Manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
Yayınlanabilir öğelerin durumunu yöneten iş parçacığının mikrosaniye cinsinden periyodikliği.
Varsayılan: 100 milisaniye. Bu, 0'dan küçük veya 0'a eşit olarak ayarlanırsa, bu iş parçacığını hiç çalıştırmayız.
max_num_load_reries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
İlk başarısızlıktan sonra, pes etmeden önce bir sunulabilir dosyayı yüklemeyi yeniden denediğimiz maksimum sayı.
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
Sunulabilirleri yüklemek için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı.
0 olarak ayarlanırsa, bir iş parçacığı havuzu kullanmayız ve hizmet verilebilir yükler yöneticinin ana iş döngüsünde seri olarak gerçekleştirilir.
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
Sunulabilirleri boşaltmak için kullanılan iş parçacığı havuzundaki iş parçacığı sayısı.
0 olarak ayarlanırsa, bir iş parçacığı havuzu kullanmayız ve sunulabilir kaldırma işlemleri yöneticinin ana iş döngüsünde seri olarak gerçekleştirilir.
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
Bir sunulabilir yüklenmeden hemen önce çağrılacak geri arama.
Bu, yükü başlatan aynı yönetici yükleme iş parçacığında çağrılır.
kaynak_izleyici
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
Sunulabilir kaynakları yönetirken kullanılacak kaynak izleyici.
İsteğe bağlı. nullptr olarak bırakılırsa, sunulabilir kaynak kullanımını doğrulamayız.
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
Sunulabilir durum değişikliklerini yayınlamak için EventBus.
Bu isteğe bağlıdır, ayarlanmazsa yayınlamayız.