tensör akışı:: hizmet veren:: AspiredVersionsYöneticisi

#include <aspired_versions_manager.h>

Bir yönetici bu uygular Hedef < Yükleyici kullandığı dikte etmek yüke hangi Sunulabilir sürümlerini geri aramalar-versiyonları talip> API.

Özet

Bu yönetici ayrıca, hangilerinin kaldırılacağını belirlemek için bu API'yi kullanır: Belirli bir sunulabilir sürüm şu anda yüklüyse ve sunulabilir akışıyla ilgili istenen sürümler geri arama çağrısından çıkarılmışsa, bu yönetici bu ihmali, içeriği boşaltmak için örtük bir talimat olarak yorumlar. sürüm. Ayrıntılar için aşağıya bakın.

(Örtük-boşaltma semantik kolaylaştırır vatansız Kaynak uygulamaları, belirli bir yineleme sayede Kaynak 'ın mantığına basitçe karar veren bir servable sürümleri geçmişte karar verdi bilmek gerek kalmadan, yüklenecek gerektiğini hangi.)

Bu yönetici yapılandırılmış kullanılarak Sunulabilir akışı versiyonları arasında geçişler yapar AspiredVersionPolicy . Yönetici, politikanın önerdiği geçişler arasında karar verirken sunucudaki kaynakları boşaltmak için yüklemeden önce boşaltmayı tercih eder.

Miras

: Den ınherits tensorflow :: hizmet veren :: Yöneticisi , Hedef <std :: unique_ptr <Yükleyici>>

Yapıcılar ve Yıkıcılar

~AspiredVersionsManager ()

Genel türler

PreLoadHook kullanarak
BasicManager::PreLoadHook

arkadaş sınıfları

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Genel statik işlevler

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Kamu işlevleri

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Yükleyicileri kullanarak belirli bir sunulabilir akış için hedeflenen sürümlerin listesini ayarlamak için bir geri arama döndürür.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Mevcut tüm sunulabilir kimliklerin bir listesini alır, yani

yapılar

tensorflow :: hizmet veren :: AspiredVersionsManager :: Seçenek

Yapılandırma seçenekleri ve tarafından kullanılacak takılabilir nesneler AspiredVersionsManager .

Genel türler

ÖnYükleme Kancası

BasicManager::PreLoadHook PreLoadHook

arkadaş sınıfları

dahili::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestErişim

friend class test_util::AspiredVersionsManagerTestAccess

Genel statik işlevler

Yaratmak

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Kamu işlevleri

GetAspiredVersions Geri Çağırma

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Yükleyicileri kullanarak belirli bir sunulabilir akış için hedeflenen sürümlerin listesini ayarlamak için bir geri arama döndürür.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Mevcut tüm sunulabilir kimliklerin bir listesini alır, yani

bunların her biri GetServableHandle kullanılarak alınabilir.

~AspiredVersionsYöneticisi

 ~AspiredVersionsManager() override