tensör akışı:: hizmet etmek

Özet

Typedef'ler

LoaderSource kullanarak
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter kullanarak
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Fonksiyonlar

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

sınıflar

tensorflow:: hizmet veren:: AspiredVersionPolicy

Sunulabilir bir akışta sunulabilir sürümlerin geçişi için uygulanacak ilke için bir arabirim.

tensorflow:: hizmet:: AspiredVersionsManager

Hangi sunulabilir sürümlerin yükleneceğini belirlemek için hedeflenen sürümler geri çağrılarını kullanan Target< Loader > API'sini uygulayan bir yönetici.

tensorflow:: hizmet veren:: AspiredVersionsManagerBuilder

Kendisine bağlı seçenekler ve kaynaklarla bir AspiredVersionsManager oluşturur.

tensorflow:: hizmet veriyor:: BasicManager

Yükleme, sunma ve boşaltma dahil olmak üzere sunulabilir öğelerin yaşam döngüsünü yönetmeye yardımcı olur.

tensorflow:: hizmet:: CachingManager

İsteğe bağlı olarak sunulabilirleri yöneten ve yükleyen bir yönetici.

tensorflow:: hizmet veren:: ClassifierInterface

Sınıflandırma gerçekleştirmek için model tipi agnostik arayüz.

tensorflow:: hizmet:: ErrorInjectingSourceAdapter
tensorflow:: hizmet veren:: FileSystemStoragePathSource

Belirli bir sunulabilir kümesi için sürümleri hedefleyen bir depolama yolu kaynağı.

tensorflow:: hizmet veriyor:: Yükleyici

Bir sunulabilir öğenin yaşam döngüsünü, yükleme ve boşaltma dahil olmak üzere yöneten bir nesne için standartlaştırılmış bir soyutlama.

tensorflow:: hizmet veriyor:: LoaderHarness

LoaderHarness , Yöneticinin bir Yükleyiciye sahipken ona tutunmak ve onunla konuşmak için kullandığı bir pencere öğesidir.

tensorflow:: hizmet veriyor:: Yönetici

Yönetici , Yükleyicileri aracılığıyla tüm Hizmet Verilebilir nesnelerin yüklenmesi, boşaltılması, aranması ve ömür boyu yönetiminden sorumludur.

tensorflow:: hizmet veren:: PathPrefixLoaderFactory

Sunulabilir öğenin adıyla sabit bir yol önekinin birleştirilmesiyle oluşturulan bir yolda bir sunulabilir arayan basit bir LoaderFactory.

tensorflow:: hizmet veren:: RegressorInterface

Regresyon gerçekleştirmek için model agnostik arayüz.

tensorflow:: hizmet veriyor:: ResourceUnsafeLoader

Kaynaklardan habersiz bir Yükleyici .

tensorflow:: hizmet veren:: SavedModelBundleFactory

SavedModel veya SessionBundle dışa aktarma yollarından SavedModelBundles oluşturan bir fabrika.

tensorflow:: hizmet:: ServableHandle

Yükleyiciden alınan, temeldeki sunulabilir nesne T için akıllı bir işaretçi.

tensorflow:: hizmet veriyor:: ServableStateMonitor

EventBus<ServableState>'i dinleyen ve veriyolunda belirtilen her hizmetin durumunu izleyen bir yardımcı program.

tensorflow:: hizmet:: ServerCore

ServerCore , birden çok arabirimi destekleyen ModelServer'ların oluşturulmasını sağlayan durum ve yardımcı yöntemleri içerir.

tensorflow:: hizmet:: Hizmet Oturumu

Close() gibi durum değiştiren yöntemleri engelleyen ve Run()'a salt okunur erişim için izin veren (zorlanmaz) bir Oturum.

tensorflow:: serve:: ServingSessionWrapper

Belirli bir Oturumu saran ve Run() dışındaki tüm çağrıları engelleyen bir ServingSession .

tensorflow:: hizmet:: SharedPtrHandle

Servable'ın sahibi olan Loader'da ref-counting yapmak için shared_ptr kullanan UntypedServableHandle uygulaması.

tensorflow:: hizmet veriyor:: Kaynak

Sunulabilirleri yüklemek için kaynak sağlayan veya daha doğrusu bu sunulabilirleri yüklemek için kullanılabilecek verileri işleyen bir modül için bir soyutlama.

tensorflow:: hizmet veriyor:: SourceAdapter

InputType türündeki verilerle hedeflenen sürüm geri aramalarını alan ve bunları OutputType türündeki verilerle çağrılara dönüştüren bir modül için bir soyutlama.

tensorflow:: hizmet:: UnarySourceAdapter
tensorflow:: hizmet:: UntypedServableHandle

Yükleyiciden türü silinmiş bir sunulabilir nesneyi almak için Yönetici'de dahili olarak kullanılan, sunulabilir için şablonlaştırılmamış bir tanıtıcı.

yapılar

tensorflow:: hizmet veren:: AspiredServableStateSnapshot

Sunulabilir kişinin durumunun ve arzusunun anlık görüntüsü.

tensorflow:: hizmet:: ServableRequest

Belirli bir yüklenen sunulabilir nesne için bir sorgu.

tensorflow:: hizmet:: ServableStateSnapshot

Ad alanları

tensorflow:: hizmet veriyor:: dahili
tensorflow:: hizmet veriyor:: test_util

Typedef'ler

YükleyiciKaynak

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Fonksiyonlar

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

operatör!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operatör!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operatör!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operatör!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

Şebeke

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

Şebeke

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

operatör==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

operatör==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operatör==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operatör==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operatör==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)