tensorflow:: servindo

Resumo

Typedefs

LoaderSource usando
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter usando
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Funções

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

Aulas

tensorflow:: servindo:: AspiredVersionPolicy

Uma interface para a política a ser aplicada para fazer a transição de versões que podem ser veiculadas em um fluxo que pode ser veiculado.

tensorflow:: servindo:: AspiredVersionsManager

Um gerenciador que implementa a API Target< Loader > que usa retornos de chamada de versões aspiradas para ditar quais versões servidas devem ser carregadas.

tensorflow:: servindo:: AspiredVersionsManagerBuilder

Cria um AspiredVersionsManager com opções e fontes conectadas a ele.

tensorflow:: servindo:: BasicManager

Ajuda a gerenciar o ciclo de vida de serviços, incluindo carregamento, serviço e descarregamento.

tensorflow:: servindo:: CachingManager

Um gerenciador que gerencia e carrega servíveis sob demanda.

tensorflow:: servindo:: ClassifierInterface

Interface agnóstica do tipo modelo para realizar a classificação.

tensorflow:: servindo:: ErrorInjectingSourceAdapter
tensorflow:: servindo:: FileSystemStoragePathSource

Uma fonte de caminho de armazenamento que aspira versões para um determinado conjunto de serviços.

tensorflow:: servindo:: Loader

Uma abstração padronizada para um objeto que gerencia o ciclo de vida de um serviço, incluindo carregá-lo e descarregá-lo.

tensorflow:: servindo:: LoaderHarness

LoaderHarness é um widget que o gerente usa para manter e conversar com um carregador enquanto ele o possui.

tensorflow:: servindo:: Gerenciador

O Manager é responsável por carregar, descarregar, pesquisar e gerenciar o tempo de vida de todos os objetos Servable por meio de seus Loaders.

tensorflow:: servindo:: PathPrefixLoaderFactory

Um LoaderFactory simples que procura um serviço em um caminho formado pela concatenação de um prefixo de caminho fixo com o nome do serviço.

tensorflow:: servindo:: RegressorInterface

Interface agnóstica de modelo para realizar a regressão.

tensorflow:: servindo:: ResourceUnsafeLoader

Um Loader que ignora os recursos.

tensorflow:: servindo:: SavedModelBundleFactory

Uma fábrica que cria SavedModelBundles a partir de caminhos de exportação SavedModel ou SessionBundle.

tensorflow:: servindo:: ServableHandle

Um ponteiro inteligente para o objeto servível subjacente T recuperado do Loader .

tensorflow:: servindo:: ServableStateMonitor

Um utilitário que escuta um EventBus<ServableState> e acompanha o estado de cada serviço mencionado no barramento.

tensorflow:: servindo:: ServerCore

ServerCore contém métodos auxiliares e de estado que permitem a construção de ModelServers que suportam várias interfaces.

tensorflow:: servindo:: ServingSession

Uma Sessão que bloqueia métodos de mudança de estado, como Close(), enquanto permite Run() para acesso somente leitura (não obrigatório).

tensorflow:: servindo:: ServingSessionWrapper

Um ServingSession que envolve uma determinada Session e bloqueia todas as chamadas que não sejam Run().

tensorflow:: servindo:: SharedPtrHandle

Uma implementação de UntypedServableHandle usando shared_ptr para fazer a contagem de referências no Loader que possui o Servable.

tensorflow:: servindo:: Source

Uma abstração para um módulo que origina servíveis para carregar ou, mais precisamente, trata de dados que podem ser usados ​​para carregar esses servíveis.

tensorflow:: servindo:: SourceAdapter

Uma abstração para um módulo que recebe retornos de chamada de versão aspirada com dados do tipo InputType e os converte em chamadas com dados do tipo OutputType.

tensorflow:: servindo:: UnarySourceAdapter
tensorflow:: servindo:: UntypedServableHandle

Um identificador não modelado para um servível, usado internamente no Manager para recuperar um objeto servível de tipo apagado do Loader .

Estruturas

tensorflow:: servindo:: AspiredServableStateSnapshot

Um instantâneo do estado e da aspiração de um serviço.

tensorflow:: servindo:: ServableRequest

Uma consulta para um objeto de serviço carregado específico.

tensorflow:: servindo:: ServableStateSnapshot

Namespaces

tensorflow:: servindo:: interno
tensorflow:: servindo:: test_util

Typedefs

Fonte do carregador

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Funções

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

operador!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operador!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operador!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operador!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

operador

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

operador

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

operador==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

operador==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operador==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operador==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operador==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)