tensorflow :: servindo :: AspiredVersionsManager

#include <aspired_versions_manager.h>

Um gerente que implementa o alvo < Carregador > API que usos aspirava-versões chamadas de retorno para ditar quais versões veiculáveis a carga.

Resumo

Este gerenciador também usa essa API para inferir quais descarregar: Se uma determinada versão servível está atualmente carregada e é omitida de uma invocação de retorno de chamada de versões aspiradas pertencente ao seu fluxo servível, este gerenciador interpreta essa omissão como uma instrução implícita para descarregar o versão. Veja abaixo os detalhes.

(A semântica implícita-descarregamento Facilita apátridas Fonte implementações, pelo qual uma determinada iteração da Fonte lógica 's simplesmente decide quais versões de um que possa ser veiculado deve ser carregado, sem a necessidade de saber o que decidiu no passado.)

Este gestor faz com que as transições entre as versões de um fluxo que podem ser veiculados usando um configurado AspiredVersionPolicy . O gerenciador prefere descarregar antes de carregar para liberar recursos no servidor ao decidir entre as transições sugeridas pela política.

Herança

Herda: tensorflow :: servindo :: Gestor , Target <std :: unique_ptr <Carregador>>

Construtores e Destruidores

~AspiredVersionsManager ()

Tipos públicos

PreLoadHook usando
BasicManager::PreLoadHook

Aulas de amigos

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Funções estáticas públicas

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Funções públicas

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Retorna um retorno de chamada para definir a lista de versões aspiradas para um fluxo de serviço específico, usando Carregadores.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Obtém uma lista de todos os IDs de serviço disponíveis, ou seja,

Structs

tensorflow :: servindo :: AspiredVersionsManager :: Opções

Opções de configuração e objetos conectáveis que serão utilizados pelo AspiredVersionsManager .

Tipos públicos

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

Aulas de amigos

internal :: AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util :: AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Funções estáticas públicas

Crio

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Funções públicas

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Retorna um retorno de chamada para definir a lista de versões aspiradas para um fluxo de serviço específico, usando Carregadores.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Obtém uma lista de todos os IDs de serviço disponíveis, ou seja,

cada um deles pode ser recuperado usando GetServableHandle.

~ AspiredVersionsManager

 ~AspiredVersionsManager() override