tensorflow :: servicio:: AspiredVersionsManager

#include <aspired_versions_manager.h>

Un gerente que implementa el Target < cargador > API, que aspiraban usos-versiones devoluciones de llamada a dictar qué versiones se pueden publicar y a la carga.

Resumen

Este administrador también usa esa API para inferir cuáles descargar: si una versión servible dada está cargada actualmente, y se omite de una invocación de devolución de llamada de versiones aspiradas perteneciente a su flujo servible, este administrador interpreta esa omisión como una instrucción implícita para descargar el versión. Consulte los detalles a continuación.

(La semántica implícita-descarga Facilita sin estado Fuente implementaciones, por el que una iteración dada de la Fuente lógica 's simplemente decide qué versiones de un servable debe ser cargado, sin necesidad de saber lo que se ha decidido en el pasado.)

Este entrenador hace que las transiciones entre las versiones de una corriente servible utilizando un configurada AspiredVersionPolicy . El administrador prefiere descargar antes de cargar para liberar recursos en el servidor al decidir entre las transiciones sugeridas por la política.

Herencia

Hereda de: tensorflow :: :: servir Director , Target <std :: unique_ptr <cargador>>

Constructores y Destructores

~AspiredVersionsManager ()

Tipos públicos

PreLoadHook utilizando
BasicManager::PreLoadHook

Clases de amigos

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Funciones estáticas públicas

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Funciones publicas

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Devuelve una devolución de llamada para establecer la lista de versiones aspiradas para un flujo de servicio en particular, utilizando Loaders.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Obtiene una lista de todos los identificadores de servicio disponibles, es decir

Estructuras

tensorflow :: :: servir AspiredVersionsManager :: Opciones

Opciones de configuración y objetos conectables que serán utilizados por el AspiredVersionsManager .

Tipos públicos

Gancho de precarga

BasicManager::PreLoadHook PreLoadHook

Clases de amigos

internal :: AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util :: AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Funciones estáticas públicas

Crear

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Funciones publicas

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Devuelve una devolución de llamada para establecer la lista de versiones aspiradas para un flujo de servicio en particular, utilizando Loaders.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Obtiene una lista de todos los identificadores de servicio disponibles, es decir

cada uno de estos se puede recuperar mediante GetServableHandle.

~ AspiredVersionsManager

 ~AspiredVersionsManager() override