tensorflow:: servicio

Resumen

definiciones de tipo

LoaderSource utilizando
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter utilizando
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Funciones

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

Clases

tensorflow:: servicio:: AspiredVersionPolicy

Una interfaz para que la política se aplique para la transición de versiones de servicio en un flujo de servicio.

tensorflow:: servicio:: AspiredVersionsManager

Un administrador que implementa la API Target< Loader > que utiliza devoluciones de llamada de versiones aspiradas para dictar qué versiones de servicio cargar.

tensorflow:: servicio:: AspiredVersionsManagerBuilder

Construye un AspiredVersionsManager con opciones y fuentes conectadas a él.

tensorflow:: servicio:: BasicManager

Ayuda a administrar el ciclo de vida de los servicios, incluida la carga, el servicio y la descarga.

tensorflow:: servicio:: CachingManager

Un administrador que administra y carga servicios a pedido.

tensorflow:: servicio:: ClassifierInterface

Interfaz independiente del tipo de modelo para realizar la clasificación.

tensorflow:: servicio:: ErrorInjectingSourceAdapter
tensorflow:: servicio:: FileSystemStoragePathSource

Una fuente de ruta de almacenamiento que aspira versiones para un conjunto dado de servidores.

tensorflow:: servicio:: Cargador

Una abstracción estandarizada para un objeto que administra el ciclo de vida de un servidor, incluida la carga y descarga.

tensorflow:: servicio:: LoaderHarness

LoaderHarness es un widget que el administrador usa para aferrarse y hablar con un cargador mientras lo posee.

tensorflow:: servicio:: Administrador

Manager es responsable de la carga, descarga, búsqueda y gestión de por vida de todos los objetos Servibles a través de sus cargadores.

tensorflow:: servicio:: PathPrefixLoaderFactory

LoaderFactory simple que busca un servidor en una ruta formada al concatenar un prefijo de ruta fijo con el nombre del servidor.

tensorflow:: servicio:: RegressorInterface

Interfaz agnóstica del modelo para realizar la regresión.

tensorflow:: servicio:: ResourceUnsafeLoader

Un cargador que es ajeno a los recursos.

tensorflow:: servicio:: SavedModelBundleFactory

Una fábrica que crea SavedModelBundles a partir de las rutas de exportación de SavedModel o SessionBundle.

tensorflow:: servicio:: ServableHandle

Un puntero inteligente al objeto de servicio subyacente T recuperado del Loader .

tensorflow:: servicio:: ServableStateMonitor

Una utilidad que escucha un EventBus<ServableState> y realiza un seguimiento del estado de cada servidor mencionado en el bus.

tensorflow:: servicio:: ServerCore

ServerCore contiene métodos auxiliares y de estado que permiten la creación de ModelServers que admiten múltiples interfaces.

tensorflow:: servicio:: sesión de servicio

Una sesión que bloquea los métodos de cambio de estado, como Close(), al tiempo que permite Run() para acceso de solo lectura (no obligatorio).

tensorflow:: servicio:: ServingSessionWrapper

Una sesión de servicio que envuelve una sesión determinada y bloquea todas las llamadas que no sean Run().

tensorflow:: servicio:: SharedPtrHandle

Una implementación de UntypedServableHandle que usa shared_ptr para hacer el conteo de referencias en el cargador que posee el servidor.

tensorflow:: servicio:: Fuente

Una abstracción para un módulo que genera servicios para cargar o, más precisamente, maneja los datos que se pueden usar para cargar esos servicios.

tensorflow:: sirviendo:: SourceAdapter

Una abstracción para un módulo que recibe devoluciones de llamada de la versión aspirada con datos de tipo InputType y las convierte en llamadas con datos de tipo OutputType.

tensorflow:: servicio:: UnarySourceAdapter
tensorflow:: servicio:: UntypedServableHandle

Un identificador sin plantilla para un servidor, que se usa internamente en el Administrador para recuperar un objeto servidor de tipo borrado del Loader .

estructuras

tensorflow:: servicio:: AspiredServableStateSnapshot

Una instantánea del estado y las aspiraciones de un servidor.

tensorflow:: servicio:: ServableRequest

Una consulta para un objeto de servicio cargado específico.

tensorflow:: servicio:: ServableStateSnapshot

Espacios de nombres

tensorflow:: servicio:: interno
tensorflow:: servicio:: test_util

definiciones de tipo

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Funciones

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

operador!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operador!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operador!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operador!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

operador

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

operador

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

operador ==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

operador ==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operador ==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operador ==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operador ==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)