flusso tensoriale:: servendo

Sommario

Definizioni di tipo

LoaderSource usando
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter usando
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Funzioni

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

Classi

tensorflow:: serving:: AspiredVersionPolicy

Un'interfaccia per la policy da applicare per la transizione delle versioni servibili in un flusso servibile.

tensorflow:: serving:: AspiredVersionsManager

Un gestore che implementa l'API Target< Loader > che utilizza i callback delle versioni aspirate per stabilire quali versioni utilizzabili caricare.

tensorflow:: serving:: AspiredVersionsManagerBuilder

Costruisce un AspiredVersionsManager con opzioni e sorgenti ad esso collegate.

tensorflow:: serving:: BasicManager

Aiuta a gestire il ciclo di vita dei servizi, incluso il caricamento, la pubblicazione e lo scaricamento.

tensorflow:: serving:: CachingManager

Un manager che gestisce e carica i servizi su richiesta.

tensorflow:: serving:: ClassifierInterface

Interfaccia indipendente dal tipo di modello per l'esecuzione della classificazione.

tensorflow:: serving:: ErrorInjectingSourceAdapter
tensorflow:: serving:: FileSystemStoragePathSource

Un'origine del percorso di archiviazione che aspira alle versioni per un determinato set di server.

tensorflow:: serving:: Loader

Un'astrazione standardizzata per un oggetto che gestisce il ciclo di vita di un server, incluso il caricamento e lo scaricamento.

tensorflow:: serving:: LoaderHarness

LoaderHarness è un widget che il Manager usa per tenersi e parlare con un Loader mentre lo possiede.

tensorflow:: serve:: Manager

Manager è responsabile del caricamento, scaricamento, ricerca e gestione della durata di tutti gli oggetti servibili tramite i loro caricatori.

tensorflow:: serving:: PathPrefixLoaderFactory

Un semplice LoaderFactory che cerca un servable in un percorso formato concatenando un prefisso di percorso fisso con il nome del servable.

tensorflow:: serving:: RegressorInterface

Interfaccia indipendente dal modello per l'esecuzione della regressione.

tensorflow:: serving:: ResourceUnsafeLoader

Un caricatore che è ignaro delle risorse.

tensorflow:: serving:: SavedModelBundleFactory

Una factory che crea SavedModelBundles dai percorsi di esportazione SavedModel o SessionBundle.

tensorflow:: serving:: ServableHandle

Un puntatore intelligente all'oggetto servabile sottostante T recuperato dal programma di caricamento .

tensorflow:: serving:: ServableStateMonitor

Un'utilità che ascolta un EventBus<ServableState> e tiene traccia dello stato di ogni server menzionato sul bus.

tensorflow:: serving:: ServerCore

ServerCore contiene metodi di stato e di supporto che consentono la creazione di ModelServer che supportano più interfacce.

tensorflow:: serving:: ServingSession

Una sessione che blocca i metodi che modificano lo stato come Close(), consentendo al contempo Run() per l'accesso in sola lettura (non forzato).

tensorflow:: serving:: ServingSessionWrapper

Oggetto ServingSession che esegue il wrapping di una determinata Session e blocca tutte le chiamate diverse da Run().

tensorflow:: serving:: SharedPtrHandle

Un'implementazione di UntypedServableHandle che utilizza shared_ptr per eseguire il conteggio dei riferimenti sul caricatore che possiede il server server.

tensorflow:: serving:: Source

Un'astrazione per un modulo che origina i server da caricare o, più precisamente, gestisce i dati che possono essere utilizzati per caricare quei server.

tensorflow:: serving:: SourceAdapter

Un'astrazione per un modulo che riceve i callback della versione aspirata con dati di tipo InputType e li converte in chiamate con dati di tipo OutputType.

tensorflow:: serving:: UnarySourceAdapter
tensorflow:: serving:: UntypedServableHandle

Un handle non basato su modelli per un servable, utilizzato internamente in Manager per recuperare un oggetto servable cancellato dal tipo dal Loader .

Strutture

tensorflow:: serving:: AspiredServableStateSnapshot

Un'istantanea dello stato e dell'aspirazione di un servitore.

tensorflow:: serving:: ServableRequest

Una query per uno specifico oggetto servabile caricato.

tensorflow:: serving:: ServableStateSnapshot

Spazi dei nomi

tensorflow:: serving:: interno
tensorflow:: serving:: test_util

Definizioni di tipo

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Funzioni

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

operatore!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operatore!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operatore!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operatore!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

operatore

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

operatore

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

operatore==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

operatore==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operatore==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operatore==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operatore==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)