Unisciti alla community di SIG TFX-Addons e aiutaci a rendere TFX ancora migliore! Iscriviti a SIG TFX-Addons

tensorflow :: servendo

Sommario

Typedef

LoaderSource utilizzando
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter utilizzando
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Funzioni

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

Classi

tensorflow :: serving :: AspiredVersionPolicy

Un'interfaccia per il criterio da applicare per la transizione delle versioni servibili in un flusso servibile.

tensorflow :: serving :: AspiredVersionsManager

Un gestore che implementa l'API Target < Loader > che utilizza callback di versioni aspirate per stabilire quali versioni servibili caricare.

tensorflow :: serving :: AspiredVersionsManagerBuilder

Costruisce un AspiredVersionsManager con opzioni e sorgenti ad esso collegate.

tensorflow :: serving :: BasicManager

Aiuta a gestire il ciclo di vita dei servizi, incluso il caricamento, il servizio e lo scaricamento.

tensorflow :: serving :: CachingManager

Un manager che gestisce e carica i servizi su richiesta.

tensorflow :: serving :: ClassifierInterface

Interfaccia indipendente dal tipo di modello per l'esecuzione della classificazione.

tensorflow :: serving :: ErrorInjectingSourceAdapter
tensorflow :: serving :: FileSystemStoragePathSource

Un'origine del percorso di archiviazione che aspira alle versioni per un determinato set di servizi.

tensorflow :: serving :: Loader

Un'astrazione standardizzata per un oggetto che gestisce il ciclo di vita di un servable, incluso il caricamento e lo scaricamento.

tensorflow :: serving :: LoaderHarness

LoaderHarness è un widget che il Manager usa per aggrapparsi e parlare con un Loader mentre lo possiede.

tensorflow :: serving :: Manager

Manager è responsabile del caricamento, scaricamento, ricerca e gestione della durata di tutti gli oggetti Servable tramite i loro caricatori.

tensorflow :: serving :: PathPrefixLoaderFactory

Un semplice LoaderFactory che cerca un servable in un percorso formato concatenando un prefisso di percorso fisso con il nome del servable.

tensorflow :: serving :: RegressorInterface

Interfaccia indipendente dal modello per eseguire la regressione.

tensorflow :: serving :: ResourceUnsafeLoader

Un caricatore che ignora le risorse.

tensorflow :: serving :: SavedModelBundleFactory

Una factory che crea SavedModelBundles dai percorsi di esportazione SavedModel o SessionBundle.

tensorflow :: serving :: ServableHandle

Un puntatore intelligente all'oggetto servibile sottostante T recuperato dal programma di caricamento .

tensorflow :: serving :: ServableStateMonitor

Un'utilità che ascolta un EventBus <ServableState> e tiene traccia dello stato di ogni servable menzionato sul bus.

tensorflow :: serving :: ServerCore

ServerCore contiene metodi di stato e di supporto che consentono la creazione di ModelServer che supportano più interfacce.

tensorflow :: serving :: ServingSession

Una sessione che blocca i metodi di modifica dello stato come Close (), consentendo al contempo l'accesso di sola lettura a Run () (non applicato).

tensorflow :: serving :: ServingSessionWrapper

Un ServingSession che esegue il wrapping di una determinata Session e blocca tutte le chiamate diverse da Run ().

tensorflow :: serving :: SharedPtrHandle

Un'implementazione di UntypedServableHandle che utilizza shared_ptr per eseguire il conteggio dei ref sul Loader che possiede il Servable.

tensorflow :: serving :: Source

Un'astrazione per un modulo che origina i servable da caricare o, più precisamente, gestisce i dati che possono essere utilizzati per caricare quei servable.

tensorflow :: serving :: SourceAdapter

Un'astrazione per un modulo che riceve callback di versione desiderata con dati di tipo InputType e li converte in chiamate con dati di tipo OutputType.

tensorflow :: serving :: UnarySourceAdapter
tensorflow :: serving :: UntypedServableHandle

Un handle non basato su modelli per un servable, utilizzato internamente in Manager per recuperare un oggetto servable cancellato dal tipo dal Loader .

Structs

tensorflow :: serving :: AspiredServableStateSnapshot

Un'istantanea dello stato e delle aspirazioni di un servibile.

tensorflow :: serving :: ServableRequest

Una query per uno specifico oggetto servibile caricato.

tensorflow :: serving :: ServableStateSnapshot

Spazi dei nomi

tensorflow :: serving :: interno
tensorflow :: serving :: test_util

Typedef

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Funzioni

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

operatore! =

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operatore! =

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operatore! =

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operatore! =

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

operatore <<

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

operatore <<

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

operatore ==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

operatore ==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operatore ==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operatore ==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operatore ==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)