flusso tensoriale:: servendo
Sommario
Definizioni di tipo | |
---|---|
LoaderSource | usando |
StoragePathSourceAdapter | usandoSourceAdapter < StoragePath, std::unique_ptr< Loader >> |
Funzioni | |
---|---|
DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter ) | |
operator!= (const Loader::Metadata & a, const Loader::Metadata & b) | bool |
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b) | bool |
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r) | constexpr bool |
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b) | bool |
operator<< (std::ostream & os, LoaderHarness::State state) | std::ostream & |
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time) | std::ostream & |
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs) | bool |
operator== (const Loader::Metadata & a, const Loader::Metadata & b) | bool |
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b) | bool |
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r) | constexpr bool |
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b) | bool |
Classi | |
---|---|
tensorflow:: serving:: AspiredVersionPolicy | Un'interfaccia per la policy da applicare per la transizione delle versioni servibili in un flusso servibile. |
tensorflow:: serving:: AspiredVersionsManager | Un gestore che implementa l'API Target< Loader > che utilizza i callback delle versioni aspirate per stabilire quali versioni utilizzabili caricare. |
tensorflow:: serving:: AspiredVersionsManagerBuilder | Costruisce un AspiredVersionsManager con opzioni e sorgenti ad esso collegate. |
tensorflow:: serving:: BasicManager | Aiuta a gestire il ciclo di vita dei servizi, incluso il caricamento, la pubblicazione e lo scaricamento. |
tensorflow:: serving:: CachingManager | Un manager che gestisce e carica i servizi su richiesta. |
tensorflow:: serving:: ClassifierInterface | Interfaccia indipendente dal tipo di modello per l'esecuzione della classificazione. |
tensorflow:: serving:: ErrorInjectingSourceAdapter | |
tensorflow:: serving:: FileSystemStoragePathSource | Un'origine del percorso di archiviazione che aspira alle versioni per un determinato set di server. |
tensorflow:: serving:: Loader | Un'astrazione standardizzata per un oggetto che gestisce il ciclo di vita di un server, incluso il caricamento e lo scaricamento. |
tensorflow:: serving:: LoaderHarness | LoaderHarness è un widget che il Manager usa per tenersi e parlare con un Loader mentre lo possiede. |
tensorflow:: serve:: Manager | Manager è responsabile del caricamento, scaricamento, ricerca e gestione della durata di tutti gli oggetti servibili tramite i loro caricatori. |
tensorflow:: serving:: PathPrefixLoaderFactory | Un semplice LoaderFactory che cerca un servable in un percorso formato concatenando un prefisso di percorso fisso con il nome del servable. |
tensorflow:: serving:: RegressorInterface | Interfaccia indipendente dal modello per l'esecuzione della regressione. |
tensorflow:: serving:: ResourceUnsafeLoader | Un caricatore che è ignaro delle risorse. |
tensorflow:: serving:: SavedModelBundleFactory | Una factory che crea SavedModelBundles dai percorsi di esportazione SavedModel o SessionBundle. |
tensorflow:: serving:: ServableHandle | Un puntatore intelligente all'oggetto servabile sottostante T recuperato dal programma di caricamento . |
tensorflow:: serving:: ServableStateMonitor | Un'utilità che ascolta un EventBus<ServableState> e tiene traccia dello stato di ogni server menzionato sul bus. |
tensorflow:: serving:: ServerCore | ServerCore contiene metodi di stato e di supporto che consentono la creazione di ModelServer che supportano più interfacce. |
tensorflow:: serving:: ServingSession | Una sessione che blocca i metodi che modificano lo stato come Close(), consentendo al contempo Run() per l'accesso in sola lettura (non forzato). |
tensorflow:: serving:: ServingSessionWrapper | Oggetto ServingSession che esegue il wrapping di una determinata Session e blocca tutte le chiamate diverse da Run(). |
tensorflow:: serving:: SharedPtrHandle | Un'implementazione di UntypedServableHandle che utilizza shared_ptr per eseguire il conteggio dei riferimenti sul caricatore che possiede il server server. |
tensorflow:: serving:: Source | Un'astrazione per un modulo che origina i server da caricare o, più precisamente, gestisce i dati che possono essere utilizzati per caricare quei server. |
tensorflow:: serving:: SourceAdapter | Un'astrazione per un modulo che riceve i callback della versione aspirata con dati di tipo InputType e li converte in chiamate con dati di tipo OutputType. |
tensorflow:: serving:: UnarySourceAdapter | |
tensorflow:: serving:: UntypedServableHandle | Un handle non basato su modelli per un servable, utilizzato internamente in Manager per recuperare un oggetto servable cancellato dal tipo dal Loader . |
Strutture | |
---|---|
tensorflow:: serving:: AspiredServableStateSnapshot | Un'istantanea dello stato e dell'aspirazione di un servitore. |
tensorflow:: serving:: ServableRequest | Una query per uno specifico oggetto servabile caricato. |
tensorflow:: serving:: ServableStateSnapshot |
Spazi dei nomi | |
---|---|
tensorflow:: serving:: interno | |
tensorflow:: serving:: test_util |
Definizioni di tipo
StoragePathSourceAdapter
SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter
Funzioni
DEFINE_CLASS_REGISTRY
DEFINE_CLASS_REGISTRY( StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operatore!=
bool operator!=( const Loader::Metadata & a, const Loader::Metadata & b )
operatore!=
bool operator!=( const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b )
operatore!=
constexpr bool operator!=( const ServableHandle< T > & l, const ServableHandle< U > & r )
operatore!=
bool operator!=( const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b )
operatore
std::ostream & operator<<( std::ostream & os, LoaderHarness::State state )
operatore
std::ostream & operator<<( std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time )
operatore==
bool operator==( const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs )
operatore==
bool operator==( const Loader::Metadata & a, const Loader::Metadata & b )
operatore==
bool operator==( const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b )
operatore==
constexpr bool operator==( const ServableHandle< T > & l, const ServableHandle< U > & r )
operatore==
bool operator==( const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b )