Unisciti alla community di SIG TFX-Addons e aiutaci a rendere TFX ancora migliore! Iscriviti a SIG TFX-Addons

tensorflow :: servendo:: AspiredVersionsManager

#include <aspired_versions_manager.h>

Un gestore che implementa l'API Target < Loader > che utilizza callback di versioni aspirate per stabilire quali versioni servibili caricare.

Sommario

Questo gestore utilizza anche quell'API per dedurre quali scaricare: se una data versione servibile è attualmente caricata ed è omessa da una chiamata di callback di versioni aspirate relativa al suo flusso servibile, questo gestore interpreta quell'omissione come un'istruzione implicita per scaricare versione. Vedi sotto per i dettagli.

(La semantica di scaricamento implicito facilita le implementazioni di Source senza stato, per cui una data iterazione della logica di Source decide semplicemente quali versioni di un servable dovrebbero essere caricate, senza bisogno di sapere cosa ha deciso in passato.)

Questo gestore effettua le transizioni tra le versioni di un flusso servibile utilizzando un AspiredVersionPolicy configurato. Il gestore preferisce scaricare prima del caricamento per liberare risorse nel server quando decide tra le transizioni suggerite dalla policy.

Eredità

Eredita da: tensorflow :: serving :: Manager , Target <std :: unique_ptr <Loader>>

Costruttori e distruttori

~AspiredVersionsManager ()

Tipi pubblici

PreLoadHook utilizzando
BasicManager::PreLoadHook

Classi di amici

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Funzioni statiche pubbliche

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Funzioni pubbliche

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Restituisce una richiamata per impostare l'elenco delle versioni aspirate per un particolare flusso servibile, utilizzando i caricatori.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Ottiene un elenco di tutti gli ID pubblicabili disponibili, ad es

Structs

tensorflow :: serving :: AspiredVersionsManager :: Opzioni

Opzioni di configurazione e oggetti collegabili che verranno utilizzati da AspiredVersionsManager .

Tipi pubblici

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

Classi di amici

internal :: AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util :: AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Funzioni statiche pubbliche

Creare

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Funzioni pubbliche

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Restituisce una richiamata per impostare l'elenco delle versioni aspirate per un particolare flusso servibile, utilizzando i caricatori.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Ottiene un elenco di tutti gli ID pubblicabili disponibili, ad es

ognuno di questi può essere recuperato utilizzando GetServableHandle.

~ AspiredVersionsManager

 ~AspiredVersionsManager() override