flusso tensoriale:: servendo:: Gestione cache

#include <caching_manager.h>

Un manager che gestisce e carica i servable su richiesta.

Riepilogo

Dopo aver ricevuto la richiesta per un nome pubblicabile e una versione facoltativa, il gestore verifica se ha già caricato il server pubblicabile richiesto. In caso contrario, avvia l'operazione di caricamento e quindi serve la richiesta.

Il gestore si blocca sull'operazione di caricamento e restituisce l'handle quando il server è stato caricato o in caso di errore.

Eredità

Eredita da: tensorflow :: :: servire Responsabile

Costruttori e Distruttori

~CachingManager ()

Classi di amici

test_util::CachingManagerTestAccess
friend class

Funzioni statiche pubbliche

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

Funzioni pubbliche

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Ottiene un elenco di tutti gli ID utilizzabili disponibili, ad es

Classi

tensorflow :: :: servire CachingManager :: LoaderFactory

Un'astrazione per una fabbrica di caricatori da mappare da una richiesta gestibile al caricatore corrispondente.

Strutture

tensorflow :: :: servire CachingManager :: Opzioni

Opzioni di configurazione e gli oggetti inseribili che verranno utilizzati dal CachingManager .

Classi di amici

test_util::CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

Funzioni statiche pubbliche

Creare

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

Funzioni pubbliche

GetAvailableUntypedservableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Ottiene un elenco di tutti gli ID utilizzabili disponibili, ad es

ognuno di questi può essere recuperato utilizzando GetServableHandle.

~CachingManager

 ~CachingManager() override