Unisciti alla community di SIG TFX-Addons e aiutaci a rendere TFX ancora migliore! Iscriviti a SIG TFX-Addons

tensorflow :: servendo:: Manager

Questa è una classe astratta.

#include <manager.h>

Manager è responsabile del caricamento, scaricamento, ricerca e gestione della durata di tutti gli oggetti Servable tramite i loro caricatori.

Sommario

Eredità

Sottoclassi note dirette: tensorflow :: serving :: AspiredVersionsManager , tensorflow :: serving :: BasicManager , tensorflow :: serving :: CachingManager , tensorflow :: serving :: ServerCore

Costruttori e distruttori

~Manager ()

Funzioni pubbliche

GetAvailableServableHandles () const
std::map< ServableId, ServableHandle < T > >
Restituisce una mappa di tutti i servables attualmente disponibili di un particolare tipo T.
GetServableHandle (const ServableRequest & request, ServableHandle < T > *const handle)
Status
Restituisce un ServableHandle dato un ServableRequest .
ListAvailableServableIds () const =0
virtual std::vector< ServableId >
Ottiene un elenco di tutti gli ID pubblicabili disponibili, ad es

Funzioni pubbliche

GetAvailableServableHandles

std::map< ServableId, ServableHandle< T > > GetAvailableServableHandles() const 

Restituisce una mappa di tutti i servables attualmente disponibili di un particolare tipo T.

La mappa va dall'id del servable al suo handle corrispondente.

IMPORTANTE: il chiamante non deve tenere le maniglie per molto tempo, perché tenerle in mano ritarderà il caricamento e lo scaricamento pubblicabili.

GetServableHandle

Status GetServableHandle(
  const ServableRequest & request,
  ServableHandle< T > *const handle
)

Restituisce un ServableHandle dato un ServableRequest .

Restituisce un errore se non è disponibile alcun Servable di questo tipo, ad esempio non ancora caricato, è stato disattivato / scaricato, ecc. I chiamanti possono presumere che uno stato OK indichi un handle non nullo.

IMPORTANTE: il chiamante non deve tenere le maniglie per molto tempo, perché tenerle in mano ritarderà il caricamento e lo scaricamento pubblicabili.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const =0

Ottiene un elenco di tutti gli ID pubblicabili disponibili, ad es

ognuno di questi può essere recuperato utilizzando GetServableHandle.

~ Manager

virtual  ~Manager()=default