Treten Sie der SIG TFX-Addons-Community bei und helfen Sie mit, TFX noch besser zu machen! SIG TFX-Addons beitreten
Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.

Tensorflow :: Portion:: CachingManager

#include <caching_manager.h>

Ein Manager, der Servables bei Bedarf verwaltet und lädt.

Zusammenfassung

Nach Erhalt der Anforderung eines Servable-Namens und einer optionalen Version prüft der Manager, ob der angeforderte Servable bereits geladen ist. Wenn nicht, initiiert es den Ladevorgang und bedient dann die Anforderung.

Der Manager blockiert den Ladevorgang und gibt das Handle zurück, wenn das Servable geladen wurde oder wenn ein Fehler aufgetreten ist.

Erbe

Erbt von: tensorflow :: Serving :: Manager

Konstruktoren und Destruktoren

~CachingManager ()

Freund Klassen

test_util::CachingManagerTestAccess
friend class

Öffentliche statische Funktionen

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

Öffentliche Funktionen

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Ruft eine Liste aller verfügbaren wartbaren IDs ab, d. H.

Klassen

Tensorflow :: Serving :: CachingManager :: LoaderFactory

Eine Abstraktion für eine Loader-Factory, um sie von einer bedienbaren Anforderung dem entsprechenden Loader zuzuordnen.

Strukturen

Tensorflow :: Serving :: CachingManager :: Optionen

Konfigurationsoptionen und steckbare Objekte, die vom CachingManager verwendet werden .

Freund Klassen

test_util :: CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

Öffentliche statische Funktionen

Erstellen

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

Öffentliche Funktionen

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Ruft eine Liste aller verfügbaren wartbaren IDs ab, d. H.

Jedes dieser Elemente kann mit GetServableHandle abgerufen werden.

~ CachingManager

 ~CachingManager() override