flusso tensoriale:: servendo:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

Una factory che crea SavedModelBundles dai percorsi di esportazione SavedModel o SessionBundle.

Riepilogo

Le sessioni emesse supportano solo Run() e, sebbene non siano applicate, è previsto che il client effettui solo chiamate Run() non mutanti. (Se questa restrizione, che abbiamo aggiunto come misura di sicurezza, è problematica per il tuo caso d'uso, contatta il team di servizio di TensorFlow per discutere della disabilitazione.)

Se la configurazione richiede il batch, le sessioni emesse effettuano automaticamente in batch le chiamate Run() dietro le quinte, utilizzando un SharedBatchScheduler di proprietà della factory. I thread 'config.num_batch_threads' sono condivisi tra tutte le istanze di sessione create da questa factory. Tuttavia, ogni sessione ha la propria coda dedicata di dimensione 'config.max_enqueued_batches'.

La fabbrica può anche stimare i requisiti di risorse (ad es. RAM) di un SavedModelBundle in base al SavedModel (cioè prima di caricare la sessione).

Questa classe è thread-safe.

Funzioni statiche pubbliche

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
Un'istanza di un SavedModelBundleFactory utilizzando un config.

Funzioni pubbliche

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Crea un'istanza di un bundle da un determinato percorso di esportazione o SavedModel.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Crea un'istanza di un bundle da un determinato percorso di esportazione o SavedModel e dai metadati specificati.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
Stima le risorse che un bundle SavedModel utilizzerà una volta caricato, dal suo percorso di esportazione.
config () const
const SessionBundleConfig &

Funzioni statiche pubbliche

Creare

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Un'istanza di un SavedModelBundleFactory utilizzando un config.

Particolari
Parametri
config
Configurazione con opzioni di inizializzazione.
factory
Fabbrica appena creata se lo stato restituito è OK.

Funzioni pubbliche

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Crea un'istanza di un bundle da un determinato percorso di esportazione o SavedModel.

Particolari
Parametri
path
Percorso per il modello.
bundle
SavedModelBundle appena creato se lo stato restituito è OK.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Crea un'istanza di un bundle da un determinato percorso di esportazione o SavedModel e dai metadati specificati.

Particolari
Parametri
metadata
Metadati da associare al bundle.
path
Percorso per il modello.
bundle
SavedModelBundle appena creato se lo stato restituito è OK.

EstimateResourceRequirement

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const

Stima le risorse che un bundle SavedModel utilizzerà una volta caricato, dal suo percorso di esportazione.

Particolari
Parametri
path
Percorso per il modello.
estimate
Genera stime sull'utilizzo delle risorse. Possono essere popolati diversi tipi di risorse (ad es. CPU, RAM, ecc.).

config

const SessionBundleConfig & config() const