Unisciti alla community di SIG TFX-Addons e aiutaci a rendere TFX ancora migliore! Iscriviti a SIG TFX-Addons

tensorflow :: servendo:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

Una factory che crea SavedModelBundles dai percorsi di esportazione SavedModel o SessionBundle.

Sommario

Le sessioni emesse supportano solo Run () e, sebbene non sia applicato, ci si aspetta che il client effettui solo chiamate Run () non mutanti. (Se questa restrizione, che abbiamo aggiunto come misura di sicurezza, è problematica per il tuo caso d'uso, contatta il team di assistenza di TensorFlow per discutere della sua disabilitazione.)

Se la configurazione richiede il batch, le sessioni emesse automaticamente in batch Run () chiama dietro le quinte, utilizzando un SharedBatchScheduler di proprietà della fabbrica. I thread "config.num_batch_threads" sono condivisi tra tutte le istanze di sessione create da questa factory. Tuttavia, ogni sessione ha la propria coda dedicata di dimensione "config.max_enqueued_batches".

La fabbrica può anche stimare i requisiti di risorse (es. RAM) di un SavedModelBundle in base a SavedModel (cioè prima di caricare la sessione).

Questa classe è thread-safe.

Funzioni statiche pubbliche

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
Crea un'istanza di SavedModelBundleFactory utilizzando un file config.

Funzioni pubbliche

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Crea un'istanza di un pacchetto da una determinata esportazione o percorso SavedModel.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Crea un'istanza di un bundle da una determinata esportazione o un percorso SavedModel e dai metadati specificati.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
Stima le risorse che un bundle SavedModel utilizzerà una volta caricato, dal suo percorso di esportazione.
config () const
const SessionBundleConfig &

Funzioni statiche pubbliche

Creare

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Crea un'istanza di SavedModelBundleFactory utilizzando un file config.

Dettagli
Parametri
config
Configurazione con opzioni di inizializzazione.
factory
Factory appena creata se lo stato restituito è OK.

Funzioni pubbliche

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Crea un'istanza di un pacchetto da una determinata esportazione o percorso SavedModel.

Dettagli
Parametri
path
Percorso al modello.
bundle
SalvatiModelBundle appena creato se lo stato restituito è OK.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Crea un'istanza di un bundle da una determinata esportazione o percorso SavedModel e dai metadati specificati.

Dettagli
Parametri
metadata
Metadati da associare al bundle.
path
Percorso al modello.
bundle
SalvatiModelBundle appena creato se lo stato restituito è OK.

StimaRisorsaRequisito

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const 

Stima le risorse che un bundle SavedModel utilizzerà una volta caricato, dal suo percorso di esportazione.

Dettagli
Parametri
path
Percorso al modello.
estimate
Stime sull'utilizzo delle risorse di output. Diversi tipi di risorse (ad esempio CPU, RAM, ecc.) Possono essere popolati.

config

const SessionBundleConfig & config() const