tensorflow :: servicio:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

Una fábrica que crea SavedModelBundles a partir de rutas de exportación SavedModel o SessionBundle.

Resumen

Las sesiones emitidas solo admiten Run () y, aunque no se aplica, se espera que el cliente solo realice llamadas Run () sin mutaciones. (Si esta restricción, que hemos agregado como medida de seguridad, es problemática para su caso de uso, comuníquese con el equipo de servicio de TensorFlow para discutir cómo deshabilitarla).

Si la configuración solicita el procesamiento por lotes, las sesiones emitidas automáticamente por lotes las llamadas Run () detrás de escena, utilizando un SharedBatchScheduler propiedad de la fábrica. Los subprocesos 'config.num_batch_threads' se comparten en todas las instancias de sesión creadas por esta fábrica. Sin embargo, cada sesión tiene su propia cola dedicada de tamaño 'config.max_enqueued_batches'.

La fábrica también puede estimar los requisitos de recursos (por ejemplo, RAM) de un paquete de modelo guardado basándose en el modelo guardado (es decir, antes de cargar la sesión).

Esta clase es segura para subprocesos.

Funciones estáticas públicas

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
Instancia un SavedModelBundleFactory utilizando una configuración.

Funciones publicas

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Crea una instancia de un paquete de una exportación determinada o una ruta de modelo guardado.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Crea una instancia de un paquete de una exportación determinada o una ruta de modelo guardado y los metadatos dados.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
Calcula los recursos que utilizará un paquete de modelo guardado una vez cargado, a partir de su ruta de exportación.
config () const
const SessionBundleConfig &

Funciones estáticas públicas

Crear

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Instancia un SavedModelBundleFactory utilizando una configuración.

Detalles
Parámetros
config
Config con opciones de inicialización.
factory
Fábrica de nueva creación si el estado devuelto es correcto.

Funciones publicas

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Crea una instancia de un paquete de una exportación determinada o una ruta de modelo guardado.

Detalles
Parámetros
path
Camino al modelo.
bundle
SavedModelBundle recién creado si el estado devuelto es correcto.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Crea una instancia de un paquete de una exportación determinada o una ruta de modelo guardado y los metadatos dados.

Detalles
Parámetros
metadata
Metadatos que se asociarán con el paquete.
path
Camino al modelo.
bundle
SavedModelBundle recién creado si el estado devuelto es correcto.

EstimateResourceRequirement

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const

Calcula los recursos que utilizará un paquete de modelo guardado una vez cargado, a partir de su ruta de exportación.

Detalles
Parámetros
path
Camino al modelo.
estimate
Estimaciones de uso de recursos de salida. Es posible que se llenen diferentes tipos de recursos (por ejemplo, CPU, RAM, etc.).

config

const SessionBundleConfig & config() const