tensör akışı:: hizmet veren:: KaydedilenModelBundleFabrika

#include <saved_model_bundle_factory.h>

SavedModel veya SessionBundle dışa aktarma yollarından SavedModelBundles oluşturan bir fabrika.

Özet

Yayılan oturumlar yalnızca Run()'ı destekler ve zorunlu tutulmasa da istemcinin yalnızca mutasyona uğramayan Run() çağrıları yapması beklenir. (Güvenlik önlemi olarak eklediğimiz bu kısıtlama, kullanım durumunuz için sorun teşkil ediyorsa, devre dışı bırakılmasını görüşmek için lütfen TensorFlow Hizmet ekibiyle iletişime geçin.)

Yapılandırma toplu işleme için çağrıda bulunursa, yayılan oturumlar fabrikanın sahip olduğu bir SharedBatchScheduler kullanarak otomatik olarak toplu Run() çağrılarını arka planda gerçekleştirir. 'config.num_batch_threads' iş parçacıkları, bu fabrika tarafından oluşturulan tüm oturum örneklerinde paylaşılır. Ancak, her oturumun kendi özel 'config.max_enqueued_batch' boyutu kuyruğu vardır.

Fabrika ayrıca SavedModel'e dayalı olarak (yani oturumu yüklemeden önce) bir SavedModelBundle'ın kaynak (örneğin RAM) gereksinimlerini tahmin edebilir.

Bu sınıf iş parçacığı için güvenlidir.

Genel statik işlevler

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
Bir ilklendirdikten SavedModelBundleFactory bir yapılandırma kullanarak.

Kamu işlevleri

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Belirli bir dışa aktarma veya SavedModel yolundan bir paket örneği oluşturur.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Belirli bir dışa aktarma veya SavedModel yolundan ve verilen meta verilerden bir paket oluşturur.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
Bir SavedModel paketinin yüklendikten sonra dışa aktarma yolundan kullanacağı kaynakları tahmin eder.
config () const
const SessionBundleConfig &

Genel statik işlevler

Yaratmak

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Bir ilklendirdikten SavedModelBundleFactory bir yapılandırma kullanarak.

Detaylar
parametreler
config
Başlatma seçenekleriyle yapılandırın.
factory
Döndürülen Durum uygunsa yeni oluşturulan fabrika.

Kamu işlevleri

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Belirli bir dışa aktarma veya SavedModel yolundan bir paket örneği oluşturur.

Detaylar
parametreler
path
Modele giden yol.
bundle
Döndürülen Durum uygunsa, yeni oluşturulan SavedModelBundle.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Belirli bir dışa aktarma veya SavedModel yolundan ve verilen meta verilerden bir paket oluşturur.

Detaylar
parametreler
metadata
Paketle ilişkilendirilecek meta veriler.
path
Modele giden yol.
bundle
Döndürülen Durum uygunsa, yeni oluşturulan SavedModelBundle.

TahminKaynakGereksinim

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const

Bir SavedModel paketinin yüklendikten sonra dışa aktarma yolundan kullanacağı kaynakları tahmin eder.

Detaylar
parametreler
path
Modele giden yol.
estimate
Çıktı kaynak kullanım tahminleri. Farklı türde kaynaklar (örneğin CPU, RAM, vb.) doldurulabilir.

yapılandırma

const SessionBundleConfig & config() const