aliran tensor:: porsi:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

Pabrik yang membuat SavedModelBundles dari jalur ekspor SavedModel atau SessionBundle.

Ringkasan

Sesi yang dipancarkan hanya mendukung Run(), dan meskipun tidak diterapkan, diharapkan klien hanya akan membuat panggilan Run() yang tidak bermutasi. (Jika pembatasan ini, yang telah kami tambahkan sebagai tindakan keamanan, bermasalah untuk kasus penggunaan Anda, hubungi tim Layanan TensorFlow untuk mendiskusikan penonaktifannya.)

Jika konfigurasi memanggil untuk batching, sesi yang dipancarkan secara otomatis menjalankan panggilan Run() di belakang layar, menggunakan SharedBatchScheduler yang dimiliki oleh pabrik. Utas 'config.num_batch_threads' dibagikan di semua instance sesi yang dibuat oleh pabrik ini. Namun, setiap sesi memiliki antrian khusus dengan ukuran 'config.max_enqueued_batches'.

Pabrik juga dapat memperkirakan kebutuhan sumber daya (misalnya RAM) dari SavedModelBundle berdasarkan SavedModel (yaitu sebelum memuat sesi).

Kelas ini aman untuk thread.

Fungsi statis publik

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
Instantiates SavedModelBundleFactory menggunakan konfigurasi a.

Fungsi publik

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Membuat instance bundel dari jalur ekspor atau SavedModel tertentu.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
Membuat instance bundel dari jalur ekspor atau SavedModel tertentu dan metadata yang diberikan.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
Memperkirakan sumber daya yang akan digunakan bundel SavedModel setelah dimuat, dari jalur ekspornya.
config () const
const SessionBundleConfig &

Fungsi statis publik

Membuat

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Instantiates SavedModelBundleFactory menggunakan konfigurasi a.

rincian
Parameter
config
Konfigurasi dengan opsi inisialisasi.
factory
Pabrik yang baru dibuat jika Status yang dikembalikan OK.

Fungsi publik

BuatDisimpanModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Membuat instance bundel dari jalur ekspor atau SavedModel tertentu.

rincian
Parameter
path
Jalan ke model.
bundle
SavedModelBundle yang baru dibuat jika Status yang dikembalikan OK.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Membuat instance bundel dari jalur ekspor atau SavedModel tertentu dan metadata yang diberikan.

rincian
Parameter
metadata
Metadata yang akan dikaitkan dengan bundel.
path
Jalan ke model.
bundle
SavedModelBundle yang baru dibuat jika Status yang dikembalikan OK.

PerkiraanPersyaratanSumber Daya

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const

Memperkirakan sumber daya yang akan digunakan bundel SavedModel setelah dimuat, dari jalur ekspornya.

rincian
Parameter
path
Jalan ke model.
estimate
Perkiraan penggunaan sumber daya keluaran. Berbagai jenis sumber daya (misalnya CPU, RAM, dll.) dapat diisi.

konfigurasi

const SessionBundleConfig & config() const