جریان تنسور:: خدمت:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

کارخانه ای که SavedModelBundles را از مسیرهای صادراتی SavedModel یا SessionBundle ایجاد می کند.

خلاصه

جلسات ارسال شده فقط از Run() پشتیبانی می کنند، و اگرچه اجرا نمی شوند، انتظار می رود که کلاینت فقط فراخوانی های Run() غیر جهش یافته را انجام دهد. (اگر این محدودیت، که به عنوان یک اقدام ایمنی اضافه کرده‌ایم، برای مورد استفاده شما مشکل‌ساز است، لطفاً با تیم سرویس TensorFlow تماس بگیرید تا در مورد غیرفعال کردن آن صحبت کنید.)

اگر پیکربندی بچینگ را فراخوانی کند، جلسات منتشر شده به‌طور خودکار با استفاده از یک SharedBatchScheduler که متعلق به کارخانه است، فراخوان‌های Run() را در پشت صحنه دسته‌بندی می‌کنند. رشته‌های 'config.num_batch_threads' در تمام نمونه‌های جلسه ایجاد شده توسط این کارخانه به اشتراک گذاشته می‌شوند. با این حال، هر جلسه صف اختصاصی خود را با اندازه 'config.max_enqueued_batches' دارد.

کارخانه همچنین می تواند منابع مورد نیاز (به عنوان مثال RAM) یک SavedModelBundle را بر اساس SavedModel (یعنی قبل از بارگیری جلسه) تخمین بزند.

این کلاس امن است.

توابع استاتیک عمومی

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
تمثل SavedModelBundleFactory با استفاده از یک پیکربندی.

توابع عمومی

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
یک بسته نرم افزاری را از مسیر صادرات یا SavedModel مشخص می کند.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
یک بسته را از یک مسیر صادراتی یا SavedModel معین و ابرداده داده شده نمونه سازی می کند.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
منابعی را که یک بسته SavedModel پس از بارگیری از مسیر صادرات خود استفاده می کند، تخمین می زند.
config () const
const SessionBundleConfig &

توابع استاتیک عمومی

ايجاد كردن

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

تمثل SavedModelBundleFactory با استفاده از یک پیکربندی.

جزئیات
مولفه های
config
پیکربندی با گزینه های اولیه.
factory
اگر وضعیت بازگردانده شده درست باشد، کارخانه تازه ایجاد شده است.

توابع عمومی

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

یک بسته نرم افزاری را از مسیر صادرات یا SavedModel مشخص می کند.

جزئیات
مولفه های
path
مسیر رسیدن به مدل
bundle
SavedModelBundle تازه ایجاد شده در صورتی که وضعیت بازگشتی درست باشد.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

یک بسته را از یک مسیر صادراتی یا SavedModel معین و ابرداده داده شده نمونه سازی می کند.

جزئیات
مولفه های
metadata
فراداده با بسته مرتبط شود.
path
مسیر رسیدن به مدل
bundle
SavedModelBundle تازه ایجاد شده در صورتی که وضعیت بازگشتی درست باشد.

EstimateResource Requirement

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const

منابعی را که یک بسته SavedModel پس از بارگیری از مسیر صادرات خود استفاده می کند، تخمین می زند.

جزئیات
مولفه های
path
مسیر رسیدن به مدل
estimate
برآورد استفاده از منابع خروجی انواع مختلفی از منابع (مانند CPU، RAM و غیره) ممکن است پر شوند.

پیکربندی

const SessionBundleConfig & config() const