tensorflow:: מָנָה:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

מפעל שיוצר SavedModelBundles מנתיבי ייצוא SavedModel או SessionBundle.

סיכום

הפעלות הנפלטות תומכות רק ב-Run(), ולמרות שאינן נאכפות, צפוי שהלקוח יבצע רק קריאות Run() שאינן משתנות. (אם מגבלה זו, שהוספנו כאמצעי בטיחות, היא בעייתית עבור מקרה השימוש שלך, אנא צור קשר עם צוות TensorFlow Serving כדי לדון בהשבתתה.)

אם התצורה דורשת אצווה, הפעלות הנפלטות אוטומטית קריאות Run() באצוות מאחורי הקלעים, באמצעות SharedBatchScheduler שבבעלות המפעל. האשכולות 'config.num_batch_threads' משותפים בכל מופעי ההפעלה שנוצרו על ידי מפעל זה. עם זאת, לכל הפעלה יש תור ייעודי משלה בגודל 'config.max_enqueued_batches'.

המפעל יכול גם להעריך את דרישות המשאבים (למשל זיכרון RAM) של SavedModelBundle בהתבסס על SavedModel (כלומר לפני טעינת ההפעלה).

מחלקה זו בטוחה לשרשור.

פונקציות סטטיות ציבוריות

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
Instantiates SavedModelBundleFactory באמצעות config.

תפקידים ציבוריים

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
מופעלת חבילה מנתיב ייצוא או SavedModel נתון.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
מופעלת חבילה מנתיב ייצוא או נתיב SavedModel נתון והמטא נתונים הנתונים.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
מעריך את המשאבים שחבילת SavedModel תשתמש לאחר הטעינה, מנתיב הייצוא שלו.
config () const
const SessionBundleConfig &

פונקציות סטטיות ציבוריות

לִיצוֹר

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Instantiates SavedModelBundleFactory באמצעות config.

פרטים
פרמטרים
config
תצורה עם אפשרויות אתחול.
factory
מפעל חדש שנוצר אם המצב שהוחזר תקין.

תפקידים ציבוריים

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

מופעלת חבילה מנתיב ייצוא או SavedModel נתון.

פרטים
פרמטרים
path
הדרך אל הדגם.
bundle
חבילת SavedModelBundle שנוצרה לאחרונה אם הסטטוס שהוחזר תקין.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

מופעלת חבילה מנתיב ייצוא או נתיב SavedModel נתון והמטא נתונים הנתונים.

פרטים
פרמטרים
metadata
מטא נתונים שישויכו לחבילה.
path
הדרך אל הדגם.
bundle
חבילת SavedModelBundle שנוצרה לאחרונה אם הסטטוס שהוחזר תקין.

EstimateResource Requirement

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const 

מעריך את המשאבים שחבילת SavedModel תשתמש לאחר הטעינה, מנתיב הייצוא שלו.

פרטים
פרמטרים
path
הדרך אל הדגם.
estimate
הערכות שימוש במשאבי פלט. סוגים שונים של משאבים (למשל מעבד, זיכרון RAM וכו') עשויים להתאכלס.

תצורה

const SessionBundleConfig & config() const