เทนเซอร์โฟลว์:: เสิร์ฟ:: ที่บันทึกไว้รุ่นBundleFactory

#include <saved_model_bundle_factory.h>

โรงงานที่สร้าง SavedModelBundles จากเส้นทางการส่งออก SavedModel หรือ SessionBundle

สรุป

เซสชันที่ปล่อยออกมารองรับเฉพาะ Run() และแม้ว่าจะไม่ได้บังคับใช้ แต่คาดว่าไคลเอ็นต์จะทำการเรียกใช้ Run() ที่ไม่กลายพันธุ์เท่านั้น (หากข้อจำกัดนี้ ซึ่งเราได้เพิ่มเป็นมาตรการด้านความปลอดภัย เป็นปัญหาสำหรับกรณีการใช้งานของคุณ โปรดติดต่อทีมให้บริการ TensorFlow เพื่อหารือเกี่ยวกับการปิดใช้งาน)

หากการกำหนดค่าเรียกร้องให้มีการจัดชุด เซสชันที่ปล่อยออกมาจะเรียกใช้ชุดงานโดยอัตโนมัติแบบกลุ่ม Run() เบื้องหลัง โดยใช้ SharedBatchScheduler ที่เป็นของโรงงาน เธรด 'config.num_batch_threads' มีการแชร์กับอินสแตนซ์เซสชันทั้งหมดที่สร้างโดยโรงงานนี้ อย่างไรก็ตาม แต่ละเซสชันมีคิวเฉพาะขนาด 'config.max_enqueued_batches'

โรงงานยังสามารถประมาณความต้องการทรัพยากร (เช่น RAM) ของ SavedModelBundle ตาม SavedModel (เช่น ก่อนโหลดเซสชัน)

คลาสนี้ปลอดภัยสำหรับเธรด

ฟังก์ชั่นคงที่สาธารณะ

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
instantiates SavedModelBundleFactory ใช้การกำหนดค่า

งานสาธารณะ

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด และข้อมูลเมตาที่กำหนด
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
ประมาณการทรัพยากรที่บันเดิล SavedModel จะใช้เมื่อโหลดแล้ว จากเส้นทางการส่งออก
config () const
const SessionBundleConfig &

ฟังก์ชั่นคงที่สาธารณะ

สร้าง

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

instantiates SavedModelBundleFactory ใช้การกำหนดค่า

รายละเอียด
พารามิเตอร์
config
กำหนดค่าด้วยตัวเลือกการเริ่มต้น
factory
โรงงานที่สร้างขึ้นใหม่หากสถานะที่ส่งคืนนั้นใช้ได้

งานสาธารณะ

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด

รายละเอียด
พารามิเตอร์
path
เส้นทางสู่โมเดล
bundle
สร้างขึ้นใหม่ SavedModelBundle หากสถานะที่ส่งคืนนั้นใช้ได้

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด และข้อมูลเมตาที่กำหนด

รายละเอียด
พารามิเตอร์
metadata
ข้อมูลเมตาที่จะเชื่อมโยงกับบันเดิล
path
เส้นทางสู่โมเดล
bundle
สร้างขึ้นใหม่ SavedModelBundle หากสถานะที่ส่งคืนนั้นใช้ได้

EstimateResourceRequirement

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const 

ประมาณการทรัพยากรที่บันเดิล SavedModel จะใช้เมื่อโหลดแล้ว จากเส้นทางการส่งออก

รายละเอียด
พารามิเตอร์
path
เส้นทางสู่โมเดล
estimate
ประมาณการการใช้ทรัพยากรเอาต์พุต ทรัพยากรประเภทต่างๆ (เช่น CPU, RAM ฯลฯ) อาจมีการเติมข้อมูล

config

const SessionBundleConfig & config() const