เทนเซอร์โฟลว์:: เสิร์ฟ:: ที่บันทึกไว้รุ่นBundleFactory
#include <saved_model_bundle_factory.h>
โรงงานที่สร้าง SavedModelBundles จากเส้นทางการส่งออก SavedModel หรือ SessionBundle
สรุป
เซสชันที่ปล่อยออกมารองรับเฉพาะ Run() และแม้ว่าจะไม่ได้บังคับใช้ แต่คาดว่าไคลเอ็นต์จะทำการเรียกใช้ Run() ที่ไม่กลายพันธุ์เท่านั้น (หากข้อจำกัดนี้ ซึ่งเราได้เพิ่มเป็นมาตรการด้านความปลอดภัย เป็นปัญหาสำหรับกรณีการใช้งานของคุณ โปรดติดต่อทีมให้บริการ TensorFlow เพื่อหารือเกี่ยวกับการปิดใช้งาน)
หากการกำหนดค่าเรียกร้องให้มีการจัดชุด เซสชันที่ปล่อยออกมาจะเรียกใช้ชุดงานโดยอัตโนมัติแบบกลุ่ม Run() เบื้องหลัง โดยใช้ SharedBatchScheduler ที่เป็นของโรงงาน เธรด 'config.num_batch_threads' มีการแชร์กับอินสแตนซ์เซสชันทั้งหมดที่สร้างโดยโรงงานนี้ อย่างไรก็ตาม แต่ละเซสชันมีคิวเฉพาะขนาด 'config.max_enqueued_batches'
โรงงานยังสามารถประมาณความต้องการทรัพยากร (เช่น RAM) ของ SavedModelBundle ตาม SavedModel (เช่น ก่อนโหลดเซสชัน)
คลาสนี้ปลอดภัยสำหรับเธรด
ฟังก์ชั่นคงที่สาธารณะ | |
---|---|
Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory) | Status instantiates SavedModelBundleFactory ใช้การกำหนดค่า |
งานสาธารณะ | |
---|---|
CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle) | Status สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด |
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle) | Status สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด และข้อมูลเมตาที่กำหนด |
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const | Status ประมาณการทรัพยากรที่บันเดิล SavedModel จะใช้เมื่อโหลดแล้ว จากเส้นทางการส่งออก |
config () const | const SessionBundleConfig & |
ฟังก์ชั่นคงที่สาธารณะ
สร้าง
Status Create( const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory )
instantiates SavedModelBundleFactory ใช้การกำหนดค่า
รายละเอียด | |||||
---|---|---|---|---|---|
พารามิเตอร์ |
|
งานสาธารณะ
CreateSavedModelBundle
Status CreateSavedModelBundle( const string & path, std::unique_ptr< SavedModelBundle > *bundle )
สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด
รายละเอียด | |||||
---|---|---|---|---|---|
พารามิเตอร์ |
|
CreateSavedModelBundleWithMetadata
Status CreateSavedModelBundleWithMetadata( const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle )
สร้างอินสแตนซ์บันเดิลจากพาธเอ็กซ์พอร์ตหรือ SavedModel ที่กำหนด และข้อมูลเมตาที่กำหนด
รายละเอียด | |||||||
---|---|---|---|---|---|---|---|
พารามิเตอร์ |
|
EstimateResourceRequirement
Status EstimateResourceRequirement( const string & path, ResourceAllocation *estimate ) const
ประมาณการทรัพยากรที่บันเดิล SavedModel จะใช้เมื่อโหลดแล้ว จากเส้นทางการส่งออก
รายละเอียด | |||||
---|---|---|---|---|---|
พารามิเตอร์ |
|
config
const SessionBundleConfig & config() const