เทนเซอร์โฟลว์:: เสิร์ฟ:: CachingManager
#include <caching_manager.h>
ผู้จัดการที่จัดการและโหลดเซิร์ฟเวอร์ตามความต้องการ
สรุป
เมื่อได้รับคำขอสำหรับชื่อที่ให้บริการและเวอร์ชันที่เป็นทางเลือก ผู้จัดการจะตรวจสอบว่าได้โหลดเซิร์ฟเวอร์ที่ร้องขอแล้วหรือไม่ หากไม่เป็นเช่นนั้น ระบบจะเริ่มต้นการดำเนินการโหลดและให้บริการตามคำขอ
ผู้จัดการจะบล็อกการดำเนินการโหลดและส่งคืนหมายเลขอ้างอิงเมื่อโหลดเซิร์ฟเวอร์แล้ว หรือเกิดข้อผิดพลาด
มรดก
สืบทอดจาก: tensorflow :: การให้บริการ :: ผู้จัดการตัวสร้างและตัวทำลาย | |
---|---|
~CachingManager () |
คลาสเพื่อน | |
---|---|
test_util::CachingManagerTestAccess | friend class |
ฟังก์ชั่นคงที่สาธารณะ | |
---|---|
Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager) | Status |
งานสาธารณะ | |
---|---|
GetAvailableUntypedServableHandles () const override | virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > |
ListAvailableServableIds () const override | virtual std::vector< ServableId > รับรายการรหัสที่แสดงได้ทั้งหมด เช่น |
ชั้นเรียน | |
---|---|
tensorflow :: การให้บริการ :: CachingManager :: LoaderFactory | สิ่งที่เป็นนามธรรมสำหรับโรงงานตัวโหลดเพื่อแมปจากคำขอที่ให้บริการไปยังตัวโหลดที่เกี่ยวข้อง |
โครงสร้าง | |
---|---|
tensorflow :: การให้บริการ :: CachingManager :: ตัวเลือก | ตัวเลือกการกำหนดค่าและวัตถุ pluggable ที่จะถูกนำมาใช้โดย CachingManager |
คลาสเพื่อน
test_util::CachingManagerTestAccess
friend class test_util::CachingManagerTestAccess
ฟังก์ชั่นคงที่สาธารณะ
สร้าง
Status Create( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager )
งานสาธารณะ
GetAvailableUntypedServableHandles
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override
ListAvailableServableIds
virtual std::vector< ServableId > ListAvailableServableIds() const override
รับรายการรหัสที่แสดงได้ทั้งหมด เช่น
สามารถดึงข้อมูลเหล่านี้ได้โดยใช้ GetServableHandle
~CachingManager
~CachingManager() override