เทนเซอร์โฟลว์:: เสิร์ฟ:: CachingManager

#include <caching_manager.h>

ผู้จัดการที่จัดการและโหลดเซิร์ฟเวอร์ตามความต้องการ

สรุป

เมื่อได้รับคำขอสำหรับชื่อที่ให้บริการและเวอร์ชันที่เป็นทางเลือก ผู้จัดการจะตรวจสอบว่าได้โหลดเซิร์ฟเวอร์ที่ร้องขอแล้วหรือไม่ หากไม่เป็นเช่นนั้น ระบบจะเริ่มต้นการดำเนินการโหลดและให้บริการตามคำขอ

ผู้จัดการจะบล็อกการดำเนินการโหลดและส่งคืนหมายเลขอ้างอิงเมื่อโหลดเซิร์ฟเวอร์แล้ว หรือเกิดข้อผิดพลาด

มรดก

สืบทอดจาก: tensorflow :: การให้บริการ :: ผู้จัดการ

ตัวสร้างและตัวทำลาย

~CachingManager ()

คลาสเพื่อน

test_util::CachingManagerTestAccess
friend class

ฟังก์ชั่นคงที่สาธารณะ

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

งานสาธารณะ

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
รับรายการรหัสที่แสดงได้ทั้งหมด เช่น

ชั้นเรียน

tensorflow :: การให้บริการ :: CachingManager :: LoaderFactory

สิ่งที่เป็นนามธรรมสำหรับโรงงานตัวโหลดเพื่อแมปจากคำขอที่ให้บริการไปยังตัวโหลดที่เกี่ยวข้อง

โครงสร้าง

tensorflow :: การให้บริการ :: CachingManager :: ตัวเลือก

ตัวเลือกการกำหนดค่าและวัตถุ pluggable ที่จะถูกนำมาใช้โดย CachingManager

คลาสเพื่อน

test_util::CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

ฟังก์ชั่นคงที่สาธารณะ

สร้าง

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

งานสาธารณะ

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

รับรายการรหัสที่แสดงได้ทั้งหมด เช่น

สามารถดึงข้อมูลเหล่านี้ได้โดยใช้ GetServableHandle

~CachingManager

 ~CachingManager() override