เทนเซอร์โฟลว์:: เสิร์ฟ:: AspiredVersionsManager
#include <aspired_versions_manager.h>
ผู้จัดการว่าการดำเนินการเป้าหมาย < Loader > API ซึ่งใช้แรงบันดาลใจเวอร์ชั่นเรียกกลับเพื่อกำหนดซึ่งรุ่น servable โหลด
สรุป
ตัวจัดการนี้ยังใช้ API นั้นเพื่ออนุมานว่าจะยกเลิกการโหลดตัวใด: หากมีการโหลดเวอร์ชันที่ให้บริการที่กำหนดอยู่ในปัจจุบัน และถูกละเว้นจากการเรียกใช้คอลแบ็กเวอร์ชัน aspired ที่เกี่ยวข้องกับสตรีมที่ให้บริการได้ ตัวจัดการนี้จะตีความการละเว้นนั้นเป็นคำสั่งโดยปริยายเพื่อยกเลิกการโหลด รุ่น ดูรายละเอียดด้านล่าง
(นัย-ขนความหมายอำนวยความสะดวกไร้สัญชาติ ที่มา ใช้งานโดยย้ำให้ของ แหล่งที่มาของ ตรรกะ 's ก็ตัดสินใจที่รุ่นของ servable ควรจะโหลดโดยไม่จำเป็นต้องรู้ว่าสิ่งที่ได้ตัดสินใจในอดีต.)
ผู้จัดการนี้จะทำให้การเปลี่ยนระหว่างรุ่นของกระแส servable ใช้กำหนดค่า AspiredVersionPolicy ผู้จัดการต้องการยกเลิกการโหลดก่อนที่จะโหลดเพื่อเพิ่มทรัพยากรในเซิร์ฟเวอร์เมื่อตัดสินใจเลือกระหว่างช่วงการเปลี่ยนภาพที่แนะนำโดยนโยบาย
มรดก
สืบทอดจาก: tensorflow :: การให้บริการ :: ผู้จัดการ เป้าหมาย <มาตรฐาน :: unique_ptr <Loader>>ตัวสร้างและตัวทำลาย | |
---|---|
~AspiredVersionsManager () |
ประเภทสาธารณะ | |
---|---|
PreLoadHook | โดยใช้BasicManager::PreLoadHook |
คลาสเพื่อน | |
---|---|
internal::AspiredVersionsManagerTargetImpl | friend class |
test_util::AspiredVersionsManagerTestAccess | friend class |
ฟังก์ชั่นคงที่สาธารณะ | |
---|---|
Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager) | Status |
งานสาธารณะ | |
---|---|
GetAspiredVersionsCallback () override | ส่งคืนการเรียกกลับเพื่อตั้งค่ารายการเวอร์ชันที่ต้องการสำหรับสตรีมที่ให้บริการเฉพาะ โดยใช้ตัวโหลด |
ListAvailableServableIds () const override | virtual std::vector< ServableId > รับรายการรหัสที่แสดงได้ทั้งหมด เช่น |
โครงสร้าง | |
---|---|
tensorflow :: การให้บริการ :: AspiredVersionsManager :: ตัวเลือก | ตัวเลือกการกำหนดค่าและวัตถุ pluggable ที่จะถูกนำมาใช้โดย AspiredVersionsManager |
ประเภทสาธารณะ
พรีโหลดเบ็ด
BasicManager::PreLoadHook PreLoadHook
คลาสเพื่อน
ภายใน::AspiredVersionsManagerTargetImpl
friend class internal::AspiredVersionsManagerTargetImpl
test_util::AspiredVersionsManagerTestAccess
friend class test_util::AspiredVersionsManagerTestAccess
ฟังก์ชั่นคงที่สาธารณะ
สร้าง
Status Create( Options options, std::unique_ptr< AspiredVersionsManager > *manager )
งานสาธารณะ
GetAspiredVersionsCallback
Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override
ส่งคืนการเรียกกลับเพื่อตั้งค่ารายการเวอร์ชันที่ต้องการสำหรับสตรีมที่ให้บริการเฉพาะ โดยใช้ตัวโหลด
ListAvailableServableIds
virtual std::vector< ServableId > ListAvailableServableIds() const override
รับรายการรหัสที่แสดงได้ทั้งหมด เช่น
สามารถดึงข้อมูลเหล่านี้ได้โดยใช้ GetServableHandle
~AspiredVersionsManager
~AspiredVersionsManager() override