เทนเซอร์โฟลว์:: เสิร์ฟ:: AspiredVersionsManager

#include <aspired_versions_manager.h>

ผู้จัดการว่าการดำเนินการเป้าหมาย < Loader > API ซึ่งใช้แรงบันดาลใจเวอร์ชั่นเรียกกลับเพื่อกำหนดซึ่งรุ่น servable โหลด

สรุป

ตัวจัดการนี้ยังใช้ API นั้นเพื่ออนุมานว่าจะยกเลิกการโหลดตัวใด: หากมีการโหลดเวอร์ชันที่ให้บริการที่กำหนดอยู่ในปัจจุบัน และถูกละเว้นจากการเรียกใช้คอลแบ็กเวอร์ชัน aspired ที่เกี่ยวข้องกับสตรีมที่ให้บริการได้ ตัวจัดการนี้จะตีความการละเว้นนั้นเป็นคำสั่งโดยปริยายเพื่อยกเลิกการโหลด รุ่น ดูรายละเอียดด้านล่าง

(นัย-ขนความหมายอำนวยความสะดวกไร้สัญชาติ ที่มา ใช้งานโดยย้ำให้ของ แหล่งที่มาของ ตรรกะ 's ก็ตัดสินใจที่รุ่นของ servable ควรจะโหลดโดยไม่จำเป็นต้องรู้ว่าสิ่งที่ได้ตัดสินใจในอดีต.)

ผู้จัดการนี้จะทำให้การเปลี่ยนระหว่างรุ่นของกระแส servable ใช้กำหนดค่า AspiredVersionPolicy ผู้จัดการต้องการยกเลิกการโหลดก่อนที่จะโหลดเพื่อเพิ่มทรัพยากรในเซิร์ฟเวอร์เมื่อตัดสินใจเลือกระหว่างช่วงการเปลี่ยนภาพที่แนะนำโดยนโยบาย

มรดก

สืบทอดจาก: tensorflow :: การให้บริการ :: ผู้จัดการ เป้าหมาย <มาตรฐาน :: unique_ptr <Loader>>

ตัวสร้างและตัวทำลาย

~AspiredVersionsManager ()

ประเภทสาธารณะ

PreLoadHook โดยใช้
BasicManager::PreLoadHook

คลาสเพื่อน

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

ฟังก์ชั่นคงที่สาธารณะ

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

งานสาธารณะ

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
ส่งคืนการเรียกกลับเพื่อตั้งค่ารายการเวอร์ชันที่ต้องการสำหรับสตรีมที่ให้บริการเฉพาะ โดยใช้ตัวโหลด
ListAvailableServableIds () const override
virtual std::vector< ServableId >
รับรายการรหัสที่แสดงได้ทั้งหมด เช่น

โครงสร้าง

tensorflow :: การให้บริการ :: AspiredVersionsManager :: ตัวเลือก

ตัวเลือกการกำหนดค่าและวัตถุ pluggable ที่จะถูกนำมาใช้โดย AspiredVersionsManager

ประเภทสาธารณะ

พรีโหลดเบ็ด

BasicManager::PreLoadHook PreLoadHook

คลาสเพื่อน

ภายใน::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

ฟังก์ชั่นคงที่สาธารณะ

สร้าง

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

งานสาธารณะ

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

ส่งคืนการเรียกกลับเพื่อตั้งค่ารายการเวอร์ชันที่ต้องการสำหรับสตรีมที่ให้บริการเฉพาะ โดยใช้ตัวโหลด

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

รับรายการรหัสที่แสดงได้ทั้งหมด เช่น

สามารถดึงข้อมูลเหล่านี้ได้โดยใช้ GetServableHandle

~AspiredVersionsManager

 ~AspiredVersionsManager() override