เทนเซอร์โฟลว์:: เสิร์ฟ:: ResourceUnsafeLoader
#include <loader.h>
พับ ที่เป็นทรัพยากรลบเลือนไป
สรุป
มัน EstimateResources () วิธีการส่งกลับ 0 จึงมีประสิทธิภาพการปิดใช้งานการตรวจสอบความปลอดภัยทรัพยากรที่ใช้ในระบบการให้บริการ
รถตักที่มีการทดลองหรือการทำงานในสภาพแวดล้อมที่ไม่จำเป็นต้องตรวจสอบความปลอดภัยทรัพยากรที่สามารถซับคลาส ResourceUnsafeLoader แทนการ พับ
มรดก
สืบทอดจาก: tensorflow :: การให้บริการ :: พับงานสาธารณะ | |
---|---|
EstimateResources (ResourceAllocation *estimate) const final | virtual Status ประเมินทรัพยากรที่เซิร์ฟเวอร์จะใช้ |
งานสาธารณะ
EstimateResources
virtual Status EstimateResources( ResourceAllocation *estimate ) const final
ประเมินทรัพยากรที่เซิร์ฟเวอร์จะใช้
สำคัญ: การนำเมธอดนี้ไปใช้ต้องเป็นไปตามข้อกำหนด ซึ่งทำให้ระบบที่ให้บริการสามารถให้เหตุผลอย่างถูกต้องว่าสามารถโหลดเซิร์ฟเวอร์ใดได้อย่างปลอดภัย:
- ค่าประมาณต้องแสดงถึงขอบเขตบนของมูลค่าที่แท้จริง
- ก่อนโหลด การประมาณการอาจรวมทรัพยากรที่ไม่ผูกกับอินสแตนซ์อุปกรณ์ใด ๆ เช่น RAM บนหนึ่งในสอง GPUs
- ขณะโหลด สำหรับอุปกรณ์ที่มีหลายอินสแตนซ์ (เช่น GPU สองตัว) การประมาณการต้องระบุอินสแตนซ์ที่แต่ละทรัพยากรถูกผูกไว้
- ค่าประมาณจะต้องไม่เพิ่มขึ้นแบบโมโนโทน กล่าวคือ ไม่สามารถเพิ่มขึ้นได้เมื่อเวลาผ่านไป เหตุผลที่อาจลดลงเมื่อเวลาผ่านไป
คืนสินค้า ค่าประมาณของทรัพยากรที่แสดงผลได้จะใช้เมื่อโหลดแล้ว หากโหลดเซิร์ฟเวอร์แล้ว ส่งคืนการประเมินการใช้ทรัพยากรจริง