เทนเซอร์โฟลว์:: เสิร์ฟ
สรุป
Typedefs | |
---|---|
LoaderSource | โดยใช้ |
StoragePathSourceAdapter | โดยใช้SourceAdapter < StoragePath, std::unique_ptr< Loader >> |
ฟังก์ชั่น | |
---|---|
DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter ) | |
operator!= (const Loader::Metadata & a, const Loader::Metadata & b) | bool |
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b) | bool |
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r) | constexpr bool |
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b) | bool |
operator<< (std::ostream & os, LoaderHarness::State state) | std::ostream & |
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time) | std::ostream & |
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs) | bool |
operator== (const Loader::Metadata & a, const Loader::Metadata & b) | bool |
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b) | bool |
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r) | constexpr bool |
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b) | bool |
ชั้นเรียน | |
---|---|
tensorflow:: การให้บริการ:: AspiredVersionPolicy | อินเทอร์เฟซสำหรับนโยบายที่จะใช้สำหรับการเปลี่ยนเวอร์ชันที่แสดงได้ในสตรีมที่แสดงได้ |
tensorflow:: การให้บริการ:: AspiredVersionsManager | ผู้จัดการที่ใช้ Target< Loader > API ซึ่งใช้การเรียกกลับเวอร์ชัน aspired เพื่อกำหนดว่าจะโหลดเวอร์ชันใดที่สามารถให้บริการได้ |
tensorflow:: การให้บริการ:: AspiredVersionsManagerBuilder | สร้าง AspiredVersionsManager พร้อมตัวเลือกและแหล่งที่มาที่เชื่อมต่อ |
tensorflow:: การให้บริการ:: BasicManager | ช่วยจัดการวงจรชีวิตของ Servables รวมถึงการโหลด การให้บริการ และการขนถ่าย |
tensorflow:: การให้บริการ:: CachingManager | ผู้จัดการที่จัดการและโหลดเซิร์ฟเวอร์ตามความต้องการ |
tensorflow:: การให้บริการ:: ตัวแยกประเภทอินเทอร์เฟซ | อินเทอร์เฟซแบบไม่เชื่อเรื่องพระเจ้าแบบโมเดลสำหรับดำเนินการจัดประเภท |
tensorflow:: การให้บริการ :: ErrorInjectingSourceAdapter | |
tensorflow:: การให้บริการ :: FileSystemStoragePathSource | แหล่งที่มาของเส้นทางการจัดเก็บที่ต้องการเวอร์ชันสำหรับชุดของเซิร์ฟเวอร์ที่กำหนด |
เทนเซอร์โฟลว์:: เสิร์ฟ:: ตัวโหลด | นามธรรมที่เป็นมาตรฐานสำหรับออบเจ็กต์ที่จัดการวงจรชีวิตของ Servable รวมถึงการโหลดและการขนถ่าย |
เทนเซอร์โฟลว์:: เสิร์ฟ:: LoaderHarness | LoaderHarness เป็นวิดเจ็ตที่ Manager ใช้เพื่อจับและพูดคุยกับ Loader ในขณะที่มันเป็นเจ้าของ |
เทนเซอร์โฟลว์:: เสิร์ฟ:: ผู้จัดการ | ผู้จัดการ มีหน้าที่รับผิดชอบในการโหลด ขนถ่าย ค้นหา และการจัดการตลอดอายุของออบเจ็กต์ที่ให้บริการได้ทั้งหมดผ่านทางตัวโหลด |
tensorflow:: การให้บริการ:: PathPrefixLoaderFactory | LoaderFactory แบบง่ายที่ค้นหา servable ที่เส้นทางที่เกิดขึ้นจากการต่อคำนำหน้าพาธคงที่กับชื่อของเซิร์ฟเวอร์ |
tensorflow:: เสิร์ฟ:: RegressorInterface | อินเทอร์เฟซแบบไม่เชื่อเรื่องพระเจ้าสำหรับดำเนินการถดถอย |
tensorflow:: การให้บริการ :: ResourceUnsafeLoader | Loader ที่ไม่สนใจทรัพยากร |
tensorflow:: การให้บริการ :: SavedModelBundleFactory | โรงงานที่สร้าง SavedModelBundles จากเส้นทางการส่งออก SavedModel หรือ SessionBundle |
เทนเซอร์โฟลว์:: เสิร์ฟ:: ServableHandle | ตัวชี้อัจฉริยะไปยังอ็อบเจ็กต์ที่ให้บริการได้ T ที่ดึงมาจาก Loader |
tensorflow:: การให้บริการ :: ServableStateMonitor | ยูทิลิตี้ที่รับฟัง EventBus<ServableState> และติดตามสถานะของเซิร์ฟเวอร์แต่ละรายการที่กล่าวถึงบนบัส |
tensorflow:: การให้บริการ:: ServerCore | ServerCore ประกอบด้วยเมธอดของรัฐและตัวช่วยที่เปิดใช้งานการสร้าง ModelServers ที่รองรับอินเทอร์เฟซหลายตัว |
tensorflow:: เสิร์ฟ:: ServingSession | เซสชันที่บล็อกวิธีการเปลี่ยนสถานะ เช่น ปิด () ในขณะที่อนุญาตให้เรียกใช้ () สำหรับการเข้าถึงแบบอ่านอย่างเดียว (ไม่ได้บังคับใช้) |
tensorflow:: การให้บริการ :: ServingSessionWrapper | ServingSession ที่ล้อมเซสชันที่กำหนด และบล็อกการเรียกทั้งหมดที่ไม่ใช่ Run() |
tensorflow:: การให้บริการ:: SharedPtrHandle | การใช้งาน UntypedServableHandle โดยใช้ shared_ptr เพื่อทำการนับอ้างอิงบน Loader ที่เป็นเจ้าของ Servable |
เทนเซอร์โฟลว์:: เสิร์ฟ:: ที่มา | นามธรรมสำหรับโมดูลที่แหล่งที่มาของเซิร์ฟเวอร์เพื่อโหลด หรือแม่นยำยิ่งขึ้น จัดการกับข้อมูลที่สามารถใช้เพื่อโหลดเซิร์ฟเวอร์เหล่านั้นได้ |
tensorflow:: การให้บริการ:: SourceAdapter | สิ่งที่เป็นนามธรรมสำหรับโมดูลที่ได้รับการเรียกกลับในเวอร์ชันที่ต้องการด้วยข้อมูลประเภท InputType และแปลงเป็นการเรียกด้วยข้อมูลประเภท OutputType |
tensorflow:: การให้บริการ:: UnarySourceAdapter | |
tensorflow:: การให้บริการ :: UntypedServableHandle | แฮนเดิลที่ไม่ใช่เทมเพลทสำหรับเซิร์ฟเวอร์ ใช้ภายในใน Manager เพื่อดึงออบเจ็กต์ที่แสดงผลได้ซึ่งลบประเภทออกจาก Loader |
โครงสร้าง | |
---|---|
tensorflow:: การให้บริการ :: AspiredServableStateSnapshot | ภาพรวมของสถานะและความทะเยอทะยานของผู้รับใช้ |
tensorflow:: เสิร์ฟ:: ServableRequest | เคียวรีสำหรับอ็อบเจ็กต์ที่โหลดได้เฉพาะที่โหลดได้ |
tensorflow:: การให้บริการ :: ServableStateSnapshot |
เนมสเปซ | |
---|---|
เทนเซอร์โฟลว์:: เสิร์ฟ:: ภายใน | |
เทนเซอร์โฟลว์:: เสิร์ฟ :: test_util |
Typedefs
StoragePathSourceAdapter
SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter
ฟังก์ชั่น
DEFINE_CLASS_REGISTRY
DEFINE_CLASS_REGISTRY( StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
โอเปอเรเตอร์!=
bool operator!=( const Loader::Metadata & a, const Loader::Metadata & b )
โอเปอเรเตอร์!=
bool operator!=( const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b )
โอเปอเรเตอร์!=
constexpr bool operator!=( const ServableHandle< T > & l, const ServableHandle< U > & r )
โอเปอเรเตอร์!=
bool operator!=( const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b )
โอเปอเรเตอร์
std::ostream & operator<<( std::ostream & os, LoaderHarness::State state )
โอเปอเรเตอร์
std::ostream & operator<<( std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time )
โอเปอเรเตอร์==
bool operator==( const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs )
โอเปอเรเตอร์==
bool operator==( const Loader::Metadata & a, const Loader::Metadata & b )
โอเปอเรเตอร์==
bool operator==( const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b )
โอเปอเรเตอร์==
constexpr bool operator==( const ServableHandle< T > & l, const ServableHandle< U > & r )
โอเปอเรเตอร์==
bool operator==( const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b )