انضم إلى مجتمع SIG TFX-Addons وساعد في جعل TFX أفضل! انضم إلى SIG TFX-Addons

تينسورفلو :: خدمة:: مدير التخزين المؤقت

#include <caching_manager.h>

مدير يدير ويحمل الخدمات عند الطلب.

ملخص

عند استلام طلب اسم قابل للخدمة وإصدار اختياري ، يتحقق المدير مما إذا كان قد تم تحميل الخدمة المطلوبة بالفعل. إذا لم يكن كذلك ، فإنه يبدأ عملية التحميل ثم يخدم الطلب.

يقوم المدير بحظر عملية التحميل ويعيد المقبض عند تحميل الخدمة ، أو عند حدوث خطأ.

ميراث

يرث من: tensorflow :: serve :: Manager

البنائين والمدمرين

~CachingManager ()

دروس الأصدقاء

test_util::CachingManagerTestAccess
friend class

وظائف ثابتة عامة

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

الوظائف العامة

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
الحصول على قائمة بجميع المعرفات الصالحة للخدمة ، أي

الطبقات

tensorflow :: التقديم :: CachingManager :: LoaderFactory

تجريد لمصنع اللودر لتعيينه من طلب قابل للخدمة إلى اللودر المقابل.

الهياكل

tensorflow :: serve :: CachingManager :: Options

خيارات التكوين والكائنات القابلة للتوصيل التي سيتم استخدامها بواسطة CachingManager .

دروس الأصدقاء

test_util :: CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

وظائف ثابتة عامة

يخلق

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

الوظائف العامة

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

الحصول على قائمة بجميع المعرفات القابلة للخدمة المتاحة ، مثل

يمكن استرداد كل منها باستخدام GetServableHandle.

~ مدير التخزين المؤقت

 ~CachingManager() override