جریان تنسور:: خدمت:: CachingManager

#include <caching_manager.h>

مدیری که سرویس‌ها را بر حسب تقاضا مدیریت و بارگیری می‌کند.

خلاصه

به محض دریافت درخواست برای نام قابل استفاده و نسخه اختیاری، مدیر بررسی می کند که آیا از قبل سرویس درخواستی بارگذاری شده است یا خیر. اگر نه، عملیات بارگذاری را آغاز می کند و سپس درخواست را ارائه می دهد.

مدیر عملیات بارگذاری را مسدود می‌کند و هنگامی که سرویس‌پذیر بارگیری شد یا در صورت بروز خطا، دسته را برمی‌گرداند.

وراثت

به ارث برده از: tensorflow :: خدمت :: مدیر

سازندگان و تخریب کنندگان

~CachingManager ()

کلاس های دوستان

test_util::CachingManagerTestAccess
friend class

توابع استاتیک عمومی

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

توابع عمومی

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
فهرستی از تمام شناسه‌های قابل ارائه در دسترس را دریافت می‌کند، به عنوان مثال

کلاس ها

tensorflow :: خدمت :: CachingManager :: LoaderFactory

یک انتزاع برای یک کارخانه لودر برای نگاشت از یک درخواست قابل ارائه به لودر مربوطه.

سازه ها

tensorflow :: خدمت :: CachingManager :: گزینه

گزینه های پیکربندی و اشیاء نردبان که توسط استفاده CachingManager .

کلاس های دوستان

test_util::CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

توابع استاتیک عمومی

ايجاد كردن

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

توابع عمومی

GetAvailableUntypedServable Handles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

فهرستی از تمام شناسه‌های قابل ارائه در دسترس را دریافت می‌کند، به عنوان مثال

هر یک از اینها را می توان با استفاده از GetServableHandle بازیابی کرد.

~CachingManager

 ~CachingManager() override