جریان تنسور:: خدمت:: AspiredVersionsManager

#include <aspired_versions_manager.h>

یک مدیر است که پیاده سازی هدف < لودر > API است که استفاده از تماس آرزو-نسخه های به دیکته که نسخه servable برای بارگذاری.

خلاصه

این مدیر همچنین از آن API برای استنباط اینکه کدام یک از آنها بارگیری شود استفاده می کند: اگر یک نسخه قابل سرویس دهی در حال حاضر بارگیری شده باشد، و از فراخوانی بازگشت به تماس نسخه های مورد نظر مربوط به جریان قابل سرویس آن حذف شود، این مدیر آن حذف را به عنوان یک دستورالعمل ضمنی برای تخلیه بار تفسیر می کند. نسخه برای جزئیات به زیر مراجعه کنید.

(معناشناسی ضمنی-خالی کردن تاسیسات بدون تابعیت منبع پیاده سازی، به موجب آن تکرار داده شده از منبع منطق را فقط تصمیم می گیرد که نسخه از یک servable باید به بارگذاری می شود، بدون نیاز به دانستن آنچه در آن است در گذشته تصمیم گرفت.)

این مدیر باعث انتقال بین نسخه از یک جریان servable با استفاده از یک پیکربندی AspiredVersionPolicy . مدیر هنگام تصمیم گیری در مورد انتقال پیشنهاد شده توسط این خط مشی، تخلیه را قبل از بارگیری برای آزاد کردن منابع در سرور ترجیح می دهد.

وراثت

به ارث برده از: tensorflow :: خدمت :: مدیر ، هدف <std :: را unique_ptr <لودر>>

سازندگان و تخریب کنندگان

~AspiredVersionsManager ()

انواع عمومی

PreLoadHook استفاده كردن
BasicManager::PreLoadHook

کلاس های دوستان

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

توابع استاتیک عمومی

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

توابع عمومی

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
برای تنظیم لیستی از نسخه های مورد نظر برای یک جریان قابل سرویس خاص، با استفاده از Loaders، یک تماس برگشتی برمی گرداند.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
فهرستی از تمام شناسه‌های قابل ارائه در دسترس را دریافت می‌کند، به عنوان مثال

سازه ها

tensorflow :: خدمت :: AspiredVersionsManager :: گزینه

گزینه های پیکربندی و اشیاء نردبان که توسط استفاده AspiredVersionsManager .

انواع عمومی

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

کلاس های دوستان

داخلی::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

توابع استاتیک عمومی

ايجاد كردن

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

توابع عمومی

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

برای تنظیم لیستی از نسخه های مورد نظر برای یک جریان قابل سرویس خاص، با استفاده از Loaders، یک تماس برگشتی برمی گرداند.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

فهرستی از تمام شناسه‌های قابل ارائه در دسترس را دریافت می‌کند، به عنوان مثال

هر یک از اینها را می توان با استفاده از GetServableHandle بازیابی کرد.

~AspiredVersionsManager

 ~AspiredVersionsManager() override