텐서플로:: 피복재:: 캐싱매니저
#include <caching_manager.h>
주문형 서빙을 관리하고 로드하는 관리자입니다.
요약
서빙 가능 이름과 선택적 버전에 대한 요청을 받으면 관리자는 요청된 서빙 가능을 이미 로드했는지 확인합니다. 그렇지 않은 경우 로드 작업을 시작한 다음 요청을 제공합니다.
관리자는 로드 작업을 차단하고 서빙 가능 항목이 로드되거나 오류가 발생하면 핸들을 반환합니다.
계승
에서 상속 : tensorflow는 :: 제공 : 관리자생성자와 소멸자 | |
---|---|
~CachingManager () |
친구 수업 | |
---|---|
test_util::CachingManagerTestAccess | friend class |
공개 정적 함수 | |
---|---|
Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager) | Status |
공공 기능 | |
---|---|
GetAvailableUntypedServableHandles () const override | virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > |
ListAvailableServableIds () const override | virtual std::vector< ServableId > 사용 가능한 모든 제공 가능한 ID 목록을 가져옵니다. |
클래스 | |
---|---|
tensorflow :: 제공 :: CachingManager :: LoaderFactory | 제공 가능한 요청에서 해당 로더로 매핑하는 로더 팩토리에 대한 추상화입니다. |
구조체 | |
---|---|
tensorflow :: 제공 :: CachingManager :: 옵션을 | 구성 옵션과에 의해 사용되는 플러그 객체 CachingManager . |
친구 수업
test_util::CachingManagerTestAccess
friend class test_util::CachingManagerTestAccess
공개 정적 함수
만들다
Status Create( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager )
공공 기능
GetAvailableUntypedServableHandles
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override
ListAvailableServableIds
virtual std::vector< ServableId > ListAvailableServableIds() const override
사용 가능한 모든 제공 가능한 ID 목록을 가져옵니다.
이들 각각은 GetServableHandle을 사용하여 검색할 수 있습니다.
~캐싱매니저
~CachingManager() override