텐서플로:: 피복재:: 캐싱매니저

#include <caching_manager.h>

주문형 서빙을 관리하고 로드하는 관리자입니다.

요약

서빙 가능 이름과 선택적 버전에 대한 요청을 받으면 관리자는 요청된 서빙 가능을 이미 로드했는지 확인합니다. 그렇지 않은 경우 로드 작업을 시작한 다음 요청을 제공합니다.

관리자는 로드 작업을 차단하고 서빙 가능 항목이 로드되거나 오류가 발생하면 핸들을 반환합니다.

계승

에서 상속 : tensorflow는 :: 제공 : 관리자

생성자와 소멸자

~CachingManager ()

친구 수업

test_util::CachingManagerTestAccess
friend class

공개 정적 함수

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

공공 기능

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
사용 가능한 모든 제공 가능한 ID 목록을 가져옵니다.

클래스

tensorflow :: 제공 :: CachingManager :: LoaderFactory

제공 가능한 요청에서 해당 로더로 매핑하는 로더 팩토리에 대한 추상화입니다.

구조체

tensorflow :: 제공 :: CachingManager :: 옵션을

구성 옵션과에 의해 사용되는 플러그 객체 CachingManager .

친구 수업

test_util::CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

공개 정적 함수

만들다

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

공공 기능

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

사용 가능한 모든 제공 가능한 ID 목록을 가져옵니다.

이들 각각은 GetServableHandle을 사용하여 검색할 수 있습니다.

~캐싱매니저

 ~CachingManager() override