텐서플로:: 피복재:: AspiredVersionsManager

#include <aspired_versions_manager.h>

하위 관리자가 구현 대상 < 로더 가 사용하는 결정 합니에로드 할 게재 가능한 버전을 콜백을-버전의 갈망> API.

요약

이 관리자는 또한 해당 API를 사용하여 언로드할 버전을 추론합니다. 제공된 제공 가능한 버전이 현재 로드되어 있고 제공 가능한 스트림과 관련된 열망 버전 콜백 호출에서 생략된 경우 이 관리자는 해당 누락을 언로드하기 위한 암시적 명령으로 해석합니다. 버전. 자세한 내용은 아래를 참조하세요.

(암시 - 언로드 의미론을 용이 무 소스 구현은 주어진 반복함으로써 소스 의 논리는 간단하게 결정 게재 가능한 버전이 과거에 정한대로 할 몰라도,로드되어야한다한다.)

이 관리자는 구성 사용하여 게재 가능한 스트림 버전 사이의 전환을하게 AspiredVersionPolicy을 . 관리자는 정책에서 제안하는 전환 중에서 결정할 때 서버의 리소스를 확보하기 위해 로드하기 전에 언로드하는 것을 선호합니다.

계승

:에서 상속 tensorflow :: 제공 : 관리자 , 대상 <표준 :: unique_ptr <로더>>

생성자와 소멸자

~AspiredVersionsManager ()

공개 유형

PreLoadHook 사용
BasicManager::PreLoadHook

친구 수업

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

공개 정적 함수

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

공공 기능

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
로더를 사용하여 특정 제공 가능한 스트림에 대한 열망 버전 목록을 설정하는 콜백을 반환합니다.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
사용 가능한 모든 제공 가능한 ID 목록을 가져옵니다.

구조체

tensorflow :: 제공 :: AspiredVersionsManager :: 옵션을

구성 옵션과에 의해 사용되는 플러그 객체 AspiredVersionsManager .

공개 유형

프리로드훅

BasicManager::PreLoadHook PreLoadHook

친구 수업

내부::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

공개 정적 함수

만들다

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

공공 기능

GetAspiredVersions콜백

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

로더를 사용하여 특정 제공 가능한 스트림에 대한 열망 버전 목록을 설정하는 콜백을 반환합니다.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

사용 가능한 모든 제공 가능한 ID 목록을 가져옵니다.

이들 각각은 GetServableHandle을 사용하여 검색할 수 있습니다.

~AspiredVersionsManager

 ~AspiredVersionsManager() override