tensorflow :: portion:: AspiredVersionsManager

#include <aspired_versions_manager.h>

Un gestionnaire qui implémente la cible < Loader > API qui aspiraient-usages callbacks versions Dicter qui versions diffusables à charge.

Résumé

Ce gestionnaire utilise également cette API pour déduire lesquelles décharger : si une version servable donnée est actuellement chargée et est omise d'un appel de rappel des versions aspirées concernant son flux servable, ce gestionnaire interprète cette omission comme une instruction implicite de décharger le version. Voir ci-dessous pour plus de détails.

(La sémantique implicite-déchargent de Facilite Source implémentations, dans lequel une itération donnée de la source logique de se contente de décider quelles versions d'un diffusable doit être chargé, sans avoir besoin de savoir ce qu'il a décidé dans le passé.)

Ce gestionnaire fait des transitions entre les versions d'un flux diffusable en utilisant une configuration AspiredVersionPolicy . Le gestionnaire préfère décharger avant de charger pour libérer des ressources dans le serveur lorsqu'il décide parmi les transitions suggérées par la politique.

Héritage

Hérite de: tensorflow :: :: service Gestionnaire , Target <std :: unique_ptr <Loader>>

Constructeurs et destructeurs

~AspiredVersionsManager ()

Types publics

PreLoadHook utilisant
BasicManager::PreLoadHook

Cours d'amis

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Fonctions statiques publiques

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Fonctions publiques

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Renvoie un rappel pour définir la liste des versions aspirées pour un flux utilisable particulier, à l'aide de Loaders.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Obtient une liste de tous les identifiants utilisables disponibles, c'est-à-dire

Structures

tensorflow :: :: service AspiredVersionsManager :: options

Les options de configuration et les objets connectables qui seront utilisés par le AspiredVersionsManager .

Types publics

Crochet de précharge

BasicManager::PreLoadHook PreLoadHook

Cours d'amis

interne::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Fonctions statiques publiques

Créer

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Fonctions publiques

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Renvoie un rappel pour définir la liste des versions aspirées pour un flux utilisable particulier, à l'aide de Loaders.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Obtient une liste de tous les identifiants utilisables disponibles, c'est-à-dire

chacun d'eux peut être récupéré à l'aide de GetServableHandle.

~AspiredVersionsManager

 ~AspiredVersionsManager() override