Unisciti alla community di SIG TFX-Addons e aiutaci a rendere TFX ancora migliore! Iscriviti a SIG TFX-Addons

tensorflow :: servendo:: ServableHandle

#include <servable_handle.h>

Un puntatore intelligente all'oggetto servibile sottostante T recuperato dal programma di caricamento .

Sommario

Il codice frontend ottiene questi handle da ServableManager. L'handle mantiene attivo l'oggetto sottostante finché l'handle è attivo. Il frontend non dovrebbe trattenerlo per molto tempo, perché tenerlo premuto può ritardare il ricaricamento servibile.

La T restituita dall'handle è generalmente condivisa tra più richieste, il che significa che qualsiasi modifica mutante apportata a T deve preservare la correttezza rispetto alla logica dell'applicazione. Inoltre, in presenza di più thread di richiesta, deve essere garantito un utilizzo thread-safe di T.

T dovrebbe essere un tipo di valore e viene memorizzato internamente come puntatore. L'uso di un tipo di puntatore per T non riuscirà a compilare, poiché sarebbe un errore farlo nella maggior parte delle situazioni.

Esempio di utilizzo:

// Define or use an existing servable:
class MyServable {
public:
  void MyMethod();
};

// Get your handle from a manager.
ServableHandle handle;
TF_RETURN_IF_ERROR(manager->GetServableHandle(id, &handle));

// Use your handle as a smart-pointer:
handle->MyMethod();