tensorflow ：：サービング

概要

Typedef

LoaderSourceを使用して
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapterを使用して
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

関数

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

クラス

tensorflow::サービング::AspiredVersionPolicy

servableストリーム内のservableバージョンを移行するために適用されるポリシーのインターフェース。

tensorflow::サービング::AspiredVersionsManager

Aspired-versionsコールバックを使用してロードするサービス可能なバージョンを指示するTarget< Loader >APIを実装するマネージャー。

tensorflow::サービング::AspiredVersionsManagerBuilder

オプションとソースが接続されたAspiredVersionsManagerを構築します。

tensorflow::サービング::BasicManager

サーブのロード、サーブ、アンロードなど、サーブのライフサイクルの管理を支援します。

tensorflow::サービング::CachingManager

サーバブルをオンデマンドで管理およびロードするマネージャー。

tensorflow::サービング::ClassifierInterface

分類を実行するためのモデルタイプにとらわれないインターフェース。

tensorflow::サービング::ErrorInjectingSourceAdapter
tensorflow::サービング::FileSystemStoragePathSource

特定のサーバブルのセットのバージョンを目指すストレージパスソース。

tensorflow::サービング::ローダー

サーバブルのロードとアンロードを含む、サーバブルのライフサイクルを管理するオブジェクトの標準化された抽象化。

tensorflow::サービング::LoaderHarness

LoaderHarnessは、マネージャーがローダーを所有している間、ローダーを保持して通信するために使用するウィジェットです。

tensorflow::サービング::マネージャー

Managerは、ローダーを介したすべてのServableオブジェクトのロード、アンロード、ルックアップ、およびライフタイム管理を担当します。

tensorflow::サービング::PathPrefixLoaderFactory

固定パスプレフィックスをサーバブルの名前と連結することによって形成されたパスでサーバブルを検索する単純なLoaderFactory。

tensorflow::サービング::RegressorInterface

回帰を実行するためのモデルにとらわれないインターフェース。

tensorflow::サービング::ResourceUnsafeLoader

リソースを知らないローダー。

tensorflow::サービング::SavedModelBundleFactory

SavedModelまたはSessionBundleエクスポートパスからSavedModelBundlesを作成するファクトリ。

tensorflow::サービング::ServableHandle

ローダーから取得された基になるサービス可能オブジェクトTへのスマートポインター。

tensorflow::サービング::ServableStateMonitor

EventBus <ServableState>をリッスンし、バス上で言及されている各servableの状態を追跡するユーティリティ。

tensorflow::サービング::ServerCore

ServerCoreには、複数のインターフェイスをサポートするModelServerの構築を可能にする状態メソッドとヘルパーメソッドが含まれています。

tensorflow::サービング::ServingSession

Run（）に読み取り専用アクセス（強制されない）を許可しながら、Close（）などの状態変更メソッドをブロックするセッション。

tensorflow::サービング::ServingSessionWrapper

特定のセッションをラップし、Run（）以外のすべての呼び出しをブロックするServingSession 。

tensorflow::サービング::SharedPtrHandle

shared_ptrを使用してServableを所有するローダーで参照カウントを行うUntypedServableHandleの実装。

tensorflow::サービング::ソース

ロードするサーバブルを調達する、またはより正確には、それらのサーバブルをロードするために使用できるデータを処理するモジュールの抽象化。

tensorflow::サービング::SourceAdapter

InputTypeタイプのデータを使用してaspired-versionコールバックを受信し、それらをOutputTypeタイプのデータを使用して呼び出しに変換するモジュールの抽象化。

tensorflow::サービング::UnarySourceAdapter
tensorflow::サービング::UntypedServableHandle

ローダーから型消去されたservableオブジェクトを取得するために、 Managerの内部で使用されるservableへのテンプレート化されていないハンドル。

構造体

tensorflow::サービング::AspiredServableStateSnapshot

サーバブルの状態と志望のスナップショット。

tensorflow::サービング::ServableRequest

ロードされた特定のservableオブジェクトのクエリ。

tensorflow::サービング::ServableStateSnapshot

名前空間

tensorflow::サービング::内部
tensorflow::サービング::test_util

Typedef

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

関数

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

演算子！=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

演算子！=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

演算子！=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

演算子！=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

オペレーター

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

オペレーター

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

演算子==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

演算子==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

演算子==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

演算子==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

演算子==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)