انضم إلى مجتمع SIG TFX-Addons وساعد في جعل TFX أفضل! انضم إلى SIG TFX-Addons

تينسورفلو :: خدمة

ملخص

النوع

LoaderSource استخدام
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter استخدام
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

المهام

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

الطبقات

tensorflow :: التقديم :: AspiredVersionPolicy

واجهة تعامل للسياسة التي سيتم تطبيقها لنقل الإصدارات القابلة للخدمة في تدفق قابل للخدمة.

تينسورفلو :: خدمة :: AspiredVersionsManager

مدير يقوم بتنفيذ الهدف < Loader > API الذي يستخدم عمليات الاسترجاعات بإصدارات aspired لإملاء الإصدارات القابلة للخدمة التي سيتم تحميلها.

tensorflow :: التقديم :: AspiredVersionsManagerBuilder

يبني AspiredVersionsManager بخيارات ومصادر متصلة به.

tensorflow :: service :: BasicManager

تساعد في إدارة دورة حياة المواد القابلة للخدمة بما في ذلك تحميلها وتقديمها وتفريغها.

tensorflow :: التقديم :: CachingManager

مدير يدير ويحمل الخدمات عند الطلب.

tensorflow :: التقديم :: ClassifierInterface

واجهة حيادية من نوع النموذج لأداء التصنيف.

tensorflow :: serve :: ErrorInjectingSourceAdapter
tensorflow :: service :: FileSystemStoragePathSource

مصدر مسار تخزين يطمح إلى إصدارات لمجموعة معينة من الخدمات.

تينسورفلو :: خدمة :: محمل

تجريد معياري لكائن يدير دورة حياة مادة قابلة للخدمة ، بما في ذلك تحميلها وتفريغها

tensorflow :: التقديم :: LoaderHarness

LoaderHarness هو القطعة من مدير الاستخدامات على التمسك والحديث ل ودر في الوقت الذي تمتلك فيه.

tensorflow :: service :: Manager

المدير مسؤول عن التحميل والتفريغ والبحث وإدارة جميع الكائنات القابلة للخدمة عبر اللوادر الخاصة بهم.

tensorflow :: التقديم :: PathPrefixLoaderFactory

مصنع LoaderFactory البسيط الذي يبحث عن مسار قابل للخدمة في مسار تم تشكيله من خلال ربط بادئة مسار ثابت باسم قابل للخدمة.

tensorflow :: التقديم :: RegressorInterface

واجهة محايدة للنموذج لأداء الانحدار.

tensorflow :: serve :: ResourceUnsafeLoader

محمل غافل عن الموارد.

tensorflow :: التقديم :: SavedModelBundleFactory

مصنع يقوم بإنشاء SavedModelBundles من مسارات تصدير SavedModel أو SessionBundle.

تينسورفلو :: خدمة :: ServableHandle

مؤشر ذكي للكائن الأساسي القابل للخدمة T من اللودر .

tensorflow :: التقديم :: ServableStateMonitor

أداة تستمع إلى EventBus <ServableState> ، وتتتبع حالة كل خدمة مذكورة في الحافلة.

تينسورفلو :: خدمة :: سيرفركور

يحتوي ServerCore على أساليب الحالة والمساعد التي تمكن من بناء ModelServers التي تدعم واجهات متعددة.

tensorflow :: service :: ServingSession

جلسة تحظر طرق تغيير الحالة مثل Close () ، مع السماح بتشغيل () للوصول للقراءة فقط (غير مطبق)

tensorflow :: التقديم :: ServingSessionWrapper

جلسة خدمة تُختتم جلسة معينة وتحظر جميع المكالمات بخلاف Run ().

تينسورفلو :: خدمة :: SharedPtrHandle

تنفيذ UntypedServableHandle باستخدام shared_ptr لإجراء حساب ref على اللودر الذي يمتلك الخدمة.

تينسورفلو :: خدمة :: المصدر

تجريد لوحدة نمطية تقوم بمصادر الخدمات لتحميلها ، أو بشكل أكثر دقة ، تتعامل مع البيانات التي يمكن استخدامها لتحميل تلك الخدمات.

tensorflow :: serve :: SourceAdapter

تجريد لوحدة نمطية تستقبل عمليات الاسترجاعات من نوع aspired مع بيانات من نوع InputType وتحويلها إلى مكالمات ببيانات من النوع OutputType.

tensorflow :: serve :: UnarySourceAdapter
تينسورفلو :: خدمة :: UntypedServableHandle

مقبض غير قابل للقوالب يمكن استخدامه داخليًا في المدير لاسترداد كائن قابل للخدمة تم مسحه من اللودر .

الهياكل

tensorflow :: التقديم :: AspiredServableStateSnapshot

لقطة من حالة قابلة للاستعمال وطموح.

tensorflow :: التقديم :: ServableRequest

استعلام عن كائن محدد قابل للخدمة تم تحميله.

تينسورفلو :: خدمة :: ServableStateSnapshot

مساحات الأسماء

تينسورفلو :: خدمة :: داخلي
tensorflow :: التقديم :: test_util

النوع

محمل المصدر

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

المهام

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

عامل! =

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

عامل! =

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

عامل! =

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

عامل! =

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

عامل <<

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

عامل <<

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

عامل التشغيل ==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

عامل التشغيل ==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

عامل التشغيل ==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

عامل التشغيل ==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

عامل التشغيل ==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)