انضم إلى مجتمع SIG TFX-Addons وساعد في جعل TFX أفضل! انضم إلى SIG TFX-Addons

تينسورفلو :: خدمة:: ResourceUnsafeLoader

#include <loader.h>

محمل غافل عن الموارد.

ملخص

تقوم طريقة EstimateResources () بإرجاع القيمة 0 ، وبالتالي يتم تعطيل فحوصات السلامة المستندة إلى الموارد بشكل فعال في نظام الخدمة.

اللوادر التجريبية ، أو التي تعمل في بيئات لا تحتاج إلى فحوصات سلامة الموارد ، يمكنها تصنيف ResourceUnsafeLoader بدلاً من Loader .

ميراث

يرث من: tensorflow :: serve :: Loader

الوظائف العامة

EstimateResources (ResourceAllocation *estimate) const final
virtual Status
تقدر الموارد التي يمكن استخدامها.

الوظائف العامة

تقدير الموارد

virtual Status EstimateResources(
  ResourceAllocation *estimate
) const final

تقدر الموارد التي يمكن استخدامها.

هام: يجب أن يفي تنفيذ هذه الطريقة بالمتطلبات التالية ، والتي تمكّن نظام العرض من التفكير بشكل صحيح حول الخوادم التي يمكن تحميلها بأمان:

  1. يجب أن يمثل التقدير حدًا أعلى للقيمة الفعلية.
  2. قبل التحميل ، قد يتضمن التقدير موارد غير مرتبطة بأي مثيل جهاز معين ، على سبيل المثال ذاكرة الوصول العشوائي على واحدة من اثنين من وحدات معالجة الرسومات.
  3. أثناء التحميل ، لأي أجهزة ذات مثيلات متعددة (مثل وحدتي GPU) ، يجب أن يحدد التقدير المثيل الذي يرتبط به كل مورد.
  4. يجب أن يكون التقدير غير متزايد بشكل رتيب ، أي أنه لا يمكن أن يزيد بمرور الوقت. أسباب احتمال انخفاضها بمرور الوقت عائدات
    تقدير للموارد التي ستستهلكها الخدمة بمجرد تحميلها. إذا تم تحميل الخدمة القابلة للخدمة بالفعل ، فتُرجع تقديرًا لاستخدام المورد الفعلي.