tensorflow:: מָנָה:: ResourceUnsafeLoader

#include <loader.h>

Loader כי הוא מתעלם משאבים.

סיכום

שלה EstimateResources () מחזירה השיטה 0, ובכך השבתת ביעילות בדיקות בטיחות מבוססת משאבים במערכת ההגשה.

מעמיסים כי הם ניסיוניים, או לרוץ בסביבות כי לא צריך את בדיקות הבטיחות משאבים, יכול מכל מחלקה ResourceUnsafeLoader במקום Loader .

יְרוּשָׁה

יורש מ: tensorflow :: המשרתים :: Loader

תפקידים ציבוריים

EstimateResources (ResourceAllocation *estimate) const final
virtual Status
מעריך את המשאבים שניתן להגשה ישתמש בהם.

תפקידים ציבוריים

EstimateResources

virtual Status EstimateResources(
  ResourceAllocation *estimate
) const final

מעריך את המשאבים שניתן להגשה ישתמש בהם.

חשוב: הטמעה של שיטה זו חייבת לציית לדרישות הבאות, המאפשרות למערכת ההגשה לנמק בצורה נכונה אילו רכיבי שירות ניתן לטעון בבטחה:

  1. האומדן חייב לייצג גבול עליון של הערך בפועל.
  2. לפני הטעינה, האומדן עשוי לכלול משאבים שאינם קשורים לאף מופע מכשיר ספציפי, למשל זיכרון RAM באחד משני ה-GPUs.
  3. בזמן טעינה, עבור כל התקנים עם מספר מופעים (למשל שני GPUs), האומדן חייב לציין את המופע אליו קשור כל משאב.
  4. האומדן חייב להיות מונוטוני שאינו עולה, כלומר אינו יכול לעלות עם הזמן. סיבות לכך שזה עשוי לרדת עם הזמן החזרות
    אומדן של המשאבים שהשרת יצרוך לאחר הטעינה. אם קובץ ההגשה כבר נטען, מחזיר אומדן של השימוש בפועל במשאבים.