tensorflow:: מָנָה:: AspiredVersionPolicy

זהו שיעור מופשט.

#include <aspired_version_policy.h>

ממשק למדיניות המיועדת למעבר גרסאות הניתנות להגשה בזרם שניתן להגשה.

סיכום

מדיניות צריכה להיות חסרת אזרחות לחלוטין וחסרת יכולת. בקשת אותה מדיניות מספר פעמים לפעולה הבאה, עבור וקטור זהה של AspiredServableStateSnapshots, אמורה להחזיר את אותה תוצאה.

אם נדרש מצב נוסף כדי ליישם מדיניות, מצב כזה ישותף באמצעות AspiredServableStateSnapshots. בהתאם לסוג של מדינה, המועמדים הסבירים ביותר עבור שמקורם או מעקב המדינה הם מקורות או הרתמה המנהל .

בנאים והורסים

~AspiredVersionPolicy ()

טיפוסים ציבוריים

Action {
kLoad ,
kUnload
}		 enum
הפעולות השונות שניתן להמליץ ​​על ידי מדיניות.

תפקידים ציבוריים

GetNextAction (const std::vector< AspiredServableStateSnapshot > & all_versions) const =0
virtual optional< ServableAction >
לוקח וקטור של תמונות מצב של כל הגרסאות של זרם שניתן להגשה ומחזיר פעולה שיש לבצע עבור גרסה מסוימת להגשה, תלוי רק במצבים של כל הגרסאות.

פונקציות סטטיות מוגנות

GetHighestAspiredNewServableId (const std::vector< AspiredServableStateSnapshot > & all_versions)
optional< ServableId >
מחזירה את ה-ServableId הרצוי עם הגרסה הגבוהה ביותר שתואמת למצב kNew, אם קיימת כזו.

מבנים

tensorflow :: המשרתים :: AspiredVersionPolicy :: ServableAction

הפעולה והמזהה של השרת המשויך אליה.

טיפוסים ציבוריים

פעולה

 Action

הפעולות השונות שניתן להמליץ ​​על ידי מדיניות.

נכסים
kLoad

עומס שיחות על הניתן להגשה.

kUnload

התקשר לפרוק על הניתן להגשה.

תפקידים ציבוריים

GetNextAction

virtual optional< ServableAction > GetNextAction(
  const std::vector< AspiredServableStateSnapshot > & all_versions
) const =0

לוקח וקטור של תמונות מצב של כל הגרסאות של זרם שניתן להגשה ומחזיר פעולה שיש לבצע עבור גרסה מסוימת להגשה, תלוי רק במצבים של כל הגרסאות.

אם אין לבצע פעולה, אנחנו לא מחזירים פעולה, כלומר הזרם הניתן להגשה מעודכן.

~AspiredVersionPolicy

virtual  ~AspiredVersionPolicy()=default

פונקציות סטטיות מוגנות

GetHighestAspiredNewServableId

optional< ServableId > GetHighestAspiredNewServableId(
  const std::vector< AspiredServableStateSnapshot > & all_versions
)

מחזירה את ה-ServableId הרצוי עם הגרסה הגבוהה ביותר שתואמת למצב kNew, אם קיימת כזו.