GpuDelegateFactory.Options

מחלקה סטטית ציבורית GpuDelegateFactory.Options
תת-מחלקות ישירות ידועות

האצלת אפשרויות.

כיתות מקוננות

enum GpuDelegateFactory.Options.GpuBackend איזה GPU backend לבחור.

קבועים

int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER ייעשה שימוש ב-Delegate פעם אחת בלבד, לכן יש לקחת בחשבון את זמן האתחול/התחלה.
int INFERENCE_PREFERENCE_SUSTAINED_SPEED העדיפו למקסם את התפוקה.

בונים ציבוריים

שיטות ציבוריות

בוליאני
GpuDelegateFactory.Options.GpuBackend
int
חוּט
חוּט
בוליאני
GpuDelegateFactory.אפשרויות
setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
מגדיר את ה-GPU Backend.
GpuDelegateFactory.אפשרויות
setInferencePreference (int preference)
מגדיר את העדפת ההסקה עבור דיוק/קומפילציה/זמן ריצה.
GpuDelegateFactory.אפשרויות
setPrecisionLossAllowed (דיוק בוליאניLossAllowed)
קובע אם מותר אובדן דיוק.
GpuDelegateFactory.אפשרויות
setQuantizedModelsAllowed (בוליאני quantizedModelsAllowed)
מאפשר להפעיל מודלים כמותיים עם הנציג.
GpuDelegateFactory.אפשרויות
setSerializationParams ( String serializationDir, String modelToken)
מאפשר הצגת סדרה על הנציג.

שיטות בירושה

קבועים

אינט סופי סטטי ציבורי INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

ייעשה שימוש ב-Delegate פעם אחת בלבד, לכן יש לקחת בחשבון את זמן האתחול/התחלה.

ערך קבוע: 0

אינט סופי סטטי ציבורי INFERENCE_PREFERENCE_SUSTAINED_SPEED

העדיפו למקסם את התפוקה. אותו נציג ישמש שוב ושוב בכניסות מרובות.

ערך קבוע: 1

בונים ציבוריים

אפשרויות ציבוריות ()

שיטות ציבוריות

מודלים בוליאניים ציבוריים מותרים ()

public GpuDelegateFactory.Options.GpuBackend getForceBackend ()

public int getInferencePreference ()

מחרוזת ציבורית getModelToken ()

מחרוזת ציבורית getSerializationDir ()

בוליאני ציבורי הואPrecisionLossAllowed ()

public GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)

מגדיר את ה-GPU Backend.

פרמטרים
forceBackend

public GpuDelegateFactory.Options setInferencePreference (int preference)

מגדיר את העדפת ההסקה עבור דיוק/קומפילציה/זמן ריצה.

פרמטרים
הַעֲדָפָה אחד מתוך `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (ברירת מחדל), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`.

public GpuDelegateFactory.Options setPrecisionLossAllowed (דיוק בוליאניLossAllowed)

קובע אם מותר אובדן דיוק.

פרמטרים
precisionLossAllowed כאשר הוא 'נכון' (ברירת מחדל), ה-GPU עשוי לכמת טנזורים, ערכים מופחתים, תהליך ב-FP16. כאשר 'שקר', החישובים מתבצעים בנקודה צפה של 32 סיביות.

public GpuDelegateFactory.Options setQuantizedModelsAllowed (בוליאני quantizedModelsAllowed)

מאפשר להפעיל מודלים כמותיים עם הנציג.

אזהרה: זהו API ניסיוני ונתון לשינויים.

פרמטרים
quantizedModelsמותרים כאשר true (ברירת מחדל), ה-GPU עשוי להפעיל דגמים כמותיים.

public GpuDelegateFactory.Options setSerializationParams ( String serializationDir, String modelToken)

מאפשר הצגת סדרה על הנציג. שים לב להמשכת serializationDir לא-nullDir ו- modelToken .

אזהרה: זהו API ניסיוני ונתון לשינויים.

פרמטרים
סידורי דיר הספרייה לשימוש לאחסון נתונים. המתקשר אחראי לוודא שהדגם אינו מאוחסן בספרייה ציבורית. מומלץ להשתמש Context.getCodeCacheDir() כדי לספק מיקום פרטי לאפליקציה באנדרואיד.
modelToken האסימון שישמש לזיהוי הדגם. המתקשר אחראי לוודא שהאסימון ייחודי לגרף המודל ולנתונים.