GpuDelegateFactory.Options

فئة ثابتة عامة GpuDelegateFactory.Options
الفئات الفرعية المباشرة المعروفة

خيارات المندوب.

فئات متداخلة

التعداد GpuDelegateFactory.Options.GpuBackend ما هي الواجهة الخلفية لوحدة معالجة الرسومات (GPU) التي يجب تحديدها؟

الثوابت

كثافة العمليات INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER سيتم استخدام المفوض مرة واحدة فقط، لذلك يجب أخذ وقت التمهيد/البدء في الاعتبار.
كثافة العمليات INFERENCE_PREFERENCE_SUSTAINED_SPEED تفضل تعظيم الإنتاجية.

المقاولون العامون

خيارات ()

الأساليب العامة

منطقية
النماذج الكمية مسموح بها ()
GpuDelegateFactory.Options.GpuBackend
الحصول علىForceBackend ()
كثافة العمليات
الحصول على التفضيل ()
خيط
getModelToken ()
خيط
الحصول علىSerializationDir ()
منطقية
isPrecisionLossAllowed ()
GpuDelegateFactory.Options
setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
يضبط الواجهة الخلفية لوحدة معالجة الرسومات.
GpuDelegateFactory.Options
setInferencePreference (تفضيل int)
يضبط تفضيل الاستدلال لمقايضات الدقة/التجميع/وقت التشغيل.
GpuDelegateFactory.Options
setPrecisionLossAllowed (الدقة المنطقيةLossAllowed)
يضبط ما إذا كان فقدان الدقة مسموحًا به.
GpuDelegateFactory.Options
setQuantizedModelsAllowed (النماذج الكمية المنطقية المسموح بها)
تمكن من تشغيل النماذج الكمية مع المندوب.
GpuDelegateFactory.Options
setSerializationParams ( سلسلة التسلسلDir، سلسلة نموذج Token)
تمكين التسلسل على المفوض.

الطرق الموروثة

الثوابت

int النهائي الثابت العام INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

سيتم استخدام المفوض مرة واحدة فقط، لذلك يجب أخذ وقت التمهيد/البدء في الاعتبار.

القيمة الثابتة: 0

int النهائي الثابت العام INFERENCE_PREFERENCE_SUSTAINED_SPEED

تفضل تعظيم الإنتاجية. سيتم استخدام نفس المفوض بشكل متكرر على مدخلات متعددة.

القيمة الثابتة: 1

المقاولون العامون

الخيارات العامة ()

الأساليب العامة

القيم المنطقية العامة هي QuantizedModelsAllowed ()

GpuDelegateFactory.Options.GpuBackend العامة getForceBackend ()

int public getInferencePreference ()

سلسلة عامة getModelToken ()

سلسلة عامة getSerializationDir ()

المنطق العام هو PrecisionLossAllowed ()

GpuDelegateFactory.Options العامة setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)

يضبط الواجهة الخلفية لوحدة معالجة الرسومات.

حدود
forceBackend

GpuDelegateFactory.Options العامة setInferencePreference (تفضيل int)

يضبط تفضيل الاستدلال لمقايضات الدقة/التجميع/وقت التشغيل.

حدود
التفضيل واحدة من `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (افتراضي)، `INFERENCE_PREFERENCE_SUSTAINED_SPEED`.

GpuDelegateFactory.Options العامة setPrecisionLossAllowed (الدقة المنطقيةLossAllowed)

يضبط ما إذا كان فقدان الدقة مسموحًا به.

حدود
الدقةLossAllowed عندما يكون "صحيحًا" (افتراضيًا)، قد تقوم وحدة معالجة الرسومات بتحديد كمية الموترات وقيم البث الهابط والعملية في FP16. عندما تكون "خطأ"، يتم تنفيذ العمليات الحسابية بفاصلة عائمة 32 بت.

GpuDelegateFactory.Options العامة setQuantizedModelsAllowed (المنطقية quantizedModelsAllowed)

تمكن من تشغيل النماذج الكمية مع المندوب.

تحذير: هذه واجهة برمجة تطبيقات تجريبية وقابلة للتغيير.

حدود
quantizedModelsAllowed عندما يكون true (افتراضي)، قد تقوم وحدة معالجة الرسومات بتشغيل نماذج كمية.

مجموعة GpuDelegateFactory.Options العامة SerializationParams ( String serializationDir، String modelToken)

تمكين التسلسل على المفوض. لاحظ أن serializationDir غير الفارغ، وDir و modelToken مطلوبان لإجراء التسلسل.

تحذير: هذه واجهة برمجة تطبيقات تجريبية وقابلة للتغيير.

حدود
serializationDir الدليل الذي سيتم استخدامه لتخزين البيانات. يتحمل المتصل مسؤولية التأكد من عدم تخزين النموذج في دليل عام. يوصى باستخدام Context.getCodeCacheDir() لتوفير موقع خاص للتطبيق على Android.
modelToken الرمز الذي سيتم استخدامه لتحديد النموذج. يكون المتصل مسؤولاً عن التأكد من أن الرمز المميز فريد من نوعه بالنسبة للرسم البياني للنموذج والبيانات.