GpuDelegateFactory.Options

सार्वजनिक स्थैतिक वर्ग GpuDelegateFactory.Options
ज्ञात प्रत्यक्ष उपवर्ग

प्रतिनिधि विकल्प.

नेस्टेड क्लासेस

enum GpuDelegateFactory.Options.GpuBackend कौन सा GPU बैकएंड चुनना है.

स्थिरांक

int यहाँ INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER डेलीगेट का उपयोग केवल एक बार किया जाएगा, इसलिए बूटस्ट्रैप/इनिट समय को ध्यान में रखा जाना चाहिए।
int यहाँ अनुमान_वरीयता_निरंतर_गति थ्रूपुट को अधिकतम करने को प्राथमिकता दें.

सार्वजनिक निर्माता

विकल्प ()

सार्वजनिक तरीके

बूलियन
क्वांटाइज्ड मॉडल्सअनुमत हैं ()
GpuDelegateFactory.Options.GpuBackend
getForceBackend ()
int यहाँ
getInferencePreference ()
डोरी
getModelToken ()
डोरी
getSerializationDir ()
बूलियन
isPrecisionLossAllowed ()
GpuDelegateFactory.विकल्प
सेटफोर्सबैकएंड ( GpuDelegateFactory.Options.GpuBackend ForceBackend)
GPU बैकएंड सेट करता है।
GpuDelegateFactory.विकल्प
setInferencePreference (int प्राथमिकता)
परिशुद्धता/संकलन/रनटाइम ट्रेडऑफ़ के लिए अनुमान प्राथमिकता निर्धारित करता है।
GpuDelegateFactory.विकल्प
setPrecisionLossAllowed (बूलियन प्रिसिजनLossAllowed)
सेट करता है कि क्या परिशुद्धता हानि की अनुमति है।
GpuDelegateFactory.विकल्प
setQuantizedModelsAllowed (बूलियन क्वांटाइज्डमॉडलअनुमत)
प्रतिनिधि के साथ परिमाणित मॉडल चलाने में सक्षम बनाता है।
GpuDelegateFactory.विकल्प
setSerializationParams ( स्ट्रिंग क्रमांकनDir, स्ट्रिंग मॉडलटोकन)
प्रतिनिधि पर क्रमबद्धता सक्षम करता है।

विरासत में मिली विधियाँ

स्थिरांक

सार्वजनिक स्थैतिक अंतिम int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

डेलीगेट का उपयोग केवल एक बार किया जाएगा, इसलिए बूटस्ट्रैप/इनिट समय को ध्यान में रखा जाना चाहिए।

स्थिर मान: 0

सार्वजनिक स्थैतिक अंतिम int INFERENCE_PREFERENCE_SUSTAINED_SPEED

थ्रूपुट को अधिकतम करने को प्राथमिकता दें. एकाधिक इनपुट पर एक ही प्रतिनिधि का बार-बार उपयोग किया जाएगा।

स्थिर मान: 1

सार्वजनिक निर्माता

सार्वजनिक विकल्प ()

सार्वजनिक तरीके

सार्वजनिक बूलियन areQuantizedModelsAllowed ()

सार्वजनिक GpuDelegateFactory.Options.GpuBackend getForceBackend ()

सार्वजनिक int getInferencePreference ()

सार्वजनिक स्ट्रिंग getModelToken ()

सार्वजनिक स्ट्रिंग getSerializationDir ()

सार्वजनिक बूलियन isPrecisionLossAllowed ()

सार्वजनिक GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend ForceBackend)

GPU बैकएंड सेट करता है।

पैरामीटर
फ़ोर्सबैकेंड

सार्वजनिक GpuDelegateFactory.Options setInferencePreference (int प्राथमिकता)

परिशुद्धता/संकलन/रनटाइम ट्रेडऑफ़ के लिए अनुमान प्राथमिकता निर्धारित करता है।

पैरामीटर
वरीयता `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (डिफ़ॉल्ट), `INFERENCE_PREFERENCE_SUSTAINED_SPEED` में से एक।

सार्वजनिक GpuDelegateFactory.Options setPrecisionLossAllowed (बूलियन प्रिसिजनLossAllowed)

सेट करता है कि क्या परिशुद्धता हानि की अनुमति है।

पैरामीटर
परिशुद्धता हानि की अनुमति जब `सही` (डिफ़ॉल्ट) होता है, तो GPU FP16 में टेंसर, डाउनकास्ट मान, प्रक्रिया की मात्रा निर्धारित कर सकता है। `गलत` होने पर, गणना 32-बिट फ़्लोटिंग पॉइंट में की जाती है।

सार्वजनिक GpuDelegateFactory.Options setQuantizedModelsAllowed (बूलियन क्वांटाइज्डमॉडलअनुमत)

प्रतिनिधि के साथ परिमाणित मॉडल चलाने में सक्षम बनाता है।

चेतावनी: यह एक प्रायोगिक एपीआई है और परिवर्तन के अधीन है।

पैरामीटर
परिमाणितमॉडलअनुमत true (डिफ़ॉल्ट) होने पर, GPU परिमाणित मॉडल चला सकता है।

सार्वजनिक GpuDelegateFactory.Options setSerializationParams ( स्ट्रिंग क्रमांकनDir, स्ट्रिंग मॉडलटोकन)

प्रतिनिधि पर क्रमबद्धता सक्षम करता है। नोट गैर-शून्य serializationDir क्रमांकन के लिए डिर और modelToken आवश्यक हैं।

चेतावनी: यह एक प्रायोगिक एपीआई है और परिवर्तन के अधीन है।

पैरामीटर
क्रमांकनDir डेटा संग्रहीत करने के लिए उपयोग की जाने वाली निर्देशिका। कॉलर यह सुनिश्चित करने के लिए ज़िम्मेदार है कि मॉडल किसी सार्वजनिक निर्देशिका में संग्रहीत नहीं है। Android पर एप्लिकेशन के लिए एक निजी स्थान प्रदान करने के लिए Context.getCodeCacheDir() का उपयोग करने की अनुशंसा की जाती है।
मॉडलटोकन मॉडल की पहचान करने के लिए उपयोग किया जाने वाला टोकन। कॉलर यह सुनिश्चित करने के लिए ज़िम्मेदार है कि टोकन मॉडल ग्राफ़ और डेटा के लिए अद्वितीय है।