टेन्सरफ्लो::ऑप्स::क्वांटाइज़डाउनएंडश्रिंकरेंज

क्वांटाइज्ड 'इनपुट' टेंसर को निम्न-परिशुद्धता वाले 'आउटपुट' में परिवर्तित करें।

सारांश

निम्न बिट गहराई के अधिकतम उपयोग के लिए मूल्यों का वास्तविक वितरण और तदनुसार आउटपुट न्यूनतम और अधिकतम सीमाओं को समायोजित करना।

[input_min, input_max] स्केलर फ्लोट हैं जो 'इनपुट' डेटा के फ्लोट व्याख्या के लिए सीमा निर्दिष्ट करते हैं। उदाहरण के लिए, यदि input_min -1.0f है और input_max 1.0f है, और हम quint16 क्वांटाइज्ड डेटा से निपट रहे हैं, तो 16-बिट डेटा में 0 मान को -1.0f के रूप में व्याख्यायित किया जाना चाहिए, और 65535 का अर्थ 1.0f है।

यह ऑपरेटर डेटा में मौजूद वास्तविक न्यूनतम और अधिकतम मानों की गणना करके कम बिट डेप्थ वाले आउटपुट में अधिकतम सटीकता प्राप्त करने का प्रयास करता है। उदाहरण के लिए, मान लीजिए कि quint16 इनपुट में 16,384 से कम और 49,152 से अधिक कोई मान नहीं है। इसका मतलब है कि वास्तव में केवल आधी रेंज की आवश्यकता है, सभी फ्लोट मान -0.5f और 0.5f के बीच हैं। इसलिए, यदि हम डेटा को quint8 आउटपुट में संपीड़ित करना चाहते हैं, तो हम इनपुट न्यूनतम और अधिकतम मानों द्वारा सुझाए गए सैद्धांतिक -1.0f से 1.0f रेंज के बजाय उस रेंज का उपयोग कर सकते हैं।

व्यवहार में, यह QuantizedMatMul जैसे ऑपरेशनों से आउटपुट लेने के लिए सबसे उपयोगी है, जो अपने इनपुट की तुलना में उच्च बिट-डेप्थ आउटपुट उत्पन्न कर सकते हैं और जिनमें संभावित आउटपुट रेंज बड़ी हो सकती है, लेकिन व्यवहार में इनपुट मानों का वितरण संभावित रेंज के केवल एक छोटे से हिस्से का उपयोग करता है। उस आउटपुट को इस ऑपरेटर में फीड करके, हम सटीकता में न्यूनतम हानि के साथ इसे 32 बिट्स से घटाकर 8 बिट्स तक कर सकते हैं।

तर्क:

• स्कोप: एक स्कोप ऑब्जेक्ट
• input_min: यह फ्लोट मान न्यूनतम परिमाणित इनपुट मान को दर्शाता है।
• input_max: वह फ्लोट मान जो अधिकतम परिमाणित इनपुट मान को दर्शाता है।
• out_type: आउटपुट का प्रकार। इसकी बिट डेप्थ Tinput से कम होनी चाहिए।

प्रतिफल:

• Output आउटपुट
• Output output_min: न्यूनतम परिमाणित आउटपुट मान को दर्शाने वाला फ्लोट मान।
• Output output_max: यह फ्लोट मान है जो अधिकतम परिमाणित आउटपुट मान को दर्शाता है।

सार्वजनिक विशेषताएँ

Operation operation

::tensorflow::Output output

::tensorflow::Output output_max

::tensorflow::Output output_min

 QuantizeDownAndShrinkRange(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max,
  DataType out_type
)