TensorFlow Lite और TensorFlow ऑपरेटर संगतता

TensorFlow Lite आम इंजेक्शन मॉडल में इस्तेमाल किए जाने वाले कई TensorFlow संचालन का समर्थन करता है। जैसा कि वे TensorFlow Lite ऑप्टिमाइज़िंग कन्वर्टर द्वारा संसाधित होते हैं, उन कार्यों को इलाज़ या फ़्यूज़ किया जा सकता है, इससे पहले कि समर्थित ऑपरेशन उनके TensorFlow Lite समकक्षों में मैप किए जाते हैं।

चूंकि TensorFlow Lite बिल्टइन ऑपरेटर लाइब्रेरी केवल TensorFlow ऑपरेटरों की सीमित संख्या का समर्थन करता है, न कि प्रत्येक मॉडल परिवर्तनीय। यहां तक ​​कि समर्थित संचालन के लिए, प्रदर्शन कारणों से कभी-कभी बहुत विशिष्ट उपयोग पैटर्न की उम्मीद की जाती है। हम भविष्य के TensorFlow Lite रिलीज में समर्थित संचालन के सेट का विस्तार करने की उम्मीद करते हैं।

TensorFlow Lite के साथ इस्तेमाल किया जा सकता है कि कैसे एक TensorFlow मॉडल का निर्माण करने के लिए समझने के लिए सबसे अच्छा तरीका है ध्यान से विचार करने के लिए कि कैसे इस प्रक्रिया द्वारा लागू सीमाओं के साथ संचालन और अनुकूलित कर रहे हैं।

समर्थित प्रकार

अधिकांश TensorFlow लाइट संचालन दोनों फ्लोटिंग प्वाइंट (लक्ष्य float32 ) और quantized ( uint8 , int8 ) अनुमान है, लेकिन कई ऑप्स की तरह अन्य प्रकार के लिए अभी तक नहीं है tf.float16 और तार।

संचालन के विभिन्न संस्करण का उपयोग करने के अलावा, फ़्लोटिंग-पॉइंट और क्वांटाइज़्ड मॉडल के बीच का अंतर वह तरीका है जो वे परिवर्तित होते हैं। परिमाणित रूपांतरण के लिए दसियों के लिए गतिशील रेंज की जानकारी की आवश्यकता होती है। इसके लिए मॉडल प्रशिक्षण के दौरान "नकली-परिमाणीकरण" की आवश्यकता होती है, अंशांकन डेटा सेट के माध्यम से श्रेणी की जानकारी प्राप्त करना, या "ऑन-द-फ्लाई" श्रेणी का आकलन करना। परिमाणीकरण देखें।

समर्थित संचालन और प्रतिबंध

TensorFlow Lite कुछ सीमाओं के साथ TensorFlow संचालन के सबसेट का समर्थन करता है। संचालन और सीमाओं की पूरी सूची के लिए TF Lite Ops पृष्ठ देखें

सीधे-आगे रूपांतरण, निरंतर-तह और फ़्यूज़िंग

TensorFlow के कई ऑपरेशनों को TensorFlow Lite द्वारा संसाधित किया जा सकता है, भले ही उनका कोई सीधा समकक्ष न हो। यह कार्य है कि बस ग्राफ़ (से हटाया जा सकता के लिए मामला है tf.identity ), द्वारा tensors (प्रतिस्थापित tf.placeholder ), या अधिक जटिल आपरेशनों (में जुड़े हुए tf.nn.bias_add )। यहां तक ​​कि कुछ समर्थित संचालन को कभी-कभी इन प्रक्रियाओं में से एक के माध्यम से हटाया जा सकता है।

यहाँ TensorFlow संचालन की एक गैर-विस्तृत सूची है जो आमतौर पर ग्राफ से हटा दी जाती है:

प्रायोगिक संचालन

निम्नलिखित TensorFlow Lite ऑपरेशन मौजूद हैं, लेकिन कस्टम मॉडल के लिए तैयार नहीं हैं:

  • CALL
  • CONCAT_EMBEDDINGS
  • CUSTOM
  • EMBEDDING_LOOKUP_SPARSE
  • HASHTABLE_LOOKUP
  • LSH_PROJECTION
  • SKIP_GRAM
  • SVDF