TensorFlow लाइट रोडमैप

अपडेट किया गया: मई, 2021

निम्नलिखित हमारे रोडमैप के एक उच्च स्तरीय अवलोकन का प्रतिनिधित्व करता है। आपको पता होना चाहिए कि यह रोडमैप किसी भी समय बदल सकता है और नीचे दिया गया क्रम किसी भी प्रकार की प्राथमिकता को नहीं दर्शाता है।

हम अपने रोडमैप को चार प्रमुख खंडों में विभाजित करते हैं: प्रयोज्य, प्रदर्शन, अनुकूलन और पोर्टेबिलिटी। हम दृढ़ता से हमारे रोडमैप पर टिप्पणी और हमें में राय देने के लिए प्रोत्साहित करते TensorFlow लाइट चर्चा समूह

प्रयोज्य

  • विस्तारित ऑप्स कवरेज
    • उपयोगकर्ता फ़ीडबैक के आधार पर लक्षित ऑप्स जोड़ें।
    • रैंडम ऑप्स, बेस केरस लेयर ऑप्स, हैश टेबल, चुनिंदा ट्रेनिंग ऑप्स सहित विशिष्ट डोमेन और क्षेत्रों के लिए लक्षित ऑप सेट जोड़ें।
  • अधिक सहायक टूलींग
    • प्रशिक्षण के दौरान और रूपांतरण के बाद TFLite और हार्डवेयर त्वरक संगतता को मान्य करने के लिए TensorFlow ग्राफ एनोटेशन और संगतता उपकरण प्रदान करें।
    • रूपांतरण के दौरान विशिष्ट त्वरक के लिए लक्ष्यीकरण और अनुकूलन की अनुमति दें।
  • ऑन-डिवाइस प्रशिक्षण
    • वैयक्तिकरण और स्थानांतरण सीखने के लिए डिवाइस पर प्रशिक्षण का समर्थन करें, जिसमें एक कोलाब शामिल है जो एंड-टू-एंड उपयोग का प्रदर्शन करता है।
    • समर्थन चर/संसाधन प्रकार (अनुमान और प्रशिक्षण दोनों के लिए)
    • एकाधिक फ़ंक्शन (या हस्ताक्षर) प्रविष्टि-बिंदुओं के साथ ग्राफ़ को परिवर्तित करने और निष्पादित करने में सहायता करें।
  • एन्हांस्ड एंड्रॉइड स्टूडियो एकीकरण
    • मॉडल इंटरफेस उत्पन्न करने के लिए टीएफलाइट मॉडल को एंड्रॉइड स्टूडियो में खींचें और छोड़ें।
    • मेमोरी प्रोफाइलिंग सहित एंड्रॉइड स्टूडियो प्रोफाइलिंग समर्थन में सुधार करें।
  • मॉडल निर्माता
    • सामान्य उपयोग के विस्तृत संग्रह को कवर करते हुए, ऑब्जेक्ट डिटेक्शन, अनुशंसा और ऑडियो वर्गीकरण सहित नए कार्यों का समर्थन करें।
    • स्थानांतरण सीखने को आसान बनाने के लिए अधिक डेटा सेट का समर्थन करें।
  • कार्य पुस्तकालय
    • संबंधित प्री और पोस्ट प्रोसेसिंग क्षमताओं के साथ अधिक मॉडल प्रकारों (जैसे ऑडियो, एनएलपी) का समर्थन करें।
    • कार्य API के साथ अधिक संदर्भ उदाहरण अपडेट करें।
    • सभी कार्यों के लिए आउट-ऑफ-द-बॉक्स त्वरण का समर्थन करें।
  • अधिक SOTA मॉडल और उदाहरण
    • मॉडल के उपयोग के साथ-साथ विभिन्न प्लेटफार्मों को कवर करते हुए नई सुविधाओं और एपीआई को प्रदर्शित करने के लिए और उदाहरण (जैसे ऑडियो, एनएलपी, संरचना-डेटा संबंधित) जोड़ें।
    • प्रशिक्षण और परिनियोजन लागत को कम करने के लिए ऑन-डिवाइस के लिए साझा करने योग्य बैकबोन मॉडल बनाएं।
  • कई प्लेटफार्मों पर निर्बाध तैनाती
    • वेब पर TensorFlow Lite मॉडल चलाएँ।
  • बेहतर क्रॉस-प्लेटफ़ॉर्म समर्थन
    • एंड्रॉइड पर जावा, आईओएस पर स्विफ्ट, आरपीआई पर पायथन के लिए एपीआई बढ़ाएँ और सुधारें।
    • सीएमके समर्थन बढ़ाएं (उदाहरण के लिए, व्यापक त्वरक समर्थन)।
  • बेहतर फ्रंटएंड सपोर्ट
    • केरस, tf.numpy सहित विभिन्न संलेखन फ़्रंटएंड के साथ संगतता में सुधार करें।

प्रदर्शन

  • बेहतर टूलींग
    • प्रत्येक रिलीज़ के साथ प्रदर्शन लाभ पर नज़र रखने के लिए सार्वजनिक डैशबोर्ड।
    • लक्ष्य त्वरक के साथ ग्राफ संगतता को बेहतर ढंग से समझने के लिए टूलिंग।
  • बेहतर सीपीयू प्रदर्शन
    • XNNPack डिफ़ॉल्ट रूप से तेज़ फ़्लोटिंग पॉइंट अनुमान के लिए सक्षम है।
    • अनुकूलित कर्नेल के साथ एंड-टू-एंड हाफ प्रिसिजन (फ्लोट16) सपोर्ट।
  • अपडेट किया गया एनएन एपीआई समर्थन
    • नए Android संस्करण NN API सुविधाओं, ऑप्स और प्रकारों के लिए पूर्ण समर्थन।
  • GPU अनुकूलन
    • प्रतिनिधि क्रमांकन समर्थन के साथ बेहतर स्टार्टअप समय।
    • शून्य-प्रतिलिपि अनुमान के लिए हार्डवेयर बफर इंटरऑप।
    • डिवाइस त्वरण की व्यापक उपलब्धता।
    • बेहतर ऑप कवरेज।

अनुकूलन

  • परिमाणीकरण

    • क्वांटिज़ेशन से कुछ परतों को बाहर करने के लिए चुनिंदा पोस्ट-ट्रेनिंग क्वांटिज़ेशन।
    • प्रत्येक परत पर परिमाणीकरण त्रुटि हानियों का निरीक्षण करने के लिए परिमाणीकरण डिबगर।
    • अधिक मॉडल कवरेज जैसे टेंसरफ्लो मॉडल गार्डन पर परिमाणीकरण-जागरूक प्रशिक्षण लागू करना।
    • पोस्ट-ट्रेनिंग डायनेमिक-रेंज क्वांटिज़ेशन के लिए गुणवत्ता और प्रदर्शन में सुधार।
    • एसवीडी जैसे संपीड़न एल्गोरिदम की अनुमति देने के लिए टेंसर संपीड़न एपीआई।
  • प्रूनिंग / विरलता

    • विन्यास योग्य प्रशिक्षण-समय (छंटनी + परिमाणीकरण-जागरूक प्रशिक्षण) एपीआई को मिलाएं।
    • टीएफ मॉडल गार्डन मॉडल पर स्पैरिटी एप्लिकेशन बढ़ाएं।
    • TensorFlow Lite में विरल मॉडल निष्पादन समर्थन।

सुवाह्यता

  • माइक्रोकंट्रोलर समर्थन
    • भाषण और छवि वर्गीकरण के लिए 32-बिट एमसीयू आर्किटेक्चर उपयोग मामलों की एक श्रृंखला के लिए समर्थन जोड़ें।
    • ऑडियो फ्रंटएंड: इन-ग्राफ ऑडियो प्री-प्रोसेसिंग और एक्सेलेरेशन सपोर्ट
    • दृष्टि और ऑडियो डेटा के लिए नमूना कोड और मॉडल।