टेन्सरफ्लो लाइट रोडमैप

अद्यतन: मई, 2021

निम्नलिखित हमारे रोडमैप का एक उच्च स्तरीय अवलोकन दर्शाता है। आपको अवगत होना चाहिए कि यह रोडमैप किसी भी समय बदल सकता है और नीचे दिया गया क्रम किसी भी प्रकार की प्राथमिकता को प्रतिबिंबित नहीं करता है।

हम अपने रोडमैप को चार प्रमुख खंडों में विभाजित करते हैं: प्रयोज्यता, प्रदर्शन, अनुकूलन और पोर्टेबिलिटी। हम आपको हमारे रोडमैप पर टिप्पणी करने और TensorFlow Lite चर्चा समूह में हमें प्रतिक्रिया प्रदान करने के लिए दृढ़ता से प्रोत्साहित करते हैं।

प्रयोज्य

  • विस्तारित ऑप्स कवरेज
    • उपयोगकर्ता प्रतिक्रिया के आधार पर लक्षित ऑप्स जोड़ें।
    • रैंडम ऑप्स, बेस केरस लेयर ऑप्स, हैश टेबल, चुनिंदा ट्रेनिंग ऑप्स सहित विशिष्ट डोमेन और क्षेत्रों के लिए लक्षित ऑप सेट जोड़ें।
  • अधिक सहायक टूलींग
    • प्रशिक्षण के दौरान और रूपांतरण के बाद TFLite और हार्डवेयर त्वरक संगतता को सत्यापित करने के लिए TensorFlow ग्राफ़ एनोटेशन और संगतता उपकरण प्रदान करें।
    • रूपांतरण के दौरान विशिष्ट त्वरक के लिए लक्ष्यीकरण और अनुकूलन की अनुमति दें।
  • ऑन-डिवाइस प्रशिक्षण
    • वैयक्तिकरण और स्थानांतरण शिक्षण के लिए ऑन-डिवाइस प्रशिक्षण का समर्थन करें, जिसमें एंड-टू-एंड उपयोग का प्रदर्शन करने वाला कोलाब भी शामिल है।
    • समर्थन चर/संसाधन प्रकार (अनुमान और प्रशिक्षण दोनों के लिए)
    • एकाधिक फ़ंक्शन (या हस्ताक्षर) प्रविष्टि-बिंदुओं के साथ ग्राफ़ को परिवर्तित करने और निष्पादित करने का समर्थन करें।
  • उन्नत एंड्रॉइड स्टूडियो एकीकरण
    • मॉडल इंटरफ़ेस उत्पन्न करने के लिए TFLite मॉडल को एंड्रॉइड स्टूडियो में खींचें और छोड़ें।
    • मेमोरी प्रोफाइलिंग सहित एंड्रॉइड स्टूडियो प्रोफाइलिंग समर्थन में सुधार करें।
  • मॉडल निर्माता
    • सामान्य उपयोग के विस्तृत संग्रह को कवर करते हुए ऑब्जेक्ट डिटेक्शन, अनुशंसा और ऑडियो वर्गीकरण सहित नए कार्यों का समर्थन करें।
    • स्थानांतरण सीखना आसान बनाने के लिए अधिक डेटा सेट का समर्थन करें।
  • टास्क लाइब्रेरी
    • संबंधित प्री और पोस्ट प्रोसेसिंग क्षमताओं के साथ अधिक मॉडल प्रकारों (जैसे ऑडियो, एनएलपी) का समर्थन करें।
    • टास्क एपीआई के साथ अधिक संदर्भ उदाहरण अपडेट करें।
    • सभी कार्यों के लिए आउट-ऑफ़-द-बॉक्स त्वरण का समर्थन करें।
  • अधिक SOTA मॉडल और उदाहरण
    • विभिन्न प्लेटफार्मों को कवर करते हुए मॉडल के उपयोग के साथ-साथ नई सुविधाओं और एपीआई को प्रदर्शित करने के लिए और अधिक उदाहरण जोड़ें (उदाहरण के लिए ऑडियो, एनएलपी, संरचना-डेटा से संबंधित)।
    • प्रशिक्षण और परिनियोजन लागत को कम करने के लिए ऑन-डिवाइस के लिए साझा करने योग्य बैकबोन मॉडल बनाएं।
  • कई प्लेटफार्मों पर निर्बाध तैनाती
    • वेब पर TensorFlow Lite मॉडल चलाएँ।
  • बेहतर क्रॉस-प्लेटफ़ॉर्म समर्थन
    • एंड्रॉइड पर जावा, आईओएस पर स्विफ्ट, आरपीआई पर पायथन के लिए एपीआई का विस्तार और सुधार करें।
    • CMake समर्थन बढ़ाएँ (उदाहरण के लिए, व्यापक त्वरक समर्थन)।
  • बेहतर फ्रंटएंड समर्थन
    • केरस, tf.numpy सहित विभिन्न संलेखन फ्रंटएंड के साथ संगतता में सुधार करें।

प्रदर्शन

  • बेहतर टूलींग
    • प्रत्येक रिलीज़ के साथ प्रदर्शन लाभ पर नज़र रखने के लिए सार्वजनिक डैशबोर्ड।
    • लक्ष्य त्वरक के साथ ग्राफ संगतता को बेहतर ढंग से समझने के लिए टूलींग।
  • बेहतर CPU प्रदर्शन
    • तेज़ फ़्लोटिंग पॉइंट अनुमान के लिए XNNPack डिफ़ॉल्ट रूप से सक्षम है।
    • अनुकूलित कर्नेल के साथ शुरू से अंत तक आधा परिशुद्धता (फ्लोट16) समर्थन।
  • अद्यतन एनएन एपीआई समर्थन
    • नए एंड्रॉइड संस्करण एनएन एपीआई सुविधाओं, ऑप्स और प्रकारों के लिए पूर्ण समर्थन।
  • जीपीयू अनुकूलन
    • प्रतिनिधि क्रमांकन समर्थन के साथ बेहतर स्टार्टअप समय।
    • शून्य-प्रतिलिपि अनुमान के लिए हार्डवेयर बफ़र इंटरऑप।
    • डिवाइस पर त्वरण की व्यापक उपलब्धता।
    • बेहतर ऑप कवरेज.

अनुकूलन

  • परिमाणीकरण

    • कुछ परतों को परिमाणीकरण से बाहर करने के लिए प्रशिक्षण के बाद का चयनात्मक परिमाणीकरण।
    • प्रत्येक परत के प्रति परिमाणीकरण त्रुटि हानि का निरीक्षण करने के लिए परिमाणीकरण डिबगर।
    • अधिक मॉडल कवरेज जैसे कि टेन्सरफ्लो मॉडल गार्डन पर परिमाणीकरण-जागरूक प्रशिक्षण लागू करना।
    • प्रशिक्षण के बाद गतिशील-श्रेणी परिमाणीकरण के लिए गुणवत्ता और प्रदर्शन में सुधार।
    • एसवीडी जैसे संपीड़न एल्गोरिदम की अनुमति देने के लिए टेन्सर संपीड़न एपीआई।
  • काट-छाँट / विरलता

    • कॉन्फ़िगर करने योग्य प्रशिक्षण-समय (प्रूनिंग + परिमाणीकरण-जागरूक प्रशिक्षण) एपीआई को संयोजित करें।
    • टीएफ मॉडल गार्डन मॉडल पर विरलता अनुप्रयोग बढ़ाएँ।
    • TensorFlow Lite में विरल मॉडल निष्पादन समर्थन।

पोर्टेबिलिटी

  • माइक्रोकंट्रोलर समर्थन
    • भाषण और छवि वर्गीकरण के लिए 32-बिट एमसीयू आर्किटेक्चर उपयोग मामलों की एक श्रृंखला के लिए समर्थन जोड़ें।
    • ऑडियो फ़्रंटएंड: इन-ग्राफ़ ऑडियो प्री-प्रोसेसिंग और एक्सेलेरेशन समर्थन
    • दृष्टि और ऑडियो डेटा के लिए नमूना कोड और मॉडल।