इस पेज का अनुवाद Cloud Translation API से किया गया है.
Switch to English

ट्रिम नगण्य वजन

TensorFlow मॉडल अनुकूलन द्वारा बनाए रखा

इस दस्तावेज़ को मॉडल छंटाई पर एक सिंहावलोकन मदद से आप तय है कि यह कैसे आपके उपयोग के मामले के साथ फिट बैठता है प्रदान करता है।

  • एंड-टू-एंड उदाहरण में सीधे जाएं करने के लिए, को देखने के Keras साथ छंटाई उदाहरण।
  • जल्दी API आपको अपने उपयोग के मामले के लिए की जरूरत है खोजने के लिए, को देखने के प्रूनिंग व्यापक गाइड

अवलोकन

परिमाण के आधार पर वजन प्रशिक्षण की प्रक्रिया के दौरान धीरे-धीरे बाहर मॉडल वेट शून्यों प्रूनिंग मॉडल विरलता प्राप्त करने के लिए। विरल मॉडल संपीड़ित करने के लिए आसान है, और हम विलंबता सुधार के लिए अनुमान के दौरान शून्य छोड़ सकते हैं।

इस तकनीक को मॉडल संपीड़न के माध्यम से सुधार लाता है। भविष्य में, इस तकनीक के लिए रूपरेखा समर्थन विलंबता सुधार प्रदान करेगा। हम सटीकता के कम से कम नुकसान के साथ मॉडल संपीड़न में 6x सुधार करने के लिए देखा है।

तकनीक ऐसी वाक् पहचान और पाठ से वाक् के रूप में विभिन्न भाषण अनुप्रयोगों में मूल्यांकन किया जा रहा है, और विभिन्न दृष्टि और अनुवाद मॉडल के पार पर प्रयोग किया गया है।

एपीआई संगतता मैट्रिक्स

उपयोगकर्ता निम्न API के साथ प्रूनिंग आवेदन कर सकते हैं:

  • मॉडल निर्माण: tf.keras केवल अनुक्रमिक और कार्यात्मक मॉडल के साथ
  • TensorFlow संस्करण: संस्करण के लिए TF 1.x 1.14+ और 2. x
    • tf.compat.v1 एक TF 2.X पैकेज और साथ tf.compat.v2 एक TF 1.x पैकेज के साथ समर्थित नहीं हैं।
  • TensorFlow निष्पादन मोड: दोनों ग्राफ और उत्सुक
  • वितरित प्रशिक्षण: tf.distribute केवल ग्राफ निष्पादन के साथ

यह निम्नलिखित क्षेत्रों में समर्थन जोड़ने के लिए हमारे रोडमैप पर है:

परिणाम

छवि वर्गीकरण

नमूना गैर विरल शीर्ष -1 शुद्धता विरल शुद्धता विरलता
InceptionV3 78.1% 78.0% 50%
76.1% 75%
74.6% 87.5%
MobilenetV1 224 71.04% 70.84% 50%

मॉडल Imagenet पर परीक्षण किया गया।

अनुवाद

नमूना गैर विरल BLEU विरल BLEU विरलता
GNMT एन डे 26.77 26.86 80%
26.52 85%
26.19 90%
GNMT डे-एन 29.47 29.50 80%
29.24 85%
28.81 90%

मॉडल देव सेट और परीक्षण सेट के रूप में समाचार-test2015 के रूप में समाचार-test2013 साथ WMT16 जर्मन और अंग्रेजी डाटासेट का उपयोग करें।

उदाहरण

के अलावा Keras साथ छँटाई ट्यूटोरियल, निम्न उदाहरण देखें:

  • प्रूनिंग साथ MNIST हस्तलिखित अंकों वर्गीकरण कार्य पर एक सीएनएन मॉडल ट्रेन: कोड
  • प्रूनिंग साथ IMDB भावना वर्गीकरण कार्य पर एक LSTM ट्रेन: कोड

पृष्ठभूमि के लिए, छँटाई करने के लिए, या छँटाई करने के लिए नहीं देखें: मॉडल संपीड़न [के लिए प्रूनिंग की प्रभावकारिता की खोज कागज ]।