CudnnRNNBackpropV3

CudnnRNNV3 का बैकप्रॉप चरण।

RNN में डेटा और वेट दोनों के बैकप्रॉप की गणना करें। CudnnRNNBackprop की तुलना में एक अतिरिक्त "sequence_lengths" इनपुट लेता है।

rnn_mode: आरएनएन मॉडल के प्रकार को इंगित करता है। input_mode: इंगित करता है कि पहली परत से पहले इनपुट और वास्तविक गणना के बीच एक रैखिक प्रक्षेपण है या नहीं। 'स्किप_इनपुट' की अनुमति केवल तभी दी जाती है जब input_size == num_units; 'auto_select' का अर्थ है 'skip_input' जब input_size == num_units; अन्यथा, इसका तात्पर्य 'रैखिक_इनपुट' से है। दिशा: इंगित करता है कि क्या एक द्विदिश मॉडल का उपयोग किया जाएगा। "यूनिडायरेक्शनल" या "बिडायरेक्शनल" होना चाहिए। ड्रॉपआउट: ड्रॉपआउट संभावना। 0 पर सेट होने पर, ड्रॉपआउट अक्षम हो जाता है। बीज: एक बीज का पहला भाग ड्रॉपआउट आरंभ करने के लिए। Seed2: एक बीज का दूसरा भाग ड्रॉपआउट प्रारंभ करने के लिए। इनपुट: यदि टाइम_मेजर सत्य है, तो यह एक 3-डी टेंसर है जिसका आकार [seq_length, बैच_साइज़, इनपुट_साइज़] है। यदि time_major गलत है, तो आकार [बैच_साइज़, seq_length, input_size] है। input_h: यदि time_major सत्य है, तो यह [num_layer * dir, बैच_साइज़, num_units] के आकार का 3-डी टेंसर है। अगर time_major गलत है, तो आकार [बैच_साइज़, num_layer * dir, num_units] है। input_c: LSTM के लिए, [num_layer * dir, बैच, num_units] के आकार वाला 3-डी टेंसर। अन्य मॉडलों के लिए, इसे अनदेखा किया जाता है। पैराम्स: एक 1-डी टेंसर जिसमें एक अपारदर्शी लेआउट में भार और पूर्वाग्रह होते हैं। आकार CudnnRNNParamsSize के माध्यम से बनाया जाना चाहिए, और अलग से प्रारंभ किया जाना चाहिए। ध्यान दें कि वे विभिन्न पीढ़ियों में संगत नहीं हो सकते हैं। इसलिए अनुक्रम_लंबाई को सहेजना और पुनर्स्थापित करना एक अच्छा विचार है: प्रत्येक इनपुट अनुक्रम की लंबाई का एक वेक्टर। आउटपुट: यदि टाइम_मेजर सत्य है, तो यह एक 3-डी टेंसर है जिसका आकार [seq_length, बैच_साइज़, dir * num_units] है। अगर time_major गलत है, तो आकार [batch_size, seq_length, dir * num_units] है। output_h: एक ही आकार में input_h है। output_c: LSTM के लिए input_c के समान आकार। अन्य मॉडलों के लिए एक खाली टेंसर। output_backprop: फॉरवर्ड पास में आउटपुट के समान आकार वाला 3-डी टेंसर। output_h_backprop: फॉरवर्ड पास में आउटपुट_एच के समान आकार वाला 3-डी टेंसर। output_c_backprop: फॉरवर्ड पास में output_c के समान आकार वाला 3-डी टेंसर। time_major: इंगित करता है कि इनपुट/आउटपुट प्रारूप टाइम मेजर है या बैच मेजर। रिजर्व_स्पेस: वही रिजर्व_स्पेस फॉरवर्ड ऑपरेशन में उत्पन्न होता है। input_backprop: फॉरवर्ड पास में इनपुट करने के लिए बैकप्रॉप। इनपुट के समान आकार है। input_h_backprop: फॉरवर्ड पास में input_h का बैकप्रॉप। input_h के समान आकार है। input_c_backprop: फॉरवर्ड पास में input_c के लिए बैकप्रॉप। input_c के समान आकार है। params_backprop: फॉरवर्ड पास में पैराम्स बफर के लिए बैकप्रॉप। परम के समान आकार है।