1 समय चरण के लिए GRU सेल अग्रेषित प्रसार की गणना करता है।
आर्ग्स x: GRU सेल में इनपुट। h_prev: पिछले GRU सेल से इनपुट बताएं। w_ru: रीसेट और अपडेट गेट के लिए वजन मैट्रिक्स। w_c: सेल कनेक्शन गेट के लिए वजन मैट्रिक्स। b_ru: रीसेट और अपडेट गेट के लिए बायस वेक्टर। b_c: सेल कनेक्शन गेट के लिए बायस वेक्टर।
रिटर्न आर: रीसेट गेट का आउटपुट। यू: अद्यतन गेट का आउटपुट। सी: सेल कनेक्शन गेट का आउटपुट। एच: जीआरयू सेल की वर्तमान स्थिति।
चरों के अंकन पर ध्यान दें:
ए और बी के संयोजन को a_b द्वारा दर्शाया गया है ए और बी के तत्व-वार डॉट उत्पाद को एबी द्वारा दर्शाया गया है तत्व-वार डॉट उत्पाद को \circ द्वारा दर्शाया गया है मैट्रिक्स गुणन को * द्वारा दर्शाया गया है
पूर्वाग्रहों को इसके साथ प्रारंभ किया जाता है: `b_ru` - स्थिरांक_प्रारंभकर्ता(1.0) `b_c` - स्थिरांक_प्रारंभकर्ता(0.0)
यह कर्नेल ऑप निम्नलिखित गणितीय समीकरण लागू करता है:
x_h_prev = [x, h_prev]
[r_bar u_bar] = x_h_prev * w_ru + b_ru
r = sigmoid(r_bar)
u = sigmoid(u_bar)
h_prevr = h_prev \circ r
x_h_prevr = [x h_prevr]
c_bar = x_h_prevr * w_c + b_c
c = tanh(c_bar)
h = (1-u) \circ c + u \circ h_prev
सार्वजनिक तरीके
आउटपुट <T> | सी () |
स्थिर <T संख्या बढ़ाता है> GRUBlockCell <T> | |
आउटपुट <T> | एच () |
आउटपुट <T> | आर () |
आउटपुट <T> | आप () |
विरासत में मिले तरीके
सार्वजनिक तरीके
सार्वजनिक स्थैतिक GRUBlockCell <T> बनाएं ( स्कोप स्कोप, ऑपरेंड <T> x, ऑपरेंड <T> hPrev, ऑपरेंड <T> wRu, ऑपरेंड <T> wC, ऑपरेंड <T> bRu, ऑपरेंड <T> bC)
एक नया GRUBlockCell ऑपरेशन लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।
पैरामीटर
दायरा | वर्तमान दायरा |
---|
रिटर्न
- GRUBlockCell का एक नया उदाहरण