LSTMBlockCell

1 बार कदम के लिए LSTM सेल आगे प्रसार की गणना करता है।

यह कार्यान्वयन 1 वज़न मैट्रिक्स और 1 पूर्वाग्रह वेक्टर का उपयोग करता है, और एक वैकल्पिक पीपहोल कनेक्शन है।

कर्नल सेशन लागू करता निम्नलिखित गणितीय समीकरण:

xh = [x, h_prev]
 [i, f, ci, o] = xh * w + b
 f = f + forget_bias
 
 if not use_peephole:
   wci = wcf = wco = 0
 
 i = sigmoid(cs_prev * wci + i)
 f = sigmoid(cs_prev * wcf + f)
 ci = tanh(ci)
 
 cs = ci .* i + cs_prev .* f
 cs = clip(cs, cell_clip)
 
 o = sigmoid(cs * wco + o)
 co = tanh(cs)
 h = co .* o