classe final pública LSTMBlockCell
Calcula a propagação direta da célula LSTM para 1 passo de tempo.
Essa implementação usa 1 matriz de peso e 1 vetor de polarização, e há uma conexão de olho mágico opcional.
Este kernel op implementa as seguintes equações matemáticas:
xh = [x, h_prev]
[i, f, ci, o] = xh * w + b
f = f + forget_bias
if not use_peephole:
wci = wcf = wco = 0
i = sigmoid(cs_prev * wci + i)
f = sigmoid(cs_prev * wcf + f)
ci = tanh(ci)
cs = ci .* i + cs_prev .* f
cs = clip(cs, cell_clip)
o = sigmoid(cs * wco + o)
co = tanh(cs)
h = co .* o
Classes aninhadas
aula | LSTMBlockCell.Options | Atributos opcionais para LSTMBlockCell |
Métodos públicos
static LSTMBlockCell.Options | cellClip (Float cellClip) |
Saída <T> | ci () A entrada da célula. |
Saída <T> | co () A célula após o tanh. |
estático <T estende Número> LSTMBlockCell <T> | |
Saída <T> | cs () O estado da célula antes do tanh. |
Saída <T> | f () O portão do esquecimento. |
static LSTMBlockCell.Options | esqueçaBias (Float esqueceBias) |
Saída <T> | h () O vetor h de saída. |
Saída <T> | eu () A porta de entrada. |
Saída <T> | o () A porta de saída. |
static LSTMBlockCell.Options | usePeephole (Boolean usePeephole) |
Métodos Herdados
Métodos públicos
public static LSTMBlockCell.Options cellClip (Float cellClip)
Parâmetros
cellClip | Valor para recortar o valor 'cs'. |
---|
public static LSTMBlockCell <T> create ( Escopo do escopo, Operando <T> x, Operando <T> csPrev, Operando <T> hPrev, Operando <T> w, Operando <T> wci, Operando <T> wcf, Operando <T > wco, Operando <T> b, Opções... opções)
Método de fábrica para criar uma classe que envolve uma nova operação LSTMBlockCell.
Parâmetros
alcance | escopo atual |
---|---|
x | A entrada para a célula LSTM, forma (batch_size, num_inputs). |
csAnterior | Valor do estado da célula na etapa de tempo anterior. |
hAnterior | Saída da célula anterior na etapa de tempo anterior. |
W | A matriz de peso. |
wci | A matriz de peso para a conexão do olho mágico da porta de entrada. |
wcf | A matriz de peso para a conexão do olho mágico do portão de esquecimento. |
wco | A matriz de peso para a conexão do olho mágico da porta de saída. |
b | O vetor de viés. |
opções | carrega valores de atributos opcionais |
Devoluções
- uma nova instância de LSTMBlockCell
public static LSTMBlockCell.Options forgetBias (Float forgetBias)
Parâmetros
esquecerViés | O viés do portão do esquecimento. |
---|
public static LSTMBlockCell.Options usePeephole (Boolean usePeephole)
Parâmetros
usePeephole | Se deve usar pesos de olho mágico. |
---|