CudnnRNNBackpropV3

CudnnRNNV3 のバックプロップ ステップ。

RNN でデータと重みの両方の逆伝播を計算します。 CudnnRNNBackprop よりも追加の「sequence_lengths」入力を受け取ります。

rnn_mode: RNN モデルのタイプを示します。 input_mode: 入力と最初の層の前の実際の計算の間に線形投影があるかどうかを示します。 「skip_input」は、input_size == num_units の場合にのみ許可されます。 input_size == num_units の場合、「auto_select」は「skip_input」を意味します。それ以外の場合は、「linear_input」を意味します。方向: 双方向モデルが使用されるかどうかを示します。 「単方向」または「双方向」である必要があります。ドロップアウト: ドロップアウトの確率。 0.に設定すると、ドロップアウトは無効になります。シード: ドロップアウトを初期化するシードの最初の部分。 seed2: ドロップアウトを初期化するシードの 2 番目の部分。 input: time_major が true の場合、これは [seq_length、batch_size、input_size] の形状を持つ 3 次元テンソルです。 time_major が false の場合、形状は [batch_size, seq_length, input_size] です。 input_h: time_major が true の場合、これは [num_layer * dir, batch_size, num_units] の形状を持つ 3 次元テンソルです。 time_major が false の場合、形状は [batch_size, num_layer * dir, num_units] になります。 input_c: LSTM の場合、[num_layer * dir, batch, num_units] の形状を持つ 3 次元テンソル。それ以外のモデルでは無視されます。 params: 不透明なレイアウトの重みとバイアスを含む 1 次元テンソル。サイズは CudnnRNNParamsSize を通じて作成し、個別に初期化する必要があります。世代が異なると互換性がない可能性があることに注意してください。したがって、各入力シーケンスの長さのベクトルである sequence_lengths を保存して復元することをお勧めします。出力: time_major が true の場合、これは [seq_length、batch_size、dir * num_units] の形状を持つ 3 次元テンソルです。 time_major が false の場合、形状は [batch_size, seq_length, dir * num_units] になります。 Output_h: 同じ形状に input_h があります。 Output_c: LSTM の input_c と同じ形状。他のモデルの空のテンソル。 Output_backprop: フォワード パスの出力と同じ形状を持つ 3 次元テンソル。 Output_h_backprop: フォワード パスの Output_h と同じ形状を持つ 3 次元テンソル。 Output_c_backprop: フォワード パスの Output_c と同じ形状を持つ 3 次元テンソル。 time_major: 入出力形式がタイム メジャーかバッチ メジャーかを示します。 reserve_space: 転送操作で生成されるのと同じreserve_space。 input_backprop: フォワード パスで入力するバックプロップ。入力と同じ形状になります。 input_h_backprop: フォワード パスでの input_h へのバックプロップ。 input_h と同じ形状を持ちます。 input_c_backprop: フォワード パスでの input_c へのバックプロップ。 input_c と同じ形状です。 params_backprop: フォワード パスの params バッファへのバックプロップ。 paramsと同じ形状です。