CudnnRNNBackprop

bookmark_border Sử dụng bộ sưu tập để sắp xếp ngăn nắp các trang Lưu và phân loại nội dung dựa trên lựa chọn ưu tiên của bạn.

Bước backprop của CudnnRNNV3.

Tính toán backprop của cả dữ liệu và trọng số trong RNN. Nhận thêm đầu vào "sequence_lengths" hơn CudnnRNNBackprop.

rnn_mode: Cho biết loại mô hình RNN. input_mode: Cho biết liệu có phép chiếu tuyến tính giữa đầu vào và tính toán thực tế trước lớp đầu tiên hay không. 'skip_input' chỉ được phép khi input_size == num_units; 'auto_select' ngụ ý 'skip_input' khi input_size == num_units; mặt khác, nó ngụ ý 'tuyến tính_input'. hướng: Cho biết liệu mô hình hai chiều có được sử dụng hay không. Nên là "một chiều" hoặc "hai chiều". bỏ học: Xác suất bỏ học. Khi được đặt thành 0., tính năng bỏ học bị vô hiệu hóa. hạt giống: Phần đầu tiên của hạt giống để khởi tạo việc bỏ học. Seed2: Phần thứ 2 của hạt giống để khởi tạo dropout. đầu vào: Nếu time_major là đúng thì đây là tensor 3-D có hình dạng [seq_length, batch_size, input_size]. Nếu time_major sai thì hình dạng là [batch_size, seq_length, input_size]. input_h: Nếu time_major là đúng thì đây là tensor 3-D có hình dạng [num_layer * dir, batch_size, num_units]. Nếu time_major sai thì hình dạng là [batch_size, num_layer * dir, num_units]. input_c: Đối với LSTM, một tensor 3-D có hình dạng [num_layer * dir, batch, num_units]. Đối với các mô hình khác, nó bị bỏ qua. params: Tenxor 1-D chứa trọng số và độ lệch trong một bố cục mờ. Kích thước phải được tạo thông qua CudnnRNNParamsSize và được khởi tạo riêng. Lưu ý rằng chúng có thể không tương thích giữa các thế hệ khác nhau. Vì vậy, bạn nên lưu và khôi phục Sequ_lengths: một vectơ có độ dài của mỗi chuỗi đầu vào. đầu ra: Nếu time_major là đúng thì đây là tensor 3-D có hình dạng [seq_length, batch_size, dir * num_units]. Nếu time_major sai thì hình dạng là [batch_size, seq_length, dir * num_units]. đầu ra_h: Hình dạng tương tự có đầu vào_h. đầu ra_c: Hình dạng tương tự như đầu vào_c cho LSTM. Một tensor trống cho các mô hình khác. đầu ra_backprop: Một tensor 3-D có hình dạng giống như đầu ra trong quá trình chuyển tiếp. đầu ra_h_backprop: Một tensor 3-D có hình dạng tương tự như đầu ra_h trong chuyển tiếp. đầu ra_c_backprop: Một tensor 3-D có hình dạng giống như đầu ra_c trong chuyển tiếp. time_major: Cho biết định dạng đầu vào/đầu ra là thời gian chính hay theo đợt. Reserve_space: Reserve_space tương tự được tạo ra trong thao tác chuyển tiếp. input_backprop: Backprop để nhập vào trong quá trình chuyển tiếp. Có hình dạng giống như đầu vào. input_h_backprop: Phần hỗ trợ cho input_h trong lượt chuyển tiếp. Có hình dạng giống như input_h. input_c_backprop: Phần hỗ trợ cho input_c trong lượt chuyển tiếp. Có hình dạng giống như input_c. params_backprop: Backprop cho bộ đệm params trong lượt chuyển tiếp. Có hình dạng giống như params.