lớp cuối cùng công khai LSTMBlockCell
Tính toán tốc độ truyền tiến của ô LSTM trong 1 bước thời gian.
Việc triển khai này sử dụng 1 ma trận trọng số và 1 vectơ thiên vị, đồng thời có kết nối lỗ nhìn trộm tùy chọn.
Kernel op này thực hiện các phương trình toán học sau:
xh = [x, h_prev]
[i, f, ci, o] = xh * w + b
f = f + forget_bias
if not use_peephole:
wci = wcf = wco = 0
i = sigmoid(cs_prev * wci + i)
f = sigmoid(cs_prev * wcf + f)
ci = tanh(ci)
cs = ci .* i + cs_prev .* f
cs = clip(cs, cell_clip)
o = sigmoid(cs * wco + o)
co = tanh(cs)
h = co .* o
Các lớp lồng nhau
| lớp học | LSTMBlockCell.Options | Thuộc tính tùy chọn cho LSTMBlockCell | |
Phương pháp công khai
| LSTMBlockCell.Options tĩnh | cellClip (Float cellClip) |
| Đầu ra <T> | ci () Đầu vào của ô. |
| Đầu ra <T> | đồng () Tế bào sau tanh. |
| tĩnh <T mở rộng Số> LSTMBlockCell <T> | |
| Đầu ra <T> | cs () Trạng thái tế bào trước tanh. |
| Đầu ra <T> | f () Cổng quên. |
| LSTMBlockCell.Options tĩnh | quênBias (Float quênBias) |
| Đầu ra <T> | h () Vectơ h đầu ra. |
| Đầu ra <T> | Tôi () Cổng đầu vào. |
| Đầu ra <T> | o () Cổng đầu ra. |
| LSTMBlockCell.Options tĩnh | sử dụngLỗ nhìn trộm (Sử dụng BooleanLỗ nhìn trộm) |
Phương pháp kế thừa
Phương pháp công khai
LSTMBlockCell.Options cellClip tĩnh công khai (Float cellClip)
Thông số
| tế bàoClip | Giá trị để cắt giá trị 'cs' thành. |
|---|
public static LSTMBlockCell <T> tạo ( Phạm vi phạm vi, Toán hạng <T> x, Toán hạng <T> csPrev, Toán hạng <T> hPrev, Toán hạng <T> w, Toán hạng <T> wci, Toán hạng <T> wcf, Toán hạng <T > wco, Toán hạng <T> b, Tùy chọn... tùy chọn)
Phương thức gốc để tạo một lớp bao bọc một hoạt động LSTMBlockCell mới.
Thông số
| phạm vi | phạm vi hiện tại |
|---|---|
| x | Đầu vào của ô LSTM, hình dạng (batch_size, num_inputs). |
| csPrev | Giá trị của trạng thái ô ở bước thời gian trước đó. |
| hTrước | Đầu ra của ô trước đó ở bước thời gian trước đó. |
| w | Ma trận trọng số. |
| wci | Ma trận trọng số cho kết nối lỗ nhìn trộm cổng đầu vào. |
| wcf | Ma trận trọng số cho kết nối lỗ nhìn trộm cổng quên. |
| wco | Ma trận trọng số cho kết nối lỗ nhìn trộm cổng đầu ra. |
| b | Vectơ thiên vị. |
| tùy chọn | mang các giá trị thuộc tính tùy chọn |
Trả lại
- một phiên bản mới của LSTMBlockCell
LSTMBlockCell.Options tĩnh công khai quênBias (Float quênBias)
Thông số
| quênThành kiến | Sự thiên vị cổng quên. |
|---|
LSTMBlockCell.Options tĩnh công khai sử dụngPeephole (Sử dụng BooleanPeephole)
Thông số
| sử dụngLỗ nhìn trộm | Có nên sử dụng trọng lượng lỗ nhìn trộm hay không. |
|---|