dòng chảy :: ops :: SparseApplyAdagrad
#include <training_ops.h>
Cập nhật các mục nhập có liên quan trong '* var' và '* Accu' theo lược đồ adagrad.
Tóm lược
Đó là đối với các hàng chúng tôi có grad, chúng tôi cập nhật var và tích lũy như sau:
$$accum += grad * grad$$
$$var -= lr * grad * (1 / sqrt(accum))$$
Tranh luận:
- phạm vi: Một đối tượng Phạm vi
- var: Phải từ một Biến ().
- Tích lũy: Phải từ một Biến ().
- lr: Tỷ lệ học tập. Phải là một vô hướng.
- grad: Độ dốc.
- chỉ số: Một vectơ chỉ số thành thứ nguyên đầu tiên của var và Accu.
Các thuộc tính tùy chọn (xem Phần Attrs
):
- use_locking: Nếu
True
, việc cập nhật hàng chục var và tích lũy sẽ được bảo vệ bằng một khóa; nếu không thì hành vi không được xác định, nhưng có thể ít biểu hiện sự cạnh tranh hơn.
Lợi nhuận:
-
Output
: Giống như "var".
Người xây dựng và Người phá hủy | |
---|---|
SparseApplyAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
SparseApplyAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyAdagrad::Attrs & attrs) |
Thuộc tính công cộng | |
---|---|
operation | |
out |
Chức năng công cộng | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Chức năng tĩnh công khai | |
---|---|
UpdateSlots (bool x) | |
UseLocking (bool x) |
Cấu trúc | |
---|---|
tensorflow :: ops :: SparseApplyAdagrad :: Attrs | Bộ thiết lập thuộc tính tùy chọn cho SparseApplyAdagrad . |
Thuộc tính công cộng
hoạt động
Operation operation
ngoài
::tensorflow::Output out
Chức năng công cộng
SparseApplyAdagrad
SparseApplyAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input grad, ::tensorflow::Input indices )
SparseApplyAdagrad
SparseApplyAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input grad, ::tensorflow::Input indices, const SparseApplyAdagrad::Attrs & attrs )
nút
::tensorflow::Node * node() const
toán tử :: tensorflow :: Đầu vào
operator::tensorflow::Input() const
toán tử :: tensorflow :: Đầu ra
operator::tensorflow::Output() const
Chức năng tĩnh công khai
UpdateSlots
Attrs UpdateSlots( bool x )
UseLocking
Attrs UseLocking( bool x )