tensorflow::ops::ApplyProximalAdagrad
#include <training_ops.h>Cập nhật '*var' và '*accum' theo FOBOS với tốc độ học Adagrad.
Bản tóm tắt
accum += grad * grad prox_v = var - lr * grad * (1 / sqrt(accum)) var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}
Luận điểm:
- phạm vi: Một đối tượng Phạm vi
- var: Nên được lấy từ một biến Variable().
- tích lũy: Nên được lấy từ một biến().
- lr: Hệ số tỷ lệ. Phải là một đại lượng vô hướng.
- l1: Chuẩn hóa L1. Phải là một giá trị vô hướng.
- l2: Chuẩn hóa L2. Phải là một giá trị vô hướng.
- grad: Độ dốc.
Các thuộc tính tùy chọn (xem Attrs ):
- use_locking: Nếu True, việc cập nhật các tensor var và accum sẽ được bảo vệ bằng khóa; ngược lại, hành vi không được xác định, nhưng có thể ít xảy ra xung đột hơn.
Trả về:
-
Output: Giống như "var".
Hàm khởi tạo và hàm hủy | |
|---|---|
ApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad) | |
ApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, const ApplyProximalAdagrad::Attrs & attrs) |
Thuộc tính công khai | |
|---|---|
operation | |
out | |
Chức năng công cộng | |
|---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const | |
Các hàm tĩnh công khai | |
|---|---|
UseLocking (bool x) | |
Cấu trúc | |
|---|---|
| tensorflow::ops::ApplyProximalAdagrad::Attrs | Các thiết lập thuộc tính tùy chọn cho ApplyProximalAdagrad . |
Thuộc tính công khai
hoạt động
Operation operation
ngoài
::tensorflow::Output out
Chức năng công cộng
ApplyProximalAdagrad
ApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad )
ApplyProximalAdagrad
ApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, const ApplyProximalAdagrad::Attrs & attrs )
nút
::tensorflow::Node * node() const
operator::tensorflow::Input
operator::tensorflow::Input() const
operator::tensorflow::Output
operator::tensorflow::Output() const
Các hàm tĩnh công khai
Sử dụng khóa
Attrs UseLocking( bool x )