tensorflow::ops::ResourceSparseApplyProximalAdagrad
#include <training_ops.h>Các mục cập nhật thưa thớt trong '*var' và '*accum' theo thuật toán FOBOS.
Bản tóm tắt
Đối với các hàng mà chúng ta có giá trị grad, chúng ta cập nhật var và accum như sau: accum += grad * grad prox_v = var prox_v -= lr * grad * (1 / sqrt(accum)) var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}
Luận điểm:
- phạm vi: Một đối tượng Phạm vi
- var: Nên được lấy từ một biến Variable().
- tích lũy: Nên được lấy từ một biến().
- lr: Tốc độ học. Phải là một đại lượng vô hướng.
- l1: Chuẩn hóa L1. Phải là một giá trị vô hướng.
- l2: Chuẩn hóa L2. Phải là một giá trị vô hướng.
- grad: Độ dốc.
- chỉ số: Một vectơ các chỉ số vào chiều thứ nhất của var và accum.
Các thuộc tính tùy chọn (xem Attrs ):
- use_locking: Nếu True, việc cập nhật các tensor var và accum sẽ được bảo vệ bằng khóa; ngược lại, hành vi không được xác định, nhưng có thể ít xảy ra xung đột hơn.
Trả về:
-
Operationđược tạo
Hàm khởi tạo và hàm hủy | |
|---|---|
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs) |
Thuộc tính công khai | |
|---|---|
operation | |
Chức năng công cộng | |
|---|---|
operator::tensorflow::Operation () const | |
Các hàm tĩnh công khai | |
|---|---|
UseLocking (bool x) | |
Cấu trúc | |
|---|---|
| tensorflow::ops::ResourceSparseApplyProximalAdagrad::Attrs | Các thiết lập thuộc tính tùy chọn cho ResourceSparseApplyProximalAdagrad . |
Thuộc tính công khai
hoạt động
Operation operation
Chức năng công cộng
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs )
operator::tensorflow::Operation
operator::tensorflow::Operation() const
Các hàm tĩnh công khai
Sử dụng khóa
Attrs UseLocking( bool x )