tensorflow::ops::SparseApplyProximalAdagrad

Các mục cập nhật thưa thớt trong '*var' và '*accum' theo thuật toán FOBOS.

Bản tóm tắt

Đối với những hàng mà chúng ta đã có giá trị grad, chúng ta cập nhật var và accum như sau: $$accum += grad * grad$$ $$prox_v = var$$ $$prox_v -= lr * grad * (1 / sqrt(accum))$$ $$var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}$$

Luận điểm:

• phạm vi: Một đối tượng Phạm vi
• var: Nên được lấy từ một biến Variable().
• tích lũy: Nên được lấy từ một biến().
• lr: Tốc độ học. Phải là một đại lượng vô hướng.
• l1: Chuẩn hóa L1. Phải là một giá trị vô hướng.
• l2: Chuẩn hóa L2. Phải là một giá trị vô hướng.
• grad: Độ dốc.
• chỉ số: Một vectơ các chỉ số vào chiều thứ nhất của var và accum.

Các thuộc tính tùy chọn (xem Attrs ):

• use_locking: Nếu True, việc cập nhật các tensor var và accum sẽ được bảo vệ bằng khóa; ngược lại, hành vi không được xác định, nhưng có thể ít xảy ra xung đột hơn.

Trả về:

• Output : Giống như "var".

Thuộc tính công khai

Operation operation

::tensorflow::Output out

 SparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

 SparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyProximalAdagrad::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)