tensorflow :: ops :: SparseApplyProximalAdagrad

FOBOS 알고리즘에 따라 '* var'및 '* accum'의 희소 업데이트 항목.

요약

그것은 우리가 grad가있는 행에 대한 것입니다. var와 accum을 다음과 같이 업데이트합니다. $$accum += grad * grad$$ $$prox_v = var$$ $$prox_v -= lr * grad * (1 / sqrt(accum))$$ $$var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}$$

인수 :

• 범위 : 범위 개체
• var : Variable ()에서 가져와야합니다.
• accum : Variable ()에서 가져와야합니다.
• lr : 학습률. 스칼라 여야합니다.
• l1 : L1 정규화. 스칼라 여야합니다.
• l2 : L2 정규화. 스칼라 여야합니다.
• grad : 그래디언트입니다.
• 인덱스 : var 및 accum의 첫 번째 차원에 대한 인덱스 벡터.

선택적 속성 ( Attrs 참조) :

• use_locking : True이면 var 및 accum 텐서의 업데이트는 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 적을 수 있습니다.

보고:

• Output : "var"와 동일합니다.

공용 속성

Operation operation

::tensorflow::Output out

 SparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

 SparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyProximalAdagrad::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)