tensorflow :: ops :: SparseApplyFtrl

Ftrl-proximal 체계에 따라 '* var'의 관련 항목을 업데이트합니다.

요약

그것은 우리가 grad가있는 행에 대한 것입니다. var, accum 및 linear를 다음과 같이 업데이트합니다. $$accum_new = accum + grad * grad$$ $$linear += grad + (accum_{new}^{-lr_{power}} - accum^{-lr_{power}} / lr * var$$ $$quadratic = 1.0 / (accum_{new}^{lr_{power}} * lr) + 2 * l2$$ $$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$ $$accum = accum_{new}$$

인수 :

• 범위 : 범위 개체
• var : Variable ()에서 가져와야합니다.
• accum : Variable ()에서 가져와야합니다.
• 선형 : Variable ()에서 가져와야합니다.
• grad : 그래디언트입니다.
• 인덱스 : var 및 accum의 첫 번째 차원에 대한 인덱스 벡터.
• lr : 배율. 스칼라 여야합니다.
• l1 : L1 정규화. 스칼라 여야합니다.
• l2 : L2 정규화. 스칼라 여야합니다.
• lr_power : 배율. 스칼라 여야합니다.

선택적 속성 ( Attrs 참조) :

• use_locking : True 이면 var 및 accum 텐서의 업데이트는 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 적을 수 있습니다.

보고:

• Output : "var"와 동일합니다.

공용 속성

Operation operation

::tensorflow::Output out

 SparseApplyFtrl(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input linear,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input lr_power
)

 SparseApplyFtrl(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input linear,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input lr_power,
  const SparseApplyFtrl::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)