ML 커뮤니티 데이는 11월 9일입니다! TensorFlow, JAX에서 업데이트를 우리와 함께, 더 자세히 알아보기

tensorflow :: ops :: ResourceSparseApplyProximalAdagrad

#include <training_ops.h>

FOBOS 알고리즘에 따라 '* var'및 '* accum'의 희소 업데이트 항목.

요약

즉, grad가있는 행의 경우 다음과 같이 var 및 accum을 업데이트합니다. accum + = grad * grad prox_v = var prox_v-= lr * grad * (1 / sqrt (accum)) var = sign (prox_v) / (1 + lr * l2) * 최대 {| prox_v | -lr * l1,0}

인수 :

  • 범위 : 범위 개체
  • var : Variable ()에서 가져와야합니다.
  • accum : Variable ()에서 가져와야합니다.
  • lr : 학습률. 스칼라 여야합니다.
  • l1 : L1 정규화. 스칼라 여야합니다.
  • l2 : L2 정규화. 스칼라 여야합니다.
  • grad : 그래디언트입니다.
  • 인덱스 : var 및 accum의 첫 번째 차원에 대한 인덱스 벡터.

선택적 속성 ( Attrs 참조) :

  • use_locking : True이면 var 및 accum 텐서의 업데이트는 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 적을 수 있습니다.

보고:

생성자와 소멸자

ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices)
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs)

공용 속성

operation

공공 기능

operator::tensorflow::Operation () const

공개 정적 함수

UseLocking (bool x)

구조체

tensorflow :: ops :: ResourceSparseApplyProximalAdagrad :: Attrs

ResourceSparseApplyProximalAdagrad에 대한 선택적 속성 설정자.

공용 속성

조작

Operation operation

공공 기능

ResourceSparseApplyProximalAdagrad

 ResourceSparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

ResourceSparseApplyProximalAdagrad

 ResourceSparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const ResourceSparseApplyProximalAdagrad::Attrs & attrs
)

operator :: tensorflow :: Operation

 operator::tensorflow::Operation() const 

공개 정적 함수

사용 잠금

Attrs UseLocking(
  bool x
)