ML 커뮤니티 데이는 11월 9일입니다! TensorFlow, JAX에서 업데이트를 우리와 함께, 더 자세히 알아보기

tensorflow :: ops :: ResourceSparseApplyProximalGradientDescent

#include <training_ops.h>

고정 학습률을 사용하는 FOBOS 알고리즘으로 스파 스 업데이트 '* var'.

요약

즉, grad가있는 행의 경우 다음과 같이 var를 업데이트합니다. prox_v = var-alpha * grad var = sign (prox_v) / (1 + alpha * l2) * max {| prox_v | -alpha * l1,0}

인수 :

  • 범위 : 범위 개체
  • var : Variable ()에서 가져와야합니다.
  • 알파 : 스케일링 인자. 스칼라 여야합니다.
  • l1 : L1 정규화. 스칼라 여야합니다.
  • l2 : L2 정규화. 스칼라 여야합니다.
  • grad : 그래디언트입니다.
  • 인덱스 : var 및 accum의 첫 번째 차원에 대한 인덱스 벡터.

선택적 속성 ( Attrs 참조) :

  • use_locking : True면 빼기는 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 적을 수 있습니다.

보고:

생성자와 소멸자

ResourceSparseApplyProximalGradientDescent (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input alpha, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices)
ResourceSparseApplyProximalGradientDescent (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input alpha, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalGradientDescent::Attrs & attrs)

공용 속성

operation

공공 기능

operator::tensorflow::Operation () const

공개 정적 함수

UseLocking (bool x)

구조체

tensorflow :: ops :: ResourceSparseApplyProximalGradientDescent :: Attrs

ResourceSparseApplyProximalGradientDescent에 대한 선택적 속성 설정자.

공용 속성

조작

Operation operation

공공 기능

ResourceSparseApplyProximalGradientDescent

 ResourceSparseApplyProximalGradientDescent(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input alpha,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

ResourceSparseApplyProximalGradientDescent

 ResourceSparseApplyProximalGradientDescent(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input alpha,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const ResourceSparseApplyProximalGradientDescent::Attrs & attrs
)

operator :: tensorflow :: Operation

 operator::tensorflow::Operation() const 

공개 정적 함수

사용 잠금

Attrs UseLocking(
  bool x
)