ResourceApplyAdamWithAmsgrad

공개 최종 클래스 ResourceApplyAdamWithAmsgrad

Adam 알고리즘에 따라 '*var'를 업데이트합니다.

$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$
$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$
$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$
$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$
$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$

중첩 클래스

수업 ResourceApplyAdamWithAmsgrad.Options ResourceApplyAdamWithAmsgrad 의 선택적 속성

공개 방법

정적 <T> ResourceApplyAdamWithAmsgrad
create ( 범위 범위, 피연산자 <?> var, 피연산자 <?> m, 피연산자 <?> v, 피연산자 <?> vhat, 피연산자 <T> beta1Power, 피연산자 <T> beta2Power, 피연산자 <T> lr, 피연산자 <T > beta1, 피연산자 <T> beta2, 피연산자 <T> 엡실론, 피연산자 <T> grad, 옵션... 옵션)
새로운 ResourceApplyAdamWithAmsgrad 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
정적 ResourceApplyAdamWithAmsgrad.Options
useLocking (부울 useLocking)

상속된 메서드

공개 방법

public static ResourceApplyAdamWithAmsgrad create ( 범위 범위, 피연산자 <?> var, 피연산자 <?> m, 피연산자 <?> v, 피연산자 <?> vhat, 피연산자 <T> beta1Power, 피연산자 <T> beta2Power, 피연산자 <T> lr, 피연산자 <T> beta1, 피연산자 <T> beta2, 피연산자 <T> 엡실론, 피연산자 <T> grad, 옵션... 옵션)

새로운 ResourceApplyAdamWithAmsgrad 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.

매개변수
범위 현재 범위
var Variable()에서 가져와야 합니다.
Variable()에서 가져와야 합니다.
V Variable()에서 가져와야 합니다.
vhat Variable()에서 가져와야 합니다.
베타1힘 스칼라여야 합니다.
베타2파워 스칼라여야 합니다.
배율 인수. 스칼라여야 합니다.
베타1 모멘텀 요인. 스칼라여야 합니다.
베타2 모멘텀 요인. 스칼라여야 합니다.
엡실론 능선 용어. 스칼라여야 합니다.
졸업생 그라데이션입니다.
옵션 선택적 속성 값을 전달합니다.
보고
  • ResourceApplyAdamWithAmsgrad의 새 인스턴스

공개 정적 ResourceApplyAdamWithAmsgrad.Options useLocking (부울 useLocking)

매개변수
사용잠금 'True'인 경우 var, m 및 v 텐서 업데이트는 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 덜 나타날 수 있습니다.