RecursoApplyAdamWithAmsgrad

clase final pública ResourceApplyAdamWithAmsgrad

Actualice '* var' según el algoritmo de Adam.

$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$
$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$
$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$
$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$
$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$

Clases anidadas

clase ResourceApplyAdamWithAmsgrad.Options Atributos opcionales para ResourceApplyAdamWithAmsgrad

Métodos públicos

static <T> ResourceApplyAdamWithAmsgrad
create ( alcance del alcance, operando <?> var, operando <?> m, operando <?> v, operando <?> vhat, operando <T> beta1Power, operando <T> beta2Power, operando <T> lr, operando <T > beta1, operando <T> beta2, operando <T> epsilon, operando <T> grad, Opciones ... opciones)
Método de fábrica para crear una clase que envuelva una nueva operación ResourceApplyAdamWithAmsgrad.
static ResourceApplyAdamWithAmsgrad.Options
useLocking ( useLocking booleano)

Métodos heredados

Métodos públicos

public static ResourceApplyAdamWithAmsgrad create ( alcance de alcance, operando <?> var, operando <?> m, operando <?> v, operando <?> vhat, operando <T> beta1Power, operando <T> beta2Power, operando <T> lr, Operando <T> beta1, Operando <T> beta2, Operando <T> epsilon, Operand <T> grad, Opciones ... opciones)

Método de fábrica para crear una clase que envuelva una nueva operación ResourceApplyAdamWithAmsgrad.

Parámetros
alcance alcance actual
var Debe ser de una variable ().
metro Debe ser de una variable ().
v Debe ser de una variable ().
que Debe ser de una variable ().
beta1Power Debe ser un escalar.
beta2Power Debe ser un escalar.
lr Factor de escala. Debe ser un escalar.
beta1 Factor de momento. Debe ser un escalar.
beta2 Factor de momento. Debe ser un escalar.
épsilon Término de la cresta. Debe ser un escalar.
graduado El gradiente.
opciones lleva valores de atributos opcionales
Devoluciones
  • una nueva instancia de ResourceApplyAdamWithAmsgrad

público estático ResourceApplyAdamWithAmsgrad.Options useLocking (booleano useLocking)

Parámetros
useLocking Si es "True", la actualización de los tensores var, myv estará protegida por un bloqueo; de lo contrario, el comportamiento no está definido, pero puede mostrar menos contención.