tensorflow:: ops:: ResourceApplyCenteredRMSProp

Actualizar '*var' según el algoritmo RMSProp centrado.

Resumen

El algoritmo RMSProp centrado utiliza una estimación del segundo momento centrado (es decir, la varianza) para la normalización, a diferencia del RMSProp convencional, que utiliza el segundo momento (no centrado). Esto suele facilitar el entrenamiento, pero resulta ligeramente más costoso en términos de computación y memoria.

Tenga en cuenta que en la implementación densa de este algoritmo, mg, ms y mom se actualizarán incluso si el gradiente es cero, pero en esta implementación dispersa, mg, ms y mom no se actualizarán en las iteraciones durante las cuales el gradiente sea cero.

media_cuadrada = decaimiento * media_cuadrada + (1-decaimiento) * gradiente ** 2 media_gradiente = decaimiento * media_gradiente + (1-decaimiento) * gradiente

Delta = tasa_aprendizaje * gradiente / sqrt(cuadrado_medio + épsilon - gradiente_medio ** 2)

mg <- rho * mg_{t-1} + (1-rho) * grad ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms - mg * mg + epsilon) var <- var - mom

Argumentos:

• ámbito: Un objeto de ámbito
• var: Debe provenir de una Variable().
• mg: Debe provenir de una Variable().
• ms: Debe provenir de una Variable().
• mamá: Debe provenir de una Variable().
• lr: Factor de escala. Debe ser un escalar.
• rho: Tasa de decaimiento. Debe ser un escalar.
• épsilon: Término de cresta. Debe ser un escalar.
• grad: El gradiente.

Atributos opcionales (ver Attrs ):

• use_locking: Si True , la actualización de los tensores var, mg, ms y mom está protegida por un bloqueo; de lo contrario, el comportamiento es indefinido, pero puede presentar menos contención.

Devoluciones:

• la Operation creada

Atributos públicos

Operation operation

 ResourceApplyCenteredRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input mg,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

 ResourceApplyCenteredRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input mg,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ResourceApplyCenteredRMSProp::Attrs & attrs
)

 operator::tensorflow::Operation() const 

Attrs UseLocking(
  bool x
)