tensorflow:: ops:: SparseApplyCenteredRMSProp

Actualizar '*var' según el algoritmo RMSProp centrado.

Resumen

El algoritmo RMSProp centrado utiliza una estimación del segundo momento centrado (es decir, la varianza) para la normalización, a diferencia del RMSProp convencional, que utiliza el segundo momento (no centrado). Esto suele facilitar el entrenamiento, pero resulta ligeramente más costoso en términos de computación y memoria.

Tenga en cuenta que en la implementación densa de este algoritmo, mg, ms y mom se actualizarán incluso si el gradiente es cero, pero en esta implementación dispersa, mg, ms y mom no se actualizarán en las iteraciones durante las cuales el gradiente sea cero.

media_cuadrada = decaimiento * media_cuadrada + (1-decaimiento) * gradiente ** 2 media_gradiente = decaimiento * media_gradiente + (1-decaimiento) * gradiente Delta = tasa_aprendizaje * gradiente / sqrt(media_cuadrada + épsilon - media_gradiente ** 2)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$ $$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$ $$var <- var - mom$$

Argumentos:

• ámbito: Un objeto de ámbito
• var: Debe provenir de una Variable().
• mg: Debe provenir de una Variable().
• ms: Debe provenir de una Variable().
• mamá: Debe provenir de una Variable().
• lr: Factor de escala. Debe ser un escalar.
• rho: Tasa de decaimiento. Debe ser un escalar.
• épsilon: Término de cresta. Debe ser un escalar.
• grad: El gradiente.
• índices: Un vector de índices en la primera dimensión de var, ms y mom.

Atributos opcionales (ver Attrs ):

• use_locking: Si True , la actualización de los tensores var, mg, ms y mom está protegida por un bloqueo; de lo contrario, el comportamiento es indefinido, pero puede presentar menos contención.

Devoluciones:

• Output : Igual que "var".

Atributos públicos

Operation operation

::tensorflow::Output out

 SparseApplyCenteredRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input mg,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

 SparseApplyCenteredRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input mg,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyCenteredRMSProp::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)