tensorflow::ops::ResourceSparseApplyRMSProp

Aggiorna '*var' secondo l'algoritmo RMSProp.

Riepilogo

Si noti che nell'implementazione densa di questo algoritmo, ms e mom si aggiorneranno anche se il gradiente è zero, mentre in questa implementazione sparsa, ms e mom non si aggiorneranno nelle iterazioni in cui il gradiente è zero.

media_quadrato = decadimento * media_quadrato + (1-decadimento) * gradiente ** 2 Delta = tasso_di_apprendimento * gradiente / sqrt(media_quadrato + epsilon)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom

Argomentazioni:

• ambito: un oggetto Scope
• var: Dovrebbe provenire da una Variable().
• ms: Dovrebbe provenire da una variabile().
• mamma: Dovrebbe provenire da una Variabile().
• lr: Fattore di scala. Deve essere uno scalare.
• rho: Tasso di decadimento. Deve essere uno scalare.
• epsilon: termine di cresta. Deve essere uno scalare.
• grad: Il gradiente.
• indici: Un vettore di indici nella prima dimensione di var, ms e mom.

Attributi opzionali (vedere Attrs ):

• use_locking: Se True , l'aggiornamento dei tensori var, ms e mom è protetto da un blocco; altrimenti il ​​comportamento non è definito, ma potrebbe presentare una minore contesa.

Resi:

• l' Operation creata

attributi pubblici

Operation operation

 ResourceSparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

 ResourceSparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const ResourceSparseApplyRMSProp::Attrs & attrs
)

 operator::tensorflow::Operation() const 

Attrs UseLocking(
  bool x
)