tensorflow::ops::ApplyRMSProp

'*var' değişkenini RMSProp algoritmasına göre güncelleyin.

Özet

Bu algoritmanın yoğun uygulamasında, gradyan sıfır olsa bile ms ve mom değerleri güncellenir; ancak bu seyrek uygulamada, gradyanın sıfır olduğu yinelemeler sırasında ms ve mom değerleri güncellenmez.

Ortalama_kare = bozunma * ortalama_kare + (1-bozunma) * eğim ** 2 Delta = öğrenme_oranı * eğim / sqrt(ortalama_kare + epsilon)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom

Argümanlar:

• kapsam: Bir Kapsam nesnesi
• var: Bir Variable() türünden gelmelidir.
• ms: Bir Variable()'dan gelmelidir.
• anne: Bir Değişkenden gelmeli().
• lr: Ölçeklendirme faktörü. Skaler bir değer olmalıdır.
• rho: Bozunma oranı. Skaler bir değer olmalıdır.
• epsilon: Tepe noktası terimi. Skaler bir değer olmalıdır.
• grad: Eğim.

İsteğe bağlı özellikler (bkz. Attrs ):

• use_locking: True ise, var, ms ve mom tensörlerinin güncellenmesi bir kilit ile korunur; aksi takdirde davranış tanımsızdır, ancak daha az çekişme gösterebilir.

İadeler:

• Output : "var" ile aynı.

Genel özellikler

Operation operation

::tensorflow::Output out

 ApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

 ApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ApplyRMSProp::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)