tensorflow::ops::ApplyRMSProp
#include <training_ops.h>'*var' değişkenini RMSProp algoritmasına göre güncelleyin.
Özet
Bu algoritmanın yoğun uygulamasında, gradyan sıfır olsa bile ms ve mom değerleri güncellenir; ancak bu seyrek uygulamada, gradyanın sıfır olduğu yinelemeler sırasında ms ve mom değerleri güncellenmez.
Ortalama_kare = bozunma * ortalama_kare + (1-bozunma) * eğim ** 2 Delta = öğrenme_oranı * eğim / sqrt(ortalama_kare + epsilon)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable() türünden gelmelidir.
- ms: Bir Variable()'dan gelmelidir.
- anne: Bir Değişkenden gelmeli().
- lr: Ölçeklendirme faktörü. Skaler bir değer olmalıdır.
- rho: Bozunma oranı. Skaler bir değer olmalıdır.
- epsilon: Tepe noktası terimi. Skaler bir değer olmalıdır.
- grad: Eğim.
İsteğe bağlı özellikler (bkz. Attrs ):
- use_locking:
Trueise, var, ms ve mom tensörlerinin güncellenmesi bir kilit ile korunur; aksi takdirde davranış tanımsızdır, ancak daha az çekişme gösterebilir.
İadeler:
-
Output: "var" ile aynı.
Yapıcılar ve Yıkıcılar | |
|---|---|
ApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad) | |
ApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ApplyRMSProp::Attrs & attrs) |
Genel özellikler | |
|---|---|
operation | |
out | |
Kamusal işlevler | |
|---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const | |
Herkese açık statik fonksiyonlar | |
|---|---|
UseLocking (bool x) | |
Yapılar | |
|---|---|
| tensorflow::ops::ApplyRMSProp::Attrs | ApplyRMSProp için isteğe bağlı öznitelik ayarlayıcıları. |
Genel özellikler
operasyon
Operation operation
dışarı
::tensorflow::Output out
Kamusal işlevler
ApplyRMSProp
ApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad )
ApplyRMSProp
ApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, const ApplyRMSProp::Attrs & attrs )
düğüm
::tensorflow::Node * node() const
operatör::tensorflow::Giriş
operator::tensorflow::Input() const
operatör::tensorflow::Çıktı
operator::tensorflow::Output() const
Herkese açık statik fonksiyonlar
KullanımKilitleme
Attrs UseLocking( bool x )