tensorflow::ops::ResourceApplyRMSProp
#include <training_ops.h>'*var' değişkenini RMSProp algoritmasına göre güncelleyin.
Özet
Bu algoritmanın yoğun uygulamasında, gradyan sıfır olsa bile ms ve mom değerleri güncellenir; ancak bu seyrek uygulamada, gradyanın sıfır olduğu yinelemeler sırasında ms ve mom değerleri güncellenmez.
Ortalama_kare = azalma * ortalama_kare + (1-azalma) * eğim ** 2 Delta = öğrenme_oranı * eğim / sqrt(ortalama_kare + epsilon)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable() türünden gelmelidir.
- ms: Bir Variable()'dan gelmelidir.
- anne: Bir Değişkenden gelmeli().
- lr: Ölçeklendirme faktörü. Skaler bir değer olmalıdır.
- rho: Bozunma oranı. Skaler bir değer olmalıdır.
- epsilon: Tepe noktası terimi. Skaler bir değer olmalıdır.
- grad: Eğim.
İsteğe bağlı özellikler (bkz. Attrs ):
- use_locking:
Trueise, var, ms ve mom tensörlerinin güncellenmesi bir kilit ile korunur; aksi takdirde davranış tanımsızdır, ancak daha az çekişme gösterebilir.
İadeler:
- oluşturulan
Operation
Yapıcılar ve Yıkıcılar | |
|---|---|
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad) | |
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs) |
Genel özellikler | |
|---|---|
operation | |
Kamusal işlevler | |
|---|---|
operator::tensorflow::Operation () const | |
Herkese açık statik fonksiyonlar | |
|---|---|
UseLocking (bool x) | |
Yapılar | |
|---|---|
| tensorflow::ops::ResourceApplyRMSProp::Attrs | ResourceApplyRMSProp için isteğe bağlı öznitelik ayarlayıcıları. |
Genel özellikler
operasyon
Operation operation
Kamusal işlevler
KaynakUygulaRMSProp
ResourceApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad )
KaynakUygulaRMSProp
ResourceApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs )
operatör::tensorflow::İşlem
operator::tensorflow::Operation() const
Herkese açık statik fonksiyonlar
KullanımKilitleme
Attrs UseLocking( bool x )