tensorflow::ops::ResourceSparseApplyProximalAdagrad
#include <training_ops.h>'*var' ve '*accum' değişkenlerindeki seyrek güncelleme girdileri, FOBOS algoritmasına göre düzenlenmiştir.
Özet
Yani, grad değerine sahip olduğumuz satırlar için var ve accum'u şu şekilde güncelliyoruz: accum += grad * grad prox_v = var prox_v -= lr * grad * (1 / sqrt(accum)) var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable() türünden gelmelidir.
- accum: Bir Variable() türünden gelmelidir.
- lr: Öğrenme oranı. Skaler bir değer olmalıdır.
- l1: L1 düzenlemesi. Skaler bir değer olmalıdır.
- l2: L2 düzenlemesi. Skaler bir değer olmalıdır.
- grad: Eğim.
- İndeksler: Var ve accum'un birinci boyutuna ait indekslerin vektörü.
İsteğe bağlı özellikler (bkz. Attrs ):
- use_locking: True olarak ayarlanırsa, var ve accum tensörlerinin güncellenmesi bir kilit ile korunacaktır; aksi takdirde davranış tanımsızdır, ancak daha az çekişme gösterebilir.
İadeler:
- oluşturulan
Operation
Yapıcılar ve Yıkıcılar | |
|---|---|
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs) |
Genel özellikler | |
|---|---|
operation | |
Kamusal işlevler | |
|---|---|
operator::tensorflow::Operation () const | |
Herkese açık statik fonksiyonlar | |
|---|---|
UseLocking (bool x) | |
Yapılar | |
|---|---|
| tensorflow::ops::ResourceSparseApplyProximalAdagrad::Attrs | ResourceSparseApplyProximalAdagrad için isteğe bağlı öznitelik ayarlayıcıları. |
Genel özellikler
operasyon
Operation operation
Kamusal işlevler
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs )
operatör::tensorflow::İşlem
operator::tensorflow::Operation() const
Herkese açık statik fonksiyonlar
KullanımKilitleme
Attrs UseLocking( bool x )