tensorflow::ops::SparseApplyProximalAdagrad
#include <training_ops.h>Entri pembaruan jarang di '*var' dan '*accum' sesuai dengan algoritma FOBOS.
Ringkasan
Artinya, untuk baris yang sudah memiliki nilai kelulusan, kita memperbarui variabel dan akumulasi sebagai berikut: $$accum += grad * grad$$ $$prox_v = var$$ $$prox_v -= lr * grad * (1 / sqrt(accum))$$ $$var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}$$
Argumen:
- Cakupan: Objek Cakupan
- var: Seharusnya berasal dari Variable().
- accum: Seharusnya berasal dari Variable().
- lr: Tingkat pembelajaran. Harus berupa bilangan skalar.
- l1: Regularisasi L1. Harus berupa skalar.
- l2: Regularisasi L2. Harus berupa skalar.
- grad: Gradien.
- indeks: Sebuah vektor indeks ke dimensi pertama dari var dan accum.
Atribut opsional (lihat Attrs ):
- use_locking: Jika True, pembaruan tensor var dan accum akan dilindungi oleh kunci; jika tidak, perilakunya tidak terdefinisi, tetapi mungkin menunjukkan persaingan yang lebih sedikit.
Mengembalikan:
-
Output: Sama dengan "var".
Konstruktor dan Destruktor | |
|---|---|
SparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
SparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyProximalAdagrad::Attrs & attrs) |
Atribut publik | |
|---|---|
operation | |
out | |
Fungsi publik | |
|---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const | |
Fungsi statis publik | |
|---|---|
UseLocking (bool x) | |
Struktur | |
|---|---|
| tensorflow::ops::SparseApplyProximalAdagrad::Attrs | Setter atribut opsional untuk SparseApplyProximalAdagrad . |
Atribut publik
operasi
Operation operation
keluar
::tensorflow::Output out
Fungsi publik
SparseApplyProximalAdagrad
SparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
SparseApplyProximalAdagrad
SparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const SparseApplyProximalAdagrad::Attrs & attrs )
simpul
::tensorflow::Node * node() const
operator::tensorflow::Input
operator::tensorflow::Input() const
operator::tensorflow::Output
operator::tensorflow::Output() const
Fungsi statis publik
GunakanPenguncian
Attrs UseLocking( bool x )