SparseApplyCenteredRmsProp

kelas akhir publik SparseApplyCenteredRmsProp

Perbarui '*var' sesuai dengan algoritma RMSProp terpusat.

Algoritme RMSProp terpusat menggunakan perkiraan momen kedua terpusat (yaitu varians) untuk normalisasi, berbeda dengan RMSProp biasa, yang menggunakan momen kedua (tidak terpusat). Hal ini sering kali membantu dalam pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori.

Perhatikan bahwa dalam implementasi padat dari algoritme ini, mg, ms, dan mom akan diperbarui meskipun gradasinya nol, tetapi dalam implementasi yang jarang ini, mg, ms, dan mom tidak akan diperbarui dalam iterasi yang gradannya nol.

mean_square = peluruhan * mean_square + (1-decay) * gradien ** 2 mean_grad = peluruhan * mean_grad + (1-decay) * gradien Delta = learning_rate * gradien / sqrt(mean_square + epsilon - mean_grad ** 2)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

Kelas Bersarang

kelas SparseApplyCenteredRmsProp.Options Atribut opsional untuk SparseApplyCenteredRmsProp

Konstanta

Rangkaian OP_NAME Nama operasi ini dikenal dengan mesin inti TensorFlow

Metode Publik

Keluaran <T>	sebagai Keluaran () Mengembalikan pegangan simbolis tensor.
statis <T memperluas TType > SparseApplyCenteredRmsProp <T>	buat ( Lingkup lingkup, Operand <T> var, Operand <T> mg, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T> momentum, Operand <T > epsilon, Operand <T> grad, Operand <?extender TNumber > indeks, Opsi... opsi) Metode pabrik untuk membuat kelas yang membungkus operasi SparseApplyCenteredRmsProp baru.
Keluaran <T>	keluar () Sama seperti "var".
SparseApplyCenteredRmsProp.Options statis	useLocking (penguncian penggunaan Boolean)

Metode Warisan

Dari kelas org.tensorflow.op.RawOp

boolean terakhir	sama dengan (Objek objek)
int terakhir	Kode hash ()
Operasi	op () Kembalikan unit komputasi ini sebagai satu `Operation` .
String terakhir	keString ()

Dari kelas java.lang.Object

boolean	sama dengan (Objek arg0)
Kelas terakhir<?>	dapatkan Kelas ()
ke dalam	Kode hash ()
kekosongan terakhir	memberitahu ()
kekosongan terakhir	beri tahuSemua ()
Rangkaian	keString ()
kekosongan terakhir	tunggu (arg0 panjang, int arg1)
kekosongan terakhir	tunggu (argumen panjang0)
kekosongan terakhir	Tunggu ()

Dari antarmuka org.tensorflow.op.Op

Lingkungan Eksekusi abstrak	env () Kembalikan lingkungan eksekusi tempat operasi ini dibuat.
Operasi abstrak	op () Kembalikan unit komputasi ini sebagai satu `Operation` .

Dari antarmuka org.tensorflow.Operand

keluaran abstrak <T>	sebagai Keluaran () Mengembalikan pegangan simbolis tensor.
abstrak T	sebagai Tensor () Mengembalikan tensor pada operan ini.
Bentuk abstrak	membentuk () Mengembalikan bentuk tensor (yang mungkin diketahui sebagian) yang dirujuk oleh `Output` operan ini.
Kelas abstrak<T>	jenis () Mengembalikan tipe tensor operan ini

Dari antarmuka org.tensorflow.ndarray.Shaped

abstrak ke dalam	peringkat ()
Bentuk abstrak	membentuk ()
abstrak panjang	ukuran () Menghitung dan mengembalikan ukuran total wadah ini, dalam jumlah nilai.

Konstanta

String akhir statis publik OP_NAME

Nama operasi ini dikenal dengan mesin inti TensorFlow

Nilai Konstan: "SparseApplyCenteredRMSProp"

Metode Publik

Keluaran publik <T> sebagai Keluaran ()

Mengembalikan pegangan simbolis tensor.

Masukan ke operasi TensorFlow adalah keluaran dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.

public static SparseApplyCenteredRmsProp <T> buat ( Lingkup lingkup, Operan <T> var, Operan <T> mg, Operan <T> ms, Operan <T> mom, Operan <T> lr, Operan <T> rho, Operan <T > momentum, Operand <T> epsilon, Operand <T> grad, Operand <?extenders TNumber > indeks, Opsi... opsi)

Metode pabrik untuk membuat kelas yang membungkus operasi SparseApplyCenteredRmsProp baru.

Parameter

cakupan	ruang lingkup saat ini
var	Harus dari Variabel().
mg	Harus dari Variabel().
MS	Harus dari Variabel().
Mama	Harus dari Variabel().
lr	Faktor skala. Pasti skalar.
rho	Tingkat pembusukan. Pasti skalar.
epsilon	Istilah punggung bukit. Pasti skalar.
lulusan	Gradien.
indeks	Vektor indeks ke dalam dimensi pertama var, ms dan mom.
pilihan	membawa nilai atribut opsional

Kembali

contoh baru dari SparseApplyCenteredRmsProp

Keluaran publik <T> keluar ()

Sama seperti "var".

public static SparseApplyCenteredRmsProp.Options useLocking (Boolean useLocking)

Parameter

gunakan Penguncian	Jika `True`, pembaruan tensor var, mg, ms, dan mom dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan.