Pengoptimal yang mengimplementasikan algoritma RMSProp.
Inti dari RMSprop adalah:
- Pertahankan rata-rata pergerakan kuadrat gradien
- Bagilah gradien dengan akar rata-rata ini
Implementasi RMSprop ini menggunakan momentum biasa, bukan momentum Nesterov.
Versi terpusat juga mempertahankan rata-rata pergerakan gradien, dan menggunakan rata-rata tersebut untuk memperkirakan variansnya.
Konstanta
boolean | PUSAT_DEFAULT | |
mengambang | DECAY_DEFAULT | |
mengambang | EPSILON_DEFAULT | |
mengambang | BELAJAR_RATE_DEFAULT | |
Rangkaian | mg | |
Rangkaian | MOMENTUM | |
mengambang | MOMENTUM_DEFAULT | |
Rangkaian | RMS |
Konstanta yang Diwarisi
Rangkaian | VARIABEL_V2 |
Konstruktor Publik
RMSProp ( Grafik grafik , Nama string, Kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean) Membuat Pengoptimal RMSPRrop |
Metode Publik
Rangkaian | dapatkan Nama Pengoptimal () Dapatkan Nama pengoptimal. |
Rangkaian | keString () |
Metode Warisan
Op | applyGradients (Daftar< GradAndVar <? extends TType >> gradsAndVars, Nama string) Menerapkan gradien ke variabel |
<T memperluas TType > Daftar< GradAndVar <?>> | |
String statis | createName ( Output <? extends TType > variabel, String slotName) Membuat nama dengan menggabungkan nama variabel dan nama slot |
Tali abstrak | dapatkan Nama Pengoptimal () Dapatkan Nama pengoptimal. |
<T memperluas TType > Opsional< Variabel <T>> | |
Operasi terakhir | dapatkanTF () Mendapatkan instans Operasi Pengoptimal |
Op | |
Op |
boolean | sama dengan (Objek arg0) |
Kelas terakhir<?> | dapatkan Kelas () |
ke dalam | Kode hash () |
kekosongan terakhir | memberitahu () |
kekosongan terakhir | beri tahuSemua () |
Rangkaian | keString () |
kekosongan terakhir | tunggu (arg0 panjang, int arg1) |
kekosongan terakhir | tunggu (argumen panjang0) |
kekosongan terakhir | Tunggu () |
Konstanta
boolean akhir statis publik CENTERED_DEFAULT
float akhir statis publik DECAY_DEFAULT
float akhir statis publik EPSILON_DEFAULT
float akhir statis publik LEARNING_RATE_DEFAULT
String MG akhir statis publik
MOMENTUM String akhir statis publik
float akhir statis publik MOMENTUM_DEFAULT
String RMS akhir statis publik
Konstruktor Publik
RMSProp publik (Grafik grafik , tingkat pembelajaran mengambang)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
Tingkat pembelajaran | kecepatan pembelajaran |
RMSProp publik (Grafik grafik , kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
Tingkat pembelajaran | kecepatan pembelajaran |
membusuk | Faktor diskon untuk sejarah/gradien yang akan datang. Defaultnya adalah 0,9. |
momentum | faktor akselerasi, defaultnya adalah 0. |
epsilon | Konstanta kecil untuk stabilitas numerik |
terpusat | Jika true , gradien dinormalisasi dengan perkiraan varians gradien; jika false , pada momen kedua yang tidak terpusat. Menyetelnya ke true mungkin membantu pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori. Defaultnya adalah false . |
RMSProp publik (Grafik grafik , Nama string, Tingkat pembelajaran mengambang)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
nama | nama Pengoptimal ini. Defaultnya adalah "RMSProp". |
Tingkat pembelajaran | kecepatan pembelajaran |
RMSProp publik ( Grafik grafik, Nama string, Kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
nama | nama Pengoptimal ini. Defaultnya adalah "RMSProp". |
Tingkat pembelajaran | kecepatan pembelajaran |
membusuk | Faktor diskon untuk sejarah/gradien yang akan datang. Defaultnya adalah 0,9. |
momentum | Faktor akselerasi, defaultnya adalah 0. |
epsilon | Konstanta kecil untuk stabilitas numerik |
terpusat | Jika true , gradien dinormalisasi dengan perkiraan varians gradien; jika false , pada momen kedua yang tidak terpusat. Menyetelnya ke true mungkin membantu pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori. Defaultnya adalah false . |
Metode Publik
String publik getOptimizerName ()
Dapatkan Nama pengoptimal.
Kembali
- Nama pengoptimal.