Optymalizator implementujący algorytm RMSProp.
Istotą RMSprop jest:
- Utrzymuj średnią ruchomą (zdyskontowaną) kwadratu gradientów
- Podziel gradient przez pierwiastek tej średniej
Ta implementacja RMSprop wykorzystuje zwykły pęd, a nie pęd Niestierowa.
Wersja wyśrodkowana dodatkowo utrzymuje średnią ruchomą gradientów i wykorzystuje tę średnią do oszacowania wariancji.
Stałe
wartość logiczna | CENTERED_DEFAULT | |
platforma | DECAY_DEFAULT | |
platforma | EPSILON_DEFAULT | |
platforma | LEARNING_RATE_DEFAULT | |
Strunowy | mg | |
Strunowy | PĘD | |
platforma | MOMENTUM_DEFAULT | |
Strunowy | RMS |
Dziedziczone stałe
Strunowy | ZMIENNA_V2 |
Konstruktorzy publiczni
Metody publiczne
Strunowy | getOptimizerName () Uzyskaj nazwę optymalizatora. |
Strunowy | doString () |
Metody dziedziczone
Op | ApplyGradients (List< GradAndVar <? rozszerza TType >> gradsAndVars, nazwa ciągu) Stosuje gradienty do zmiennych |
<T rozszerza TType > Lista< GradAndVar <?>> | |
ciąg statyczny | createName ( Wyjście <? rozszerza TType > zmienna, String NazwaSlotu) Tworzy nazwę poprzez połączenie nazwy zmiennej i nazwy gniazda |
abstrakcyjny ciąg | getOptimizerName () Uzyskaj nazwę optymalizatora. |
<T rozszerza TType > Opcjonalne< Zmienna <T>> | |
ostatnie operacje | getTF () Pobiera instancję Optymalizatora |
Op | |
Op |
wartość logiczna | równa się (Obiekt arg0) |
ostatnia klasa<?> | pobierzKlasę () |
wew | hashCode () |
ostateczna pustka | powiadomić () |
ostateczna pustka | powiadom wszystkich () |
Strunowy | doString () |
ostateczna pustka | czekaj (długi arg0, int arg1) |
ostateczna pustka | czekaj (długi arg0) |
ostateczna pustka | Czekać () |
Stałe
publiczna statyczna końcowa wartość logiczna CENTERED_DEFAULT
publiczny statyczny końcowy float DECAY_DEFAULT
publiczny statyczny końcowy float EPSILON_DEFAULT
publiczny statyczny końcowy float LEARNING_RATE_DEFAULT
publiczny statyczny końcowy ciąg MG
publiczny statyczny końcowy ciąg MOMENTUM
publiczny statyczny końcowy float MOMENTUM_DEFAULT
publiczny statyczny końcowy ciąg RMS
Konstruktorzy publiczni
publiczny RMSProp (wykres graficzny )
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|
public RMSProp (wykres wykresu , float learningRate)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
Szybkość uczenia się | tempo uczenia się |
public RMSProp (wykres wykresu , nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
Szybkość uczenia się | tempo uczenia się |
rozkład | Współczynnik dyskontujący dla gradientu historii/nadchodzącego. Domyślnie jest to 0,9. |
pęd | współczynnik przyspieszenia, domyślnie wynosi 0. |
epsilon | Mała stała zapewniająca stabilność numeryczną |
wyśrodkowany | Jeśli true , gradienty są normalizowane przez szacowaną wariancję gradientu; jeśli false , przez niecentryczny drugi moment. Ustawienie tej wartości na true może pomóc w szkoleniu, ale jest nieco droższe pod względem obliczeń i pamięci. Domyślnie jest to false . |
publiczny RMSProp (wykres wykresu , nazwa ciągu, współczynnik uczenia się typu float)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
nazwa | nazwa tego Optymalizatora. Domyślnie jest to „RMSProp”. |
Szybkość uczenia się | tempo uczenia się |
publiczny RMSProp (wykres wykresu , nazwa ciągu, nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
nazwa | nazwa tego Optymalizatora. Domyślnie jest to „RMSProp”. |
Szybkość uczenia się | tempo uczenia się |
rozkład | Współczynnik dyskontujący dla gradientu historii/nadchodzącego. Domyślnie jest to 0,9. |
pęd | Współczynnik przyspieszenia, domyślnie wynosi 0. |
epsilon | Mała stała zapewniająca stabilność numeryczną |
wyśrodkowany | Jeśli true , gradienty są normalizowane przez szacowaną wariancję gradientu; jeśli false , przez niecentryczny drugi moment. Ustawienie tej wartości na true może pomóc w szkoleniu, ale jest nieco droższe pod względem obliczeń i pamięci. Domyślnie jest to false . |
Metody publiczne
public String getOptimizerName ()
Uzyskaj nazwę optymalizatora.
Zwroty
- Nazwa optymalizatora.