ApplyRmsProp

publiczna klasa końcowa ApplyRmsProp

Zaktualizuj „*var” zgodnie z algorytmem RMSProp.

Należy zauważyć, że w gęstej implementacji tego algorytmu ms i mama zostaną zaktualizowane, nawet jeśli grad będzie wynosić zero, ale w tej rzadkiej implementacji ms i mama nie będą aktualizować się w iteracjach, podczas których grad będzie wynosić zero.

średnia_kwadrat = zanik * średnia_kwadrat + (1-zanik) * gradient ** 2 Delta = szybkość_uczenia się * gradient / sqrt(średnia_kwadrat + epsilon)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mama <- pęd * mama_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mama

Klasy zagnieżdżone

klasa ZastosujRmsProp.Options Opcjonalne atrybuty ApplyRmsProp

Stałe

Strunowy OP_NAME Nazwa tej operacji znana silnikowi rdzenia TensorFlow

Metody publiczne

Wyjście <T>
jako wyjście ()
Zwraca symboliczny uchwyt tensora.
statyczny <T rozszerza TType > ApplyRmsProp <T>
utwórz (Zakres zasięgu , Operand <T> var, Operand <T> ms, Operand <T> mama, Operand <T> lr, Operand <T> rho, Operand <T> pęd, Operand <T> epsilon, Argument <T > grad, Opcje... opcje)
Metoda fabryczna służąca do tworzenia klasy opakowującej nową operację ApplyRmsProp.
Wyjście <T>
na zewnątrz ()
To samo co „var”.
statyczne ApplyRmsProp.Options
useLocking (boolowski useLocking)

Metody dziedziczone

Stałe

publiczny statyczny końcowy ciąg znaków OP_NAME

Nazwa tej operacji znana silnikowi rdzenia TensorFlow

Wartość stała: „ZastosujRMSProp”

Metody publiczne

publiczne wyjście <T> asOutput ()

Zwraca symboliczny uchwyt tensora.

Dane wejściowe operacji TensorFlow są wynikami innej operacji TensorFlow. Ta metoda służy do uzyskania symbolicznego uchwytu reprezentującego obliczenia danych wejściowych.

public static ApplyRmsProp <T> utwórz ( Zakres zakresu, Operand <T> var, Operand <T> ms, Operand <T> mama, Operand <T> lr, Operand <T> rho, Operand <T> pęd, Operand <T > epsilon, Operand <T> grad, Opcje... opcje)

Metoda fabryczna służąca do tworzenia klasy opakowującej nową operację ApplyRmsProp.

Parametry
zakres aktualny zakres
odm Powinno pochodzić ze zmiennej ().
SM Powinno pochodzić ze zmiennej ().
mama Powinno pochodzić ze zmiennej ().
lr Współczynnik skalowania. Musi być skalarem.
rho Szybkość zaniku. Musi być skalarem.
epsilon Termin grzbietowy. Musi być skalarem.
absolwent Gradient.
opcje przenosi opcjonalne wartości atrybutów
Zwroty
  • nowa instancja ApplyRmsProp

publiczne wyjście <T> out ()

To samo co „var”.

public static ApplyRmsProp.Options useLocking (Boolean useLocking)

Parametry
użyjBlokowanie Jeśli `True`, aktualizacja tensorów var, ms i mama jest chroniona blokadą; w przeciwnym razie zachowanie jest niezdefiniowane, ale może wykazywać mniejszą rywalizację.