SparseApplyRmsProp

SparseApplyRmsProp classe final pública

Atualize '* var' de acordo com o algoritmo RMSProp.

Observe que na implementação densa deste algoritmo, ms e mom serão atualizados mesmo se o grad for zero, mas nesta implementação esparsa, ms e mom não serão atualizados em iterações durante as quais o grad for zero.

média_quadrada = decadência * média_quadrada + (1-decadência) * gradiente ** 2 Delta = taxa_de_prendizagem * gradiente / quadrada (média_quadrada + épsilon)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

Classes aninhadas

classe SparseApplyRmsProp.Options Atributos opcionais para SparseApplyRmsProp

Constantes

Fragmento OP_NAME O nome desta operação, conforme conhecido pelo motor principal TensorFlow

Métodos Públicos

Output <T>
asOutput ()
Retorna o identificador simbólico do tensor.
estática <T estende TType > SparseApplyRmsProp <T>
criar ( Scope escopo, Operando <T> var, Operando <T> ms, Operando <T> mãe, Operando <T> lr, Operando <T> ró, Operando <T> impulso, Operando <T> epsilon, Operando <T > grad, Operando <? estende TNumber > índices, Options ... opções)
Método de fábrica para criar uma classe envolvendo uma nova operação SparseApplyRmsProp.
Output <T>
a ()
O mesmo que "var".
estáticos SparseApplyRmsProp.Options
useLocking (booleano useLocking)

Métodos herdados

Constantes

nome_op final String public static

O nome desta operação, conforme conhecido pelo motor principal TensorFlow

Valor constante: "SparseApplyRMSProp"

Métodos Públicos

pública Output <T> asOutput ()

Retorna o identificador simbólico do tensor.

As entradas para as operações do TensorFlow são saídas de outra operação do TensorFlow. Este método é usado para obter um identificador simbólico que representa o cálculo da entrada.

public static SparseApplyRmsProp <T> create ( Scope escopo, Operando <T> var, Operando <T> ms, Operando <T> mãe, Operando <T> lr, Operando <T> ró, Operando <T> impulso, Operando <T > epsilon, Operando <T> grad, Operando <? estende TNumber > índices, Options ... opções)

Método de fábrica para criar uma classe envolvendo uma nova operação SparseApplyRmsProp.

Parâmetros
alcance escopo atual
var Deve ser de uma variável ().
em Deve ser de uma variável ().
mãe Deve ser de uma variável ().
lr Fator de escala. Deve ser um escalar.
rho Taxa de decaimento. Deve ser um escalar.
épsilon Termo de cume. Deve ser um escalar.
grad O gradiente.
índices Um vetor de índices na primeira dimensão de var, ms e mom.
opções carrega valores de atributos opcionais
Devoluções
  • uma nova instância de SparseApplyRmsProp

pública Output <T> out ()

O mesmo que "var".

public static SparseApplyRmsProp.Options useLocking (Boolean useLocking)

Parâmetros
useLocking Se for `True`, a atualização dos tensores var, ms e mom é protegida por um bloqueio; caso contrário, o comportamento é indefinido, mas pode exibir menos contenção.