AdaGradDA

classe publique AdaGradDA

Optimiseur qui implémente l'algorithme Adagrad Dual-Averaging.

Cet optimiseur s'occupe de la régularisation des fonctionnalités invisibles dans un mini-lot en les mettant à jour lorsqu'elles sont vues avec une règle de mise à jour de formulaire fermé qui équivaut à les avoir mises à jour à chaque mini-lot.

AdagradDA est généralement utilisé lorsqu'il existe un besoin d'une grande parcimonie dans le modèle formé. Cet optimiseur ne garantit la parcimonie que pour les modèles linéaires. Soyez prudent lorsque vous utilisez AdagradDA pour des réseaux profonds, car son entraînement nécessitera une initialisation minutieuse des accumulateurs de gradient.

Voir également

Constantes

Chaîne ACCUMULATEUR
flotter INITIAL_ACCUMULATOR_DEFAULT
flotter L1_STRENGTH_DEFAULT
flotter L2_STRENGTH_DEFAULT
flotter LEARNING_RATE_DEFAULT
Chaîne SQUARED_ACCUMULATOR

Constantes héritées

Constructeurs Publics

AdaGradDA ( graphique graphique )
Crée un optimiseur AdaGradDA
AdaGradDA ( Graphique , taux d'apprentissage flottant)
Crée un optimiseur AdaGradDA
AdaGradDA ( Graphique , float learningRate, float initialAccumulatorValue, float l1Strength, float l2Strength)
Crée un optimiseur AdaGradDA
AdaGradDA ( Graphique , nom de la chaîne, taux d'apprentissage flottant)
Crée un optimiseur AdaGradDA
AdaGradDA ( Graphique , nom de la chaîne, float learningRate, float initialAccumulatorValue, float l1Strength, float l2Strength)
Crée un optimiseur AdaGradDA

Méthodes publiques

Chaîne
getOptimizerName ()
Obtenez le nom de l'optimiseur.
Chaîne
àChaîne ()

Méthodes héritées

Constantes

chaîne finale statique publique ACCUMULATEUR

Valeur constante : "gradient_accumulator"

public statique final float INITIAL_ACCUMULATOR_DEFAULT

Valeur constante : 0,1

public statique final float L1_STRENGTH_DEFAULT

Valeur constante : 0,0

public statique final float L2_STRENGTH_DEFAULT

Valeur constante : 0,0

public statique final float LEARNING_RATE_DEFAULT

Valeur constante : 0,001

chaîne finale statique publique SQUARED_ACCUMULATOR

Valeur constante : "gradient_squared_accumulator"

Constructeurs Publics

public AdaGradDA ( Graphique )

Crée un optimiseur AdaGradDA

Paramètres
graphique le graphique TensorFlow

public AdaGradDA ( Graphique , float learningRate)

Crée un optimiseur AdaGradDA

Paramètres
graphique le graphique TensorFlow
taux d'apprentissage le taux d'apprentissage

public AdaGradDA ( Graphique , float learningRate, float initialAccumulatorValue, float l1Strength, float l2Strength)

Crée un optimiseur AdaGradDA

Paramètres
graphique le graphique TensorFlow
taux d'apprentissage le taux d'apprentissage
valeur initiale de l'accumulateur La valeur de départ des accumulateurs doit être supérieure à zéro.
l1Force La force de régularisation l1, doit être supérieure ou égale à zéro.
l2Force la force de régularisation l2, doit être supérieure ou égale à zéro.
Jetés
Exception d'argument illégal si initialAccumulatorValue n'est pas supérieur à zéro, ou si l1Strength ou l2Strength est inférieur à zéro

public AdaGradDA ( Graphique , nom de chaîne, taux d'apprentissage flottant)

Crée un optimiseur AdaGradDA

Paramètres
graphique le graphique TensorFlow
nom le nom de cet optimiseur (par défaut 'adagrad-da')
taux d'apprentissage le taux d'apprentissage

public AdaGradDA ( Graphique , nom de la chaîne, float learningRate, float initialAccumulatorValue, float l1Strength, float l2Strength)

Crée un optimiseur AdaGradDA

Paramètres
graphique le graphique TensorFlow
nom le nom de cet optimiseur (par défaut 'adagrad-da')
taux d'apprentissage le taux d'apprentissage
valeur initiale de l'accumulateur La valeur de départ des accumulateurs doit être positive
l1Force La force de régularisation l1, doit être supérieure ou égale à zéro.
l2Force la force de régularisation l2, doit être supérieure ou égale à zéro.
Jetés
Exception d'argument illégal si initialAccumulatorValue n'est pas supérieur à zéro, ou * l1Strength ou l2Strength est inférieur à zéro

Méthodes publiques

chaîne publique getOptimizerName ()

Obtenez le nom de l'optimiseur.

Retour
  • Le nom de l'optimiseur.

chaîne publique versString ()