публичный класс AdaGradDA
Оптимизатор, реализующий алгоритм двойного усреднения Adagrad.
Этот оптимизатор заботится о регуляризации невидимых функций в мини-пакете, обновляя их, когда они появляются, с помощью правила обновления закрытой формы, которое эквивалентно их обновлению в каждом мини-пакете.
AdagradDA обычно используется, когда требуется большая разреженность обученной модели. Этот оптимизатор гарантирует разреженность только для линейных моделей. Будьте осторожны при использовании AdagradDA для глубоких сетей, поскольку для обучения потребуется тщательная инициализация аккумуляторов градиента.
Константы
| Нить | АККУМУЛЯТОР | |
| плавать | INITIAL_ACCUMULATOR_DEFAULT | |
| плавать | L1_STRENGTH_DEFAULT | |
| плавать | L2_STRENGTH_DEFAULT | |
| плавать | LEARNING_RATE_DEFAULT | |
| Нить | SQUARED_ACCUMULATOR |
Унаследованные константы
Публичные конструкторы
Публичные методы
| Нить | getOptimizerName () Получите имя оптимизатора. |
| Нить | нанизывать () |
Унаследованные методы
Константы
общедоступный статический окончательный строковый аккумулятор
Постоянное значение: «gradient_accumulator»
общедоступный статический финальный float INITIAL_ACCUMULATOR_DEFAULT
Постоянное значение: 0,1
общедоступный статический финальный плавающий элемент L1_STRENGTH_DEFAULT
Постоянное значение: 0,0
общедоступный статический финальный плавающий элемент L2_STRENGTH_DEFAULT
Постоянное значение: 0,0
общедоступный статический финальный плавающий элемент LEARNING_RATE_DEFAULT
Постоянное значение: 0,001
общедоступная статическая финальная строка SQUARED_ACCUMULATOR
Постоянное значение: «gradient_squared_accumulator»
Публичные конструкторы
public AdaGradDA ( график , float LearningRate)
Создает оптимизатор AdaGradDA.
Параметры
| график | граф TensorFlow |
|---|---|
| Скорость обучения | скорость обучения |
public AdaGradDA (график графика , float LearningRate, float InitialAccumulatorValue, float l1Strength, float l2Strength)
Создает оптимизатор AdaGradDA.
Параметры
| график | граф TensorFlow |
|---|---|
| Скорость обучения | скорость обучения |
| начальное значение аккумулятора | Начальное значение аккумуляторов должно быть больше нуля. |
| l1Сила | Сила регуляризации l1 должна быть больше или равна нулю. |
| l2Сила | Сила регуляризации l2 должна быть больше или равна нулю. |
Броски
| IllegalArgumentException | если InitialAccumulatorValue не больше нуля или l1Strength или l2Strength меньше нуля |
|---|
public AdaGradDA (график графика , имя строки, скорость обучения с плавающей запятой)
Создает оптимизатор AdaGradDA.
Параметры
| график | граф TensorFlow |
|---|---|
| имя | имя этого оптимизатора (по умолчанию «adagrad-da») |
| Скорость обучения | скорость обучения |
public AdaGradDA (график графика , имя строки, float LearningRate, float InitialAccumulatorValue, float l1Strength, float l2Strength)
Создает оптимизатор AdaGradDA.
Параметры
| график | граф TensorFlow |
|---|---|
| имя | имя этого оптимизатора (по умолчанию «adagrad-da») |
| Скорость обучения | скорость обучения |
| начальное значение аккумулятора | Начальное значение аккумуляторов должно быть положительным. |
| l1Сила | Сила регуляризации l1 должна быть больше или равна нулю. |
| l2Сила | Сила регуляризации l2 должна быть больше или равна нулю. |
Броски
| IllegalArgumentException | если InitialAccumulatorValue не больше нуля или * l1Strength или l2Strength меньше нуля |
|---|
Публичные методы
общедоступная строка getOptimizerName ()
Получите имя оптимизатора.
Возврат
- Имя оптимизатора.