публичный класс RMSProp
Оптимизатор, реализующий алгоритм RMSProp.
Суть RMSprop заключается в следующем:
- Поддерживать скользящее (дисконтированное) среднее квадрата градиентов.
- Разделите градиент на корень этого среднего значения.
Эта реализация RMSprop использует простой импульс, а не импульс Нестерова.
Центрированная версия дополнительно поддерживает скользящее среднее градиентов и использует это среднее значение для оценки дисперсии.
Константы
| логическое значение | CENTERED_DEFAULT | |
| плавать | DECAY_DEFAULT | |
| плавать | EPSILON_DEFAULT | |
| плавать | LEARNING_RATE_DEFAULT | |
| Нить | МГ | |
| Нить | МОМЕНТУМ | |
| плавать | MOMENTUM_DEFAULT | |
| Нить | среднеквадратичное значение |
Унаследованные константы
Публичные конструкторы
Публичные методы
| Нить | getOptimizerName () Получите имя оптимизатора. |
| Нить | нанизывать () |
Унаследованные методы
Константы
общедоступное статическое окончательное логическое значение CENTERED_DEFAULT
Постоянное значение: ложь
общедоступный статический финальный float DECAY_DEFAULT
Постоянное значение: 0,9
общедоступный статический финальный float EPSILON_DEFAULT
Постоянное значение: 1,0E-10
общедоступный статический финальный плавающий элемент LEARNING_RATE_DEFAULT
Постоянное значение: 0,001
общедоступная статическая финальная строка MG
Постоянное значение: «мг»
публичная статическая финальная строка MOMENTUM
Постоянное значение: «импульс».
общедоступный статический финальный float MOMENTUM_DEFAULT
Постоянное значение: 0,0
общедоступная статическая финальная строка RMS
Постоянное значение: «rms»
Публичные конструкторы
public RMSProp ( график , float LearningRate)
Создает оптимизатор RMSPRrop.
Параметры
| график | граф TensorFlow |
|---|---|
| Скорость обучения | скорость обучения |
public RMSProp (график графика , скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)
Создает оптимизатор RMSPRrop.
Параметры
| график | граф TensorFlow |
|---|---|
| Скорость обучения | скорость обучения |
| разлагаться | Коэффициент дисконтирования для исторического/предстоящего градиента. По умолчанию 0,9. |
| импульс | коэффициент ускорения, по умолчанию равен 0. |
| эпсилон | Небольшая константа для численной стабильности |
| центрированный | Если true , градиенты нормализуются по предполагаемой дисперсии градиента; если false , то по нецентрированному второму моменту. Установка значения true может помочь в обучении, но требует немного больше затрат с точки зрения вычислений и памяти. По умолчанию установлено значение false . |
public RMSProp (график графика , имя строки, скорость обучения с плавающей запятой)
Создает оптимизатор RMSPRrop.
Параметры
| график | граф TensorFlow |
|---|---|
| имя | имя этого оптимизатора. По умолчанию «RMSProp». |
| Скорость обучения | скорость обучения |
public RMSProp (график графика , имя строки, скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)
Создает оптимизатор RMSPRrop.
Параметры
| график | граф TensorFlow |
|---|---|
| имя | имя этого оптимизатора. По умолчанию «RMSProp». |
| Скорость обучения | скорость обучения |
| разлагаться | Коэффициент дисконтирования для исторического/предстоящего градиента. По умолчанию 0,9. |
| импульс | Коэффициент ускорения, по умолчанию равен 0. |
| эпсилон | Небольшая константа для численной стабильности |
| центрированный | Если true , градиенты нормализуются по предполагаемой дисперсии градиента; если false , то по нецентрированному второму моменту. Установка значения true может помочь в обучении, но требует немного больше затрат с точки зрения вычислений и памяти. По умолчанию установлено значение false . |
Публичные методы
общедоступная строка getOptimizerName ()
Получите имя оптимизатора.
Возврат
- Имя оптимизатора.