RMSProp

публичный класс RMSProp

Оптимизатор, реализующий алгоритм RMSProp.

Суть RMSprop заключается в следующем:

  • Поддерживать скользящее (дисконтированное) среднее квадрата градиентов.
  • Разделите градиент на корень этого среднего значения.

Эта реализация RMSprop использует простой импульс, а не импульс Нестерова.

Центрированная версия дополнительно поддерживает скользящее среднее градиентов и использует это среднее значение для оценки дисперсии.

Смотрите также

Константы

логическое значение CENTERED_DEFAULT
плавать DECAY_DEFAULT
плавать EPSILON_DEFAULT
плавать LEARNING_RATE_DEFAULT
Нить МГ
Нить МОМЕНТУМ
плавать MOMENTUM_DEFAULT
Нить среднеквадратичное значение

Унаследованные константы

org.tensorflow.framework.optimizers.Optimizer

Публичные конструкторы

RMSProp ( график )
Создает оптимизатор RMSPRrop.
RMSProp (график графика , скорость обучения с плавающей запятой)
Создает оптимизатор RMSPRrop.
RMSProp (график графика , скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)
Создает оптимизатор RMSPRrop.
RMSProp (график графика , имя строки, скорость обучения с плавающей запятой)
Создает оптимизатор RMSPRrop.
RMSProp (график графика , имя строки, скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)
Создает оптимизатор RMSPRrop.

Публичные методы

Нить
getOptimizerName ()
Получите имя оптимизатора.
Нить
нанизывать ()

Унаследованные методы

org.tensorflow.framework.optimizers.Optimizer
Оп
applyGradients (List< GradAndVar <? расширяет TType >> gradsAndVars, имя строки)
Применяет градиенты к переменным
<T расширяет TType > List< GradAndVar <?>>
ComputeGradients ( Операнд <?> потеря)
Вычисляет градиенты на основе операнда потерь.
статическая строка
createName ( Вывод <? расширяет переменную TType >, String slotName)
Создает имя путем объединения имени переменной и имени слота.
абстрактная строка
getOptimizerName ()
Получите имя оптимизатора.
<T расширяет TType > Необязательно< Переменная <T>>
getSlot ( Вывод <T> var, строка slotName)
Получает слот, связанный с указанной переменной и именем слота.
финальная операция
получитьТФ ()
Получает экземпляр Ops оптимизатора.
Оп
минимизировать ( Операнд <?> потеря)
Минимизирует потери за счет обновления переменных
Оп
минимизировать (потеря операнда <?>, имя строки)
Минимизирует потери за счет обновления переменных
логическое значение
равно (Объект arg0)
последний класс<?>
получитьКласс ()
интервал
хэш-код ()
окончательная пустота
поставить в известность ()
окончательная пустота
уведомитьВсе ()
Нить
нанизывать ()
окончательная пустота
подождать (длинный arg0, int arg1)
окончательная пустота
подождите (длинный arg0)
окончательная пустота
ждать ()

Константы

общедоступное статическое окончательное логическое значение CENTERED_DEFAULT

Постоянное значение: ложь

общедоступный статический финальный float DECAY_DEFAULT

Постоянное значение: 0,9

общедоступный статический финальный float EPSILON_DEFAULT

Постоянное значение: 1,0E-10

общедоступный статический финальный плавающий элемент LEARNING_RATE_DEFAULT

Постоянное значение: 0,001

общедоступная статическая финальная строка MG

Постоянное значение: «мг»

публичная статическая финальная строка MOMENTUM

Постоянное значение: «импульс».

общедоступный статический финальный float MOMENTUM_DEFAULT

Постоянное значение: 0,0

общедоступная статическая финальная строка RMS

Постоянное значение: «rms»

Публичные конструкторы

общедоступный RMSProp ( график )

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow

public RMSProp ( график , float LearningRate)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
Скорость обучения скорость обучения

public RMSProp (график графика , скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
Скорость обучения скорость обучения
разлагаться Коэффициент дисконтирования для исторического/предстоящего градиента. По умолчанию 0,9.
импульс коэффициент ускорения, по умолчанию равен 0.
эпсилон Небольшая константа для численной стабильности
центрированный Если true , градиенты нормализуются по предполагаемой дисперсии градиента; если false , то по нецентрированному второму моменту. Установка значения true может помочь в обучении, но требует немного больше затрат с точки зрения вычислений и памяти. По умолчанию установлено значение false .

public RMSProp (график графика , имя строки, скорость обучения с плавающей запятой)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
имя имя этого оптимизатора. По умолчанию «RMSProp».
Скорость обучения скорость обучения

public RMSProp (график графика , имя строки, скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
имя имя этого оптимизатора. По умолчанию «RMSProp».
Скорость обучения скорость обучения
разлагаться Коэффициент дисконтирования для исторического/предстоящего градиента. По умолчанию 0,9.
импульс Коэффициент ускорения, по умолчанию равен 0.
эпсилон Небольшая константа для численной стабильности
центрированный Если true , градиенты нормализуются по предполагаемой дисперсии градиента; если false , то по нецентрированному второму моменту. Установка значения true может помочь в обучении, но требует немного больше затрат с точки зрения вычислений и памяти. По умолчанию установлено значение false .

Публичные методы

общедоступная строка getOptimizerName ()

Получите имя оптимизатора.

Возврат
  • Имя оптимизатора.

публичная строка toString ()