тензорный поток :: ops :: Редко
#include <training_ops.h>
Обновите соответствующие записи в '* var' и '* accum' в соответствии со схемой импульса.
Резюме
Установите use_nesterov = True, если хотите использовать импульс Нестерова.
То есть для строк, для которых у нас есть градиент, мы обновляем переменные и накопление следующим образом:
$$accum = accum * momentum + grad$$
$$var -= lr * accum$$
Аргументы:
- scope: объект Scope
- var: должно быть из переменной ().
- Накопление: должно быть из переменной ().
- lr: Скорость обучения. Должен быть скаляр.
- grad: градиент.
- индексы: вектор индексов в первом измерении переменных и аккумуляторов.
- импульс: импульс. Должен быть скаляр.
Необязательные атрибуты (см. Attrs
):
- use_locking: Если
True
, обновление тензоров переменных и аккумуляторов будет защищено блокировкой; в противном случае поведение не определено, но может вызывать меньше конфликтов. - use_nesterov: если
True
, тензор, переданный для вычисления grad, будет var - lr * momentum * аккумулятор, так что в конечном итоге вы получите var - lr * momentum * аккумулятор.
Возврат:
-
Output
: То же, что и «var».
Конструкторы и деструкторы | |
---|---|
SparseApplyMomentum (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input momentum) | |
SparseApplyMomentum (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input momentum, const SparseApplyMomentum::Attrs & attrs) |
Публичные атрибуты | |
---|---|
operation | |
out |
Публичные функции | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Публичные статические функции | |
---|---|
UseLocking (bool x) | |
UseNesterov (bool x) |
Структуры | |
---|---|
tenorflow :: ops :: SparseApplyMomentum :: Attrs | Необязательные установщики атрибутов для SparseApplyMomentum . |
Публичные атрибуты
операция
Operation operation
вне
::tensorflow::Output out
Публичные функции
Редко
SparseApplyMomentum( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input momentum )
Редко
SparseApplyMomentum( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input momentum, const SparseApplyMomentum::Attrs & attrs )
узел
::tensorflow::Node * node() const
оператор :: тензорный поток :: Ввод
operator::tensorflow::Input() const
оператор :: tenorflow :: Выход
operator::tensorflow::Output() const
Публичные статические функции
Использование
Attrs UseLocking( bool x )
UseNesterov
Attrs UseNesterov( bool x )