tensorflow::ops::ApplyProximalAdagrad
#include <training_ops.h>Обновите переменные '*var' и '*accum' в соответствии с алгоритмом FOBOS и скоростью обучения Adagrad.
Краткое содержание
accum += grad * grad prox_v = var - lr * grad * (1 / sqrt(accum)) var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}
Аргументы:
- scope: Объект Scope
- var: Должно быть из функции Variable().
- accum: Должно быть из переменной (Variable()).
- lr: Масштабный коэффициент. Должен быть скалярным значением.
- l1: L1-регуляризация. Должна быть скалярной величиной.
- l2: L2-регуляризация. Должна быть скалярной величиной.
- grad: Градиент.
Дополнительные атрибуты (см. Attrs ):
- use_locking: Если True, обновление тензоров var и accum будет защищено блокировкой; в противном случае поведение не определено, но может демонстрировать меньшую конкуренцию.
Возвращает:
-
Output: То же, что и "var".
Конструкторы и Деструкторы | |
|---|---|
ApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad) | |
ApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, const ApplyProximalAdagrad::Attrs & attrs) |
Общедоступные атрибуты | |
|---|---|
operation | |
out | |
Общественные функции | |
|---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const | |
Открытые статические функции | |
|---|---|
UseLocking (bool x) | |
Структуры | |
|---|---|
| tensorflow::ops::ApplyProximalAdagrad::Attrs | Дополнительные параметры установки атрибутов для ApplyProximalAdagrad . |
Общедоступные атрибуты
операция
Operation operation
вне
::tensorflow::Output out
Общественные функции
ApplyProximalAdagrad
ApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad )
ApplyProximalAdagrad
ApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, const ApplyProximalAdagrad::Attrs & attrs )
узел
::tensorflow::Node * node() const
оператор::tensorflow::Input
operator::tensorflow::Input() const
оператор::tensorflow::Output
operator::tensorflow::Output() const
Открытые статические функции
UseLocking
Attrs UseLocking( bool x )