тензорный поток:: опс:: РазреженныйApplyFtrlV2
#include <training_ops.h>
Обновите соответствующие записи в '*var' в соответствии с Ftrl-проксимальной схемой.
Краткое содержание
То есть для строк, для которых у нас есть град, мы обновляем var, accum и Linear следующим образом: grad_with_shrinkage = grad + 2 * l2_shrinkage * var accum_new = accum + grad * grad linear += grad_with_shrinkage - (accum_new^(-lr_power) - accum^ (-lr_power)) / lr * var квадратичное = 1,0 / (accum_new^(lr_power) * lr) + 2 * l2 var = (sign(linear) * l1 - линейное) / квадратичное if |linear| > l1 еще 0,0 аккум = аккум_новый
Аргументы:
- область: объект области.
- var: Должно быть из переменной().
- accum: Должно быть из переменной().
- линейный: должен быть из переменной().
- град: Градиент.
- индексы: вектор индексов в первом измерении var и accum.
- lr: Коэффициент масштабирования. Должно быть скаляр.
- l1: регуляризация L1. Должно быть скаляр.
- l2: Регуляризация усадки L2. Должно быть скаляр.
- lr_power: Коэффициент масштабирования. Должно быть скаляр.
Необязательные атрибуты (см. Attrs
):
- use_locking: если
True
, обновление тензоров var и accum будет защищено блокировкой; в противном случае поведение не определено, но может вызывать меньше конфликтов.
Возврат:
-
Output
: То же, что и «var».
Конструкторы и деструкторы | |
---|---|
SparseApplyFtrlV2 (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input l2_shrinkage, :: tensorflow::Input lr_power) | |
SparseApplyFtrlV2 (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input l2_shrinkage, :: tensorflow::Input lr_power, const SparseApplyFtrlV2::Attrs & attrs) |
Публичные атрибуты | |
---|---|
operation | |
out |
Общественные функции | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Публичные статические функции | |
---|---|
MultiplyLinearByLr (bool x) | |
UseLocking (bool x) |
Структуры | |
---|---|
tensorflow::ops::SparseApplyFtrlV2::Attrs | Необязательные установщики атрибутов для SparseApplyFtrlV2 . |
Публичные атрибуты
операция
Operation operation
вне
::tensorflow::Output out
Общественные функции
РазреженныйApplyFtrlV2
SparseApplyFtrlV2( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input l2_shrinkage, ::tensorflow::Input lr_power )
РазреженныйApplyFtrlV2
SparseApplyFtrlV2( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input l2_shrinkage, ::tensorflow::Input lr_power, const SparseApplyFtrlV2::Attrs & attrs )
узел
::tensorflow::Node * node() const
оператор::tensorflow::Input
operator::tensorflow::Input() const
оператор::tensorflow::Выход
operator::tensorflow::Output() const
Публичные статические функции
Умножитьлинейныйполр
Attrs MultiplyLinearByLr( bool x )
Использование блокировки
Attrs UseLocking( bool x )