Tensorflow :: ops :: SparseApplyFtrl
#include <training_ops.h>
Aktualisieren Sie relevante Einträge in '* var' gemäß dem Ftrl-proximalen Schema.
Zusammenfassung
Für Zeilen, für die wir grad haben, aktualisieren wir var, accum und linear wie folgt: $$accum_new = accum + grad * grad$$ $$linear += grad + (accum_{new}^{-lr_{power}} - accum^{-lr_{power}} / lr * var$$ $$quadratic = 1.0 / (accum_{new}^{lr_{power}} * lr) + 2 * l2$$ $$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$ $$accum = accum_{new}$$
Argumente:
- scope: Ein Scope- Objekt
- var: Sollte von einer Variablen stammen ().
- accum: Sollte von einer Variablen stammen ().
- linear: Sollte von einer Variablen stammen ().
- grad: Der Gradient.
- Indizes: Ein Vektor von Indizes in die erste Dimension von var und accum.
- lr: Skalierungsfaktor. Muss ein Skalar sein.
- l1: L1-Regularisierung. Muss ein Skalar sein.
- l2: L2-Regularisierung. Muss ein Skalar sein.
- lr_power: Skalierungsfaktor. Muss ein Skalar sein.
Optionale Attribute (siehe Attrs
):
- use_locking: Wenn
True
, wird die Aktualisierung der Var- und Accum-Tensoren durch eine Sperre geschützt. Andernfalls ist das Verhalten undefiniert, weist jedoch möglicherweise weniger Konflikte auf.
Kehrt zurück:
-
Output
: Wie "var".
Konstruktoren und Destruktoren | |
---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
Öffentliche Attribute | |
---|---|
operation | |
out |
Öffentliche Funktionen | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Öffentliche statische Funktionen | |
---|---|
UseLocking (bool x) |
Strukturen | |
---|---|
tensorflow :: ops :: SparseApplyFtrl :: Attrs | Optionale Attributsetzer für SparseApplyFtrl . |
Öffentliche Attribute
Operation
Operation operation
aus
::tensorflow::Output out
Öffentliche Funktionen
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
Knoten
::tensorflow::Node * node() const
operator :: tensorflow :: Input
operator::tensorflow::Input() const
operator :: tensorflow :: Output
operator::tensorflow::Output() const
Öffentliche statische Funktionen
UseLocking
Attrs UseLocking( bool x )