تينسورفلو :: العمليات :: تطبيق RMSProp
#include <training_ops.h>
تحديث "* var" وفقًا لخوارزمية RMSProp.
ملخص
لاحظ أنه في التنفيذ المكثف لهذه الخوارزمية ، سيتم تحديث ms و mom حتى إذا كان grad هو صفر ، ولكن في هذا التنفيذ المتناثر ، لن يتم تحديث ms و mom في التكرارات التي يكون فيها grad هو صفر.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = Learning_rate * gradient / sqrt (mean_square + epsilon)
ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- الزخم * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom
الحجج:
- النطاق: كائن النطاق
- var: يجب أن يكون من متغير ().
- ms: يجب أن يكون من المتغير ().
- mom: يجب أن تكون من متغير ().
- lr: عامل التحجيم. يجب أن يكون عددًا.
- rho: معدل الاضمحلال. يجب أن يكون عددًا.
- إبسيلون: مصطلح ريدج. يجب أن يكون عددًا.
- غراد: التدرج.
السمات الاختيارية (انظر Attrs
):
- use_locking: إذا كان هذا
True
، فإن تحديث موترات var و ms و mom محمي بقفل ؛ وبخلاف ذلك ، يكون السلوك غير محدد ، ولكنه قد يعرض خلافًا أقل.
عائدات:
-
Output
: نفس "فار".
البنائين والمدمرين | |
---|---|
ApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad) | |
ApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ApplyRMSProp::Attrs & attrs) |
السمات العامة | |
---|---|
operation | |
out |
الوظائف العامة | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
وظائف ثابتة عامة | |
---|---|
UseLocking (bool x) |
الهياكل | |
---|---|
tensorflow :: ops :: ApplyRMSProp :: Attrs | محددات السمات الاختيارية لـ ApplyRMSProp . |
السمات العامة
عملية
Operation operation
خارج
::tensorflow::Output out
الوظائف العامة
تطبيق RMSProp
ApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad )
تطبيق RMSProp
ApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, const ApplyRMSProp::Attrs & attrs )
العقدة
::tensorflow::Node * node() const
المشغل :: tensorflow :: الإدخال
operator::tensorflow::Input() const
المشغل :: Tensorflow :: Output
operator::tensorflow::Output() const
وظائف ثابتة عامة
UseLocking
Attrs UseLocking( bool x )
Except as otherwise noted, the content of this page is licensed under the Creative Commons Attribution 4.0 License, and code samples are licensed under the Apache 2.0 License. For details, see the Google Developers Site Policies. Java is a registered trademark of Oracle and/or its affiliates.
Last updated 2020-04-20 UTC.