تينسورفلو :: العمليات :: تطبيق RMSProp
#include <training_ops.h>
تحديث "* var" وفقًا لخوارزمية RMSProp.
ملخص
لاحظ أنه في التنفيذ المكثف لهذه الخوارزمية ، سيتم تحديث ms و mom حتى إذا كان grad هو صفر ، ولكن في هذا التنفيذ المتناثر ، لن يتم تحديث ms و mom في التكرارات التي يكون فيها grad هو صفر.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = Learning_rate * gradient / sqrt (mean_square + epsilon)
ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- الزخم * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom
الحجج:
- النطاق: كائن النطاق
- var: يجب أن يكون من متغير ().
- ms: يجب أن يكون من المتغير ().
- mom: يجب أن تكون من متغير ().
- lr: عامل التحجيم. يجب أن يكون عددًا.
- rho: معدل الاضمحلال. يجب أن يكون عددًا.
- إبسيلون: مصطلح ريدج. يجب أن يكون عددًا.
- غراد: التدرج.
السمات الاختيارية (انظر Attrs
):
- use_locking: إذا كان هذا
True
، فإن تحديث موترات var و ms و mom محمي بقفل ؛ وبخلاف ذلك ، يكون السلوك غير محدد ، ولكنه قد يعرض خلافًا أقل.
عائدات:
-
Output
: نفس "فار".
البنائين والمدمرين | |
---|---|
ApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad) | |
ApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ApplyRMSProp::Attrs & attrs) |
السمات العامة | |
---|---|
operation | |
out |
الوظائف العامة | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
وظائف ثابتة عامة | |
---|---|
UseLocking (bool x) |
الهياكل | |
---|---|
tensorflow :: ops :: ApplyRMSProp :: Attrs | محددات السمات الاختيارية لـ ApplyRMSProp . |
السمات العامة
عملية
Operation operation
خارج
::tensorflow::Output out
الوظائف العامة
تطبيق RMSProp
ApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad )
تطبيق RMSProp
ApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, const ApplyRMSProp::Attrs & attrs )
العقدة
::tensorflow::Node * node() const
المشغل :: tensorflow :: الإدخال
operator::tensorflow::Input() const
المشغل :: Tensorflow :: Output
operator::tensorflow::Output() const
وظائف ثابتة عامة
UseLocking
Attrs UseLocking( bool x )
إنّ محتوى هذه الصفحة مرخّص بموجب ترخيص Creative Commons Attribution 4.0 ما لم يُنصّ على خلاف ذلك، ونماذج الرموز مرخّصة بموجب ترخيص Apache 2.0. للاطّلاع على التفاصيل، يُرجى مراجعة سياسات موقع Google Developers. إنّ Java هي علامة تجارية مسجَّلة لشركة Oracle و/أو شركائها التابعين.
تاريخ التعديل الأخير: 2020-04-20 (حسب التوقيت العالمي المتفَّق عليه)