tensorflow :: ops :: ResourceApplyRMSProp

"* var" را با توجه به الگوریتم RMSProp به روز کنید.

خلاصه

توجه داشته باشید که در پیاده سازی متراکم این الگوریتم ، ms و mom حتی اگر درجه صفر باشد به روز می شوند ، اما در این اجرای کم ، ms و mom با تکرارهایی که درجه صفر است به روز نمی شوند.

مربع_میان = پوسیدگی * مربع_میانگین + (1-فروپاشی) * گرادیان ** 2 دلتا = درجه_ یادگیری * گرادیان / sqrt (مربع_میان + اپسیلون)

ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- momentum * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom

استدلال ها:

• دامنه: یک شی Sc Scope
• var: باید از یک متغیر () باشد.
• ms: باید از یک متغیر () باشد.
• mom: باید از یک متغیر باشد ().
• lr: عامل مقیاس گذاری. باید اسکالر باشد.
• rho: میزان پوسیدگی. باید اسکالر باشد.
• epsilon: اصطلاح ریج. باید اسکالر باشد.
• grad: شیب.

ویژگی های اختیاری (به Attrs مراجعه کنید):

• use_locking: اگر True ، به روزرسانی سنسورهای var ، ms و mom توسط قفل محافظت می شود. در غیر این صورت رفتار تعریف نشده است ، اما ممکن است مشاجره کمتری از خود نشان دهد.

بازده:

• Operation ایجاد شده

صفات عمومی

Operation operation

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ResourceApplyRMSProp::Attrs & attrs
)

 operator::tensorflow::Operation() const 

Attrs UseLocking(
  bool x
)