از اینکه با Google I/O تنظیم کردید متشکریم. مشاهده همه جلسات در صورت تقاضا تماشا کنید

tensorflow :: ops :: SparseApplyRMSProp

#include <training_ops.h>

"* var" را با توجه به الگوریتم RMSProp به روز کنید.

خلاصه

توجه داشته باشید که در پیاده سازی متراکم این الگوریتم ، ms و mom حتی اگر درجه صفر باشد به روز می شوند ، اما در این اجرای کم ، ms و mom با تکرارهایی که درجه صفر است به روز نمی شوند.

مربع_ متوسط ​​= پوسیدگی * مربع_ متوسط ​​+ (1-فروپاشی) * گرادیان ** 2 دلتا = درجه_ یادگیری * گرادیان / مربع (مربع_میان + اپسیلون)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$ $$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$ $$var <- var - mom$$

استدلال ها:

  • دامنه: یک شی Sc Scope
  • var: باید از یک متغیر () باشد.
  • ms: باید از یک متغیر () باشد.
  • mom: باید از یک متغیر باشد ().
  • lr: عامل مقیاس گذاری. باید اسکالر باشد.
  • rho: میزان پوسیدگی. باید اسکالر باشد.
  • epsilon: اصطلاح ریج. باید اسکالر باشد.
  • grad: شیب.
  • شاخص ها: برداري از شاخص ها در بعد اول var ، ms و mom.

ویژگی های اختیاری (به Attrs مراجعه کنید):

  • use_locking: اگر True ، به روزرسانی سنسورهای var ، ms و mom توسط قفل محافظت می شود. در غیر این صورت رفتار تعریف نشده است ، اما ممکن است مشاجره کمتری از خود نشان دهد.

بازده:

  • Output : همان "var" است.

سازندگان و ویرانگران

SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices)
SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyRMSProp::Attrs & attrs)

صفات عمومی

operation
out

کارکردهای عمومی

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

توابع استاتیک عمومی

UseLocking (bool x)

سازه ها

tensorflow :: ops :: SparseApplyRMSProp :: Attrs

تنظیم کننده های ویژگی اختیاری برای SparseApplyRMSProp .

صفات عمومی

عمل

Operation operation

بیرون

::tensorflow::Output out

کارکردهای عمومی

SparseApplyRMSProp

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

SparseApplyRMSProp

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyRMSProp::Attrs & attrs
)

گره

::tensorflow::Node * node() const

عملگر :: tensorflow :: ورودی

 operator::tensorflow::Input() const

عملگر :: tensorflow :: خروجی

 operator::tensorflow::Output() const

توابع استاتیک عمومی

استفاده از قفل کردن

Attrs UseLocking(
  bool x
)