tensorflow:: ops:: SparseApplyRMSProp

#include <training_ops.h>

RMSProp অ্যালগরিদম অনুযায়ী '*var' আপডেট করুন।

সারসংক্ষেপ

উল্লেখ্য যে, এই অ্যালগরিদমের ডেন্স ইমপ্লিমেন্টেশনে, grad শূন্য হলেও ms এবং mom আপডেট হবে, কিন্তু এই স্পার্স ইমপ্লিমেন্টেশনে, যে ইটারেশনগুলোতে grad শূন্য থাকে, সেগুলোতে ms এবং mom আপডেট হবে না।

গড় বর্গ = ক্ষয় * গড় বর্গ + (1-ক্ষয়) * গ্রেডিয়েন্ট ** 2 ডেল্টা = শেখার হার * গ্রেডিয়েন্ট / বর্গমূল(গড় বর্গ + এপসিলন)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$
$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$
$$var <- var - mom$$

যুক্তি:

  • স্কোপ: একটি স্কোপ অবজেক্ট
  • var: Variable() থেকে আসা উচিত।
  • ms: এটি একটি Variable() থেকে হওয়া উচিত।
  • mom: একটি Variable() থেকে হওয়া উচিত।
  • lr: স্কেলিং ফ্যাক্টর। এটি অবশ্যই একটি স্কেলার হতে হবে।
  • রো: ক্ষয়ের হার। অবশ্যই স্কেলার হতে হবে।
  • এপসিলন: রিজ টার্ম। অবশ্যই স্কেলার হতে হবে।
  • grad: নতিমাত্রা।
  • indices: var, ms এবং mom-এর প্রথম ডাইমেনশনের সূচকসমূহের একটি ভেক্টর।

ঐচ্ছিক অ্যাট্রিবিউটসমূহ (দেখুন Attrs ):

  • use_locking: যদি True , তাহলে var, ms, এবং mom টেনসরগুলোর আপডেট একটি লক দ্বারা সুরক্ষিত থাকে; অন্যথায় এর আচরণ অনির্ধারিত, তবে এতে কনটেনশন কম হতে পারে।

ফেরত:

  • Output : "var"-এর অনুরূপ।

নির্মাতা এবং ধ্বংসকারী

SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices)
SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyRMSProp::Attrs & attrs)

জনসাধারণের বৈশিষ্ট্য

operation
out

জনসাধারণের কার্যাবলী

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

পাবলিক স্ট্যাটিক ফাংশন

UseLocking (bool x)

কাঠামো

tensorflow:: ops:: SparseApplyRMSProp:: Attrs

SparseApplyRMSProp-এর জন্য ঐচ্ছিক অ্যাট্রিবিউট সেটার।

জনসাধারণের বৈশিষ্ট্য

অপারেশন 

Operation operation

বাইরে 

::tensorflow::Output out

জনসাধারণের কার্যাবলী

SparseApplyRMSProp 

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

SparseApplyRMSProp 

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyRMSProp::Attrs & attrs
)

নোড 

::tensorflow::Node * node() const

অপারেটর::টেনসরফ্লো::ইনপুট 

 operator::tensorflow::Input() const

অপারেটর::টেনসরফ্লো::আউটপুট 

 operator::tensorflow::Output() const

পাবলিক স্ট্যাটিক ফাংশন

ইউজলকিং 

Attrs UseLocking(
  bool x
)