ResourceApplyAdamWithAmsgrad

পাবলিক ফাইনাল ক্লাস রিসোর্সঅ্যাডম উইথঅ্যামসগ্রাড

অ্যাডাম অ্যালগরিদম অনুযায়ী '*var' আপডেট করুন।

$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$
$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$
$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$
$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$
$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$

নেস্টেড ক্লাস

ক্লাস ResourceApplyAdamWithAmsgrad.Options ResourceApplyAdamWithAmsgrad এর জন্য ঐচ্ছিক বৈশিষ্ট্য

পাবলিক পদ্ধতি

static <T> ResourceApplyAdamWithAmsgrad
তৈরি করুন ( স্কোপ স্কোপ, অপারেন্ড <?> var, অপারেন্ড <?> m, অপারেন্ড <?> v, অপারেন্ড <?> vhat, অপারেন্ড <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T > beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, অপশন... বিকল্প)
একটি নতুন ResourceApplyAdamWithAmsgrad অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি।
স্ট্যাটিক রিসোর্সঅ্যাপ্লাইঅ্যাডাম উইথঅ্যামসগ্রাড.অপশন
ইউজ লকিং (বুলিয়ান ইউজ লকিং)

উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি

পাবলিক পদ্ধতি

পাবলিক স্ট্যাটিক রিসোর্সঅ্যাড্যাম উইথঅ্যামসগ্রাড তৈরি করুন ( স্কোপ স্কোপ, অপারেন্ড <?> var, অপারেন্ড <?> m, অপারেন্ড <?> v, অপারেন্ড <?> vhat, অপারেন্ড <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, অপশন... বিকল্প)

একটি নতুন ResourceApplyAdamWithAmsgrad অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি।

পরামিতি
সুযোগ বর্তমান সুযোগ
var একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
মি একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
v একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
vhat একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
বিটা 1 পাওয়ার একটি স্কেলার হতে হবে।
বিটা 2 পাওয়ার একটি স্কেলার হতে হবে।
lr স্কেলিং ফ্যাক্টর। একটি স্কেলার হতে হবে।
beta1 মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে।
beta2 মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে।
epsilon রিজ শব্দ। একটি স্কেলার হতে হবে।
স্নাতক গ্রেডিয়েন্ট।
বিকল্প ঐচ্ছিক বৈশিষ্ট্য মান বহন করে
রিটার্নস
  • ResourceApplyAdamWithAmsgrad এর একটি নতুন উদাহরণ

পাবলিক স্ট্যাটিক রিসোর্সঅ্যাপলাইঅ্যাডাম উইথঅ্যামসগ্র্যাড।অপশন ইউজ লকিং (বুলিয়ান ইউজ লকিং)

পরামিতি
লকিং ব্যবহার করুন যদি 'True' হয়, var, m, এবং v টেনসরগুলির আপডেট করা একটি লক দ্বারা সুরক্ষিত হবে; অন্যথায় আচরণটি অনির্ধারিত, তবে কম বিরোধ প্রদর্শন করতে পারে।