بهینه ساز که الگوریتم RMSProp را پیاده سازی می کند.
خلاصه RMSprop این است که:
- میانگین متحرک (تخفیف) مجذور گرادیان ها را حفظ کنید
- گرادیان را بر ریشه این میانگین تقسیم کنید
این پیاده سازی RMSprop از تکانه ساده استفاده می کند، نه تکانه Nesterov.
نسخه مرکزی به علاوه میانگین متحرک گرادیان ها را حفظ می کند و از آن میانگین برای تخمین واریانس استفاده می کند.
ثابت ها
بولی | CENTERED_DEFAULT | |
شناور | DECAY_DEFAULT | |
شناور | EPSILON_DEFAULT | |
شناور | LEARNING_RATE_DEFAULT | |
رشته | ام جی | |
رشته | تکانه | |
شناور | MOMENTUM_DEFAULT | |
رشته | RMS |
ثابت های ارثی
رشته | VARIABLE_V2 |
سازندگان عمومی
روش های عمومی
رشته | getOptimizerName () نام بهینه ساز را دریافت کنید. |
رشته | toString () |
روش های ارثی
Op | applyGradients (List< GradAndVar <? گسترش TType >> gradsAndVars، نام رشته) گرادیان ها را برای متغیرها اعمال می کند |
<T TType > List < GradAndVar <?>> را گسترش می دهد | |
رشته ایستا | createName ( خروجی <? گسترش متغیر TType >، String slotName) یک نام با ترکیب نام متغیر و نام اسلات ایجاد می کند |
رشته انتزاعی | getOptimizerName () نام بهینه ساز را دریافت کنید. |
<T TType > اختیاری< متغیر <T>> را گسترش می دهد | |
عملیات نهایی | getTF () نمونه Optimizer's Ops را دریافت می کند |
Op | |
Op |
بولی | برابر است (شیء arg0) |
کلاس نهایی<?> | getClass () |
بین المللی | هش کد () |
باطل نهایی | اعلام کردن () |
باطل نهایی | اطلاع رسانی به همه () |
رشته | toString () |
باطل نهایی | صبر کنید (long arg0، int arg1) |
باطل نهایی | صبر کنید (طولانی arg0) |
باطل نهایی | صبر کن () |
ثابت ها
بولین نهایی استاتیک عمومی CENTERED_DEFAULT
شناور نهایی استاتیک عمومی DECAY_DEFAULT
شناور نهایی استاتیک عمومی EPSILON_DEFAULT
شناور نهایی ثابت عمومی LEARNING_RATE_DEFAULT
عمومی استاتیک نهایی رشته MG
MOMENTUM رشته نهایی استاتیک عمومی
شناور نهایی استاتیک عمومی MOMENTUM_DEFAULT
RMS رشته نهایی استاتیک عمومی
سازندگان عمومی
RMSProp عمومی (گراف نمودار ، نرخ یادگیری شناور)
یک RMSPRrop Optimizer ایجاد می کند
مولفه های
نمودار | نمودار TensorFlow |
---|---|
نرخ یادگیری | میزان یادگیری |
عمومی RMSProp ( گراف نمودار، نرخ یادگیری شناور، فروپاشی شناور، حرکت شناور، اپسیلون شناور، مرکز بولی)
یک RMSPRrop Optimizer ایجاد می کند
مولفه های
نمودار | نمودار TensorFlow |
---|---|
نرخ یادگیری | میزان یادگیری |
پوسیدگی | عامل تخفیف برای شیب تاریخ/آینده. پیشفرض 0.9 است. |
تکانه | ضریب شتاب، پیش فرض 0 است. |
اپسیلون | یک ثابت کوچک برای ثبات عددی |
متمرکز شده است | اگر true ، گرادیان ها با واریانس تخمینی گرادیان نرمال می شوند. اگر false ، در لحظه دوم بدون مرکز. تنظیم این روی true ممکن است به آموزش کمک کند، اما از نظر محاسبات و حافظه کمی گران تر است. پیش فرض ها به false . |
عمومی RMSProp ( گراف نمودار، نام رشته، نرخ یادگیری شناور)
یک RMSPRrop Optimizer ایجاد می کند
مولفه های
نمودار | نمودار TensorFlow |
---|---|
نام | نام این بهینه ساز پیشفرض «RMSProp» است. |
نرخ یادگیری | میزان یادگیری |
عمومی RMSProp ( گراف نمودار، نام رشته، نرخ یادگیری شناور، فروپاشی شناور، حرکت شناور، اپسیلون شناور، مرکز بولی)
یک RMSPRrop Optimizer ایجاد می کند
مولفه های
نمودار | نمودار TensorFlow |
---|---|
نام | نام این بهینه ساز پیشفرض «RMSProp» است. |
نرخ یادگیری | میزان یادگیری |
پوسیدگی | عامل تخفیف برای شیب تاریخ/آینده. پیشفرض 0.9 است. |
تکانه | ضریب شتاب، پیش فرض 0 است. |
اپسیلون | یک ثابت کوچک برای ثبات عددی |
متمرکز شده است | اگر true ، گرادیان ها با واریانس تخمینی گرادیان نرمال می شوند. اگر false ، در لحظه دوم بدون مرکز. تنظیم این روی true ممکن است به آموزش کمک کند، اما از نظر محاسبات و حافظه کمی گران تر است. پیش فرض ها به false . |
روش های عمومی
رشته عمومی getOptimizerName ()
نام بهینه ساز را دریافت کنید.
برمی گرداند
- نام بهینه ساز