ApplyAdam

الصف النهائي العام ApplyAdam

قم بتحديث '*var' وفقًا لخوارزمية Adam.

$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$

فئات متداخلة

فصل ApplyAdam.Options السمات الاختيارية لـ ApplyAdam

الثوابت

خيط OP_NAME اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي

الأساليب العامة

الإخراج <T>
كإخراج ()
إرجاع المقبض الرمزي للموتر.
ثابت <T يمتد TType > ApplyAdam <T>
إنشاء ( نطاق النطاق ، المعامل <T> فار، المعامل <T> m، المعامل <T> v، المعامل <T> beta1Power، المعامل <T> beta2Power، المعامل <T> lr، المعامل <T> beta1، المعامل <T > beta2، المعامل <T> إبسيلون، المعامل <T> غراد، خيارات... خيارات)
طريقة المصنع لإنشاء فئة تغلف عملية ApplyAdam جديدة.
الإخراج <T>
خارج ()
نفس "فار".
تطبيق ApplyAdam.Options ثابت
useLocking (استخدام منطقي منطقي)
تطبيق ApplyAdam.Options ثابت
استخدام نيستيروف (استخدام منطقي نيستيروف)

الطرق الموروثة

الثوابت

السلسلة النهائية الثابتة العامة OP_NAME

اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي

القيمة الثابتة: "ApplyAdam"

الأساليب العامة

الإخراج العام <T> كإخراج ()

إرجاع المقبض الرمزي للموتر.

المدخلات إلى عمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. يتم استخدام هذه الطريقة للحصول على مقبض رمزي يمثل حساب الإدخال.

ثابت عام ApplyAdam <T> إنشاء (نطاق النطاق ، المعامل <T> var، المعامل <T> m، المعامل <T> v، المعامل <T> beta1Power، المعامل <T> beta2Power، المعامل <T> lr، المعامل <T > beta1، المعامل <T> beta2، المعامل <T> إبسيلون، المعامل <T> غراد، خيارات... خيارات)

طريقة المصنع لإنشاء فئة تغلف عملية ApplyAdam جديدة.

حدود
نِطَاق النطاق الحالي
فار يجب أن يكون من متغير ().
م يجب أن يكون من متغير ().
الخامس يجب أن يكون من متغير ().
beta1Power يجب أن يكون العددية.
beta2Power يجب أن يكون العددية.
lr عامل التحجيم. يجب أن يكون العددية.
بيتا1 عامل الزخم. يجب أن يكون العددية.
بيتا2 عامل الزخم. يجب أن يكون العددية.
إبسيلون مصطلح ريدج. يجب أن يكون العددية.
خريج التدرج.
خيارات يحمل قيم السمات الاختيارية
عائدات
  • مثيل جديد من ApplyAdam

الإخراج العام <T> خارج ()

نفس "فار".

تطبيق ApplyAdam.Options العام الثابت useLocking (الاستخدام المنطقي Boolean useLocking)

حدود
useLocking إذا كان "صحيحًا"، فسيتم حماية تحديث الموترات var وm وv بواسطة قفل؛ وإلا فإن السلوك غير محدد، ولكنه قد يحمل قدرًا أقل من الخلاف.

تطبيق ApplyAdam.Options العام الثابت useNesterov (الاستخدام المنطقي Nesterov)

حدود
استخدم نيستيروف إذا كان "صحيحًا"، يستخدم تحديث Nesterov.