آداماكس

public class AdaMax<Model: Differentiable & KeyPathIterable>: Optimizer
where
  Model.TangentVector: VectorProtocol & PointwiseMultiplicative & ElementaryFunctions
    & KeyPathIterable,
  Model.TangentVector.VectorSpaceScalar == Float

محسن AdaMax.

نوع مختلف من آدم يعتمد على قاعدة اللانهاية.

المرجع: القسم 7 من "آدم - طريقة للتحسين العشوائي"

  • تصريح

    public typealias Model = Model
  • معدل التعلم.

    تصريح

    public var learningRate: Float
  • معدل الاضمحلال يستخدم لتقدير اللحظة الأولى (المتوسط) للتدرجات.

    تصريح

    public var beta1: Float
  • معدل الاضمحلال يستخدم لتقدير قاعدة اللانهاية المرجحة أضعافا مضاعفة.

    تصريح

    public var beta2: Float
  • كمية صغيرة تضاف إلى المقام لتحسين الاستقرار العددي.

    تصريح

    public var epsilon: Float
  • انخفاض معدل التعلم.

    تصريح

    public var decay: Float
  • عدد الخطوات.

    تصريح

    public var step: Int
  • اللحظات الأولى للأوزان.

    تصريح

    public var firstMoments: Model.TangentVector
  • قاعدة اللانهاية المرجحة أضعافا مضاعفة للأوزان.

    تصريح

    public var infinityNorm: Model.TangentVector
  • ملاحظة: تتبع المعلمات الافتراضية تلك الواردة في الورقة.

    تصريح

    public init(
      for model: __shared Model,
      learningRate: Float = 0.002,
      beta1: Float = 0.9,
      beta2: Float = 0.999,
      epsilon: Float = 1e-8,
      decay: Float = 0
    )
  • تصريح

    public func update(_ model: inout Model, along direction: Model.TangentVector)
  • تصريح

    public required init(copying other: AdaMax, to device: Device)