BatchNorm

@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

طبقة التطبيع دفعة.

يعمل على تطبيع عمليات تنشيط الطبقة السابقة في كل دفعة، أي تطبيق تحويل يحافظ على متوسط ​​التنشيط بالقرب من 0 والانحراف المعياري للتنشيط بالقرب من 1 .

المرجع: تطبيع الدفعة: تسريع تدريب الشبكة العميقة عن طريق تقليل التحول المتغير الداخلي .

  • البعد الميزة.

    تصريح

    @noDerivative
public let axis: Int

  • الزخم للمتوسط ​​الجاري والتباين الجاري.

    تصريح

    @noDerivative
public let momentum: Scalar

  • قيمة الإزاحة، والمعروفة أيضًا باسم بيتا.

    تصريح

    public var offset: Tensor<Scalar>

  • قيمة المقياس، والمعروفة أيضًا باسم جاما.

    تصريح

    public var scale: Tensor<Scalar>

  • قيمة التباين إبسيلون

    تصريح

    @noDerivative
public let epsilon: Scalar

  • الجري يعني.

    تصريح

    @noDerivative
public var runningMean: Parameter<Scalar>

  • تباين الجري.

    تصريح

    @noDerivative
public var runningVariance: Parameter<Scalar>

  • إنشاء طبقة تطبيع دفعة.

    تصريح

    public init(
  axis: Int,
  momentum: Scalar,
  offset: Tensor<Scalar>,
  scale: Tensor<Scalar>,
  epsilon: Scalar,
  runningMean: Tensor<Scalar>,
  runningVariance: Tensor<Scalar>
)

    حدود

    axis

    المحور الذي لا ينبغي تطبيعه (عادةً محور الميزة).

    momentum

    الزخم للمتوسط ​​المتحرك.

    offset

    الإزاحة المراد إضافتها إلى الموتر الطبيعي.

    scale

    المقياس المطلوب ضرب الموتر الطبيعي به.

    epsilon

    كمية صغيرة تضاف إلى المقام لتحسين الاستقرار العددي.

    runningMean

    الجري يعني.

    runningVariance

    تباين الجري.

  • إرجاع المخرجات التي تم الحصول عليها من تطبيق الطبقة على المدخلات المحددة.

    تصريح

    @differentiable
public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    حدود

    input

    الإدخال إلى الطبقة

    قيمة الإرجاع

    الإخراج.

  • إنشاء طبقة تطبيع دفعة.

    تصريح

    public init(
  featureCount: Int,
  axis: Int = -1,
  momentum: Scalar = 0.99,
  epsilon: Scalar = 0.001
)

    حدود

    featureCount

    عدد الميزات.

    axis

    المحور الذي يجب تطبيعه (عادةً محور الميزات).

    momentum

    الزخم للمتوسط ​​المتحرك.

    epsilon

    كمية صغيرة تضاف إلى المقام لتحسين الاستقرار العددي.