LayerNorm

@frozen
public struct LayerNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

שכבה המיישמת נורמליזציה של שכבות על מיני-אצט של כניסות.

הפניה: נורמליזציה של שכבה .

  • ערך ההיסט, המכונה גם בטא.

    הַצהָרָה

    public var offset: Tensor<Scalar>
  • ערך קנה המידה, המכונה גם גמא.

    הַצהָרָה

    public var scale: Tensor<Scalar>
  • הציר.

    הַצהָרָה

    @noDerivative
    public let axis: Int
  • ערך אפסילון השונות.

    הַצהָרָה

    @noDerivative
    public let epsilon: Scalar
  • יוצר שכבת נורמליזציה של שכבה.

    הַצהָרָה

    public init(
      offset: Tensor<Scalar>,
      scale: Tensor<Scalar>,
      axis: Int,
      epsilon: Scalar
    )
  • יוצר שכבת נורמליזציה של שכבה.

    הַצהָרָה

    public init(
      featureCount: Int,
      axis: Int,
      epsilon: Scalar = 0.001
    )

    פרמטרים

    featureCount

    מספר התכונות.

    axis

    הציר שצריך לנרמל.

    epsilon

    הסקלר הקטן הוסיף לשונות.

  • מחזירה את הפלט המתקבל מהחלת השכבה על הקלט הנתון.

    הַצהָרָה

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    פרמטרים

    input

    הקלט לשכבה.

    ערך החזרה

    הפלט.