Norme de calque

@frozen
public struct LayerNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

Une couche qui applique la normalisation des couches sur un mini-lot d'entrées.

Référence : Normalisation des couches .

  • La valeur de décalage, également appelée bêta.

    Déclaration

    public var offset: Tensor<Scalar>
  • La valeur d'échelle, également connue sous le nom de gamma.

    Déclaration

    public var scale: Tensor<Scalar>
  • axe

    L'axe.

    Déclaration

    @noDerivative
    public let axis: Int
  • La valeur epsilon de la variance.

    Déclaration

    @noDerivative
    public let epsilon: Scalar
  • Crée un calque de normalisation de calque.

    Déclaration

    public init(
      offset: Tensor<Scalar>,
      scale: Tensor<Scalar>,
      axis: Int,
      epsilon: Scalar
    )
  • Crée un calque de normalisation de calque.

    Déclaration

    public init(
      featureCount: Int,
      axis: Int,
      epsilon: Scalar = 0.001
    )

    Paramètres

    featureCount

    Le nombre de fonctionnalités.

    axis

    L'axe qui doit être normalisé.

    epsilon

    Le petit scalaire ajouté à la variance.

  • Renvoie le résultat obtenu en appliquant le calque à l’entrée donnée.

    Déclaration

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    Paramètres

    input

    L'entrée dans le calque.

    Valeur de retour

    Le résultat.