LayerNorm

@frozen
public struct LayerNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

입력의 미니 배치에 대해 레이어 정규화를 적용하는 레이어입니다.

참조: 레이어 정규화 .

  • 베타라고도 하는 오프셋 값입니다.

    선언

    public var offset: Tensor<Scalar>

  • 감마라고도 하는 배율 값입니다.

    선언

    public var scale: Tensor<Scalar>

  • 축.

    선언

    @noDerivative
public let axis: Int

  • 분산 엡실론 값입니다.

    선언

    @noDerivative
public let epsilon: Scalar

  • 레이어 정규화 레이어를 만듭니다.

    선언

    public init(
  offset: Tensor<Scalar>,
  scale: Tensor<Scalar>,
  axis: Int,
  epsilon: Scalar
)

  • 레이어 정규화 레이어를 만듭니다.

    선언

    public init(
  featureCount: Int,
  axis: Int,
  epsilon: Scalar = 0.001
)

    매개변수

    featureCount

    기능의 수.

    axis

    정규화해야 하는 축입니다.

    epsilon

    분산에 작은 스칼라가 추가되었습니다.

  • 주어진 입력에 레이어를 적용하여 얻은 출력을 반환합니다.

    선언

    @differentiable
public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    매개변수

    input

    레이어에 대한 입력입니다.

    반환 값

    출력.