СлойНорм

@frozen
public struct LayerNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

Слой, который применяет нормализацию слоя к мини-пакету входных данных.

Ссылка: Нормализация слоев .

  • Значение смещения, также известное как бета.

    Декларация

    public var offset: Tensor<Scalar>

  • Значение шкалы, также известное как гамма.

    Декларация

    public var scale: Tensor<Scalar>

  • Ось.

    Декларация

    @noDerivative
public let axis: Int

  • Значение дисперсии эпсилон.

    Декларация

    @noDerivative
public let epsilon: Scalar

  • Создает слой нормализации слоя.

    Декларация

    public init(
  offset: Tensor<Scalar>,
  scale: Tensor<Scalar>,
  axis: Int,
  epsilon: Scalar
)

  • Создает слой нормализации слоя.

    Декларация

    public init(
  featureCount: Int,
  axis: Int,
  epsilon: Scalar = 0.001
)

    Параметры

    featureCount

    Количество функций.

    axis

    Ось, которую следует нормализовать.

    epsilon

    Небольшой скаляр увеличил дисперсию.

  • Возвращает выходные данные, полученные в результате применения слоя к заданным входным данным.

    Декларация

    @differentiable
public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    Параметры

    input

    Входные данные слоя.

    Возвращаемое значение

    Выход.