AlfaDropout

@frozen
public struct AlphaDropout<Scalar> : ParameterlessLayer where Scalar : TensorFlowFloatingPoint

Bir Alfa bırakma katmanı.

Alfa Bırakma, bu bırakmadan sonra bile kendi kendini normalleştirme özelliğini sağlamak için girdilerin ortalama ve varyansını orijinal değerlerinde tutan bir Dropout . Alfa Düşüşü, etkinleştirmeleri rastgele negatif doygunluk değerine ayarlayarak Ölçeklendirilmiş Üstel Doğrusal Birimlere iyi uyum sağlar.

Kaynak: Kendi Kendini Normalleştiren Sinir Ağları: https://arxiv.org/abs/1706.02515

  • beyan

    public typealias TangentVector = EmptyTangentVector

  • beyan

    @noDerivative
public let probability: Double

  • Yapılandırılabilir bir probability bir AlphaDropout katmanını başlatır.

    Önkoşul

    olasılık 0 ile 1 (dahil) arasında bir değer olmalıdır.

    beyan

    public init(probability: Double)

    Parametreler

    probability

    Bir düğümün çıkma olasılığı.

  • Eğitim sırasında input gürültü ekler ve çıkarım sırasında işlem yapılmaz.

    beyan

    @differentiable
public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>