ব্যাচ নরম

সেভ করা পৃষ্ঠা গুছিয়ে রাখতে 'সংগ্রহ' ব্যবহার করুন আপনার পছন্দ অনুযায়ী কন্টেন্ট সেভ করুন ও সঠিক বিভাগে রাখুন।
@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

একটি ব্যাচ স্বাভাবিককরণ স্তর।

প্রতিটি ব্যাচ এ পূর্ববর্তী স্তর সক্রিয়করণব্যবস্থা Normalizes, অর্থাত্ একটি রূপান্তর যে গড় অ্যাক্টিভেশন ঘনিষ্ঠ বজায় রাখে প্রযোজ্য 0 এবং অ্যাক্টিভেশন স্ট্যানডার্ড ডেভিয়েশন কাছাকাছি 1

রেফারেন্স: ব্যাচ স্বাভাবিক: অভ্যন্তরীণ Covariate শিফট কমিয়ে ডীপ নেটওয়ার্ক প্রশিক্ষণ ত্বরক

  • বৈশিষ্ট্য মাত্রা।

    ঘোষণা

    @noDerivative
    public let axis: Int
  • চলমান গড় এবং চলমান বৈকল্পিক জন্য গতি।

    ঘোষণা

    @noDerivative
    public let momentum: Scalar
  • অফসেট মান, যা বিটা নামেও পরিচিত।

    ঘোষণা

    public var offset: Tensor<Scalar>
  • স্কেল মান, যা গামা নামেও পরিচিত।

    ঘোষণা

    public var scale: Tensor<Scalar>
  • বৈকল্পিক অ্যাপসিলন মান।

    ঘোষণা

    @noDerivative
    public let epsilon: Scalar
  • চলমান মানে।

    ঘোষণা

    @noDerivative
    public var runningMean: Parameter<Scalar>
  • চলমান বৈকল্পিকতা।

    ঘোষণা

    @noDerivative
    public var runningVariance: Parameter<Scalar>
  • একটি ব্যাচ স্বাভাবিকীকরণ স্তর তৈরি করে।

    ঘোষণা

    public init(
      axis: Int,
      momentum: Scalar,
      offset: Tensor<Scalar>,
      scale: Tensor<Scalar>,
      epsilon: Scalar,
      runningMean: Tensor<Scalar>,
      runningVariance: Tensor<Scalar>
    )

    পরামিতি

    axis

    যে অক্ষটি স্বাভাবিক করা উচিত নয় (সাধারণত বৈশিষ্ট্য অক্ষ)।

    momentum

    চলমান গড়ের গতিবেগ।

    offset

    অফসেট নরমালাইজড টেনসারে যোগ করতে হবে।

    scale

    স্বাভাবিক টেন্সর দ্বারা গুণ করার স্কেল।

    epsilon

    সংখ্যাসূচক স্থিতিশীলতা উন্নত করতে একটি ছোট স্কেলার হরতে যোগ করা হয়েছে।

    runningMean

    চলমান মানে।

    runningVariance

    চলমান বৈকল্পিকতা।

  • প্রদত্ত ইনপুটে স্তর প্রয়োগ করা থেকে প্রাপ্ত আউটপুট প্রদান করে।

    ঘোষণা

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    পরামিতি

    input

    লেয়ারে ইনপুট।

    ফেরত মূল্য

    আউটপুট.

  • একটি ব্যাচ স্বাভাবিকীকরণ স্তর তৈরি করে।

    ঘোষণা

    public init(
      featureCount: Int,
      axis: Int = -1,
      momentum: Scalar = 0.99,
      epsilon: Scalar = 0.001
    )

    পরামিতি

    featureCount

    বৈশিষ্ট্য সংখ্যা।

    axis

    যে অক্ষটি স্বাভাবিক করা উচিত (সাধারণত বৈশিষ্ট্য অক্ষ)।

    momentum

    চলমান গড়ের গতিবেগ।

    epsilon

    সংখ্যাসূচক স্থিতিশীলতা উন্নত করতে একটি ছোট স্কেলার হরতে যোগ করা হয়েছে।