@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPointএকটি ব্যাচ স্বাভাবিককরণ স্তর।
প্রতিটি ব্যাচে পূর্ববর্তী স্তরের অ্যাক্টিভেশনকে স্বাভাবিক করে, অর্থাৎ একটি রূপান্তর প্রয়োগ করে যা গড় অ্যাক্টিভেশন 0 এর কাছাকাছি এবং অ্যাক্টিভেশন স্ট্যান্ডার্ড বিচ্যুতি 1 এর কাছাকাছি বজায় রাখে।
রেফারেন্স: ব্যাচ স্বাভাবিককরণ: অভ্যন্তরীণ কোভেরিয়েট শিফট হ্রাস করে গভীর নেটওয়ার্ক প্রশিক্ষণকে ত্বরান্বিত করা ।
বৈশিষ্ট্য মাত্রা.
ঘোষণা
@noDerivative public let axis: Intচলমান গড় এবং চলমান ভিন্নতার জন্য ভরবেগ।
ঘোষণা
@noDerivative public let momentum: Scalarঅফসেট মান, বিটা নামেও পরিচিত।
ঘোষণা
public var offset: Tensor<Scalar>স্কেল মান, গামা নামেও পরিচিত।
ঘোষণা
public var scale: Tensor<Scalar>ভ্যারিয়েন্স এপিসিলন মান।
ঘোষণা
@noDerivative public let epsilon: Scalarচলমান মানে।
ঘোষণা
@noDerivative public var runningMean: Parameter<Scalar>চলমান বৈচিত্র।
ঘোষণা
@noDerivative public var runningVariance: Parameter<Scalar>একটি ব্যাচ স্বাভাবিককরণ স্তর তৈরি করে।
ঘোষণা
পরামিতি
axisযে অক্ষটি স্বাভাবিক করা উচিত নয় (সাধারণত বৈশিষ্ট্য অক্ষ)।
momentumচলমান গড় জন্য ভরবেগ.
offsetস্বাভাবিকীকৃত টেনসরে যোগ করা অফসেট।
scaleযে স্কেল দ্বারা স্বাভাবিক করা টেনসরকে গুণ করা হবে।
epsilonসাংখ্যিক স্থিতিশীলতা উন্নত করতে হরটিতে একটি ছোট স্কেলার যোগ করা হয়েছে।
runningMeanচলমান মানে।
runningVarianceচলমান বৈচিত্র।
একটি ব্যাচ স্বাভাবিককরণ স্তর তৈরি করে।
ঘোষণা
public init( featureCount: Int, axis: Int = -1, momentum: Scalar = 0.99, epsilon: Scalar = 0.001 )পরামিতি
featureCountবৈশিষ্ট্য সংখ্যা.
axisযে অক্ষটি স্বাভাবিক করা উচিত (সাধারণত বৈশিষ্ট্য অক্ষ)।
momentumচলমান গড় জন্য ভরবেগ.
epsilonসাংখ্যিক স্থিতিশীলতা উন্নত করতে হরটিতে একটি ছোট স্কেলার যোগ করা হয়েছে।