אתחול Glorot, הנקרא גם Xavier initializer.
שואב מדגמים מהתפלגות אקראית.
אם ההתפלגות היא TRUNCATED_NORMAL, אז ההתפלגות ממוקדת על 0 עם stddev = Math.sqrt(2. / (fanIn + fanOut))
כאשר fanIn
הוא מספר יחידות הקלט בטנזור המשקל ו- fanOut
הוא מספר יחידות הפלט ב טנסור המשקל.
אם ההתפלגות היא UNIFORM, הדגימות נלקחות מהתפלגות אחידה בתוך [-limit, limit]
, כאשר limit = sqrt(6 / (fanIn + fanOut))
( fanIn
הוא מספר יחידות הקלט בטנזור המשקל ו- fanOut
הוא מספר יחידות הפלט).
דוגמאות:
Glorot Normal:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.TRUNCATED_NORMAL, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
מדים של גלורות:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.UNIFORM, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
הערה:
עבור אתחול המקביל של GlorotNormal, השתמש TRUNCATED_NORMAL
עבור פרמטר ההפצה.
עבור אתחול המקביל של GlorotUniform, השתמש UNIFORM
עבור פרמטר ההפצה.
קבועים
לְהַכפִּיל | סוּלָם |
קבועים בירושה
שדות בירושה
בונים ציבוריים
שיטות בירושה
קבועים
קנה מידה כפול סופי סטטי ציבורי
בונים ציבוריים
גלורוט ציבורי (Ops tf, VarianceScaling.Distribution distribution, long seed)
יוצר אתחול גלורוט
פרמטרים
tf | ה- TensorFlow Ops |
---|---|
הפצה | סוג ההפצה עבור אתחול גלורוט. |
זֶרַע | הזרע ליצירת מספרים אקראי. אתחול שנוצר עם זרע נתון תמיד יפיק את אותו טנזור אקראי עבור צורה ו-dtype נתונים. |