El inicializador Glorot, también llamado inicializador Xavier.
Extrae muestras de una distribución aleatoria.
Si la distribución es TRUNCADA_NORMAL, entonces la distribución se centra en 0 con stddev = Math.sqrt(2. / (fanIn + fanOut))
donde fanIn
es el número de unidades de entrada en el tensor de peso y fanOut
es el número de unidades de salida en el tensor de peso.
Si la distribución es UNIFORME, entonces las muestras se extraen de una distribución uniforme dentro de [-limit, limit]
, donde limit = sqrt(6 / (fanIn + fanOut))
( fanIn
es el número de unidades de entrada en el tensor de peso y fanOut
es el número de unidades de salida).
Ejemplos:
Glorot Normal:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.TRUNCATED_NORMAL, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
Uniforme de Glorot:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.UNIFORM, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
NOTA:
Para un inicializador equivalente a GlorotNormal, utilice TRUNCATED_NORMAL
para el parámetro de distribución.
Para un inicializador equivalente a GlorotUniform, utilice UNIFORM
para el parámetro de distribución.
Ver también
Constantes
doble | ESCALA |
Constantes heredadas
Campos heredados
Constructores Públicos
Glorot (Ops tf, VarianceScaling.Distribución de distribución, semilla larga) Crea un inicializador Glorot. |
Métodos heredados
Constantes
ESCALA doble final estática pública
Constructores Públicos
Glorot público (Ops tf, distribución VarianceScaling.Distribution , semilla larga)
Crea un inicializador Glorot.
Parámetros
tf | las operaciones de TensorFlow |
---|---|
distribución | El tipo de distribución para el inicializador Glorot. |
semilla | la semilla para la generación de números aleatorios. Un inicializador creado con una semilla determinada siempre producirá el mismo tensor aleatorio para una forma y un tipo determinados. |