Glorot

El inicializador de Glorot, también llamado inicializador de Xavier.

Extrae muestras de una distribución aleatoria.

Si la distribución es TRUNCATED_NORMAL, entonces la distribución se centra en 0 con stddev = Math.sqrt(2. / (fanIn + fanOut)) donde fanIn es el número de unidades de entrada en el tensor de peso y fanOut es el número de unidades de salida en el tensor de peso.

Si la distribución es UNIFORME, las muestras se extraen de una distribución uniforme dentro de [-limit, limit] , donde limit = sqrt(6 / (fanIn + fanOut)) ( fanIn es el número de unidades de entrada en el tensor de peso y fanOut es el número de unidades de salida).

Ejemplos:

Glorot Normal:

     long seed = 1001l;
     Glorot<TFloat32, TFloat32> initializer =
             new org.tensorflow.framework.initializers.Glorot<>(tf,
             Distribution.TRUNCATED_NORMAL, seed);
     Operand<TFloat32> values =
             initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

Uniforme Glorot:

    long seed = 1001l;
    Glorot<TFloat32, TFloat32> initializer =
             new org.tensorflow.framework.initializers.Glorot<>(tf,
             Distribution.UNIFORM, seed);
     Operand<TFloat32> values =
             initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

NOTA:

Para un inicializador equivalente a GlorotNormal, use TRUNCATED_NORMAL para el parámetro de distribución.

Para un inicializador equivalente a GlorotUniform, use UNIFORM para el parámetro de distribución.