O inicializador Glorot, também chamado de inicializador Xavier.
Extrai amostras de uma distribuição aleatória.
Se a distribuição for TRUNCATED_NORMAL, então a distribuição será centrada em 0 com stddev = Math.sqrt(2. / (fanIn + fanOut))
onde fanIn
é o número de unidades de entrada no tensor de peso e fanOut
é o número de unidades de saída em o tensor de peso.
Se a distribuição for UNIFORM, então as amostras serão extraídas de uma distribuição uniforme dentro de [-limit, limit]
, onde limit = sqrt(6 / (fanIn + fanOut))
( fanIn
é o número de unidades de entrada no tensor de peso e fanOut
é o número de unidades de saída).
Exemplos:
Glorot Normal:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.TRUNCATED_NORMAL, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
Uniforme Glorot:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.UNIFORM, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
OBSERVAÇÃO:
Para um inicializador equivalente GlorotNormal, use TRUNCATED_NORMAL
para o parâmetro de distribuição.
Para um inicializador equivalente GlorotUniform, use UNIFORM
para o parâmetro de distribuição.
Veja também
Constantes
dobro | ESCALA |
Constantes herdadas
Campos Herdados
Construtores Públicos
Glorot (Ops tf, distribuição VarianceScaling.Distribution , semente longa) Cria um inicializador Glorot |
Métodos herdados
Constantes
público estático final duplo ESCALA
Construtores Públicos
Glorot público (Ops tf, distribuição VarianceScaling.Distribution , seed longo)
Cria um inicializador Glorot
Parâmetros
TF | as operações do TensorFlow |
---|---|
distribuição | O tipo de distribuição do inicializador Glorot. |
semente | a semente para geração de números aleatórios. Um inicializador criado com uma determinada semente sempre produzirá o mesmo tensor aleatório para uma determinada forma e tipo. |