VarianceScaling

bookmark_border Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

Inicializador capaz de adaptar sua escala ao formato dos tensores de pesos.

Com distribution=TRUNCATED_NORMAL or NORMAL , as amostras são extraídas de uma distribuição normal truncada/não truncada com média zero e desvio padrão (após truncamento, se usado) stddev = Math.sqrt(scale / n) , onde n é:

• número de unidades de entrada no tensor de peso, se mode=FAN_IN
• número de unidades de saída, se mode=FAN_OUT
• média dos números de unidades de entrada e saída, se mode=FAN_AVG

Com distribution=UNIFORM , as amostras são extraídas de uma distribuição uniforme dentro de [-limit, limit] , onde limit = Math.sqrt(3 * scale / n); .

Exemplos:

      long seed = 1234l;
      float scale = 0.1f;
      VarianceScaling<TFloat32, TFloat32> initializer =
          new org.tensorflow.framework.initializers.VarianceScaling<>(
              tf, scale, Mode.FAN_IN, Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
          initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);