VarianceScaling

Inizializzatore in grado di adattare la propria scala alla forma dei tensori dei pesi.

Con distribution=TRUNCATED_NORMAL or NORMAL , i campioni vengono estratti da una distribuzione normale troncata/non troncata con una media pari a zero e una deviazione standard (dopo il troncamento, se utilizzato) stddev = Math.sqrt(scale / n) , dove n è:

• numero di unità di input nel tensore del peso, se mode=FAN_IN
• numero di unità di uscita, se mode=FAN_OUT
• media del numero di unità di ingresso e di uscita, se mode=FAN_AVG

Con distribution=UNIFORM , i campioni vengono estratti da una distribuzione uniforme all'interno di [-limit, limit] , dove limit = Math.sqrt(3 * scale / n); .

Esempi:

      long seed = 1234l;
      float scale = 0.1f;
      VarianceScaling<TFloat32, TFloat32> initializer =
          new org.tensorflow.framework.initializers.VarianceScaling<>(
              tf, scale, Mode.FAN_IN, Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
          initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);