LeCun

Penginisialisasi normal LeCun.

Mengambil sampel dari distribusi acak. * *

Jika distribusinya TRUNCATED_NORMAL, maka ia mengambil sampel dari distribusi normal terpotong yang berpusat pada 0 dengan stddev = sqrt(1 / fanIn) dengan fanIn adalah jumlah unit masukan dalam tensor bobot.

Jika distribusinya SERAGAM, ia mengambil sampel dari distribusi seragam dalam [-limit, limit] , dengan limit = Math.sqrt(3 / fanIn) ( fanIn adalah jumlah unit masukan dalam tensor bobot)

Contoh:

LeCun Normal:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.TRUNCATED_NORMAL, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

Seragam LeCun:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

CATATAN: *

Untuk penginisialisasi setara LeCunNormal, gunakan TRUNCATED_NORMAL untuk parameter distribusi. *

Untuk penginisialisasi setara LeCunUniform, gunakan UNIFORM * untuk parameter distribusi. *