LeCun

LeCun 일반 초기화 프로그램.

무작위 분포에서 표본을 추출합니다. * *

분포가 TRUNCATED_NORMAL인 경우 stddev = sqrt(1 / fanIn) 사용하여 0 을 중심으로 하는 잘린 정규 분포에서 샘플을 추출합니다. 여기서 fanIn 은 가중치 텐서의 입력 단위 수입니다.

분포가 UNIFORM인 경우 [-limit, limit] 내의 균일 분포에서 샘플을 가져옵니다. 여기서 limit = Math.sqrt(3 / fanIn) ( fanIn 은 가중치 텐서의 입력 단위 수입니다)

예:

르쿤 노멀:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.TRUNCATED_NORMAL, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

르쿤 유니폼:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

메모: *

LeCunNormal 등가 초기화의 경우 분포 매개변수에 TRUNCATED_NORMAL 사용합니다. *

LeCunUniform 등가 초기화의 경우 분포 매개변수에 UNIFORM *을 사용합니다. *