UniformQuantizedDotHybrid

공개 최종 수업 균일QuantizedDotHybrid

부동 텐서 'lhs'와 양자화 텐서 'rhs'의 하이브리드 양자화 도트를 수행합니다.

float 'lhs'와 양자화된 'rhs'가 주어지면 내부적으로 'lhs'에 대해 양자화를 수행한 다음 양자화된 lhs 및 'rhs'에 대해 양자화된 점을 수행합니다. 'lhs'의 내부 양자화는 qint8, 동적 범위, 배치당(축 0을 따른 축당), 비대칭 및 좁은 범위가 아닌(범위는 [-128, 127]) 양자화입니다. `lhs` 및 `rhs`는 2D 텐서여야 하며 lhs.dim_size(1)는 rhs.dim_size(0)와 일치해야 합니다. `rhs`는 양자화된 Tensor여야 합니다. 여기서 해당 데이터 값은 다음 공식을 사용하여 양자화됩니다: 퀀타이즈_데이터 = 클립(원래_데이터 / 스케일 + 제로_포인트, 퀀타이즈_최소_발, 퀀타이즈_최대_발).

중첩 클래스

수업 균일QuantizedDotHybrid.Options UniformQuantizedDotHybrid 의 선택적 속성

공개 방법

출력 <V>
출력 ()
텐서의 기호 핸들을 반환합니다.
static <V는 Number를 확장하고, T는 Number를 확장하고, U> 균일QuantizedDotHybrid <V>
생성 ( 범위 범위, 피연산자 <T> lhs, 피연산자 <U> rhs, 피연산자 <Float> rhsScales, 피연산자 <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, 옵션... 옵션)
새로운UniformQuantizedDotHybrid 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
출력 <V>
출력 ()
모양이 (lhs.dim_size(0), rhs.dim_size(1))인 Tout의 출력 2D 텐서입니다.
정적 UniformQuantizedDotHybrid.Options
rhsQuantizationAxis (긴 rhsQuantizationAxis)

상속된 메서드

공개 방법

공개 출력 <V> asOutput ()

텐서의 기호 핸들을 반환합니다.

TensorFlow 작업에 대한 입력은 다른 TensorFlow 작업의 출력입니다. 이 메서드는 입력 계산을 나타내는 기호 핸들을 얻는 데 사용됩니다.

public staticUniformQuantizedDotHybrid <V> create ( Scope 범위, Operand <T> lhs, Operand <U> rhs, Operand <Float> rhsScales, Operand <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options.. . 옵션)

새로운UniformQuantizedDotHybrid 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.

매개변수
범위 현재 범위
ㅋㅋㅋ Tlhs의 2D 텐서여야 합니다.
rhs Trhs의 2D 텐서여야 합니다.
rhsScale rhs가 나타내는 원본 데이터를 양자화할 때 스케일로 사용되는 부동 소수점 값입니다. 스칼라 텐서(텐서별 양자화) 또는 크기의 1D 텐서(rhs.dim_size(1),)(채널별 양자화)여야 합니다.
rhsZeroPoints rhs가 나타내는 원본 데이터를 양자화할 때 zero_point로 사용되는 int32 값입니다. rhs_scales와 동일한 모양 조건.
암표 장수 출력 텐서의 유형입니다.
rhs양자화MinVal rhs에 저장된 양자화된 데이터의 최소값입니다. 예를 들어, Trhs가 qint8인 경우 좁은 범위가 양자화되면 -127로 설정되어야 하고, 그렇지 않으면 -128로 설정되어야 합니다.
rhsQuantizationMaxVal rhs에 저장된 양자화된 데이터의 최대값입니다. 예를 들어, Trhs가 qint8인 경우 127로 설정해야 합니다.
옵션 선택적 속성 값을 전달합니다.
보고
  • 균일한 QuantizedDotHybrid의 새로운 인스턴스

공개 출력 <V> 출력 ()

모양이 (lhs.dim_size(0), rhs.dim_size(1))인 Tout의 출력 2D 텐서입니다. 출력 데이터는 원래의 출력 데이터 자체입니다(양자화되지 않음).

공개 정적 균일 QuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)

매개변수
rhs양자화축 해당 차원에 따른 조각에 축당 양자화가 적용되는 텐서의 차원 인덱스를 나타냅니다. -1(기본값)로 설정하면 텐서별 양자화를 나타냅니다. 도트 연산의 경우 차원 1에 따른 텐서별 양자화 또는 채널별 양자화만 지원됩니다. 따라서 이 속성은 -1 또는 1로 설정되어야 합니다. 다른 값은 거부됩니다.