Tensor.QuantizationParams

パブリック静的クラスTensor.QuantizationParams

TFLite モデル スキーマ ファイル内のテーブルQuantizationParametersに対応する量子化パラメーター。

チャネルごとの量子化は入力テンソルと出力テンソルには適用されないため、 scalezero_pointは両方とも配列ではなく単一の値になります。

量子化されていないテンソルの場合、scale と zero_point の値は両方とも 0 です。

量子化値 q が与えられると、対応する浮動小数点値 f は次のようになります。
f = スケール * (q - ゼロ点)

パブリックコンストラクター

QuantizationParams (float スケール、int zeroPoint)
scalezero_pointを使用してTensor.QuantizationParamsを作成します。

パブリックメソッド

浮く
getScale ()
スケール値を返します。
整数
getゼロポイント()
ゼロ点の値を返します。

継承されたメソッド

パブリックコンストラクター

public QuantizationParams (float スケール、int zeroPoint)

scalezero_pointを使用してTensor.QuantizationParamsを作成します。

パラメーター
規模量子化に使用されるスケール値。
ゼロポイント量子化に使用されるゼロ点の値。

パブリックメソッド

public float getScale ()

スケール値を返します。

public int getZeroPoint ()

ゼロ点の値を返します。