パブリック最終クラスUniformQuantize
Tensor の「入力」に対して量子化を実行します。
`input`、`scales`、および `zero_points` を指定すると、次の式を使用して量子化を実行します: quantized_data = Floor(input_data * (1.0f /scale) + 0.5f) + zero_point
ネストされたクラス
| クラス | UniformQuantize.オプション | UniformQuantizeのオプションの属性 | |
パブリックメソッド
| 出力<U> | asOutput () テンソルのシンボリック ハンドルを返します。 |
| static <U, T extends Number> UniformQuantize <U> | |
| 出力<U> | 出力() 出力は Tout の量子化テンソルであり、その形状は入力と同じです。 |
| 静的UniformQuantize.Options | quantizationAxis (長い量子化軸) |
継承されたメソッド
パブリックメソッド
public Output <U> asOutput ()
テンソルのシンボリック ハンドルを返します。
TensorFlow オペレーションへの入力は、別の TensorFlow オペレーションの出力です。このメソッドは、入力の計算を表すシンボリック ハンドルを取得するために使用されます。
public static UniformQuantize <U> create (スコープスコープ、オペランド<T> 入力、オペランド<Float> スケール、オペランド<Integer> zeroPoints、Class<U> Tout、Long quantizationMinVal、Long quantizationMaxVal、 Options...オプション)
新しいUniformQuantizeオペレーションをラップするクラスを作成するファクトリメソッド。
パラメーター
| 範囲 | 現在のスコープ |
|---|---|
| 入力 | Tin のテンソルでなければなりません。 |
| 天秤 | 「入力」を量子化するスケールとして使用する浮動小数点値。 quantization_axis が -1 (テンソルごとの量子化) の場合はスカラー テンソルでなければなりません。それ以外の場合は、サイズ (input.dim_size(quantization_axis),) (軸ごとの量子化) の 1D テンソルでなければなりません。 |
| ゼロポイント | 「input」を量子化するために zero_point として使用する int32 値。鱗と同じ形状条件。 |
| 客引き | 出力テンソルのタイプ。 tf.float32 からの tf.DType |
| 量子化MinVal | 「入力」を量子化するための量子化最小値。この属性の目的は通常 (ただし、これに限定されない) 狭い範囲を示すことです。狭い範囲の場合は「(Tin 最低値) + 1」、それ以外の場合は「(Tin 最低値)」に設定されます。たとえば、Tin が qint8 の場合、狭い範囲で量子化されている場合は -127、そうでない場合は -128 に設定されます。 |
| 量子化MaxVal | 「入力」を量子化するための量子化最大値。この属性の目的は通常 (ただし、これに限定されない) 狭い範囲を示すことであり、これは狭い範囲と狭い範囲ではない両方の場合に `(Tout max)` に設定されます。たとえば、Tin が qint8 の場合、これは 127 に設定されます。 |
| オプション | オプションの属性値を持ちます |
戻り値
- UniformQuantize の新しいインスタンス
public static UniformQuantize.Options quantizationAxis (Long quantizationAxis)
パラメーター
| 量子化軸 | 軸ごとの量子化がその次元に沿ったスライスに適用されるテンソルの次元インデックスを示します。 -1 (デフォルト) に設定すると、テンソルごとの量子化を示します。それ以外の場合は、範囲 [0, input.dims()) 内に設定する必要があります。 |
|---|