FakeQuantWithMinMaxArgs

「入力」テンソルを疑似量子化し、同じ型の「出力」テンソルに float 型を入力します。

属性

• `[分; max]` は、`inputs` データのクランプ範囲を定義します。
• `inputs` 値は量子化範囲 (`narrow_range` が false の場合は `[0; 2^num_bits - 1]`、true の場合は `[1; 2^num_bits - 1]`) に量子化されてから逆量子化されます。 `[min; の浮動小数点数として出力します。最大]` 間隔。
• 「num_bits」は量子化のビット幅です。 2 から 16 まで (両端の値を含む)

量子化の前に、「min」と「max」の値は次のロジックで調整されます。 「min <= 0 <= max」にすることをお勧めします。 「0」が値の範囲内にない場合、予期しない動作が発生する可能性があります。

• `0 < min < max` の場合: `min_adj = 0` および `max_adj = max - min`。
• `min < max < 0` の場合: `min_adj = min - max` および `max_adj = 0`。
• `min <= 0 <= max` の場合: `scale = (max - min) / (2^num_bits - 1) `、`min_adj =scale *round(min /scale)`、および `max_adj = max + min_adj - min `。

出力が浮動小数点のままであるため、量子化はフェイクと呼ばれます。