FakeQuantWithMinMaxVars

グローバル float スカラーを介して float 型の「入力」テンソルを疑似量子化します

グローバル float スカラー `min` および `max` を介して float 型の `inputs` テンソルを、 `inputs` と同じ形状の `outputs` テンソルに疑似量子化します。

属性

• `[分; max]` は、`inputs` データのクランプ範囲を定義します。
• `inputs` 値は量子化範囲 (`narrow_range` が false の場合は `[0; 2^num_bits - 1]`、true の場合は `[1; 2^num_bits - 1]`) に量子化されてから逆量子化されます。 and output as floats in `[min;最大]` 間隔。
• `num_bits` is the bitwidth of the quantization; between 2 and 16, inclusive.

量子化の前に、「min」と「max」の値は次のロジックで調整されます。 It is suggested to have `min <= 0 <= max`. 「0」が値の範囲内にない場合、予期しない動作が発生する可能性があります。

• `0 < min < max` の場合: `min_adj = 0` および `max_adj = max - min`。
• `min < max < 0` の場合: `min_adj = min - max` および `max_adj = 0`。
• `min <= 0 <= max` の場合: `scale = (max - min) / (2^num_bits - 1) `、`min_adj =scale *round(min /scale)`、および `max_adj = max + min_adj - min `。

この操作には勾配があるため、「最小」値と「最大」値のトレーニングが可能になります。