Dequantize

MIN_COMBINED モードの例

入力が QuantizedRelu6 からのものである場合、出力タイプは quint8 (範囲 0 ～ 255) ですが、QuantizedRelu6 の可能な範囲は 0 ～ 6 です。したがって、min_range 値と max_range 値は 0.0 と 6.0 になります。 quint8 での逆量子化は、各値を取得し、float にキャストし、6 / 255 を乗算します。quantizedtype が qint8 の場合、この操作ではキャスト前に各値に 128 が追加されることに注意してください。

モードが 'MIN_FIRST' の場合、次のアプローチが使用されます。

num_discrete_values = 1 << (# of bits in T)
 range_adjust = num_discrete_values / (num_discrete_values - 1)
 range = (range_max - range_min) * range_adjust
 range_scale = range / num_discrete_values
 const double offset_input = static_cast<double>(input) - lowest_quantized;
 result = range_min + ((input - numeric_limits<T>::min()) * range_scale)
 

scaling_factor は、次の

const int min_expected_T = std::numeric_limits<T>::min() +
     (narrow_range ? 1 : 0);
   const int max_expected_T = std::numeric_limits<T>::max();
   const float max_expected_T = std::numeric_limits<float>::max();
 
   const float scale_factor =
     (std::numeric_limits<T>::min() == 0) ? (max_range / max_expected_T)
                                          : std::max(min_range / min_expected_T,
                                                     max_range / max_expected_T);