Dequantize

Przykład trybu MIN_COMBINED

Jeśli dane wejściowe pochodzą z QuantizedRelu6, typem wyjścia jest quint8 (zakres 0-255), ale możliwy zakres QuantizedRelu6 to 0-6. Wartości min_range i max_range wynoszą zatem 0,0 i 6,0. Dekwantyzacja na kwincie8 pobierze każdą wartość, rzutuje na liczbę zmiennoprzecinkową i pomnoży przez 6/255. Należy zauważyć, że jeśli typem kwantyzacji jest qint8, operacja dodatkowo doda każdą wartość o 128 przed rzutowaniem.

Jeśli trybem jest „MIN_FIRST”, stosowane jest następujące podejście:

num_discrete_values = 1 << (# of bits in T)
 range_adjust = num_discrete_values / (num_discrete_values - 1)
 range = (range_max - range_min) * range_adjust
 range_scale = range / num_discrete_values
 const double offset_input = static_cast<double>(input) - lowest_quantized;
 result = range_min + ((input - numeric_limits<T>::min()) * range_scale)
 

Współczynnik skalowania jest określany na podstawie `min_range`, `max_range` i `narrow_range` w sposób zgodny z `QuantizeAndDequantize{V2|V3}` i `QuantizeV2`, przy użyciu następującego algorytmu:

const int min_expected_T = std::numeric_limits<T>::min() +
     (narrow_range ? 1 : 0);
   const int max_expected_T = std::numeric_limits<T>::max();
   const float max_expected_T = std::numeric_limits<float>::max();
 
   const float scale_factor =
     (std::numeric_limits<T>::min() == 0) ? (max_range / max_expected_T)
                                          : std::max(min_range / min_expected_T,
                                                     max_range / max_expected_T);