тензорный поток:: опс:: Деквантовать

#include <array_ops.h>

Деквантуйте «входной» тензор в число с плавающей запятой Tensor .

Краткое содержание

[min_range, max_range] — скалярные числа с плавающей запятой, которые определяют диапазон для «входных» данных. Атрибут mode определяет, какие именно вычисления используются для преобразования значений с плавающей запятой в их квантованные эквиваленты.

В режиме «MIN_COMBINED» каждое значение тензора будет подвергаться следующим изменениям:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))
здесь range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min()

Пример режима MIN_COMBINED

Если входные данные поступают от QuantizedRelu6 , тип выходных данных — quint8 (диапазон 0–255), но возможный диапазон QuantizedRelu6 — 0–6. Таким образом, значения min_range и max_range равны 0,0 и 6,0. Деквантизация на quint8 возьмет каждое значение, приведет к плавающему числу и умножит на 6/255. Обратите внимание, что если квантованным типом является qint8, операция дополнительно добавит каждое значение на 128 перед приведением.

Если режим «MIN_FIRST», то используется такой подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Режим МАСШТАБИРОВАНИЕ Пример

Режим SCALED соответствует подходу квантования, используемому в QuantizeAndDequantize{V2|V3} .

Если выбран режим SCALED , мы не используем весь диапазон типа выходного сигнала, выбирая для исключения наименьшее возможное значение симметрии (например, выходной диапазон составляет от -127 до 127, а не от -128 до 127 для знакового 8-битного квантования). так что 0,0 отображается в 0.

Сначала мы находим диапазон значений в нашем тензоре. Используемый нами диапазон всегда центрирован на 0, поэтому мы находим m такое, что 

  m = max(abs(input_min), abs(input_max))

Тогда наш диапазон входного тензора будет [-m, m] .

Далее мы выбираем сегменты квантования с фиксированной точкой, [min_fixed, max_fixed] . Если T подписано, это 

  num_bits = sizeof(T) * 8
  [min_fixed, max_fixed] =
      [-(1 << (num_bits - 1) - 1), (1 << (num_bits - 1)) - 1]

В противном случае, если T не имеет знака, диапазон фиксированной точки равен 

  [min_fixed, max_fixed] = [0, (1 << num_bits) - 1]

Исходя из этого, мы вычисляем коэффициент масштабирования s: 

  s = (2 * m) / (max_fixed - min_fixed)

Теперь мы можем деквантовать элементы нашего тензора: 

result = input * s

Аргументы:

  • область: объект области .
  • min_range: минимальное скалярное значение, которое может быть получено для ввода.
  • max_range: максимальное скалярное значение, которое может быть получено для ввода.

Возврат:

  • Output : выходной тензор.

Конструкторы и деструкторы

Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range)
Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs)

Публичные атрибуты

operation
output

Общественные функции

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

Публичные статические функции

Mode (StringPiece x)

Структуры

tensorflow:: ops:: Деквантизация:: Attrs

Дополнительные установщики атрибутов для Dequantize .

Публичные атрибуты

операция

Operation operation

выход

::tensorflow::Output output

Общественные функции

Деквантовать

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)

Деквантовать

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)

узел

::tensorflow::Node * node() const

оператор::tensorflow::Input

 operator::tensorflow::Input() const

оператор::tensorflow::Выход

 operator::tensorflow::Output() const

Публичные статические функции

Режим

Attrs Mode(
  StringPiece x
)