тензорный поток :: ops :: Деквантизировать

#include <array_ops.h>

Деквантования «ввод» тензор в поплавок или bfloat16 тензора .

Резюме

[min_range, max_range] - это скалярные числа с плавающей запятой, которые определяют диапазон для вывода. Атрибут 'mode' контролирует, какие именно вычисления используются для преобразования значений с плавающей запятой в их квантованные эквиваленты.

В режиме MIN_COMBINED каждое значение тензора будет проходить следующее:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))
здесь range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min()

Пример режима MIN_COMBINED

Если ввод поступает из QuantizedRelu6 , тип вывода - quint8 (диапазон 0–255), но возможный диапазон QuantizedRelu6 - 0–6. Значения min_range и max_range, следовательно, равны 0,0 и 6,0. Деквантование на quint8 будет принимать каждое значение, преобразовываться в float и умножаться на 6/255. Обратите внимание, что если quantizedtype - qint8, операция дополнительно добавит каждое значение на 128 перед преобразованием.

Если установлен режим MIN_FIRST, то используется такой подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Если режим SCALED , деквантование выполняется путем умножения каждого входного значения на scaling_factor. (Таким образом, вход 0 всегда соответствует 0,0).

min_range определяется из min_range , max_range и narrow_range способом, совместимым с QuantizeAndDequantize{V2|V3} и QuantizeV2 , с использованием следующего алгоритма:

  

  const int min_expected_T = std::numeric_limits::min() +
    (narrow_range ? 1 : 0);
  const int max_expected_T = std::numeric_limits::max();
  const float max_expected_T = std::numeric_limits::max();

  const float scale_factor =
    (std::numeric_limits::min() == 0) ? (max_range / max_expected_T)
                                         : std::max(min_range / min_expected_T,
                                                    max_range / max_expected_T);

Аргументы:

  • scope: объект Scope
  • min_range: минимальное скалярное значение, возможное для ввода.
  • max_range: максимальное скалярное значение, возможное для ввода.

Необязательные атрибуты (см. Attrs ):

  • dtype: Тип выходного тензора. В настоящее время Dequantize поддерживает float и bfloat16. Если dtype равен bfloat16, он поддерживает только режим MIN_COMBINED.

Возврат:

  • Output : выходной тензор.

Конструкторы и деструкторы

Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range)
Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs)

Публичные атрибуты

operation
output

Публичные функции

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

Публичные статические функции

Axis (int64 x)
Dtype (DataType x)
Mode (StringPiece x)
NarrowRange (bool x)

Структуры

tenorflow :: ops :: Dequantize :: Attrs

Необязательные установщики атрибутов для деквантования .

Публичные атрибуты

операция

Operation operation

выход

::tensorflow::Output output

Публичные функции

Деквантизировать

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)

Деквантизировать

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)

узел

::tensorflow::Node * node() const 

оператор :: тензорный поток :: Ввод

 operator::tensorflow::Input() const 

оператор :: тензор потока :: Вывод

 operator::tensorflow::Output() const 

Публичные статические функции

Ось

Attrs Axis(
  int64 x
)

Dtype

Attrs Dtype(
  DataType x
)

Режим

Attrs Mode(
  StringPiece x
)

Узкий диапазон

Attrs NarrowRange(
  bool x
)