публичный финальный класс UniformRequantize
Учитывая «входной сигнал» квантованного тензора, повторно проквантуйте его с новыми параметрами квантования.
Учитывая квантованный тензор `input`, который был квантован с использованием {input_scales, input_zero_points, input_quantization_axis, input_quantization_min_val, input_quantization_max_val}, переквантуйте его в тензор, который квантуется с использованием {output_scales, output_zero_points, output_quantization_axis, output_quantization_min_val, output_quantization_max_val}. Повторное квантование выполняется по формуле: выходные_квантованные_данные = клип((входные_квантованные_данные - входная_нулевая_точка) * (входная_шкала/выходная_шкала) + выходная_нулевая_точка, выходное_квантизация_мин_значение, выходное_квантизация_макс_значение)
Поддерживаются следующие случаи квантования по тензору и по оси:
- на тензор -> на тензор
- на тензор -> на ось
- по оси -> по оси, где input_quantization_axis равна output_quantization_axis. т. е. хотя бы один из входных_ось_квантизации_осей и выходных_ось_квантизации должен быть равен -1, или два из них должны быть равны.
Вложенные классы
| сорт | UniformRequantize.Options | Необязательные атрибуты для UniformRequantize | |
Публичные методы
| Выход <U> | какВывод () Возвращает символический дескриптор тензора. |
| статический <U, T> UniformRequantize <U> | create ( Область видимости , Операнд <T> input, Операнд <Float> inputScale, Операнд <Integer> inputZeroPoints, Операнд <Float> outputScales, Операнд <Integer> outputZeroPoints, Class<U> Tout, Long inputQuantizationMinVal, Long inputQuantizationMaxVal, Long outputQuantizationMinVal, Длинный выводQuantizationMaxVal, Options... options) Фабричный метод для создания класса, обертывающего новую операцию UniformRequantize. |
| статический UniformRequantize.Options | inputQuantizationAxis (длинный inputQuantizationAxis) |
| Выход <U> | выход () Выходной квантованный тензор Tout, форма которого аналогична входной. |
| статический UniformRequantize.Options | outputQuantizationAxis (длинный выходQuantizationAxis) |
Унаследованные методы
Публичные методы
публичный вывод <U> asOutput ()
Возвращает символический дескриптор тензора.
Входные данные для операций TensorFlow являются выходными данными другой операции TensorFlow. Этот метод используется для получения символического дескриптора, который представляет собой вычисление входных данных.
public static UniformRequantize <U> create ( Область действия, Операнд <T> input, Операнд <Float> inputScale, Операнд <Integer> inputZeroPoints, Операнд <Float> outputScale, Операнд <Integer> outputZeroPoints, Class<U> Tout, Long inputQuantizationMinVal, Длинный inputQuantizationMaxVal, Длинный выходQuantizationMinVal, Длинный выходQuantizationMaxVal, Опции... опции)
Фабричный метод для создания класса, обертывающего новую операцию UniformRequantize.
Параметры
| объем | текущий объем |
|---|---|
| вход | Должно быть, Тензор Олова. |
| входные весы | Значения с плавающей запятой, используемые в качестве масштаба при квантовании исходных данных, которые представляют входные данные. Должен быть скалярным тензором, если quantization_axis равен -1 (квантование по тензору), в противном случае 1D тензор размера (input.dim_size(quantization_axis)) (квантование по оси). |
| вводZeroPoints | Значения int32, используемые в качестве нулевой_точки при квантовании исходных данных, которые представляют входные данные. Состояние формы такое же, как у весов. |
| выходные весы | Значения с плавающей запятой, которые будут использоваться в качестве новых масштабов для квантования исходных данных, которые представляют входные данные. Должен быть скалярным тензором, если quantization_axis равен -1 (квантование по тензору), в противном случае 1D тензор размера (input.dim_size(quantization_axis)) (квантование по оси). |
| выводZeroPoints | Значения int32, которые будут использоваться в качестве новых нулевых точек для квантования исходных данных, которые представляют входные данные. Состояние формы такое же, как у весов. |
| Реклама | Тип вывода Тензор. tf.DType из: tf.qint8, tf.qint32. |
| inputQuantizationMinVal | Минимальное значение квантования, которое использовалось при квантовании исходных данных, которые представляют собой входные данные. Целью этого атрибута обычно (но не ограничивается) является указание узкого диапазона, где для него установлено значение: `(Tinсамый низкий) + 1`, если узкий диапазон, и `(Tinсамый низкий)` в противном случае. Например, если Tin равен qint8, оно устанавливается на -127, если квантовано в узком диапазоне, или -128, если нет. |
| inputQuantizationMaxVal | Максимальное значение квантования, которое использовалось при квантовании исходных данных, которые представляют собой входные данные. Целью этого атрибута обычно (но не ограничивается) является указание узкого диапазона, где для него установлено значение `(Tout max)` как для узкого диапазона, так и для не узкого диапазона. Например, если Tin равен qint8, ему будет присвоено значение 127. |
| выводКвантизацияМинВал | Новое минимальное значение квантования для квантования исходных данных, которые представляют собой входные данные. |
| выводКвантизацияМаксВал | Новое максимальное значение квантования для квантования исходных данных, которые представляют собой входные данные. |
| параметры | содержит значения необязательных атрибутов |
Возврат
- новый экземпляр UniformRequantize
public static UniformRequantize.Options inputQuantizationAxis (Long inputQuantizationAxis)
Параметры
| inputQuantizationAxis | Ось квантования, которая использовалась при квантовании исходных данных, которые представляют собой входные данные. Указывает индекс размерности тензора, в котором к срезам вдоль этого измерения применяется поосевое квантование. Если установлено значение -1 (по умолчанию), это указывает на потензорное квантование. В противном случае он должен быть установлен в диапазоне [0, input.dims()). |
|---|
public static UniformRequantize.Options outputQuantizationAxis (Long outputQuantizationAxis)
Параметры
| выходQuantizationAxis | Новая ось квантования, используемая для квантования исходных данных, которые представляют собой входные данные. |
|---|