UniformQuantizedDot

публичный финальный класс UniformQuantizedDot

Выполните квантование точек квантованного тензора «lhs» и квантованного тензора «rhs», чтобы получить квантованный «выход».

Учитывая квантованные `lhs` и квантованные `rhs`, выполняет квантование точек на `lhs` и `rhs` для получения квантованного `выходного сигнала`. `lhs` и `rhs` должны быть 2D-тензорами, а lhs.dim_size(1) должен соответствовать rhs.dim_size(0). `lhs` и `rhs` должны быть квантованы Тензором, где значение данных квантуется по формуле: quantized_data = clip(original_data/scale + нулевая_точка, quantization_min_val, quantization_max_val). «Выход» также квантуется по той же формуле. Если «rhs» квантовается по тензору, «выход» также должен быть квантован по тензору.

Вложенные классы

сорт UniformQuantizedDot.Options Дополнительные атрибуты для UniformQuantizedDot

Публичные методы

Выход <U>
какВывод ()
Возвращает символический дескриптор тензора.
статический <U, T> UniformQuantizedDot <U>
create ( Область видимости , Операнд <T> lhs, Операнд <T> rhs, Операнд <Float> lhsScales, Операнд <Integer> lhsZeroPoints, Операнд <Float> rhsScale, Операнд <Integer> rhsZeroPoints, Операнд <Float> outputScales, Операнд <Integer > outputZeroPoints, Class<U> Tout, Long lhsQuantizationMinVal, Long lhsQuantizationMaxVal, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Long outputQuantizationMinVal, Long outputQuantizationMaxVal, Options... параметры)
Фабричный метод для создания класса, обертывающего новую операцию UniformQuantizedDot.
статический UniformQuantizedDot.Options
lhsQuantizationAxis (длинный lhsQuantizationAxis)
Выход <U>
выход ()
Выходной 2D-тензор Tout, форма которого равна (lhs.dim_size(0), rhs.dim_size(1)).
статический UniformQuantizedDot.Options
outputQuantizationAxis (длинный выходQuantizationAxis)
статический UniformQuantizedDot.Options
rhsQuantizationAxis (длинная rhsQuantizationAxis)

Унаследованные методы

Публичные методы

публичный вывод <U> asOutput ()

Возвращает символический дескриптор тензора.

Входные данные для операций TensorFlow являются выходными данными другой операции TensorFlow. Этот метод используется для получения символического дескриптора, который представляет собой вычисление входных данных.

public static UniformQuantizedDot <U> create ( Область видимости, Операнд <T> lhs, Операнд <T> rhs, Операнд <Float> lhsScales, Операнд <Integer> lhsZeroPoints, Операнд <Float> rhsScale, Операнд <Integer> rhsZeroPoints, Операнд <Float > outputScale, Operand <Integer> outputZeroPoints, Class<U> Tout, Long lhsQuantizationMinVal, Long lhsQuantizationMaxVal, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Long outputQuantizationMinVal, Long outputQuantizationMaxVal, Опции... опции)

Фабричный метод для создания класса, обертывающего новую операцию UniformQuantizedDot.

Параметры
объем текущий объем
левая сторона Должен быть двумерный тензор олова.
правый риск Должен быть двумерный тензор олова.
lhsВесы Значения с плавающей запятой, используемые в качестве масштаба при квантовании исходных данных, которые представляет lhs. Должен быть скалярным тензором (lhs поддерживает только потензорное квантование).
lhsZeroPoints Значения int32, используемые в качестве нулевой точки при квантовании исходных данных, которые представляет lhs. То же состояние формы, что и у lhs_scales.
rhsВесы Значения с плавающей запятой, используемые в качестве масштаба при квантовании исходных данных, которые представляет rhs. Должен быть скалярным тензором (потензорное квантование) или 1D-тензором размера (rhs.dim_size(1)) (поканальное квантование).
rhsZeroPoints Значения int32, используемые в качестве нулевой точки при квантовании исходных данных, которые представляет rhs. То же состояние формы, что и у rhs_scales.
выходные весы Значения с плавающей запятой, которые будут использоваться в качестве масштабов при квантовании исходных данных, которые представляют выходные данные. Должен быть скалярным тензором (потензорное квантование) или 1D-тензором размера (output.dim_size(1)) (поканальное квантование). Если rhs квантуется по тензору, выходные данные также должны быть квантованы по тензору. Это означает, что если rhs_scales и rhs_zero_points являются скалярными тензорами, выходные_шкалы и выходные_нулевые точки также должны быть скалярными тензорами.
выводZeroPoints Значения int32, используемые в качестве нулевой точки при квантовании исходных данных, которые представляют выходные данные. То же состояние формы, что и у rhs_scales.
Реклама Тип вывода Тензор.
lhsQuantizationMinVal Минимальное значение квантованных данных, хранящихся в lhs. Например, если Tin равен qint8, оно должно быть установлено на -127, если квантовано в узком диапазоне, или -128, если нет.
lhsQuantizationMaxVal Максимальное значение квантованных данных, хранящихся в rhs. Например, если Tin равен qint8, ему необходимо установить значение 127.
rhsQuantizationMinVal Минимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs равен qint8, он должен быть установлен на -127, если квантовано в узком диапазоне, или -128, если нет.
rhsQuantizationMaxVal Максимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs равен qint8, ему необходимо установить значение 127.
выводКвантизацияМинВал Минимальное значение квантованных данных, хранящихся на выходе. Например, если Tout равен qint8, он должен быть установлен на -127, если квантовано в узком диапазоне, или -128, если нет.
выводКвантизацияМаксВал Максимальное значение квантованных данных, хранящихся на выходе. Например, если Tout равен qint8, ему необходимо установить значение 127.
параметры содержит значения необязательных атрибутов
Возврат
  • новый экземпляр UniformQuantizedDot

общедоступный статический UniformQuantizedDot.Options lhsQuantizationAxis (Long lhsQuantizationAxis)

Параметры
lhsQuantizationAxis Указывает индекс размерности тензора, в котором к срезам вдоль этого измерения применяется поосевое квантование. Если установлено значение -1 (по умолчанию), это указывает на потензорное квантование. Для dot op lhs поддерживается только потензорное квантование. Таким образом, этот атрибут должен быть установлен в -1. Другие значения отвергаются.

публичный вывод <U> вывод ()

Выходной 2D-тензор Tout, форма которого равна (lhs.dim_size(0), rhs.dim_size(1)).

общедоступный статический UniformQuantizedDot.Options выводQuantizationAxis (длинный выводQuantizationAxis)

Параметры
выходQuantizationAxis Указывает индекс размерности тензора, в котором к срезам вдоль этого измерения применяется поосевое квантование. Если установлено значение -1 (по умолчанию), это указывает на потензорное квантование. Для точечного вывода поддерживается только потензорное квантование или поканальное квантование по размерности 1. Таким образом, этому атрибуту должно быть присвоено значение -1 или 1. Другие значения отклоняются.

общедоступный статический UniformQuantizedDot.Options rhsQuantizationAxis (Long rhsQuantizationAxis)

Параметры
rhsQuantizationAxis Указывает индекс размерности тензора, в котором к срезам вдоль этого измерения применяется поосевое квантование. Если установлено значение -1 (по умолчанию), это указывает на потензорное квантование. Для dot op rhs поддерживается только потензорное квантование или поканальное квантование по размерности 1. Таким образом, этому атрибуту должно быть присвоено значение -1 или 1. Другие значения отклоняются.