Квантует TensorBuffer
с заданными zeroPoint
и scale
.
Примечание. QuantizeOp
не преобразует выходные данные в UINT8, а только выполняет математические вычисления квантования поверх входных данных. Тип данных выходного тензора всегда FLOAT32
за исключением того, что Op фактически является идентификатором Op (в этом случае выходной тензор является тем же экземпляром, что и входной). Для связи с квантованной моделью, вероятно, потребуется CastOp
.
Если и zeroPoint
, и scale
равны 0, QuantizeOp
будет пропущен, что эквивалентно установке zeroPoint
на 0 и scale
на 1. Это может быть полезно при передаче параметров квантования, которые извлекаются непосредственно из плоского буфера модели TFLite. Если тензор не квантован, и zeroPoint
, и scale
будут читаться как 0.
Публичные конструкторы
QuantizeOp (число с плавающей запятой, нулевая точка, масштаб с плавающей запятой) |
Унаследованные методы
Публичные конструкторы
public QuantizeOp (число с плавающей запятой, нулевая точка, масштаб с плавающей запятой)
Параметры
нулевая точка | |
---|---|
шкала |