QuantizeOp

Quantiza um TensorBuffer com determinado zeroPoint e scale .

Nota: QuantizeOp não converte a saída para UINT8, mas apenas executa a matemática de quantização sobre a entrada. O tipo de dados do tensor de saída é sempre FLOAT32 , exceto que o Op é efetivamente um Op de identidade (neste caso, o tensor de saída é a mesma instância da entrada). Para conectar-se ao modelo quantizado, provavelmente será necessário um CastOp .

Se zeroPoint e scale forem 0, o QuantizeOp será ignorado, o que equivale a definir zeroPoint como 0 e scale como 1. Isso pode ser útil ao passar os parâmetros de quantização que são extraídos diretamente do flatbuffer do modelo TFLite. Se o tensor não for quantizado, zeroPoint e scale serão lidos como 0.