QuantizeOp

Định lượng một TensorBuffer với zeroPoint và scale đã cho.

Lưu ý: QuantizeOp không chuyển đầu ra sang UINT8 mà chỉ thực hiện phép toán lượng tử hóa trên đầu vào. Kiểu dữ liệu của tenxơ đầu ra luôn là FLOAT32 ngoại trừ Op thực sự là một nhận dạng Op (trong trường hợp này, tenxơ đầu ra giống hệt với đầu vào). Để kết nối với mô hình lượng tử hóa, có thể cần có CastOp .

Nếu cả zeroPoint và scale đều bằng 0 thì QuantizeOp sẽ bị bỏ qua, tương đương với việc đặt zeroPoint thành 0 và scale thành 1. Điều này có thể hữu ích khi truyền tham số lượng tử hóa được trích xuất trực tiếp từ bộ đệm phẳng mô hình TFLite. Nếu tenxơ không được lượng tử hóa, cả zeroPoint và scale sẽ được đọc là 0.