Thực hiện dấu chấm lượng tử hóa kết hợp của Tensor float `lhs` và Tensor lượng tử hóa `rhs`.
Cho float `lhs` và `rhs` được lượng tử hóa, thực hiện lượng tử hóa nội bộ trên `lhs`, sau đó thực hiện dấu chấm lượng tử hóa trên lhs và `rhs` được lượng tử hóa. Lượng tử hóa bên trong trên `lhs` là lượng tử hóa thành qint8, dải động, mỗi lô (mỗi trục dọc theo trục 0), phạm vi không đối xứng và không hẹp (phạm vi là [-128, 127]). `lhs` và `rhs` phải là Tensor 2D và lhs.dim_size(1) phải khớp với rhs.dim_size(0). `rhs` phải được lượng tử hóa Tensor, trong đó giá trị dữ liệu của nó được lượng tử hóa bằng công thức: quantized_data = clip(origin_data /scale + zero_point, quantization_min_val, quantization_max_val).
Các lớp lồng nhau
| lớp học | Đồng phụcQuantizedDotHybrid.Options | Các thuộc tính tùy chọn cho UniformQuantizedDotHybrid | |
Phương pháp công khai
| Đầu ra <V> | asOutput () Trả về phần điều khiển tượng trưng của một tenxơ. |
| tĩnh <V mở rộng Số, T mở rộng Số, U> Đồng nhấtQuantizedDotHybrid <V> | tạo ( Phạm vi phạm vi, Toán hạng <T> lhs, Toán hạng <U> rhs, Toán hạng <Float> rhsScales, Toán hạng <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Tùy chọn... tùy chọn) Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác UnityQuantizedDotHybrid mới. |
| Đầu ra <V> | đầu ra () Tensor 2D đầu ra của Tout, có hình dạng là (lhs.dim_size(0), rhs.dim_size(1)). |
| tĩnh Thống nhấtQuantizedDotHybrid.Options | rhsQuantizationAxis (RhsQuantizationAxis dài) |
Phương pháp kế thừa
Phương pháp công khai
Đầu ra công khai <V> asOutput ()
Trả về phần điều khiển tượng trưng của một tenxơ.
Đầu vào của các hoạt động TensorFlow là đầu ra của một hoạt động TensorFlow khác. Phương pháp này được sử dụng để thu được một thẻ điều khiển mang tính biểu tượng đại diện cho việc tính toán đầu vào.
tĩnh công khai UnityQuantizedDotHybrid <V> tạo ( Phạm vi phạm vi , Toán hạng <T> lhs, Toán hạng <U> rhs, Toán hạng <Float> rhsScales, Toán hạng <Integer> rhsZeroPoints, Lớp<V> Tout, RhsQuantizationMinVal dài, rhsQuantizationMaxVal dài, Tùy chọn.. . tùy chọn)
Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác UnityQuantizedDotHybrid mới.
Thông số
| phạm vi | phạm vi hiện tại |
|---|---|
| lh | Phải là Tensor 2D của Tlhs. |
| ừ | Phải là Tensor 2D của Trhs. |
| rhsCân | (Các) giá trị float được sử dụng làm thang đo khi lượng tử hóa dữ liệu gốc mà rhs đại diện. Phải là Tensor vô hướng (lượng tử hóa trên mỗi tensor) hoặc Tensor 1D có kích thước (rhs.dim_size(1),) (lượng tử hóa trên mỗi kênh). |
| rhsZeroPoints | (Các) giá trị int32 được sử dụng làm zero_point khi lượng tử hóa dữ liệu gốc mà rhs đại diện. Điều kiện hình dạng tương tự như rhs_scales. |
| Tout | Loại Tensor đầu ra. |
| rhsQuantizationMinVal | Giá trị tối thiểu của dữ liệu lượng tử hóa được lưu trữ trong rhs. Ví dụ: nếu Trhs là qint8 thì giá trị này phải được đặt thành -127 nếu lượng tử hóa phạm vi hẹp hoặc -128 nếu không. |
| rhsQuantizationMaxVal | Giá trị tối đa của dữ liệu lượng tử hóa được lưu trữ trong rhs. Ví dụ: nếu Trhs là qint8 thì giá trị này phải được đặt thành 127. |
| tùy chọn | mang các giá trị thuộc tính tùy chọn |
Trả lại
- một phiên bản mới của UnityQuantizedDotHybrid
Đầu ra công khai đầu ra <V> ()
Tensor 2D đầu ra của Tout, có hình dạng là (lhs.dim_size(0), rhs.dim_size(1)). Dữ liệu đầu ra là chính dữ liệu đầu ra ban đầu (Không được lượng tử hóa).
tĩnh công khai Thống nhấtQuantizedDotHybrid.Options rhsQuantizationAxis (RhsQuantizationAxis dài)
Thông số
| rhsLượng tử hóaTrục | Biểu thị chỉ số thứ nguyên của tensor trong đó lượng tử hóa trên mỗi trục được áp dụng cho các lát cắt dọc theo thứ nguyên đó. Nếu được đặt thành -1 (mặc định), điều này biểu thị lượng tử hóa trên mỗi tensor. Đối với các hoạt động chấm, chỉ hỗ trợ lượng tử hóa trên mỗi tensor hoặc lượng tử hóa trên mỗi kênh dọc theo chiều 1. Do đó, thuộc tính này phải được đặt thành -1 hoặc 1. Các giá trị khác sẽ bị từ chối. |
|---|