UniformQuantizedDot

lớp cuối cùng công khai Thống nhấtQuantizedDot

Thực hiện dấu chấm lượng tử hóa của Tensor lượng tử hóa `lhs` và Tensor lượng tử hóa `rhs` để tạo ra `đầu ra` được lượng tử hóa.

Cho `lhs` được lượng tử hóa và `rhs` được lượng tử hóa, thực hiện dấu chấm được lượng tử hóa trên `lhs` và `rhs` để tạo ra `đầu ra` được lượng tử hóa. `lhs` và `rhs` phải là Tensor 2D và lhs.dim_size(1) phải khớp với rhs.dim_size(0). `lhs` và `rhs` phải được lượng tử hóa Tensor, trong đó giá trị dữ liệu được lượng tử hóa bằng công thức: quantized_data = clip(origin_data /scale + zero_point, quantization_min_val, quantization_max_val). `đầu ra` cũng được lượng tử hóa, sử dụng công thức tương tự. Nếu `rhs` được lượng tử hóa trên mỗi tensor thì `đầu ra` cũng phải được lượng tử hóa trên mỗi tensor.

Các lớp lồng nhau

lớp học Đồng phụcQuantizedDot.Options Các thuộc tính tùy chọn cho UniformQuantizedDot

Phương pháp công khai

Đầu ra <U>
asOutput ()
Trả về phần điều khiển tượng trưng của một tenxơ.
tĩnh <U, T> Đồng nhấtQuantizedDot <U>
tạo ( Phạm vi phạm vi, Toán hạng <T> lhs, Toán hạng <T> rhs, Toán hạng <Float> lhsScales, Toán hạng <Integer> lhsZeroPoints, Toán hạng <Float> rhsScales, Toán hạng <Integer> rhsZeroPoints, Toán hạng <Float> đầu raScales, Toán hạng <Số nguyên > tùy chọn đầu raZeroPoints, Lớp<U> Tout, lhsQuantizationMinVal dài, lhsQuantizationMaxVal dài, rhsQuantizationMinVal dài, rhsQuantizationMaxVal dài, Đầu ra dàiQuantizationMinVal, Đầu ra dàiQuantizationMaxVal, Tùy chọn... tùy chọn)
Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác UnityQuantizedDot mới.
tĩnh Thống nhấtQuantizedDot.Options
lhsTrục lượng tử hóa (Trục lhsQuantization dài)
Đầu ra <U>
đầu ra ()
Tensor 2D đầu ra của Tout, có hình dạng là (lhs.dim_size(0), rhs.dim_size(1)).
tĩnh Thống nhấtQuantizedDot.Options
trục lượng tử đầu ra (Trục lượng tử hóa đầu ra dài)
tĩnh Thống nhấtQuantizedDot.Options
rhsQuantizationAxis (RhsQuantizationAxis dài)

Phương pháp kế thừa

Phương pháp công khai

Đầu ra công khai <U> asOutput ()

Trả về phần điều khiển tượng trưng của một tenxơ.

Đầu vào của các hoạt động TensorFlow là đầu ra của một hoạt động TensorFlow khác. Phương pháp này được sử dụng để thu được một thẻ điều khiển mang tính biểu tượng đại diện cho việc tính toán đầu vào.

tĩnh công khai UnityQuantizedDot <U> tạo ( Phạm vi phạm vi , Toán hạng <T> lhs, Toán hạng <T> rhs, Toán hạng <Float> lhsScales, Toán hạng <Integer> lhsZeroPoints, Toán hạng <Float> rhsScales, Toán hạng <Integer> rhsZeroPoints, Toán hạng <Float > đầu raScales, Toán hạng <Integer> đầu raZeroPoints, Lớp<U> Tout, lhsQuantizationMinVal dài, lhsQuantizationMaxVal dài, rhsQuantizationMinVal dài, rhsQuantizationMaxVal dài, Đầu ra dàiQuantizationMinVal, Đầu ra dàiQuantizationMaxVal, Tùy chọn... tùy chọn)

Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác UnityQuantizedDot mới.

Thông số
phạm vi phạm vi hiện tại
lh Phải là Tensor 2D của Thiếc.
ừ Phải là Tensor 2D của Thiếc.
lhsCân (Các) giá trị float được sử dụng làm thang đo khi lượng tử hóa dữ liệu gốc mà lhs đại diện. Phải là Tensor vô hướng (lhs chỉ hỗ trợ lượng tử hóa trên mỗi tensor).
lhsZeroPoints (Các) giá trị int32 được sử dụng làm zero_point khi lượng tử hóa dữ liệu gốc mà lhs đại diện. Điều kiện hình dạng tương tự như lhs_scales.
rhsCân (Các) giá trị float được sử dụng làm thang đo khi lượng tử hóa dữ liệu gốc mà rhs đại diện. Phải là Tensor vô hướng (lượng tử hóa trên mỗi tensor) hoặc Tensor 1D có kích thước (rhs.dim_size(1),) (lượng tử hóa trên mỗi kênh).
rhsZeroPoints (Các) giá trị int32 được sử dụng làm zero_point khi lượng tử hóa dữ liệu gốc mà rhs đại diện. Điều kiện hình dạng tương tự như rhs_scales.
đầu raThang đo (Các) giá trị float được sử dụng làm thang đo khi lượng tử hóa dữ liệu gốc mà đầu ra đại diện. Phải là Tensor vô hướng (lượng tử hóa trên mỗi tensor) hoặc Tensor 1D có kích thước (output.dim_size(1),) (lượng tử hóa trên mỗi kênh). Nếu rhs được lượng tử hóa trên mỗi tensor thì đầu ra cũng phải được lượng tử hóa trên mỗi tensor. Điều này có nghĩa là nếu rhs_scales và rhs_zero_points là Tensor vô hướng thì out_scales và out_zero_points cũng phải là Tensor vô hướng.
đầu raZeroPoints (Các) giá trị int32 được sử dụng làm zero_point khi lượng tử hóa dữ liệu gốc mà đầu ra đại diện. Điều kiện hình dạng tương tự như rhs_scales.
Tout Loại Tensor đầu ra.
lhsQuantizationMinVal Giá trị tối thiểu của dữ liệu lượng tử hóa được lưu trữ trong lhs. Ví dụ: nếu Tin là qint8 thì giá trị này phải được đặt thành -127 nếu phạm vi lượng tử hóa hẹp hoặc -128 nếu không.
lhsQuantizationMaxVal Giá trị tối đa của dữ liệu lượng tử hóa được lưu trữ trong rhs. Ví dụ: nếu Tin là qint8 thì giá trị này phải được đặt thành 127.
rhsQuantizationMinVal Giá trị tối thiểu của dữ liệu lượng tử hóa được lưu trữ trong rhs. Ví dụ: nếu Trhs là qint8 thì giá trị này phải được đặt thành -127 nếu lượng tử hóa phạm vi hẹp hoặc -128 nếu không.
rhsQuantizationMaxVal Giá trị tối đa của dữ liệu lượng tử hóa được lưu trữ trong rhs. Ví dụ: nếu Trhs là qint8 thì giá trị này phải được đặt thành 127.
đầu raLượng tử hóaMinVal Giá trị tối thiểu của dữ liệu lượng tử hóa được lưu trữ ở đầu ra. Ví dụ: nếu Tout là qint8 thì giá trị này phải được đặt thành -127 nếu phạm vi hẹp được lượng tử hóa hoặc -128 nếu không.
đầu raQuantizationMaxVal Giá trị tối đa của dữ liệu lượng tử hóa được lưu trữ ở đầu ra. Ví dụ: nếu Tout là qint8 thì giá trị này phải được đặt thành 127.
tùy chọn mang các giá trị thuộc tính tùy chọn
Trả lại
  • một phiên bản mới của UnityQuantizedDot

tĩnh công khai Thống nhấtQuantizedDot.Options lhsQuantizationAxis (LhsQuantizationAxis dài)

Thông số
lhsTrục lượng tử hóa Biểu thị chỉ số thứ nguyên của tensor trong đó lượng tử hóa trên mỗi trục được áp dụng cho các lát cắt dọc theo thứ nguyên đó. Nếu được đặt thành -1 (mặc định), điều này biểu thị lượng tử hóa trên mỗi tensor. Đối với dot op lhs, chỉ hỗ trợ lượng tử hóa trên mỗi tensor. Vì vậy, thuộc tính này phải được đặt thành -1. Các giá trị khác bị từ chối.

Đầu ra công khai đầu ra <U> ()

Tensor 2D đầu ra của Tout, có hình dạng là (lhs.dim_size(0), rhs.dim_size(1)).

tĩnh công khai Thống nhấtQuantizedDot.Options đầu raQuantizationAxis (Đầu ra dàiQuantizationAxis)

Thông số
trục lượng tử hóa đầu ra Biểu thị chỉ số thứ nguyên của tensor trong đó lượng tử hóa trên mỗi trục được áp dụng cho các lát cắt dọc theo thứ nguyên đó. Nếu được đặt thành -1 (mặc định), điều này biểu thị lượng tử hóa trên mỗi tensor. Đối với đầu ra dot op, chỉ hỗ trợ lượng tử hóa trên mỗi tensor hoặc lượng tử hóa trên mỗi kênh dọc theo chiều 1. Do đó, thuộc tính này phải được đặt thành -1 hoặc 1. Các giá trị khác sẽ bị từ chối.

tĩnh công khai Thống nhấtQuantizedDot.Options rhsQuantizationAxis (RhsQuantizationAxis dài)

Thông số
rhsLượng tử hóaTrục Biểu thị chỉ số thứ nguyên của tensor trong đó lượng tử hóa trên mỗi trục được áp dụng cho các lát cắt dọc theo thứ nguyên đó. Nếu được đặt thành -1 (mặc định), điều này biểu thị lượng tử hóa trên mỗi tensor. Đối với các hoạt động chấm, chỉ hỗ trợ lượng tử hóa trên mỗi tensor hoặc lượng tử hóa trên mỗi kênh dọc theo chiều 1. Do đó, thuộc tính này phải được đặt thành -1 hoặc 1. Các giá trị khác sẽ bị từ chối.