Tensor.QuantizationParams kelas public static
Parameter kuantisasi yang sesuai dengan tabel, QuantizationParameters , dalam file skema TFLite Model.
Sejak kuantisasi per-channel tidak berlaku untuk input dan output tensor, scale dan zero_point keduanya nilai tunggal bukan array.
Untuk tensor yang tidak terkuantisasi, nilai skala dan titik_nol sama-sama 0.
Diberikan nilai terkuantisasi q, nilai float yang sesuai f harus:
f = skala * (q - titik_nol)
Konstruktor Publik
QuantizationParams (skala float, int zeroPoint) |
Metode Publik
| mengambang | getScale () Mengembalikan nilai skala. |
| ke dalam | getZeroPoint () Mengembalikan nilai titik nol. |
Metode yang Diwarisi
Konstruktor Publik
QuantizationParams umum (skala float, int zeroPoint)
Menciptakan Tensor.QuantizationParams dengan scale dan zero_point .
Parameter
| skala | Nilai skala yang digunakan dalam kuantisasi. |
|---|---|
| titik nol | Nilai titik nol yang digunakan dalam kuantisasi. |
Metode Publik
mengapung publik getScale ()
Mengembalikan nilai skala.
public int getZeroPoint ()
Mengembalikan nilai titik nol.