Klasa Tensor.QuantizationParams publiczne statyczny
Parametry kwantowania, który odpowiada tabeli, QuantizationParameters , w pliku schematu TFLite Model.
Od kwantyzacji na kanał nie ma zastosowania do tensorów wejściowych i wyjściowych, scale i zero_point są zarówno pojedyncze wartości zamiast tablic.
W przypadku tensora, który nie jest skwantowany, wartości scale i zero_point są równe 0.
Biorąc pod uwagę skwantyzowaną wartość q, odpowiadająca jej wartość zmiennoprzecinkowa f powinna wynosić:
f = skala * (q - punkt zerowy)
Konstruktorzy publiczni
QuantizationParams (skala pływak, Int punkt zero) |
Metody publiczne
| pływak | getScale () Zwraca wartość skali. |
| int | getZeroPoint () Zwraca wartość punktu zerowego. |
Metody odziedziczone
Konstruktorzy publiczni
QuantizationParams publicznych (skala float, int punktem zerowym)
Tworzy Tensor.QuantizationParams ze scale i zero_point .
Parametry
| skala | Wartość skali używana w kwantyzacji. |
|---|---|
| punkt zerowy | Wartość punktu zerowego używana w kwantyzacji. |
Metody publiczne
Pływak publicznego getScale ()
Zwraca wartość skali.
public int getZeroPoint ()
Zwraca wartość punktu zerowego.