FakeQuantWithMinMaxVars

Fałszywie kwantyzuj tensor „wejściowy” typu float za pomocą globalnych skalarów zmiennoprzecinkowych

Fałszywie kwantyzuj tensor „wejść” typu float za pomocą globalnych skalarów float „min” i „max” do tensora „wyjścia” o tym samym kształcie co „wejścia”.

Atrybuty

• `[min; max]` definiuje zakres zaciskania dla danych `wejściowych`.
• Wartości „wejściowe” są kwantowane do zakresu kwantyzacji („[0; 2^liczba_bitów - 1]”, gdy „wąski_zakres” ma wartość fałsz i „[1; 2^liczba_bitów - 1]”, gdy jest prawdą), a następnie dekwantyzowane i wyprowadź jako wartości zmiennoprzecinkowe w `[min; max]` interwał.
• `num_bits` to szerokość bitowa kwantyzacji; od 2 do 16 włącznie.

Przed kwantyzacją wartości „min” i „max” są dostosowywane zgodnie z następującą logiką. Sugeruje się, aby `min <= 0 <= max`. Jeśli „0” nie należy do zakresu wartości, zachowanie może być nieoczekiwane:

• Jeśli `0 < min < max`: `min_adj = 0` i `max_adj = max - min`.
• Jeśli `min < max < 0`: `min_adj = min - max` i `max_adj = 0`.
• Jeśli `min <= 0 <= max`: `scale = (max - min) / (2^num_bits - 1) `, `min_adj = skala * round(min / skala)` i `max_adj = max + min_adj - min `.

Ta operacja ma gradient i dlatego pozwala na szkolenie wartości „min” i „max”.