przepływ tensorowy:: ops:: Dekwantyzacja
#include <array_ops.h>
Dekwantyzuj tensor „wejściowy” na tensor zmiennoprzecinkowy.
Streszczenie
[min_range, max_range] to skalarne liczby zmiennoprzecinkowe, które określają zakres danych „wejściowych”. Atrybut „mode” dokładnie kontroluje, które obliczenia są używane do konwersji wartości zmiennoprzecinkowych na ich skwantowane odpowiedniki.
W trybie „MIN_COMBINED” każda wartość tensora zostanie poddana następującym czynnościom:
if T == qint8: in[i] += (range(T) + 1)/ 2.0 out[i] = min_range + (in[i]* (max_range - min_range) / range(T))tutaj
range(T) = numeric_limits ::max() - numeric_limits ::min()
range(T) = numeric_limits ::max() - numeric_limits ::min()
range(T) = numeric_limits ::max() - numeric_limits ::min()
Przykład trybu MIN_COMBINED
Jeśli dane wejściowe pochodzą z QuantizedRelu6 , typem wyjścia jest quint8 (zakres 0-255), ale możliwy zakres QuantizedRelu6 to 0-6. Wartości min_range i max_range wynoszą zatem 0,0 i 6,0. Dekwantyzacja na kwincie8 pobierze każdą wartość, rzutuje na liczbę zmiennoprzecinkową i pomnoży przez 6/255. Należy zauważyć, że jeśli typem kwantyzacji jest qint8, operacja dodatkowo doda każdą wartość o 128 przed rzutowaniem.
Jeśli tryb to „MIN_FIRST”, stosowane jest następujące podejście:
num_discrete_values = 1 << (# of bits in T) range_adjust = num_discrete_values / (num_discrete_values - 1) range = (range_max - range_min) * range_adjust range_scale = range / num_discrete_values const double offset_input = static_cast(input) - lowest_quantized; result = range_min + ((input - numeric_limits ::min()) * range_scale)
Tryb SKALOWANY Przykład
Tryb SCALED
odpowiada podejściu kwantyzacji stosowanemu w QuantizeAndDequantize{V2|V3}
.
Jeśli trybem jest SCALED
, nie wykorzystujemy pełnego zakresu typu wyjścia, decydując się na pominięcie najniższej możliwej wartości symetrii (np. zakres wyjściowy wynosi -127 do 127, a nie -128 do 127 dla 8-bitowej kwantyzacji ze znakiem), tak, że 0.0 jest odwzorowane na 0.
Najpierw znajdujemy zakres wartości w naszym tensorze. Zakres, którego używamy, jest zawsze wyśrodkowany na 0, więc znajdujemy m takie, że
m = max(abs(input_min), abs(input_max))
Nasz zakres tensora wejściowego wynosi wówczas [-m, m]
.
Następnie wybieramy nasze zestawy kwantyzacji stałoprzecinkowej [min_fixed, max_fixed]
. Jeśli T jest podpisane, tak jest
num_bits = sizeof(T) * 8 [min_fixed, max_fixed] = [-(1 << (num_bits - 1) - 1), (1 << (num_bits - 1)) - 1]
W przeciwnym razie, jeśli T jest bez znaku, zakres stałoprzecinkowy jest
[min_fixed, max_fixed] = [0, (1 << num_bits) - 1]
Na tej podstawie obliczamy nasz współczynnik skalowania, s:
s = (2 * m) / (max_fixed - min_fixed)
Teraz możemy zdekwantyzować elementy naszego tensora:
result = input * s
Argumenty:
- zakres: Obiekt Scope
- min_range: Minimalna wartość skalarna, jaka może zostać wygenerowana dla wejścia.
- max_range: Maksymalna wartość skalarna, jaką można uzyskać dla wejścia.
Zwroty:
-
Output
: Tensor wyjściowy.
Konstruktory i destruktory | |
---|---|
Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range) | |
Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs) |
Atrybuty publiczne | |
---|---|
operation | |
output |
Funkcje publiczne | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Publiczne funkcje statyczne | |
---|---|
Mode (StringPiece x) |
Struktury | |
---|---|
tensorflow:: ops:: Dekwantyzacja:: Atrybuty | Opcjonalne ustawiacze atrybutów dla Dequantize . |
Atrybuty publiczne
działanie
Operation operation
wyjście
::tensorflow::Output output
Funkcje publiczne
Dekwantyzacja
Dequantize( const ::tensorflow::Scope & scope, ::tensorflow::Input input, ::tensorflow::Input min_range, ::tensorflow::Input max_range )
Dekwantyzacja
Dequantize( const ::tensorflow::Scope & scope, ::tensorflow::Input input, ::tensorflow::Input min_range, ::tensorflow::Input max_range, const Dequantize::Attrs & attrs )
węzeł
::tensorflow::Node * node() const
operator::tensorflow::Wejście
operator::tensorflow::Input() const
operator::tensorflow::Wyjście
operator::tensorflow::Output() const
Publiczne funkcje statyczne
Tryb
Attrs Mode( StringPiece x )