tensoreflusso:: ops:: Dequantizzare

Esempio di modalità MIN_COMBINED

Se l'input proviene da un QuantizedRelu6 , il tipo di output è quint8 (intervallo 0-255) ma il possibile intervallo di QuantizedRelu6 è 0-6. I valori min_range e max_range sono quindi 0,0 e 6,0. Dequantizza su quint8 prenderà ogni valore, lo convertirà in float e lo moltiplicherà per 6/255. Tieni presente che se quantizedtype è qint8, l'operazione aggiungerà inoltre ogni valore per 128 prima del casting.

Se la modalità è "MIN_FIRST", viene utilizzato questo approccio:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Esempio della modalità SCALA

La modalità SCALED corrisponde all'approccio di quantizzazione utilizzato in QuantizeAndDequantize{V2|V3} .

Se la modalità è SCALED , non utilizziamo l'intero intervallo del tipo di output, scegliendo di elidere il valore più basso possibile per la simmetria (ad esempio, l'intervallo di output è compreso tra -127 e 127, non tra -128 e 127 per la quantizzazione a 8 bit con segno), in modo che 0.0 corrisponda a 0.

Per prima cosa troviamo l'intervallo di valori nel nostro tensore. L'intervallo che utilizziamo è sempre centrato su 0, quindi troviamo m tale che

  m = max(abs(input_min), abs(input_max))

Il nostro intervallo del tensore di input è quindi [-m, m] .

Successivamente, scegliamo i nostri bucket di quantizzazione a virgola fissa, [min_fixed, max_fixed] . Se T è firmato, questo è

  num_bits = sizeof(T) * 8
  [min_fixed, max_fixed] =
      [-(1 << (num_bits - 1) - 1), (1 << (num_bits - 1)) - 1]

Altrimenti, se T non ha segno, l'intervallo a virgola fissa è

  [min_fixed, max_fixed] = [0, (1 << num_bits) - 1]

Da questo calcoliamo il nostro fattore di scala, s:

  s = (2 * m) / (max_fixed - min_fixed)

Ora possiamo dequantizzare gli elementi del nostro tensore:

result = input * s

Argomenti:

• scope: un oggetto Scope
• min_range: il valore scalare minimo eventualmente prodotto per l'input.
• max_range: il valore scalare massimo possibilmente prodotto per l'input.

Ritorna:

• Output : il tensore di uscita.

Attributi pubblici

Operation operation

::tensorflow::Output output

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs Mode(
  StringPiece x
)