Se usó la API de Cloud Translation para traducir esta página.
Switch to English

tf.quantization.fake_quant_with_min_max_vars_per_channel

TensorFlow 1 versión

Fake-cuantizar tensor de tipo float las 'entradas' a través de los flotadores por canal

Fake-cuantizar la inputs tensor de tipo float por canal y una de las formas: [d] , [b, d] [b, h, w, d] a través de por canal flota min y max de la forma de [d] a outputs tensor de misma forma que inputs .

atributos

  • [min; max] definir el rango de fijación para las inputs de datos.
  • inputs valores son cuantificados en el intervalo de cuantificación ( [0; 2^num_bits - 1] cuando narrow_range es falsa y [1; 2^num_bits - 1] cuando es verdadera) y después de-cuantifican y salida como flotadores en [min; max] intervalo.
  • num_bits es el ancho de bits de la cuantificación; entre 2 y 16, ambos inclusive.

Antes de la cuantificación, min y max valores se ajustan con la siguiente lógica. Se sugiere tener min <= 0 <= max . Si 0 no está en el rango de los valores, el comportamiento puede ser inesperado:

  • Si 0 < min < max : min_adj = 0 y max_adj = max - min .
  • Si min < max < 0 : min_adj = min - max y max_adj = 0 .
  • Si min <= 0 <= max : scale = (max - min) / (2^num_bits - 1) , min_adj = scale * round(min / scale) y max_adj = max + min_adj - min .

Esta operación tiene un gradiente y por lo tanto permite el entrenamiento min y max valores.

inputs A Tensor de tipo float32 .
min A Tensor de tipo float32 .
max A Tensor de tipo float32 .
num_bits Un opcional int . El valor predeterminado es 8 .
narrow_range Un opcional bool . El valor predeterminado es False .
name Un nombre para la operación (opcional).

A Tensor de tipo float32 .