QuantizeDownAndShrinkRange

Converta o tensor de 'entrada' quantizado em uma 'saída' de menor precisão, usando o

distribuição real dos valores para maximizar o uso da profundidade de bits inferior e ajustar os intervalos mínimo e máximo de saída de acordo.

[input_min, input_max] são valores flutuantes escalares que especificam o intervalo para a interpretação flutuante dos dados de 'entrada'. Por exemplo, se input_min for -1,0f e input_max for 1,0f, e estivermos lidando com dados quantizados quint16, então um valor 0 nos dados de 16 bits deve ser interpretado como -1,0f, e 65535 significa 1,0f.

Este operador tenta extrair o máximo de precisão possível em uma saída com menor profundidade de bits, calculando os valores mínimo e máximo reais encontrados nos dados. Por exemplo, talvez a entrada quint16 não tenha valores inferiores a 16.384 e nenhum superior a 49.152. Isso significa que apenas metade do intervalo é realmente necessário, todas as interpretações de float estão entre -0,5f e 0,5f, portanto, se quisermos compactar os dados em uma saída quint8, podemos usar esse intervalo em vez do teórico -1,0f a 1,0 f que é sugerido pela entrada min e max.

Na prática, isso é mais útil para obter resultados de operações como QuantizedMatMul, que podem produzir saídas com maior profundidade de bits do que suas entradas e podem ter grandes faixas de saída potencial, mas na prática têm uma distribuição de valores de entrada que usa apenas uma pequena fração do intervalo possível. Ao alimentar esse operador com essa saída, podemos reduzi-la de 32 bits para 8 com perda mínima de precisão.