UniformQuantizedDotHybrid

clase final pública UniformQuantizedDotHybrid

Realice un punto híbrido cuantificado de Tensor flotante `lhs` y Tensor cuantificado `rhs`.

Dado `lhs` flotante y `rhs` cuantificado, realiza internamente la cuantificación en `lhs`, y luego realiza un punto cuantificado en lhs y `rhs` cuantificados. La cuantificación interna en `lhs` es una cuantificación a qint8, rango dinámico, por lote (por eje a lo largo del eje 0), asimétrica y no de rango estrecho (el rango es [-128, 127]). `lhs` y `rhs` deben ser tensores 2D y lhs.dim_size(1) debe coincidir con rhs.dim_size(0). `rhs` debe ser Tensor cuantificado, donde su valor de datos se cuantifica mediante la fórmula: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).

Clases anidadas

clase UniformQuantizedDotHybrid.Options Atributos opcionales para UniformQuantizedDotHybrid

Métodos públicos

Salida <V>
como salida ()
Devuelve el identificador simbólico de un tensor.
estático <V extiende Número, T extiende Número, U> UniformQuantizedDotHybrid <V>
crear ( Alcance alcance, Operando <T> lhs, Operando <U> rhs, Operando <Flotante> rhsScales, Operando <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Opciones... opciones)
Método de fábrica para crear una clase que envuelve una nueva operación UniformQuantizedDotHybrid.
Salida <V>
salida ()
El tensor 2D de salida de Tout, cuya forma es (lhs.dim_size(0), rhs.dim_size(1)).
estático UniformQuantizedDotHybrid.Options
rhsQuantizationAxis (rhsQuantizationAxis largo)

Métodos Heredados

Métodos públicos

salida pública <V> como salida ()

Devuelve el identificador simbólico de un tensor.

Las entradas de las operaciones de TensorFlow son salidas de otra operación de TensorFlow. Este método se utiliza para obtener un identificador simbólico que representa el cálculo de la entrada.

public static UniformQuantizedDotHybrid <V> create ( Scope scope, Operand <T> lhs, Operand <U> rhs, Operand <Float> rhsScales, Operand <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options.. . opciones)

Método de fábrica para crear una clase que envuelve una nueva operación UniformQuantizedDotHybrid.

Parámetros
alcance alcance actual
izq. Debe ser un tensor 2D de Tlhs.
derecho Debe ser un tensor 2D de Trhs.
rhsEscalas Los valores flotantes utilizados como escala al cuantificar los datos originales que representa rhs. Debe ser un tensor escalar (cuantificación por tensor) o un tensor 1D de tamaño (rhs.dim_size(1),) (cuantificación por canal).
rhsZeroPuntos Los valores int32 utilizados como punto_cero al cuantificar los datos originales que representa rhs. Misma condición de forma que rhs_scales.
Revendedor El tipo de Tensor de salida.
rhsQuantizationMinVal El valor mínimo de los datos cuantificados almacenados en rhs. Por ejemplo, si Trhs es qint8, debe establecerse en -127 si se cuantifica en rango estrecho o -128 en caso contrario.
rhsQuantizationMaxVal El valor máximo de los datos cuantificados almacenados en rhs. Por ejemplo, si Trhs es qint8, debe establecerse en 127.
opciones lleva valores de atributos opcionales
Devoluciones
  • una nueva instancia de UniformQuantizedDotHybrid

salida pública <V> salida ()

El tensor 2D de salida de Tout, cuya forma es (lhs.dim_size(0), rhs.dim_size(1)). Los datos de salida son los mismos datos de salida originales (no cuantificados).

público estático UniformQuantizedDotHybrid.Options rhsQuantizationAxis (Largo rhsQuantizationAxis)

Parámetros
rhsQuantizationAxis Indica el índice de dimensión del tensor donde se aplica la cuantificación por eje para los cortes a lo largo de esa dimensión. Si se establece en -1 (predeterminado), indica cuantización por tensor. Para punto op rhs, solo se admite la cuantificación por tensor o la cuantificación por canal a lo largo de la dimensión 1. Por lo tanto, este atributo debe establecerse en -1 o 1. Se rechazan otros valores.