Esegui il punto quantizzato ibrido del tensore float `lhs` e del tensore quantizzato `rhs`.
Dato il float "lhs" e il "rhs" quantizzato, esegue internamente la quantizzazione su "lhs" e quindi esegue il punto quantizzato su lhs e "rhs" quantizzati. La quantizzazione interna su "lhs" è una quantizzazione su qint8, intervallo dinamico, per batch (per asse lungo l'asse 0), asimmetrico e intervallo non ristretto (l'intervallo è [-128, 127]). `lhs` e `rhs` devono essere tensori 2D e lhs.dim_size(1) deve corrispondere a rhs.dim_size(0). `rhs` deve essere un tensore quantizzato, dove il valore dei dati è quantizzato utilizzando la formula: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).
Classi nidificate
classe | UniformQuantizedDotHybrid.Options | Attributi facoltativi per UniformQuantizedDotHybrid |
Metodi pubblici
Uscita <V> | comeuscita () Restituisce la maniglia simbolica di un tensore. |
static <V estende il numero, T estende il numero, U> UniformQuantizedDotHybrid <V> | create ( Scope scope, Operando <T> lhs, Operando <U> rhs, Operando <Float> rhsScales, Operando <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Opzioni... opzioni) Metodo Factory per creare una classe che racchiude una nuova operazione UniformQuantizedDotHybrid. |
Uscita <V> | produzione () Il Tensore 2D di Tout in uscita, la cui forma è (lhs.dim_size(0), rhs.dim_size(1)). |
static UniformQuantizedDotHybrid.Options | rhsQuantizationAxis (rhsQuantizationAxis lungo) |
Metodi ereditati
Metodi pubblici
Uscita pubblica <V> asOutput ()
Restituisce la maniglia simbolica di un tensore.
Gli input per le operazioni TensorFlow sono output di un'altra operazione TensorFlow. Questo metodo viene utilizzato per ottenere un handle simbolico che rappresenta il calcolo dell'input.
public static UniformQuantizedDotHybrid <V> create ( Scope scope, Operando <T> lhs, Operando <U> rhs, Operando <Float> rhsScales, Operando <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Opzioni.. . opzioni)
Metodo Factory per creare una classe che racchiude una nuova operazione UniformQuantizedDotHybrid.
Parametri
scopo | ambito attuale |
---|---|
sinistra | Deve essere un tensore 2D di Tlhs. |
ds | Deve essere un tensore 2D di Trhs. |
rhsScales | I valori float utilizzati come scala durante la quantizzazione dei dati originali rappresentati da destra. Deve essere un tensore scalare (quantizzazione per tensore) o tensore 1D di dimensione (rhs.dim_size(1),) (quantizzazione per canale). |
rhsZeroPoints | I valori int32 utilizzati come zero_point durante la quantizzazione dei dati originali rappresentati da rhs. Stessa condizione di forma di rhs_scales. |
Tutto | Il tipo di tensore di uscita. |
rhsQuantizzazioneMinVal | Il valore minimo dei dati quantizzati memorizzati in rhs. Ad esempio, se Trhs è qint8, questo deve essere impostato su -127 se quantizzato in intervallo ristretto o -128 in caso contrario. |
rhsQuantizzazioneMaxVal | Il valore massimo dei dati quantizzati memorizzati in rhs. Ad esempio, se Trhs è qint8, questo deve essere impostato su 127. |
opzioni | trasporta valori di attributi opzionali |
ritorna
- una nuova istanza di UniformQuantizedDotHybrid
uscita pubblica <V> uscita ()
Il Tensore 2D di Tout in uscita, la cui forma è (lhs.dim_size(0), rhs.dim_size(1)). I dati di output sono i dati di output originali stessi (non quantizzati).
public static UniformQuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)
Parametri
rhsQuantizationAxis | Indica l'indice della dimensione del tensore in cui viene applicata la quantizzazione per asse per le fette lungo quella dimensione. Se impostato su -1 (impostazione predefinita), indica la quantizzazione per tensore. Per punto op rhs, è supportata solo la quantizzazione per tensore o la quantizzazione per canale lungo la dimensione 1. Pertanto, questo attributo deve essere impostato su -1 o 1. Altri valori vengono rifiutati. |
---|