Un'operazione che recupera i parametri di ottimizzazione dall'incorporamento nella memoria dell'host.
Un'operazione che recupera i parametri di ottimizzazione dall'incorporamento nella memoria dell'host. Deve essere preceduto da un'operazione ConfigureTPUEmbeddingHost che imposta la corretta configurazione della tabella di incorporamento. Ad esempio, questa operazione viene utilizzata per recuperare parametri aggiornati prima di salvare un checkpoint. Per Adagrad, ausiliario1 conterrà gli accumulatori dopo aver eseguito questa operazione. Per SGD, tutti i valori ausiliari* saranno vuoti (tensori 0x0 per quella tabella). Per FTRL, ausiliario1 conterrà gli accumulatori e ausiliario2 conterrà i termini lineari. Per ADAM, ausiliario1 conterrà le quantità di moto e ausiliario2 conterrà le velocità.
Metodi pubblici
| Elenco< Uscita <Float>> | ausiliario1 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il primo parametro di ottimizzazione ausiliario memorizzato. |
| Elenco< Uscita <Float>> | ausiliario2 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il secondo parametro di ottimizzazione ausiliario memorizzato. |
| Elenco< Uscita <Float>> | ausiliario3 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il terzo parametro di ottimizzazione ausiliario memorizzato. |
| Elenco< Uscita <Float>> | ausiliario4 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il quarto parametro di ottimizzazione ausiliario memorizzato. |
| Elenco< Uscita <Float>> | ausiliario5 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il quinto parametro di ottimizzazione ausiliario memorizzato. |
| Elenco< Uscita <Float>> | ausiliario6 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i sei parametri di ottimizzazione ausiliari memorizzati. |
| Elenco< Uscita <Float>> | ausiliario7 () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il settimo parametro di ottimizzazione ausiliario memorizzato. |
| static RetrieveAllTPUEmbeddingParameters | |
| Elenco< Uscita <Float>> | parametri () Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i parametri della tabella di incorporamento memorizzati. |
Metodi ereditati
Metodi pubblici
elenco pubblico< Uscita <Float>> ausiliario1 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il primo parametro di ottimizzazione ausiliario memorizzato. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
elenco pubblico< Uscita <Float>> ausiliario2 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il secondo parametro di ottimizzazione ausiliario memorizzato. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
elenco pubblico< Uscita <Float>> ausiliario3 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il terzo parametro di ottimizzazione ausiliario memorizzato. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
elenco pubblico< Uscita <Float>> ausiliario4 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il quarto parametro di ottimizzazione ausiliario memorizzato. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
elenco pubblico< Uscita <Float>> ausiliario5 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il quinto parametro di ottimizzazione ausiliario memorizzato. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
elenco pubblico< Uscita <Float>> ausiliario6 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i sei parametri di ottimizzazione ausiliari memorizzati. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
elenco pubblico< Uscita <Float>> ausiliario7 ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente il settimo parametro di ottimizzazione ausiliario memorizzato. Gli elementi sono presenti nella lista, ma hanno dimensione zero, per parametri di ottimizzazione non utilizzati (in base all'algoritmo in uso per ciascuna tabella).
creazione statica pubblica RetrieveAllTPUEmbeddingParameters (ambito ambito , NumTables lunghe, configurazione stringhe, numShards lunghi, shardId lungo)
Metodo factory per creare una classe che racchiude una nuova operazione RetrieveAllTPUEmbeddingParameters.
Parametri
| scopo | ambito attuale |
|---|---|
| NumTabelle | Il numero di tabelle di incorporamento. |
| config | Un protocollo TPUEmbeddingConfiguration che descrive i parametri della tabella caricati, serializzati in una stringa. |
| numShards | Numero di frammenti in cui sono divise le tabelle di incorporamento. |
| shardId | Identificatore dello shard per questa operazione. |
ritorna
- una nuova istanza di RetrieveAllTPUEmbeddingParameters
Elenco pubblico< Output <Float>> parametri ()
Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i parametri della tabella di incorporamento memorizzati.