classe finale pubblica LoadAllTPUEmbeddingParameters
Un'operazione che carica i parametri di ottimizzazione nella memoria incorporata.
Un'operazione che carica i parametri di ottimizzazione nella memoria incorporata. Deve essere preceduto da un'operazione ConfigureTPUEmbeddingHost che imposta la corretta configurazione della tabella di incorporamento. Ad esempio, questa operazione viene utilizzata per installare i parametri caricati da un checkpoint prima dell'esecuzione di un ciclo di training. Per Adagrad, gli ausiliari1 dovrebbero essere gli accumulatori. Per SGD, tutti i valori ausiliari* devono essere vuoti. Per FTRL, ausiliario1 dovrebbero essere gli accumulatori e ausiliario2 dovrebbero essere i termini lineari. Per ADAM, ausiliario1 dovrebbe essere la quantità di moto e ausiliario2 dovrebbero essere le velocità.
Metodi pubblici
| LoadAllTPUEmbeddingParameters statico | create ( Ambito di applicazione , parametri Iterable< operando <Float>>, Iterable< operando <Float>> ausiliario1, Iterable< operando <Float>> ausiliario2, Iterable< operando <Float>> ausiliario3, Iterable< operando <Float>> ausiliario4, Iterable< Operando <Float>> ausiliario5, Iterable< Operando <Float>> ausiliario6, Iterable< Operando <Float>> ausiliario7, Configurazione stringa, numShards lunghi, shardId lungo) Metodo factory per creare una classe che racchiude una nuova operazione LoadAllTPUEmbeddingParameters. |
Metodi ereditati
Metodi pubblici
public static LoadAllTPUEmbeddingParameters create ( ambito ambito , parametri Iterable< operando <Float>>, Iterable< operando <Float>> ausiliario1, Iterable< operando <Float>> ausiliario2, Iterable< operando <Float>> ausiliario3, Iterable< operando <Float> > ausiliario4, Iterabile< operando <Float>> ausiliario5, Iterable< operando <Float>> ausiliario6, Iterable< operando <Float>> ausiliario7, Configurazione stringa, numShards lunghi, shardId lungo)
Metodo factory per creare una classe che racchiude una nuova operazione LoadAllTPUEmbeddingParameters.
Parametri
| scopo | ambito attuale |
|---|---|
| parametri | Un elenco di tensori, uno per ogni tabella di incorporamento, contenente i parametri iniziali della tabella di incorporamento da utilizzare nelle ricerche di incorporamento. |
| ausiliario1 | Un elenco di tensori, uno per ogni tabella di incorporamento, contenente i valori iniziali del primo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno almeno un parametro ausiliario. |
| ausiliario2 | Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i valori iniziali del secondo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno almeno due elementi ausiliari |
| ausiliario3 | Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i valori iniziali del terzo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno tre parametri ausiliari. |
| ausiliario4 | Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i valori iniziali del secondo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno almeno quattro |
| ausiliario5 | Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i valori iniziali del terzo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno cinque parametri ausiliari. |
| ausiliario6 | Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i valori iniziali del secondo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno almeno sei |
| ausiliario7 | Un elenco di tensori, uno per ciascuna tabella di incorporamento, contenente i valori iniziali del terzo parametro di ottimizzazione ausiliario da utilizzare nell'incorporamento degli aggiornamenti del ciclo di training. La forma di ciascuna voce viene ignorata (e quindi può essere vuota) per quelle tabelle i cui algoritmi di ottimizzazione non hanno sette parametri ausiliari. |
| config | Un protocollo TPUEmbeddingConfiguration che descrive i parametri della tabella caricati, serializzati in una stringa. |
| numShards | Numero di frammenti in cui sono divise le tabelle di incorporamento. |
| shardId | Identificatore dello shard per questa operazione. |
ritorna
- una nuova istanza di LoadAllTPUEmbeddingParameters