ホストメモリへの埋め込みから最適化パラメータを取得する演算。
ホストメモリへの埋め込みから最適化パラメータを取得する演算。正しい埋め込みテーブル構成を設定する ConfigureTPUEmbeddingHost オペレーションを前に置く必要があります。たとえば、この操作はチェックポイントを保存する前に更新されたパラメータを取得するために使用されます。 Adagrad の場合、この操作を実行した後、auxiliary1 にアキュムレータが含まれます。 SGD の場合、すべての補助* 値は空になります (そのテーブルの 0x0 テンソル)。 FTRL の場合、auxiliary1 にはアキュムレータが含まれ、auxiliary2 には線形項が含まれます。 ADAM の場合、auxiliary1 には運動量が含まれ、auxiliary2 には速度が含まれます。
パブリックメソッド
リスト<出力<浮動小数点数>> | 補助1 () 格納された最初の補助最適化パラメーターを含む、各埋め込みテーブルに 1 つずつのテンソルのリスト。 |
リスト<出力<浮動小数点数>> | 補助2 () 格納された 2 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。 |
リスト<出力<浮動小数点数>> | 補助3 () 格納された 3 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。 |
リスト<出力<浮動小数点数>> | 補助4 () 格納された 4 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。 |
リスト<出力<浮動小数点数>> | 補助5 () 格納された 5 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。 |
リスト<出力<浮動小数点数>> | 補助6 () 格納された 6 つの補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。 |
リスト<出力<浮動小数点数>> | 補助7 () 格納された 7 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。 |
静的RetrieveAllTPUEmbeddingParameters | |
リスト<出力<浮動小数点数>> | パラメーター() テンソルのリスト (各埋め込みテーブルに 1 つ)。格納された埋め込みテーブル パラメーターが含まれます。 |
継承されたメソッド
パブリックメソッド
public List<出力<Float>> auxiliary1 ()
格納された最初の補助最適化パラメーターを含む、各埋め込みテーブルに 1 つずつのテンソルのリスト。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public List<出力<Float>> auxiliary2 ()
格納された 2 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public List<出力<Float>> auxiliary3 ()
格納された 3 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public List<出力<Float>> auxiliary4 ()
格納された 4 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public List<出力<Float>> auxiliary5 ()
格納された 5 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public List<出力<Float>> auxiliary6 ()
格納された 6 つの補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public List<出力<Float>> auxiliary7 ()
格納された 7 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。
public static RetrieveAllTPUEmbeddingParameters create (スコープscope、Long NumTables、String config、Long numShards、Long shardId)
新しい RetrieveAllTPUEmbeddingParameters 操作をラップするクラスを作成するためのファクトリ メソッド。
パラメーター
範囲 | 現在のスコープ |
---|---|
テーブル数 | 埋め込みテーブルの数。 |
構成 | ロードされ、文字列にシリアル化されるテーブル パラメーターを記述する TPUEmbeddingConfiguration プロト。 |
シャード数 | 埋め込みテーブルが分割されるシャードの数。 |
シャードID | この操作のシャードの識別子。 |
戻り値
- RetrieveAllTPUEmbeddingParameters の新しいインスタンス