RetrieveAllTPUEmbeddingParameters

パブリック最終クラスRetrieveAllTPUEmbeddingParameters

ホストメモリへの埋め込みから最適化パラメータを取得する演算。

ホストメモリへの埋め込みから最適化パラメータを取得する演算。正しい埋め込みテーブル構成を設定する ConfigureTPUEmbeddingHost オペレーションを前に置く必要があります。たとえば、この操作はチェックポイントを保存する前に更新されたパラメータを取得するために使用されます。 Adagrad の場合、この操作を実行した後、auxiliary1 にアキュムレータが含まれます。 SGD の場合、すべての補助* 値は空になります (そのテーブルの 0x0 テンソル)。 FTRL の場合、auxiliary1 にはアキュムレータが含まれ、auxiliary2 には線形項が含まれます。 ADAM の場合、auxiliary1 には運動量が含まれ、auxiliary2 には速度が含まれます。

パブリックメソッド

リスト<出力<浮動小数点数>>
補助1 ()
格納された最初の補助最適化パラメーターを含む、各埋め込みテーブルに 1 つずつのテンソルのリスト。
リスト<出力<浮動小数点数>>
補助2 ()
格納された 2 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。
リスト<出力<浮動小数点数>>
補助3 ()
格納された 3 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。
リスト<出力<浮動小数点数>>
補助4 ()
格納された 4 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。
リスト<出力<浮動小数点数>>
補助5 ()
格納された 5 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。
リスト<出力<浮動小数点数>>
補助6 ()
格納された 6 つの補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。
リスト<出力<浮動小数点数>>
補助7 ()
格納された 7 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。
静的RetrieveAllTPUEmbeddingParameters
create (スコープscope、Long NumTables、String config、Long numShards、Long shardId)
新しい RetrieveAllTPUEmbeddingParameters 操作をラップするクラスを作成するためのファクトリ メソッド。
リスト<出力<浮動小数点数>>
パラメーター()
テンソルのリスト (各埋め込みテーブルに 1 つ)。格納された埋め込みテーブル パラメーターが含まれます。

継承されたメソッド

パブリックメソッド

public List<出力<Float>> auxiliary1 ()

格納された最初の補助最適化パラメーターを含む、各埋め込みテーブルに 1 つずつのテンソルのリスト。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public List<出力<Float>> auxiliary2 ()

格納された 2 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public List<出力<Float>> auxiliary3 ()

格納された 3 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public List<出力<Float>> auxiliary4 ()

格納された 4 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public List<出力<Float>> auxiliary5 ()

格納された 5 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public List<出力<Float>> auxiliary6 ()

格納された 6 つの補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public List<出力<Float>> auxiliary7 ()

格納された 7 番目の補助最適化パラメーターを含むテンソルのリスト (埋め込みテーブルごとに 1 つ)。要素はリスト内に存在しますが、未使用の最適化パラメーター (各テーブルで使用されているアルゴリズムに基づく) のサイズはゼロです。

public static RetrieveAllTPUEmbeddingParameters create (スコープscope、Long NumTables、String config、Long numShards、Long shardId)

新しい RetrieveAllTPUEmbeddingParameters 操作をラップするクラスを作成するためのファクトリ メソッド。

パラメーター
範囲現在のスコープ
テーブル数埋め込みテーブルの数。
構成ロードされ、文字列にシリアル化されるテーブル パラメーターを記述する TPUEmbeddingConfiguration プロト。
シャード数埋め込みテーブルが分割されるシャードの数。
シャードIDこの操作のシャードの識別子。
戻り値
  • RetrieveAllTPUEmbeddingParameters の新しいインスタンス

public List<出力<Float>>パラメータ()

テンソルのリスト (各埋め込みテーブルに 1 つ)。格納された埋め込みテーブル パラメーターが含まれます。