このページは Cloud Translation API によって翻訳されました。
Switch to English

tf.VariableAggregation

TensorFlow 1つのバージョン GitHubの上のソースを表示

分散型の変数を集計する方法を示します。

tf.distribute.Strategy入力されたバッチの異なる要素にデータ並列に作用する(「レプリカ」と呼ばれる)は、複数のコピーを作成することにより、モデルを配信します。いくつかの変数の更新操作を実行すると、言うvar.assign_add(x) 、モデルでは、我々は異なる値を結合する方法を解決する必要がありx異なるレプリカで計算。

  • NONE :これは、複数のレプリカを持つ変数更新操作を使用する場合、エラーを与えて、デフォルトです。
  • SUM :レプリカ間で更新情報を追加します。
  • MEAN :レプリカ間の更新の算術平均値(「平均」)を取ります。
  • ONLY_FIRST_REPLICA :これは、すべてのレプリカが同じ更新を実行したときのためですが、私たちは一度だけ更新を実行します。グローバルステップカウンタのために、例えば、使用されます。

クラス変数

  • MEAN
  • NONE
  • ONLY_FIRST_REPLICA
  • SUM