パブリック最終クラス
Adam アルゴリズムに従って「*var」を更新します。
$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$
$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$
$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$
$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$
$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$
ネストされたクラス
クラス | リソースApplyAdamWithAmsgrad.Options | ResourceApplyAdamWithAmsgrad のオプションの属性 |
パブリックメソッド
静的 <T> ResourceApplyAdamWithAmsgrad | |
静的ResourceApplyAdamWithAmsgrad.Options | useLocking (ブール型 useLocking) |
継承されたメソッド
パブリックメソッド
public static ResourceApplyAdamWithAmsgrad create (スコープscope,オペランド<?> var,オペランド<?> m,オペランド<?> v,オペランド<?> vhat,オペランド<T> beta1Power,オペランド<T> beta2Power,オペランド<T> lr,オペランド<T> beta1、オペランド<T> beta2、オペランド<T> イプシロン、オペランド<T> grad、オプション...オプション)
新しい ResourceApplyAdamWithAmsgrad 操作をラップするクラスを作成するためのファクトリ メソッド。
パラメーター
範囲 | 現在のスコープ |
---|---|
変数 | Variable() から取得する必要があります。 |
メートル | Variable() から取得する必要があります。 |
v | Variable() から取得する必要があります。 |
ああ | Variable() から取得する必要があります。 |
beta1パワー | スカラーでなければなりません。 |
ベータ2パワー | スカラーでなければなりません。 |
lr | スケーリング係数。スカラーでなければなりません。 |
ベータ1 | 勢い要因。スカラーでなければなりません。 |
ベータ2 | 勢い要因。スカラーでなければなりません。 |
イプシロン | リッジ用語。スカラーでなければなりません。 |
卒業生 | グラデーション。 |
オプション | オプションの属性値を持ちます |
戻り値
- ResourceApplyAdamWithAmsgrad の新しいインスタンス
public static ResourceApplyAdamWithAmsgrad.Options useLocking (Boolean useLocking)
パラメーター
使用ロック | 「True」の場合、var、m、および v テンソルの更新はロックによって保護されます。それ以外の場合、動作は未定義ですが、競合が少なくなる可能性があります。 |
---|