QuantizedMatMulWithBiasAndRelu

パブリック最終クラスQuantizedMatMulWithBiasAndRelu

バイアス加算とレルフュージョンを使用して、行列 'a' と行列 'b' の量子化行列乗算を実行します。

入力は 2 次元行列と 1D バイアス ベクトルである必要があります。そして、`a` の内部次元 (`transpose_a` がゼロ以外の場合は転置後) は、`b` の外部次元 (`transpose_b` が非ゼロの場合は転置後) と一致する必要があります。次に、行列乗算結果に対してバイアス値を使用してブロードキャスト加算演算を実行します。バイアスのサイズは「b」の内寸と一致する必要があります。次に、relu アクティベーションを実行して、非負の結果を取得します。

ネストされたクラス

クラスQuantizedMatMulWithBiasAndRelu.Options QuantizedMatMulWithBiasAndReluのオプションの属性

パブリックメソッド

静的 <V, T, U> QuantizedMatMulWithBiasAndRelu <V>
create (スコープscope,オペランド<T> a,オペランド<U> b,オペランド<Float>bias,オペランド<Float> minA,オペランド<Float> maxA,オペランド<Float> minB,オペランド<Float> maxB, Class<V >出力、オプション...オプション)
新しい QuantizedMatMulWithBiasAndRelu オペレーションをラップするクラスを作成するファクトリ メソッド。
静的QuantizedMatMulWithBiasAndRelu.Options
inputQuantMode (文字列 inputQuantMode)
出力<浮動小数点>
最大出力()
最大の量子化出力値が表す浮動小数点値。
出力<浮動小数点>
minOut ()
最小の量子化出力値が表す浮動小数点値。
出力<V>
()
静的QuantizedMatMulWithBiasAndRelu.Options
transposeA (ブールtransposeA)
静的QuantizedMatMulWithBiasAndRelu.Options
transposeB (ブールtransposeB)

継承されたメソッド

パブリックメソッド

public static QuantizedMatMulWithBiasAndRelu <V> create (スコープscope,オペランド<T> a,オペランド<U> b,オペランド<Float> バイアス,オペランド<Float> minA,オペランド<Float> maxA,オペランド<Float> minB,オペランド<Float > maxB、Class<V> Toutput、オプション...オプション)

新しい QuantizedMatMulWithBiasAndRelu オペレーションをラップするクラスを作成するファクトリ メソッド。

パラメーター
範囲現在のスコープ
ある乗算される行列。 `quint8` 型の 2 次元テンソルでなければなりません。
b乗算される行列。`qint8` 型の 2 次元テンソルでなければなりません。
バイアス`b` の内部次元と一致するサイズを持つ 1D バイアス テンソル (`transused_b` がゼロ以外の場合は転置後)。
ミナ量子化された最小の「a」値が表す浮動小数点値。
マックスA最大の量子化された「a」値が表す浮動小数点値。
minB量子化された最小の「b」値が表す浮動小数点値。
マックスB最大の量子化された「b」値が表す浮動小数点値。
オプションオプションの属性値を持ちます
戻り値
  • QuantizedMatMulWithBiasAndRelu の新しいインスタンス

public static QuantizedMatMulWithBiasAndRelu.Options inputQuantMode (String inputQuantMode)

パラメーター
入力量モード入力データの量子化モード。 MIN_FIRST (デフォルト) または SCALED のいずれか。

public出力<Float> maxOut ()

最大の量子化出力値が表す浮動小数点値。

public出力<Float> minOut ()

最小の量子化出力値が表す浮動小数点値。

public出力<V> out ()

public static QuantizedMatMulWithBiasAndRelu.Options transposeA (ブール transposeA)

パラメーター
トランスポーズA true の場合、「a」は乗算の前に転置されます。

public static QuantizedMatMulWithBiasAndRelu.Options transposeB (ブール transposeB)

パラメーター
トランスポーズB true の場合、「b」は乗算の前に転置されます。