DataLayouts

16 ビット bfloat と short 値を変換するためのデータ レイアウト。

この形式は以前は TensorFlow に固有のものでしたが、現在では機械学習分野でより広く採用されています。単精度 32 ビット浮動小数点の値をシフトし、仮数部を 7 ビットのみに切り捨てるだけで、高速変換できるように最適化されています。

したがって、これは IEEE-754 の半精度浮動小数点仕様 ( FLOAT16を参照) と比較して小数部分の精度が失われますが、8 ビットの指数を保持し、使用するため、部分全体で取り得る値の範囲が広くなります。同じバイアス (すなわち、約 [10 ^-40 , 3.39 × 10 ³⁸ ] の 0 より上の絶対範囲)

一部の CPU は、パフォーマンスを向上させるために bfloat16 形式をネイティブにサポートしています。

ブール値とバイト値を変換するためのデータ レイアウト。

Java NIO ブール値バッファがないため、このレイアウトはブール値を標準バイト バッファにマッピングする場合に特に役立ちます。ブール値とバイト間の変換には、明示的な型キャストが必要です。

16 ビットのハーフフロートを short 値に変換するためのデータ レイアウト。

半浮動小数点は、IEEE-754 半精度浮動小数点仕様に従ってメモリに格納され、ユーザー空間で 32 ビット浮動小数点との間で変換されます。

単一浮動小数点 (32 ビット) を半浮動小数点 (16 ビット) に変換する場合、精度が失われる可能性があります。半浮動小数点の 0 を超える値の絶対範囲は約 [5.96 × 10 ^-8 , 6.55 × 10 ⁴ ] で、小数部は 10 ビットの仮数に切り上げられます。

一般に、CPU はこの形式をネイティブにサポートしていないため、半浮動小数点計算は GPU でのパフォーマンスが向上します。

文字列とバイト シーケンス間の変換のためのデータ レイアウトを作成します。

このレイアウトでは、文字列をバイト シーケンスとしてエンコード/デコードする方法を指定するパラメータにcharset必要です。したがって、新しいレイアウト インスタンスが常に返されます。