12 月 7 日の Women in ML シンポジウムに参加する今すぐ登録する

サポートされているSelectTensorFlow演算子

コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

TensorFlow コア オペレータ

以下は、Select TensorFlow Ops 機能を備えた TensorFlow Lite ランタイムでサポートされている TensorFlow コア操作の完全なリストです。

TensorFlow Text および SentencePiece 演算子

Python API を使用して変換し、それらのライブラリをインポートする場合、次のTensorFlow TextおよびSentencePiece演算子がサポートされます。

TF.Text 演算子:

  • CaseFoldUTF8
  • ConstrainedSequence
  • MaxSpanningTree
  • NormalizeUTF8
  • NormalizeUTF8WithOffsetsMap
  • RegexSplitWithOffsets
  • RougeL
  • SentenceFragments
  • SentencepieceOp
  • SentencepieceTokenizeOp
  • SentencepieceTokenizeWithOffsetsOp
  • SentencepieceDetokenizeOp
  • SentencepieceVocabSizeOp
  • SplitMergeTokenizeWithOffsets
  • UnicodeScriptTokenizeWithOffsets
  • WhitespaceTokenizeWithOffsets
  • WordpieceTokenizeWithOffsets

SentencePiece 演算子:

  • SentencepieceGetPieceSize
  • SentencepiecePieceToId
  • SentencepieceIdToPiece
  • SentencepieceEncodeDense
  • SentencepieceEncodeSparse
  • SentencepieceDecode

次のスニペットは、上記の演算子を使用してモデルを変換する方法を示しています。

import tensorflow as tf
# These imports are required to load operators' definition.
import tensorflow_text as tf_text
import sentencepiece as spm

converter = tf.lite.TFLiteConverter.from_keras_model(your_model)
converter.target_spec.supported_ops = [
  tf.lite.OpsSet.TFLITE_BUILTINS, tf.lite.OpsSet.SELECT_TF_OPS
]
model_data = converter.convert()

ランタイム側では、TensorFlow Text または SentencePiece ライブラリを最終的なアプリまたはバイナリにリンクすることも必要です。

ユーザー定義の演算子

独自の TensorFlow オペレーターを作成した場合は、次のように、 experimental_select_user_tf_opsに必要なオペレーターをリストすることで、それらを含むモデルを TensorFlow Lite に変換することもできます。

import tensorflow as tf

ops_module = tf.load_op_library('./your_ops_library.so')

converter = tf.lite.TFLiteConverter.from_saved_model(your_model)
converter.target_spec.supported_ops = [
  tf.lite.OpsSet.TFLITE_BUILTINS, tf.lite.OpsSet.SELECT_TF_OPS
]
converter.target_spec.experimental_select_user_tf_ops = [
    'your_op_name1',
    'your_op_name2'
]
model_data = converter.convert()

ランタイム側では、オペレーター ライブラリを最終的なアプリまたはバイナリにリンクすることも必要です。

TensorFlow コア オペレーターを許可リストに追加します。

TensorFlow コア オペレーターが上記の許可リストにない場合は、許可リストに記載されていない TensorFlow コア オペレーターの名前を使用して、ここで機能リクエストを報告できます。

ソース コードから独自のプル リクエストを作成することもできます。たとえば、許可リストにraw_ops.StringToNumber op を追加する場合、このcommitのように更新する場所が 3 つあります。

(1) オペレーター カーネル ソース コードをportable_extended_ops_group2 BUILD ルールに追加します。

filegroup(
    name = "portable_extended_ops_group2",
    srcs = [
        ...
+       "string_to_number_op.cc",

        ...
    ],
)

関連するオペレーター カーネル ソース ファイルをtensorflow/core/kernelsディレクトリの下で見つけるために、ソース コードの場所を検索できます。この場所には、オペレーター名を含む次のカーネル宣言が含まれています。

REGISTER_KERNEL_BUILDER(Name("StringToNumber")                 \
                            .Device(DEVICE_CPU)                \
                            .TypeConstraint<type>("out_type"), \
                        StringToNumberOp<type>)

tensorflow/core/kernelsディレクトリの下にヘッダー ファイルがあり、オペレーター カーネル ソース コードで必要な場合は、次のようにヘッダー ファイルをportable_extended_ops_headers BUILD ルールに追加する必要があります。

filegroup(
    name = "portable_extended_ops_headers",
    srcs = [
        ...
+       "string_util.h",

        ...
    ],
)

(2) オペレータ名を許可リストに追加します。

許可リストはtensorflow/lite/delegates/flex/allowlisted_flex_ops.ccで定義されています。 [Select TF] オプションで許可するには、TensorFlow コア オペレーター名をリストする必要があります。

static const std::set<std::string>* allowlisted_flex_ops =
    new std::set<std::string>({
        ...
+       "StringToNumber",

        ...
    });

上記のリストはアルファベット順にソートされているため、名前が正しい場所に配置されていることを確認してください。

(3) この案内ページに事業者名を追記してください。

オペレーターが含まれていることを他の開発者に示すために、このガイド ページも更新する必要があります。このページはtensorflow/lite/g3doc/guide/op_select_allowlist.mdます。

## TensorFlow core operators

The following is an exhaustive list of TensorFlow core operations that are
supported by TensorFlow Lite runtime with the Select TensorFlow Ops feature.

...
+*   `raw_ops.StringToNumber`
...

上記のリストはアルファベット順にソートされているため、名前が正しい場所に配置されていることを確認してください。