salient_span_wikipedia

  • 説明

顕著なスパンがラベル付けされたウィキペディアの文。

@article{guu2020realm,
    title={REALM: Retrieval-Augmented Language Model Pre-Training},
    author={Kelvin Guu and Kenton Lee and Zora Tung and Panupong Pasupat and Ming-Wei Chang},
    year={2020},
    journal = {arXiv e-prints},
    archivePrefix = {arXiv},
    eprint={2002.08909},
}

salient_span_wikipedia / sentences(デフォルト設定)

  • コンフィグの説明:例としては、エンティティを含む個々の文章です。

  • データセットサイズ20.57 GiB

  • スプリット

スプリット
'train' 82,291,706
  • 特長
FeaturesDict({
    'spans': Sequence({
        'limit': tf.int32,
        'start': tf.int32,
        'type': tf.string,
    }),
    'text': Text(shape=(), dtype=tf.string),
    'title': Text(shape=(), dtype=tf.string),
})

salient_span_wikipedia / documents

  • コンフィグの説明:文書全体の再例。

  • データセットサイズ16.52 GiB

  • スプリット

スプリット
'train' 13,353,718
  • 特長
FeaturesDict({
    'sentences': Sequence({
        'limit': tf.int32,
        'start': tf.int32,
    }),
    'spans': Sequence({
        'limit': tf.int32,
        'start': tf.int32,
        'type': tf.string,
    }),
    'text': Text(shape=(), dtype=tf.string),
    'title': Text(shape=(), dtype=tf.string),
})