story_cloze

  • 説明

Story Cloze Testは、ストーリーの理解、ストーリーの生成、およびスクリプト学習を評価するための新しい常識的な推論フレームワークです。このテストでは、システムが4文のストーリーの正しい結末を選択する必要があります。

  • コンフィグの説明:2018年

  • ホームページhttps://www.cs.rochester.edu/nlp/rocstories/

  • ソースコードtfds.text.story_cloze.StoryCloze

  • バージョン

    • 1.0.0 (デフォルト):初期リリース。
  • ダウンロードサイズUnknown size

  • マニュアルダウンロード方法:このデータセットは、手動にソースデータをダウンロードする必要がありますdownload_config.manual_dir (デフォルトは~/tensorflow_datasets/downloads/manual/ ):
    訪問https://www.cs.rochester.edu/nlp/rocstories/をしてデータセットを得るために、Googleのフォームに記入してください。データセットをダウンロードするためのリンクが記載されたメールが届きます。 2016年のデータについて、検証とテストファイルは、それぞれcloze_testヴァル_spring2016.csvとcloze_testテスト_spring2016.csvに名前を変更する必要があります。 2018バージョンについては、検証とテストファイルがcloze_testヴァル_winter2018.csvにそれぞれcloze_testテスト_winter2018.csvに名前を変更する必要があります。これらのファイルを両方とも手動ディレクトリに移動します。

  • オートキャッシュされたドキュメント):はい

  • 特長

FeaturesDict({
    'context': Text(shape=(), dtype=tf.string),
    'endings': Sequence(Text(shape=(), dtype=tf.string)),
    'label': tf.int32,
})
@inproceedings{sharma-etal-2018-tackling,
    title = "Tackling the Story Ending Biases in The Story Cloze Test",
    author = "Sharma, Rishi  and
      Allen, James  and
      Bakhshandeh, Omid  and
      Mostafazadeh, Nasrin",
    booktitle = "Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers)",
    month = jul,
    year = "2018",
    address = "Melbourne, Australia",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/P18-2119",
    doi = "10.18653/v1/P18-2119",
    pages = "752--757",
    abstract = "The Story Cloze Test (SCT) is a recent framework for evaluating story comprehension and script learning. There have been a variety of models tackling the SCT so far. Although the original goal behind the SCT was to require systems to perform deep language understanding and commonsense reasoning for successful narrative understanding, some recent models could perform significantly better than the initial baselines by leveraging human-authorship biases discovered in the SCT dataset. In order to shed some light on this issue, we have performed various data analysis and analyzed a variety of top performing models presented for this task. Given the statistics we have aggregated, we have designed a new crowdsourcing scheme that creates a new SCT dataset, which overcomes some of the biases. We benchmark a few models on the new dataset and show that the top-performing model on the original SCT dataset fails to keep up its performance. Our findings further signify the importance of benchmarking NLP systems on various evolving test sets.",
}

story_cloze / 2016(デフォルト設定)

  • データセットサイズ1.15 MiB

  • スプリット

スプリット
'test' 1,871
'validation' 1,871

story_cloze / 2018

  • データセットのサイズ1015.04 KiB

  • スプリット

スプリット
'test' 1,571
'validation' 1,571