Halaman ini diterjemahkan oleh Cloud Translation API.
Switch to English

lem

  • Deskripsi :

GLUE, tolok ukur Evaluasi Pemahaman Bahasa Umum ( https://gluebenchmark.com/ ) adalah kumpulan sumber daya untuk melatih, mengevaluasi, dan menganalisis sistem pemahaman bahasa alami.

lem / cola (konfigurasi default)

  • Deskripsi konfigurasi : The Corpus of Linguistic Acceptability terdiri dari penilaian akseptabilitas bahasa Inggris yang diambil dari buku dan artikel jurnal tentang teori linguistik. Setiap contoh adalah urutan kata yang dianotasi dengan apakah itu kalimat gramatikal bahasa Inggris.

  • Situs web : https://nyu-mll.github.io/CoLA/

  • Ukuran download : 368.14 KiB

  • Split :

Membagi Contoh
'test' 1.063
'train' 8.551
'validation' 1.043
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'sentence': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@article{warstadt2018neural,
  title={Neural Network Acceptability Judgments},
  author={Warstadt, Alex and Singh, Amanpreet and Bowman, Samuel R},
  journal={arXiv preprint arXiv:1805.12471},
  year={2018}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / sst2

  • Deskripsi konfigurasi : Stanford Sentiment Treebank terdiri dari kalimat-kalimat dari ulasan film dan penjelasan manusia tentang sentimen mereka. Tugasnya adalah memprediksi sentimen dari kalimat tertentu. Kami menggunakan pemisahan kelas dua arah (positif / negatif), dan hanya menggunakan label tingkat kalimat.

  • Situs web : https://nlp.stanford.edu/sentiment/index.html

  • Ukuran unduhan : 7.09 MiB

  • Split :

Membagi Contoh
'test' 1.821
'train' 67.349
'validation' 872
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'sentence': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@inproceedings{socher2013recursive,
  title={Recursive deep models for semantic compositionality over a sentiment treebank},
  author={Socher, Richard and Perelygin, Alex and Wu, Jean and Chuang, Jason and Manning, Christopher D and Ng, Andrew and Potts, Christopher},
  booktitle={Proceedings of the 2013 conference on empirical methods in natural language processing},
  pages={1631--1642},
  year={2013}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / mrpc

  • Deskripsi konfigurasi : Microsoft Research Paraphrase Corpus (Dolan & Brockett, 2005) adalah kumpulan pasangan kalimat yang secara otomatis diekstrak dari sumber berita online, dengan penjelasan manusia untuk mengetahui apakah kalimat dalam pasangan tersebut setara secara semantik.

  • Situs web : https://www.microsoft.com/en-us/download/details.aspx?id=52398

  • Ukuran unduhan : 1.43 MiB

  • Split :

Membagi Contoh
'test' 1.725
'train' 3.668
'validation' 408
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'sentence1': Text(shape=(), dtype=tf.string),
    'sentence2': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@inproceedings{dolan2005automatically,
  title={Automatically constructing a corpus of sentential paraphrases},
  author={Dolan, William B and Brockett, Chris},
  booktitle={Proceedings of the Third International Workshop on Paraphrasing (IWP2005)},
  year={2005}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / qqp

  • Deskripsi konfigurasi : Dataset Quora Question Pairs2 adalah kumpulan pasangan pertanyaan dari situs web penjawab pertanyaan komunitas Quora. Tugasnya adalah menentukan apakah sepasang pertanyaan setara secara semantik.

  • Situs web : https://data.quora.com/First-Quora-Dataset-Release-Question-Pairs

  • Ukuran unduhan : 57.73 MiB

  • Split :

Membagi Contoh
'test' 390.965
'train' 363.849
'validation' 40.430
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'question1': Text(shape=(), dtype=tf.string),
    'question2': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@online{WinNT,
  author = {Iyer, Shankar and Dandekar, Nikhil and Csernai, Kornel},
  title = {First Quora Dataset Release: Question Pairs},
  year = 2017,
  url = {https://data.quora.com/First-Quora-Dataset-Release-Question-Pairs},
  urldate = {2019-04-03}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / stsb

  • Config description : The Semantic Textual Similarity Benchmark (Cer et al., 2017) adalah kumpulan pasangan kalimat yang diambil dari headline berita, caption video dan gambar, serta data inferensi natural language. Setiap pasangan diberi keterangan manusia dengan skor kesamaan dari 1 hingga 5.

  • Situs web : http://ixa2.si.ehu.es/stswiki/index.php/STSbenchmark

  • Ukuran unduhan : 784.05 KiB

  • Split :

Membagi Contoh
'test' 1.379
'train' 5.749
'validation' 1.500
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': tf.float32,
    'sentence1': Text(shape=(), dtype=tf.string),
    'sentence2': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@article{cer2017semeval,
  title={Semeval-2017 task 1: Semantic textual similarity-multilingual and cross-lingual focused evaluation},
  author={Cer, Daniel and Diab, Mona and Agirre, Eneko and Lopez-Gazpio, Inigo and Specia, Lucia},
  journal={arXiv preprint arXiv:1708.00055},
  year={2017}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / mnli

  • Deskripsi konfigurasi : Korporat Inferensi Bahasa Alami Multi-Genre adalah kumpulan kumpulan kalimat yang dipasangkan dengan anotasi tekstual entailment. Diberikan kalimat premis dan kalimat hipotesis, tugasnya adalah untuk memprediksi apakah premis tersebut memerlukan hipotesis (entailment), bertentangan dengan hipotesis (kontradiksi), atau tidak keduanya (netral). Kalimat premis dikumpulkan dari sepuluh sumber berbeda, termasuk pidato yang ditranskripsikan, fiksi, dan laporan pemerintah. Kami menggunakan set pengujian standar, yang kami peroleh label pribadi dari penulis, dan mengevaluasi pada bagian cocok (dalam domain) dan tidak cocok (lintas domain). Kami juga menggunakan dan merekomendasikan korpus SNLI sebagai 550k contoh data pelatihan tambahan.

  • Situs web : http://www.nyu.edu/projects/bowman/multinli/

  • Ukuran unduhan : 298.29 MiB

  • Split :

Membagi Contoh
'test_matched' 9.796
'test_mismatched' 9.847
'train' 392.702
'validation_matched' 9.815
'validation_mismatched' 9.832
  • Fitur :
FeaturesDict({
    'hypothesis': Text(shape=(), dtype=tf.string),
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=3),
    'premise': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@InProceedings{N18-1101,
  author = "Williams, Adina
            and Nangia, Nikita
            and Bowman, Samuel",
  title = "A Broad-Coverage Challenge Corpus for
           Sentence Understanding through Inference",
  booktitle = "Proceedings of the 2018 Conference of
               the North American Chapter of the
               Association for Computational Linguistics:
               Human Language Technologies, Volume 1 (Long
               Papers)",
  year = "2018",
  publisher = "Association for Computational Linguistics",
  pages = "1112--1122",
  location = "New Orleans, Louisiana",
  url = "http://aclweb.org/anthology/N18-1101"
}
@article{bowman2015large,
  title={A large annotated corpus for learning natural language inference},
  author={Bowman, Samuel R and Angeli, Gabor and Potts, Christopher and Manning, Christopher D},
  journal={arXiv preprint arXiv:1508.05326},
  year={2015}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / mnli_mismatched

  • Deskripsi konfigurasi : Validasi yang tidak cocok dan pemisahan pengujian dari MNLI. Lihat BuilderConfig "mnli" untuk informasi tambahan.

  • Situs web : http://www.nyu.edu/projects/bowman/multinli/

  • Ukuran unduhan : 298.29 MiB

  • Split :

Membagi Contoh
'test' 9.847
'validation' 9.832
  • Fitur :
FeaturesDict({
    'hypothesis': Text(shape=(), dtype=tf.string),
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=3),
    'premise': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@InProceedings{N18-1101,
  author = "Williams, Adina
            and Nangia, Nikita
            and Bowman, Samuel",
  title = "A Broad-Coverage Challenge Corpus for
           Sentence Understanding through Inference",
  booktitle = "Proceedings of the 2018 Conference of
               the North American Chapter of the
               Association for Computational Linguistics:
               Human Language Technologies, Volume 1 (Long
               Papers)",
  year = "2018",
  publisher = "Association for Computational Linguistics",
  pages = "1112--1122",
  location = "New Orleans, Louisiana",
  url = "http://aclweb.org/anthology/N18-1101"
}
@article{bowman2015large,
  title={A large annotated corpus for learning natural language inference},
  author={Bowman, Samuel R and Angeli, Gabor and Potts, Christopher and Manning, Christopher D},
  journal={arXiv preprint arXiv:1508.05326},
  year={2015}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / mnli_matched

  • Deskripsi konfigurasi : Validasi yang cocok dan pemisahan pengujian dari MNLI. Lihat BuilderConfig "mnli" untuk informasi tambahan.

  • Situs web : http://www.nyu.edu/projects/bowman/multinli/

  • Ukuran unduhan : 298.29 MiB

  • Split :

Membagi Contoh
'test' 9.796
'validation' 9.815
  • Fitur :
FeaturesDict({
    'hypothesis': Text(shape=(), dtype=tf.string),
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=3),
    'premise': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@InProceedings{N18-1101,
  author = "Williams, Adina
            and Nangia, Nikita
            and Bowman, Samuel",
  title = "A Broad-Coverage Challenge Corpus for
           Sentence Understanding through Inference",
  booktitle = "Proceedings of the 2018 Conference of
               the North American Chapter of the
               Association for Computational Linguistics:
               Human Language Technologies, Volume 1 (Long
               Papers)",
  year = "2018",
  publisher = "Association for Computational Linguistics",
  pages = "1112--1122",
  location = "New Orleans, Louisiana",
  url = "http://aclweb.org/anthology/N18-1101"
}
@article{bowman2015large,
  title={A large annotated corpus for learning natural language inference},
  author={Bowman, Samuel R and Angeli, Gabor and Potts, Christopher and Manning, Christopher D},
  journal={arXiv preprint arXiv:1508.05326},
  year={2015}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / qnli

  • Deskripsi konfigurasi : Set Data Jawaban Pertanyaan Stanford adalah kumpulan data jawaban pertanyaan yang terdiri dari pasangan paragraf-pertanyaan, di mana salah satu kalimat dalam paragraf (diambil dari Wikipedia) berisi jawaban atas pertanyaan yang sesuai (ditulis oleh anotator). Kami mengubah tugas menjadi klasifikasi pasangan kalimat dengan membentuk pasangan antara setiap pertanyaan dan setiap kalimat dalam konteks yang sesuai, dan memfilter pasangan dengan tumpang tindih leksikal rendah antara pertanyaan dan kalimat konteks. Tugasnya adalah menentukan apakah kalimat konteks berisi jawaban atas pertanyaan tersebut. Versi modifikasi dari tugas asli ini menghilangkan persyaratan bahwa model memilih jawaban yang tepat, tetapi juga menghilangkan asumsi penyederhanaan bahwa jawabannya selalu ada dalam masukan dan bahwa tumpang tindih leksikal adalah isyarat yang dapat diandalkan.

  • Situs web : https://rajpurkar.github.io/SQuAD-explorer/

  • Ukuran unduhan : 10.14 MiB

  • Split :

Membagi Contoh
'test' 5,463
'train' 104.743
'validation' 5,463
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'question': Text(shape=(), dtype=tf.string),
    'sentence': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@article{rajpurkar2016squad,
  title={Squad: 100,000+ questions for machine comprehension of text},
  author={Rajpurkar, Pranav and Zhang, Jian and Lopyrev, Konstantin and Liang, Percy},
  journal={arXiv preprint arXiv:1606.05250},
  year={2016}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / rte

  • Deskripsi konfigurasi : Dataset Recognizing Textual Entailment (RTE) berasal dari serangkaian tantangan textual entailment tahunan. Kami menggabungkan data dari RTE1 (Dagan et al., 2006), RTE2 (Bar Haim et al., 2006), RTE3 (Giampiccolo et al., 2007), dan RTE5 (Bentivogli et al., 2009) .4 Contohnya adalah dibangun berdasarkan berita dan teks Wikipedia. Kami mengonversi semua kumpulan data menjadi pemisahan dua kelas, di mana untuk kumpulan data tiga kelas kami menciutkan netral dan kontradiksi menjadi tidak memerlukan, untuk konsistensi.

  • Beranda : https://aclweb.org/aclwiki/Recognizing_Textual_Entailment

  • Ukuran download : 680.81 KiB

  • Split :

Membagi Contoh
'test' 3.000
'train' 2.490
'validation' 277
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'sentence1': Text(shape=(), dtype=tf.string),
    'sentence2': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@inproceedings{dagan2005pascal,
  title={The PASCAL recognising textual entailment challenge},
  author={Dagan, Ido and Glickman, Oren and Magnini, Bernardo},
  booktitle={Machine Learning Challenges Workshop},
  pages={177--190},
  year={2005},
  organization={Springer}
}
@inproceedings{bar2006second,
  title={The second pascal recognising textual entailment challenge},
  author={Bar-Haim, Roy and Dagan, Ido and Dolan, Bill and Ferro, Lisa and Giampiccolo, Danilo and Magnini, Bernardo and Szpektor, Idan},
  booktitle={Proceedings of the second PASCAL challenges workshop on recognising textual entailment},
  volume={6},
  number={1},
  pages={6--4},
  year={2006},
  organization={Venice}
}
@inproceedings{giampiccolo2007third,
  title={The third pascal recognizing textual entailment challenge},
  author={Giampiccolo, Danilo and Magnini, Bernardo and Dagan, Ido and Dolan, Bill},
  booktitle={Proceedings of the ACL-PASCAL workshop on textual entailment and paraphrasing},
  pages={1--9},
  year={2007},
  organization={Association for Computational Linguistics}
}
@inproceedings{bentivogli2009fifth,
  title={The Fifth PASCAL Recognizing Textual Entailment Challenge.},
  author={Bentivogli, Luisa and Clark, Peter and Dagan, Ido and Giampiccolo, Danilo},
  booktitle={TAC},
  year={2009}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / wnli

  • Deskripsi konfigurasi : Tantangan Skema Winograd (Levesque et al., 2011) adalah tugas membaca pemahaman di mana sistem harus membaca kalimat dengan kata ganti dan memilih referensi kata ganti itu dari daftar pilihan. Contoh-contoh tersebut disusun secara manual untuk menggagalkan metode statistik sederhana: Masing-masing bergantung pada informasi kontekstual yang diberikan oleh satu kata atau frasa dalam kalimat. Untuk mengubah masalah menjadi klasifikasi pasangan kalimat, kami membuat pasangan kalimat dengan mengganti kata ganti ambigu dengan setiap kemungkinan referensi. Tugasnya adalah untuk memprediksi apakah kalimat dengan kata ganti diganti disyaratkan oleh kalimat aslinya. Kami menggunakan seperangkat evaluasi kecil yang terdiri dari contoh-contoh baru yang berasal dari buku fiksi yang dibagikan secara pribadi oleh penulis korpus aslinya. Sementara set pelatihan yang disertakan seimbang antara dua kelas, set pengujian tidak seimbang di antara keduanya (65% tidak memerlukan). Selain itu, karena kekhasan data, set pengembangan bermusuhan: hipotesis terkadang dibagikan antara contoh pelatihan dan pengembangan, jadi jika model menghafal contoh pelatihan, mereka akan memprediksi label yang salah pada contoh set pengembangan yang sesuai. Seperti QNLI, setiap contoh dievaluasi secara terpisah, sehingga tidak ada korespondensi sistematis antara skor model pada tugas ini dan skornya pada tugas asli yang belum dikonversi. Kami menyebut kumpulan data yang dikonversi WNLI (Winograd NLI).

  • Situs web : https://cs.nyu.edu/faculty/davise/papers/WinogradSchemas/WS.html

  • Ukuran unduhan : 28.32 KiB

  • Split :

Membagi Contoh
'test' 146
'train' 635
'validation' 71
  • Fitur :
FeaturesDict({
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=2),
    'sentence1': Text(shape=(), dtype=tf.string),
    'sentence2': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@inproceedings{levesque2012winograd,
  title={The winograd schema challenge},
  author={Levesque, Hector and Davis, Ernest and Morgenstern, Leora},
  booktitle={Thirteenth International Conference on the Principles of Knowledge Representation and Reasoning},
  year={2012}
}
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.

lem / kapak

  • Deskripsi konfigurasi : Kumpulan data evaluasi yang dikuratori secara manual untuk analisis performa sistem yang lebih detail pada berbagai fenomena linguistik. Dataset ini mengevaluasi pemahaman kalimat melalui masalah Natural Language Inference (NLI). Gunakan model yang dilatih di MulitNLI untuk menghasilkan prediksi untuk kumpulan data ini.

  • Beranda : https://gluebenchmark.com/diagnostics

  • Ukuran download : 217.05 KiB

  • Split :

Membagi Contoh
'test' 1.104
  • Fitur :
FeaturesDict({
    'hypothesis': Text(shape=(), dtype=tf.string),
    'idx': tf.int32,
    'label': ClassLabel(shape=(), dtype=tf.int64, num_classes=3),
    'premise': Text(shape=(), dtype=tf.string),
})
  • Kutipan :
@inproceedings{wang2019glue,
  title={ {GLUE}: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding},
  author={Wang, Alex and Singh, Amanpreet and Michael, Julian and Hill, Felix and Levy, Omer and Bowman, Samuel R.},
  note={In the Proceedings of ICLR.},
  year={2019}
}

Note that each GLUE dataset has its own citation. Please see the source to see
the correct citation for each contained dataset.