Pomoc chronić Wielkiej Rafy Koralowej z TensorFlow na Kaggle Dołącz Wyzwanie

tydi_qa

  • opis:

TyDi QA to zbiór danych z odpowiedziami na pytania obejmujący 11 zróżnicowanych typologicznie języków z 204 tys. par pytanie-odpowiedź. Języki TyDi QA są zróżnicowane pod względem ich typologii – zestawu cech językowych, które wyraża każdy język – tak, że oczekujemy, że modele sprawujące się dobrze w tym zestawie będą uogólniać na dużą liczbę języków na świecie. Zawiera zjawiska językowe, których nie można znaleźć w korpusach wyłącznie w języku angielskim. Aby zapewnić realistyczne zadanie poszukiwania informacji i uniknąć efektów torowania, pytania są pisane przez osoby, które chcą znać odpowiedź, ale jeszcze jej nie znają (w przeciwieństwie do SQuAD i jego potomków), a dane są gromadzone bezpośrednio w każdym języku bez użycia tłumaczenia (w przeciwieństwie do MLQA i XQuAD).

Podziały treningowe:

„pociąg”: Jest to zadanie GoldP z oryginalnego papieru TyDi QA [ https://arxiv.org/abs/2003.05002 ], który ma oryginalne języka oznaczonych danych treningowych.

„translate-train- *”: Te podziały są automatyczne tłumaczenia z języka angielskiego na każdym języku docelowym stosowanego w linii podstawowych translate-kolejowych w papierze XTREME [ https://arxiv.org/abs/2003.11080 ]. Celowo ignoruje to nieanglojęzyczne dane szkoleniowe TyDiQA-GoldP, aby symulować scenariusz uczenia transferu, w którym dane w języku oryginalnym nie są dostępne, a twórcy systemów muszą polegać na danych z etykietami w języku angielskim oraz istniejących systemach tłumaczenia maszynowego.

Zazwyczaj powinieneś użyć ALBO podziału pociągu lub tłumaczenia pociągu, ale nie obu.

Podział Przykłady
'train' 49 881
'translate-train-ar' 3661
'translate-train-bn' 3,585
'translate-train-fi' 3670
'translate-train-id' 3,667
'translate-train-ko' 3,607
'translate-train-ru' 3,394
'translate-train-sw' 3622
'translate-train-te' 3,658
'validation' 5077
'validation-ar' 921
'validation-bn' 113
'validation-en' 440
'validation-fi' 782
'validation-id' 565
'validation-ko' 276
'validation-ru' 812
'validation-sw' 499
'validation-te' 669
  • Cechy:
FeaturesDict({
    'answers': Sequence({
        'answer_start': tf.int32,
        'text': Text(shape=(), dtype=tf.string),
    }),
    'context': Text(shape=(), dtype=tf.string),
    'id': tf.string,
    'question': Text(shape=(), dtype=tf.string),
    'title': Text(shape=(), dtype=tf.string),
})
  • cytat:
@article{tydiqa,
   title = {TyDi QA: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages},
  author = {Jonathan H. Clark and Eunsol Choi and Michael Collins and Dan Garrette and Tom Kwiatkowski and Vitaly Nikolaev and Jennimaria Palomaki}
    year = {2020},
 journal = {Transactions of the Association for Computational Linguistics}
}

tydi_qa/goldp (konfiguracja domyślna)