ai2_arc_with_ir

  • Описание :

Новый набор данных из 7787 реальных научных вопросов с несколькими вариантами ответов на уровне начальной школы, собранный для стимулирования исследований в области сложных вопросов-ответов. Набор данных разделен на набор задач и простой набор, причем первый содержит только вопросы, на которые неправильно ответили как алгоритм, основанный на поиске, так и алгоритм совпадения слов. Мы также включаем корпус из более чем 14 миллионов научных предложений, имеющих отношение к этой задаче, и реализацию трех базовых нейронных моделей для этого набора данных. Мы ставим ARC как вызов сообществу.

По сравнению с исходным набором данных сюда добавляются контекстные предложения, полученные посредством поиска информации таким же образом, как и UnifiedQA (см.: https://arxiv.org/abs/2005.00700 ).

FeaturesDict({
    'answerKey': ClassLabel(shape=(), dtype=int64, num_classes=5),
    'choices': Sequence({
        'label': ClassLabel(shape=(), dtype=int64, num_classes=5),
        'text': Text(shape=(), dtype=string),
    }),
    'id': Text(shape=(), dtype=string),
    'paragraph': Text(shape=(), dtype=string),
    'question': Text(shape=(), dtype=string),
})
  • Функциональная документация :
Особенность Сорт Форма Дтип Описание
ВозможностиDict
ответКлюч Класслейбл int64
выбор Последовательность
выбор/лейбл Класслейбл int64
выбор/текст Текст нить
идентификатор Текст нить
параграф Текст нить
вопрос Текст нить
@article{allenai:arc,
      author    = {Peter Clark  and Isaac Cowhey and Oren Etzioni and Tushar Khot and
                    Ashish Sabharwal and Carissa Schoenick and Oyvind Tafjord},
      title     = {Think you have Solved Question Answering? Try ARC, the AI2 Reasoning Challenge},
      journal   = {arXiv:1803.05457v1},
      year      = {2018},
}
@article{2020unifiedqa,
    title={UnifiedQA: Crossing Format Boundaries With a Single QA System},
    author={D. Khashabi and S. Min and T. Khot and A. Sabhwaral and O. Tafjord and P. Clark and H. Hajishirzi},
    journal={arXiv preprint},
    year={2020}
}

ai2_arc_with_ir/ARC-Challenge-IR (конфигурация по умолчанию)

  • Описание конфигурации : Набор задач из 2590 «сложных» вопросов (тех, на которые как метод поиска, так и метод совместного появления не могут ответить правильно).

  • Размер набора данных : 3.76 MiB

  • Расколы :

Расколоть Примеры
'test' 1172
'train' 1119
'validation' 299

ai2_arc_with_ir/ARC-Easy-IR

  • Описание конфигурации : Простой набор из 5197 вопросов для ARC Challenge.

  • Размер набора данных : 7.49 MiB

  • Расколы :

Расколоть Примеры
'test' 2376
'train' 2251
'validation' 570
,

  • Описание :

Новый набор данных из 7787 реальных научных вопросов с несколькими вариантами ответов на уровне начальной школы, собранный для стимулирования исследований в области сложных вопросов-ответов. Набор данных разделен на набор задач и простой набор, причем первый содержит только вопросы, на которые неправильно ответили как алгоритм, основанный на поиске, так и алгоритм совпадения слов. Мы также включаем корпус из более чем 14 миллионов научных предложений, имеющих отношение к этой задаче, и реализацию трех базовых нейронных моделей для этого набора данных. Мы ставим ARC как вызов сообществу.

По сравнению с исходным набором данных сюда добавляются контекстные предложения, полученные посредством поиска информации таким же образом, как и UnifiedQA (см.: https://arxiv.org/abs/2005.00700 ).

FeaturesDict({
    'answerKey': ClassLabel(shape=(), dtype=int64, num_classes=5),
    'choices': Sequence({
        'label': ClassLabel(shape=(), dtype=int64, num_classes=5),
        'text': Text(shape=(), dtype=string),
    }),
    'id': Text(shape=(), dtype=string),
    'paragraph': Text(shape=(), dtype=string),
    'question': Text(shape=(), dtype=string),
})
  • Функциональная документация :
Особенность Сорт Форма Дтип Описание
ВозможностиDict
ответКлюч Класслейбл int64
выбор Последовательность
выбор/лейбл Класслейбл int64
выбор/текст Текст нить
идентификатор Текст нить
параграф Текст нить
вопрос Текст нить
@article{allenai:arc,
      author    = {Peter Clark  and Isaac Cowhey and Oren Etzioni and Tushar Khot and
                    Ashish Sabharwal and Carissa Schoenick and Oyvind Tafjord},
      title     = {Think you have Solved Question Answering? Try ARC, the AI2 Reasoning Challenge},
      journal   = {arXiv:1803.05457v1},
      year      = {2018},
}
@article{2020unifiedqa,
    title={UnifiedQA: Crossing Format Boundaries With a Single QA System},
    author={D. Khashabi and S. Min and T. Khot and A. Sabhwaral and O. Tafjord and P. Clark and H. Hajishirzi},
    journal={arXiv preprint},
    year={2020}
}

ai2_arc_with_ir/ARC-Challenge-IR (конфигурация по умолчанию)

  • Описание конфигурации : Набор задач из 2590 «сложных» вопросов (тех, на которые как метод поиска, так и метод совместного появления не могут ответить правильно).

  • Размер набора данных : 3.76 MiB

  • Расколы :

Расколоть Примеры
'test' 1172
'train' 1119
'validation' 299

ai2_arc_with_ir/ARC-Easy-IR

  • Описание конфигурации : Простой набор из 5197 вопросов для ARC Challenge.

  • Размер набора данных : 7.49 MiB

  • Расколы :

Расколоть Примеры
'test' 2376
'train' 2251
'validation' 570