Эта страница была переведа с помощью Cloud Translation API.
Switch to English

wmt16_translate

  • Описание :

Перевести набор данных на основе данных statmt.org.

Версии существуют для разных лет с использованием комбинации нескольких источников данных. Базовый wmt_translate позволяет вам создать свою собственную конфигурацию, чтобы выбрать собственную пару данных / языка, создав собственный tfds.translate.wmt.WmtConfig .

config = tfds.translate.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        tfds.Split.TRAIN: ["commoncrawl_frde"],
        tfds.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = tfds.builder("wmt_translate", config=config)
  • Домашняя страница : http://www.statmt.org/wmt16/translation-task.html

  • Исходный код : tfds.translate.Wmt16Translate

  • Версии :

    • 1.0.0 (по умолчанию): без примечаний к выпуску.
  • Размер набора данных : Unknown size

  • Инструкции по загрузке вручную : для этого набора данных необходимо вручную загрузить исходные данные в download_config.manual_dir (по умолчанию ~/tensorflow_datasets/downloads/manual/ ):
    Некоторые из приведенных здесь конфигураций wmt требуют ручной загрузки. Загляните в wmt.py, чтобы узнать точный путь (и имя файла), который необходимо загрузить.

  • Автоматическое кэширование ( документация ): неизвестно

  • Цитата :

@InProceedings{bojar-EtAl:2016:WMT1,
  author    = {Bojar, Ond
{r}ej  and  Chatterjee, Rajen  and  Federmann, Christian  and  Graham, Yvette  and  Haddow, Barry  and  Huck, Matthias  and  Jimeno Yepes, Antonio  and  Koehn, Philipp  and  Logacheva, Varvara  and  Monz, Christof  and  Negri, Matteo  and  Neveol, Aurelie  and  Neves, Mariana  and  Popel, Martin  and  Post, Matt  and  Rubino, Raphael  and  Scarton, Carolina  and  Specia, Lucia  and  Turchi, Marco  and  Verspoor, Karin  and  Zampieri, Marcos},
  title     = {Findings of the 2016 Conference on Machine Translation},
  booktitle = {Proceedings of the First Conference on Machine Translation},
  month     = {August},
  year      = {2016},
  address   = {Berlin, Germany},
  publisher = {Association for Computational Linguistics},
  pages     = {131--198},
  url       = {http://www.aclweb.org/anthology/W/W16/W16-2301}
}

wmt16_translate / cs-en (конфигурация по умолчанию)

  • Описание конфигурации : набор данных задачи перевода WMT 2016 cs-en.

  • Размер загружаемого файла : 1.57 GiB

  • Сплит :

Трещина Примеры
'test' 2 999
'train' 52 335 651
'validation' 2 656
  • Особенности :
Translation({
    'cs': Text(shape=(), dtype=tf.string),
    'en': Text(shape=(), dtype=tf.string),
})

wmt16_translate / de-en

  • Описание конфигурации : набор данных задачи де-en-перевода WMT 2016.

  • Размер загружаемого файла : 1.57 GiB

  • Сплит :

Трещина Примеры
'test' 2 999
'train' 4,548,885
'validation' 2 169
  • Особенности :
Translation({
    'de': Text(shape=(), dtype=tf.string),
    'en': Text(shape=(), dtype=tf.string),
})

wmt16_translate / fi-en

  • Описание конфигурации : набор данных задачи перевода WMT 2016 fi-en.

  • Размер загрузки : 260.51 MiB

  • Сплит :

Трещина Примеры
'test' 6000
'train' 2 073 394
'validation' 1,370
  • Особенности :
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'fi': Text(shape=(), dtype=tf.string),
})

wmt16_translate / ro-en

  • Описание конфигурации : набор данных задачи перевода WMT 2016 ro-en.

  • Размер загрузки : 273.83 MiB

  • Сплит :

Трещина Примеры
'test' 1,999
'train' 610 320
'validation' 1,999
  • Особенности :
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'ro': Text(shape=(), dtype=tf.string),
})

wmt16_translate / ru-en

  • Описание конфигурации : набор данных задачи перевода WMT 2016 ru-en.

  • Размер загрузки : 993.38 MiB

  • Сплит :

Трещина Примеры
'test' 2 998
'train' 2,516,162
'validation' 2 818
  • Особенности :
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'ru': Text(shape=(), dtype=tf.string),
})

wmt16_translate / tr-en

  • Описание конфигурации : набор данных задачи перевода WMT 2016 tr-en.

  • Размер загрузки : 59.32 MiB

  • Сплит :

Трещина Примеры
'test' 3 000
'train' 205 756
'validation' 1 001
  • Особенности :
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'tr': Text(shape=(), dtype=tf.string),
})