wmt17_translate

  • Description:

Traduisez l'ensemble de données en fonction des données de statmt.org.

Des versions existent pour les différentes années en utilisant une combinaison de plusieurs sources de données. La base wmt_translate vous permet de créer votre propre config de choisir votre propre paire de données / langue en créant une coutume tfds.translate.wmt.WmtConfig .

config = tfds.translate.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        tfds.Split.TRAIN: ["commoncrawl_frde"],
        tfds.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = tfds.builder("wmt_translate", config=config)
  • Page d' accueil: http://www.statmt.org/wmt17/translation-task.html

  • Code source: tfds.translate.Wmt17Translate

  • versions:

    • 1.0.0 (par défaut): Aucune note de version.
  • Taille Dataset: Unknown size

  • Instructions de téléchargement Manuel: Cet ensemble de données , vous devez télécharger les données source manuellement dans download_config.manual_dir (par défaut ~/tensorflow_datasets/downloads/manual/ ):
    Certaines des configurations wmt ici nécessitent un téléchargement manuel. Veuillez consulter wmt.py pour voir le chemin exact (et le nom du fichier) qui doit être téléchargé.

  • Mis en cache automatique ( documentation ): Inconnu

  • Figure ( tfds.show_examples ): Non pris en charge.

  • citation:

@InProceedings{bojar-EtAl:2017:WMT1,
  author    = {Bojar, Ond
{r}ej  and  Chatterjee, Rajen  and  Federmann, Christian  and  Graham, Yvette  and  Haddow, Barry  and  Huang, Shujian  and  Huck, Matthias  and  Koehn, Philipp  and  Liu, Qun  and  Logacheva, Varvara  and  Monz, Christof  and  Negri, Matteo  and  Post, Matt  and  Rubino, Raphael  and  Specia, Lucia  and  Turchi, Marco},
  title     = {Findings of the 2017 Conference on Machine Translation (WMT17)},
  booktitle = {Proceedings of the Second Conference on Machine Translation, Volume 2: Shared Task Papers},
  month     = {September},
  year      = {2017},
  address   = {Copenhagen, Denmark},
  publisher = {Association for Computational Linguistics},
  pages     = {169--214},
  url       = {http://www.aclweb.org/anthology/W17-4717}
}

wmt17_translate/cs-en (configuration par défaut)

  • Description Config: WMT 2017 cs-en ensemble de données de tâches de traduction.

  • Taille du téléchargement: 1.66 GiB

  • scissions:

Diviser Exemples
'test' 3 005
'train' 15 851 649
'validation' 2 999
  • Caractéristiques:
Translation({
    'cs': Text(shape=(), dtype=tf.string),
    'en': Text(shape=(), dtype=tf.string),
})

wmt17_translate/de-fr

  • Description Config: WMT 2017 de-jeu de données en tâche de traduction.

  • Taille du téléchargement: 1.81 GiB

  • scissions:

Diviser Exemples
'test' 3 004
'train' 5 906 184
'validation' 2 999
  • Caractéristiques:
Translation({
    'de': Text(shape=(), dtype=tf.string),
    'en': Text(shape=(), dtype=tf.string),
})

wmt17_translate/fi-fr

  • Description Config: WMT 2017 fi-en ensemble de données de tâches de traduction.

  • Taille du téléchargement: 414.10 MiB

  • scissions:

Diviser Exemples
'test' 6 004
'train' 2 656 542
'validation' 6 000
  • Caractéristiques:
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'fi': Text(shape=(), dtype=tf.string),
})

wmt17_translate/lv-fr

  • Description Config: WMT 2017 LV-en ensemble de données de tâches de traduction.

  • Taille du téléchargement: 161.69 MiB

  • scissions:

Diviser Exemples
'test' 2 001
'train' 3 567 528
'validation' 2 003
  • Caractéristiques:
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'lv': Text(shape=(), dtype=tf.string),
})

wmt17_translate/ru-fr

  • Description Config: WMT 2017 ru-en ensemble de données de tâches de traduction.

  • Taille du téléchargement: 3.34 GiB

  • scissions:

Diviser Exemples
'test' 3 001
'train' 25 782 720
'validation' 2 998
  • Caractéristiques:
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'ru': Text(shape=(), dtype=tf.string),
})

wmt17_translate/tr-fr

  • Description Config: WMT 2017 tr-en ensemble de données de tâches de traduction.

  • Taille du téléchargement: 59.32 MiB

  • scissions:

Diviser Exemples
'test' 3 007
'train' 205 756
'validation' 3 000
  • Caractéristiques:
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'tr': Text(shape=(), dtype=tf.string),
})

wmt17_translate/zh-fr

  • Description Config: WMT 2017 zh-en ensemble de données de tâches de traduction.

  • Taille du téléchargement: 2.16 GiB

  • scissions:

Diviser Exemples
'test' 2 001
'train' 25 136 609
'validation' 2 002
  • Caractéristiques:
Translation({
    'en': Text(shape=(), dtype=tf.string),
    'zh': Text(shape=(), dtype=tf.string),
})