wmt18_translate

  • Descrizione :

Traduci il set di dati in base ai dati di statmt.org.

Esistono versioni per i diversi anni utilizzando una combinazione di più fonti di dati. La base wmt_translate ti consente di creare la tua configurazione per scegliere la tua coppia dati/lingua creando un tfds.translate.wmt.WmtConfig personalizzato.

config = tfds.translate.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        tfds.Split.TRAIN: ["commoncrawl_frde"],
        tfds.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = tfds.builder("wmt_translate", config=config)
  • Documentazione aggiuntiva : Esplora documenti con codice

  • Pagina iniziale : http://www.statmt.org/wmt18/translation-task.html

  • Codice sorgente : tfds.translate.Wmt18Translate

  • Versioni :

    • 1.0.0 (impostazione predefinita): nessuna nota di rilascio.
  • Istruzioni per il download manuale : questo set di dati richiede di scaricare manualmente i dati di origine in download_config.manual_dir (il valore predefinito ~/tensorflow_datasets/downloads/manual/ ):
    Alcune delle configurazioni wmt qui richiedono un download manuale. Si prega di guardare in wmt.py per vedere il percorso esatto (e il nome del file) che deve essere scaricato.

  • Figura ( tfds.show_examples ): non supportato.

  • Citazione :

@InProceedings{bojar-EtAl:2018:WMT1,
  author    = {Bojar, Ond
{r}ej  and  Federmann, Christian  and  Fishel, Mark
    and Graham, Yvette  and  Haddow, Barry  and  Huck, Matthias  and
    Koehn, Philipp  and  Monz, Christof},
  title     = {Findings of the 2018 Conference on Machine Translation (WMT18)},
  booktitle = {Proceedings of the Third Conference on Machine Translation,
    Volume 2: Shared Task Papers},
  month     = {October},
  year      = {2018},
  address   = {Belgium, Brussels},
  publisher = {Association for Computational Linguistics},
  pages     = {272--307},
  url       = {http://www.aclweb.org/anthology/W18-6401}
}

wmt18_translate/cs-en (configurazione predefinita)

  • Descrizione della configurazione : set di dati dell'attività di traduzione cs-en WMT 2018.

  • Dimensione del download : 1.89 GiB

  • Dimensione del set di dati: 3.84 GiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'test' 2.983
'train' 24.021.877
'validation' 3.005
  • Struttura delle caratteristiche :
Translation({
    'cs': Text(shape=(), dtype=string),
    'en': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
cs Testo corda
it Testo corda

wmt18_translate/de-en

  • Descrizione della configurazione : set di dati dell'attività di traduzione de-en WMT 2018.

  • Dimensioni del download : 3.55 GiB

  • Dimensione del set di dati: 8.44 GiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'test' 2.998
'train' 42.271.874
'validation' 3.004
  • Struttura delle caratteristiche :
Translation({
    'de': Text(shape=(), dtype=string),
    'en': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
de Testo corda
it Testo corda

wmt18_translate/et-en

  • Descrizione della configurazione : set di dati dell'attività di traduzione WMT 2018 et-en.

  • Dimensioni del download : 499.91 MiB

  • Dimensione del set di dati: 663.80 MiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'test' 2.000
'train' 2.175.873
'validation' 2.000
  • Struttura delle caratteristiche :
Translation({
    'en': Text(shape=(), dtype=string),
    'et': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
it Testo corda
et Testo corda

wmt18_translate/fi-en

  • Descrizione della configurazione : set di dati dell'attività di traduzione fi-en WMT 2018.

  • Dimensione del download : 468.76 MiB

  • Dimensione del set di dati: 889.40 MiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'test' 3.000
'train' 3.280.600
'validation' 6.004
  • Struttura delle caratteristiche :
Translation({
    'en': Text(shape=(), dtype=string),
    'fi': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
it Testo corda
fi Testo corda

wmt18_translate/ru-en

  • Descrizione della configurazione : set di dati dell'attività di traduzione ru-en WMT 2018.

  • Dimensione del download : 1.63 GiB

  • Dimensione del set di dati: 13.89 GiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'test' 3.000
'train' 37.858.512
'validation' 3.001
  • Struttura delle caratteristiche :
Translation({
    'en': Text(shape=(), dtype=string),
    'ru': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
it Testo corda
ru Testo corda

wmt18_translate/tr-it

  • Descrizione della configurazione : set di dati dell'attività di traduzione tr-en WMT 2018.

  • Dimensione del download : 59.32 MiB

  • Dimensione del set di dati: 63.78 MiB

  • Auto-cache ( documentazione ): Sì

  • Divisioni :

Diviso Esempi
'test' 3.000
'train' 205.756
'validation' 3.007
  • Struttura delle caratteristiche :
Translation({
    'en': Text(shape=(), dtype=string),
    'tr': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
it Testo corda
tr Testo corda

wmt18_translate/zh-en

  • Descrizione della configurazione : set di dati dell'attività di traduzione WMT 2018 zh-en.

  • Dimensione del download : 831.45 MiB

  • Dimensione del set di dati: 6.43 GiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'test' 3.981
'train' 25.162.209
'validation' 2.001
  • Struttura delle caratteristiche :
Translation({
    'en': Text(shape=(), dtype=string),
    'zh': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
Traduzione
it Testo corda
zh Testo corda