- Deskripsi :
Terjemahkan dataset berdasarkan data dari statmt.org.
Versi tersedia untuk tahun yang berbeda menggunakan kombinasi dari beberapa sumber data. Basis wmt_translate
memungkinkan Anda membuat konfigurasi sendiri untuk memilih pasangan data / bahasa Anda sendiri dengan membuat tfds.translate.wmt.WmtConfig
kustom.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Situs web : http://www.statmt.org/wmt15/translation-task.html
Kode sumber :
tfds.translate.Wmt15Translate
Versi :
-
1.0.0
(default): Tidak ada catatan rilis.
-
Ukuran kumpulan data :
Unknown size
Petunjuk pengunduhan manual : Dataset ini mengharuskan Anda untuk mengunduh data sumber secara manual ke dalam
download_config.manual_dir
(defaultnya~/tensorflow_datasets/downloads/manual/
):
Beberapa konfigurasi wmt di sini, memerlukan unduhan manual. Silakan lihat ke wmt.py untuk melihat jalur yang tepat (dan nama file) yang harus diunduh.Cache otomatis ( dokumentasi ): Tidak diketahui
Kutipan :
@InProceedings{bojar-EtAl:2015:WMT,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Haddow, Barry and Huck, Matthias and Hokamp, Chris and Koehn, Philipp and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Post, Matt and Scarton, Carolina and Specia, Lucia and Turchi, Marco},
title = {Findings of the 2015 Workshop on Statistical Machine Translation},
booktitle = {Proceedings of the Tenth Workshop on Statistical Machine Translation},
month = {September},
year = {2015},
address = {Lisbon, Portugal},
publisher = {Association for Computational Linguistics},
pages = {1--46},
url = {http://aclweb.org/anthology/W15-3001}
}
- Gambar ( tfds.show_examples ): Tidak didukung.
wmt15_translate / cs-en (konfigurasi default)
Deskripsi konfigurasi : Dataset tugas terjemahan WMT 2015 cs-en.
Ukuran unduhan :
1.62 GiB
Split :
Membagi | Contoh |
---|---|
'test' | 2.656 |
'train' | 15.793.126 |
'validation' | 3.003 |
- Fitur :
Translation({
'cs': Text(shape=(), dtype=tf.string),
'en': Text(shape=(), dtype=tf.string),
})
Kunci yang diawasi (Lihat
as_supervised
doc ):('cs', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate / de-en
Deskripsi konfigurasi : Dataset tugas terjemahan de-en WMT 2015.
Ukuran unduhan :
1.62 GiB
Split :
Membagi | Contoh |
---|---|
'test' | 2.169 |
'train' | 4.522.998 |
'validation' | 3.003 |
- Fitur :
Translation({
'de': Text(shape=(), dtype=tf.string),
'en': Text(shape=(), dtype=tf.string),
})
Kunci yang diawasi (Lihat
as_supervised
doc ):('de', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate / fi-en
Config description : WMT 2015 fi-en set data tugas terjemahan.
Ukuran unduhan :
260.51 MiB
Split :
Membagi | Contoh |
---|---|
'test' | 1.370 |
'train' | 2.073.394 |
'validation' | 1.500 |
- Fitur :
Translation({
'en': Text(shape=(), dtype=tf.string),
'fi': Text(shape=(), dtype=tf.string),
})
Kunci yang diawasi (Lihat
as_supervised
doc ):('fi', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate / fr-en
Config description : WMT 2015 fr-en dataset tugas terjemahan.
Ukuran unduhan :
6.24 GiB
Split :
Membagi | Contoh |
---|---|
'test' | 1.500 |
'train' | 40.853.298 |
'validation' | 4.503 |
- Fitur :
Translation({
'en': Text(shape=(), dtype=tf.string),
'fr': Text(shape=(), dtype=tf.string),
})
.dllKunci yang diawasi (Lihat
as_supervised
doc ):('fr', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate / ru-en
Config description : WMT 2015 ru-en set data tugas terjemahan.
Ukuran unduhan :
1.02 GiB
Split :
Membagi | Contoh |
---|---|
'test' | 2.818 |
'train' | 2.495.081 |
'validation' | 3.003 |
- Fitur :
Translation({
'en': Text(shape=(), dtype=tf.string),
'ru': Text(shape=(), dtype=tf.string),
})
Kunci yang diawasi (Lihat
as_supervised
doc ):('ru', 'en')
Contoh ( tfds.as_dataframe ):